Você está visualizando o site de uma EDIÇÃO PASSADA do QCon.

Palestra: Metrics Driven Machine Learning Development at Salesforce Einstein

Track: Armazenamento e Processamento de Big Data

Sala: 4 São Francisco

Horário: 5:20pm - 6:05pm

Dia da semana: Segunda-feira

Slides: Download Slides

Nível: Intermediário

Persona: Cientista de Dados, Desenvolvedor(a) Programador(a), Desenvolvedor(a) Sênior, Líder Técnico(a), Product Owner

Apresentação em Inglês

Share this on:

This presentation is now available to view on InfoQ.com

Assista a palestra com transcrição

Pontos Principais

  • The AutoML metrics framework enables the Einstein team to monitor and troubleshoot thousands of models running and production;
  • Metrics can automatically alert us of any modeling issues across the platform;
  • They are an invaluable part of the development process- by tracking metrics in modeling experiments we can test and evaluate new features before deploying them to production.

Resumo

The Einstein Prediction Builder modeling pipeline automates all steps of the end-to-end modeling process, from data auditing and feature engineering to model selection, for thousands of models. Although powerful, automated machine learning pipelines are inherently a black box that can be notoriously difficult to troubleshoot. This talk walks through a Data Science perspective of using monitoring and alerting, well-established practices in traditional engineering, to develop our modeling pipeline. We will discuss how we track data and modeling metrics at each stage in the pipeline to identify data and modeling issues and to raise alerts for issues affecting models running production. Furthermore, we will cover how this metrics framework is instrumental in helping to develop new features in a data-driven manner.

Palestrante: Eric Wayman

Senior Data Scientist at Salesforce

Eric Wayman is a Senior Data Scientist at Salesforce. As a member of the Einstein AI platform team, he works on developing the automated machine learning Pipeline for the recently released Einstein Prediction Builder, which helps Salesforce administrators leverage their Salesforce data to make predictions for use cases tailored to their individual needs. Before joining Salesforce, Eric worked as a Data Science Consultant at Pivotal Software and also did research in Probability and Stochastic Processes at UC Berkeley where he received his Ph.D. in Mathematics.

Find Eric Wayman at

Tracks

  • Segunda-feira, 14 de Dezembro

  • Arquiteturas que você sempre quis conhecer

    Segredos arquiteturais de aplicações populares, com milhões de pessoas usuárias e que nunca saem do ar.

  • Engenharia aplicada a Machine Learning

    Conheça as principais técnicas de engenharia  e arquitetura de software de larga escala aplicadas a Machine Learning.

  • Java e JVM em evolução

    Performance, escalabilidade e as mais recentes novidades da principal plataforma de desenvolvimento no Brasil e no mundo.

  • JavaScript: a plataforma da web moderna

    Explore profundamente os frameworks que tornam o JavaScript tão popular e saiba como as linguagens baseadas em JavaScript estão evoluindo o desenvolvimento de front-end (e back-end).

  • AMA (Ask Me Anything)

    Discussões mais profundas com palestrantes do QCon São Paulo.

  • Solutions Track

    Conheça soluções, ferramentas e técnicas de empresas parceiras do QCon São Paulo.

  • Terça-feira, 15 de Dezembro

  • Construindo culturas de desenvolvimento duradouras

    Criando e evoluindo a cultura de empresas: novas formas de organizar times com foco em produtividade.

  • Arquiteturas de vanguarda

    Conheça as tendências em técnicas, práticas e princípios que norteiam o estado da arte em arquitetura de software e podem ser alavancas não só para times e organizações de tecnologia, mas para os negócios, nos próximos anos.

  • Machine Learning e Inteligência Artificial

    Algoritmos, técnicas e ferramentas: o que está por trás de sistemas e soluções cada vez mais assertivos.

  • Ciência da Computação no mundo real

    Temas avançados em computação. Técnicas clássicas e modernas direto da academia para o seu código.

  • AMA (Ask Me Anything)

    Discussões mais profundas com palestrantes do QCon São Paulo.

  • Solutions Track #2

    Conheça soluções, ferramentas e técnicas de empresas parceiras do QCon São Paulo.

  • Quarta-feira, 16 de Dezembro

  • Microservices: melhores práticas e padrões

    Frameworks modernos e os desafios de implantação, gestão e pós-produção

  • Software Supply Chain

    Todas as fases do ciclo de vida de um artefato de software, do primeiro commit até o deployment. Segurança, observabilidade, genealogia e gestão de toda a sua cadeia de suprimentos de software

  • Data Science aplicada

    Tecnologias e as boas práticas da ciência de dados trazendo ganho e diferencial competitivo para grandes empresas.

  • Linguagens Contemporâneas

    Linguagens e plataformas emergentes, com ênfase em linguagens projetadas para alta concorrência e sistemas distribuídos.

  • Levando sua carreira para o próximo nível

    Habilidades e estratégias para destravar sua carreira e potencializar seu desenvolvimento profissional.

  • Solutions Track #3

    Conheça soluções, ferramentas e técnicas de empresas parceiras do QCon São Paulo.