Palestra: Deploying Machine Learning Models in Practice

Sala:

Dia da semana:

3:35pm - 4:25pm

Nível da palestra:

Persona:

Apresentação em Inglês

Pontos principais

  • The “last mile” of deploying models to production systems is often overlooked and yet is one of the most critical aspects of real-world machine learning systems.
  • It is not enough to simply export the final model, instead the entire pipeline of data pre-processing, feature extraction and engineering must be considered.
  • The current state of available solutions is fragmented, incomplete or lacking in standardization. I will cover the best practices for selecting the appropriate solution as well as explore emerging open standards for model serialization and deployment

Resumo

The common perception of machine learning is that it starts with data and ends with a model. In real-world systems, a critical missing piece is the deployment of models to production. However currently there are few (if any) widely accepted, open and standard solutions available.

In this talk I will explore the current state of production deployment options for various model types and frameworks. The talk will cover the various available options for the most popular and widely used ML libraries (such as scikit-learn, Spark ML and TensorFlow), including MLeap, TF Serving and open standards such as PMML, PFA and the recently announced ONNX for Deep Learning.

I will also introduce Aardpfark - a new Scala library for exporting models to PFA, initially covering Spark ML pipelines - as well as experimental work for exporting Spark ML pipelines to TensorFlow graphs for use with TF Serving.

Similar Talks

Tracks

Quarta-feira

  • Engenharia de Dados

    Armazenando e processando Big Data com eficiência.

  • Microservices e Web APIs

    Da ubiquidade das APIs a microservices ultra-modulares, frameworks modernos e os desafios de implantação, gestão e pós-produção.

  • JavaScript e Web

    Desenvolvimento com HTML5, JS, CCS3, HTTP/2 e novas tendências da web moderna.

  • IoT: Tecnologias do Mundo Real

    Conheça experiências de mundo real em IoT, bem como tecnologias que vão habilitar os próximos grandes avanços desta revolução.

  • Solutions Track #1

    Conheça soluções, ferramentas e técnicas de empresas parceiras do QCon São Paulo.

Quinta-feira

Sexta-feira

  • Data Science Aplicada

    Da teoria à prática: como grandes cases do Brasil e do mundo têm utilizado DataScience para alavancar seus negócios.

  • Containers: o Estado da Arte

    Muito mais do que uma tecnologia, Containers são uma plataforma. Qual é o estado da arte, novidades, tendências e casos de uso sobre esta revolução.

  • Ciência da Computação no Mundo Real

    Temas discutidos na academia que podem nos ajudar a obter melhores resultados em nosso dia-a-dia.

  • Linguagens do Século 21

    Linguagens e plataformas emergentes no server-side, com ênfase em linguagens projetadas especificamente para alta concorrência e sistemas distribuídos.

  • Carreira e Soft-Skills

    Profissionais de sucesso vão muito além das suas habilidades em escrever código. Como potencializar seu desenvolvimento como profissional.