Palestra: Bayesian Optimization of Gaussian Processes with Applications to Performance Tuning
Share this on:
This presentation is now available to view on InfoQ.com
Assista a palestra com transcriçãoPontos Principais
- Mathematical basics of Gaussian Processes (GP);
- Application of Bayesian Optimization (BO) to optimize high-dimensional systems;
- Large-scale performance tuning can be automated by leveraging BO of GP, but we have to be careful how we do it.
Resumo
In 1951, Daniel Krige, a mining engineer in South Africa, invented a statistical technique for finding minerals with the fewest holes drilled for prospecting. Since drilling and sample analysis is expensive, he wanted to find the place where most minerals existed with minimal drilling and analysis effort. Over the years this method has been refined, most notably by Matheron, Mockus and Jones, with more modern statistical techniques. Today, Bayesian Optimization of Gaussian Processes is used in many engineering disciplines to efficiently explore vast design spaces. It is also used for hyperparameter optimization of neural networks.
After a brief description of the technique, we show how it can be applied to a modern microservices architecture to optimize its performance. We motivate why this is an important but difficult problem, and why Bayesian Optimization is well-suited to solving this problem. We describe our implementation of a service, called Autotune, for this purpose, what issues we had to address when applying this technique, and how it will be used at Twitter to continuously optimize performance in the data-center. Some recent wins from Autotune will be highlighted.
No prior background in Bayesian Optimization, Gaussian Processes, Statistics, or Performance Tuning is needed to attend this presentation.
Tracks
-
Arquiteturas que você sempre quis conhecer
Segredos arquiteturais de aplicações populares, com milhões de pessoas usuárias e que nunca saem do ar.
-
Engenharia aplicada a Machine Learning
Conheça as principais técnicas de engenharia e arquitetura de software de larga escala aplicadas a Machine Learning.
-
Microservices: melhores práticas e padrões
Frameworks modernos e os desafios de implantação, gestão e pós-produção
-
Arquiteturas de vanguarda
Conheça as tendências em técnicas, práticas e princípios que norteiam o estado da arte em arquitetura de software e podem ser alavancas não só para times e organizações de tecnologia, mas para os negócios, nos próximos anos.
-
Software Supply Chain
Todas as fases do ciclo de vida de um artefato de software, do primeiro commit até o deployment. Segurança, observabilidade, genealogia e gestão de toda a sua cadeia de suprimentos de software
-
Machine Learning e Inteligência Artificial
Algoritmos, técnicas e ferramentas: o que está por trás de sistemas e soluções cada vez mais assertivos.
-
Data Science aplicada
Tecnologias e as boas práticas da ciência de dados trazendo ganho e diferencial competitivo para grandes empresas.
-
Java e JVM em evolução
Performance, escalabilidade e as mais recentes novidades da principal plataforma de desenvolvimento no Brasil e no mundo.
-
JavaScript: a plataforma da web moderna
Explore profundamente os frameworks que tornam o JavaScript tão popular e saiba como as linguagens baseadas em JavaScript estão evoluindo o desenvolvimento de front-end (e back-end).
-
Levando sua carreira para o próximo nível
Habilidades e estratégias para destravar sua carreira e potencializar seu desenvolvimento profissional.
-
Construindo culturas de desenvolvimento duradouras
Criando e evoluindo a cultura de empresas: novas formas de organizar times com foco em produtividade.
-
Ciência da Computação no mundo real
Temas avançados em computação. Técnicas clássicas e modernas direto da academia para o seu código.
-
Linguagens do século 21
Linguagens e plataformas emergentes, com ênfase em linguagens projetadas para alta concorrência e sistemas distribuídos.
-
AMA (Ask Me Anything)
Discussões mais profundas com palestrantes do QCon São Paulo.
-
Solutions Track
Conheça soluções, ferramentas e técnicas de empresas parceiras do QCon São Paulo.