Esse meme é comum em fóruns de tecnologia e até no LinkedIn. Geralmente, as pessoas o utilizam para celebrar a conclusão do doutorado de forma leve e bem-humorada (alguns são arrogantes e espero não ficar assim!). A brincadeira marca o momento em que o aluno recebe o reconhecimento formal por seu esforço acadêmico intenso. Além disso, a brincadeira serve como uma ferramenta de quebra de gelo em ambientes técnicos muito sérios. No caso da minha pesquisa, resultados operacionais reais no setor financeiro validam essa nova autoridade técnica. Afinal, propor uma nova arquitetura de referência para plataformas de MLOps é uma proeza digna de um legítimo “Doutor”. rss

Um pouco da minha pesquisa

A jornada para colocar um modelo de Machine Learning em produção enfrenta obstáculos no ambiente corporativo. Muitos projetos de ML não atingem a fase operacional ou falham em entregar o valor esperado para o negócio. Isso por si só, já é ruim! Além disso, os profissionais de ciência de dados, frequentemente, focam na matemática dos algoritmos e acabam desprezando aspectos da computação como a Engenharia de Software. Elementos como qualidade, performance e confiabilidade acabam negligenciados durante o ciclo de desenvolvimento. E isso não é exatamente um problema, visto que a área de Ciência de Dados é bem plural e tem profissionais de muitas formações distintas.

E para ajudar, equipes de ciência de dados sofrem com a falta de infraestrutura automatizada e processos manuais lentos. Por exemplo, no Itaú Unibanco S.A., cientistas chegavam a esperar seis meses por recursos computacionais. Essa demora gerava um backlog crítico de mais de 100 modelos aguardando publicação. Entretanto, a instabilidade dos dados e a complexidade das dependências de entrada tornam o fluxo de trabalho manual altamente propenso a erros.

A área de MLOps surge justamente para automatizar esse ciclo de vida de desenvolvimento de modelos de ML iterativo. No entanto, a literatura acadêmica ainda apresenta poucas pesquisas sobre as técnicas de implementação prática e publicação, dando muito mais foco na parte de desenvolvimento/experimentação.

Metodologia baseada em dados e o rigor científico

Para dar fundamentação metodológica para a pesquisa, segui para uma abordagem de Pesquisa Aplicada, que trás em seu processo um alto rigor científico. Primeiramente, segui para uma Revisão Sistemática de Literatura (RSL) analisando 131 artigos primários publicados entre 2018 e 2024. Estes foram os artigos que li de fato, mas a pesquisa começou com mais de 2.800 publicações científicas. Essa análise permitiu identificar 12 categorias temáticas essenciais que orbitam a a área de MLOps.

Além da base teórica, também conduzi uma pesquisa anônima com 25 profissionais e executivos brasileiros. Essa etapa revelou os desafios reais enfrentados pelas indústrias, como a dificuldade de integração com sistemas legados. Os entrevistados apontaram que ferramentas existentes são complexas e exigem alta especialização técnica, o que impacta os projetos como um todo. Essa coleta de respostas foi fundamental para embasar o desenvolvimento da nova arquitetura que desenvolvi.

O terceiro pilar da metodologia eu investiguei a estratégia de “construir versus comprar” soluções de tecnologia. Construí um guia de suporte à tomada de decisão rigoroso baseado na maturidade da empresa e na vantagem competitiva do projeto. Se o MLOps for atividade central para o negócio, o desenvolvimento interno torna-se o caminho recomendado. Caso contrário, a aquisição de ferramentas de mercado pode acelerar a integração da IA nos produtos… Mas vale dar uma olhada com calma nessa publicação porque ela pode ser extrapolada para outras ferramentas e áreas. Ficou bem robusta

A solução que apresentei é de uma Arquitetura de Referência modular

A solução central da tese é uma Arquitetura de Referência composta por quatro estágios interconectados e modulares. O Estágio 1 foca na Engenharia de Dados, defendendo a centralidade e governança das fontes de informação. Nesta camada, processos de aquisição, preparação e validação garantem que os dados tenham a qualidade necessária para o treinamento. Consequentemente, o versionamento de dados torna-se peça-chave para a reprodutibilidade dos experimentos.

O Estágio 2 abrange o Ambiente de Desenvolvimento, onde ocorre a construção cíclica do modelo de ML. Detalho as etapas de ajuste de hiperparâmetros, seleção de algoritmos e avaliação de performance. Além disso, a arquitetura prevê a manutenção constante do código para evitar o acúmulo de débitos técnicos. Já o Estágio 3 foca no Ambiente de Produção, gerenciando as esteiras de inferência e publicação.

Finalmente, o Estágio 4 aborda as Preocupações Transversais, que permeiam todo o ciclo de vida do modelo. Este estágio inclui segurança cibernética, monitoramento contínuo e a flexibilidade do poder computacional. Dou destaque que o monitoramento deve registrar logs operacionais e detectar desvios estatísticos, como o data-drift. Essa estrutura modular mitiga a complexidade e permite que múltiplos times descentralizados colaborem de forma eficiente.

Escalabilidade e gestão de modelos de Deep Learning

Um diferencial importante desta Tese é o suporte explícito para esteiras de Deep Learning. Uma das soluções é o uso de contêineres e tecnologias de nuvem para garantir a portabilidade dos modelos. Assim, o sistema consegue processar predições em tempo real com baixa latência para o usuário final. A arquitetura detalha processos de Continuous Training (CT), permitindo o retreinamento automático dos modelos quando necessário. Isso é importante porque o desempenho de um modelo de IA pode degradar rapidamente no mundo real. Através da observabilidade, os engenheiros conseguem investigar comportamentos históricos e diagnosticar problemas silenciosos. Além disso, a transparência e a explicabilidade da IA são pilares fundamentais para garantir um processamento ético.

O fluxo operacional apresentado na Tese guia o desenvolvedor desde a definição de requisitos até a predição final. O uso de padrões como o “Modelo Campeão/Desafiante” permite testar novos algoritmos em paralelo sem afetar a produção. Se parar para ver com calma, a solução oferece um roteiro técnico preciso para evitar falhas comuns no desenvolvimento de projetos de IA, ML e DL.

It’s Dr. Actually

Já que chegou até aqui e investiu tempo lendo um pouco do trabalho que demorei 4 anos para concluir, te convido a gastar mais tempo e acompanhar as publicações que fiz em periódicos e congressos científicos. Afinal (tentando fazer a brincadeira do começo do post) It’s Dr., actually!

• 2022 – Automação no processo de publicação de modelos de Ciência de Dados
• 2024 – Experimentation, Deployment and Monitoring Machine Learning Models: Approaches for applying MLOps
• 2024 – Machine Learning Model: Perspectives for quality, observability, risk and continuous monitoring
• 2025 – MLOps for Machine Learning Model Lifecycle Automation – A Systematic Literature Review
• 2025 – Interpersonal Trust in the Era of Scientific Communication with Artificial Intelligence – An Essay
• 2025 – Make or buy strategy for Machine Learning Operations – MLOps
• 2025 – Experimentation, deployment, and monitoring of machine learning models: How MLOps enhances AI productization
• 2025 – How MLOps boosts AI productization with experimentation, deployment, and monitoring of machine learning models
• 2026 – Towards a New MLOps Architecture: A Methodological Approach Driven by Business and Scientific Requirements (ainda não está indexado no portal da SBC)

Muito obrigado!

Um doutorado não se faz da noite para o dia, foi uma construção de anos de dedicação, estudos e stress para criar essa Arquitetura de Referência de MLOps para projetos de Machine Lerning e Deep Learning… E, assim como a ciência, um doutorado não se faz sozinho. Quero aproveitar esse finalzinho do texto para agradecer todas pessoas que participaram comigo das publicações, todos que assistiram as apresentações ou leram os papers, todos que de forma direta ou indireta contribuíram para este trabalho. Vocês são parte disso, queria que a alegria desta titulação também se estendesse até vocês! E, claro, quero deixar um agradecimento especial à meus orientadores (Leandro Augusto da Silva e Ismar Frango Silveira) e aos avaliadores da banca (Marcelo Nogueira, Alexandra Aparecida de Souza, Gustavo Scalabrini Sampaio e Fabio Silva Lopes), suas sugestões e ensinamentos contribuíram com o resultado final deste trabalho.

MUITO OBRIGADO!

A foto de capa foi gerada com o Google Nano Banana 3, usando o prompt: Foto ultra-realista, com iluminação de estúdio, de uma mesa de trabalho de um profissional da computação com um teclado e mouse sem fio e um monitor ultra-wide curvo. A organização da mesa é bagunçada, mas em destaque tem uma xícara de café com o texto “It’s Dr. Actually” em letras pixealizadas como um terminal de computador.

O post It’s Dr. actually apareceu primeiro em Diego Nogare.

Ele também destaca a importância do Machine Learning Operations (MLOps) para gerenciar a complexidade e a escala dos projetos LLM. Para minha surpresa positiva, o livro também fornece uma base inicial nos princípios de MLOps (no apêndice do livro).

O livro foi escrito com uma abordagem prática, desenvolvendo um projeto de ponta a ponta chamado LLM Twin, que é um aplicativo que imita o estilo de escrita e a personalidade de uma pessoa. Este projeto serve como um exemplo do mundo real ao longo do livro para solidificar os principais conceitos e técnicas estudados, além de ter o objetivo fornecer práticas e dicas de especialistas para cada estágio do ciclo de vida do LLM.

Review dos capítulos do livro

São 11 capítulos mais o apêndice, e aqui está um review do livro separado pelo que é abordado em cada capítulo:

• O Capítulo 1 apresenta o projeto LLM Twin e primeiramente define a arquitetura FTI (Feature, Train, Inference) para construir sistemas ML escaláveis.
• O Capítulo 2 apresenta as ferramentas essenciais para construir aplicativos LLM. Inclui Python, ferramentas MLOps e recursos de nuvem (mas até nos orienta a instalá-los localmente para teste e desenvolvimento).
• O Capítulo 3 se concentra na engenharia de dados, embora ensine como implementar um pipeline de coleta de dados de várias fontes. Ele destaca a importância de coletar dados dinâmicos do mundo real.
• O Capítulo 4 apresenta os fundamentos da Retrieval-Augmented Generation (RAG), incluindo embeddings, bancos de dados vetoriais e estratégias de otimização.
• O Capítulo 5 explora de fato o ajuste fino supervisionado, abrangendo a criação de conjuntos de dados de alta qualidade e técnicas de ajuste fino, como ajuste fino completo, LoRA e QLoRA. Ele também inclui uma demonstração prática usando um modelo Llama 3.1 8B.
• O Capítulo 6 se aprofunda no ajuste fino com alinhamento de preferências, focando especificamente na Otimização de Preferência Direta (DPO). Ele inclui como criar conjuntos de dados de preferências personalizados e uma demonstração prática do alinhamento do modelo TwinLlama-3.1-8B.
• O Capítulo 7 detalha vários métodos para avaliar o desempenho do LLM, abrangendo avaliações de uso geral e específicas de domínio. Mas também demonstra uma avaliação do modelo Llama 3.1 8B ajustado.
• O Capítulo 8 abrange estratégias de otimização de inferência, como decodificação especulativa, paralelismo de modelo e quantização de peso para melhorar a velocidade e reduzir a latência.
• O Capítulo 9 explora técnicas avançadas de RAG implementando métodos como, por exemplo, autoconsulta, reclassificação e pesquisa vetorial filtrada.
• O Capítulo 10 apresenta estratégias de implantação de ML, incluindo inferência online, assíncrona e em lote. Embora também mostra como implantar o modelo no Sagemaker, construir um microsserviço FastAPI para expor o pipeline de inferência do RAG.
• O Capítulo 11 explica o LLMOps, começando com suas raízes no DevOps e MLOps, incluindo como implantar o projeto LLM Twin na nuvem. Embora também explique como conteinerizar o código usando o Docker e construir um pipeline de CI/CD/CT (Integração, Implantação e Treinamento Contínuos), além do mais, também ensina como adicionar uma camada de monitoramento rápido ao pipeline.

Minhas impressões

Se você estudar seriamente, ao final do livro, de fato entenderá como coletar e preparar dados para LLMs, ajustar modelos, otimizar inferência e implementar pipelines RAG. Mas também aprenderá como avaliar desempenho, alinhar modelos com preferências humanas e implantar aplicativos baseados em LLM. Mesmo eu considerando que é util ter o básico de Python, o livro explica conceitos do zero, fazendo a leitura ser acessível para todos, inclusive os que são novos em IA e machine learning.

Não posso deixar de mencionar que a qualidade da produção é realmente bonita e útil. As imagens coloridas nos ajudam a entender melhor os diagramas e o design da arquitetura.

A versão digital do livro está na Amazon por volta de 250 reais reais: https://amzn.to/4a16Deg. Já na Packt você consegue por menos de 10 dólares: https://www.packtpub.com/en-us/product/llm-engineers-handbook-9781836200062

Bons estudos!

O post Review do livro “The LLM Engineer’s Handbook” apareceu primeiro em Diego Nogare.

Não quero ficar repetindo conceito e textos, então não entrarei no mérito do que é e qual a importância desta área… Já escrevi sobre isso em MLOps e Engenharia de Machine Learning descomplicados, Ferramentas e plataformas essenciais para projetos de IA e ML e Tendências em Engenharia de Machine Learning e MLOps em 2024.

Por que aprender Engenharia de Machine Learning e MLOps?

Aprender Engenharia de Machine Learning e MLOps pode trazer diversos benefícios para a sua carreira e para os seus projetos, principalmente porque há uma demanda muito grande por essa área nas empresas. Destaquei alguns itens que considero importante para compartilhar com vocês!

• Você poderá desenvolver soluções inovadoras e de alto impacto, usando a inteligência artificial para resolver problemas reais de diversos setores da indústria;
• Você poderá aumentar a sua empregabilidade e a sua remuneração, pois a demanda por profissionais com habilidades de nuvem e machine learning está em crescimento, e as empresas estão dispostas a pagar bem por eles;
• Você poderá aprimorar as suas competências técnicas e profissionais, pois os cursos online oferecem conteúdo atualizado, prático e relevante, além de oportunidades de interação com instrutores e colegas;
• Você poderá obter certificações reconhecidas no mercado, que comprovam o seu conhecimento e a sua experiência em Engenharia de Machine Learning e MLOps, e que podem abrir portas para novas oportunidades.

Não posso deixar de compartilhar uma Playlist do Youtube que gravei há alguns anos e continua super atual. Convido todos vocês à assistirem aos vídeos e acelerar suas respectivas carreiras. A Playlist está neste link: Como aprender Data & AI de graça com os fornecedores líderes globais de Cloud Computing.

Depois de acompanhar Data & AI nos vídeos da Playlist, existem diversas outras opções de cursos online gratuitos ou de baixo custo para aprender Engenharia de Machine Learning e MLOps oferecidos por grandes empresas como Google, Microsoft e AWS, além de outros fornecedores. Esses cursos abordam desde os conceitos básicos até os tópicos avançados, e são adequados para diferentes níveis de conhecimento e experiência.

Quais são os cursos online gratuitos ou de baixo custo?

Em geral, estes cursos ensinam os fundamentos e as aplicações do machine learning, como usar os serviços e as ferramentas para construir, treinar, implantar e gerenciar modelos de ML, e como usar o MLOps para automatizar e padronizar o ciclo de vida de machine learning. Assim, independente de qual provedor de cloud computing você estude, todos lhe ensinarão o conceito e terão a prática em suas ferramentas:

Google: A Google oferece vários cursos online gratuitos para aprender sobre machine learning e inteligência artificial, através da plataforma Google Activate, que em algumas encaminha você para a Coursera. Um destes exemplos é o Certificado Profissional Google Data Analytics (PT) e o Advanced Machine Learning with TensorFlow on Google Cloud Platform. Já o Machine Learning Engineer Learning Path fica interno no Google Cloud Skills Boost.

Microsoft: A Microsoft também oferece diversos cursos online gratuitos para aprender sobre machine learning e inteligência artificial, porém, oferece tudo através da plataforma Microsoft Learn. Alguns exemplos são Introdução às MLOps (Operações de Machine Learning), End-to-end machine learning operations (MLOps) with Azure Machine Learning, Create machine learning models e Fundamentals of machine learning. Ah, não deixe de acompanhar também o Automate your workflow with GitHub Actions.

AWS: A AWS, que é a divisão de computação em nuvem da Amazon, também oferece vários cursos online gratuitos para aprender sobre machine learning e inteligência artificial, através da plataforma AWS Training and Certification e AWS Skill Builder. Tem o The Elements of Data Science (Portuguese) e o Machine Learning Learning Plan (Portuguese). Havia um bastante deste workshop prático, de MLOps, que eu gostava bastante, mas ele foi descontinuado.

Como escolher o melhor curso online?

Com tantas opções de cursos online disponíveis, pode ser difícil escolher o melhor para que você, de fato, aprenda Engenharia de Machine Learning e MLOps. Por isso, quando vou fazer algum curso, considero alguns critérios que me ajudam a escolher:

Nível de conhecimento e experiência: Você deve escolher um curso que seja adequado ao seu nível de conhecimento e experiência em machine learning, engenharia de software, computação em nuvem, entre outros. Se você é iniciante, procure por cursos que ensinem os conceitos básicos e as práticas recomendadas. Se você é intermediário ou avançado, procure por cursos que aprofundem os tópicos e os desafios que você quer aprender ou resolver.

Objetivo de aprendizagem: Você deve escolher um curso que esteja alinhado ao seu objetivo de aprendizagem, seja ele profissional ou pessoal. Se você quer se preparar para uma certificação, procure por cursos que ofereçam conteúdo e simulados específicos para o exame. Se você quer desenvolver um projeto ou uma solução, procure por cursos que ofereçam exemplos e exercícios práticos relacionados ao seu domínio ou problema.

Orçamento e tempo: Você deve escolher um curso que caiba no seu bolso e na sua agenda. Se você não quer gastar muito, procure por cursos gratuitos ou de baixo custo, que ofereçam conteúdo de qualidade e acesso ilimitado. Se você tem pouco tempo, procure por cursos flexíveis ou cursos livres que permitam que você estude no seu próprio ritmo e horário.

Tem outras opções?

Além das grandes empresas, existem outros players que oferecem cursos online gratuitos ou de baixo custo para que você aprenda Engenharia de Machine Learning e MLOps, como a Coursera, a Udemy, a edX, a DataCamp, a Databricks, entre outros. Esses cursos abrangem diversos tópicos, como machine learning, deep learning, nlp, computer vision, data science, MLOps… Normalmente os cursos são ministrados por instrutores renomados, como Andrew Ng, Geoffrey Hinton, Yann LeCun, e são oferecidos através de instituições de prestígio como Stanford e MIT. Alguns desses cursos também oferecem certificados de conclusão, que podem ser adicionados ao seu currículo ou perfil do LinkedIn.

Outra opção, pensando na situação de retorno aos escritórios, muitas pessoas voltaram a pegar horas e mais horas de transporte para ir trabalhar. Nestas horas, porém, pode ser perigoso estar com o celular a mostra para assistir um vídeo dos treinamentos. Então, pensando por esse lado, os livros também podem lhe ser úteis. Deixo aqui algumas opções que gosto bastante e recomendo para quem também curte estudar por livros.

Projetando sistemas de Machine Learning: processo interativo para aplicações prontas para produção, por Chip Huyen

Machine Learning Engineering with Python – Second Edition: Manage the lifecycle of machine learning models using MLOps with practical examples, de Andrew McMahon

Mãos à obra aprendizado de máquina com Scikit-Learn, Keras & TensorFlow: conceitos, ferramentas e técnicas para a construção de sistemas inteligentes

Tem mais livros, se quiser indicação, me mande uma mensagem

Conclusão

Existem diversas opções de cursos online gratuitos ou de baixo custo para aprender Engenharia de Machine Learning e MLOps, oferecidos por grandes empresas como Google, Microsoft e AWS, além de outros fornecedores. Esses cursos abordam desde os conceitos básicos até os tópicos avançados, e assim, são adequados para diferentes níveis de conhecimento e experiência. Para escolher o melhor curso para você, é importante considerar alguns critérios, como o seu nível de conhecimento e experiência, o seu objetivo de aprendizagem, o seu estilo de aprendizagem, o seu orçamento e disponibilidade.

Posso estar sendo preciosista, mas acredito que com esses materiais e dedicação de tempo, acredito que você aprenda Engenharia de Machine Learning e MLOps

Boa sorte e bons estudos

Imagem de capa criada com IA pelo Bing: Utilizei o prompt: “A slightly overweight man with a beard, wearing a polo shirt, working at a desk with a computer, with a bookshelf full of books behind him. The photo should take the angle from behind the computer, showing the man sitting in front of the computer, and his back to the bookshelf. The style used should be Digital Illustration, in a drawing format. The computer screen displays different content. Add three coffee cups on the desk, and some messy papers”.

O post Aprenda Engenharia de Machine Learning e MLOps online apareceu primeiro em Diego Nogare.

Ao navegar no linkedin, não é novidade que essas são áreas que estão em constante evolução e que trazem soluções inovadoras para diversos setores da indústria. Principalmente agora, onde a IA está se tornando cada vez mais presente em nossas vidas, impulsionando avanços significativos em produtividade e qualidade.

O que é Engenharia de Machine Learning e MLOps?

Para não ficar exaustivo e extenso demais esse texto, vou fazer uma ligação sobre o que é Engenharia de Machine Learning e MLOps com o texto que escrevi anteriormente para o blog, chamado MLOps e Engenharia de Machine Learning descomplicados. Convido vocês a lerem o texto que dá a base para o que vamos discutir a seguir.

Algumas apostas de Machine Learning para 2024

Tentei separar essa seção em dois sub-grupos, um focado em ferramentas e produtos, e outro engloba as outras coisas.

Ferramentas / Produtos

IA de Machine Learning mais sofisticada
O Machine Learning tradicional é a base da IA moderna e continuará a se aprimorar. Mesmo com os avanços da IA Generativa, o ML é uma área que não vai parar tão cedo. Contudo, isso significa, que os sistemas de IA aprenderão e se adaptarão mais rapidamente, abrindo novas possibilidades em diversos setores. O aprimoramento do aprendizado de máquina e a acessibilidade tecnológica são fatores fundamentais para termos soluções de ML mais sofisticadas.

Engenharia de Machine Learning no mercado de dados
O crescimento da IA e as falhas associadas à sua produtização de forma manual e sem padrões corporativos geraram a necessidade de profissionais especializados. Aliás, foi por causa disso que surgiu a área de MLOps e a demanda por pessoas que trabalham com Engenharia de Machine Learning. Sobretudo, essas pessoas garantem a operacionalização dos modelos, permitindo que os Cientistas de Dados foquem na resolução de problemas, na geração de insights e no desenvolvimento de modelos de ML.

Avanço das plataformas e ferramentas de MLOps: Outra tendência que aposto para 2024 é o avanço das plataformas e ferramentas que facilitam a implementação do MLOps nas empresas. Eventualmente, essas soluções permitem gerenciar todo o ciclo de vida de ML de forma integrada, automatizada e padronizada, reduzindo os custos, os riscos e o tempo dos projetos. Inclusive, quem tiver interesse em um livro curtinho e gratuito em português sobre MLOps, a Databricks está distribuindo um. Clique aqui para acessar O livro completo de MLOps. Faça um cadastro rápido e tenha direito de baixar o livro.

Análise Aumentada (Augmented Analytics)
A análise de dados tradicional está evoluindo, chegando a patamares de explicabilidade bem distintos. Agora, o aprendizado de máquina combinado com o Processamento de Linguagem Natural geram relatórios analíticos automaticamente, permitindo insights instantâneos para consultas ad hoc. Grande parte desta evolução tem a ver com questões de IA Generativa utilizando transformers.

Outras coisas

Aumento da demanda por profissionais qualificados: com o crescimento do uso do machine learning em diversos setores, como saúde, educação, finanças, varejo e indústria, a demanda por profissionais capacitados em Engenharia de Machine Learning e MLOps também deve aumentar. Por isso, investir em formação e atualização nessas áreas pode ser uma ótima oportunidade para quem quer se destacar no mercado.

Inclusive, acompanhe o aumento global sobre as buscas destes termos (em inglês) desde 2015:

Expansão do uso da computação em nuvem e da computação distribuída: Outra tendência que vejo para 2024 é a expansão do uso da computação em nuvem e da computação distribuída para o desenvolvimento e implantação de sistemas de machine learning. Afinal, a computação em nuvem permite acessar recursos computacionais sob demanda, sem a necessidade de investir em infraestrutura própria. Por outro lado, a computação distribuída permite processar grandes volumes de dados em paralelo, utilizando vários nós ou máquinas conectadas em rede. Essas tecnologias possibilitam criar modelos mais complexos, robustos e escaláveis, além de reduzir os custos operacionais.

Crescimento de padrões de IA Ética, Explicável e Responsável: Assim como o Marco Civil da Internet e a LGPD foram conquistados para proteger os usuários, está em discussão no Senado Federal um projeto para regulamentação da IA. Até a data de publicação deste texto, ainda tem muita discussão para ser feita. Mas, independente disso, vejo uma tendência para 2024 como sendo o crescimento da adoção de padrões que estão diretamente relacionados à IA Ética, IA Explicável e IA Responsável nas organizações.

Inclusive, em Setembro/2023, participei de um evento no ITA – Instituto Tecnológico de Aeronáutica, e uma das apresentações foi sobre IA Ética e Responsável. Baita aula da Dra Daniela América da Silva. Em linhas gerais estas frentes consideram os aspectos sociais, ambientais e legais envolvidos no uso do machine learning. Buscando evitar ou mitigar os possíveis impactos negativos que essa tecnologia pode causar.

Mas, e ai?

Estas são algumas tendências em Engenharia de Machine Learning e MLOps que eu acredito que faz sentido olhar com carinho, principalmente, se estas áreas de atuação estão no seu objetivo profissional. Pode ser que nada disso se fortaleça? Pode! Mas, na minha visão, são bons caminhos para investir um tempinho.

Imagem de capa criada com IA pelo Bing: Utilizei o prompt: “An image in orange and purple colors that represents AI technologies. The image should have the words ‘Trend 2024’, ‘EngML’ and ‘MLOps’ written explicitly. The style of the image should be digital illustration.”.

O post Tendências em Engenharia de Machine Learning e MLOps em 2024 apareceu primeiro em Diego Nogare.

O livro e seus capítulos

Quero compartilhar minhas impressões, mas já destaco que é uma leitura completa para entusiastas de MLOps e EngML. Para evitar dúvidas quanto à terminologia, escrevi sobre a diferença destes termos aqui neste post.

Com uma abordagem direta, o livro ensina de forma prática como gerenciar o ciclo de vida de modelos de aprendizado de máquina usando técnicas de MLOps. O livro é organizado em 9 capítulos e aborda conceitos técnicos, padrões de implementação com boas práticas e metodologias de desenvolvimento de modelos.

Vamos aos capítulos…

Cap 1 – Introdução à Machine Learning Engineering

Este capítulo discuti um pouco sobre as carreiras e disciplinas de Ciência de Dados, Engenharia de Dados, Engeharia de ML e Engenharia de MLOps. Discute sobre trabalhar de forma efetiva com um time multidisciplinar, além de apresentar desafios do mundo real e compartilha padrões de desenvolvimento e boas práticas para serem seguidas;

Cap 2 – Processo de desenvolvimento de Machine Learning

Aqui passa um pouco sobre o CRISP-DM (Cross Industry Standard Process for Data Mining), além de ajudar a montar o setup necessário para desenvolver soluções de EngML com Python;

Cap 3 – Do modelo para a Fábrica de Modelos

Aborda as etapas necessárias para construir as pipelines de desenvolvimento, aprofundando em cada estágio apresentado. Explica as fases de definição dos ambientes, escolha e definição das variáveis, treino e retreino do modelo, persistência e serving (ainda não consegui usar um termo em Português mais apropriado do que o termo original em Inglês para o Serving) do modelo;

Cap 4 – Empacotando a aplicação (prefiro o termo original “Packaging”, mas empacotamento funciona aqui)

Aqui o autor dedica bastante tempo para trabalhar com boas práticas de Python e como isso pode lhe ajudar a desenvolver suas pipelines mais otimizadas;

Cap 5 – Publicando padrões e ferramentas

São discutidas boas práticas e padrões de projetos para desenvolvimento de projetos de Machine Learning, deem uma atenção especial à este capítulo. O texto cobre assuntos como microsserviços, containerização, mas também discute ferramentas de mercado como Airflow, ZenML e Kubeflow. O capítulo é concluído com uma discussão estratégica para a publicação do seu projeto;

Cap 6 – Escalando a aplicação

Também é um assunto importante, porque escalabilidade reflete diretamente no quanto seu ambiente atenderá os clientes e também o quanto isso vai custar no fim do mês. Neste capítulo são discutidos tópicos sobre desenho de soluções e alternativas de cloud computing para atender a demanda do projeto, mas sem gastar uma fortuna;

Cap 7 – Deep Learning, Generative AI e LLMOps

Posso estar sendo muito injusto, mas aqui eu arrisco dizer que este capítulo entrou no livro por questões de timing. Até novembro/2022 quando a OpenAI lançou o ChatGPT, eram poucos projetos que se mostravam relevantes para esse tipo de tecnologia. Porém, após o lançamento do ChatGPT e a facilidade de uso para o publico fora do nicho de LLM, a busca por este tema cresceu muito. Inclusive, estes assuntos de Generative AI estão no Hype não só nas publicações de redes sociais, mas também em discussões estratégicas em empresas e congressos científicos.

É apresentado uma introdução à Deep Learning com PyTorch e fine-tuning. Em seguida introduz o assunto de LLM (Large Language Model) e finaliza o capítulo com a explicação de como funciona uma pipeline de LLM Operation.

Cap 8 – Construindo um modelo com Microsserviços e 9 – Construindo um caso de uso de ETML

Aqui tomei a liberdade de juntar os dois capítulos que, na minha interpretação, seguem um propósito muito parecidos. No capítulo 8 é discutido como construir sua solução a partir de peças e arquitetura de microsserviços, mas no capítulo 9 são discutidas as tarefas para se fazer no ETML (Extract, Tranform and Machine Learning).

Confesso que foi aqui primeira vez que li sobre o assunto com o nome de ETML.

O porque eu juntei os dois capítulos? Porque os dois tratam de casos de uso, no capítulo 8 é um estudo de Forecasting, mas no capítulo 9 é um estudo de Processamento Batch.

Minha opinião

Na minha opinião é um material útil para aprender ou aprimorar suas habilidades em EngML com Python. O livro oferece uma visão geral, porém prática e aplicada, de como criar soluções robustas e escaláveis com ML usando ferramentas e técnicas modernas, incluindo soluções Open Source e também de Cloud Computing.

No geral recomendo a leitura para quem se interessa pelo assunto, a versão digital está na Amazon por um pouco mais de 200 reais enquanto escrevo esse texto. Para mim, os capítulos que discutem arquitetura, boas práticas e padrões de projetos são os que me chamaram mais atenção.

No site da Packt Pub, o livro digital está em promoção por apenas 10USD, aproveite enquanto está disponível nessa promoção: https://www.packtpub.com/product/machine-learning-engineering-with-python-second-edition/9781837631964

MLOps – Ciclo de vida de modelos

No Github da editora você pode acompanhar os códigos do livro e criar seus projetos envolvendo o ciclo de vida de modelos.

Bons estudos!

2024 e eu ainda não me adaptei com eBooks, só consigo ler livros físicos… vai entender!

O post Review do Livro “Machine Learning Engineering with Python – 2nd edition” apareceu primeiro em Diego Nogare.

A engenharia de Machine Learning e o MLOps estão se tornando cada vez mais importantes à medida que mais empresas começam a reconhecer o valor dos dados, mas com a combinação certa de habilidades em ciência de dados, engenharia de software e operações, os profissionais de ML estarão bem posicionados para liderar a próxima onda de inovações baseadas em dados.

Afinal, o que é a Engenharia de Machine Learning?

Em uma frase, podemos ver a engenharia de Machine Learning como a combinação da Ciência de Dados com a Engenharia de Software. Os engenheiros de ML são os responsáveis por projetar, construir e manter sistemas de ML que podem lidar com grandes volumes de dados, garantindo que os modelos de ML sejam precisos e eficientes.

E o MLOps, o que é?

MLOps, ou Machine Learning Operations, por sua vez, é uma prática que busca unificar ML, DevOps e Engenharia de Dados. O objetivo do MLOps é criar um fluxo de trabalho contínuo que inclua integração, teste, publicação, implantação e monitoramento de modelos de ML.

Por que MLOps e Engenharia de ML são importantes?

Com o aumento da quantidade de dados disponíveis e a necessidade de tomar decisões baseadas em dados, a demanda por sistemas de ML eficientes e escaláveis está crescendo. Neste sentido, MLOps e a engenharia de ML desempenham um papel crucial na construção desses sistemas, permitindo que as empresas aproveitem ao máximo seus dados.

Para dar mais contexto sobre oa ssunto, escrevi um texto aqui no blog sobre “Automatizar a publicação do seu modelo com MLOps” que pode ser lido aqui, e neste texto explico um pouco sobre o papel de MLOps para colocar modelos em produção. Também fiz um outro texto, no Medium do Itaú, explicando “Como é atuar na Engenharia de Machine Learning do Itaú?” que foi publicado aqui. Neste texto explico como é a área do banco, conto um pouco dos nossos desafios e comento quais são os assuntos técnicos esperados de alguém que queira ingressar nessa carreira dentro do banco.

Onde estudar?

O post MLOps e Engenharia de Machine Learning descomplicados apareceu primeiro em Diego Nogare.