Engenharia de Dados [Cast]

Prepare-se para uma conversa direta sobre o que está mudando na Engenharia de Dados e o que nenhum relatório de mercado vai te contar. 
Neste episódio, Lucas Tancredi recebe Luan Moreno e Rafael Rodrigues para discutir, sem filtro, por que o Data Engineer pode estar se tornando obsoleto e o que os profissionais precisam fazer agora para não ficar para trás.
O que você vai aprender neste episódio:
Por que a tecnologia é cíclica  e como usar esse padrão a seu favor antes que o mercado te pegue de surpresa.
O que está mudando na Engenharia de Dados e por que adaptar o título no currículo não resolve o problema real.
Por que dominar os fundamentos da tecnologia vale mais do que correr atrás de qualquer ferramenta nova.
Como a comunicação eficaz se tornou uma vantagem competitiva real para quem trabalha com dados e IA.
O que o mercado está pedindo agora  e como alinhar sua mentalidade a essa nova demanda antes que ela se feche.
Este não é um episódio sobre ferramentas. É uma conversa sobre o que separa os profissionais que vão liderar a próxima fase da IA dos que vão ficar esperando a próxima onda passar.
 Luan Moreno =   
https://www.linkedin.com/in/luanmoreno/

Rafael Rodrigues = https://www.linkedin.com/in/rafaelolsr/

Um pipeline monolítico de 5.000 linhas. Sete notebooks acoplados. Dez chamadas de API dentro de definições DLT. O que acontece quando você coloca quarenta agentes de IA especializados nesse problema e dá um prazo de três dias?
Neste episódio da série Era dos Agentes, exploramos a refatoração completa do pipeline de dados do InfraView: de um monolito no Databricks para uma arquitetura limpa de três camadas, usando AWS Lambda, Lakeflow Declarative Pipelines e Databricks Asset Bundles.
A história começa com um problema real: a infraestrutura que sustentava a cobrança de clientes era frágil, não escalável e impossível de testar. Um timeout de API às duas da manhã derrubava o pipeline inteiro. Doze constantes críticas de threshold estavam espalhadas como números mágicos por cinco arquivos diferentes. Ninguém conseguia provar que as fórmulas estavam corretas.
Na segunda sessão, o projeto quase parou. Um bug não documentado no motor DLT: o decorator dp.table em Python, com nomes fully qualified, quebrava a resolução do grafo JVM em pipelines multi-schema. Foram três a quatro horas de debugging. Sete abordagens falharam.
Até que surgiu o Padrão Híbrido SQL+Python: notebooks Python criam views temporárias com dp.view para a lógica complexa, e notebooks SQL registram as tabelas finais com CREATE OR REFRESH. O DLT processa tudo como um único grafo de computação.
O clímax é a validação em escala de produção: 920.676 registros reais de OTel processados simultaneamente pelos dois pipelines, legado e novo. 822 milhões de linhas Silver geradas. O resultado: InfraRating (risco e otimização) com 100% de match exato em 42.640 comparações. Performance de 38 minutos no serverless contra 90 minutos no clássico: 2,3 vezes mais rápido, com dados idênticos.
O novo pipeline encontrou 68 hosts onde o legado encontrava apenas 14. Não é só equivalente: é melhor.
Como foi construído: uma pessoa de engenharia trabalhando com Claude Code e quarenta agentes de IA especializados: lakeflow architect, spark specialist, code reviewer, lambda builder, medallion architect. Seis sessões ao longo de três dias. 1,8 milhão de tokens de raciocínio colaborativo.
Tecnologias: Claude Code, Databricks Lakeflow, Unity Catalog, AWS Lambda, SAM, Databricks Asset Bundles, PySpark, Spark SQL, Auto Loader e Delta Live Tables.
Este episódio foi gerado com NotebookLM a partir de fontes produzidas por agentes de IA especializados. O conteúdo que você ouve é o produto direto da era agêntica em ação.
 Luan Moreno =   
https://www.linkedin.com/in/luanmoreno/

Rafael Rodrigues = https://www.linkedin.com/in/rafaelolsr/

Neste episódio, Luan Moreno compartilha sua trajetória na área de dados, desde suas origens como DBA até sua ascensão como Lead Data Engineer. 
Ele discute a importância da formação, certificações e a transição para a engenharia de dados, além de compartilhar experiências interessantes em sua carreira, como o trabalho no lançamento do GTA V. 
Luan também enfatiza a relevância da comunidade e do networking, bem como a necessidade de soft skills, como comunicação, no ambiente de trabalho. 
Ele apresenta sua metodologia de aprendizado, o método GEAR, que combina teoria e prática, e reflete sobre a pressão e o estresse no trabalho, destacando a importância de ter suporte e mentores.

A comunidade é essencial para o crescimento profissional.
A formação acadêmica é uma das várias formas de alcançar o sucesso.
A pressão inicial na carreira pode moldar a forma como lidaremos com os desafios futuros.
A comunicação é uma habilidade crucial no mercado de trabalho.
A metodologia GEAR combina teoria e prática para um aprendizado eficaz.
A constância no estudo é fundamental para o sucesso.
Mentores podem acelerar o aprendizado e a carreira.
Projetos solicitados são oportunidades de aprendizado.
Networking é vital para oportunidades de carreira.
A velocidade das mudanças tecnológicas exige adaptação constante.

 Luan Moreno =   
https://www.linkedin.com/in/luanmoreno/

Rafael Rodrigues = https://www.linkedin.com/in/rafaelolsr/

Neste episódio do Engenharia de Dados Cast, Vitor Ramos e Victor Grudtner discutem com o convidado Matheus Nogueira sobre a experiência prática com Kubernetes, abordando desde a introdução à ferramenta até desafios enfrentados em produção.
 O convidado compartilha dicas sobre como começar a estudar Kubernetes, a importância da observabilidade e a cultura de trabalho em equipes que utilizam essa tecnologia. 
Além disso, são discutidos os desafios da arquitetura distribuída e a necessidade de um planejamento cuidadoso para evitar problemas financeiros e operacionais. 
Matheus Nogueira compartilha suas experiências e dicas sobre o uso do Kubernetes, abordando desde a importância de evitar o namespace padrão até a comunicação eficaz entre equipes técnicas e de negócios.
 Ele discute o futuro do Kubernetes, destacando sua relevância e as tendências emergentes, além de oferecer recomendações práticas para otimização de containers e automação de testes com inteligência artificial.
 Luan Moreno =   
https://www.linkedin.com/in/luanmoreno/

Rafael Rodrigues = https://www.linkedin.com/in/rafaelolsr/

Prepare-se para uma imersão nos bastidores do mais recente encontro de engenharia de dados em Brasília e descubra as tendências que estão moldando o futuro da área. Neste episódio, Vitor Ramos conversa com Wesley Outeiro e outros participantes para compartilhar os principais insights e aprendizados do evento presencial, organizado pela Engenharia de Dados Academy e como palestrante Luan Moreno.
Uma conversa sincera sobre a importância das interações presenciais, a evolução da comunidade de dados e o impacto da Inteligência Artificial no dia a dia dos profissionais.
O que você vai aprender neste episódio:
A importância do networking e da comunidade para o crescimento pessoal e profissional na área de dados.
Como a interação presencial em eventos potencializa o aprendizado e a colaboração.
As principais tendências em dados e IA que estão criando novas oportunidades e desafios para o mercado.
Por que o domínio dos conceitos fundamentais é mais crucial do que nunca para o sucesso na engenharia de dados.
A relevância de FinOps para a gestão eficiente de custos de nuvem em projetos de dados.
Reflexões sobre como a dinâmica de eventos e a troca de conhecimento estão evoluindo.
O poder de se conectar com líderes da indústria para se inspirar e motivar sua carreira.
 Luan Moreno =   
https://www.linkedin.com/in/luanmoreno/

Rafael Rodrigues = https://www.linkedin.com/in/rafaelolsr/