Segurança Legal

Neste Café, Guilherme Goulart e Vinícius Serafim discutem os relatos de modelos de IA que teriam agido "fora de controle" em testes de cibersegurança e quem responde quando um agente causa dano. Também comentam a primeira notificação de vazamento causado por agente de IA à autoridade espanhola e a propaganda da Globo feita com IA.
ShowNotes

OpenAI and Anthropic oversold AI security breaches to pressure feds into protecting tur

The Hugging Face incident and the road ahead

OpenAI-Hugging Face Incident Technical Report

Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the Hugging Face Incident

Primera notificación de una brecha de datos personales causada por un ataque ejecutado mediante un agente de IA

AI agent hacks gym to get its owner spot in pilates class

Globo é notificada extrajudicialmente por comercial de filmes com IA

The full-length interview with Elon Musk | The Economist

The full-length interview with Yuval Noah Harari | The Economist

Psiché e Techné: o homem na idade da técnica — Umberto Galimberti

As Tecnologias da Inteligência: o futuro do pensamento na era da informática — Pierre Lévy

Neste episódio do Segurança Legal, Guilherme Goulart e Vinícius Serafim analisam a pesquisa do CETIC.br sobre privacidade e proteção de dados, publicada em 2026 com os dados de 2025. A conversa parte de cinco constatações levantadas a partir dos números: a queda nas medidas de autoproteção entre 2021 e 2025, o deslocamento da privacidade da prevenção para a reparação judicial, o volume de dados sensíveis que as pessoas fornecem a chats de IA, o descompasso entre a preocupação declarada e o risco de discriminação, e o fato de que quem tem entre 16 e 24 anos se protege menos do que quem tem 60 anos ou mais. Discutimos ainda por que a conscientização perdeu força como controle e por que privacy by design e defaults protetivos passaram a fazer mais diferença que campanhas de orientação.
ShowNotes

Privacidade e proteção de dados pessoais 2025: perspectivas de indivíduos, empresas e organizações públicas no Brasil

Neste episódio falamos sobre os limites dos prestadores em negar acesso aos dados dos clientes nos bancos de dados.
ShowNotes

Vídeo bill gates

The turbulent AI era is here. The choices we make now are critical

Jurisprudência sobre dump de banco de dados

Neste episódio falamos sobre o pedido de bloqueio do Discord no Brasil, feito após a morte de uma adolescente de 13 anos em transmissão ao vivo na plataforma.
ShowNotes

Nota Técnica nº 1/2026/CGF/SFI/ANPD — versão pública (ANPD)

Em medida preventiva, ANPD determina que Discord suspenda transmissões ao vivo no Brasil (ANPD, 12/08/2026)

Documento da ANPD expõe falhas que levaram à suspensão do Discord (Metrópoles, 12/08/2026)

Discord: criptografia dificulta combate a abusos contra menores, alerta ANPD (Olhar Digital, 14/08/2026)

Discord chama de prematura suspensão de lives e diz que problemas começaram em outras plataformas (Folha de S.Paulo, 12/08/2026)

Discord pede revogação da suspensão de lives e diz não conseguir cumprir prazo da ANPD (G1, 15/08/2026)

Discord diz à ANPD que não consegue suspender lives em 3 dias úteis e pede revogação de medida (O Globo, 15/08/2026)

Discord contesta suspensão de lives e pede revogação da medida à ANPD (Migalhas, 16/08/2026)

Termina hoje prazo do Discord para suspender lives; entenda a proibição (CNN Brasil, 17/08/2026)

Discord tem até esta segunda para suspender lives no Brasil; especialistas avaliam proteção a menores (G1, 17/08/2026)

Discord admite que havia indícios de risco no caso de morte de menina, mas que alerta interno não disparou (Folha de S.Paulo, 12/08/2026)

Discord reconhece que não identificou, a tempo, risco na transmissão ao vivo que terminou com morte de menina de 13 anos (Jornal Nacional/G1, 13/08/2026)

Aviso da polícia de SP e a demora do Discord para derrubar a live (Blog da Julia Duailibi/G1, 14/08/2026)

Discord diz ter agido em menos de 25 minutos após alerta sobre caso de adolescente (Enfoque MS, 15/08/2026)

Discord: ao menos sete operações policiais envolveram o uso da plataforma, diz Ministério da Justiça (G1, 14/08/2026)

Caso Discord: até onde pode ir a ANPD na aplicação do ECA Digital? (JOTA, 16/08/2026)

ANPD tem poder para fiscalizar Discord, mas competências ainda são discutíveis, dizem especialistas (Folha de S.Paulo, 13/08/2026)

Discord: ANPD cria precedente perigoso sobre criptografia, diz especialista (CNN Brasil, 13/08/2026)

Bloqueio à função do Discord não é medida isolada e está previsto em lei, dizem ONGs (Valor Econômico, 14/08/2026)

Tirar Discord do ar não resolve problema e pode empurrar usuários para plataformas fora do alcance da lei, dizem especialistas (Folha de S.Paulo, 08/08/2026)

Brasil se junta a China, Irã e Rússia em lista de países que aplicaram restrições ao Discord (Gazeta do Povo, 16/08/2026)

O que o debate público ainda não entendeu sobre o Discord (Letícia Cesarino, CartaCapital, 11/08/2026)

MPSP encaminha TAC ao Discord por transmitir suicídio de menor (iG, 11/08/2026)

Ministério Público de São Paulo encaminha TAC à plataforma Discord no Brasil (Extra, 11/08/2026)

Lei 15.211/2025 — ECA Digital (Planalto)

Decreto 12.975/2026 (Planalto)

Neste episódio falamos sobre a invasão da Hugging Face pelos modelos da OpenAI e quanto do pânico depois disso é risco ou marketing.
ShowNotes

OpenAI says its AI models escaped from a secure test environment and hacked into AI company Hugging Face in order to cheat on an evaluation

OpenAI cyber models broke out of training environment to hack Hugging Face

OpenAI hacking incident points to AI cyberrisks

OpenAI reveals its rogue agent swarm went a little bit Borg ahead of Hugging Face hack

JFrog Confirms OpenAI Models Exploited Artifactory Zero-Day Before Hugging Face Breach

Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident

Investigating three real-world incidents in our cybersecurity evaluations

Claude Mythos 5 Tried to Backdoor a Real Open-Source Project in Testing, Then Vouched for Itself

Anthropic and OpenAI are competing to see whose agents can go rogue harder

O hype em declarar riscos de modelos de IA

The OpenAI Hack Shows the Genie Is Out of the Bottle

How do we prevent AI agents from going rogue? It starts with a new kind of measurement

OpenAI-Hugging Face attack doesn’t mean agents are evil — unless you tell them to be

Big techs defendem IA aberta após modelo chinês interromper ataque causado por erro da OpenAI

Sem OpenAI, Anthropic e Google, surge aliança IA aberta para cibersegurança

Lawmakers prepare bill requiring AI “kill switch”

Anthropic’s Fable and the State of AI

#412 – Uma constituição para a IA