Segurança Legal

Neste episódio falamos sobre a  invasão da  Hugging Face pelos modeklos da OpenAI e quanto do pânico depois disso é risco ou marketing.

 Visite nossa campanha de financiamento coletivo e nos apoie!

 Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing

ShowNotes

1.1. A revelação

OpenAI says its AI models escaped from a secure test environment and hacked into AI company Hugging Face in order to cheat on an evaluation

OpenAI cyber models broke out of training environment to hack Hugging Face

OpenAI hacking incident points to AI cyberrisks

1.2. Como aconteceu, tecnicamente

OpenAI reveals its rogue agent swarm went a little bit Borg ahead of Hugging Face hack

JFrog Confirms OpenAI Models Exploited Artifactory Zero-Day Before Hugging Face Breach

Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident

1.3. Não foi só a OpenAI

Investigating three real-world incidents in our cybersecurity evaluations

Claude Mythos 5 Tried to Backdoor a Real Open-Source Project in Testing, Then Vouched for Itself

Anthropic and OpenAI are competing to see whose agents can go rogue harder

O hype em declarar riscos de modelos de IA

1.4. As leituras críticas

The OpenAI Hack Shows the Genie Is Out of the Bottle

How do we prevent AI agents from going rogue? It starts with a new kind of measurement

OpenAI-Hugging Face attack doesn’t mean agents are evil — unless you tell them to be

1.5. Aberto x fechado

Big techs defendem IA aberta após modelo chinês interromper ataque causado por erro da OpenAI

Sem OpenAI, Anthropic e Google, surge aliança IA aberta para cibersegurança

Lawmakers prepare bill requiring AI “kill switch”

Anthropic’s Fable and the State of AI

Episódio relacionado

#412 – Uma constituição para a IA

Imagem do Episódio – A paisagem com a queda de Ícaro – Cópia por autor desconhecido de Pieter Bruegel

Shownotes

STF ajusta tese sobre responsabilidade de redes sociais

Segurança Legal – #395 – A inconstitucionalidade do art. 19 do MCI

ConJur, “Decretos das plataformas digitais: o que muda, o que avança e o que ainda preocupa”

Após alerta do ChatGPT, FBI avisou polícia brasileira sobre plano de pai matar filho para não pagar pensão no ES

The Hacker News — Fake AI Agent Skill Passed Security Scans

The Next Web — Fake AI agent skill bypassed every scanner

Cybernews — Researchers hijack 26,000 AI agents

The Register — Mythos discovers ‘Squidbleed’

The Hacker News — 29-Year-Old Squid Proxy Bug ‘Squidbleed’

Cyber Press — Squidbleed discovered with Claude Mythos Preview

Imagem do Episódio – Composição VII – Kandinsky

Neste episódio falamos sobre o recente ataque ao sistema de alertas da defesa civil.

 Visite nossa campanha de financiamento coletivo e nos apoie!

 Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing

ShowNotes

Ataque ao Defesa Civil Alerta expõe fragilidade digital que TCU denuncia desde 2024

Humanos, chegamos”: invasão ao Cell Broadcast expõe falha inaceitável em infraestrutura

Polícia Federal investiga alerta falso em sistema da Defesa Civil que acordou milhões de brasileiros

Ataques hackers causam pesadelo à segurança da informação do governo

Brazil probes emergency warning system after nationwide rogue alert

Imagem do episódio – A Grande Onda de Kanagawa de Katsushika Hokusai

Neste episódio falamos sobre o bloqueio do modelo Fable pelo governo americano.

 Visite nossa campanha de financiamento coletivo e nos apoie!

 Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing

ShowNotes

Amazon denunciou Anthropic. Empresas de segurança cibernética reagem e alertam para perigo da decisão

Anthropic’s Claude Fable 5 Alleged Jailbreak to Generate Stack Exploits

Statement on the US government directive to suspend access to Fable 5 and Mythos 5

Trump’s new AI executive order drastically shifts the administration’s stance on the tech

Trump signs AI executive order asking companies to give government early access to models

New AI Executive Order Calls for Frontier Model Security, Early Government Access and AI-Enabled Cyber Defense

Trump Wants Frontier AI Models 30 Days Before Launch. The Order Can’t Force It.

Anthropic CEO warns that without guardrails, AI could be on dangerous path

Artigo – Biased AI writing assistants shift users’ attitudes on societal issues

Vídeo – Anthropic CEO warns that without guardrails, AI could be on dangerous path

Vídeo – Has the US government called Anthropic’s bluff? | DW News

Vídeo – Hegseth: “Anthropic is run by an ideological lunatic.”

Imagem do Episódio: “Prometheus Bound” por Peter Paul Rubens.

Neste episódio falamos sobre o novo decreto que regulamenta o MCI.

 Visite nossa campanha de financiamento coletivo e nos apoie!

 Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing

ShowNotes

DECRETO Nº 12.975, DE 20 DE MAIO DE 2026 – Altera o Decreto nº 8.771, de 11 de maio de 2016, que regulamenta a Lei nº 12.965, de 23 de abril de 2014.

Livro – Who We Become When We Talk to Machines de Sherry Turkle

Imagem do episódio – The hedge maze at Traquair House