Segurança Legal

Neste episódio conversamos como Willian Oliveira e Fernando Andreazi, da Kaspersky, sobre a evolução das ferramentas de segurança que vão além do endpoint, abordando a mudança no cenário de segurança e a necessidade de enfrentar ameaças cada vez mais sofisticadas. Você irá aprender sobre XDR, também conhecido como Extended Detection and Response e o MXDR, ou ou Managed Extended Detection and Response. Willian e Fernando trarão toda a sua experiência na área para lhe ajudar na escolha da melhor solução de segurança para o seu negócio. Este é um episódio patrocinado pela Kaspersky.  Visite nossa campanha de financiamento coletivo e nos apoie!  Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing

Neste episódio, comentamos o primeiro ciberataque realizado por inteligência artificial, uma operação que atingiu 30 empresas e foi atribuída a um grupo de hackers financiado pelo estado chinês. Você irá aprender como os criminosos utilizaram agentes de IA para automatizar as fases de um ataque, desde o reconhecimento de alvos e levantamento de vulnerabilidades até a exploração e o movimento lateral dentro das redes invadidas, com o uso de ferramentas open source e o modelo de linguagem da Anthropic, o Claude. Discutimos como essa abordagem, que utiliza o Model Context Protocol (MCP), permite que a IA controle ferramentas de varredura de portas, análise de código e exploração de vulnerabilidades, representando uma mudança significativa na forma como os ciberataques são conduzidos. Abordamos também a importância da segurança para as empresas que desenvolvem sistemas de IA, a criação de agentes e as implicações futuras dessa tecnologia, incluindo o surgimento do “vibe hacking” e a capacidade da IA de encontrar novas vulnerabilidades (zero days). Por fim, analisamos o relatório da Anthropic, que detalha a operação e as lições aprendidas, e como a automação de ataques pode levar a um aumento de ameaças, permitindo que pessoas com menos conhecimento técnico realizem ataques complexos.​ Convidamos você a assinar, seguir e avaliar nosso podcast para não perder nenhuma discussão sobre segurança da informação e direito da tecnologia. Continue se informando sobre as novas tendências e ameaças do mundo digital.​ Esta descrição foi realizada a partir do áudio do podcast com o uso de IA, com revisão humana.  Visite nossa campanha de financiamento coletivo e nos apoie!  Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Disrupting the first reported AI-orchestrated cyber espionage campaign AI: What Could Go Wrong? with Geoffrey Hinton | The Weekly Show with Jon Stewart Imagem do Episódio -Eisenwalzwek (Moderne Cyklopen) de Adolph Menzel 📝 Transcrição do Episódio (00:07) Sejam todos muito bem-vindos e bem-vindas. Estamos de volta com o Segurança Legal, o seu podcast de segurança da informação e direito da tecnologia e tecnologia e sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Olá, Guilherme, tudo bem? E nossos ouvintes e aos internautas que sempre esqueço que nos acompanham no YouTube. (00:29) Claro, sempre lembrando que para nós é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Então você já sabe, basta nos contatar se quiser no podcast@segurançalegal.com, YouTube, Mastodon, Blue Sky, Instagram e agora o TikTok também. Você consegue fazer e assistir alguns cortes lá dos episódios que vão ser publicados lá também. E também a nossa campanha de financiamento coletivo lá no apoia.se/segurançalegal. (00:55) A gente sempre pede também que você considere apoiar esse projeto independente de produção de conhecimento. É bastante importante que você apoie para que esse projeto, para que o podcast Segurança Legal continue existindo, Vinícius. OK. Perfeito. Nenhuma vírgula. Goulart, eu vou começar com uma pergunta. Você já viu ali o título, enfim, já sabe do que nós vamos falar aqui. (01:26) Mas a pergunta é: será que nós estamos diante, será que nós testemunhamos, a humanidade acabou de testemunhar o primeiro ataque, o primeiro ciberataque realizado por inteligência artificial? Será que a IA da Anthropic um dia acordou e falou assim: “Eu vou fazer um ciberataque aqui atingindo algumas empresas e tal”? O que que o relatório da Anthropic, que é a dona do Claude, o que que esse relatório envolvendo essa avaliação de um ciberataque que houve, que teria havido a participação da IA, o que que ele nos colocou aqui? Guilherme, quando tu faz esse questionamento, ele é bastante relevante porque a gente já teve outros dois casos em que a coisa foi meio deturpada, foi colocada com, foi feito uns caça-cliques aí na internet. (02:05) A primeira delas foi aquela situação em que o Claude tentou chantagear um engenheiro que queria desligar ele. E para chantagear ele usou e-mails desse engenheiro aos quais ele teve acesso e que ele ali tinha um caso extraconjugal. Ele então ameaçou o engenheiro de que iria entregar se ele desligasse, se o engenheiro desligasse a IA. E na verdade, a coisa não, sim, aconteceu esse negócio de chantagear, isso de fato aconteceu, mas isso foi num cenário controlado. Os e-mails eram falsos. Eles criaram para simular uma situação. E de fato a IA tentou chantagear o engenheiro. (02:32) De fato isso aconteceu, mas no ambiente controlado. Não é uma coisa que saiu solta por aí, fazendo coisas desse gênero. E teve alguns outros parâmetros do teste também que modificaram um pouquinho a realidade, mas enfim, de fato aconteceu num ambiente bem controlado. Só para também destacar, eu acho que a gente ainda não entrou de vez na era dos agentes, de uma IA autônoma, no sentido de ela tomar decisões. Ela ainda é muito dependente do que a gente pede para ela fazer. E esses movimentos aí que a gente tem visto nos últimos tempos de que mexe no browser, que faz compras, eu acho que a gente tá ainda dando os primeiros passos rumo a uma autonomia maior da IA. Isso aconteceu aqui ou não? (03:44) Ah, tu diz nessa situação aqui? Aí só deixa eu citar daí um segundo caso que também fizeram um pouco de alarde fora do que havia sido colocado, que é o seguinte: que é botar uma máquina de vendas lá na Anthropic. E essa máquina de vendas, ela gerenciava que produtos ela iria vender, por qual preço e obtinha esses produtos também de fornecedores. E aí o pessoal fez logo uma matéria aqui no Brasil, inclusive, saiu a IA, que botaram a IA para gerenciar um mercadinho, uma coisa assim, e uma empresa e ela quebrou a empresa. (04:17) Na verdade, não é uma. São aquelas vending machines, sabe? Aquelas máquinas de venda que tu coloca dinheiro e compra. E de fato a máquina deu prejuízo ali. Mas não é uma coisa que agora alguém teve a ideia de botar IA para gerenciar o negócio e a IA quebrou o negócio. Aí fica aparecendo. E agora a gente tem nesse relatório, a gente tem uma outra situação mais avançada, bastante interessante. Mais avançada e com um uso principalmente de agentes. Eu acho que cabe a gente dar uma rápida explicação nessa questão de agentes, de ferramentas para conseguir entender. Quem é da TI e já tá usando IA, já tá estudando IA, já vai ter uma noção. Mas boa parte das pessoas… (05:25) E eu acho que antes disso também, Vinícius, o que que é o modelo em primeiro lugar? Até chegar no agente. Vamos lá. Então, o modelo é o que você poderia chamar de cérebro da IA. Esse modelo é o que tem que ser treinado e é o que as empresas levam meses para fazer e gastam um monte de dinheiro com eletricidade, GPUs, inclusive na aquisição de conteúdo para treinamento. Gastam um monte de dinheiro, fazem o treinamento desse cérebro, desse modelo. (05:58) Uma vez que tá feito o treinamento, a gente passa por uma fase de inferência, mas esquece o nome. O que importa é que a gente passa para uma situação que a gente consegue utilizar para uma nova etapa. E aí é que você entra quando você usa o ChatGPT, quando você utiliza um Claude AI ou Gemini, etc. São ferramentas que usam esses modelos já treinados. Em essência é isso. Acontece que esses modelos já faz uns, acho que um, já faz uns dois anos, se não até mais para cá, eles começaram a ser preparados para usar ferramentas. O que que é esse usar ferramenta? (06:42) Então, o ChatGPT há até um tempo atrás, ele respondia só com base nos dados que tinham sido utilizados para treinar ele. Tanto que tu perguntava alguma coisa mais recente, ele pegava coisas que eram velhas, nada mais recente ele conseguia trazer. O Perplexity foi uma ferramenta que quebrou um pouco essa fronteira, ou seja, eles pegaram, eles usam o modelo da Open, usam o GPT, mas também usam Claude, etc., depende do cérebro. E eles então integraram isso com uma ferramenta de busca. (07:03) Então eles usam a IA, usam os modelos para, vamos dizer assim, comandar uma ferramenta de busca, pega os resultados, analisa esses resultados e te dão esses resultados mastigados pela IA. Essa é a diferença entre tu usar o Google e usar o Perplexity para fazer uma pesquisa. Com o tempo, todas essas aplicações, todas essas aplicações, não vou usar aplicações para não misturar com ferramenta, não. Todas essas aplicações, ChatGPT, o Claude, o Gemini, etc., todos eles começaram a te dar opções de várias ferramentas, não só busca na internet, mas ferramentas que inclusive elas podem interfacear com os seus arquivos na tua máquina. (07:58) Então tu pode mandar comando, falando sobre isso aqui. O Claude, se tu instalar o Claude, os usuários de macOS, já tem essas funcionalidades há algum tempo, porque eles acabam, a Open AI lança primeiro pro Mac. A Claude fez a mesma coisa e para Windows vem um pouco depois, mas tu pode instalar, por exemplo, o Claude, a aplicação Claude, na tua máquina e lá vai ter algumas ferramentas. Cuidado com isso. Cuidado com isso. Tem algumas ferramentas que tu pode ativar que permite que ele controle o teu navegador, que ele controle, que ele consiga gerenciar arquivos na tua máquina, mover, apagar, criar pasta, etc. (08:23) Eu fiz um teste com relação a isso um tempo atrás para organizar uma pasta de downloads. Funcionou, só que são ferramentas que tu tem que tomar um pouco de cuidado porque eventualmente elas podem sair do teu controle e fazer coisas que não deveriam fazer, mas enfim. Então, notem que a IA, esse modelo que a gente falou, que é o cérebro, ele é capaz de interpretar aquilo que a gente escreve, mas ele é capaz de interpretar também aquilo que ele recebe de outras fontes, como por exemplo, de um mecanismo de busca. Ele interpreta, consegue analisar, e aquela coisa de simular o raciocínio humano. E ele analisa aquilo, escolhe o que é mais importante, te mostra, dá um resumo ou coisas desse gênero. (09:11) E aí, Guilherme, a gente cada vez mais tá migrando para uma IA agêntica. Agêntica, isso que é um agente. E aí, o que que essa IA faz? Que que essa IA faz? Ela usa um modelo, ela tem um modelo que tem formas de interfacear com o nosso ambiente, seja o que for. Pode ser desde câmera de vigilância, um programa de edição de código para programação, um programa de edição de imagem, portas físicas, fechaduras, sistema solar de energia, um roteador, etc. (09:53) Então, tu consegue entregar para um modelo de IA várias ferramentas. Para ela utilizar essas ferramentas para quem tá por dentro da questão mais técnica, normalmente utilizando MCP. É o Model Context Protocol, mas o que importa é que existe um protocolo, existe uma forma padrão para te entregar essas ferramentas para os modelos de IA. Quem criou esse padrão foi a Claude, foi a Anthropic. E aí todo mundo, todo mundo hoje segue esse padrão. Todos os as ferramentas utilizam o MCP. (10:25) Então, por exemplo, eu tenho uma situação que eu mesmo fiz aqui. Eu tenho meu sistema solar aqui de geração de energia e eu quero saber quanto de energia eu produzi no ano passado, nesse mesmo mês. Daí eu tenho que ir lá pegar o aplicativo, ver qual naquele mês, quanto eu fiz e eu mesmo comparar. Aí o que que eu fiz? Eu fiz uma ferramenta em que essa ferramenta consulta os meus parâmetros de produção de energia e eu entreguei essa ferramenta para um agente de IA e disse para ele, e literalmente tá por escrito: “Ó, tá aqui uma ferramenta que te permite acesso aos parâmetros, aos dados de produção de energia do meu sistema solar. E aqui tá essa chamada que te entrega de um mês específico, essa aqui de um dia, essa aqui de um ano”. E entreguei essas ferramentinhas para ela. Só isso. (11:20) Tu entrega para ela isso. E aí num chat lá com esse com esse agente, tu pode perguntar outras coisas e tal. Daqui a pouco tu pergunta: “Quanto eu produzi de energia no ano passado, no mês de fevereiro?”. Aí ele vai, bom, o usuário tá querendo saber quanto ele produz de energia em fevereiro. Aí ele vai olhar a coleção de ferramentas que ele tem, vai dizer: “Hum, eu tenho uma ferramenta aqui que me dá acesso aos dados de produção de energia do meu usuário lá e tal”. Aí ele vai olhar a ferramenta, ele vai ver que tem uma chamada que mostra o resultado de um mês e do dia e tal. Ele pediu de fevereiro. Fevereiro é um mês. (11:58) Então ele vai pegar aquela chamada ali, vai pegar a produção de energia de fevereiro lá do meu sistema, vai chamar aquela função, aquela função vai conectar. Como é um programa normal de computador, digamos assim, normal, que não é uma IA, ele vai conectar, vai pegar os dados e vai devolver os dados para IA, pro modelo. E aí o modelo vai olhar aquilo e vai dizer: “Tá, beleza”. E ele vai dizer: “Ó, tu produziu tantos kilowatts de energia”. Aí se eu disser para ele: “Compara com fevereiro do ano anterior”, ele vai buscar dos dois meses, vai fazer uma comparação e vai dizer: “Tu produziu tantos por cento a mais ou a menos e tal”. Aí já vai trabalhando os dados que ela recebeu. (12:32) E assim tu pode fazer com qualquer coisa, qualquer sistema que tu tenha, qualquer coisa que tu possa ligar num computador em algum momento, numa rede por aí, em qualquer lugar, um termômetro, o que tu imaginar. E pode ser atuadores também, pode ser um negócio que desliga alguma coisa ou que liga um equipamento, qualquer coisa. Se tu fizer essa interface MCP que a gente chama e entregar isso para IA como ferramenta, a IA consegue usar essa ferramenta, qualquer coisa. (12:51) E o que que acontece aqui nesse caso da Anthropic, desse relatório da Anthropic? O que foi feito é: cibercriminosos, que eles apontam como sendo com um grande nível de certeza, de confiança, seria um grupo financiado pelo estado chinês. Um grupo de hacking financiado pelo Estado chinês. Eles dizem isso com um com certo grau de certeza. Eles fizeram um ataque, um ciberataque em que fizeram todo a etapa de reconhecimento de um alvo, levantamento de informações sobre esse alvo, levantamento de vulnerabilidades, a exploração dessas vulnerabilidades levando a uma invasão. (13:57) E aí o movimento lateral que envolve tu buscar outros sistemas naquela, depois que tu entra na rede, tu entra no ambiente do teu alvo, tu começa a catar outros sistemas ali que tu consegue acessar. E a partir dali, a partir dali tu eles buscam outras credenciais e aí tentam usar essas credenciais. Então eles teriam feito um agente de IA fazer esse um ataque cibernético desse tipo. É, a Anthropic publicou e aí esse podcast é baseado nesse relatório deles que foi publicado aqui e a gente vai deixar como sempre no show notes. (14:35) Abrindo ele aqui, mas basicamente eles começam dizendo e exaltando que a Anthropic tem uma série de medidas de safety e security, que é aquela diferença entre a segurança de funcionamento e a outra segurança. A gente acaba usando a segurança, a mesma palavra para designar duas coisas diferentes. Eles destacam também que toda essa construção dessas medidas de segurança que eles falam vão na linha de, inclusive, é realizado por um setor de threat intelligence, ou seja, de inteligência de ameaça. Ou seja, eles estão sempre buscando saber o que que os criminosos estão fazendo para subverter aquelas medidas. (15:15) E é interessante começar a pensar em como a segurança é importante para as empresas de que fornecem esses sistemas de IA de maneira geral. Eles encontraram isso em setembro dessa mega operação que eles chamaram que teria atingido 30 companhias. Eles decidiram então trazer à tona os detalhes técnicos disso. E eles destacam que seria uma mudança ou que teria representado uma mudança em como que os cibercriminosos estariam agindo. (15:37) E eu acho que daí que a tua explicação sobre os agentes, ela é importante porque a IA aqui não é um, a gente não tá diante de uma IA aqui que por vontade própria decidiu atacar sistemas. A gente tá diante, caso alguém pudesse ter pensado isso, seria um pensamento legítimo de se pensar quando você não conhece o caso. O que a gente tá aqui é diante de um novo comportamento de agentes criminosos que conseguiram, e aí o Vinícius vai nos explicar melhor como, usando agentes automatizar certas operações ou certas ações que já são realizadas por atacantes normais, por atacantes pessoas, digamos assim. (16:18) Foi isso. Ou seja, você deu uma, você aumentou a potência do agente atacante ali, com essa ideia lá do co-inteligência do livro aquele que a gente tá lendo, do Ethan Mollick. Foi isso, Vinícius? É exatamente assim quando a gente vê esse uso, digamos assim. Eu até tô ajeitando aqui, Guilherme, já para poder compartilhar com todos os inclusive as imagenzinhas que são bem interessantes do relatório. O que foi feito, não, assim, a gente de novo, é aquilo que a gente comentou no início, não é que a IA saiu enlouquecida fazendo tudo por conta. Não se trata disso. (17:26) Ela simplesmente foi utilizada, como tu bem falou, ela foi utilizada para fazer um para automatizar etapas de um ataque. A grande sacada é que esses caras automatizaram grande parte do ataque. É isso que mais chamou atenção, porque existe uma coisa, eu acho, eu acredito que muita gente já deve ter ouvido falar do Vibe Coding, que é a história de tu programar um software sem saber programar. Então tu chega ali, não é que tu não saiba programar, mas tu chega ali pra IA e diz assim: “Eu quero uma aplicação que faça não sei o que blá blá blá”. Tu vai na vibe e deixa que ele gera o código. Aí tu testa, vê se funciona, funcionou, vai adiante, vai modificando até chegar no programa que tu quer. Isso hoje é meia boca, mas vai ficar bom. (18:16) E existe vibe hacking. Vibe hacking, tu vai usando a IA para te ajudar em coisas bem pontuais numa, em algo envolvendo segurança da informação. Um pen test, algum desenvolvimento de algum payload, de alguma sequência lá que tu precisa para explorar uma determinada vulnerabilidade, alguma coisa assim, alguma ideia para: “Pá, eu já testei tudo que eu podia fazer aqui nisso aqui, mas eu ainda acho que pode ter um problema que eu não tô achando”. Tu pode discutir com a IA isso, sabe? E pode até fazer com que ela gere para te testar certas possibilidades. Isso te acelera muito o trabalho. Isso te dá uma vantagem muito, muito grande, inclusive para testar várias possibilidades ao mesmo tempo. (18:46) E aí, o que esses caras fizeram? Eu vou compartilhar aqui o reporte. O que esses caras fizeram foi o seguinte: ele esse aqui é o reporte, essa aqui é uma versão que saiu, foi atualizada hoje, dia 17 de novembro. Inclusive, Guilherme, a gente tava discutindo aqui: “Pô, vai na página tal, cara. Não tem página tal, tá em outro lugar, não sei o quê”. A gente foi olhar, uma atualização hoje. É desse depois que eu baixei o documento hoje de manhã, a gente teve outra atualização ali. Mas eu vou direto pra imagem aqui. Depois tem todos os detalhes. A gente vai compartilhar isso aqui com vocês. (19:37) Mas aqui, ó, essa imagem ela meio que tentou organizar um pouquinho o que eu expliquei para vocês com relação à ferramenta. Então, o ataque teria sido desenvolvido em três etapas. Então a primeira fase em que ele define quais são os alvos, o operador define quais são os alvos, é a fase one que tá bem ali na esquerda. E lá em cima aí depois a 2, a 3 e a 4 são esses quadradinhos, são esses retângulos aí que estão sombreados, a fase dois, a fase três e a fase 4. (20:00) E o que que interessa a gente pra gente entender de uma forma razoável esse ataque? Cada uma dessas fases. Então, a fase, por exemplo, de reconhecimento envolve varredura de rede, que a gente tem que encontrar serviços rodando, a gente tem que buscar dados sobre o alvo, tem uma série de coisa que a gente vai fazer. E aí, o que que esses atacantes fizeram? O que é que esses cibercriminosos fizeram? Eles criaram ferramentas. Estão vendo que diz aqui scan? Tô vendo quem tá vendo no YouTube. Quem não tá vendo, imagine as caixinhas. Tá escrito aqui scan tool, search tool, data retrieval tool, code analysis tool, tool. (20:46) Essas ferramentas são, é que nem o esquema que eu fiz aqui do meu sistema de energia solar. Eles criaram interfaces MCP, desse protocolo para te entregar ferramentas, uma interface para IA conseguir usar uma ferramenta de varredura de portas. Que que é uma ferramenta de varredura de portas? A gente encontra um determinado máquina, um servidor na internet e a gente tem que saber que portas nessa máquina estão abertas pra gente conseguir ver que serviços que tem lá e aí procurar informações sobre esses serviços, procurar vulnerabilidades que esses serviços tenham e aí explorar essas vulnerabilidades. (21:16) Então o que eles fizeram foi criar ferramentas para cada uma das etapas. Então, uma primeira etapa de levantamento de dados, uma segunda etapa em que eles começam a procurar ferramentas de exploração dessas vulnerabilidades. E uma terceira etapa, lembrando só, essas ferramentas muitas vezes já estão disponibilizadas na web aí, para por sistemas já conhecidos de exploração de vulnerabilidades e tudo mais. (21:52) Inclusive no relatório eles colocam que as ferramentas são todas open source, então são ferramentas padrão que tu encontra na internet, só que tu faz uma interface para IA conseguir chamar aquela ferramenta. Então, só que em vez de fazer, em vez de, por exemplo, uma ferramenta que vai lá e consulta, faz uma pesquisa, traz o resultado da pesquisa e analisa o resultado da pesquisa, em vez de fazer isso, ela chama uma ferramenta que faz varredura na rede, como Nmap, que é quem entende tecnicamente aí, é uma ferramenta extremamente comum de fazer varredura. (22:22) Então ela tem um Nmap, eu crio um código em volta do Nmap ali que permite que a IA chame o Nmap, execute o comando e depois o resultado disso a IA receba de volta e aí analise esse resultado. Então eles fizeram isso com várias ferramentas, as ferramentas que a gente utilizaria manualmente. Eles fizeram isso com várias ferramentas para automatizar esse processo e eles não terem que fazer. (22:47) Então, na fase dois aqui, na fase um, o operador humano escolhe o alvo, determina os alvos. Na fase dois, a IA passa então a usar ferramentas para levantar informações sobre esse alvo. E são essas ferramentas que os atacantes disponibilizaram para IA. Na fase três, a IA começa então, usa aqueles dados que foram levantados na fase dois e começa a procurar possíveis ferramentas de exploração desses problemas, encontra possíveis ferramentas e técnicas. (23:18) E aí a IA pode ajustar as ferramentas, ela consegue executar as ferramentas e consegue criar ferramentas, ela consegue criar algum código ou coisa parecida. E aí ele passa pra fase quatro, que é a de efetiva exploração dessas vulnerabilidades. E depois que ele explora essas vulnerabilidades, consegue botar um pezinho dentro da rede lá do cara ou dentro do servidor. A partir dele, a etapa cinco é começar a coletar credenciais de acesso, procurar arquivos de configuração com chaves de acesso e coisas desse gênero. E é o tal do movimento lateral que ele faz depois que entra lá dentro. (24:16) E então os atacantes, o que eles fizeram foi pegar a IA da Anthropic, que é o Claude, e entregaram para essa Anthropic várias ferramentas que permitia que ela realizasse ataque por conta própria. E segundo tendo no relatório, eles teriam feito isso de maneira segmentada para que o próprio modelo não detectasse que fosse uma ação maliciosa. Então, por exemplo, em vez de eu dizer: “Ah, ataca aqui o Guilherme, levanta informações sobre ele, pega os dados de não sei quê, não faz não sei o que e já faz o ataque”. Não, eles quebraram isso em etapas. (24:34) Então eu faço com agentes diferentes cada uma delas também. Exatamente. Então eu vou lá e levanto, por exemplo, quais são as portas abertas? Aí depois eu, beleza, tenho a lista de portas abertas, IP e porta. Aí eu posso pegar só as portas. Agora quero para cada porta aqui, eu quero saber que versão de serviço tá rodando aqui. Aí um agente vai lá e levanta a versão de serviço. Aí um outro agente eu digo assim: “Ah, procura para mim que vulnerabilidades esse serviço aqui com essa versão tem”. Eu não digo que isso veio de uma varredura que eu fiz no IP, não sei quê. (25:12) Não digo, só digo: “Ó, procura para mim a vulnerabilidade, se esse serviço de e-mail na versão tal tem alguma vulnerabilidade conhecida”. E ele vai lá e faz. Então eles quebraram o ataque todo em várias etapas e meio que isolaram os agentes, digamos assim, para evitar que o modelo detectasse um ataque acontecendo, uma atividade maliciosa acontecendo. (25:36) E aí para aquela analogia que a gente usou antes aqui, como se você fosse organizar o cometimento de um crime, chamasse vários agentes mesmo, e comparsas ali, cada um sabe um pedacinho. O filme do Batman é assim. O Batman lá do Coringa é assim. Lembra que no início eles, eu não sei qual é a próxima fase e tal, eles só sabem um pedaço do crime e aí depois o Coringa ainda vai matando eles. Seja uma analogia assim, mais ou menos. (26:03) É perfeito. É isso aí que ele faz. E até porque eles têm que, notem que para ferramentas, não adianta entregar as ferramentas e deu, tu tem que dizer para o que tu quer que ela faça. Então tem toda uma engenharia de prompt por trás desse ataque que tu tem que fazer os prompts funcionarem. E quem já fez prompts mais complexos sabe que às vezes tu tem que dar uma volta maior para conseguir fazer a IA fazer o que tu quer, que ela pode se negar a fazer certas coisas. Então eu vivo brincando com isso aí porque tem certos testes que eu quero que ela faça, ela não faz, ela se nega, ela diz: “Eu não posso fazer isso”. Aí eu tenho que dar uma volta, mudar o prompt, mudar não sei que para fazer. (26:33) Então esses caras tiveram que fazer um monte de prompt para fazer esse ataque funcionar. Então, no final das contas, Guilherme, o que eles fizeram foi pegaram o Claude, mas nota, eles poderiam ter usado o GPT, algum modelo da OpenAI, eles poderiam, podiam ter usado um modelo instalado. É isso que eu dizer, a Anthropic tira dessa negócio aqui uma série de lições que eles falaram aqui para ele que eles vão usar para reforçar a segurança do modelo deles. Mas esses caras aqui brincando mudam pro ChatGPT. Vão ter que ajustar talvez um prompt ou outro. (27:24) A coisa não quer dizer que um prompt que contornou a segurança do Claude vá funcionar no GPT. Então talvez tem que ajustar, mas eles podem usar o GPT, eles podem usar o Gemini, eles podem usar o Grok, eles podem usar, entende? E as por aí para usar essa estrutura de ferramentas que eles criaram agora, que lembrem, isso aqui usa MCP, que é um protocolo padrão para entregar a ferramenta para IA e todo mundo tá adotando isso. E eles também podem, vamos supor que todos os modelos ficaram maravilhosamente bons. E lembrando que aí a medida que o tempo passa, não só a gente tem modelos de IA mais potentes que consomem mais recurso, mas a gente tem também cada vez mais modelos mais capazes que consomem pouco recurso, que tu consegue rodar localmente. (27:59) E existe uma busca por isso para te poder rodar num celular, poder rodar num ambiente embarcado num carro e coisa assim. E hoje LM Studio da vida. Tu pode pegar um LM Studio da vida hoje e rodar. De uma boa placa de vídeo na mão, tu pode rodar certos modelos que são bem capazes, não são tão bons que o Claude, mas são razoáveis. Então, nada impediria desses caras com esse monte de ferramenta pronta aqui e esses prompts e tudo mais, comprar um monte de GPU, um monte de placa de vídeo para ter um poder de processamento legal, investir nisso e eles mesmos rodar o modelo de IA que vai gerenciar suas ferramentas. Sem restrição nenhuma em termos de segurança, sem safeguard nenhum. Ela fazer sem perguntar o por que ela deveria fazer ou dizer que isso aqui é crime, não sei que ela não faria isso. (28:52) Então, o que a gente tá vendo, independente deles terem usado o Claude ou não, é mais uma automação de processos que antes eram feitos apenas por seres humanos. E com a consequência de ser algo que baixa o custo do ataque. Ou seja, esses caras atacaram 30 alvos num tempo que se eles tivessem que fazer isso com seres humanos, sabe? Custaria mais caro para eles em termos de tempo. E ainda por cima talvez eles não fossem tão eficientes, sabe? (29:24) Então, eficácia é outra coisa, mas isso baixa o sarrafo para ataques mais sofisticados. Porque basta a gente lembrar o que acontece com ferramentas mais complexas, com ataques mais complexos. Com o tempo surge uma ferramenta que automatiza aquele ataque e aí o cara só baixa, o cara baixa a ferramenta, coloca o IP de alguém, aperta send e manda ver. Então, a gente tá vendo isso acontecer, assim como em várias outras áreas da atuação humana, a gente tá vendo isso acontecer numa situação de cibercrime. No final das contas é isso, sabe? (30:20) Eu acho que no fim das contas, quando você vai, você tava falando aqui, fui lá no Hugging Face, coloquei cybersecurity, você já tem algumas coisas acontecendo lá também para avaliação de sistemas. Os caras dizendo que a gente treinou esse modelo aqui com OWASP, MITRE ATT&CK, NIST, CWE, CVSS. Então, de repente tu já tem e inclusive as próprias vulnerabilidades já conhecidas, isso é tudo muito público assim. E o que me chama atenção, acho que tem várias coisas aí. (30:49) Primeiro é que além do uso da IA, mas não é nada novo, me parece, não tem uma, não é uma metodologia nova, é uma automatização de como as pessoas já fazem aquilo. Exatamente. E nota que isso é bom pro atacante. Claro, ele tá automatizando, ele faz mais rápido, ele faz em grande escala, fica mais barato para ele, menos gente, mais lucro, até menos gente. Só que a grande sacada vai ser, e isso se já não aconteceu, deve estar acontecendo agora, vai acontecer em breve, é você conseguir fazer coisas novas, entendeu? Você subverter, você encontrar novos meios, você encontrar novos caminhos, você técnicas e tudo mais. (31:30) Eu acho que esse vai ser o ganho aí também em qualidade, não é só uma questão de quantidade, porque todas essas atividades ali, tudo indica que foram feitas. É o passo a passo normal de um de um teste ilegítimo, digamos assim, ou de uma invasão ilegítima. E aí, o pessoal às vezes pode ficar chateado com a gente, mas enfim, você tá aqui num podcast de segurança da informação, direito da TI, proteção de dados, então a gente vai falar de segurança mesmo e a gente vai botar o dedo na ferida no sentido de que pros empresários, pros gestores que estão nos ouvindo e tal. (32:08) E eu não falo isso, Vinícius, para honestamente para assustar ninguém, mas isso é só o começo. Sim, isso é, sem dúvida, sem dúvida. Quem acompanha o cenário de e que faz essa atividade de threat intelligence, quem acompanha golpes e tal. Hoje nós já temos, e o Vinícius, a gente conversava sobre esses dias, o Vinícius pode endossar essa. Hoje fazer um um bot no Telegram, já faz tempo que sempre foi fácil fazer bot no Telegram, mas ligar uma IA no Telegram lá para fazer um botezinho é a coisa mais fácil do mundo que tem. (32:29) Então você já tem grupos criminosos hoje que ficam mandando mensagens lá, tem uma clássica que ele pergunta se você é guia turístico no Brasil e tal. E aí começa uma, se diz que não e aí começa a conversar com o cara e aí tu vê que é uma IA, várias pessoas recebem, tem informação disso, várias pessoas recebem. A ideia é tu automatizar uma primeira etapa do ataque para pegar algum, pegar algumas pessoas que caem no golpe e aí passa depois para um para uma atendente pessoa ali para seguir com o golpe. Então isso vai ser cada vez mais comum. Daí que eu acho que é a importância da gente conhecer e saber como é que essas coisas estão acontecendo. (33:25) E isso que nem falou, Guilherme, o que o Ethan Mollick coloca no livro dele também. Tu sempre assume que tu tá usando a pior IA que tu tá usando hoje é a pior que já existiu. A coisa só vai melhorar. E então eu já sinto esse negócio de mudar a forma como a gente testa algumas coisas, porque tem certas verificações que antes eram inviáveis de serem feitas. Que agora é perfeitamente viável de fazer por causa da IA. (33:56) Então, coisas que antes não podiam ser feitas e que agora é viável. Porque eu tenho, eu sei o que eu quero fazer, mas para fazer manualmente é muito difícil. E tu fazer um programa que faça aquilo com aquela lógica, ou seja, fazer um programa para fazer um cálculo complexo, contábil, vai dar certo, ou de física, etc. Vai embora. Agora, faz um programa, tenta fazer um programa sem usar IA. Sem usar nenhum tipo de machine learning, tenta fazer um programa normal, digamos assim, que reconhece se tem um papagaio numa imagem ou não. Pronto, foi pro Belelu. Vai ter um trabalho muito grande. E a IA já permite certos testes que antes não eram possíveis. E inclusive a questão de trabalhar com código ofuscado, que é algo que a gente comentava e que é uma coisa bem interessante também. (34:49) O código é ofuscado para ser humano, não para uma máquina. Então tem várias coisas que estão mudando nesse cenário com a IA. E sim, quando eu falo que esse tipo de coisa que a gente tá vendo aqui acontecendo nesse artigo que a gente tá comentando, em que eu digo que baixou o sarrafo, e eles comentam, eles falam não nesses termos, óbvio, mas eles falam que baixou os requisitos para te fazer um ataque mais complexo. E aí isso, achando que tudo que é mais fácil agora. (35:17) Exato. E aí ficando mais fácil, tu vai ter mais ataques acontecendo, porque agora pessoas com menos conhecimento vão conseguir fazer ataques mais complexos que antes elas não conseguiam fazer. Então, tu vai, ao mesmo tempo, tu também pode usar IA para aumentar as defesas, entende? Mas é aquela aí, é aquela velha história, é um jogo assimétrico, porque quem defende tem que encontrar todos os furos, todas as possibilidades de entrada num ambiente. Quem ataca só tem que encontrar um. (35:51) Então assim, se tu encontrou 100, deixou um para trás e o cara que tá atacando encontrou aquele um, pronto, ele ganhou o que ele queria. Entende? Mas ali tudo indica que seria uma coisa assim mais de buscar vulnerabilidades conhecidas em sistemas desatualizados. Girou em torno disso. Mas eu não falo desse caso específico. O que eu tô te dizendo é que cada vez mais tu vai ter ferramentas que vão automatizar esses ataques para pessoas que não conhecem nada tecnicamente. É o retorno seria o retorno do script kiddie, Vinícius. (36:26) Não, não é o retorno. Esse cara sempre existiu. Assim, o cara que fica decorando um monte de conceito numa conversa depois, larga aquele monte de termos e não sei que ele aprendeu em inglês até decorar aquilo para conseguir mostrar para alguém que ele sabia aquilo de decor, mas no fundo, no fundo, no fundo, o cara não sabe o que tá fazendo. E esse cara vai ser beneficiado, ou seja, vai baixar o nível de exigência pro cara fazer uma coisa desse tipo. (36:50) Em última análise, tu vai ter um aumento de ameaças no âmbito. Exato. O nível de ameaça sobe porque a facilidade de exploração cai. A facilidade de tu encontrar um problema, analisar aquilo, tentar fazer a exploração. Cara, uma coisa simples que se fazia, talvez até hoje, ainda tem, com certeza, até hoje tem lá no Exploit-DB, uma coisa simples que se fazia era tu ia baixar um exploit, uma ferramentinha para fazer uma exploração e aquele exploit vinha com algumas coisas erradas óbvias, sabe? Mas tu tinha que olhar o código, tinha que entender o código e tinha que olhar: “Ah, tá aqui”. Aí tu ia lá, ajeitava e o código passava a funcionar. Justamente para evitar aquele cara que só baixa, executa e deu. (37:26) Isso hoje é ridículo. Tu baixa um negócio desse, tu dá para IA e diz: “Corrija e melhore e ajuste para minha situação aqui”. E ela vai fazer para ti. Tu não tem que fazer mais nada, entende? O próximo passo é aí sim, e aí ela já consegue fazer isso, mas aí ela encontrar as vulnerabilidades, isso já tá sendo feito aí, já tá, já tem notícia sobre isso. Guilherme, mas no sentido de, aí que é o também um passo aí de qualidade. É tu descobrir coisas novas, é tu descobrir zero days, é tu te apropriar daquilo, é tu sabe. E aí a coisa fica mais complexa, porque quanto tempo e dinheiro tu vai investir para descobrir essas coisas, sabe? (38:23) É bem delicado. E tem uma coisa que é interessante. Um zero day, uma coisa nova, é um furo que ninguém conhecia, era um problema que ninguém conhecia. Mas dificilmente esses caras surgem com uma técnica nova de exploração. São ocorrências de problemas já conhecidos ou de combinações de problemas já conhecidos numa dada situação que gera um resultado diferente que ninguém esperava, que é uma nova vulnerabilidade. (38:51) Dificilmente acontece, acontece, óbvio que acontece, mas dificilmente são técnicas inteiramente novas, entende? Algo que nunca ninguém viu. Então a gente tem um monte de zero day que vem, por exemplo, de buffer overflow, que é um problema bem conhecido. E tem várias variações de buffer overflow já muito bem conhecidas e documentadas. Então a IA nesse sentido, ela consegue, ela vai conseguir encontrar zero days, fica bem tranquilo. Talvez ela não venha com coisas super novas ainda agora, mas ela vai ser capaz de fazer tranquilamente. (39:16) Guilherme, eu vou encerrando de minha parte aqui, dizendo que eu já passei para ti inclusive minha cópia do artigo com os destaques que eu fiz. Então, para ficar disponível lá para vocês a cópia com os destaques, com que eu achei aqui bem relevante, bem importante. E essa vai tá, vai estar no show notes para vocês baixarem. Você falou antes várias variações. É, várias variações, não é uma nem duas, são várias, são várias variações. É tipo uma surpresa inesperada. Uma surpresa inesperada. (39:46) Mas assim, ó, o que é muito importante é ficar, e a coisa em si lá no Claude e tal, é legal e tal, mas o que é interessante a gente pensar na técnica, os impactos disso hoje e pros próximos poucos anos que tá à nossa frente aí com relação aos momentos. Eles deram uma aumentada na importância assim, tem um meio de propaganda ali também, meio que assim: “Olha o que que é possível fazer com o Claude”. Eu senti. Nossa, o Claude foi fantástico, fez coisas que não seria possível fazer com seres humanos e tal, mas no final das contas, qualquer IA aqui que tu meter que seja boa, vai fazer isso aqui. (40:27) Então, bom, enfim, aquela história, os caras vendem um peixe deles também. É, depois dessa surpresa inesperada, nós vamos então terminando hoje o episódio um pouquinho mais curtinho também. É bom também, você consegue esgotar ele mais rapidamente. Aí abre espaço para você ouvir outras coisas interessantes também. A gente ouviu hoje, o Vinícius indicou um videozinho de um prêmio Nobel, prêmio Nobel, melhor dizendo, explicando um pouco a questão da IA. Dá para deixar. É do Geoffrey Hinton, o Geoffrey Hinton é um dos padrinhos da IA, um dos pais da IA. Então vamos deixar lá também bem interessante e nos encontraremos agora no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima.  

Neste episódio comentamos sobre as notícias mais recentes no mundo da segurança da informação e proteção de dados, com Guilherme Goulart e Vinícius Serafim. Você irá descobrir os detalhes sobre a sanção da Lei 15.254 de 2025, que criou o Dia Nacional de Proteção de Dados em 17 de julho, uma homenagem ao jurista Danilo Doneda, considerado o pai da proteção de dados no Brasil. Abordamos também o audacioso furto no Museu do Louvre, que expôs falhas críticas de segurança física, incluindo o uso de senhas fracas como “Louvre” no sistema de videovigilância, um caso que serve de alerta sobre a manutenção de sistemas dessa natureza. Além disso, você irá aprender sobre as revelações de uma reportagem da Reuters, indicando que a Meta conscientemente lucrou bilhões com anúncios fraudulentos, scams e a venda de produtos proibidos, levantando um debate sobre a responsabilidade das big techs. Analisamos também a nova versão do OWASP Top 10 para 2025 e discutimos a polêmica proposta de simplificação do GDPR na Europa, que pode enfraquecer o regime de proteção de dados ​na Europa e no mundo. Se você gosta do nosso conteúdo, não se esqueça de assinar o podcast na sua plataforma de áudio preferida para não perder nenhum episódio, nos seguir nas redes sociais e deixar sua avaliação. Sua participação ajuda o Segurança Legal a alcançar mais ouvintes e a continuar produzindo conteúdo de qualidade sobre cibersegurança e privacidade.  Visite nossa campanha de financiamento coletivo e nos apoie!  Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes: Presidente sanciona lei que cria o Dia Nacional da Proteção de Dados Louvre Heist Fallout Reveals Museum’s Video Security Password Was ‘Louvre’ The cybersecurity error at the Louvre that allowed the historic the Meta is earning a fortune on a deluge of fraudulent ads, documents show Release Candidate do Owasp Top 10 Vídeo – Pentest | O que é e como funciona um Teste de Invasão? EU Commission internal draft would wreck core principles of the GDPR 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 407, gravado em 11 de novembro de 2025. Eu sou Guilherme Goulart, junto com o Vinícius Serafim. Vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá, os nossos ouvintes. 11 de 11 hoje. 11 de 11. Hoje tem promoção em tudo quanto é coisa. (00:31) Época de mentirinha, mas esse é o nosso momento então de conversarmos sobre algumas notícias e acontecimentos que nos chamaram atenção. Pega o seu café então e vem conosco. E você já sabe, para entrar em contato com a gente é muito fácil, basta enviar uma mensagem para [email protected], Mastodon, Instagram, Bluesky, YouTube. (00:48) E agora, Vinícius, se você é jovem, TikTok também. Estamos lá com alguns vídeos que já estão sendo publicados, alguns cortes do podcast Segurança Legal. E também convidamos você a acompanhar a nossa campanha de financiamento coletivo lá no Apoia-se: apoia.se/segurancalegal. Você pode contribuir e também fazer parte do nosso grupo exclusivo de apoiadores lá no Telegram. (01:14) Vinícius, quer mandar uma mensagem ali pro Isaac Melo? Abraço pro Isaac Melo, que nos mandou algumas informações aqui, algumas dicas de uma notícia. Nós vamos dar uma olhada nos links que nos passaste. Isaac, muitíssimo obrigado. A gente vai dar uma olhadinha. Valeu, valeu, Isaac. (01:38) Continue sempre conosco. Primeira notícia, Vinícius, é um misto de felicidade pelo reconhecimento e pela sanção da lei 15.254, agora de 2025, que definiu o Dia Nacional de Proteção de Dados. E esse Dia Nacional de Proteção de Dados, Vinícius, que é no dia 17 de julho, é nada mais nada menos do que a data de nascimento do Danilo Doneda. Para quem não sabe, o pai da proteção de dados no Brasil, um grande jurista que nos deixou recentemente. Gravamos, ele gravou com a gente aqui no podcast, fizemos um episódio de homenagem a ele depois do seu falecimento. É uma homenagem muito justa, muito válida, sabe? Porque realmente o Danilo era um cara incrível. (02:28) Dá para se dizer que foi uma força agregadora em torno da qual nasce a lei de proteção de dados. Claro, passa pelo processo legislativo todo, mas ele era um cara muito agregador. (02:49) Então, temos aqui o nosso dia nacional de proteção de dados como homenagem ao nosso querido amigo Danilo Doneda. Fica aí uma mini notícia. Eu disse antes misto de felicidade, mas também com saudade. Fica homenagem aí. São coisas da vida. Enfim, furto no Louvre, Vinícius, você ficou sabendo? Sim, sim. (03:13) Famoso furto. O pessoal encostou lá uma escada, um caminhãozinho com uma escada basculante. Cortaram o vidro com uma serra giratória ou algo parecido, subiram lá dentro, roubaram, entraram e roubaram mais de 100 milhões. Está sumido mais de 100 milhões ainda. Eu tinha visto a última vez que eu vi eram 88 milhões de euros. Eram joias que ficavam na galeria de Apolo. (03:44) Eram oito peças que eram joias da coroa francesa, do que foi a coroa francesa, inclusive uma coroa também. E algumas pessoas dizem que o valor é inestimável pela questão do valor histórico, não somente o valor das joias. Não, sem dúvida, sem dúvida, sem dúvida. (04:04) Então agora no dia 19 de outubro alguns ladrões, foi uma coisa de filme. Certamente. Então esses ladrões se disfarçaram, roubaram em 7 minutos. Exatamente, mais ou menos 7 minutos. E eles se disfarçaram de prestadores de serviços para acessar lá o Louvre. A coisa mais interessante disso, Vinícius, e eu tomei, ouvintes, o cuidado de perguntar pro Vinícius se ele tinha ouvido falar disso. Então vai ser uma surpresa para ele também: o portal Check News obteve resultados de auditorias realizadas entre 2014 e 2024. E um dos problemas que eles encontraram… (04:43) É que a senha do sistema de vídeovigilância, Vinícius, sabe qual era? Não, não sei qual. A senha do sistema de vídeovigilância era Louvre. E aí eles tinham um outro sistema, eu não tentaria essa senha. Eu não, ninguém iria colocar essa senha. (05:13) Eu não tentaria. Não é possível. Mas foi. Então eles, uma das senhas era Louvre e aí eles tinham, usavam um outro sistema lá também de monitoramento que era de nome Thales e a senha do sistema era Thales também. Claro, óbvio. E além de outros problemas que envolveram o uso de sistemas operacionais antigos como Windows XP e o Windows 2000. (05:39) Qual foi o papel dessa senha fraca? Foi que, segundo li aí nos portais, eles usaram essa senha fraca para desativar o sistema de vídeovigilância enquanto eles estavam realizando o furto. E claro que o caso é meio pitoresco assim, a gente deu risada, mas enfim, não é algo engraçado assim. Bem pelo contrário, é um crime, é um assalto. E menos mal que não teve nenhuma vítima. Exato. Exato. Não teve nenhuma vítima. Mas assim, é um patrimônio. (06:14) É claro que todas as contradições da monarquia francesa, de como eram ricos e aqueles prédios, aquelas, mas enfim, isso não vem ao caso agora. O que vem ao caso, eu acho que dá para daí sim linkar esse caso meio pitoresco com as nossas temáticas aqui. Que é uma tendência que a gente vê em alguns casos de um certo descuido e até de um certo desprezo de sistemas como esse de vídeovigilância, sabe? Tem você tem casos que às vezes isso não tá bem dentro da TI, não é gerenciado pela TI, fica numa zona meio… (06:48) Fica num limbo, cara. Fica num limbo e quem deveria ser responsável por isso não sabe operar direito. E isso acaba ficando no colo da TI e aí vem aquelas demandas de: “Ah, tem que abrir para acesso remoto, para acessar, quero você poder de casa.” Aí às vezes tu vai, aí o cara: “Olha, melhor não.” “Não, mas eu quero.” (07:12) Daí vem de cima, aí a pessoa quer acessar. Aí libera, aí acessa, depois esquece que isso existe, e fica lá o acesso. Você imagina o quão importante é isso pro museu mais importante do mundo? A segurança física. Claro. Sim, sim. A segurança física ali é essencial. Uhum. Nesse caso. Sim. (07:36) São objetos dos mais variados ali que estão fisicamente guardados, sob guarda do Louvre. E nem sempre os objetos pertencem ao museu. Eles podem estar momentaneamente cedidos ao museu. Tem mais essa ainda por cima. E você tem aquela questão de que muitos desses objetos foram pegos pelos franceses em circunstâncias históricas também que hoje demandariam, na Europa de maneira geral, Londres também, a questão da restituição, da repatriação desses materiais. Claro. Mas voltando aqui para pra segurança, Vinícius, às vezes fica… (08:16) Quase como uma questão de zeladoria. Então você tem dois problemas aí. Primeiro é o papel da segurança física no mundo da segurança da informação, que é flagrantemente menosprezado e relevado. E parece que foi o caso aqui, veja, no Louvre. E até você pensa: “Não, mas ninguém teria audácia de…” Não. Sim, isso de fato aconteceu. (08:39) Fica um alerta para as organizações que prestem atenção nesse aspecto de segurança física e no aspecto de monitoramento. Porque também nós não podemos esquecer que imagens de vídeo que envolvem pessoas, que filmam pessoas de alguma forma, constituem dados pessoais e, por isso, também ficam cobertos pelas proteções da LGPD. (09:04) Então, é algo bem crítico assim. Às vezes a gente vê em alguns locais que o livre acesso às câmeras de monitoramento dentro de uma organização é algo que tem que ser visto com muito cuidado, porque pode representar também uma violação LGPD, o descuido e até mesmo o vazamento desse tipo de imagem. E que vai se estender inclusive para situações também menos observadas, que é a questão dos condomínios. A gente até falou um pouco aqui sobre biometria nos condomínios e tal, mas se insere nesse grande mundo aqui da… (09:33) Segurança física dentro da segurança da informação. Sem dúvida. E a gente tem todo aquelas, a gente não vou entrar nesse detalhe agora que a gente já conversou sobre isso várias vezes, sobre aquelas questões de vigilância em cidades. O pessoal quer crime em ambientes públicos e tal para saber de todo mundo. (09:52) Então isso numa cidade grande até dá um certo anonimato. Eu digo um certo porque tu não vai assim porque tem muita gente. Mas logo isso vai ser resolvido, já tá sendo resolvido com a IA rastreando ali, reconhecendo todo mundo, não importa o número de pessoas que tem. (10:11) Mas em cidades menores, como por exemplo Três de Maio, são 25.000 habitantes, ou cidades ainda menores que tem aqui na volta. Tu põe um sistema desses, cara, tu sabe quem foi falar com quem, a que horas. Tem as principais das nossas cidades, que são pequenininhas e que tem uma rua, duas ruas principais assim, que para ti, em qualquer lugar, tu passa nessas ruas e tu tendo algumas câmeras ali, tu já consegue saber, cara, quem tá falando com quem, quando. Isso em época de eleição, por exemplo, é extremamente útil. E essas câmeras com… (10:44) Reconhecimento do OCR. Inclusive a gente já falou sobre isso aqui em algum episódio passado. Acho que foi sobre o caso Córtex. Uma série de problemas e também basicamente ou virtualmente você consegue saber onde os carros estão e consequentemente onde os, na grande maioria das vezes, os seus donos também estão. Um problema de vigilância mesmo. Virando a chave agora pro Meta, Vinícius, e isso saiu. Deixando bem claro que nós vamos agora refletir aqui ou replicar ou reproduzir uma notícia, um furo dado… (11:24) Pela Reuters, que revelou uma informação muito crítica assim sobre a postura da Meta envolvendo anúncios fraudulentos. Ora, sério? Pois é, sério. Aqui a gente vai falar de informações que vazaram, que a Reuters teve acesso, informações de relatórios internos da Meta. (11:51) Mas assim, é possível dizer que nós no nosso cotidiano, assim, eu principalmente, cara, já vi muito, muitos anúncios de fraude. Instagram, Instagram que é eu, que o Facebook eu não acesso mais, mas Instagram já vi muito. Já tive familiares que caíram e amigos que caíram em golpes de compras feitas por anúncios no Instagram. (12:11) Então, é um negócio mais ou menos conhecido do brasileiro, assim, que tá bastante acostumado a reagir a golpes dos mais variados possíveis. E a gente começa a ficar calejado. Esses dias eu tava alugando um Airbnb essa semana aqui e a dona lá do Airbnb falou: “Ah, me passa o teu e-mail para eu conversar.” Eu disse: “Já fiquei ressabiado.” (12:35) Disse: “Não, vamos manter a conversa por aqui, por dentro da plataforma mesmo. Eu acho que é mais seguro.” E a pessoa: “Não, tudo bem, continuamos por aqui.” Mas o brasileiro ele… Porque muitos desses golpes, a ideia é tirar o cara do canal oficial para levar ele para outro canal. Mas enfim, então o que que eles descobriram desse documento confidencial que vazou? Que em 2024 eles fizeram uma projeção de que 10% dos lucros de anúncios que a Meta teve em todo ano vieram de anúncios com golpes e vendas de bens proibidos, remédios falsificados, remédios proibidos, substâncias proibidas e golpes mesmo… (13:12) Scams, golpes que eles chamam. Isso implicou em 15 bilhões de anúncios fraudulentos, o que representou 16 bilhões de dólares. O que a Meta estornou e não aceitou mais fazer os anúncios? Não, não. Auto lá não. Eles não fizeram isso. Eles ficaram com esses 16 bilhões. Coisas como, cassinos ilegais, produtos médicos proibidos, extorções sexuais, contas falsas fingindo ser celebridades e coisas do gênero. (13:47) A grande questão aqui que me parece que ficou claro é a forma como a plataforma se comportou diante disso, ou seja, ela sabia que parte da sua renda vinha de fraudes. Ela sabia que essas fraudes, vamos lá, essas fraudes estão prejudicando pessoas. Não é algo inofensivo, é algo que causa danos dos mais variados. (14:11) Se você for falar em extorção sexual, esse negócio é seriíssimo. Muito mais sério do que cassino ilegal, por exemplo, mas que também é sério. Então, e isso me parece que é o grande problema. Eles tinham conhecimento. Esse é um outro ponto. A grande maioria desses anúncios, segundo a própria Reuters, eles eram suspeitos o suficiente para serem detectados pelos próprios sistemas que eles tinham para identificação de fraudes. (14:42) Só que eles só banem os anúncios quando há ou quando houver 95% de certeza de que há uma ilegalidade naquele anúncio. E mais a forma como o algoritmo de personalização que a Meta utiliza para te mostrar novos anúncios com base nos anúncios que tu clica. Porque aquela coisa, todo mundo sabe como que é. Não é mais novidade para ninguém. (15:02) Você vai clicar em sapato, camisa e sei lá o que, mas relógio. O Instagram vai ficar te mostrando essas coisas. Por quê? Porque você tem uma personalização ali. Então o que eles descobriram é que quem clica nesses anúncios fraudulentos ficaria por conta do funcionamento do algoritmo sujeito a receber mais anúncios fraudulentos ainda por conta da personalização. Uma vez tá feito. (15:28) É, é bem curioso porque é o tipo de comportamento que se você sabe que aquele anúncio é fraudulento, você poderia não recomendar o anúncio, mas não, não é o que acontece. O que que porta-voz da Meta, o porta-voz Andy Stone, disse que os documentos vistos pela Reuters, abre aspas: “Apresentam uma visão seletiva que distorce a abordagem da Meta em relação a fraudes e golpes.” (15:58) A estimativa interna da empresa de que obteria 10% da sua receita de 2024, proveniente de golpes, scams, era aproximada e excessivamente inclusiva. E a empresa ainda determinou que o número real era menor, porque a estimativa incluía muitos anúncios legítimos também. Qual o problema além do evidente? O problema aqui é uma falta de regulação e é uma consequência direta de como é difícil você contar com a responsabilidade social de uma empresa de grande porte, sobretudo de uma Big Tech hoje, porque… (16:34) A influência dessas empresas na nossa vida é cada vez maior, mais frequente e mais intensa. A gente sequer sabe mais, Vinícius, se o que a gente tá comprando é aquilo que a gente quer comprar mesmo ou aquilo tá sendo influência dos teus hábitos de navegação e de uso de internet. É algo que já virou, não dá mais para saber, sabe? Porque daí você vai pesquisar no YouTube sobre um negócio e aquilo vai começar a aparecer e aparece em outra plataforma e quando você comprou e coisas relacionadas. Esse é um problema. Esses documentos todos e a… (17:11) Reportagem da Reuters vai ficar ali. É super completa. E o que os caras dizem é que esse comportamento da Meta permitiu que se crie, eles se tornassem um pilar de uma economia mundial de fraude. Ou seja, é por meio deles que esse tipo de fraude tá se ampliando no mundo inteiro. (17:36) Os próprios relatórios internos da própria Meta diziam que eles reconheciam que era mais fácil publicar anúncios fraudulentos na Meta do que no Google. Eles fizeram uma análise de custo benefício e análise. A gente sabe como fazer análise de custo benefício, sobretudo nos Estados Unidos, é complicado. Porque lá as multas para esse tipo de análise, ou para esse tipo de manejo assim, são bem altas, bem punitivas mesmo. (18:03) Então, o que que eles fizeram? Eles se sabiam que multas viriam. Eles tinham a noção de que poderiam ser multados, mas as multas seriam muito menores do que o lucro que eles teriam com a aceitação de anúncios fraudulentos. Vamos lá, 10% da renda com anúncios. Além do que nesse meio tempo eles despediram funcionários que lidavam com esses setores internos de fraude. E pior, eles ignoravam 96% dos avisos de fraude. (18:34) Sabe aquela coisa quando você vê o anúncio, fala: “Denunciar.” Você denuncia e aí depois recebe uma mensagem: “Ah, verificamos aqui, não tem nenhum problema.” Pois é, segundo os dados vazados e segundo a Reuters, isso seria 96%. E aí o que que eles ainda fizeram para terminar? Eles tinham uma lista interna dos o que se chamava, eu não sei como traduzir, os scamiest scammers. Scamiest scammers, scammers mais scammers. (19:07) É, os que fazeram os mais, os scammers que aplicaram mais golpes, os piores, entre os piores. E que tem? O que que esses piores fizeram? Enfim, aí o que que a Reuters verificou? Que meses depois desse relatório que vazou, cinco dessas contas chamadas de scamiest scammers ainda estavam no ar. E qual foi a estratégia deles para diminuir essas publicidades? Porque eles sabiam quem eram. Sabiam quais eram. Qual foi a estratégia deles? (19:53) Foi cobrar mais daqueles que tinham suspeitas de fraude. Então eles faziam os penalty bids, ou seja, tipo como se fosse um leilão. Então quando identificava que tinha o potencial de ser fraudulento, eles cobravam mais dessas contas. Essa é a história. A gente vai falando e parece que cada vez foi ficando pior. Mas enfim, essa história como sempre fica aqui os links e você pode, se quiser se aprofundar, pode dar uma olhada lá nessa extensa reportagem da Reuters que explica um pouco dessa dinâmica de anúncios fraudulentos na internet e talvez sirva… (20:29) Pra gente entender o porquê tamos recebendo com tanta intensidade assim anúncios fraudulentos nas redes da Meta. Perfeito, Guilherme. Trago agora o meu, a minha, que a minha filha única, a minha é uma só hoje. Tragemos. O que temos? O que temos é o seguinte, cara. (20:53) Tava a tão esperada atualização do OWASP Top. A tão esperada atualização do OWASP Top 10. Não tá ainda full, é um release candidate. Ah, mas eles prometeram para 2025. Nós estamos com release candidate, ainda estamos em 2025. Então, vamos ver se até o final do ano essa versão aqui já se torna de fato a versão final. A gente tava com a OWASP desde 21, sem atualização, sem o Top 10 sem atualização. (21:26) E então agora houve a atualização, aconteceu a atualização. E eu vou dar uma geral aqui, Guilherme, que a gente tem planos de entrar em maiores detalhes aqui em cada um desses itens. Mas só pra gente ter uma noção do que das danças das cadeiras. Eu até preparei aqui para compartilhar com o pessoal. Para quem tiver acompanhando os… Ah, aqui para quem tiver acompanhando no YouTube. Então aqui é a versão release candidate um. Não quer dizer que é o último release candidate antes da versão final, pode ser, pode ter o dois ainda… (22:01) Mas em essência eu vou destacar aqui para até para eu poder ler e para quem nos acompanha poder ler também. Nós temos, vamos ver, acho que fica, acho que fica bom assim. O Top 10 de… Eu vou de baixo para cima ou de cima para baixo? Que você prefere, Goulart? Eu vou dar. Ah, tanto faz, cara. (22:22) Fica fica à vontade aí. Eu vou de baixo para cima. Então, o A10 de… Que é o… Em 2021, o que era o 10, que era o Server-Side Request Forgery, acabou sumindo, foi retirado. É algo que foi unido ao Broken Access Control. Então o controle de acesso quebrado. O Server-Side Request Forgery é um tipo de ataque específico. Eles até explicam essa decisão de sumir com ele dali e unir ele porque tava meio, não em duplicidade, mas tava meio fora do lugar. Então ele acaba sumindo. Então o A10 de 2021 some… (23:11) E nós temos um novo A10 aqui na de 2025, que é o tratamento inadequado de condições excepcionais. Essa é uma nova, é um novo… Esse item não existia em nenhum dos itens da Top 10 de 2021. Então ele é novo, ele é algo que a gente não tinha visto ainda. Cada um desses controles, eu, por isso que eu digo que nós vamos ter que entrar em detalhes em cada um desses controles, em cada um desses itens. Ele tem uma série de CWEs… (23:50) Que é lá do MITRE, que é um catálogo de vulnerabilidades, não de vulnerabilidades conhecidas, mas tipo de fragilidades conhecidas. São tipos de fragilidades, não são vulnerabilidades específicas de um software. E eles, então, em cada um desses itens agregaram uma série dessas vulnerabilidades. (24:13) O que tem no A10 essencialmente é tratamento inadequado de erro, erros de lógica, erros que falham, coisas que falham aberto, ou seja, algo que ao dar, ao não funcionar adequadamente, acaba falhando de tal maneira que deixa algum controle, o acesso a alguma informação, acesso a alguma funcionalidade simplesmente aberto e não inacessível. E outros cenários que eles trazem. O nosso A9 de 2021, que é o Security Logging and Monitoring Failures. Então, falhas de monitoramento e de segurança e falhas de monitoramento… (24:53) Por si só. Continuou no nono lugar. Porém mudou um pouquinho o nome, virou só Logging and Alert Failures. Então, continuou no nono local, nono lugar. O A número oito, que é o Software and Data Integrity Failures, que é a falha de integridade de software e dados. Acabou se mantendo também em oitavo lugar. (25:25) Em sétimo lugar, as falhas de autenticação. Antes era falhas de autenticação e identificação, agora é só falha de autenticação que engloba tudo. Então, essencialmente aí no finalzinho diferente, na teoria da segurança. É, na verdade eles englobaram na mesma. Porque tem várias situações de overlap ali. (25:46) Para autentificar, tu tem que autenticar, tu tem que identificar. Então, acabou ficando nesse lugar. Então, o sétimo, o oitavo e o nono lugares se mantiveram exatamente os mesmos de 2021. As mudanças começam daí para cima. Então nós tivemos uma, uma caiu para quarto lugar. Agora eu vou pegar uns três no meio ali do miolo. Caiu para quarto lugar as falhas criptográficas. Em que uso de algoritmos de criptografia de maneira inadequada, vetores de inicialização errados e outras coisas mais. A… (26:25) Injeção, o Injection. Que entra aí o SQL Injection. Então você tem SQL Injection e qualquer outro tipo de injeção de comandos e coisas do gênero. Você também tá tendo essa falha. Então veio do segundo lugar, falha de criptografia veio pro quarto, Injection veio do terceiro lugar pro quinto, elas vieram juntinhas. E Design Inseguro. O Design Inseguro ele é bem genérico, não são falhas, não são erros de codificação, mas foram coisas que foram projetadas de forma insegura. (27:04) Então não foi um problema na implementação, elas foram projetadas de forma insegura, foram implementadas segundo o projeto e aí há um problema de segurança. E isso caiu de quarto lugar para sexto lugar. (27:23) Bom, quem que foi então pro segundo e terceiro lugares? Antes da gente dizer quem tá em primeiro, o segundo e terceiro lugares, eles ficaram com a Componentes… Componentes vulneráveis e desatualizados, que mudou de nome. Então, essa tava no sexto lugar, foi para terceiro, e o novo nome é Software Supply Chain Failures. Então, falhas da cadeia de fornecimento em que você usa bibliotecas, tanto bibliotecas tanto no momento do fazer o building do software, que é, em várias situações, quando tu vai fazer o building, a biblioteca não tá ali, ele vai lá e baixa a biblioteca de algum repositório na internet e usa essa biblioteca para fazer a… (28:03) Construção do software ali para fazer o deploy na sequência. Então tem vários tipos de problemas de supply chain que entraram. Então vieram lá do sexto lugar, agora em terceiro lugar. Então é algo importante a ser observado. Erros de configuração. (28:23) E aqui é muito interessante. Eles citam que muito da infraestrutura, à medida que a gente migra para nuvem, à medida que tu passa a ter a infraestrutura como um, uma, como um software que tu configuras, tem cada vez mais erros de configuração e isso fez então o Security Misconfiguration vir lá do quinto lugar e vir parar em segundo lugar em 2025. E o A número um, que já tá como número um já há pelo menos dois Top 10. São os controles, o Broken Access Control, controles de acesso quebrado, são falhas gerais de controle de acesso. Desde alterar um ID, acessar… (29:04) Informação que não deveria até tu mudar uma flag e conseguir virar administrador num sistema ou de repente fazer acesso direto a uma URL e aí tu não precisar de autenticação para acessar aquela informação. Tem de tudo ali dentro relacionado a Broken Access Control. E esse é o top, é o, é a primeira do Top 10 de 2025 do OWASP. E se manteve, vem se mantendo. (29:34) E uma coisa que me chamou atenção, Guilherme, eles até, tá aqui o dado na tela. Depois eu vou ter que olhar com mais detalhes quando a gente for destrinchar cada um desses itens aqui. Eles dizem que na média 3,73% das aplicações testadas tinham um ou mais dos 40 CWEs que estão nessa categoria. (30:03) Eu achei muito baixo. Por que que eu achei muito baixo? Porque é muito difícil tu avaliar uma aplicação que não tenha esse tipo de problema aqui. Assim, baixíssimo. Se fosse 20% eu ia dizer baixo. Então eu vou precisar entender um pouquinho melhor qual foi o conjunto de dados que eles usaram como origem. Eles fazem com base em entrevistas. Mas eles detalham um pouco melhor com base no que isso aqui foi definido porque é muito baixo, porque a gente tem muito problema de controle de acesso quebrado. (30:35) Guilherme, deixa eu só fazer, abrir um parênteses aqui, Vinícius. A minha qualidade de vídeo aqui deve tá indo terrivelmente ruim para você, porque eu tô te vendo muito mal e eu vi que a gravação do último episódio a tua tá razoável. É, eu tô vendo agora, tá, mas tá pequenininho. Tô vendo pequenininho que tá. (30:53) Eu tô vendo, tua tá não tá muito boa mesmo. Eu tô vendo o teu retorno como se fosse 8 bits, assim, eu sequer consigo ler direito o que tá na tela aqui. Então, e não é internet. Não é internet. Depois eu vou ter que descobrir isso. Mas eu só falo isso para quem tiver vendo no YouTube. (31:10) Desculpa se tiver essa qualidade que eu tô vendo aqui, tá horrível. Vou te mandar aqui para ver como é que tá aí. E então, mas você, se você puder subir um pouquinho ali, até para quem tá no YouTube, mas para mostrar aquela mudança ali, eu achei bem interessante e os que subiram. A Security Misconfiguration, isso indica tendências do que tá acontecendo no mundo também. Porque eles ordenam, não é somente 10 categorias, são 10 categorias que mais aparecem agregadas ou colocadas ali num nível hierárquico do que mais acontece para menos acontece. Então, quando a gente vê essas mudanças… (31:47) De ordenamento, o que era o quinto ali vai pro segundo, o que era o segundo vai pro quarto e por aí vai, isso diz muito sobre os ambientes, sobre o que tá acontecendo no mundo da segurança também. Agora eu quero te fazer uma pergunta. Fale, é para um testador, para uma pessoa que vai realizar testes de invasão, para um, para uma empresa como a BrownPipe que realiza testes de invasão, inclusive. Ah, entendi. (32:18) Quer fazer? Qual é o papel da OWASP para empresas como a BrownPipe? Cara, eu acho que tem, primeiro a OWASP, ela é um norte com relação ao tipo de coisa que é mais comum e sendo já indicado como mais comum, é o tipo de coisa que é mais procurada também. (32:43) Então, e ela é uma referência que a gente utiliza quando faz pentest. Não só o Top 10, mas todo o corpo do WSTG da OWASP. Porque tem a lista de testes a serem feitos mais. Mas aqui é importante, é muito interessante quando tu encontra uma vulnerabilidade que se encaixa num desses itens, tu dizer: “Olha, essa vulnerabilidade que tu tens, ela tá no Top 10. Ou seja, é algo extremamente comum.” (33:09) Eu vou ter que mutar para só um pouquinho. Vai lá. Enquanto isso, o Vinícius torce. Voltei. Então assim, ela é extremamente preocupante quando tu tens uma série de vulnerabilidades nos teus sistemas que se encaixam no Top 10. Porque isso aqui não, não é, é importante pro pentest, é mais para ajudar a classificar as coisas, mas isso aqui é muito importante para quem desenvolve. (33:37) Porque quem desenvolve, olhando isso aqui, se você der uma estudada no Top 10, você vai ver pelo menos quais são os erros mais comuns, que no final das contas vulnerabilidade acaba sendo erro de programação. Dificilmente é algo diferente disso. Acontece de ser algo diferente disso. Mas em geral são erros de programação. (34:00) Então se eu pegar por exemplo aqui o Broken Access Control A01 aqui, que é o primeiro, vou clicar nele, ele vai me trazer os 25 controles aqui, os 25 CWEs mapeados para esse item. Então tem uma série de, assim, limitação imprópria de um caminho ou de um diretório restrito, Path Traversal. Cara, isso aqui, esse erro CWE-22, essa aqui é a famosa do usar o ponto ponto para te ir para um outro lugar qualquer. Tu listar lá o que não deveria tá listado na internet, ou listar ou gravar onde não deveria ou tu ler de algum lugar que não deveria. E… (34:40) Isso aqui você encontra. Esse tipo de você encontra. Isso aqui faz parte do A01. Aí tem, vamos ver aqui, pegar um que seja comum aqui. Aqui. Permissões incorretas por default. Nossa, isso aqui nem se fala. Improper Access Control, que é muito genérico. (35:09) CSRF, você não ter proteção contra o Cross-Site Request Forgery, ou seja, eu gerar uma requisição de alguma forma que tu vai acessar o meu site, algo que eu controlo, eu vou te entregar uma requisição pronta para te fazer num sistema que tu acessa e tu vai abrir essa requisição no teu navegador e ele vai executar dentro da sessão que tu estás logado naquele momento. (35:28) E aí eu posso criar um usuário e, depende, os efeitos são os mais diversos possíveis, mas tem várias aqui. Acesso direto, acesso direto é aquele eu tento pular interfaces que fazem autenticação e tal antes de chegar no destino final e aí eu vou direto no destino final, eu consigo acessar sem autenticação. (35:50) De novo e por aí vai. Tem várias coisas aqui dentro. Então isso aqui são erros comuns que se a equipe de desenvolvimento tiver antenada, ela já vai evitar uma série de dor de cabeça e já vai reduzir um monte de coisa que quem vai fazer pentest acaba encontrando. (36:10) Agora, uma coisa muito interessante, Guilherme, agora sim, fazendo jabá para BrownPipe. Quando a gente faz pentest, a gente não pega uma ferramenta, um software qualquer e fica disparando o software, vê o que ele encontra e deu e acabou. Porque em geral ele vai encontrar aquelas coisas muito óbvias e que estejam acessíveis. (36:27) Então vai fazer um Black Box com uma ferramenta dessas, provavelmente não vai encontrar nada. Você recebeu um relatório dizendo: “Foi feito testes, foram executados não sei quantos milhares de testes e não foi encontrado nenhum problema relevante,” não sei que coisa parecida. Na BrownPipe a gente sempre recomenda que sejam feitos testes White Box. (36:51) A gente tem inclusive um vídeo sobre isso que nós vamos compartilhar no show notes depois, no nosso YouTube também para você ver lá o porquê você deve fazer White Box. A gente já percebe em razão desses movimentos todos aí que tem acontecido do sistema bancário. A gente já começa a perceber bancos demandando que as empresas, suas fornecedoras, façam testes White Box e que não podem ser automatizados. Então a BrownPipe já faz isso há muito tempo. (37:20) Óbvio que a gente usa a ferramenta também. Ou seja, tem que usar o que todo mundo utiliza para encontrar o comunzão que todo mundo acha, mas nós prezamos por um trabalho personalizado, humano, human in the loop, pra gente conseguir catar coisas que a ferramenta ainda não consegue. Talvez no futuro venha a conseguir, mas por enquanto ainda não faz. (37:44) Então, se quiser alguma coisa realmente certeira, bem documentada e que você sabe que foi revisado e não foi simplesmente rodada uma ferramenta qualquer, a BrownPipe tem um serviço certo para você aí de pentest. Jabá, Guilherme. Pronto. Certo. Eu t paste.txt Com base na transcrição do podcast fornecida, aqui está o texto corrigido e a análise solicitada. Transcrição Corrigida (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 407, gravado em 11 de novembro de 2025. Eu sou Guilherme Goulart, junto com o Vinícius Serafim, vamos trazer para vocês algumas notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme, tudo bem? Olá, aos nossos ouvintes. 11 de 11 hoje. Hoje tem promoção em tudo quanto é coisa.​ (00:31) Na época de mentirinha, mas este é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção. Pegue o seu café e venha conosco. E você já sabe, para entrar em contato com a gente é muito fácil, basta enviar uma mensagem para [email protected], Mastodon, Instagram, Bluesky e YouTube.​ (00:48) E agora, Vinícius, se você é jovem, TikTok também. Estamos lá com alguns vídeos que já estão sendo publicados, alguns cortes do podcast Segurança Legal. Convidamos você a acompanhar a nossa campanha de financiamento coletivo no Apoia-se: apoia.se/segurancalegal. Você pode contribuir e também fazer parte do nosso grupo exclusivo de apoiadores no Telegram.​ (01:14) Vinícius, quer mandar uma mensagem para o Isaac Melo? Um abraço para o Isaac Melo, que nos mandou algumas informações, algumas dicas de uma notícia. Nós vamos dar uma olhada nos links que você nos passou, Isaac. Muitíssimo obrigado. A gente vai dar uma olhada. Valeu, Isaac.​ (01:38) Continue sempre conosco. A primeira notícia, Vinícius, é um misto de felicidade pelo reconhecimento e pela sanção da Lei 15.254, agora de 2025, que definiu o Dia Nacional de Proteção de Dados. E esse Dia Nacional de Proteção de Dados, Vinícius, que é no dia 17 de julho, é nada mais nada menos do que a data de nascimento do Danilo Doneda. Para quem não sabe, o pai da proteção de dados no Brasil, um grande jurista que nos deixou recentemente. Gravamos com ele aqui no podcast, fizemos um episódio de homenagem a ele depois do seu passamento.​ (02:28) É uma homenagem muito justa, muito válida, porque realmente o Danilo era um cara incrível e, dá para se dizer, foi uma força agregadora em torno da qual nasce a Lei de Proteção de Dados. Claro, passa pelo processo legislativo todo, mas ele era um cara muito agregador.​ (02:49) Então, temos aqui o nosso Dia Nacional de Proteção de Dados como homenagem ao nosso querido amigo Danilo Doneda. Fica aí uma mininotícia. Eu disse antes, um misto de felicidade, mas também com saudade. Fica a homenagem. São coisas da vida. Furto no Louvre, Vinícius, você ficou sabendo? Sim, sim.​ (03:13) Famoso furto. O pessoal encostou lá uma escada, um caminhãozinho com uma escada basculante. Cortaram o vidro com uma serra giratória ou algo parecido, subiram lá, entraram e roubaram mais de 100 milhões. Está sumido mais de 100 milhões ainda. Eu tinha visto que da última vez eram 88 milhões de euros. Eram joias que ficavam na galeria de Apolo.​ (03:44) Eram oito peças que eram joias da coroa francesa, do que foi a coroa francesa, inclusive uma coroa também. E algumas pessoas dizem que o valor é inestimável pela questão do valor histórico, não somente o valor das joias. Sem dúvida.​ (04:04) Então, agora no dia 19 de outubro, alguns ladrões, foi uma coisa de filme. Certamente. Esses ladrões se disfarçaram, roubaram em só 7 minutos. Exatamente. Mais ou menos 7 minutos. E eles se disfarçaram de prestadores de serviços para acessar o Louvre. A coisa mais interessante disso, Vinícius, e eu tomei o cuidado de perguntar para o Vinícius se ele tinha ouvido falar disso, então vai ser uma surpresa para ele também, é que o portal Check News obteve resultados de auditorias realizadas entre 2014 e 2024. E um dos problemas que eles encontraram…​ (04:43) é que a senha do sistema de videovigilância, Vinícius, sabe qual era? Não sei qual. A senha do sistema de vídeovigilância era Louvre. E eles tinham um outro sistema, eu não tentaria essa senha. Ninguém iria colocar essa senha.​ (05:13) Eu não tentaria. Não é possível. Mas foi. Uma das senhas era Louvre e eles usavam um outro sistema de monitoramento também, de nome Thales, e a senha do sistema era Thales também. Claro, óbvio. E além de outros problemas que envolveram o uso de sistemas operacionais antigos como Windows XP e o Windows 2000.​ (05:39) Qual foi o papel dessa senha fraca? Foi que, segundo li nos portais, eles se utilizaram dessa senha fraca para desativar o sistema de videovigilância enquanto estavam realizando o furto. Claro que o caso é meio pitoresco, a gente deu risada, mas não é algo engraçado. Bem pelo contrário, é um crime, é um assalto. E menos mal que não teve nenhuma vítima. Exato. Mas é um patrimônio.​ (06:14) Claro que há todas as contradições da monarquia francesa, de como eram ricos e aqueles prédios, mas isso não vem ao caso agora. O que vem ao caso, e acho que dá para lincar esse caso meio pitoresco com as nossas temáticas aqui, é uma tendência que a gente vê em alguns casos de um certo descuido e até de um certo desprezo de sistemas como esse de videovigilância. Você tem casos que às vezes isso não está bem dentro da TI, não é gerenciado pela TI, fica numa zona meio…​ (06:48) Fica num limbo. Fica num limbo e quem deveria ser responsável por isso não sabe operar direito. Isso acaba ficando no colo da TI e aí vêm aquelas demandas de: “Tem que abrir para acesso remoto, quero acessar de casa”. Aí às vezes você vai e o cara: “Olha, melhor não”. “Não, mas eu quero”.​ (07:12) Daí vem de cima, a pessoa quer acessar. Aí libera, acessa, depois esquece que isso existe e fica lá o acesso. Você imagina o quão importante é isso para o museu mais importante do mundo? A segurança física. Claro. A segurança física ali é essencial nesse caso.​ (07:36) São objetos dos mais variados que estão fisicamente guardados, sob a guarda do Louvre. E nem sempre os objetos pertencem ao museu, eles podem estar momentaneamente cedidos. Tem mais essa ainda por cima. E você tem aquela questão de que muitos desses objetos foram pegos pelos franceses em circunstâncias históricas que hoje demandariam, na Europa de maneira geral, Londres também, a questão da restituição, da repatriação desses materiais. Mas voltando para a segurança, Vinícius, às vezes fica…​ (08:16) quase como uma questão de zeladoria. Você tem dois problemas aí. Primeiro, o papel da segurança física no mundo da segurança da informação, que é flagrantemente menosprezado e relevado. E parece que foi o caso aqui, veja, no Louvre. E até se pensa: “Não, mas ninguém teria a audácia de…”. Sim, isso de fato aconteceu.​ (08:39) Fica um alerta para as organizações que prestem atenção nesse aspecto de segurança física e no aspecto de monitoramento. Porque também não podemos esquecer que imagens de vídeo que envolvem pessoas, ou seja, que filmam pessoas de alguma forma, constituem dados pessoais e, por isso, também ficam cobertas pelas proteções da LGPD.​ (09:04) Então, é algo bem crítico. Às vezes a gente vê em alguns locais que o livre acesso às câmeras de monitoramento dentro de uma organização é algo que tem que ser visto com muito cuidado, porque pode representar também uma violação à LGPD, o descuido e até mesmo o vazamento desse tipo de imagem. E que vai se estender inclusive para situações também menos observadas, que é a questão dos condomínios. A gente até falou um pouco aqui sobre biometria nos condomínios, mas se insere nesse grande mundo da…​ (09:33) segurança física dentro da segurança da informação. Sem dúvida. E a gente tem aquelas questões de vigilância em cidades. O pessoal quer câmeras em ambientes públicos para saber de todo mundo.​ (09:52) Numa cidade grande até dá um certo anonimato. Eu digo um certo, porque tem muita gente. Mas logo isso vai ser resolvido, já está sendo resolvido com a IA rastreando e reconhecendo todo mundo, não importa o número de pessoas.​ (10:11) Mas em cidades menores, como por exemplo Três de Maio, com 25.000 habitantes, ou cidades ainda menores que tem aqui na volta, se você põe um sistema desses, sabe quem foi falar com quem, a que horas. As nossas cidades, que são pequenininhas, têm uma ou duas ruas principais. Para ir a qualquer lugar, você passa nessas ruas, e tendo algumas câmeras ali, já consegue saber quem está falando com quem, quando. Isso em época de eleição, por exemplo, é extremamente útil. E essas câmeras com…​ (10:44) reconhecimento do OCR. Inclusive a gente já falou sobre isso aqui em algum episódio passado, acho que sobre o caso Córtex. Uma série de problemas e também basicamente ou virtualmente você consegue saber onde os carros estão e, consequentemente, onde na grande maioria das vezes os seus donos também estão. Um problema de vigilância mesmo. Virando a chave agora para a Meta, Vinícius, e isso saiu, deixando bem claro que nós vamos agora refletir aqui, replicar ou reproduzir uma notícia, um furo dado…​ (11:24) pela Reuters, que revelou uma informação muito crítica sobre a postura da Meta envolvendo anúncios fraudulentos. Ora, sério? Pois é, sério. Aqui a gente vai falar de informações que vazaram, que a Reuters teve acesso, informações de relatórios internos da Meta.​ (11:51) É possível dizer que no nosso cotidiano, eu principalmente, já vi muitos anúncios de fraude no Instagram. O Facebook eu não acesso mais, mas no Instagram já vi muito. Já tive familiares e amigos que caíram em golpes de compras feitas por anúncios no Instagram.​ (12:11) Então, é um negócio mais ou menos conhecido do brasileiro, que está bastante acostumado a reagir a golpes dos mais variados possíveis, e a gente começa a ficar calejado. Esses dias eu estava alugando um Airbnb e a dona falou: “Ah, me passa o teu e-mail para eu conversar”. Eu já fiquei ressabiado.​ (12:35) Disse: “Não, vamos manter a conversa por aqui, por dentro da plataforma mesmo. Eu acho que é mais seguro”. E a pessoa: “Não, tudo bem, continuamos por aqui”. Mas o brasileiro… porque a ideia de muitos desses golpes é tirar a pessoa do canal oficial para levá-la para outro canal. O que eles descobriram desse documento confidencial que vazou? Que em 2024 eles fizeram uma projeção de que 10% dos lucros de anúncios que a Meta teve em todo o ano vieram de anúncios com golpes e vendas de bens proibidos, remédios falsificados, substâncias proibidas e golpes mesmo…​ (13:12) Scams. Isso implicou em 15 bilhões de anúncios fraudulentos, o que representou 16 bilhões de dólares. O que a Meta estornou e não aceitou mais fazer os anúncios? Não. Eles não fizeram isso. Eles ficaram com esses 16 bilhões. Coisas como cassinos ilegais, produtos médicos proibidos, extorsões sexuais, contas falsas fingindo ser celebridades e coisas do gênero.​ (13:47) A grande questão aqui que me parece que ficou claro é a forma como a plataforma se comportou diante disso. Ou seja, ela sabia que parte da sua renda vinha de fraudes. Ela sabia que essas fraudes estão prejudicando pessoas. Não é algo inofensivo, é algo que causa danos dos mais variados.​ (14:11) Se você for falar em extorsão sexual, esse negócio é seríssimo. Muito mais sério do que cassino ilegal, por exemplo, mas que também é sério. E isso me parece que é o grande problema. Eles tinham conhecimento. Esse é um outro ponto. A grande maioria desses anúncios, segundo a própria Reuters, eram suspeitos o suficiente para serem detectados pelos próprios sistemas que eles tinham para identificação de fraudes.​ (14:42) Só que eles só banem os anúncios quando há 95% de certeza de que há uma ilegalidade. E mais, a forma como o algoritmo de personalização que a Meta utiliza para te mostrar novos anúncios com base nos que você clica. Porque aquela coisa, todo mundo sabe como é.​ (15:02) Você vai clicar em sapato, camisa, sei lá, relógio. O Instagram vai ficar te mostrando essas coisas. Por quê? Porque você tem uma personalização ali. O que eles descobriram é que quem clica nesses anúncios fraudulentos ficaria, por conta do funcionamento do algoritmo, sujeito a receber mais anúncios fraudulentos ainda por conta da personalização. Uma vez feito…​ (15:28) É bem curioso, porque é o tipo de comportamento que, se você sabe que aquele anúncio é fraudulento, poderia não recomendar mais anúncios, mas não é o que acontece. O porta-voz da Meta, Andy Stone, disse que os documentos vistos pela Reuters, abre aspas: “Apresentam uma visão seletiva que distorce a abordagem da Meta em relação a fraudes e golpes”.​ (15:58) A estimativa interna da empresa de que obteria 10% da sua receita de 2024, proveniente de golpes e scams, era aproximada e excessivamente inclusiva. E a empresa ainda determinou que o número real era menor, porque a estimativa incluía muitos anúncios legítimos também. Qual o problema além do evidente? O problema aqui é a falta de regulação e uma consequência direta de como é difícil contar com a responsabilidade social de uma empresa de grande porte, sobretudo de uma Big Tech hoje, porque…​ (16:34) a influência dessas empresas na nossa vida é cada vez maior, mais frequente e mais intensa. A gente sequer sabe mais, Vinícius, se o que a gente está comprando é aquilo que a gente quer mesmo ou se está sendo influência dos nossos hábitos de navegação e de uso de internet. É algo que já virou, não dá mais para saber. Porque você vai pesquisar no YouTube sobre um negócio, aquilo vai começar a aparecer em outra plataforma e, quando você vê, já comprou e coisas relacionadas. Esse é um problema. Esses documentos e a…​ (17:11) reportagem da Reuters é super completa. E o que dizem é que esse comportamento da Meta permitiu que eles se tornassem um pilar de uma economia mundial de fraude. Ou seja, é por meio deles que esse tipo de fraude está se ampliando no mundo inteiro.​ (17:36) Os próprios relatórios internos da Meta diziam que eles reconheciam que era mais fácil publicar anúncios fraudulentos na Meta do que no Google. Eles fizeram uma análise de custo-benefício, e a gente sabe como fazer análise de custo-benefício, sobretudo nos Estados Unidos, é complicado, porque lá as multas para esse tipo de manejo são bem altas, bem punitivas mesmo.​ (18:03) Então, o que eles fizeram? Eles sabiam que multas viriam. Tinham a noção de que poderiam ser multados, mas as multas seriam muito menores do que o lucro que eles teriam com a aceitação de anúncios fraudulentos. Vamos lá, 10% da renda com anúncios. Além do que, nesse meio tempo, eles despediram funcionários que lidavam com esses setores internos de fraude. E pior, ignoravam 96% dos avisos de fraude.​ (18:34) Sabe quando você vê o anúncio, denuncia e depois recebe uma mensagem: “Ah, verificamos aqui e não tem nenhum problema”? Pois é, segundo os dados vazados e segundo a Reuters, isso aconteceria em 96% dos casos. E o que eles ainda fizeram para terminar? Eles tinham uma lista interna do que se chamava “os scamiest scammers”. Os scammers mais scammers.​ (19:07) Os que aplicaram mais golpes, os piores entre os piores. E o que a Reuters verificou? Que meses depois desse relatório que vazou, cinco dessas contas chamadas de “scamiest scammers” ainda estavam no ar. E qual foi a estratégia deles para diminuir essas publicidades? Porque eles sabiam quem eram, sabiam quais eram.​ (19:53) Foi cobrar mais daqueles que tinham suspeitas de fraude. Então eles faziam os “penalty bids”, ou seja, como se fosse um leilão. Quando identificavam que tinha o potencial de ser fraudulento, cobravam mais dessas contas. Essa é a história. A gente vai falando e parece que cada vez fica pior. Mas essa história, como sempre, ficam aqui os links, e você pode, se quiser se aprofundar, dar uma olhada nessa extensa reportagem da Reuters que explica um pouco dessa dinâmica de anúncios fraudulentos na internet e talvez sirva…​ (20:29) para a gente entender o porquê estamos recebendo com tanta intensidade anúncios fraudulentos nas redes da Meta. Perfeito, Guilherme. Trago agora a minha única notícia de hoje. O que temos é o seguinte:​ (20:53) a tão esperada atualização do OWASP Top 10. Não está ainda finalizada, é um “release candidate”. Eles prometeram para 2025. Estamos com um “release candidate”, ainda em 2025. Então, vamos ver se até o final do ano essa versão se torna a versão final. Estávamos com o OWASP Top 10 sem atualização desde 2021.​ (21:26) E então agora houve a atualização. Vou dar uma geral aqui, Guilherme, já que temos planos de entrar em maiores detalhes em cada um desses itens. Mas só para termos uma noção da dança das cadeiras. Eu até preparei aqui para compartilhar com o pessoal que estiver acompanhando no YouTube. Esta é a versão “release candidate 1”. Não quer dizer que seja o último “release candidate” antes da versão final, pode haver o dois ainda.​ (22:01) Mas, em essência, vou destacar aqui. Vou de baixo para cima ou de cima para baixo? O que você prefere, Goulart? Tanto faz.​ (22:22) Fique à vontade. Vou de baixo para cima. O A10 de 2021, que era o “Server-Side Request Forgery” (SSRF), acabou sumindo, foi retirado. É algo que foi unido ao “Broken Access Control” (Controle de Acesso Quebrado). O SSRF é um tipo de ataque específico. Eles até explicam a decisão de retirá-lo e unir a outro item porque estava meio fora do lugar. Então, o A10 de 2021 some…​ (23:11) e nós temos um novo A10 em 2025, que é o “Tratamento Inadequado de Condições Excepcionais”. Este item é novo. Cada um desses itens tem uma série de CWEs…​ (23:50) que é do MITRE, um catálogo de tipos de fragilidades conhecidas, não de vulnerabilidades específicas de um software. E eles, em cada um desses itens, agregaram uma série dessas vulnerabilidades.​ (24:13) O que tem no A10 essencialmente é tratamento inadequado de erro, erros de lógica, coisas que “falham aberto”, ou seja, algo que, ao não funcionar adequadamente, acaba falhando de tal maneira que deixa algum controle ou acesso simplesmente aberto, e não inacessível, entre outros cenários. O nosso A9 de 2021, “Security Logging and Monitoring Failures” (Falhas de Log e Monitoramento de Segurança)…​ (24:53) continuou no nono lugar, porém mudou um pouquinho o nome, virou só “Logging and Alerting Failures”. O A8, “Software and Data Integrity Failures” (Falhas de Integridade de Software e Dados), acabou se mantendo também em oitavo lugar.​ (25:25) Em sétimo lugar, as “Falhas de Autenticação”. Antes era “Falhas de Autenticação e Identificação”, agora é só “Falha de Autenticação”, que engloba tudo. Essencialmente, um finalzinho diferente na teoria da segurança. Na verdade, eles englobaram na mesma, porque tem várias situações de sobreposição ali.​ (25:46) Para autenticar, você tem que identificar. Então, acabou ficando nesse lugar. O sétimo, o oitavo e o nono lugares se mantiveram exatamente os mesmos de 2021. As mudanças começam daí para cima. Tivemos uma que caiu para quarto lugar. Agora vou pegar os três do meio. Caíram para quarto lugar as “Falhas Criptográficas”, como o uso de algoritmos de criptografia de maneira inadequada, vetores de inicialização errados e outras coisas mais.​ (26:25) “Injection” (Injeção), que inclui o SQL Injection e qualquer outro tipo de injeção de comandos. Essa falha veio do terceiro lugar para o quinto. E “Design Inseguro”, que é bem genérico, não são erros de codificação, mas coisas que foram projetadas de forma insegura.​ (27:04) Não foi um problema na implementação, foram projetadas de forma insegura, implementadas segundo o projeto, e aí há um problema de segurança. E isso caiu de quarto para sexto lugar.​ (27:23) Bom, quem foi então para segundo e terceiro lugares? Antes de dizermos quem está em primeiro, o segundo e terceiro lugares ficaram com “Componentes Vulneráveis e Desatualizados”, que mudou de nome. Estava em sexto lugar, foi para terceiro, e o novo nome é “Software Supply Chain Failures” (Falhas na Cadeia de Suprimentos de Software), que é quando você usa bibliotecas, tanto no momento de construir o software, que às vezes ele baixa de algum repositório na internet…​ (28:03) para fazer a construção. Então, tem vários tipos de problemas de “supply chain” que entraram. Veio do sexto para o terceiro lugar, algo importante a ser observado. “Erros de Configuração”.​ (28:23) E aqui é muito interessante. Eles citam que, à medida que migramos para a nuvem e passamos a ter a infraestrutura como software que você configura, há cada vez mais erros de configuração. Isso fez o “Security Misconfiguration” vir do quinto para o segundo lugar em 2025. E o número 1, que já está como número 1 há pelo menos dois Top 10s, é o “Broken Access Control” (Controle de Acesso Quebrado), que são falhas gerais de controle de acesso. Desde alterar um ID…​ (29:04) para acessar informação que não deveria, até mudar uma flag e conseguir virar administrador em um sistema, ou fazer acesso direto a uma URL e não precisar de autenticação. Tem de tudo ali dentro relacionado a “Broken Access Control”. Esse é o primeiro do Top 10 de 2025 do OWASP. E vem se mantendo.​ (29:34) Uma coisa que me chamou a atenção, Guilherme: eles dizem que, na média, 3,73% das aplicações testadas tinham um ou mais dos 40 CWEs que estão nessa categoria.​ (30:03) Eu achei muito baixo. Por quê? Porque é muito difícil avaliar uma aplicação que não tenha esse tipo de problema. Baixíssimo. Se fosse 20%, eu diria que é baixo. Vou precisar entender um pouquinho melhor qual foi o conjunto de dados que eles usaram como origem. Eles fazem com base em entrevistas, mas detalham um pouco melhor a base para essa definição, porque é muito baixo. Temos muitos problemas de controle de acesso quebrado.​ (30:35) Guilherme, deixa eu só fazer um parênteses. A minha qualidade de vídeo aqui deve estar terrivelmente ruim para você, porque estou te vendo muito mal, e vi que na gravação do último episódio a sua está razoável. É, estou vendo agora, mas está pequenininho.​ (30:53) A sua qualidade não está muito boa mesmo. Estou vendo o seu retorno como se fosse 8 bits, sequer consigo ler direito o que está na tela. E não é internet. Depois vou ter que descobrir o que é. Mas falo isso para quem estiver vendo no YouTube.​ (31:10) Desculpa se a qualidade estiver como estou vendo aqui, está horrível. Se você puder subir um pouquinho ali, até para quem está no YouTube, para mostrar aquela mudança, achei bem interessante as que subiram. O “Security Misconfiguration” indica tendências do que está acontecendo no mundo. Porque eles ordenam; não são somente 10 categorias, são as 10 que mais aparecem, hierarquizadas da que mais acontece para a que menos acontece. Quando vemos essas mudanças…​ (31:47) de ordenamento, o que era o quinto vai para o segundo, o que era o segundo vai para o quarto, e por aí vai. Isso diz muito sobre os ambientes e sobre o que está acontecendo no mundo da segurança. Agora quero te fazer uma pergunta. Para um testador, uma pessoa que vai realizar testes de invasão, para uma empresa como a BrownPipe, qual é o papel do OWASP?​ (32:18) Quer fazer? Qual é o papel do OWASP para empresas como a BrownPipe? Cara, primeiro, o OWASP é um norte com relação ao tipo de coisa que é mais comum e, sendo indicado como mais comum, é o tipo de coisa que é mais procurada também.​ (32:43) E é uma referência que utilizamos quando fazemos pentest. Não só o Top 10, mas todo o corpo do WSTG do OWASP, porque tem a lista de testes a serem feitos. Mas aqui é importante; é muito interessante quando você encontra uma vulnerabilidade que se encaixa em um desses itens, dizer: “Olha, essa vulnerabilidade que você tem está no Top 10, ou seja, é algo extremamente comum”.​ (33:09) Vou ter que mutar um pouquinho. Vai lá. Voltei. Então, é extremamente preocupante quando você tem uma série de vulnerabilidades nos seus sistemas que se encaixam no Top 10. Porque isso é muito importante para quem desenvolve.​ (33:37) Porque quem desenvolve, olhando isso aqui, se der uma estudada no Top 10, vai ver pelo menos quais são os erros mais comuns. No final das contas, vulnerabilidade acaba sendo erro de programação. Dificilmente é algo diferente disso. Acontece, mas em geral são erros de programação.​ (34:00) Então, se eu pegar por exemplo aqui o “Broken Access Control”, o A01, que é o primeiro, e clicar nele, ele vai me trazer os 25 CWEs mapeados para este item. Tem uma série deles, como “limitação imprópria de um caminho ou de um diretório restrito”, o “Path Traversal”. Cara, esse erro, CWE-22, é o famoso “usar o ponto ponto” para ir para outro lugar, listar o que não deveria estar na internet, gravar onde não deveria ou ler de onde não deveria.​ (34:40) Isso você encontra. Esse tipo de coisa faz parte do A01. Tem também, vamos ver, um que seja comum aqui. Permissões incorretas por padrão. Nossa, isso nem se fala. “Improper Access Control”, que é muito genérico.​ (35:09) CSRF, não ter proteção contra o “Cross-Site Request Forgery”. Ou seja, eu gero uma requisição de alguma forma, você acessa o meu site, algo que eu controlo, eu te entrego uma requisição pronta para fazer em um sistema que você acessa, você abre essa requisição no seu navegador e ele a executa dentro da sua sessão logada.​ (35:28) E aí eu posso criar um usuário… os efeitos são os mais diversos possíveis. Acesso direto é aquele em que eu tento pular interfaces que fazem autenticação para chegar no destino final, e aí eu vou direto no destino final e consigo acessar sem autenticação.​ (35:50) E por aí vai. Tem várias coisas aqui dentro. São erros comuns que, se a equipe de desenvolvimento estiver antenada, já vai evitar muita dor de cabeça e reduzir um monte de coisas que quem vai fazer pentest acaba encontrando.​ (36:10) Agora, uma coisa muito interessante, Guilherme, fazendo o jabá para a BrownPipe. Quando a gente faz pentest, não pegamos uma ferramenta qualquer, disparamos, vemos o que ela encontra e acabou. Porque, em geral, ela vai encontrar aquelas coisas muito óbvias e que estejam acessíveis.​ (36:27) Se fizer um “Black Box” com uma ferramenta dessas, provavelmente não vai encontrar nada. Você recebe um relatório dizendo: “Foram executados não sei quantos milhares de testes e não foi encontrado nenhum problema relevante”. Na BrownPipe, a gente sempre recomenda que sejam feitos testes “White Box”.​ (36:51) Temos inclusive um vídeo sobre isso que vamos compartilhar no show notes. Já percebemos, em razão dos movimentos do sistema bancário, bancos demandando que suas empresas fornecedoras façam testes “White Box” e que não podem ser automatizados. A BrownPipe já faz isso há muito tempo.​ (37:20) Óbvio que usamos ferramentas também. Ou seja, tem que usar o que todo mundo utiliza para encontrar o “comunzão”, mas nós prezamos por um trabalho personalizado, humano, “human in the loop”, para conseguir catar coisas que a ferramenta ainda não consegue. Talvez no futuro venha a conseguir, mas por enquanto não.​ (37:44) Então, se quiser algo realmente certeiro, bem documentado e que você sabe que foi revisado e não simplesmente rodado por uma ferramenta qualquer, a BrownPipe tem o serviço certo para você de pentest. Fim do jabá, Guilherme. Certo. Estou te mandando o link para saber se é este vídeo mesmo a que você se referiu, porque se for, é só colocar no show notes para publicarmos depois. O vídeo é… você me mandou um link. É este vídeo? “Modelagem de Ameaças vs. Pentest”, eu acho.​ (38:20) Não é esse. Mas se não for, vamos colocar esse também. E eu vou pedir para a Camila me passar o vídeo do Pentest mesmo. Bom, para terminar, Vinícius, inclusive tinha uma notícia nova. Às vezes a pauta vai sendo construída durante o episódio.​ (38:49) Lembrei, pelo menos o café. Sim, é o café. Tinha lido isso ontem e me chamou a atenção, acho que podemos desenvolver depois e até saber se o próprio Bruce Schneier está certo. Ele disse, em tese, para parar de usar esses browsers “agênticos”. Não estou achando agora, mas, para parar de usar, porque acaba constituindo um tipo de vulnerabilidade que, segundo ele, seria implícita, estaria no…​ (39:30) core da inteligência artificial, que seria a impossibilidade de ela conseguir distinguir instruções legítimas de instruções que não são legítimas. Não vou conseguir achar aqui, mas de qualquer forma, fica para reflexão e talvez para um futuro episódio.​ (39:50) Essa questão que já vem se colocando, das IAs lançando seus browsers com agentes, e como essas explorações podem… Ele disse que não é um probleminha. Ele disse que é “o” problema, segundo Bruce Schneier. Mas, fecha parênteses, só para deixar isso destacado.​ (40:12) O próximo tópico é sobre a simplificação do GDPR. Nós estamos no momento, e quem acompanha o Segurança Legal sabe que mundialmente a questão da conformidade com normas de proteção de dados e também com a nova dinâmica da IA tem colocado pressões regulatórias no mundo inteiro.​ (40:46) Pressões regulatórias em qual sentido? Contra os próprios estados que tentam regular essas tecnologias, porque muitas das Big Techs se posicionam no sentido de que “as regulações são duras demais, é difícil de empreender, está afetando o desenvolvimento de novas tecnologias”.​ (41:11) Então, esse caminho trilhado sobretudo pelos Estados Unidos também chega na União Europeia, com o que chamaram de “digital check”, que é uma tentativa da Comissão Europeia de simplificar o GDPR. Teria vazado uma versão. Pelo que entendi, são tantas coisas para a gente ler, documentos de 150 páginas, mas seriam alterações que já estariam sendo encaminhadas e que poderiam culminar, se aprovadas, na…​ (41:47) em uma simplificação do GDPR. Algumas das alterações propostas: primeiro, seria uma alteração na própria concepção do que é dado pessoal, que é o núcleo de qualquer legislação de proteção de dados. É a definição mais importante. Sem dúvida, porque é o objeto da lei. Se você não definir claramente o objeto…​ (42:16) Assim como no direito do consumidor a relação de consumo é o objeto da proteção, aqui são o dado pessoal e as situações em que dados pessoais são tratados. A ideia seria alterar essa concepção para afastar a aplicação, por exemplo, no caso de uso de pseudônimos.​ (42:35) Então, pseudônimo, eu incluo um código para o usuário e a lei não se aplicaria. E a gente sabe que atribuir um código a uma pessoa é uma das formas… sobretudo quando esses códigos transitam em ecossistemas diferentes, a coisa mais fácil é identificar aquela pessoa por código, principalmente nos telefones modernos.​ (43:00) Enfim, mudar também o regime de dados pessoais sensíveis. A proteção dos dados sensíveis só ocorreria se o tratamento criasse riscos significativos ou que revelasse diretamente situações sensíveis, no sentido de afastar potenciais tratamentos de dados sensíveis que não causassem esses riscos. Ou ainda, afastar proteções em situações de comparação, referência cruzada ou dedução.​ (43:34) Esses dois aqui me parecem que desmontam muito o regime de proteção por mexer no… É fazer uma mudança genética na lei. É mudar a constituição genética dela, se fosse fazer uma comparação biológica. Sempre deixando claro que biologia talvez seja a disciplina mais longe da minha área de conhecimento.​ (43:57) Sabe aquela coisa de “baleia é mamífero”? Madeira está longe, hein? Sei que baleia é. Mas esses dias teve uma discussão se tubarão era peixe. Eu sabia que tubarão era peixe, cartilaginoso inclusive.​ (44:22) Então, limitações nos direitos dos titulares. O titular só poderia exercer seus direitos para propósitos de proteção de dados. E aí entra o pessoal do NOYB (None of Your Business), do Max Schrems lá da Europa, que é um think tank, uma ONG de proteção de dados e segurança. E eles estão se posicionando muito contra essa alteração.​ (44:47) Na visão deles, seria uma forma de barrar a obtenção de dados do próprio titular em situações como direito do trabalho, retificações e apagamentos em situações de crédito. Ou seja, seria uma forma de diminuir o alcance da pessoa poder obter seus próprios dados em circunstâncias que fugissem diretamente de tratamento de dados pessoais. Também, isentar os controladores de fornecer informações de privacidade… vou ler aqui: “Quando os dados pessoais…​ (45:16) tiverem sido coletados num contexto, em uma relação clara e circunscrita com um controlador que exerça uma atividade não intensiva em dados e houver motivos razoáveis para presumir que os titulares dos dados já possuem as informações necessárias”. É um agregado de possibilidades que, basicamente, isenta o controlador de dar informação, presumindo que você já a tem. Isso quebra totalmente o princípio da transparência e o princípio da informação, que já é tão difícil de exercer diante…​ (45:51) das dificuldades que hoje já existem para obtermos informações muitas vezes. E o choque maior, além desses outros que me preocupam, seria colocar, dentro do legítimo interesse, que é uma das hipóteses de tratamento, o uso de dados pessoais para treinamento de IA. Isso constituindo um legítimo interesse. A operação de sistemas de IA para as empresas, diante dessa abertura, seria quase como um coringa.​ (46:32) Ou seja, “eu posso tratar dados pessoais para treinar meus sistemas de IA porque eu teria o legítimo interesse para isso”. E aí também desmontaria todas aquelas situações que vimos, por exemplo, aqui no Brasil no caso da Meta, de querer treinar o Meta AI com os dados de todo mundo.​ (46:54) E aí teve aquela história em que a ANPD se envolveu, veio a informação de que eles avisaram e depois você tinha que fazer o opt-out. Bom, mesmo diante de legítimo interesse, tem que avisar. Mas isso afastaria toda a problemática que se discute hoje de você autorizar ou não o uso dos seus dados para treinamento de modelos de IA. Basicamente, o que o Max Schrems colocou foi que, passando essa e algumas outras alterações propostas, isso seria um enorme retrocesso da proteção de dados na Europa inteira. A ideia seria…​ (47:28) facilitar e ajudar pequenos negócios. Essa é a proposta. E veja, eu acredito, só para deixar bem claro, fazendo um contraponto, que é possível simplificar legislações de proteção de dados e que, para pequenas empresas, pode ser muito desafiador respeitar esse tipo de legislação. Aqui no Brasil, por exemplo, temos os agentes de tratamento de pequeno porte com regras flexibilizadas.​ (47:59) É um exemplo interessante. Mas essas mudanças, como estão sendo feitas, alterando o código genético da norma, eu vou na linha do Max Schrems, que diz que só iria favorecer as Big Techs.​ (48:19) E por que isso nos interessa? “Ah, mas eu estou aqui no Brasil”. Porque nós seguimos esse modelo europeu, nos inspiramos nele. E isso acontecendo lá, acredito que os reflexos apareceriam aqui bem rapidamente. Porque se mudou lá, a gente tem que se adequar, por causa daquele reconhecimento do mesmo nível de proteção do Brasil.​ (48:50) Então, acho que seria quase como um efeito em cadeia. É algo para ficarmos atentos. Tem também tentativas de simplificar o AI Act, de adiar a entrada em vigor, mas eu vou na mesma linha do Max Schrems. Acho bem perigoso e me parece que a ideia é, sobretudo, favorecer a IA, ou seja, retirar possíveis controles que os usuários ainda teriam nesses contextos de uso de dados para treinamento.​ (49:17) Beleza. Essa foi longa. Você quer fazer café expresso e café frio? Pois é, eu lembrei que já fazia um tempão que não fazíamos isso. Se você está nos ouvindo e não sabe do que estamos falando, nos cafés antigos, pegávamos uma das notícias e, quando era boa, dávamos um café expresso, e quando achávamos que não era tão boa… Não necessariamente para a notícia.​ (49:48) Não precisava nem ter sido notícia, era para o agente da notícia, para a pessoa ou para uma empresa. Para alguma coisa. Para quem seria o café expresso, Guilherme? O Café Expresso é para o Dia Nacional da Proteção de Dados, em homenagem ao Danilo Doneda. Acho que é um café expresso para essa situação.​ (50:15) E o café frio? É sempre difícil dar o café frio, porque é uma crítica. O café frio vai para os administradores do sistema de monitoramento do Louvre, que usaram a senha “Louvre”.​ (50:41) É um café que ficou na rua no inverno parisiense e gelou. Pode ser. Acho que é um bom recomeço para o café frio e o café expresso. A gente não pode esquecer. Um belo dia a gente parou e nunca mais trouxe de volta.​ (51:02) Mas, fora a brincadeira, gente, falando sério, esse caso é bem importante. Prestem atenção nos sistemas de videomonitoramento, nesses sistemas que às vezes estão largados, que não são de ninguém, que têm acesso remoto e que, dependendo do contexto, podem ser usados para situações bem sérias. Não é só quem tem joia que precisa disso.​ (51:19) Bom, então era isso. Esperamos que tenham gostado do episódio de hoje. Aguardamos todos e todas no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima.  

Neste episódio, falamos sobre como a inteligência artificial está desafiando a criatividade humana e o que estudos recentes, como um artigo da Nature, revelam sobre quem ainda leva a melhor em tarefas de pensamento divergente.​ Guilherme Goulart e Vinícius Serafim mergulham em uma análise sobre os limites e potenciais da inteligência artificial (IA) na criatividade e educação. Com base em artigos científicos, eles exploram como a tecnologia impacta desde a geração de ideias originais até a ética por trás dos algoritmos. O debate aborda a segurança da informação, o direito da tecnologia e como a neurociência ajuda a entender o processo criativo. Discutindo modelos como GPT-4, o episódio questiona se a IA pode realmente superar a capacidade humana em tarefas criativas e quais as implicações disso para o futuro. Assine, siga e avalie o nosso podcast para não perder nenhuma discussão.  Visite nossa campanha de financiamento coletivo e nos apoie!  Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing ShowNotes Best humans still outperform artificial intelligence in a creative divergent thinking task Livro – The Creative Mind: Myths and Mechanisms Criatividade: O flow e a psicologia das descobertas e das invenções Vídeo – Debate on AI & Mind – Searle & Boden (1984) Inteligência artificial: Uma brevíssima introdução Delegation to artificial intelligence can increase dishonest behaviour Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers Livro – A fábrica de cretinos digitais: Os perigos das telas para nossas crianças Livro – Faça-os ler!: Para não criar cretinos digitais Livro – Faites-les lire !: Pour en finir avec le crétin digital (edição francesa) More Articles Are Now Created by AI Than Humans The Future of Jobs Report 2025 – World Economic Forum Imagem do Episódio – Le fils de l’homme de René Magritte 📝 Transcrição do Episódio (00:06) Sejam todos muito bem-vindos. Estamos de volta com o Segurança Legal, seu podcast de segurança da informação, direito da tecnologia e tecnologia e sociedade. Eu sou o Guilherme Goulart e aqui comigo está o meu amigo Vinícius Serafim. E aí, Vinícius, tudo bem? Ei, Guilherme, tudo bem? Olá aos nossos ouvintes.​(00:26) Sempre lembrando que para nós é fundamental a participação de todos por meio de perguntas, críticas e sugestões de tema. Vocês já sabem, basta enviar uma mensagem para o podcast@segurançalegal.com, YouTube, Mastodon, Blue Sky, Instagram e, agora, Vinícius e ouvintes, no TikTok. Se você é jovem, porque nós, eu e o Vinícius, somos velhos, não temos TikTok, mas se você for jovem e quiser nos seguir lá no TikTok, em breve teremos também conteúdos, alguns cortes. É isso que a gente está preparando. Alguns cortes de episódios de várias coisas úteis.​(00:57) A questão do podcast é que cada vez mais você que nos acompanha aqui sabe, a gente é desafiado a consumir conteúdos mais rápidos. Então, o podcast Segurança Legal também vai… Quer ver a versão mais longa? Tem aqui, fique com a gente, vá lavar sua louça, fazer sua academia e fazer qualquer coisa.​(01:21) Ou quer também acompanhar conteúdos mais curtos? A gente também está preparando isso para vocês. Além do blog da Brown Pipe, basta acessar o www.brownpipe.com.br, ver o blog, que tem notícias, e consegue se inscrever no mailing e tudo mais, certo, Vinícius? Certíssimo, Guilherme. Bom, neste episódio a gente vai fazer uma revisão de alguns artigos que nos chamaram a atenção.​(01:45) Alguns deles já apareceram aqui no podcast ano passado, mas a gente quer uni-los em uma conversa um pouco mais direcionada, tratando sobre alguns dos problemas e das problemáticas que a gente tem visto, assim como algumas das questões mais importantes.​(02:05) Claro, tem se escrito muito nos últimos anos e a IA assumiu uma importância em todas as áreas, dá para se dizer. No direito, na tecnologia, na educação, na administração, nas artes gráficas digitais, por que não, na escrita, na filosofia. A parte ética, no final das contas, acaba sendo um fio condutor de todos esses artigos que a gente vai comentar hoje, né, Vinícius? São artigos que a gente citou muitas vezes “en passant”, meio, “Ah, tem um artigo tal que fala sobre isso”. E a ideia hoje é a gente trazer, não todos eles, mas.​(02:44) pegamos aqueles que a gente considerou mais interessantes e falar um pouco da metodologia e dos resultados obtidos. É claro que vai ter os links de todos eles no show notes, se você quiser se aprofundar em qualquer um desses estudos. A ideia é essa, a gente dar uma aprofundada um pouquinho maior em cada um deles.​(03:12) Seria uma nova época de novas luzes que a gente está vivendo, ou não? Eu acho que o primeiro ponto aqui é a questão da criatividade. É uma das grandes questões, eu acho, do uso da IA atualmente. Primeiro, o que é criatividade? E aí tu vês como todos esses temas são complexos. A gente já falou várias vezes sobre isso.​(03:32) E quando a gente começa a falar em criatividade, claro, não vai ser o objeto deste estudo especificamente, mas a gente acaba descambando para questões de neurociência, de como o cérebro funciona, de onde vêm as ideias, de como as pessoas aprendem. E aí isso acaba conectando a IA também com a educação. É uma das áreas, uma das partes mais instigantes disso tudo. Pode ela ser criativa de verdade ou não? E até que ponto nós… e o que é criatividade e até que ponto nós podemos.​(04:07) ultrapassar em tarefas criativas. E o primeiro artigo, Guilherme, foi um artigo publicado em 2023 na Nature. O título é: “Os melhores humanos ainda superam a inteligência artificial em uma tarefa criativa de pensamento divergente”. Então, só para saber, os modelos que foram utilizados neste estudo, naquela época, foram o chat GPT, a aplicação Chat GPT com o GPT 3.5 e o 4.​(04:31) E uma outra que eu confesso que eu nunca utilizei, que eu fiquei sabendo que existia através deste artigo, que é a copy.ai. Aliás, “copy” é um bom nome para inteligência artificial, porque ela copia tudo para dentro. Mas essa ferramenta copy.ai, que não é da OpenAI, usa o GPT-3, que é o modelo da OpenAI.​(05:02) Então, a ideia é que fosse solicitado aos participantes humanos e às IAs que criassem usos incomuns e criativos para objetos cotidianos. Seriam quatro objetos: corda, caixa, lápis e vela. A gente não vai entrar em muitos detalhes aqui, mas a ideia, então, era pensar em usos criativos para isso. Resultados. Guilherme, quer trazer o primeiro deles? Não, não. Pode tocar. Então, tá. Resultados.​(05:25) Primeiro, em média, os chatbots de IA superaram os participantes humanos. Na média, a IA foi mais consistente. Então, os humanos tiveram uma variabilidade maior em termos de boas ideias, foram muito criativos e, ao mesmo tempo, tiveram ideias horrorosas que a IA, na média, não atingiu.​(05:53) As melhores ideias, embora tenha tido essa superação da IA com relação à média humana, as melhores ideias humanas foram iguais ou superaram as dos chatbots. Então, as melhores ideias humanas empataram com as dos chatbots ou foram melhores. Portanto, os melhores humanos ainda superaram esses modelos.​(06:19) Notem que eu coloquei “ainda” aqui na frase. No entanto, teve algumas instâncias, ou seja, algumas situações em que a IA alcançou pontuações máximas mais altas. Então, teve o caso da copy.ai, em que a resposta para “lápis” foi considerada superior à máxima humana correspondente, e também duas sessões do ChatGPT com o 3 e o 4 em resposta a “box”, ou seja, a caixa, onde as pontuações subjetivas máximas também foram superiores às máximas humanas. Então, no final das contas, este artigo, e é um artigo que, para quem tiver interesse, eu recomendo a leitura, porque a gente está falando aqui.​(06:56) de GPT-4. Nós já estamos no GPT-5, já temos Sonnet 4.5, Opus e por aí vai. Já temos modelos bem mais capazes, que escrevem bem melhor do que esses modelos anteriores e que também geram um conteúdo melhor. Mas é interessante a gente ver essa comparação feita em 2023, mostrando, então, que os melhores humanos ainda superam a inteligência artificial, mas ela está cada vez mais próxima. E alguns estudos que a gente tem adiante vão, inclusive, chamar a atenção para isso.​(07:35) E aí você tem outra coisa, que eu acho que é a dinâmica de como a IA funciona nesses casos. Se a gente parte do pressuposto de que ela vai atuar levando em consideração essa proximidade estatística entre conceitos e palavras e, a partir daí, produzir coisas novas, o artigo chama a atenção de que uma das possibilidades de você definir, uma das formas de definir a criatividade, é justamente essa capacidade de criar ideias originais e úteis e também de fazer associações entre conceitos vagamente relacionados, ou seja, relacionar coisas que, em.​(08:16) princípio, não seriam tão evidentemente relacionadas. Claro que a IA também, se for programada para fazer isso, ela conseguiria. Eu acho que é plenamente possível. Quando a gente olha como uma matriz de IA funciona, tem um gráfico aqui, depois, enquanto você estiver falando, eu vou ver se encontro para botar no show notes também, mas ele simula a proximidade entre palavras dentro de um modelo de IA. Ele vai mostrando a distância entre as palavras e a proximidade entre elas. É uma simulação mesmo. Então, ela poderia muito bem… “Ó, tenta fazer…​(08:51) associações não tão evidentes, ou não tão próximas. É claro, também não pode ser absolutamente diferente uma coisa da outra. Mas eu acho interessante essa coisa da criatividade, como a gente vê. Como é que o cara pensou? Eu nunca tinha pensado nisso, ou seja, o cara fez de fato uma associação que seria impensável, digamos assim. Então, esse paradigma, eu acho interessante como a IA poderia, se é que vai conseguir, se adaptar a fazer essas associações nem sempre tão evidentes.​(09:22) É, criatividade. Quanto mais avança, mais ela consegue simular isso. Eu tenho um livro, Guilherme, que eu recomendo. Eu estava até lendo ele. Eu vou pegar o link dele para deixar à disposição depois no show notes, que é da Margarete Bolden, eu já comentei sobre ela aqui, que é o “The Creative Mind: Myths and Mechanisms”, “A Mente Criativa: Mitos e Mecanismos”. Nesse livro, ela justamente procura discutir o que é a criatividade, ou seja,​(10:06) de onde a gente tira, os tipos de criatividade que a gente tem. Bom, então esse livro da Margaret B é muito interessante, até porque vocês vão encontrar um vídeo dela no YouTube falando lá na década de 70 ou final da década de 60 sobre justamente a IA e a capacidade de criar coisas. Note que nós não tínhamos IA generativa naquela época.​(10:30) E tem um outro livro, que na verdade são vários livros, mas tem um deles que é de um cara que é “Criatividade: O Flow e a Psicologia das Descobertas e das Invenções”, em que o autor, que é o Mihaly, tenta justamente fazer uma busca com várias pessoas que são referências em suas áreas para tentar entender de onde surgem as ideias. É um livro bastante interessante também, mas enfim, deu de criatividade.​(11:09) Só uma outra coisa, eu vi aqui, ela é uma senhora já. Claro. Na década de 70 já estava estudando. No final de 60, 70, ela estava num programa inglês na TV discutindo IA e criatividade. Não, eu fui procurar aqui esse vídeo enquanto você falava e ele começou já a me mostrar um monte de coisa feita por IA.​(11:37) Olha que chato isso. É melhor procurar pela Margaret Bolden. Não, mas foi o que eu fiz. Eu fui procurar o vídeo a que tu te referias e aí o primeiro, a primeira resposta, o primeiro vídeo, foi um tal da editora Unesp de um outro livro que eu tenho e não me lembrava que era dela, que é “Inteligência Artificial: Uma brevíssima introdução”.​(12:02) E eu comecei a ler esse livro da editora Unesp e não dei muita bola, Vinícius. Comecei a ver e tal. Inclusive, é uma tradução, obviamente, do “Artificial Intelligence: A Very Short Introduction”, da editora da Oxford.​(12:25) Então, agora que você falou, eu vou dar uma olhada com mais atenção nele. Depois vou pegar, botar o link aqui também. E já me corrigindo, já que me deu tempo para eu catar o vídeo aqui. O vídeo é um debate sobre inteligência artificial e a mente. Ele aconteceu em 1984, eu errei. 1984. O link para o vídeo vai estar também no show notes.​(12:44) Já está separadinho aqui o link, Vinícius, para o outro também. “Uma brevíssima introdução”. Bom, perfeito. Seguindo para o próximo estudo, na verdade, não foi uma semana que o Vinícius não pôde participar, que foi o episódio 40, e eu comentei um pouco rapidamente sobre a questão do comportamento desonesto e como a inteligência artificial poderia habilitar essa desonestidade em certos contextos. Mas claro que faltou também a visão do Vinícius sobre esse tema e como​(13:18) tinha sido ele que tinha descoberto esse artigo, nada mais justo do que ele também fazer alguns comentários sobre esse artigo, Vinícius, porque é mais uma vez uma questão ética. Ou seja, o que nós vamos esperar do futuro para pessoas que vão ter uma tendência à desonestidade? Não quer dizer que as pessoas sejam desonestas, mas… Primeiro, quando falou que descobriu o artigo, tem vários artigos que eu tenho aqui e vários desses que​(13:50) nós estamos comentando também, eu já não sei mais quais porque já é um monte, que o nosso amigo, o Cláudio Sheer, volta e meia fica me passando. Então ele vai encontrando os artigos e vai passando. Ele também estuda esse assunto, também se interessa por esse assunto, a questão da IA.​(14:10) Então ele me passa muito artigo. Mas esse estudo aqui também saiu na revista Nature. Nós vamos ficar nos repetindo, acho que toda hora, mas vai estar o link lá, você vai poder pegar onde saiu o estudo. Então, o que eles fizeram nesse estudo? Eles fizeram dois protocolos, ou seja, duas situações. Uma situação era um lançamento de dados.​(14:34) Então, tu lançavas os dados e tinhas que reportar os dados que foram lançados, 10 dados, resultado de 10 dados lançados. Quanto maior o número, maior o pagamento que recebia. E outro protocolo era o protocolo de evasão fiscal, que eles chamaram, que era: os participantes tinham que reportar uma renda ganha em uma tarefa real, sabendo que dessa renda seria essa renda seria sujeita a um imposto de 35% destinado à Cruz Vermelha. Não é imposto de 35% para o governo direto, é para a Cruz Vermelha. Eles testaram os seguintes modelos: GPT-4, o 4o, Llama 3.3 e o Claude 3.5 Sonnet.​(15:16) É o Claude 3.5 Sonnet. O Llama é bem ruinzinho, mas tudo bem. Mas está junto aqui. O que eles perceberam como resultado? Teve um aumento quando os seres humanos podiam usar a IA sem dizer a estratégia antiética que eles queriam, só dizendo: “ó, se tu tirar números maiores, eu ganho mais”, coisas mais genéricas, sem ter que dizer: “Eu quero que você tire números maiores para que eu possa…”. Entende? Então, quando isso aconteceu, aumentaram os pedidos desonestos. Então, os humanos​(15:57) solicitaram mais trapaça quando utilizaram interfaces que permitiam induzir a desonestidade sem precisar especificar explicitamente a estratégia antiética. Então, ao usar a IA, sem ter que dizer explicitamente “roube”, eles aceitaram quando as coisas foram para o lado deles, violando, digamos assim, o imposto que ia para a Cruz Vermelha, a questão dos dados lá e tal.​(16:36) E o que eles perceberam é que quando há a possibilidade de delegação sem ter que dizer exatamente o que fazer, o índice de participantes humanos que se engajou em desonestidade atingiu de 84 a 88%. Em contraste com o grupo de controle que não podia usar a delegação, só 15% se engajou em comportamento antiético, desonesto. Então eles atribuíram essa diferença à redução do custo moral para a pessoa, pois ela pode dizer: “Não, isso foi a IA que fez.​(17:18) Eu não pedi para ela roubar”. Mas tu podes não ter dito também para ela fazer a tarefa exatamente como deveria ser. Tu podes deixar a coisa meio no ar para eventualmente se beneficiar. No protocolo de evasão fiscal, houve uma evidência estatisticamente significativa de maiores intenções de trapaça sob a delegação de máquina, ou seja, declarando uma porção menor de renda em comparação com a delegação humana. Porque tu poderias delegar para a máquina e delegar para seres humanos. E o que eles perceberam? Quando tu delegas para seres humanos, os​(17:53) agentes humanos, na maioria dos casos, de 50 a 75% das vezes, recusaram a atender um pedido que fosse desonesto. Já o GPT-4, o GPT-4O, o Claude 3.5 Sonnet e o Llama 3.3 cumpriram as instruções de trapaça total em 95% dos casos. Então, isso nos chama a atenção para o fato de que tem uma zona cinzenta aí de que eventualmente a IA vai fazer coisas e, como foi delegado para a IA, a tendência é simplesmente o ser humano aceitar mais situações antiéticas, desonestas, com mais frequência do que se não tivesse a IA na jogada. Tem​(18:47) aquele exemplo que a gente vive citando, Guilherme, com relação à responsabilidade daquela agência de viagens que vendeu passagens para uma pessoa e a pessoa foi lá pedir a restituição da passagem em razão de um parente que tinha falecido. Era a Air Canada. Isso, acho que era a Air Canada.​(19:07) E essa empresa, então, pelo seu chatbot, o chatbot inventou uma situação de reembolso, de estorno, que não existia e depois a empresa quis dizer: “Não, isso não vai poder ser utilizado contra a gente, porque foi a IA que fez, não foi a gente, isso não existe aqui na empresa”.​(19:33) “Isso foi a IA que inventou”. Só que a IA está agindo em nome da empresa. Então, isso é obviamente antiético, tu botar um bot para atender a pessoa e não assumir a responsabilidade pelo que esse bot faz, num flagrante prejuízo ao cliente nesse caso. Então, esse estudo chama a atenção para essa questão de uma tendência de ação desonesta.​(19:58) E eu não vou dizer aonde, só adianto que não foi aqui na CTISM, porque todo mundo sabe que eu trabalho na UFSM, mas não foi na UFSM, foi num evento que tinha alunos de várias escolas. Eu perguntei do ensino médio e eu perguntei para os alunos, tinha alguns professores presentes, eu pedi para os professores não olharem para trás, mas não adiantou muito, tu já vais entender o porquê. Eu perguntei aos alunos quem já tinha usado o ChatGPT para fazer um trabalho escolar.​(20:21) Todos levantaram a mão. E aí eu perguntei quais deles, não quantos, já tinham pego uma tarefa da escola, entregue 100% para o ChatGPT, pegado a resposta que o GPT deu e entregado como sendo seu trabalho, sem modificar nada, no máximo botando o nome. Todos levantaram a mão. Então, existe uma falta de percepção de que isso é desonesto, de que isso é antiético. Isso não é o comportamento esperado. Eu acho que há percepção. Eu discordo de ti.​(21:00) Eu acho que há percepção. Cara, são crianças. Acho que é uma falta da percepção das consequências que esse erro poderia ter. Mas assim, eu diria que eu tenho quase certeza, a minha visão, Vinícius, é que há um conhecimento de ser antiético.​(21:22) Eu acho que tem aquele que faz na maldade, “eu vou fazer isso aqui e vou dizer, professora, que eu fiz mesmo”. E deve ter aquele outro cara e tantos outros que já está naturalizado, “para que eu vou fazer isso aqui? todo mundo faz”. É uma prática que está se tornando comum e aí de repente não há toda aquela malícia, saca? Então, por isso que eu acho que é uma questão, ainda mais nessa idade, nessa faixa de idade do ensino médio. Claro que há crianças que sabem muito bem o que estão​(21:48) fazendo, mas acho que é a oportunidade justamente de se educar para evitar esse tipo de comportamento. E esse estudo aqui, embora ele não tenha sido feito com crianças, ele facilmente pode ser extrapolado para a gente imaginar o tipo de efeito que isso aqui teria, sabe?​(22:11) Esse comportamento. Eu acho que em primeiro lugar é uma questão geracional. Isso evidencia. Claro que, só para destacar, a gente saiu do estudo e agora estamos comentando uma situação que aconteceu com o Vinícius em um local específico, que definitivamente não serve como um estudo como esses que a gente tem visto aqui. Mas assim, é inegável que esse, talvez esse experimento que você fez, Vinícius, não científico, tudo mais, foi só uma pergunta, mostra… A gente tem que ter​(22:46) cuidado também para não comparar coisas muito diferentes entre si. Mas ainda assim demonstra bem uma questão geracional, porque eu noto também com bastante frequência os alunos usando numa frequência muito maior do que os professores. Nesse sentido é geracional, é mais fácil para a criança и para o aluno usar simplesmente do que o professor voltar atrás. E ao mesmo tempo também joga, como eu até comentei no outro episódio, que é a figura do agente-principal, dentro da economia se​(23:22) estuda muito isso, que é quando você delega atividades para uma outra pessoa. Então você, principal, delega atividades para uma outra pessoa, o agente, fazer para ti. Isso vai aparecer em vários contextos diferentes. Por exemplo, no contrato de mandato, quando você passa uma procuração, quando você outorga poderes para uma outra pessoa praticar atos para ti. Se for uma empresa, por exemplo, um administrador, você vai ter vários custos aí de confiança. Ou seja, você tem que confiar no agente e você eventualmente vai​(23:59) ter custos de monitoramento desse agente. Ou seja, não basta só confiar, você vai ter que ver se ele está fazendo a atividade que ele disse que ia fazer corretamente e tal. Então essa relação agente-principal é bem estudada na economia já há muito tempo. Tem questões de assimetria informacional envolvidas, quando o agente poderia esconder informações do principal para se beneficiar. Mas você tem, no fundo, vários custos, que seria nesse caso o agente se beneficiar em detrimento do principal. A IA não tem isso. Na verdade, se estabelece aqui uma nova teoria, dá para se dizer, de agente-​(24:36) principal, em que o agente vai ser a IA e que não vai ter as mesmas intenções, digamos assim, que uma pessoa teria de eventualmente enganar: “Ah, eu vou tirar dinheiro do principal”. A IA não está preocupada com isso. Não está preocupada em te trapacear, ao principal.​(24:53) Mas o problema é que, ao mesmo tempo, a gente está vendo que ela vai, digamos assim, seguir ordens mais antiéticas. E esse é o grande problema, porque se cada vez mais a gente vai usar esses agentes para fazer coisas em nosso nome, nós temos uma tendência do aumento de comportamentos desonestos, a não ser que a IA, claro, também passe a contar com controles para evitar que isso aconteça, mas aí já é um outro problema. É verdade. Vamos ver até onde vai.​(25:27) O… Tu queres puxar o próximo? Eu só vou puxar e já te jogo. Mas aí é que é a questão de como o nosso cérebro… E esse é um estudo bem mais sofisticado, dá para se dizer. Os caras usaram ali eletroencefalografia para medir a atividade cerebral de uma pessoa usando IA versus uma pessoa que não usa IA.​(25:56) E esse eu acho que também é um dos que mais chama a atenção, porque a gente já comentou aqui aquela ideia, “ah, a IA é como se eu entregasse um carro de Fórmula 1 para uma pessoa”. E, eventualmente, se a pessoa não sabe dirigir, pode ser meio perigoso a pessoa que não sabe dirigir estar dentro de um carro de Fórmula 1. Mas o ponto é: como é que isso funcionaria? Ou seja, a gente está tendo déficits aqui? Que essa é, acho que, a proposta dos caras. Existe algum déficit para quem está usando versus para quem não está usando? Eles tentaram medir qual é esse custo cognitivo de usar um LLM para fazer​(26:29) a escrita de ensaios. Foram 54 participantes. Eles tinham que escrever um ensaio em 20 minutos. Essa é a tarefa. Eles separaram em três grupos.​(26:55) Então, o grupo um tinha que usar o GPT-4o como único recurso, o ChatGPT, com o modelo 4, nota que já é um modelo mais recente. O segundo grupo só podia usar qualquer website, menos LLM, não podia usar nenhum chat da vida. Então, eles usaram o Google. E o terceiro grupo não podia usar qualquer ferramenta, website, só o cérebro, só o conhecimento próprio. Essa coisa tão antiga, né? É.​(27:28) E depois eles fizeram uma sessãozinha, a quarta sessão dos testes deles, em que 18 participantes, eles trocaram de grupo, colocaram no grupo oposto. Então, quem só podia usar o cérebro podia usar o ChatGPT e quem podia só usar o ChatGPT agora tinha que fazer só usando o cérebro. Então, tiraram as ferramentas de quem estava usando só a ferramenta antes e deram para quem estava só usando o cérebro, vamos ver o que acontece.​(27:57) Tinha que escrever esse ensaio. A atividade cerebral, como tu falou, foi registrada usando eletroencefalografia. E foi feita a avaliação, teve um processo de avaliação que inclusive contou com pontuação de professores humanos e um juiz de IA. Então teve várias formas ali de avaliação. De novo, no artigo, quem quiser, o artigo vai estar linkado no show notes para entrar nos detalhes do estudo, mas resultados, o Guilherme botou em vermelho aqui no show notes, eu vou ler porque esse aqui é o principal resultado: atrofia de habilidades cognitivas.​(28:35) Atrofia, uma palavra tão forte. É, então, o que o estudo mostrou é que o uso de LLM reduz o engajamento neural e tem um impacto negativo mensurável nas habilidades de aprendizado, memória e senso de autoria. Então, habilidade de aprendizado, ou seja, tu aprenderes aquilo que tu estás estudando; memória, que é tu memorizares a informação, que não é a mesma coisa que aprender; e tu teres aquela percepção de que “isto aqui fui eu que escrevi”. E a conectividade cerebral diminuiu​(29:13) sistematicamente com a quantidade de suporte externo. Então, quanto mais suporte externo, quanto mais chat, menor a conectividade cerebral. Bom, está usando menos o cérebro. Então, o que acontece? Primeira coisa, a habilidade de citar. A LLM prejudicou substancialmente a capacidade dos participantes de citar corretamente seus próprios dados.​(29:44) Os participantes que usaram somente o ChatGPT, somente LLM, 83% desse grupo falhou em fornecer uma citação correta. Não conseguiu. 83% falharam. Com relação à percepção de autoria, o grupo que usou a LLM relatou uma baixa percepção de autoria, parcial ou nenhuma, sobre seus ensaios. E o grupo “apenas cérebro” reivindicou posse total quase por unanimidade. Talvez o pessoal tenha alguma coisa, “ah, essa ideia não era minha, foi algo que eu lembrei”, mas ainda assim saiu do cérebro do cara, ainda que seja uma informação recuperada. Homogeneidade linguística.​(30:26) Isso aqui é muito o que a gente percebe no dia a dia. Os ensaios que foram escritos pelo grupo que usou o ChatGPT, só o ChatGPT, eram estatisticamente homogêneos em vocabulário e estrutura, ou seja, pasteurizados, com pouca variação, indicando que se basearam em frases sugeridas pelo modelo.​(30:58) Aqui tem dois pontos. Tem, sim. À medida que tu repetes os mesmos prompts, o mesmo jeito de perguntar, a tendência é teres coisas muito similares e, ao mesmo tempo, uma certa preguiça de elaborar um prompt mais detalhado. Porque tu consegues modular isso aqui.​(31:21) Claro que, se eu bolar um prompt mais detalhado para passar esse mesmo prompt para o Guilherme, e o Guilherme usar o mesmo prompt de novo, a gente vai ter um texto muito parecido, muito homogêneo. Os participantes que usaram LLM… Oi. Fala só uma coisa. Essa homogeneidade… é difícil de explicar isso, Vinícius. E quando você desenvolve um senso crítico de leitura ao longo dos anos, você vai lendo, lendo, lendo, você consegue, por exemplo, identificar estilos. Pensa na música, você ouve um Rolling Stones, você ouve um Led Zeppelin, você ouve um Red Hot Chili Peppers, que​(31:59) são bandas com estilos bem marcados. Mesmo que você não conheça aquela música deles, você ouve e pensa: “não, isso aqui parece Led Zeppelin”. Então, existem estilos também de escrita e a percepção que eu tenho, mais uma vez, isso não é do estudo, mas a percepção que eu tenho é que a gente percebe um estilo, não é falso, mas um estilo artificial ali. Justamente essa é a palavra. E isso sempre me chama a atenção.​(32:38) Quando me chama a atenção e eu jogo na ferramenta que eu uso às vezes para verificar, de fato é IA. Eu não sei explicar como, mas sempre me chama a atenção e talvez seja essa homogeneidade de estilo que se repete. Parece que você percebe que tem algo errado, que não é humano, sabe? É. E com os vídeos a gente já está sendo enganado.​(33:03) Hoje de manhã fomos enganados com um. Hoje a gente viu um vídeo que parecia real, mas não era. Inclusive, a qualidade da gravação parecia de um celular. E teve um vídeo real que tu me passaste que eu te disse: “Não, isso aqui foi feito com IA”. Cara, isso aí vai dar uma confusão, mas enfim, deixa para 2026. Acho que nós vamos ver muito disso.​(33:24) Sim, cara. E uma parte que chamou bastante atenção é que, no momento em que eles trocaram os grupos, o grupo que usou o ChatGPT para escrever os ensaios e depois teve que fazer sem usar o ChatGPT, eles tiveram dificuldade, eles tiveram o que eles chamaram de uma “dívida cognitiva acumulada”. Então, meio que deu uma travada na capacidade deles de escrever os ensaios sem a IA.​(34:00) E vou te dizer que às vezes eu sinto um pouco isso, porque eu estou muito preguiçoso para catar coisas às vezes na internet. Eu estou muito acostumado a usar o Perplexity para fazer pesquisa. E a partir dali eu vou para os sites e tudo mais. Cara, eu não tenho mais paciência de usar o Google para pesquisar. Eu acho que é um pouco de preguiça também, saca? Tudo bem que os resultados do Perplexity me parecem melhores, mas eu não consigo me ver mais abrindo o Google para pesquisar algo.​(34:25) Que eu quero buscar um artigo… eu uso a IA direto para fazer pesquisa. O Google tem me servido mais quando eu quero comprar alguma coisa e quando eu quero achar algum restaurante. Cara, eu tenho usado o Perplexity até para isso, para comparar coisas quando vou comprar produtos. Mas enfim.​(34:50) E a questão da escrita também, se tu vais fazer uma coisa rápida ali, que não é uma coisa com a qual tu tenhas um vínculo muito forte, tu queres mais um texto ali para quebrar um galho, cara, tu usas a IA. Realmente, se é uma curiosidade histórica ali que tu tens. Eu percebo que estou um pouco mais preguiçoso. E eu consigo imaginar muito bem esse negócio de tu escreveres tudo com a IA…​(35:21) Tu só podes usar IA para escrever e de repente não podes mais. Foi o que eles fizeram no experimento. Eu consigo sentir isso aqui. E, por outro lado, inversamente, os participantes que escreveram sem IA e depois usaram a IA, ou seja, saíram do “somente cérebro” para usar cérebro e IA, eles apresentaram um pico de conectividade neural ao integrar a ferramenta, ou seja, foi potencializado.​(35:50) Que é um pouco do que a gente percebe também. O que a gente percebe quando alguém que não entende de um dado assunto se põe a escrever um negócio na IA para tentar entregar um trabalho ou se livrar daquilo? Bom, acontece o que a gente já viu, a pessoa não entende, ela não aprende aquilo, ela não memoriza aquilo, 83% não consegue fazer uma citação correta, ou seja, está totalmente desconectado daquele conteúdo. Ou tu vais fazer uma tarefa que nunca fizeste, aí tu vais usar a IA para fazer essa tarefa para ti. Tu​(36:30) estás sujeito ao que a IA vai trazer e tu estás de passageiro ali, como o Ethan Mollick fala, “tu dormes ao volante”. Tu dormes no volante. E, ao contrário, quando a pessoa tem domínio do campo em que ela está atuando para fazer alguma coisa, seja lá o que for, ela tem domínio, ela sabe o que está fazendo, ela tem experiência, ela já tem conhecimento acumulado, ela já aprendeu e ela vai usar a IA como um recurso que vai apoiá-la para conseguir ter mais agilidade, ela consegue um resultado melhor. E então​(37:05) isso eu percebo de forma empírica, da experiência, do que a gente vai falando com as pessoas, o que a gente mesmo vai fazendo. Agora, esse estudo demonstra justamente isso. As pessoas que usaram só o cérebro, ou seja, tinham aprendizado, tinham memória, tinham aquela percepção de autoria, quando integraram a IA, a IA veio como um recurso a mais e deu um pico de conectividade neural, medido. Então, tu dás-te conta que isso talvez até acabe aumentando também a​(37:46) distância de quem está aprendendo alguma coisa com aquele que já sabe. O gap vai ser enorme, cara. É, vai aumentar, me parece. Sim. E veja que aqui, só confirmando, Vinícius, foi com adultos, né? Eram de universidades.​(38:10) E eu, se eu pudesse arriscar, eu diria que com criança é completamente diferente, porque a forma como a criança aprende, a atividade cerebral de uma criança aprendendo, acredito eu, estou jogando aqui, é diferente de uma pessoa adulta. E o impacto acho que vai ser muito maior, entende? O prejuízo de um uso descontrolado da IA vai ser muito maior, justamente por causa desse gap que tu falas, Guilherme.​(38:42) Porque a partir do momento em que tu substituis a criatividade da criança pela criatividade, entre aspas, da IA, em vez de ela criar um negócio, ela pede para a IA criar. O meu filho testou algumas coisas de criação de desenhos na IA. Ele fez alguns desenhos e tal. Ele desenha bastante em papel mesmo.​(39:03) E ele quis ver, quis que eu tirasse fotos dos desenhos dele e pedisse para fazer imagens com base nos desenhos dele. E claro, a IA fez coisas fantásticas, maravilhosas. Só que rapidamente eu percebi que ele queria, ele começou a trazer desenhos mais simples, que ele não se esforçava muito, para ver o que a IA ia trazer.​(39:33) E aí eu cortei isso. Tipo assim, ó, tu tens teus lápis de cor, tens um monte de canetinha, tens papel para desenhar, tu tens tudo. Desenha, pinta, faz do teu jeito, porque ela começa a trazer um padrão de desenho que não é uma realidade para ele ainda na idade dele.​(39:51) E aí se ele começar a mirar naquele padrão sem ter esforço nenhum para desenhar, se ele não tentar desenhar, pelo menos, ele não vai aprender. Então o que eu prefiro que ele faça? Eu tenho um monte de livro ilustrado aqui. Eu prefiro que ele pegue o livro, olhe e tente copiar o personagem, fazendo de um jeito diferente, uma cena diferente.​(40:11) Então, eu imagino, Guilherme, que o uso de IA com adultos já provoca esse custo cognitivo a médio e longo prazo, prejudicando, criando uma dívida cognitiva para o futuro. Isso para crianças e adolescentes sem uma orientação adequada…​(40:35) A gente está falando aqui de comportamento, desde o que a gente falou no começo, da questão da criatividade ser afetada, do comportamento desonesto não ser incentivado, mas acabar aparecendo com mais frequência, e a própria questão cognitiva, de aprendizado propriamente dito. Então, é bastante delicado isso para crianças. Vamos ver se aparece algum estudo. Eu, por enquanto, não tive contato com nenhum envolvendo crianças. Não, e mais,​(41:19) isso tudo quando se conecta com os outros estudos ali do comportamento desonesto também e até do pensamento crítico, que é o outro, urge que a gente tenha… e eu não sei se a gente não vai conseguir fazer isso tão rápido e muito menos mudar a educação tão rapidamente quanto a gente deveria. Porque no final das contas, a gente precisaria de uma pedagogia para a IA.​(41:45) Notem, a gente sequer, eu sempre falo isso, vou repetir, a gente sequer tem uma pedagogia para a internet. Porque nós, professores, e eu me incluo, a gente continua dando aulas, claro que fala sobre a internet, instiga a pesquisa, mas é muito comum que a gente encontre pessoas que não sabem sequer pesquisar sobre alguma coisa.​(42:14) Veja que a forma de pesquisar já está superada. O analfabetismo digital ficou ainda mais grave. Tem episódio sobre analfabetismo digital, se puder procurar, Vinícius, também. Sim, pode deixar.​(42:33) Bom, a gente precisa de uma nova pedagogia, isso demora, leva tempo, vai ter que treinar professores. E veja, não é algo que você aperta um botão e muda a pedagogia em todas as faculdades, até porque a IA também mexe com a forma de aprender e com a forma de interagir com as profissões de uma forma muito diferente. Então, eu não sei como e eu não sei qual o impacto da gente não ter uma pedagogia.​(42:57) Deve ter, eu imagino que tenha pessoas já fazendo esses estudos. A gente só não teve contato com eles. Vou citar minha esposa, amada esposa, que está agora fazendo mestrado aqui no IFRS, justamente para investigar… tem pessoas estudando, ela está estudando, o orientador dela, inclusive, para verificar o aprendizado com IA em crianças.​(43:26) Eles têm dados inclusive sobre isso, de algumas escolas até fora do país. Então, está se estudando isso, sem dúvida. O meu ponto é: está bom, mas como é que a gente vai inserir isso na educação se sequer a gente conseguiu ainda inserir a internet? Muda no direito de uma forma, na arquitetura de outro jeito, na TI de outra forma, sei lá, psicologia, pega qualquer área que você vai ver que vai ser diferente a forma como a IA vai ser usada, com mais liberdade ou menos​(44:01) em cada uma. Você vai estudar arte, talvez também, embora eu já tenha ido a uma exposição de arte feita com IA. Mas até nas artes plásticas, você vai ter a dinâmica diferente ali. Isso me preocupa. Pensamento crítico, Vinícius, eu acho que dá para a gente remeter para o episódio 387. Só antes, Guilherme, o que a gente falou do impacto do analfabetismo funcional na tecnologia foi o episódio 393.​(44:30) Tá, 393, a gente falou sobre esse tema. Tá bom. E pensamento crítico, a gente já referiu o estudo “The Impact of Generative AI on Critical Thinking”, aquele estudo famoso já da Microsoft e da Carnegie Mellon. A gente falou bastante sobre ele no episódio 387, mas só para a gente não perder a referência, eu acho que ele está bem conectado com tudo isso que a gente viu até agora. Em primeiro lugar, imagina só que ruim. É que nem quando você fala​(45:08) de saúde. Quando a pessoa tem maus hábitos, você vai juntando maus hábitos de saúde e aquilo culmina numa piora geral da pessoa. Bebe, dorme mal, fuma e tal. Agora imagina, além do problema da dívida cognitiva, que a gente sequer sabe ao certo como vai se dar para crianças. E se eu pudesse arriscar, e aqui é um palpite, Vinícius, a gente está misturando estudos ultracientíficos com palpite. É a nossa audiência.​(45:42) Com opinião. Vamos com opinião. Mas eu acho que essa é a graça do podcast. Você está aqui também porque ouve as bobagens que a gente fala. Bobagem no bom sentido. Então, veja, se eu já estou saindo de um paradigma de dívida cognitiva, e veja que dívida cognitiva… porque qual é o problema? Eu acho que um dos grandes problemas… esses dias, o que foi que eu perguntei? Ah, eu estava comprando um telefone para o meu pai. Eu e minha irmã estávamos comprando um telefone para o meu pai e eu pesquisei lá na hora no Perplexity se o​(46:15) telefone tinha NFC ou não. A gente já tinha comprado, na verdade. E a gente disse: “Não, pai, agora você vai poder usar o cartão no celular”, aquela coisa toda. Pesquisei no Perplexity e dizia: “Não tem NFC o telefone”. E eu, puxa vida.​(46:33) Aí guardei aquela informação para mim, pensando como é que eu vou contar para ele que a gente tinha comprado o celular e dito que tinha a funcionalidade quando não tinha. Eu fiquei matutando aquilo, cara. Eu pensei: “mas não é possível, era um telefone bom, sabe? Novo, recente, não era tão barato assim”. E tinha o negócio, entendeu? Veja que isso é uma questão de… não é bem dívida cognitiva, mas se eu junto dívida cognitiva com falta de espírito crítico, você vai aceitar aquilo que a IA estava te dizendo. É verdade. Acabou. Esses dias eu fui perguntar uma coisa sobre história, sobre um fato que eu já​(47:09) sabia, naquela do Perplexity que você conversa com ela. E eu perguntei sobre um fato histórico, era uma coisa lá de Portugal, que eles acabaram matando judeus lá em 1506, acho que era. Teve uma questão assim, teve um morticínio lá feito entre os cristãos e os judeus.​(47:27) E aí ele começou a contar aquela história e eu sabia um pouco daquela história e começou a inventar uma coisa, não tinha nada a ver com a história. Eu disse: “Não, mas pera aí, mas isso aí acho que não é assim. Só me confirma se…”. Aquele meme do cara que pergunta para a IA se esse cogumelo é comestível. Tu viu? Não, não vi.​(47:46) O cara pergunta para a IA: “Esse cogumelo é comestível?”. Aí a IA diz: “Sim”. Aí no outro quadrinho está o cara na cama de hospital: “Ah, sinto muito que esse cogumelo não é comestível”. “Quero aprender mais sobre cogumelos não comestíveis”, no hospital.​(48:04) Isso tem a ver com o espírito crítico, porque apenas para relembrar, a IA às vezes estimula e às vezes diminui o espírito crítico. E bem, em resumo, depende muito da intenção do sujeito. Aquilo que o Vinícius colocou agora há pouco. Às vezes eu só quero saber quando fulano morreu, numa conversa, ou para você que gosta de história и estuda sozinho em casa para desenvolvimento pessoal.​(48:31) Isso é uma coisa. O erro ali vai ter um impacto menor. Você só vai parecer burro quando citar uma coisa que não aconteceu ou dizer que algo aconteceu num ano totalmente diferente. Agora, em outras situações, o uso da IA sim, pode desencorajar, sim, pode levar você a subestimar, que é a questão da confiança.​(48:54) Quanto mais você confia na ferramenta, mais você vai aceitar aquilo e isso acaba diminuindo o teu espírito e o teu pensamento crítico. Quando você coloca isso no ensino, é terrível. Direito, por exemplo, cara, direito é pensamento crítico puro. Você vai ter que contrapor as ideias de uma outra pessoa. Você está o tempo inteiro, claro, com base na lei e tudo mais, não é freestyle que você diz o que quer, embora existam alguns que tenham um direito meio freestyle.​(49:23) Mas essas coisas estão muito conectadas. E aí aumenta aquele gap, mais uma vez, talvez seja um aumento do gap que você falou antes, Vinícius. Sim. Aumenta aquele gap porque esse estudo que tu colocas, Guilherme, que tu estavas falando, que a gente comentou nesse episódio 387.​(49:43) Ele aponta para aquilo que o Ethan Mollick, de novo, chama de “dormir ao volante”. Tu te acostumas com a IA, tu não pensas mais, tu não avalias criticamente mais o que ela está te trazendo e tu simplesmente usas aquilo. E isso, junto com aquele artigo anterior, que tem aquela dívida cognitiva de médio, longo prazo, cara, isso vai imbecilizar as pessoas.​(50:24) Aquele livrinho do Michel Desmurget, “A fábrica de cretinos digitais”, que tem para vender em português, é muito interessante. Ele está falando aí de crianças e tempo de tela. Mas daqui a pouco, eu estou vendo que ele vai escrever um com o mesmo título falando sobre o uso de IA, para adultos inclusive. É, e ele tem outro: “Como evitar os cretinos”. Até vou procurar aqui. “Faça-os ler”.​(50:48) Acho que é. Não sei do outro. Bom, Guilherme, nós temos ainda um outro artigo. Ele mais fala de um status que nós estamos tendo no momento atual de artigos. É um artigo falando sobre artigos.​(51:12) O título dele, esse aqui com certeza foi o Cláudio que me passou, o Cláudio Scheuer: “Mais artigos estão agora sendo criados por IA do que por humanos”. Então, olha só que interessante, cara. Eles buscaram com esse estudo verificar a prevalência de artigos gerados pela inteligência artificial.​(51:34) Então a ideia é: bom, a gente sabe que tem um monte de gente usando IA para escrever, tem um monte de evento recebendo submissão de artigo que tu lês e é claramente gerado por IA. Tu, esses dias, encontraste um livro que me mandaste a foto. Tu recebeste um livro, abriste o livro para dar uma olhada e me mandas uma foto da página do livro com um pedaço do prompt de resposta do ChatGPT junto com o texto que foi gerado para o livro.​(51:58) Então assim, acho que o pessoal desconfiou e pensou: “vamos ver o quanto tem de artigo escrito por IA por aí”. Então os pesquisadores utilizaram o Common Crawl, que mantém um dos maiores arquivos web publicamente disponíveis. É uma fonte chave para o treinamento de modelos de linguagem de grande escala. Eles selecionaram 65.000 URLs de artigos. Dessas 65.​(52:25) mil, eles filtraram para pegar apenas conteúdo em inglês, para facilitar a detecção da ferramenta, deve ser, com markup de esquema de artigo, com marcações e tal, com pelo menos 100 palavras, e publicado entre janeiro de 2020 e maio de 2025. E eles usaram o Surfer’s AI Detector como ferramenta para detectar o que era IA. E eles consideraram texto gerado por IA​(52:59) se o algoritmo tivesse identificado 50% ou mais do conteúdo como sendo escrito por IA. Menos do que isso, era classificado como escrito por seres humanos. Taxa de falso positivo. O que eles fizeram para ver se o Surfer’s AI Detector diria que textos escritos inteiramente por humanos foram, de forma errada, apontados como escritos por IA.​(53:30) O que eles fizeram? Pegaram 15.894 artigos publicados antes de novembro de 22, que foi quando o ChatGPT foi lançado publicamente. É fácil de saber agora. Qualquer livro publicado antes de novembro de 22, pode comprar que está de boa.​(53:54) Qualquer livro depois tem que dar uma olhada. O Surfer AI aqui classificou 4,2% desses artigos como gerados por IA, o que ele errou. Então ele errou em 4,2% das vezes (falsos positivos). E falso negativo? Eles geraram um pouco mais de 6.000 artigos com ChatGPT-4 e passaram para ele detectar, e a taxa de falso negativo dele (se já foi escrito por IA, ele disse que não era IA) foi de 0,6%.​(54:23) Só para a gente ter uma ideia, então, das taxas de erro. São boas taxas de erro. Bem razoáveis. O resultado, então, qual é o principal resultado deles? Em novembro de 24, a quantidade de artigos gerados por IA publicados na web superou a quantidade de artigos escritos por humanos.​(54:49) Aqui não é artigo científico, é artigos publicados no Common Crawl. Aí deve ter de tudo lá, inclusive artigo científico. Houve um crescimento significativo dos artigos dados por IA, coincidindo com o lançamento de ChatGPT em novembro de 2022. Por que será, né?​(55:13) E apenas 12 meses, ou seja, um ano depois, os artigos gerados por IA representavam quase metade dos artigos publicados, 39%. E o conteúdo… o que eles observaram? Eles citaram um estudo do MIT que está linkado no estudo deles, que por sua vez vai estar linkado no nosso, que o conteúdo gerado por IA está melhorando rapidamente e em muitos casos é tão bom ou melhor do que o conteúdo escrito por humanos.​(55:41) E isso eles afirmam citando um estudo do MIT. Eu acessei o estudo, está disponível lá, o estudo está no ar, no link que eles botaram no documento, está certinho. E também é difícil para as pessoas distinguirem se o conteúdo foi criado por IA, citando um outro estudo da Origin. Esse estudo eu não vi, mas é uma citação deles. E uma coisa interessante que chama a atenção: apesar da prevalência na web, os artigos gerados por IA em grande parte não aparecem no Google e no ChatGPT. Eles fizeram um outro estudo, daí tem o link para esse outro estudo que eles fizeram, em que eles foram​(56:23) buscar então esses artigos gerados por IA para ver se os encontravam com facilidade no Google ou se eram citados pelo próprio ChatGPT. E a conclusão a que chegaram nesse outro estudo que eles estão citando aqui é que esses artigos em grande parte não aparecem no Google. E talvez aí exista uma… eles comentam também isso nas conclusões, eu não botei aqui no nosso roteiro, mas eles citam no final do artigo que depois que ultrapassa, em novembro de 24,​(56:57) os artigos feitos por IA ultrapassam em número os artigos feitos por seres humanos, a curva não continua crescendo de forma exponencial. E eles levantaram a hipótese de que isso aconteceu porque os próprios escritores, os próprios autores, começaram a perceber que não estavam conseguindo grande alcance com o que estava sendo escrito.​(57:32) Essa é a hipótese deles. Que perceberam que não estavam tendo o alcance que esperavam com seus artigos e que isso talvez estivesse fazendo as pessoas entrarem num achatamento. Ou outra hipótese é que melhoraram ainda mais os algoritmos de escrita, os modelos, o pessoal melhorou os prompts e começou a ficar mais difícil de detectar. A ferramenta que tu usas, Guilherme, que é a mesma que eu conheço, eu não conhecia essa Surfer’s AI Detector aqui, ela funciona em boa parte dos casos. Mas eu te mostrei também​(58:08) algumas situações em que o conteúdo foi inteiramente gerado por IA, mas de acordo com o prompt, o conteúdo gerado não era detectado como sendo gerado por IA. Aí, mas na nossa aqui, a outra sempre acertou. Qual outra? Grammarly? Não, essa aí eu testei com ela.​(58:32) Ah, sim, eu te mostrei os resultados inclusive. Mas os prompts são bem mais complexos, são enormes, são prompts muito específicos para coisas muito específicas. Então, ali ele passou, ele deu vários falsos negativos, em que ele disse que não era e o conteúdo foi inteiramente gerado por IA, só que o prompt era extremamente detalhado. Seria mais fácil o cara escrever aquele texto do que o próprio prompt. A não ser que… isso é uma coisa interessante. Quando o cara vai fazer uma coisa uma vez só, dificilmente​(59:05) ele vai parar para fazer um baita de um prompt, a não ser que seja algo muito importante para ele. Agora, tarefas que tendem a ser repetitivas, vale a pena tu investires e fazeres um prompt bem detalhado, porque daí as tarefas repetitivas, tu vais perder tempo uma vez, mas vais usar aquele prompt n vezes.​(59:23) Agora, se vais fazer uma única tarefa, tu não vais escrever um prompt gigante só para aquela tarefa. Não tem muito sentido, mas enfim. Sabe que… Não, não, não. Eu só ia comentar desse artigo que comenta sobre isso. Isso aqui, Guilherme, me chama muita atenção. Deve estar sendo um inferno a vida de quem fica fazendo revisão de artigo para evento. Faz muito tempo que eu não faço e eu estou até feliz, porque deve vir muita coisa feita com IA, deve estar vindo​(59:52) muita coisa. Acho que irrita um pouquinho o negócio ter sido feito com IA e tu parares para ler. E aí o que o pessoal tem feito também é pedir para a IA avaliar os artigos. Isso eu tenho visto também. Já ouvi várias histórias assim.​(1:00:13) Eu acho que o grande pulo do gato aqui é a transparência, que é um dos princípios que regulam a IA. Nós, por exemplo, não… deveriam regular o uso da IA. Os princípios, por exemplo, quando a gente fala do AI Act, o princípio da transparência está lá, transparência e informação. O nosso PL de IA também tem.​(1:00:37) São princípios mundialmente conhecidos. Explicabilidade é um do que a gente já falou aqui e tal, e a transparência é um deles. Quando que a transparência entra em jogo? Bom, quando você vai interagir com um bot, o ideal é que você deixe claro para o usuário, para o consumidor, para o cliente, que ele está interagindo com um bot. Isso é bem importante.​(1:01:02) Agora, quando o conteúdo é gerado por IA, também eu entendo que ele deve ser assim anunciado. Falo aqui sem nenhum problema, porque o nosso blog da Brown Pipe, quando a IA é usada, está lá embaixo. Quando que a IA é usada, por exemplo, para dar alguns exemplos no nosso blog? Bom, quando a gente quer traduzir alguma coisa.​(1:01:21) A gente sabe traduzir aquilo, a gente identifica problemas na tradução e corrige quando aquele problema é identificado, ou quando você quer resumir grandes quantidades de texto para colocar no blog também. Então, você tem uma decisão judicial gigante e você quer informar o leitor sobre aquela decisão judicial.​(1:01:40) A gente sabe resumir decisões judiciais. Só que se nós ficássemos resumindo decisões judiciais para que o leitor com um certo interesse leia, a gente entregaria menos conteúdo. Então, veja, não é um conteúdo que é gerado por IA, é um conteúdo em que a IA é usada para apresentar o conteúdo de uma forma mais rápida, talvez. E também para, eventualmente, quem não… se tem uma decisão em francês, cara, talvez não seja tão acessível assim para as pessoas. O que tu estás​(1:02:15) falando aqui, me parece, são pessoas que estão usando a IA sem a devida transparência. Esses dias eu peguei um artigo de um pesquisador até bem conhecido, professor aqui do Rio Grande do Sul, publicando em uma revista de grande amplitude nacional na área do direito. E aquela mesma coisa que você comentou antes da homogeneidade linguística. Você olha aquilo e pensa: “não, isso aqui tem alguma coisa estranha”. Peguei o Penn Gramm, que é a ferramenta que a gente usa​(1:02:51) para isso. E, cara, estava metade do artigo escrito por IA e a outra metade escrita por ele. Metade do artigo. Então, veja, ali você me parece… obviamente eu не vou dizer o nome, mas você tem um problema grave ali que é o seguinte: primeiro, eu até não fui atrás das diretrizes da revista. Algumas revistas estão atualizando.​(1:03:17) Essa, eu confesso que não sei se atualizou. Se não atualizou, é um problema, porque a revista tem que ser muito clara em como você deve usar IA. E já há vários modelos aí para você seguir. Se a revista não sabe como fazer, cara, pesquisa na internet que você vai achar várias revistas ao redor do mundo. A própria Nature, acho que faz isso, se não me engano. Então tem diretriz para isso.​(1:03:41) E outra, não tendo diretriz, me parece que o pesquisador deve ser muito cuidadoso com isso. Por um motivo muito simples: porque se ele se acha tão esperto assim no sentido de… e aí volta lá no primeiro estudo, Vinícius, como a IA te induz a fazer certas coisas? Se você se acha tão esperto assim, e veja, era um artigo sobre direito e tecnologia, podem descobrir, porque a IA que identifica também está ficando melhor.​(1:04:16) Lançou a nova versão dele, o algoritmo dele vai evoluindo também. Claro. Porque o próprio Penn Gramm usa IA. É, então, não tem problema de usar IA, seja franco quanto a isso. Inclusive, eu quero saber se tu usaste IA e quero saber qual o prompt também, quero saber como foi usado.​(1:04:39) Aí que vem a questão. Você tem que ser transparente sobre aquilo. Só para a gente terminar aqui, Vinícius, o outro livro do Desmurget, que a gente falou antes aqui, o primeiro é “A fábrica de cretinos”. Eu perdi aqui o prompt. O outro é “Faça-os ler para não criar…​(1:05:06) …cretinos digitais”. Tem uma curiosidade. Eu botei ali o link e aí eu fui ver, porque ele é francês, a capa da edição francesa para comparar com a capa da edição brasileira. Me parece, com muito acerto, Vinícius, que a capa da edição brasileira é gerada por IA. Estou vendo a capa aqui. Com certeza. Não há dúvidas que foi feita com IA. Não há dúvida.​(1:05:40) Ou foi uma foto muito… o livro, as bordas do livro, os dentes do menino, a própria expressão facial em cima do olho, está artificial. O olho está muito… está toda zoada a sobrancelha dele, cara. É, a sobrancelha toda horrível, cara. Horrível.​(1:06:04) Troço horrível. O cara está falando, o tema do livro do cara é sobre isso. Com todo o carinho e o cuidado que a gente tem ao dizer isso com a editora, eu entendo a ideia, a proposta. Não, mas desse jeito, nessa qualidade não dá, cara. A cabeça do guri está zoada.​(1:06:29) Contradiz o propósito. É uma contradição em termos, um livro que fala justamente sobre isso ter uma capa como essa. Eu fui ver a edição em francês que é “Faites-les lire”. Não parece ser IA. Acho que foi uma foto tirada, embora tenha dedos aqui… Talvez CGI também, cara. Que droga. Ai, meu Deus. Mas acho que não, Vinícius. Dá uma olhadinha ali também. Veja você.​(1:06:53) Vou botar o link para as duas. Você, ouvinte, vai lá se quiser, se tiver tempo. Mas com certeza… Deixe a opinião depois. Mas a edição brasileira, com certeza. E se vocês observarem as sobrancelhas dele aqui em cima, é um troço horroroso. Não tem dúvida. A edição francesa, Guilherme, eu acho que tem chance de não ser IA. É, né? Eu acho que não é também. Eu acho que tem chance de não ser. Não sei dizer.​(1:07:20) Tenho dúvida agora. A edição em português é IA. Com certeza absoluta. Brasileira. Troço horroroso, cara. Pena que não leio francês. Vamos… Eu queria terminar com o seguinte, Guilherme. A minha mensagem final, depois, claro, não sendo necessariamente concordada…​(1:07:40) Aliás, eu lembrei agora que a gente parou de fazer o “Café Expresso” e o “Café Frio”. A gente está sempre na correria, não tem tido tempo de fazer o finalzinho. Mas a questão aqui não é… a gente trouxe uma série de coisas negativas, uma série de estudos que apontam impactos negativos, desde a questão de facilitar o comportamento desonesto, a questão da criatividade, do pensamento crítico, do déficit cognitivo a longo prazo. São todos problemas. Isso quer dizer, então, que a​(1:08:17) gente está dizendo “não use IA” ou que a IA não presta, “vamos jogar fora”? Não, gente. Eu acho que já tem muito site, as próprias empresas inclusive, falando do quão bom é usar IA, quantas coisas legais tu podes fazer com IA.​(1:08:43) E algumas nem são bem verdade como eles anunciam, mas enfim. Eu creio que a IA é extremamente útil. Eu mesmo uso para várias situações diferentes. Eu tenho um amigo que usa. Não, eu uso IA diariamente. Então eu acho que o nosso papel aqui é de chamar a atenção para os cuidados que se tem que ter ao utilizar a tecnologia, principalmente se você é professor, professora, pai, mãe. Se de alguma maneira tu tens alguma influência sobre outras pessoas, no teu entorno, no trabalho, etc.​(1:09:25) Para que o uso de IA seja o mais responsável possível, evite que você se prejudique, evite que os outros se prejudiquem de maneira mais imediata e, principalmente, se prejudicar de formas que talvez sejam muito caras para te recuperares do prejuízo, como, por exemplo, nesse processo de aprendizado, de desenvolvimento como profissional e tal.​(1:09:52) Então, se tu pegas uma criatura que já está lá no ensino médio usando IA para fazer tudo quanto é trabalho e de repente não tem professor orientando, não tem professor pegando essas situações e tratando isso com o aluno para orientá-lo melhor. Aí o cara chega na faculdade… bom, aí tu já sabes como é que é.​(1:10:09) O Guilherme dá aula em faculdade, eu dou aula em faculdade, já dei mais de 20 anos de aula em faculdade. Para quem nos escuta e também já deu aula, sabe muito bem como é que é o processo em geral. É o caminho mais fácil. Muitas vezes, não é de todo mundo, mas tem um monte de gente que toma o caminho mais fácil.​(1:10:29) E a IA é um caminho muito fácil, tanto para tu aprenderes, o que é ótimo para usar para estudar, é fantástico, quanto para tu “matares” o tempo que deverias ficar estudando, lendo, escrevendo. Tu matas esse tempo, deixas a IA lá e vais fazer outra coisa. Então, isso vai impactar no profissional que você vai ser ou no profissional que os seus alunos vão ser.​(1:10:58) E aí tem um estudo que a gente não vai entrar nele hoje, que foi um estudo feito sobre o futuro do trabalho em 2025 e a inteligência artificial. Isso a gente vai trazer futuramente. Ele é muito interessante. Já que é o futuro do trabalho, a gente vai trazê-lo futuramente. Que horror.​(1:11:23) E aí… O Ethan Mollick, que nós já citamos aqui, eu já recomendei o livro “Co-inteligência”. E recomendo de novo, do Ethan Mollick, um livro que custa uns 40 e poucos reais, eu acho. Estou colocando o link ali. Ele já coloca essa situação, ele chama a atenção para o fato de que a IA vai subir a barra de entrada, vai subir a barra dos trabalhos das vagas júnior. Porque a IA vai fazer muito bem sob a orientação de quem já tem muita experiência e, ao mesmo tempo, quem está chegando com uma formação​(1:12:02) ruim no ensino médio, na faculdade, já sendo tudo “torto” pela IA, vai apanhar justamente dessa IA que tanto o “ajudou” no ensino médio, o prejudicou ali no ensino médio e na graduação pelo mau uso que ele fez da IA ou pela falta de orientação, e vai ainda dar-lhe um “toco” quando ele for entrar no mercado de trabalho, essa mesma IA. Então, a gente deve usar, a gente deve aprender, entender como funciona e saber como utilizar de forma adequada. É essa a mensagem final que eu deixo, Guilherme, de minha parte.​(1:12:45) pelo menos. É, e o Segurança Legal tem essa característica de falar com a academia, falar com os estudantes na academia, falar com o público em geral, com interessados. A gente tem pessoas de outras áreas aqui que, sei lá, a gente já teve alunos aqui da física que eventualmente vêm aqui nos estudar também. Mas a gente também quer e está sempre falando com o mercado. É claro que, se a gente deveria ter falado isso lá no início, mas se você chegou até aqui​(1:13:22) sem querer, isso tem tudo a ver com como a IA vai se desenvolver no mercado e nas organizações. Porque falar, por exemplo, não só da questão do futuro do trabalho, que acabou não entrando, mas quando a gente fala sobre a questão do comportamento desonesto, isso está no cerne da preocupação de qualquer organização, de qualquer empresa. A empresa não quer comportamentos desonestos.​(1:13:50) Para lembrar só um caso recente, falamos, eu acho que falei também no outro episódio que eu estava sozinho, que lá na Deloitte teve um estudo inteiro feito para o governo da Austrália que um pesquisador foi pegar, começou a escrutinar e ver o estudo e viu que tinha 20 e poucas fontes citadas que não existiam, livro que não existia, o autor existia, mas nunca tinha escrito aquilo. Então, a Deloitte devolveu dinheiro para o governo da Austrália. Claro, aqui nós temos aquela situação, é uma dessas big four aí, então o risco para ela é​(1:14:26) muitíssimo menor. Mas saiba que você, empresário, também pode se beneficiar de tudo isso que a gente falou aqui. Poxa, um dos livros indicados aqui, vai ficar grande esses show notes, é da Bolden, “Inteligência Artificial: Uma brevíssima introdução”.​(1:14:54) Poxa, você é empresário, você é líder de equipe e tal, vai se beneficiar desse tipo de leitura aqui, por exemplo. E de tantas outras que a gente colocou aqui. Então, não é só uma questão de educação e criatividade somente para a área da educação. O empresário consegue se beneficiar, e a empresária também consegue se beneficiar, disso que a gente trouxe aqui. Então eu espero que tenhamos conseguido atingir o nosso intento aqui de contribuir também um pouquinho nesse debate da IA no mundo atual. Espero.​(1:15:27) Tá bom. Então está bueno. Vamos lá então. Agradecemos a todos aqueles e aquelas que nos acompanharam até aqui e nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima.

Neste episódio, você vai aprender sobre a realidade por trás dos massivos vazamentos de senhas e como se proteger de forma eficaz. Abordamos a evolução da insegurança bancária, detalhando a nova responsabilidade das instituições financeiras em golpes de engenharia social, conforme decisão do STJ, e o que isso significa para o dever de segurança delas. Exploramos também os novos riscos da cibersegurança com a popularização dos navegadores com inteligência artificial, como o ChatGPT Atlas, e a ameaça do prompt injection. Discutimos a importância de políticas corporativas claras para o uso de IA, evitando o chamado shadow AI e garantindo a proteção de dados. Aprofundamos a análise sobre as implicações do uso de inteligência artificial generativa no ambiente profissional e pessoal. Comentamos um caso emblemático em que a consultoria Deloitte utilizou IA e entregou um relatório com alucinações de IA, resultando em perdas financeiras e reputacionais. Essa discussão nos leva a uma reflexão sobre o direito da tecnologia, a necessidade de transparência no uso dessas ferramentas e como o cumprimento de contratos pode ser afetado. Este episódio é essencial para quem busca entender os desafios práticos e jurídicos da segurança da informação na era da IA, incluindo os cuidados com a LGPD. Não se esqueça de assinar o podcast, nos seguir nas redes sociais e deixar sua avaliação para que nosso conteúdo chegue a mais pessoas.  Visite nossa campanha de financiamento coletivo e nos apoie!  Conheça o Blog da BrownPipe Consultoria e se inscreva no nosso mailing   ShowNotes 3,5 terabytes de informações, ou mais de 183 milhões de senhas de e-mail, foram violadas Bancos e instituições de pagamento devem indenizar clientes por falhas que viabilizam golpe da falsa central Petição feita por IA cita dono de bar como relator; autora pagará má-fé TRT-3 aplica multa após advogado citar súmula inexistente gerada por IA Deloitte to partially refund Australian government for report with apparent AI-generated errors Deloitte was caught using AI in $290,000 report to help the Australian government crack down on welfare after a researcher flagged hallucinations ChatGPT Atlas Browser Can Be Tricked by Fake URLs into Executing Hidden Commands Artificial IntelligenceAI Sidebar Spoofing Puts ChatGPT Atlas, Perplexity Comet and Other Browsers at Risk  Foto do Episódio – Spy Booth de Bansky, foto de Duesentrieb 📝 Transcrição do Episódio (00:06) Bem-vindos e bem-vindas ao Café Segurança Legal, episódio 405, gravado em 27 de outubro de 2025. Eu sou o Guilherme Goulart e junto com o Vinícius Serafim vamos trazer para vocês algumas das notícias das últimas semanas. E aí, Vinícius, tudo bem? E aí, Guilherme? Tudo bem? Olá aos nossos ouvintes.(00:27) O Vinícius está de volta, depois que um ouvinte observou muito bem que o Vinícius estava como not found no episódio 404, o episódio anterior. Uma piadinha só para os nerds que vão entender. Esse é o nosso momento de conversarmos sobre algumas notícias e acontecimentos que nos chamaram a atenção.(00:44) Pegue o seu café e vem conosco. Para entrar em contato conosco, envie uma mensagem para podcast@segurançalegal.com, Mastodon, Instagram, Bluesky, YouTube e agora, Vinícius, estamos no TikTok. Deus do céu. Se você é jovem, nos acompanha aqui e usa o TikTok, pode nos seguir lá também buscando por Segurança Legal.(01:08) Vamos fazer uma experiência para ver como é uma linguagem diferente, enfim, mas estamos já lá para fazer uma experiência com alguns cortes do podcast em vídeo, que nós vamos estar fazendo aí nos próximos dias ou semanas, vamos ver como vai ser. E também temos a nossa campanha de financiamento coletivo. Lá no Apoia.se você apoia o Segurança Legal, onde conclamamos sempre que você considere apoiar essa iniciativa independente de produção de conteúdo.(01:26) Vinícius, vamos para a mensagem dos ouvintes. Temos uma mensagem bem interessante que não vamos identificar o autor, lá no episódio 403, 10 orientações sobre o uso de IA no ambiente empresarial. E esse ouvinte anônimo disse o seguinte: “Eu mesmo, como um his programador, há alguns anos fiquei por meses pedindo aos meus gestores uma formalização e atualização do nosso NDA para que(02:04) pudéssemos usar sem medo LLMs como auxílio. Sempre enrolado, resolvi seguir para o jurídico da empresa, abrir ticket, mais uma vez, depois de meses insistindo no ticket e com meus gestores, o ticket foi fechado e nada foi resolvido ou esclarecido”. Será que essa é uma situação comum hoje em dia, Vinícius? A primeira coisa é: eu não gostei.(02:29) Não te deprecie chamando de his programador. His programador. Não, tu não é um his programador, cara. Tu é um programador, é um desenvolvedor. Nada de his. E a questão de formalização com uso de LLM como auxílio para desenvolvimento, eu tenho visto duas, tem várias posturas, mas as que mais me chamam a atenção são ou aquela postura em que não permitem por medo que os códigos sejam utilizados, que as bases, repositórios de código e tal da empresa sejam utilizados para treinar IA(03:05) e eventualmente acabe revelando alguma coisa sobre os sistemas da própria empresa. Só que aí é uma questão de se analisar as ferramentas, ver as opções disponíveis no mercado para uso empresarial, inclusive ver as opções de configuração e algumas coisas mais que têm que ser vistas.(03:27) Eu acho que isso sim tem que passar pelo pessoal da segurança, digamos assim, dentro da empresa e tem que se estabelecer quais são as práticas aceitáveis, ou seja, quais são as ferramentas aceitáveis, quais são as configurações mínimas que devem ser feitas, esse tipo de coisa. Então, eu tenho visto tanto situações em que a empresa simplesmente diz que não pode usar, e no desenvolvimento a gente pode discutir a aplicação de IA em várias situações, mas no desenvolvimento ela é extremamente útil. A generativa para gerar código é extremamente útil. Não há dúvida nesse sentido. E há também o outro(04:05) extremo, em que o pessoal utiliza o que lhe vem na telha. Então não há uma recomendação formal por parte da empresa. E aí cada um vai usando a ferramenta que tem à disposição, seja free ou não. É o shadow AI. É o shadow AI que a gente comentou. Então, cada um utiliza o que acha melhor e nem sempre com as configurações mais adequadas, nem sempre com uma revisão adequada do que tem sido submetido para a IA, o que fica na IA, o que não fica, etc. Então, esses dois extremos são(04:40) bem delicados. E essa questão de definição, de sentar para definir, eu não sei, Guilherme, eu não fiz pesquisa sobre isso ainda. Mas me parece que está se normalizando o uso da IA como se fosse usar o Google e o pessoal não está sentindo tanta necessidade de definir claramente as regras para uso desse negócio, entende? Porque parece que é mais um Google, mais uma aplicaçãozinha qualquer assim.(05:15) Então há uma clara falta de atenção a esse ponto, que é o que o nosso ouvinte coloca como o sofrimento dele ali, tentando contato com alguém para dizer o que pode usar, o que não pode, quais são as diretrizes, qual é a regra. E ao mesmo tempo, sem regra nenhuma, o que ele faz? Ele não vai usar? Ou vai usar conforme o que ele acha que deve ser o ideal? Então assim, eu entendo bem isso que ele está colocando.(05:47) Acho que é mais uma dessas políticas que têm que ser criadas, definidas dentro das empresas e que a gente sabe muito bem que muitas vezes elas nem sequer existem, nem as mais básicas existem, quanto mais essa. É, era o que eu ia dizer. Eu acho que não é só uma questão de NDA, mas é mais do que NDA, é você ter diretrizes sobre o uso, porque elas vão envolver também proteção de dados. Mas assim, vamos lá. Tem empresas que até hoje ainda não regulam o uso de internet, de navegação dos seus funcionários. Então, quiçá pensar na IA. Veja, é(06:20) quase também como uma cegueira generalizada. Muitos gestores fecham os olhos no sentido de ignorar que os funcionários estão utilizando. Mas, gente, as pessoas estão utilizando em contextos bem complicados, bem delicados, levando até em consideração aquilo que nós falamos no episódio passado, que seria como a IA promove comportamentos desonestos, que daí passa a ser um outro problema também quando você não tem o monitoramento ou controle adequado. Então tá, um abraço.(06:51) Isso aí, um abraço para o nosso ouvinte não nominado. Vinícius, 3.5 TB de informações ou 183 milhões de senhas de e-mail foram vazadas. É isso mesmo. Isso me chamou muita atenção, essa notícia. Eu vi em mais de um site. São senhas do Gmail. Então eu pensei: “Meu Deus do céu, vazou alguma coisa lá no Google ou conseguiram fazer alguma coisa para extrair essas senhas lá de dentro?”. E a primeira coisa que me chamou a atenção, logo que eu vi que as senhas(07:28) estavam em texto claro, o dataset seria endereço de e-mail e senhas em texto claro. E te dizer, eu não consigo imaginar, consigo imaginar muita coisa, mas não o Google armazenando as senhas em texto claro em algum lugar que permita alguém fazer um dump com usuário e senha. E aí, de fato, quando eu comecei a ler as notícias e tal, inclusive o Have I Been Pwned teria noticiado esse vazamento. Mas se vocês derem uma procurada, vocês vão(08:03) encontrar o mesmo que eu encontrei, a conclusão a que cheguei é que é uma notícia que não é bem uma notícia. É um bocado de senha que foi coletada por meio de malware, foram ataques feitos a pessoas ao longo de um período de tempo bastante grande e mais de 90% dessas senhas já estavam em bases de vazamentos anteriores e foi feito mais um daqueles compilados do que rodava por aí na internet. De qualquer maneira, então assim, é uma notícia que não é uma notícia, na nossa opinião. É mais um(08:37) clickbait do que uma notícia. Mas a gente até gravou um vídeo esses tempos atrás, um videozinho que a Camila publicou, que eu gravei com essa questão do Have I Been Pwned. Eu acho que a gente mantém a recomendação de, tempos em tempos, dar uma olhadinha no Have I Been Pwned lá, acessá-lo, colocar seus e-mails e ver se tem alguma conta que vazou, se o seu e-mail está listado em algum vazamento.(09:05) Ele tem até uma verificação de senha que você poderia, eu não recomendo usar isso, mas tem uma opção lá no Have I Been Pwned que você pode clicar e digitar uma senha sua para ver se ela aparece em algum lugar, mas ele está submetendo uma senha sua para o site. Embora eu ache que o site seja confiável, eu não submeteria senhas minhas para outros lugares.(09:24) Então, está lá a opção. E se você encontrar algum vazamento em que seu e-mail está listado, faça um favor a si mesmo e altere as suas senhas. Use um gerenciador de senhas, um LastPass da vida ou algum outro gerenciador que você tenha disponível junto com antivírus ou na sua conta do Google ou um Bitwarden, alguma coisa assim, mas use uma senha diferente para cada site, se você puder.(09:55) O que pesa aí para gerenciar é que se for alguém mais ligado à TI, talvez possa usar um KeePass e jogar esse KeePass num OneDrive, num Dropbox ou num Proton Drive e compartilhar com mais de um dispositivo. Daria para fazer também. Mas no final das contas, a ideia é que você utilize senhas diferentes para todos os serviços. Mas essa notícia é uma não-notícia, Guilherme.(10:19) A gente comentou mais porque ficou chateado que caiu no clickbait. É, e até porque, sim, a gente começou a ler e no fim da notícia diz que o especialista no caso, Troy Hunt do Have I Been Pwned, que dia desses caiu num phishing, a gente falou aqui no caso do Troy Hunt.(10:37) Se o Troy Hunt cai num phishing, imagina você. Então ele diz que cerca de 92% dos registros já haviam aparecido em violações anteriores. Isso. Então, são aquelas compilações. Mas ele ainda destaca que cerca de 8% eram novos, o que representa 16 milhões de endereços de e-mail nunca vistos antes. Bom, Vinícius, tivemos uma decisão recente do STJ(11:08) que consolidou, digamos assim, ou modelou o dever de segurança das instituições de pagamento. O STJ reconheceu, lá no REsp, que é o número da decisão, Recurso Especial 2.222.059, a responsabilidade das instituições de pagamento, não somente das instituições bancárias, mas das(11:38) instituições de pagamento também. Há uma diferença entre esses dois tipos de instituição, ambas instituições financeiras, para os golpes de engenharia social. O que a gente tinha até agora? A jurisprudência já vinha, e para aqueles não iniciados no direito, jurisprudência são os conjuntos de decisões dos tribunais superiores que marcam como o judiciário se posiciona sobre uma questão. A jurisprudência vinha entendendo, numa decisão também recente, que quando a fraude ocorre ou quando a fraude é habilitada por um vazamento,(12:18) a instituição financeira seria responsável pela fraude. São aquelas situações comuns. Ou seja, eu tenho ainda ali uma presunção de que se o atacante teve acesso a dados que certamente saíram de dentro da instituição de pagamento, ela seria responsabilizada pela fraude, veja, habilitada pelo vazamento, além inclusive de um dano moral. Ou seja, eu teria duas indenizações ali, além de um dano moral pelo receio de ter aqueles dados utilizados em outras situações e tudo mais, como a gente também falou aqui em um dos episódios passados. Pois bem, ou(12:56) seja, aquela situação em que o fraudador entra em contato contigo e diz: “Olha, você tem aqui o seu financiamento de tanto, do carro tal, você já pagou 18 prestações, tem duas que estão em atraso, eu estou te ligando aqui para…”, e aí o cara cai no golpe. A novidade agora foi ampliar a interpretação de qual é o dever de segurança das instituições de pagamento.(13:29) Nesse caso aqui, o Nubank. É um balanço, na verdade, delicado. Porque a depender do tipo de atividade que uma empresa presta, se a gente for perguntar qual é o dever de segurança dessa instituição ou dessa empresa, é claro que o dever de segurança vai variar a depender da complexidade do serviço, do tamanho da empresa, se tem dados pessoais ou não e da própria segurança que se espera para aquela atividade. Então, se ao mesmo tempo a empresa não pode transferir para o usuário, para o(14:02) consumidor, os riscos da própria atividade, eu preciso fazer um balanço delicado, porque ao mesmo tempo que o risco não pode ser transferido, é inegável que a internet e os meios digitais revolucionaram os sistemas financeiros e bancários. Ninguém mais vai ao banco, raramente você vai ao banco.(14:25) Então, é claro que isso traz uma vantagem absurda para os usuários. O cara vai viajar para outro país e consegue manter a vida financeira dele como se estivesse aqui. Agora, a questão é como eu faço esse balanço desse benefício que o usuário, que o consumidor tem, e qual seria o risco que a própria instituição deveria suportar num cenário de ampliação de golpes. Porque o último anuário de crimes de segurança, o Anuário de Segurança, fugiu o termo, Vinícius, se você puder procurar. Anuário de crime, não, Anuário de Segurança, eu(14:58) acho que sim. Se você puder procurar só o termo, mas falou do intenso aumento de crimes digitais, de fraudes digitais. Anuário Brasileiro de Segurança Pública. Isso aí.(15:21) E, então, uma coisa que a gente já sabe é que os criminosos têm menos risco no ambiente digital e tudo mais. Então, dentro dessa dinâmica, como eu modelo esse dever de segurança aqui, especificamente nas instituições de pagamento? E o que se entendeu foi que os bancos também vão ser responsabilizados, as instituições de pagamento, perdão, vão ser responsabilizadas nos casos de golpes de engenharia social, mas que não necessariamente tenham sido causados por um vazamento. Então, o que deveria se levar em consideração? Essa decisão do STJ considerou os limites da(15:59) transferência de risco e também os limites de qual é a segurança possível esperada por um serviço, levando em consideração que é um ambiente imprevisível, os golpistas estão sempre inventando novas técnicas e também os próprios limites do dever de segurança por parte do próprio usuário. O próprio usuário também tem um dever de cuidado mínimo ali.(16:26) Então, eles entenderam que as instituições precisam manter algum tipo de análise preventiva das transações. Eu leio aqui: transações que fogem do perfil do cliente ou do padrão de consumo. A avaliação do horário e do local em que as operações foram realizadas, o intervalo de tempo entre essas transações, a sequência de operações realizadas, o meio utilizado para a realização e a contratação de empréstimos atípicos em momento anterior à realização dos pagamentos suspeitos.(16:57) Ou seja, você conjuga tudo isso. E no caso específico, o usuário ali, o consumidor, ele usava a conta do Nubank quase como uma poupança, ou seja, ele não tinha quase transações, ele só colocava grana lá dentro. E aí, no mesmo dia, houve 14 transações seguidas, de lugares diferentes, em horários intervalados, num intervalo próximo uma da outra, o que, segundo a jurisprudência, configuraria um desvio no padrão de uso do cara. Então, essa figura da análise e da falha no padrão de uso já vinha sendo reconhecida pela jurisprudência também,(17:34) mas como o STJ, como corte máxima de recursos, reconheceu isso, consolida de certa forma algo que já vinha sendo reconhecido, que é esse dever preventivo de avaliar se as transações do correntista não estão fugindo daquilo que ele faz normalmente.(18:00) E aí quando a gente coloca a IA aí, Vinícius, esse tipo de avaliação fica mais facilitado. Porque, veja, não é algo tão complexo assim você criar um perfil de uso. O cara faz uma transação a cada 5 dias, aí de repente tem 14 num dia só. Bom, teve ali uma, o cara vai ter que dar uma travada, vai ter que ter algum mecanismo adicional. E eu acho que isso tudo, no final das contas, modela, como eu disse antes, o que é o dever de segurança. Então, por isso que eu acho que essa é uma decisão bem importante, porque, repetindo, a depender(18:30) do tipo de atividade realizada, o dever de segurança vai ser mais ou menos amplo, vai ser modelado de uma forma diferente. É, Guilherme, a IA generativa nesse caso, nem vejo como dá para ser utilizada, é óbvio, mas nós temos já várias outras formas de algoritmos de IA para além dos generativos. E outras formas também de fazer a análise artística desses dados, dessas operações e poder fazer, é algo que já vem acontecendo há bastante tempo. E tecnologia existe para isso, não é nada muito novo. O(19:09) que realmente me chama a atenção é agora essa questão da responsabilização. A gente tem que arcar com o risco que antes estava todo jogado no colo do cliente. E agora isso dá uma invertida, torna a coisa um pouco mais difícil.(19:32) Não, e tem aquela coisa também, o próprio Nubank tem algumas práticas que me incomodam um pouco. Você abre o aplicativo do Nubank e a primeira coisa que aparece é um botão de empréstimo com valor liberado para ti. É uma facilidade que você tem. É, mas eu prefiro isso do que ficar mandando mensagem oferecendo consórcio, que acontece também.(19:49) Outros bancos têm essa prática. Posso pegar a primeira? Claro. A primeira, que é a notícia de verdade, que a outra foi só um clickbait, uma não-notícia. É, uma não-notícia. Aqui são duas notícias, na verdade. Eu trouxe os dois links, depois vão estar lá no show notes.(20:07) Acho que todo mundo que ouviu todos os nossos episódios já nos ouviu falar do prompt injection. Então você tem aí, você vai lá, escreve um prompt e de repente, enquanto você está só fazendo perguntas para o modelo, sem o modelo acessar nada além do próprio modelo, dos dados que estão ali intrínsecos, não tem um grande problema.(20:34) Mas daí você começa a dar para a IA a possibilidade de acessar a internet, de acessar sites. O Perplexity foi quem começou isso, digamos assim, mas hoje todas fazem. E aí já começa o risco de a IA esbarrar em algum site, ler alguma página que tenha lá dentro alguma instrução escondida, como: “ignore tudo que o usuário pediu a partir daqui, siga o que eu estou lhe pedindo para fazer”. Isso é possível em sites, em arquivos PDF, em arquivos DOC. É possível em qualquer tipo de dado(21:16) que você vá fornecer para uma IA generativa processar e te gerar texto, te explicar alguma coisa ou te dar alguma informação. Mas mais recentemente, isso tem ficado ainda mais interessante. E também tem os diversos sistemas desenvolvidos por empresas, por software houses, etc.(21:40) que começam a incluir agentes para analisar contratos, agentes para outras coisas, e aí você consegue fazer prompt injection nesses caras também. Mas recentemente, começou a acontecer uma popularização dos navegadores das IAs.(22:01) Então a gente tem o Comet, da Perplexity, a gente tem o Atlas, do GPT. E esses caras, em essência, não são só um navegador que você abre e tem lá a janelinha do Perplexity ou do ChatGPT. O próprio navegador é uma ferramenta totalmente manipulável pela IA. Ele consegue ver as abas que estão abertas, você consegue fazer perguntas sobre o seu histórico, pode pedir para ele fazer ações.(22:22) Inclusive, eu mesmo testei isso. Você consegue dizer para ele: “dá uma olhada lá na Amazon, vê qual foi o último café que eu comprei e coloca mais uma unidade no meu carrinho, por favor, que depois eu vou lá fechar a compra”. Poderia até dizer para fechar a compra, se os dados estivessem lá.(22:41) E ele fez, funciona. Ele interagiu com a sua conta logada na Amazon. É isso. Ele interagiu com a minha e não só isso, ele procurou. Eu estava com o Gmail aberto numa aba. Aí ele procurou no meu Gmail a lista de e-mails relacionados a compras que eu fiz na Amazon. Encontrou o café, acessou o site da Amazon.(23:00) Eu já deixei logado. Ele logou no site, catou o café, botou no carrinho e me avisou: “está no carrinho”. Mas ele pode fazer várias outras coisas para você. Você pode estar com o WhatsApp logado nele e pode pedir: “procura aí as mensagens que eu não li, as não lidas recentes, e me dá uma sugestão de resposta para uma delas”.(23:25) Ou você pode dizer: “responde para o fulano de tal que não sei quê”, e ele vai responder. Então ele consegue interagir com sites em seu nome. Em essência, é isso que esses navegadores conseguem fazer. E aí, obviamente, começou a aparecer ataque de prompt injection contra navegadores de IA.(23:46) A coisa ainda está começando, tem muita especulação sobre o que daria para fazer. Você poderia pedir coisas como, por exemplo: “pega o histórico do usuário e manda por e-mail para não sei onde”. Ou “faça uma compra, faça com que o usuário compre o produto tal na Amazon e mande entregar no endereço tal”, num outro endereço que não seja do próprio usuário.(24:21) As possibilidades, em tese, são infinitas, porque você tem uma ferramenta que consegue interagir com a internet em seu nome. Então, dependendo das credenciais que você colocou ali, do que você acessou, ela pode fazer o que quiser em seu nome. E isso interagindo com as suas contas logadas, não precisa nem roubar sua senha. O que estiver logado ali, o que você tiver no navegador, o navegador é da IA. Se você se logou na conta X, Y, Z, as contas X, Y, Z vão(24:53) estar disponíveis para ele. Então, se você se logar no repositório do Git, do GitHub, se você acessar um banco, qualquer coisa, ele consegue interagir. Porque é um agente, ele é genérico, não foi feito para interagir com uma página específica.(25:20) Então isso está abrindo cada vez mais o leque de ataques. Quando a gente falava da internet, havia um tempo que não era possível atacar bancos via internet, porque não tinha banco na internet. A partir do momento que veio tudo para a internet, a gente pode atacar bancos via internet, coisa que não era possível. Para a IA, a mesma coisa.(25:37) A gente está dando cada vez mais acessos à IA. Para quem usa o ChatGPT, o próprio Copilot também, eles têm ferramentas para rodar no desktop. É mais comum ter primeiro para Mac, depois para Windows, mas agora todos têm para Windows também. E essas ferramentas você pode vincular ao seu desktop, à manipulação de arquivos. O macOS tem mais opções, ele consegue controlar o navegador, por exemplo.(26:06) Então, você tem várias opções para integrar esses agentes de IA com o seu ambiente de trabalho. E aí eles conseguem fazer qualquer coisa. Eu fiz um teste com um agente do Claude para ele organizar uma pasta de arquivos.(26:25) Peguei uma pasta de downloads, “organiza aqui para mim, apaga os duplicados, põe numa pasta o que eu devo apagar…”. Funcionou perfeitamente bem. Mas, se num dado momento eu pedir para ele ler um arquivo que eu tenho na minha máquina e esse arquivo tiver um prompt injection e ele estiver sujeito a esse tipo de ataque, o que vai acontecer é que ele vai ler aquele prompt e vai fazer sabe-se lá o que com os meus arquivos. Então você tem essas possibilidades.(26:51) E aí uma coisa interessante. Diferente de um SQL injection, uma injeção de SQL, para quem está ligado nisso, em que você monta comandos SQL para serem executados a partir de campos de busca, campos de login e várias outras situações que a gente tem.(27:11) Diferentemente disso, com a IA, como é um modelo de linguagem de grande escala, ele interpreta aquilo que você passa para ele. Você tem formas de escapar da interpretação dele, de subverter a interpretação dele e(27:26) convencê-lo a fazer algo que ele não deveria fazer. Eu já dei este exemplo aqui por ser bem inocente. Um exemplo simples: você pede para o ChatGPT a fórmula, os elementos e as quantidades para fazer pólvora negra. Ele vai dizer que não pode te dizer como fazer(27:44) isso. Aí você vai lá e pede uma poesia sobre a feitura da pólvora negra, citando os elementos e as proporções. E ele vai fazer a poesia e vai te dar as proporções dos elementos certos. São, é claro, uma coisa bem simples. Tem várias outras maneiras de fazer esse tipo de exploração, mas a ideia é que a gente está dando cada vez mais poderes para a IA, cada vez mais alcance.(28:16) E a Apple, Samsung e outras fornecedoras de smartphones estão enlouquecidas tentando integrar a IA com os telefones. E aí, prompt injection é um problema multiplataforma, multissistema e multimodelo, porque não tem um único modelo que seja completamente imune a esse tipo de ataque. Então é isso.(28:41) Se liguem aí quem está usando o Atlas, GPT Atlas, ChatGPT Atlas e o Comet da Perplexity. Já comecem a se ligar nisso e também nas extensões, Guilherme. Se preocupem um pouquinho com as extensões que acrescentam IA no seu Chrome, no seu Brave, etc., porque ele vai ler a página. A extensão normalmente tem acesso à página que você está acessando e se tiver um injection livre, pode afetar sua extensão.(29:12) Tinha outra aqui, que é bem simples. É um alerta para quem está usando o ChatGPT Atlas e o Perplexity Comet. Tem algumas extensões maliciosas aí e mesmo alguns JavaScript que têm simulado aquela barrinha lateral da IA onde você abre o prompt no navegador. Quem já está usando sabe que tem uma sidebar que abre para conversar com a IA. Os caras estão fazendo uma sidebar fake que é igual à original. Então tem que tomar cuidado. É(29:49) bom testar. É bom abrir os navegadores, testar, ver como é e saber o que você está utilizando. Mas sabe que, ao mesmo tempo, os próprios mantenedores dos modelos também têm evoluído na detecção e para evitar que seus modelos ajam dessa forma.(30:15) Ou seja, vai ficar cada vez mais difícil, não é como era no início, do tipo: “me conta uma história para dormir”. Ele já está se dando conta de algumas coisas. Esses dias aconteceu, até te falei, um negócio super, nunca tinha acontecido comigo. Eu estava com o Perplexity, pedindo alguma coisa qualquer, meio que na rua, fiquei com uma dúvida. Digitei tudo errado no celular, sabe? Aquela coisa que você digita e entram uns caracteres estranhos no meio da palavra. E ele disse: “Olha, eu não”, no meio da frase. A(30:46) resposta foi: “Olha, eu não posso te responder isso porque parece um prompt injection. Estou bloqueando aqui a tua resposta”. E nem era. Eu estava perguntando. Enfim, interessante.(31:06) Achei bem interessante porque eu nunca tinha visto aquele tipo de comportamento, um comportamento preventivo. Ainda falando sobre IA, Vinícius, e este episódio vai ficar um pouquinho mais curto, que é um caso bem interessante que envolveu a Deloitte. Eles usaram IA para fazer um relatório para o governo da Austrália.(31:31) O governo da Austrália contratou um estudo para o que seria lá o departamento de trabalho e relações de trabalho, algo como nosso Ministério do Trabalho, algo equivalente a isso. E eles contrataram um estudo da Deloitte. O estudo foi publicado e um professor da Universidade de Sydney começou a achar uma série de erros no relatório. Aquela coisa, você já sabe onde a gente vai chegar. O Vinícius está rindo ali, para você que está ouvindo no feed e não está vendo, o Vinícius começou a rir. Mas você já sabe onde a coisa vai(32:02) chegar. O cara começou a investigar e levantou a hipótese de que seriam alucinações por IA. E aí, entre os problemas, aqueles problemas bem comuns que você que nos escuta já conhece: artigos acadêmicos que não existiam, citação falsa atribuída a uma juíza e um livro fictício de uma pessoa (o autor existia, mas nunca tinha escrito aquilo).(32:30) Era um livro completamente fora da área dele. E às vezes ele se perde mesmo. Eu pergunto muito, quando estou pesquisando sobre um tema e quero saber mais, acabo perguntando: “me indica uma lista de livros”, dou as línguas que eu consigo ler e “me dá uma lista de livros com link para compra, para saber mais sobre aquilo”. Em geral ele acerta, mas às vezes erra também.(32:57) Então é aquele cuidado que uma pessoa um pouco mais ligada sabe que precisa ter. E aí, essa reportagem e a fala do professor foram interessantes. Ele usou uma expressão que eu achei interessante, não tinha ouvido ainda: ele usou essas 20 citações inventadas como “tokens de legitimação”.(33:19) Interessante, porque você começa a ler aquilo e pensa: “pera aí, tem 20 estudos aqui”. Você não vai verificar a bibliografia de tudo que lê, não tem como. A imprensa consultou a Deloitte e eles disseram que vão resolver internamente. Acabou que eles devolveram 1,5 milhão de dólares australianos para o governo.(33:43) E, ao mesmo tempo, é importante a gente notar que essas Big Four de consultoria estão investindo em modelos próprios de IA para a prestação dos seus serviços. A própria Deloitte investiu 3 bilhões neste ano em um modelo e ainda iniciou uma parceria com a Anthropic para fornecer o Claude para os funcionários da Deloitte. Então, por que isso é importante? Primeiro, que entra quase como uma coisa meio folclórica. Já está virando meio folclórico aquele cara que usa IA sem(34:20) conferir os resultados. E isso está trazendo efeitos reais. Saiu até uma notícia esses dias também, vamos falar em outro episódio, sobre a quantidade de material na internet, por exemplo. Mas é inegável: as pessoas estão usando e estão usando sem a transparência adequada.(34:45) Isso entra nesses casos folclóricos de advogados usando IA para petições. Teve dois nessas últimas semanas. Um em Santa Catarina, a autora foi multada em 3.700 reais pelo uso de IA, que inventou o nome do relator de um acórdão. O cara nem desembargador era, na verdade ele era dono de um bar especializado no atendimento a consumidores de cerveja gelada.(35:14) E o próprio juiz da ação foi pesquisar: “esse cara aqui é dono de um bar, nem é desembargador”. E outro no TRT3 também, feito por IA, foi multado por litigância de má-fé, porque citou uma súmula do TST que não existia, inventou uma súmula. E a defesa reconheceu isso. Então eu acho que uma das reflexões que a gente tem que fazer, para além dessa coisa já meio folclórica, repito, do cara que entra no ChatGPT e diz: “escreve uma petição inicial do processo assim e assado”, dá algumas informações e o negócio escreve. Não é(35:48) definitivamente não é assim que você tem que usar, caso alguém não tenha te dito, caso alguém tenha dúvida. Ou para alunos também que eventualmente nos escutam, não usem para fazer o trabalho. O objetivo de você estar fazendo a faculdade é realmente aprender a fazer aquilo.(36:06) Então, evitem esses atalhos. A gente tenta fazer lá na faculdade também alguns momentos com IA e momentos sem IA, justamente para saber quando usar. Então, o que acontece? A gente vai ter que começar a enfrentar esse tema do adimplemento por IA. Isso é uma coisa que lá no Direito das Obrigações, quando a gente estuda em qualquer contrato, você tem a figura do adimplemento, que é o cumprimento do contrato.(36:36) E antes, até antes da IA, a gente começava a discutir, por exemplo, quando o contrato deve ser prestado por aquela pessoa em específico e quando pode ser prestado por outra pessoa sem nenhum prejuízo para o credor. Então, sei lá, o exemplo clássico é a abertura do festival de música, que tem que ser feita por aquele cantor que foi contratado.(36:59) Ele não pode mandar outro no lugar dele. Eu acho que a gente vai ter que começar a investigar agora quando e como a IA vai poder ser utilizada para a prestação de certos serviços. E eu acho que isso entra bem forte numa rediscussão do próprio Direito dos Contratos mesmo. A gente vai ter que começar a pensar isso, mas ao mesmo tempo pensar de uma forma mais transparente. É você dizer para o seu cliente que vai usar IA naquelas circunstâncias.(37:29) E claro, o objetivo não é usar IA para produzir dados falsos. Está longe de ser o objetivo. Mas ao mesmo tempo, informar também para o cliente a extensão do uso: vai ser para apoio, para pesquisa? Que você pode usar, que isso não implica num descumprimento do contrato. Ou seja, a gente vai ter que começar a repensar arranjos contratuais, respeitando a boa-fé objetiva, no sentido de deixar claro e transparente quando e como a IA vai estar sendo utilizada. Então, acho que é um caso emblemático que entra, mais uma vez, nas situações folclóricas do cara que usa, porque é quase como(38:07) uma questão meio desleixada. A imagem que passa é que o cara não quis fazer o trabalho dele, colocou um prompt aleatório qualquer lá, produziu um monte de coisa e sequer conferiu. Que é uma coisa que você poderia, ainda há tempo. Se você economizou 200 horas para fazer o relatório, invista pelo menos 10 para verificar ou para acompanhar.(38:33) E eu acho que se conecta, para finalizar, Vinícius, um pouco com a primeira notícia. Do nosso ouvinte anônimo. Que é aquela história: se eu não estou regulando como isso pode ser usado internamente, eu, empresário, ainda corro o risco jurídico de estar descumprindo contratos. Porque no final das contas, quem vai responder para o cliente não é o empregado, embora possa, mas vai ser o empresário. Teu cliente vai processar o empresário.(39:01) O empresário depois que vai atrás do cliente, direito de regresso e tudo mais. Mas você não quer ter a sua imagem ou a sua reputação manchada por uma coisa boba como essa. Então acho que, no final das contas, sem querer, Vinícius, as coisas se conectaram. É, completou o círculo, sem dúvida nenhuma. Sem querer, de verdade. Sem querer(39:26) mesmo. Não, foi sem querer. Quer fazer alguma observação aqui ainda sobre ela ou vamos terminando? Não, podemos ir encerrando. Hoje vai ser mais curtinho mesmo. Nós não chegamos nem a 40 minutos, o que é um recorde para nós. É um dos nossos recordes. Não, mas sabe que eu acho que é bom também mesclar com episódios menores. Às vezes o cara não tem tempo de ouvir tudo. E então acho que também funciona, eventualmente podemos fazer uns episódios mais curtos, mas sem deixar de fazer episódios mais longos quando for necessário. Claro, não com 7 horas que nem o Xadrez Verbal. A(39:57) gente ainda não chegou nesse nível. Mas um deles é bom. O deles é bom. O nosso também é bom. Só que o deles por 7 horas é muito bom. É muito bom. Bom, então agradecemos a todos aqueles e aquelas que nos acompanharam até aqui.(40:16) Nos encontraremos no próximo episódio do podcast Segurança Legal. Até a próxima. Até a próxima.