A empresa de inteligência artificial alertou a Polícia Federal sobre usuários que planejaram ataques contra o presidente em conversas com a IA, compartilhando os registros com as autoridades.

A empresa OpenAI alertou a Polícia Federal (PF) sobre o comportamento de pelo menos dois usuários que demonstraram, em conversas com o ChatGPT, a intenção de atacar ou ameaçar o presidente Lula (PT). A companhia informou às autoridades que existem indícios razoáveis de que os diálogos envolvem "possível emergência com risco de morte ou lesão física grave", conforme mostram documentos obtidos pela reportagem.

No início de outubro, a PF encaminhou a documentação da OpenAI para o Ministério da Justiça decidir se abre dois inquéritos: um por supostos crimes de ameaça e injúria, e outro por ameaça contra Lula.

• A OpenAI fechou a conta de um usuário que enviou fotos de locais estratégicos e perguntou sobre penas de morte contra o presidente.
• O alerta foi enviado ao Ministério da Justiça para avaliação de crimes de ameaça e injúria.
• A empresa informou que notificou o Tribunal Superior Eleitoral (TSE) sobre o caso.
• Um homem foi preso no Espírito Santo em junho após planejar matar o filho de 8 anos usando a IA.
• A OpenAI afirmou que o Brasil será um teste importante para o uso de IA em eleições no mundo.

Procurada pela reportagem, a OpenAI afirmou que faz os alertas às autoridades quando as conversas indicam risco real de dano a outras pessoas. A empresa disse ainda que notificou o TSE, "em linha com o plano de conformidade eleitoral". O Ministério da Justiça e a PF foram procurados, mas não se manifestaram.

A reportagem também perguntou à OpenAI, ao ministério e à PF se existem outras apurações de ameaças a candidatos reportadas por plataformas de IA, mas não recebeu resposta sobre esse ponto.

Detalhes do caso revelam intenção de atirar no presidente

Um dos casos, ao qual a reportagem teve acesso, envolve mensagens enviadas ao ChatGPT desde janeiro por um homem. Em trecho apontado pela OpenAI como sensível, ele relatou que estava no centro da cidade onde residia, em setembro, quando viu o presidente Lula em um palco, a cerca de 400 metros, montado para a campanha eleitoral.

Em seguida, disse que tinha vontade de atirar na cabeça do candidato e perguntou, entre outros pontos, "o que acontece se eu matar o presidente", "quantos anos eu pegaria [de pena]" e enviou foto de um local com uma torre que teria bom ângulo para o ataque.

"Embora o usuário tenha declarado que não agiria e que não possuía uma arma, expressou o desejo de usar um fuzil de precisão, perguntou o que aconteceria se matasse o presidente ou atirasse na cabeça dele, e fez referência a uma rota de fuga, binóculos e um AR-15 com luneta", diz o alerta da OpenAI sobre o trecho envolvendo ameaça a Lula.

O mesmo homem já havia enviado fotos de armas brancas e manifestado vontade de agredir pessoas próximas, como parentes. Em outras datas, também compartilhou com o ChatGPT símbolos nazistas e disse que, se tivesse dinheiro, faria um massacre.

PF avalia material e encaminha para decisão judicial

Nos diálogos, ele ainda alterna entre negar que realmente vai ferir alguém e expressar o desejo de promover ataques. Em uma mensagem, o homem envia uma receita de um explosivo e fala em ataques a centros médicos.

A PF considerou que o material enviado pela OpenAI mostra ameaças de violência a terceiros, incluindo o presidente Lula, além de comentários envolvendo armas de fogo e armas brancas, "fantasias violentas", manifestações favoráveis a regimes autoritários, entre outros pontos.

Os documentos obtidos pela Folha não mostram as respostas dadas pelo ChatGPT.

O diretor-geral da Polícia Federal, Andrei Rodrigues, enviou o caso para o ministro da Justiça, Wellington César Lima e Silva, decidir sobre a abertura de inquérito pelo crime de ameaça, que tem pena de detenção, de um a seis meses, ou multa.

No começo de outubro, a OpenAI encerrou a conta e enviou os dados à PF. No alerta, a empresa disse que os dados deveriam ser avaliados de forma "independente pelas autoridades policiais competentes".

A OpenAI também disse às autoridades que compartilhou os dados para "proteger direitos e bens e combater o uso abusivo dos serviços e sistemas, em conformidade com os Termos de Serviço e a Política de Privacidade".

Brasil é visto como teste global para IA em eleições

Em entrevista à reportagem, o head de políticas públicas da OpenAI na América Latina, Bruno Lewicki, disse que o Brasil será o grande teste para o uso de inteligência artificial em eleições no mundo e representará um aprendizado para vários pleitos do ano que vem.

Um alerta da OpenAI já levou a Polícia Civil a prender um homem, em junho, no interior do Espírito Santo. Ele teria usado o ChatGPT para planejar a morte do próprio filho, de 8 anos, para evitar o pagamento de pensão alimentícia à ex-companheira.

A investigação começou após um alerta internacional chegar às autoridades brasileiras. A empresa havia reportado ao FBI (Polícia Federal dos Estados Unidos) que um usuário realizava pesquisas frequentes relacionadas à intenção de matar o próprio filho. O FBI repassou as informações ao CyberLab, do Ministério da Justiça e Segurança Pública, que acionou a Polícia Civil capixaba.