A família alega que a empresa sabia que o perpetrador estava planejando um "evento com múltiplas vítimas" e não contatou as autoridades.
AFP via Getty Images Dois homens em pé do lado de fora, de costas para a câmera, olhando para uma grande coleção de flores e presentes deixados para as vítimas do tiroteio na escola, colocados embaixo de uma grande árvore.
A família de uma menina gravemente ferida durante um tiroteio em massa em uma escola canadense está processando a OpenAI, criadora do ChatGPT, alegando que a empresa sabia que o suspeito estava planejando um ataque, mas não alertou as autoridades.
Maya Gebala, de doze anos, foi baleada no pescoço e na cabeça no ataque em Tumbler Ridge, em 10 de fevereiro, e permanece hospitalizada.
Uma conta inicial do ChatGPT vinculada à suspeita, Jesse Van Rootselaar, de 18 anos, foi banida pela OpenAI em junho de 2025 devido à natureza de suas conversas com o chatbot, mas a polícia canadense não foi notificada.
A OpeanAI disse à BBC que estava comprometida em fazer "mudanças significativas" para ajudar a prevenir tragédias semelhantes no futuro.
Oito pessoas foram mortas no ataque, incluindo cinco crianças pequenas e a mãe da suspeita, em um dos tiroteios mais mortais da história canadense.
O processo civil, movido pela mãe de Gebala, Cia Edmonds, alega que Rootselaar criou uma conta no ChatGPT antes de completar 18 anos - algo que os usuários podem fazer com o consentimento dos pais.
Os autores da ação alegam que nenhuma verificação de idade foi realizada no site.
O processo alega que o suspeito viu o chatbot como um "confidente confiável" e descreveu "vários cenários envolvendo violência com armas" a ele ao longo de vários dias no final da primavera ou início do verão de 2025.
Doze funcionários da OpenAI relataram ter sinalizado as postagens como "indicando um risco iminente de danos graves a outros" e recomendaram que as autoridades policiais canadenses fossem informadas, alega o processo.
Em vez disso, alega-se que a solicitação de contato com as autoridades foi "rejeitada" e a única ação tomada foi banir a conta de Rootselaar.
A OpenAI já disse que não alertou a polícia porque a conta não atingiu seu limiar de um plano crível ou iminente de danos físicos graves a outras pessoas.
O suspeito foi então capaz de abrir uma segunda conta no ChatGPT, apesar de ter sido sinalizado pelos sistemas da OpenAI no passado, e "continuar planejando cenários envolvendo violência com armas".
O processo alega que a empresa "tinha conhecimento específico do planejamento de longo prazo do atirador de um evento com múltiplas vítimas", mas "não tomou nenhuma medida para agir com base nesse conhecimento".
Os autores da ação afirmam que, como resultado da conduta da empresa, Gebala, que foi baleada três vezes depois de tentar trancar uma porta da biblioteca para impedir a entrada do atirador, sofreu uma "lesão cerebral catastrófica".
Resposta da OpenAI
Em um comunicado à BBC, um porta-voz da OpenAI chamou os eventos de uma "tragédia indescritível", acrescentando que seus pensamentos permaneciam com as vítimas, suas famílias e a comunidade.
"A OpenAI permanece comprometida em trabalhar com o governo e as autoridades policiais para fazer mudanças significativas que ajudem a prevenir tragédias como esta no futuro", disse um porta-voz.
Em 4 de março, o CEO da OpenAI, Sam Altman, se encontrou virtualmente com o ministro de inteligência artificial do Canadá, Evan Solomon, e o primeiro-ministro da Colúmbia Britânica, David Eby.
De acordo com o Wall Street Journal, Altman "se comprometeu a fortalecer os protocolos de notificação à polícia sobre interações potencialmente prejudiciais" e a pedir desculpas à comunidade de Tumbler Ridge.
Em uma carta aberta às autoridades canadenses em 26 de fevereiro, escrita pela vice-presidente de política global da OpenAI e compartilhada com a mídia, a empresa disse que havia implementado uma série de mudanças nos últimos meses, incluindo o alistamento da ajuda de "especialistas em saúde mental e comportamental" para avaliar os casos e tornar os critérios para encaminhamento à polícia "mais flexíveis".
Devido às mudanças, a OpenAI disse que teria relatado a conta do ChatGPT do suspeito sob as novas diretrizes.
"Nos comprometemos a fortalecer nossos sistemas de detecção para impedir melhor as tentativas de evadir nossas salvaguardas e priorizar a identificação dos criminosos de maior risco", escreveu a empresa.
A OpenAI disse que também estabeleceria um ponto de contato direto com as autoridades policiais canadenses para que pudesse sinalizar rapidamente quaisquer possíveis casos futuros com "potencial para violência no mundo real".
O ministro de inteligência artificial do Canadá, Evan Solomon, disse em 27 de fevereiro que, embora os legisladores vissem a vontade da empresa de tecnologia de melhorar seus protocolos, "ainda não vimos um plano detalhado de como esses compromissos serão implementados na prática".
