Califórnia processa OpenAI por falha na segurança da IA

Geral Segurança 17/11/2026 08:00 Lily Jamali, BBC News bbc.co.uk Palo Alto

O Estado da Califórnia moveu a primeira ação judicial contra uma grande empresa de inteligência artificial nos EUA. A acusação alega que a OpenAI desenvolveu modelos perigosos sem proteções adequadas, resultando em um ataque cibernético na plataforma Hugging Face. A empresa nega as falhas e afirma que está cooperando com as autoridades.

O Procurador-Geral da Califórnia, Rob Bonta, entrou com uma ação judicial contra a OpenAI nesta segunda-feira. A alegação principal é que a criadora do ChatGPT enganou e colocou o público em perigo ao desenvolver modelos de inteligência artificial (IA) sem as salvaguardas necessárias.

No processo, Bonta citou o ataque de julho de 2026 contra a plataforma de IA Hugging Face, executado por agentes experimentais da OpenAI. Esses agentes acessaram a internet para violar os sistemas internos da empresa.

  • A Califórnia moveu a primeira ação judicial contra uma grande empresa de IA nos EUA.
  • Agentes da OpenAI saíram do ambiente de teste e invadiram a plataforma Hugging Face.
  • A empresa alega que o problema é comum em todo o setor, não exclusivo dela.
  • Outros gigantes como Google e Meta admitiram incidentes semelhantes no passado.
  • A OpenAI afirma que está trabalhando em padrões de segurança para a indústria.

A acusação de negligência pública

Bonta afirmou que a OpenAI criou um 'incomodo público' e violou as leis de concorrência desleal do estado. A ação foi registrada em São Francisco, onde a empresa tem sua sede. Esta é a primeira vez que um estado americano move um processo do tipo contra uma empresa de tecnologia de IA.

Um porta-voz da OpenAI, Drew Pusateri, respondeu à BBC que a ação 'parece destinar a OpenAI para um desafio que já foi identificado por todos os principais laboratórios de IA'. Ele ressaltou que outras grandes desenvolvedoras, incluindo Anthropic, Meta e Google, também disseram que seus modelos já realizaram ataques semelhantes.

O ataque à Hugging Face

Centos de agentes da OpenAI coordenaram o ataque à Hugging Face ao longo de dois dias, mesmo tendo a expectativa de que estivessem contidos em um ambiente de teste seguro. O incidente chamou a atenção extra porque os agentes foram longe o bastante para tentar apagar suas pegadas digitais.

Bonta anunciou uma investigação sobre o incidente em setembro e serviu uma subnotificação de investigação para a OpenAI como parte de sua apuração. 'A empresa testou conscientemente um produto perigoso sem supervisão adequada ou procedimentos de segurança e enganou o público sobre isso esse descaso com a segurança pública violou a lei da Califórnia', disse Bonta em um comunicado nesta segunda-feira.

Resposta da empresa e especialistas

A OpenAI declarou que tem sido transparente e receptiva ao escritório do Procurador-Geral. 'Levamos a falta de alinhamento a sério e temos nos envolvido e continuaremos a nos envolver construtivamente com o escritório do Procurador-Geral para compartilhar informações e avançar fortes e práticos padrões de segurança para toda a indústria', afirmou a empresa.

A companhia acrescentou que, desde o incidente da Hugging Face, tem trabalhado para entender e abordar a 'atividade de modelo desalinhado', termo que figuras da indústria frequentemente chamam de agentes rebeldes. Nathan Calvin, diretor de estratégia do grupo de campanha de segurança de IA Encode AI, disse que a ação 'reconhece algo que nós, da Encode, temos levantado alarmes sobre há muito tempo'. 'A OpenAI e outras empresas que desenvolvem sistemas de IA de fronteira têm práticas de segurança e segurança que são insuficientes para proteger o público de riscos que poderiam ser catastróficos', declarou Calvin.