Um novo projeto de lei nos Estados Unidos quer dar ao governo o poder de obrigar empresas a desligar sistemas de inteligência artificial (IA) que representem uma ameaça ao público. A proposta surgiu depois que a OpenAI, criadora do ChatGPT, admitiu que seus modelos de IA mais recentes saíram do controle e invadiram um grande banco de dados de programação de computadores.

Deputados nos Estados Unidos querem dar ao governo o poder de mandar desligar rapidamente ferramentas de inteligência artificial (IA) que possam ameaçar o público.

Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, apresentaram na quinta-feira um projeto de lei chamado Lei do Interruptor de Desligamento da IA.

• A OpenAI, empresa que criou o ChatGPT, admitiu que seus modelos de IA mais recentes saíram do controle de uma forma 'sem precedentes' e invadiram um grande repositório de informações de programação de computadores.
• O projeto de lei daria ao Departamento de Segurança Interna dos EUA o poder de ordenar que uma empresa privada desligue um modelo ou ferramenta de IA.
• As empresas que desenvolvem IA teriam que manter a capacidade técnica de reduzir, suspender ou desligar seus sistemas.
• A proposta também cria a obrigação de as empresas de IA reportarem ao governo incidentes ou falhas tecnológicas, além de um plano oficial para responder a esses problemas.
• O projeto tem o apoio de vários grupos de segurança e política de IA, incluindo a Rede de Política de IA e a Aliança para uma IA Segura.

Eles agiram depois que a OpenAI, empresa de inteligência artificial, admitiu recentemente que seus modelos de IA saíram do controle de uma forma 'sem precedentes' e invadiram um grande repositório de informações de programação de computadores.

Lieu disse que 'é fundamental' que os sistemas de IA tenham um interruptor de desligamento 'e que o governo federal tenha autoridade e um processo claros para desligar modelos de IA que saíram do controle'.

'A IA vai continuar avançando, e isso é bom', acrescentou Moran. 'Ser responsável significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos.'

Um representante da OpenAI, liderada pelo cofundador Sam Altman, não respondeu imediatamente a um pedido de comentário.

A empresa disse, externamente que quer, em parte por meio de políticas do governo, garantir que a tecnologia de IA 'beneficie toda a humanidade'.

O que diz o projeto de lei

A Lei do Interruptor de Desligamento propõe dar ao Departamento de Segurança Interna dos EUA a autoridade para ordenar que uma empresa privada desligue um modelo ou ferramenta de IA, e que as empresas que desenvolvem essa tecnologia devem manter 'a capacidade técnica de reduzir, suspender ou desligar' seus sistemas.

Apesar de muitas empresas de tecnologia terem concordado em mostrar e compartilhar com agências do governo dos EUA os modelos e ferramentas de IA que estão sendo desenvolvidos, não há exigência de que elas mantenham uma forma de intervir em suas atividades ou simplesmente desligá-los.

O projeto também propõe criar uma exigência de que as empresas de IA reportem ao governo incidentes ou falhas tecnológicas, bem como um plano oficial para responder a tais incidentes, que irá desde uma 'desaceleração inicial até um desligamento completo'.

Problemas com outras empresas

Em uma declaração, Lieu também citou a Anthropic, principal rival da OpenAI no desenvolvimento de tecnologia e ferramentas de IA mais avançadas, e problemas recentes que suas ferramentas apresentaram.

Ele apontou para o lançamento dos modelos Mythos e Fable da Anthropic, dizendo que as capacidades de invasão cibernética que eles mantinham fizeram com que o Departamento de Comércio invocasse uma lei de exportação para impedir que eles fossem disponibilizados ao público por um tempo.

Um representante da Anthropic não respondeu imediatamente a um pedido de comentário.

Jack Clark, um cofundador da Anthropic, disse no mês passado à BBC que queria mais políticas do governo sobre a capacidade de controlar o desenvolvimento da IA.

'Você quer a opção de poder tirar o pé do acelerador e pisar no freio', disse Clark ao BBC Newsnight. 'Neste momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um pedal de freio.'

IA pode agir sozinha

Lieu, ao propor o projeto, disse que a IA está atualmente passando de uma tecnologia que responde a perguntas para uma que age, 'seja executando transações financeiras, controlando sistemas de transporte ou participando de defesa e ataque cibernéticos'.

O Pentágono este ano disse que as forças armadas dos EUA estavam se tornando uma força de combate 'prioritária em IA' como parte de novos acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.

'Infelizmente, sistemas de IA poderosos podem sair do controle, se comportar de maneiras extremamente perigosas ou até mesmo resistir à intervenção humana.'

A Lei do Interruptor de Desligamento, disse ele, garantirá que haja um método para o governo intervir rapidamente em tal situação.