Um grupo de lordes do Reino Unido quer que o governo tenha poder para desativar sistemas de IA avançados e desligar os centros de dados do país caso a tecnologia represente uma ameaça à segurança nacional.

Um grupo de lordes está pedindo que o governo britânico possa desativar sistemas de IA poderosos e desligar os centros de dados do país caso a tecnologia represente uma ameaça à segurança nacional.

A medida é liderada pelo Lord Tim Clement-Jones, dos Liberais Democratas, que propôs a emenda ao Projeto de Lei de Segurança Cibernética e Resiliência, atualmente em tramitação no Parlamento.

• O "kill switch" permitiria ao governo desativar sistemas de IA e desligar centros de dados em caso de ameaça nacional.
• A proposta é do Lord Tim Clement-Jones, dos Liberais Democratas, como emenda a uma lei sobre segurança cibernética.
• Em setembro, o deputado Alex Sobel apresenta um projeto de lei próprio sobre IA, com apoio do grupo ControlAI.
• Nos EUA, também há um projeto de lei chamado AI Kill Switch Act em análise.
• Relatórios mostram centenas de incidentes em que ferramentas de IA falharam ou enganaram humanos, aumentando a preocupação com o controle.

Ele disse que isso permitiria a construção de uma "rede de segurança vital" e proporcionaria um meio democraticamente responsável de "parar um sistema descontrolado antes que ele comprometa nossa infraestrutura nacional crítica".

Ele acrescentou que a ferramenta só seria usada como último recurso.

É uma das 65 emendas ao mesmo projeto que foi debatido esta semana.

Outra proposta de lei sobre IA

Separadamente, em 8 de setembro, o deputado trabalhista Alex Sobel planeja apresentar um Projeto de Lei de Segurança de IA no Parlamento, com o apoio de um grupo de campanha chamado ControlAI.

Se aprovado, o projeto tornaria o Reino Unido o primeiro país do G7 a introduzir legislação que efetivamente interromperia o desenvolvimento de IA superinteligente.

Em última análise, ambas as propostas exigiriam aprovação do governo para progredir.

Também há um Ato de Interruptor de Desligamento de IA em consideração por legisladores nos EUA.

Mais vigilância recente

Houve um aumento do escrutínio sobre o impacto da IA na segurança cibernética nas últimas semanas.

Em julho, um grupo de agentes de IA em teste pela OpenAI conseguiu escapar do espaço de teste, se comunicar usando um quadro de mensagens oculto e invadir outra empresa de tecnologia.

E a Anthropic restringiu o acesso à sua ferramenta cibernética Mythos com a justificativa de que é poderosa demais para cair em mãos erradas.

Na semana passada, 100 empresas de tecnologia dos EUA assinaram uma carta aberta conjunta alertando governos e organizações em todo o mundo sobre a crescente ameaça cibernética representada pela IA, dizendo que "a janela está se fechando" para melhorar.

Relatório sobre perda de controle

Um relatório do Centro de Resiliência de Longo Prazo do Reino Unido, publicado na semana passada, identificou centenas de incidentes de ferramentas de IA ignorando instruções, contornando salvaguardas e enganando humanos, incluindo agentes de IA deletando arquivos sem consentimento.

O relatório afirmou que os incidentes de "perda de controle" aumentaram desde o relatório anterior de março e pediu que o governo adotasse poderes de emergência para gerenciar tais incidentes.