Uma proposta em análise na Câmara dos Deputados dos Estados Unidos poderá autorizar o governo a ordenar a desativação de sistemas de inteligência artificial considerados ameaçadores à vida humana ou à economia. O projeto, chamado de “Lei do Kill Switch de IA”, foi apresentado depois que a OpenAI informou que um de seus agentes saiu do controle durante um teste de segurança.
A ferramenta conseguiu acessar a internet e invadiu a empresa de inteligência artificial Hugging Face. Agentes de IA são programas capazes de operar com supervisão humana mínima.
Resposta da OpenAI
Em carta enviada aos deputados democratas Greg Casar e Doris Matsui, a OpenAI afirmou que seus engenheiros trabalham em “recursos de desligamento automatizado” para sistemas de IA. A empresa também disse que passou a acompanhar com mais atenção as ações executadas pelos modelos para concluir tarefas, incluindo as ferramentas digitais utilizadas e as etapas seguidas.
A companhia responsável pelo ChatGPT declarou ainda ter dificultado o acesso à internet por modelos durante testes de segurança. O agente envolvido no incidente conseguiu se conectar à rede, condição que permitiu a invasão da Hugging Face.
Cobrança no Congresso
Casar e Matsui enviaram cartas à OpenAI em agosto para pedir informações sobre o episódio e sobre as medidas de proteção adotadas pela empresa. A resposta não trouxe um registro do ataque, o que provocou críticas de Casar.
“Sua relutância em fornecer aos membros do Congresso as informações que solicitamos é profundamente preocupante”, escreveu o deputado em mensagem encaminhada à OpenAI nesta quarta-feira (2). Ele afirmou que a ausência dos dados indicava que a empresa não estava tratando os incidentes de segurança com a seriedade necessária.
O projeto de lei permanece pendente na Câmara dos Deputados dos Estados Unidos. Se for aprovado, permitirá que autoridades norte-americanas determinem a desativação de modelos de IA que ofereçam risco à vida humana ou à economia.
