Executivos da OpenAI, da Anthropic e da Hugging Face apresentarão um relatório ao Conselho de Segurança da ONU nesta quarta-feira. A reunião ocorrerá durante a Assembleia Geral anual das Nações Unidas, que reúne líderes mundiais, e contará com a participação dos 15 membros do conselho.
Sam Altman, presidente-executivo da OpenAI, Dario Amodei, presidente-executivo da Anthropic, e Clément Delangue, cofundador da Hugging Face, devem falar sobre o desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos. Entre os riscos discutidos estão a possibilidade de essas tecnologias aprimorarem a si mesmas, escaparem ao controle humano e afetarem a segurança internacional.
Parâmetros e medidas de segurança
Altman planeja defender a adoção de parâmetros de referência para medir as capacidades da IA. A proposta também inclui avaliar as medidas de segurança aplicadas pelas empresas durante o desenvolvimento da tecnologia, conforme informou um executivo da OpenAI a repórteres na terça-feira.
Os integrantes do conselho, entre eles Estados Unidos e China, também devem se manifestar. Os dois países são apontados como principais rivais na área de IA. O ministro das Relações Exteriores da França, Jean-Noël Barrot, presidirá a reunião.
Um diplomata europeu afirmou que o objetivo central é chamar atenção para riscos práticos de uma eventual perda de controle da IA, com efeitos sobre a segurança internacional e a segurança de cada país. “A questão central é se um dia poderemos enfrentar uma situação em que algoritmos interagindo entre si desencadeiem uma guerra”, disse.
Antes de uma reunião entre o presidente dos Estados Unidos, Donald Trump, e o líder chinês Xi Jinping, marcada para quinta-feira em Washington, os dois países discutiram a criação de um sistema de notificação para objetivos e ameaças comuns. O mecanismo abrangeria incidentes relacionados à IA que alcançassem o nível de segurança nacional.
