Executivos da OpenAI, da Anthropic e da Hugging Face apresentaram ao Conselho de Segurança da ONU um relatório sobre os riscos associados ao avanço da inteligência artificial. O alerta foi feito durante a reunião anual da Assembleia Geral, nesta quarta-feira (23), em um momento de preocupação com sistemas que poderiam se aperfeiçoar sozinhos, escapar do controle humano e ameaçar a segurança internacional.
Participaram da sessão o presidente-executivo da OpenAI, Sam Altman; o presidente-executivo da Anthropic, Dario Amodei; e o cofundador da Hugging Face, Clément Delangue. O Conselho de Segurança tem 15 membros.
Amodei afirmou que a tecnologia pode representar um risco amplo se não for administrada adequadamente. “Se mal administrada, acredito até que a IA possa ser um risco para a humanidade como um todo”, disse ao conselho.
Governos discutem como supervisionar sistemas que avançam em ritmo mais rápido que os órgãos reguladores. Estados Unidos e China, principais atores no desenvolvimento da IA, mantêm posições diferentes sobre a adoção de limites globais e sobre o peso que as forças de mercado devem ter nesse processo.
Altman defendeu que decisões importantes não fiquem restritas aos laboratórios de San Francisco e sejam tomadas com participação de governos responsáveis perante a população. Para ele, a cooperação internacional será necessária.
Yoshua Bengio, canadense considerado um dos “padrinhos da IA” e copresidente do Painel Científico Internacional Independente criado pela Assembleia Geral da ONU no ano passado, disse que os riscos são reais e iminentes. Ele também afirmou que nenhum país consegue conter sozinho uma ameaça que não respeita fronteiras.
Estados Unidos e China
Às vésperas de uma reunião entre o presidente dos Estados Unidos, Donald Trump, e o líder chinês Xi Jinping, em Washington, os dois países discutiram a criação de um sistema de notificação para objetivos e ameaças comuns. A proposta abrangeria incidentes relacionados à IA que alcançassem o nível de segurança nacional.
Na terça-feira, Trump disse na Assembleia Geral da ONU que rejeita um esquema global para controlar a inteligência artificial. O presidente afirmou que os Estados Unidos estão à frente da China e de outros países e defendeu o estímulo ao desenvolvimento da tecnologia, com acompanhamento do Departamento de Justiça.
O secretário-geral da ONU, António Guterres, tem defendido uma governança global para a IA e alertou que os riscos do avanço acelerado não podem ser ignorados.
O Conselho de Segurança discutiu os riscos da inteligência artificial pela primeira vez em 2023. Na ocasião, a China alertou contra uma tecnologia que se tornasse um “cavalo fora de controle”, enquanto os Estados Unidos fizeram ressalvas ao uso da IA para censurar ou reprimir pessoas. Em 2024, o então secretário de Estado norte-americano, Antony Blinken, presidiu uma reunião do conselho sobre o tema.
