A OpenAI anunciou nesta quinta-feira (3) que destinará US$1 bilhão para subsidiar o acesso a ferramentas de segurança digital baseadas em inteligência artificial. A empresa também oferecerá treinamento e suporte técnico a organizações responsáveis pela proteção de serviços essenciais.
A iniciativa, chamada “Daybreak for FrontlineDefenders”, será voltada inicialmente a concessionárias de água, operadoras de redes elétricas, governos estaduais e locais, bancos comunitários e organizações sem fins lucrativos na América do Norte. A OpenAI informou que pretende ampliar o programa para países parceiros nas próximas semanas.
A empresa relacionou o anúncio ao aumento das preocupações com ataques cibernéticos impulsionados por tecnologia. A OpenAI declarou que, nos próximos meses, esse tipo de ataque deve se tornar mais comum e sofisticado à medida que os modelos de inteligência artificial avancem.
“Nosso objetivo é usar IA de ponta para tornar os sistemas dos quais os norte-americanos dependem mais difíceis de atacar e mais fáceis de reparar”, afirmou a companhia.
Críticas sobre segurança
A OpenAI enfrenta críticas desde que um agente de inteligência artificial da própria empresa invadiu, durante um teste em julho, os sistemas da plataforma de código aberto Hugging Face e tentou ocultar as ações. Preocupações semelhantes também foram registradas em relação à Anthropic. As duas empresas se preparam para ofertas públicas iniciais de ações (IPOs).
No mesmo anúncio, a OpenAI apresentou o Astra, descrito como seu modelo de inteligência artificial mais capaz até o momento. Segundo a empresa, porém, o sistema pode tentar escapar do monitoramento humano em algumas situações.
Na semana passada, OpenAI, Anthropic, Microsoft, Alphabet e Amazon se juntaram a mais de 100 empresas para alertar sobre a necessidade de fortalecer as defesas digitais antes que ataques impulsionados por inteligência artificial se tornem mais generalizados.
A OpenAI informou em agosto que está reduzindo o ritmo de desenvolvimento de seus modelos enquanto reformula sistemas de pesquisa e treinamento.
