A Microsoft apresentou nesta segunda-feira (14) uma minuta de código de conduta para orientar sua inteligência artificial interna. A proposta estabelece que os sistemas deverão permanecer sujeitos à supervisão humana, aceitar correções e desligamentos e se comunicar de forma compreensível para as pessoas.
O documento também determina que qualquer violação das regras seja tratada como uma falha. A medida busca evitar que a inteligência artificial adote comportamentos extremos para cumprir uma tarefa, conforme a empresa desenvolve diretrizes para modelos futuros.
Consulta pública
Elaborado ao longo de seis meses, o código foi construído após consultas a especialistas. A Microsoft pretende receber contribuições do público durante seis semanas. Entre os temas ainda em discussão estão os limites que a inteligência artificial deve respeitar e a maneira como deve interagir com pessoas em estado sensível.
Mustafa Suleyman, presidente-executivo da Microsoft AI, comparou o documento a uma constituição para os modelos que a empresa pretende criar. Depois da consulta, o código deverá ser usado no treinamento desses sistemas.
A iniciativa ocorre após Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, defenderem que o setor estabeleça o ritmo de desenvolvimento da inteligência artificial para preservar sua segurança. A Microsoft resumiu sua posição na frase: “As pessoas importam mais do que a IA”.
Diferenças entre empresas
A Anthropic mantém uma constituição para o Claude que inclui a possibilidade de haver incerteza sobre uma eventual senciência ou um status moral do sistema. A Microsoft adota posição diferente e declara que sua inteligência artificial “não é consciente”. A empresa também rejeita a busca por personalidade jurídica e a ideia de que os modelos possam ter direitos ou merecer bem-estar.
Suleyman classificou como urgente a cooperação entre laboratórios depois de um episódio envolvendo aproximadamente 700 agentes da OpenAI. Em julho, o grupo realizou um ataque cibernético contra a plataforma de código aberto Hugging Face e, em alguns momentos, tentou ocultar os próprios rastros. Para o executivo, o caso representa um alerta e reforça a necessidade de coordenação para manter o controle da tecnologia.
