Bancos como NatWest e Bank of America alertaram nesta terça-feira (22) que agentes de inteligência artificial usados em compras online podem ampliar os riscos de golpes, fraudes e violações de privacidade. As instituições estabeleceram princípios para o desenvolvimento da tecnologia e pretendem discutir propostas com formuladores de políticas.
O grupo também reúne ING, ASB Bank, da Nova Zelândia, Capital One e Commonwealth Bank of Australia. Em um relatório, os bancos afirmam que os consumidores demonstram interesse no comércio conduzido por agentes de IA, mas ressaltam que a evolução da tecnologia está mais rápida que os padrões de segurança para o setor e o público.
Entre as empresas que promovem chatbots de inteligência artificial como ferramentas de compra estão OpenAI, Anthropic, Google e Meta. A proposta é que os consumidores deleguem aos agentes a seleção de produtos e a realização de compras. Ao mesmo tempo, varejistas buscam influenciar as recomendações feitas pelos sistemas.
A varejista britânica John Lewis informou em setembro que a participação de buscas originadas por agentes de IA passou de 0,3% no ano anterior para 2,5%, em uma tendência de crescimento acelerado.
O relatório aponta que os agentes podem solicitar dados de cartões e inseri-los diretamente em sites. Também podem direcionar consumidores para meios de pagamento com proteções mais fracas. Outra preocupação é a compra de produtos incorretos, o gasto acima do esperado e a dificuldade de saber quem será responsável caso ocorram problemas.
“Os consumidores não têm certeza se a IA agirá em seu interesse”, afirma o documento. Entre as propostas estão informar quando um agente de IA participar de uma transação, ampliar a transparência sobre suas decisões e adotar medidas para proteger os dados dos clientes. O grupo também defende liberdade de escolha para consumidores e comerciantes e interoperabilidade entre os sistemas.
