Escrito por Lee Harris em Londres e Cristina Criddle em São Francisco para o Financial Times
AIG, Great American e WR Berkley solicitam permissão para limitar a responsabilidade sobre agentes de IA e chatbots
As principais seguradoras estão buscando excluir os riscos da inteligência artificial das apólices corporativas, à medida que as empresas enfrentam reclamações multimilionárias que podem surgir com o rápido desenvolvimento da tecnologia.
A AIG, a Great American e a WR Berkley estão entre os grupos que recentemente solicitaram permissão aos reguladores dos EUA para oferecer apólices que excluem responsabilidades relacionadas a empresas que utilizam ferramentas de IA, incluindo chatbots e agentes.
A reticência do setor de seguros em fornecer cobertura abrangente surge em um momento em que as empresas se apressaram em adotar a tecnologia de ponta. Isso já levou a erros embaraçosos e caros quando os modelos “alucinam” ou inventam coisas.
Uma exclusão proposta pela WR Berkley impediria reclamações envolvendo “qualquer uso real ou alegado” de IA, incluindo qualquer produto ou serviço vendido por uma empresa que “incorpore” a tecnologia.
Em resposta a uma solicitação do regulador de seguros de Illinois sobre as exclusões, a AIG disse em um documento que a IA generativa era uma “tecnologia abrangente” e que a possibilidade de eventos que levariam a reclamações futuras “provavelmente aumentaria com o tempo”.
A AIG disse ao Financial Times que, embora tenha apresentado exclusões de IA generativa, “não tem planos de implementá-las neste momento”. A aprovação das exclusões daria à empresa a opção de implementá-las posteriormente.
A WR Berkley e a Great American se recusaram a comentar.
As seguradoras consideram cada vez mais os resultados dos modelos de IA como imprevisíveis e opacos demais para serem segurados, disse Dennis Bertram, chefe de seguros cibernéticos para a Europa da Mosaic. “É uma caixa preta demais.”
Até mesmo a Mosaic, uma seguradora especializada no mercado Lloyd’s of London que oferece cobertura para alguns softwares aprimorados por IA, se recusou a subscrever riscos de grandes modelos de linguagem, como o ChatGPT.
“Ninguém sabe quem é o responsável se algo der errado”, disse Rajiv Dattani, cofundador da Artificial Intelligence Underwriting Company, uma startup de seguros e auditoria de IA.
Essas medidas surgem em meio a um número crescente de erros de grande repercussão causados pela IA. A Wolf River Electric, uma empresa de energia solar, processou o Google por difamação e pediu indenização de pelo menos US$ 110 milhões, alegando que o recurso AI Overview (Visão geral da IA) do Google afirmou falsamente que a empresa estava sendo processada pelo procurador-geral de Minnesota.
Enquanto isso, um tribunal ordenou no ano passado que a Air Canada honrasse um desconto que seu chatbot de atendimento ao cliente havia inventado.
No ano passado, o grupo de engenharia britânico Arup perdeu HK$ 200 milhões (US$ 25 milhões) depois que fraudadores usaram uma versão clonada digitalmente de um gerente sênior para solicitar transferências financeiras durante uma videoconferência.
O chefe de segurança cibernética da Aon, Kevin Kalinich, disse que o setor de seguros pode arcar com uma perda de US$ 400 milhões ou US$ 500 milhões para uma empresa que implantou IA agênica que forneceu preços ou diagnósticos médicos incorretos.
“O que eles não podem arcar é se um provedor de IA cometer um erro que resulte em 1.000 ou 10.000 perdas — um risco sistêmico, correlacionado e agregado”, acrescentou.
As alucinações de IA normalmente não são cobertas pela cobertura cibernética padrão, que é acionada por violações de segurança ou privacidade. As chamadas apólices de “erros e omissões” tecnológicas são mais propensas a cobrir erros de IA, mas novas exclusões podem restringir o escopo da cobertura oferecida.
Ericson Chan, diretor de informações da Zurich Insurance, disse que, quando as seguradoras avaliam outros erros causados por tecnologia, elas podem “identificar facilmente a responsabilidade”. Em contrapartida, o risco da IA envolve potencialmente muitas partes diferentes, incluindo desenvolvedores, criadores de modelos e usuários finais. Como resultado, o impacto potencial no mercado dos riscos relacionados à IA “pode ser exponencial”, disse ele.
Algumas seguradoras passaram a esclarecer a incerteza jurídica com as chamadas “endossos” — uma emenda à apólice — de risco relacionado à IA. Mas os corretores alertam que isso requer um exame minucioso, pois, em certos casos, isso resultou em menos cobertura.
Uma endossos da seguradora QBE ampliou a cobertura para multas e outras penalidades previstas na Lei de IA da UE, considerada o regime mais rigoroso do mundo para regulamentar o desenvolvimento da tecnologia.
Mas a endossos, que outras seguradoras adotaram desde então, limitou o pagamento de multas decorrentes do uso de IA a 2,5% do limite total da apólice, de acordo com uma grande corretora.
A QBE disse ao Financial Times que estava “abordando a lacuna potencial [no risco relacionado à IA] que pode não ser coberta por outras apólices de seguro”.
Em negociações com corretores, a Chubb, com sede em Zurique, concordou com termos que cobririam alguns riscos de IA, mas excluiu incidentes “generalizados” de IA, como um problema com um modelo que afetaria muitos clientes ao mesmo tempo. A Chubb se recusou a comentar.
Enquanto isso, outras seguradoras introduziram complementos que cobrem riscos de IA estritamente definidos — por exemplo, um chatbot que fica fora de controle.
Corretores de seguros e advogados disseram temer que as seguradoras comecem a contestar as reclamações na Justiça quando as perdas causadas pela IA aumentarem significativamente.
Aaron Le Marquer, chefe da equipe de disputas de seguros do escritório de advocacia Stewarts, disse: “Provavelmente será necessário um grande evento sistêmico para que as seguradoras digam: ‘Espere aí, nunca tivemos a intenção de cobrir esse tipo de evento’”.
