A desenvolvedora de inteligência artificial Anthropic alertou na segunda-feira que um incidente catastrófico relacionado à IA poderia gerar responsabilidades acima da capacidade do setor de seguros.
Em um documento de registro apresentado à Securities and Exchange Commission (SEC, a comissão de valores mobiliários dos EUA) para a oferta pública inicial de ações (IPO) planejada, a empresa, sediada em San Francisco e desenvolvedora do sistema de IA Claude, afirmou que sua cobertura de seguros atual pode ser insuficiente para protegê-la contra perdas de grande escala envolvendo sua tecnologia.
“Com a escala de danos que poderia resultar de um incidente catastrófico relacionado à IA, nenhuma seguradora isoladamente, e potencialmente nem o setor de seguros como um todo, pode ter capacidade ou expertise suficiente para subscrever um seguro compatível com essa exposição”, afirmou a Anthropic.
A empresa disse que o mercado de seguros para riscos específicos de IA ainda é relativamente pouco desenvolvido e que a cobertura para determinadas responsabilidades pode não estar disponível ou ser proibitivamente cara.
É comum que empresas descrevam cenários extremos nas seções de fatores de risco dos documentos enviados à SEC, incluindo eventos potencialmente graves que talvez nunca ocorram.
O documento, no entanto, evidencia a escala potencial das exposições ligadas à IA, afirmou Andrew Hill, líder estratégico global de riscos de IA na área FINEX (linhas financeiras e de responsabilidade) da Willis.
“Os comentários da Anthropic reforçam uma realidade crescente: a IA é um risco de fronteira, capaz de produzir incidentes com frequência e severidade superiores a tudo o que já foi vivenciado”, disse Hill.
“Os fundamentos do seguro como estratégia de transferência de risco para a IA continuam sólidos, mas, à medida que nosso entendimento do risco se aprofunda, em especial seu potencial de perdas sistêmicas e agregadas, não se pode presumir que todas as exposições de IA serão seguráveis”, afirmou.
A Anthropic disse que os marcos legais sobre a responsabilidade por ações tomadas de forma autônoma por sistemas de IA ainda são indefinidos, o que gera incerteza sobre quais partes responderiam pelas perdas.
Segundo o documento, a empresa poderia enfrentar reclamações de clientes, de seus usuários finais ou de terceiros que aleguem danos causados por agentes de IA autônomos, mesmo quando os clientes tenham configurado, implantado ou supervisionado a tecnologia.
Embora a Anthropic use cláusulas contratuais para limitar sua responsabilidade, a empresa afirmou que essas proteções nem sempre podem ser exequíveis ou suficientes.
Com informações de Business Insurance.
Leia mais:
- HDI Seguros e insureMO levam Inteligência Artificial para a engenharia de produtos de seguros após migração recorde
- Líder de seguros da Anthropic mostra como criar agentes de IA em que uma seguradora possa confiar
- Anthropic e outras empresas veem a IA reformulando a forma como seguradoras compram e vendem
