À medida que os agentes de IA ganham autonomia, as seguradoras estão tornando as práticas de governança uma condição para a cobertura, transformando a gestão de riscos em um fator de precificação.
Quando a IA faz algo errado, quem arca com a perda?
Nos últimos anos, essa pergunta tem aparecido principalmente em discussões sobre governança de IA e responsabilidade legal. Mas, à medida que a IA avança para processos empresariais centrais — e à medida que os agentes começam a executar tarefas de forma autônoma — outro mercado está sendo forçado a enfrentar a mesma questão: o de seguros.
Um artigo da IT Pro sobre seguros de IA observa que uma nova categoria de cobertura está começando a surgir em torno de riscos relacionados à IA. Esses podem incluir perdas financeiras causadas por conselhos alucinados, discriminação algorítmica, violação de direitos autorais, modelos que não atingem os níveis de desempenho prometidos e até mesmo perdas causadas por ações autônomas de agentes de IA.
Esse ainda não é um produto de seguro maduro ou padronizado. A cobertura ainda está dispersa entre apólices independentes, endossos e exclusões. Mas o desenvolvimento mais importante não é simplesmente que as seguradoras estão começando a cobrir a IA. É que, uma vez que as seguradoras concordam em absorver perdas causadas pela IA, elas devem responder a uma pergunta mais difícil:
Quando um agente pode agir de forma autônoma, a seguradora está subescrevendo risco de modelo, risco de sistema ou risco de governança de tarefas?
Que tipo de IA merece ser segurada? Essa pergunta revela uma mudança mais profunda: a governança de IA está se tornando parte da infraestrutura da segurabilidade. E isso pode, por sua vez, mudar a forma como as empresas governam a IA. À medida que os agentes ganham maior autonomia, a capacidade de uma empresa de demonstrar que seus riscos podem ser compreendidos, mitigados e rastreados determinará cada vez mais se esses sistemas são seguráveis.
Para as seguradoras dispostas a subescrever riscos de IA, esse desafio também está se tornando uma oportunidade de mercado.
1. Da governança de riscos à segurabilidade
Em mercados de riscos maduros, as seguradoras primeiro perguntam se um risco pode ser identificado, controlado e estimado. Só então elas podem decidir se o seguram e a que preço.
A IA está começando a entrar nesse processo.
Em 2026, a Gartner previu que, até 2030, as seguradoras de propriedade e acidentes (P&C) podem exigir controles robustos de risco de IA como condição para fornecer cobertura afirmativa de responsabilidade por IA. Empresas com capacidades mais fortes em governança de IA e gestão de riscos podem não apenas achar mais fácil obter cobertura, mas também obter uma precificação mais favorável.
Isso significa que as empresas que constroem governança de IA precisarão responder a mais do que apenas “Como gerenciamos a IA?” Elas também podem precisar responder: Podemos provar a uma seguradora que realmente temos a IA sob controle?
Isso não é um exercício de papel. Uma política de IA, um conjunto de princípios éticos ou mesmo um comitê de governança de IA não são suficientes para demonstrar que o risco está realmente sob controle. O que as seguradoras devem considerar é se essas práticas de governança se tornaram mecanismos operacionais antes que um incidente ocorra — e o que, na prática, a empresa mudou por causa delas.
Para avaliar o risco de IA, as seguradoras precisarão saber quais modelos uma empresa usa, quais decisões esses modelos influenciam e quem é responsável por essas decisões; se ações automatizadas são registradas; se situações de alto risco acionam intervenção humana; se desvios de modelo e anomalias são detectados; e se incidentes podem ser reconstruídos depois que algo dá errado.
Como disse um especialista citado pela IT Pro, a governança que existe apenas no papel, sem ser traduzida em mecanismos operacionais, não satisfará um subscritor prudente.
A governança de IA está, portanto, assumindo uma função que recebeu muito menos atenção: tornar-se parte da infraestrutura da segurabilidade da IA.
2. O que as seguradoras subescrevem irá além do modelo
Ainda há um problema não resolvido. Grande parte da gestão de riscos de IA hoje permanece centrada no modelo. As empresas mantêm inventários de modelos, testam a precisão, monitoram vieses e desvios do modelo e preservam registros de saída. Para a IA generativa, alucinações, vieses discriminatórios e saídas incorretas podem causar perdas financeiras diretas.
Mas, uma vez que a IA se torna um agente capaz de executar tarefas de forma autônoma, a natureza do risco muda. Um agente pode executar corretamente uma tarefa que já se tornou irrelevante. Pode continuar perseguindo o objetivo original depois que novas informações mudarem a situação. Ou cada ação individual pode cumprir as regras, enquanto o resultado combinado ainda é algo que a empresa não pode aceitar.
Nesse ponto, a capacidade do modelo, por si só, não é mais suficiente para avaliar o risco. A exposição que as seguradoras precisam compreender começa a se estender do risco de modelo ao risco de governança de tarefas.
A pergunta de subscrição, portanto, torna-se:
Sob quais condições esta IA tem permissão para fazer o que faz? E se o contexto mudar, ela saberá quando parar?
Para as empresas, isso levanta outra pergunta: como elas estabelecem a segurabilidade de um agente de IA?
3. A segurabilidade do agente exige evidências
Imagine uma empresa que permite que um agente de IA processe reembolsos de clientes de forma autônoma. De uma perspectiva de governança de modelos, podemos testar se suas respostas estão corretas, se os dados estão seguros e se suas saídas apresentam viés. Mas uma seguradora também pode precisar saber:
Quanto dinheiro o agente pode reembolsar? Quando ele deve reavaliar o que o cliente realmente precisa? Se houver suspeita de fraude, uma nova reclamação ou uma transação anormal, a tarefa original ainda é válida? Quem determina se o agente pode continuar, pausar ou encaminhar o caso para um humano? E que evidências mostram que a tarefa foi realmente concluída conforme o pretendido?
Essas perguntas vão além da governança convencional de modelos. Elas apontam para quatro mecanismos de governança de tarefas que também podem servir como evidência de subscrição:
- Design da tarefa — define o que a IA está realmente autorizada a fazer. Para um subscritor, ajuda a estabelecer onde a exposição começa e onde termina.
- Limites de permissão — definem quais dados, sistemas, ativos e ações a IA pode acessar ou alterar e até onde se estende sua autoridade. Esses limites moldam diretamente a escala da perda potencial.
- Loop de compreensão — determina se novos sinais levam o sistema a reavaliar a própria tarefa, em vez de simplesmente continuar executando o objetivo original. Isso é crítico quando uma mudança de contexto deve acionar uma pausa, um escalonamento ou uma intervenção humana.
- Verificação de resultado — define o que conta como conclusão da tarefa: simplesmente concluir um processo ou produzir o resultado de negócios pretendido. Também cria a evidência necessária para a auditabilidade e a rastreabilidade.
As empresas podem pensar nesses mecanismos principalmente como formas de controlar agentes. De uma perspectiva de seguro, no entanto, eles servem a outro propósito: são evidências de que o risco de um agente pode ser compreendido, limitado e rastreado.
4. O seguro está se tornando uma restrição externa à governança de IA
A governança interna de IA tem um problema familiar: raramente gera receita diretamente. Sob pressão para avançar mais rápido, aumentar a eficiência e entregar resultados de negócios, ela pode facilmente se reduzir a políticas, listas de verificação e documentos de conformidade.
O seguro pode mudar os incentivos para que as empresas gerenciem bem a IA.
Um estudo de seguro de IA de 2026, aceito pela Harvard Data Science Review, aponta uma diferença fundamental entre as seguradoras e os provedores comuns de garantia de IA: as seguradoras realmente arcam com os custos das reivindicações relacionadas à IA. Isso lhes dá um incentivo econômico direto para exigir testes, monitoramento e validação mais rigorosos — e, por meio de prêmios e condições de subscrição, incentivar uma governança de IA mais segura.
Esse mecanismo não é novo. A proteção contra incêndio, a segurança automotiva, os controles de risco industrial e a segurança cibernética foram todos moldados pela precificação de seguros e pelos requisitos de subscrição, transformando gradualmente as práticas de segurança em padrões verificáveis pelos mercados.
A IA pode estar entrando agora em um estágio semelhante. Se uma empresa não consegue explicar os limites de tarefa de um agente, as permissões operacionais, os mecanismos de intervenção, os registros de resultados e a rastreabilidade pós-incidente, ela pode enfrentar mais do que apenas o escrutínio regulatório. Uma seguradora pode simplesmente concluir:
“Não consigo precificar esse risco.”
Ou:
“Posso segurá-lo, mas com um prêmio mais alto, limites mais baixos e certas ações autônomas dos agentes excluídas.”
Uma vez que a capacidade de governança de IA começa a afetar se uma empresa pode obter cobertura, os termos dessa cobertura e o prêmio que paga, a governança entra na precificação dos riscos da empresa. Esse pode ser um dos futuros mais importantes para o seguro de IA.
Conclusão: as seguradoras estão prontas para avaliar a segurabilidade da IA?
As discussões sobre responsabilidade de IA frequentemente terminam com um princípio familiar: não importa quão avançada a IA se torne, os humanos permanecem, em última instância, responsáveis.
O princípio é sólido. Mas, à medida que os agentes ganham maior autonomia, a pergunta mais difícil não é mais se alguém pode ser encontrado para arcar com a responsabilidade depois do fato. É se a empresa pode demonstrar, antecipadamente, que a responsabilidade humana foi traduzida em mecanismos operacionais de controle no sistema.
Quem define a tarefa? Quem configura as permissões? Quais sinais exigem que o sistema reavalie? Sob quais condições ele deve parar ou devolver o controle a um humano? E como provamos que a IA concluiu a tarefa certa — e não apenas que a executou corretamente?
Essas perguntas antes pertenciam principalmente à governança de IA. O seguro de IA está transformando-as em perguntas de subscrição.
Isso pode marcar uma mudança importante. Uma vez que o mercado de seguros comece a precificar a capacidade de governança de IA, a governança não será mais algo que uma empresa simplesmente acredita que “deve fazer”. Pode determinar cada vez mais se a empresa tem o direito de conceder maior autonomia a um agente, se terceiros podem confiar em sua IA e se o risco de negócios resultante pode ser transferido.
O que, finalmente, diferencia a capacidade empresarial de IA pode, portanto, ser mais do que a força do modelo ou o número de tarefas que um agente pode executar. Pode ser que uma empresa possa provar que, mesmo quando a IA passa a agir de forma autônoma, o risco resultante permanece compreensível, controlável e segurável.
Visto de outro lado, o seguro na era da IA não se trata apenas de cobrir perdas causadas pela IA. É também sobre avaliar se uma empresa pode transformar o risco de IA em algo compreensível, precificável e passível de intervenção.
Isso traz a pergunta de volta às próprias seguradoras: à medida que o risco passa dos modelos para agentes autônomos, as seguradoras já têm a capacidade de avaliar se esses agentes são seguráveis? Se não, o seguro de IA terá dificuldade em avançar além do estágio conceitual.
Essa capacidade não é apenas um pré-requisito para que o seguro de IA se torne um mercado real. Também pode se tornar uma das próximas áreas essenciais de especialização do setor de seguros.
Escrito por David Lien, sócio da Lingxi (Beijing) Technology e autor de “Decoding New Insurance” (2020), que figurou entre os livros mais vendidos da JD.com.
