A maioria das seguradoras que implementa IA nunca decide explicitamente quais decisões o modelo controla, criando risco regulatório e operacional por padrão.
Aqui vai uma frase que deveria alarmar todas as seguradoras que estão implementando IA: A maioria das seguradoras que adotam IA nunca decide explicitamente quais decisões o modelo pode tomar.
Decidimos o fornecedor. O orçamento. O cronograma de implementação. A revisão de risco de modelo. O filing. Então ligamos a coisa e deixamos a fronteira entre decisões da máquina e decisões humanas ser negociada por acidente, um fluxo de trabalho por vez, por quem quer que esteja configurando o motor de regras naquele dia.
É como contratar um novo e brilhante diretor de subscrição, nunca definir o papel e depois agir surpreso quando, 18 meses depois, ele está silenciosamente definindo o apetite.
Em um setor regulado, esse desvio não é apenas risco operacional. É o tipo de coisa sobre a qual um auditor de conduta de mercado pergunta. A solução é uma disciplina que chamo de Direitos de Decisão, que organiza cada decisão da sua operação em um de três níveis.
Nível 1: DELEGAR — a máquina decide, humanos auditam
Decisões no nível Delegar compartilham três características: são reversíveis, têm baixo impacto individual e alto volume. Encaminhar um aviso inicial de sinistro para a fila correta. Sinalizar um sinistro para revisão da SIU. Processamento direto de sinistros pequenos e reversíveis dentro de limites pré-definidos. Triagem de propostas de acordo com o apetite. Se o modelo errar uma, você identifica, corrige e segue em frente.
Delegar essas decisões não é abdicar, é estratégia. Cada hora que um regulador de sinistros ou subscritor gasta em uma decisão que a máquina pode tomar com segurança é uma hora tirada das decisões que só eles podem tomar.
Duas regras mantêm o Nível 1 sob controle. Primeiro, auditorias por amostragem: humanos revisam uma amostra aleatória das decisões do modelo, porque sistemas sem supervisão desviam — e desvios em tarifação ou gestão de sinistros são como você acaba tendo que explicar um padrão de impacto desigual que nunca foi intencional. Segundo, mecanismos de escalonamento: qualquer segurado ou corretor pode elevar uma decisão de nível. O segurado que diz “quero falar com um humano” terá um. Sempre.
Nível 2: AMPLIAR — a IA prepara, um humano nomeado decide
Este é o nível padrão para decisões relevantes, e deve ser o maior no seu modelo. O modelo faz o que faz melhor: coleta, pontua e apresenta opções com rapidez. Depois, um humano nomeado faz o que só humanos podem fazer: pondera o contexto, a exposição e a equidade e toma a decisão com seu nome vinculado a ela.
A palavra-chave é nomeado. Decisões no nível Ampliar têm um único responsável, e esse responsável precisa ser capaz de defender a decisão diante de um quadro em branco, sem o modelo presente. Em seguros, isso não é metáfora: se um subscritor não consegue explicar uma recusa sem apontar para um score, você não consegue emitir uma notificação de ação adversa defensável e não consegue responder ao regulador que perguntar por quê. Se você não consegue explicar sem a ferramenta, você não decidiu. Você apenas aderiu.
Nível 3: RESERVAR — somente humano; a máquina pode informar, nunca recomendar
Algumas decisões nunca devem carregar uma recomendação de IA, não porque o modelo não conseguiria produzir uma, mas porque o simples ato de produzi-la contamina o julgamento. Uma recomendação é uma âncora. Quando a sala vê “o modelo sugere negar”, todo pensamento humano passa a ser medido contra “negar”, e discordar começa a parecer discutir com a matemática.
No setor de seguros, o nível Reservar inclui: decisões que afetam materialmente o sustento de uma pessoa ou o acesso à cobertura, sinistros de grande valor e potenciais casos de má-fé, qualquer tema relacionado a discriminação injusta ou segurados vulneráveis e decisões estratégicas que moldam a companhia, entrar em uma linha, adquirir uma carteira. Além de uma regra geral que vale memorizar:
Qualquer coisa que você precise defender pessoalmente perante um regulador, um segurado ou um tribunal.
Se você ficaria desconfortável dizendo “o modelo recomendou” sob juramento, então a decisão sempre foi de nível Reservar. A IA ainda pode informar, trazer o histórico de perdas, modelar cenários, mas a síntese, a ponderação e a recomendação permanecem em mãos humanas do início ao fim.
O teste das três perguntas
Para qualquer decisão à sua frente neste momento:
Ela é reversível? Você pode desfazê-la sem prejudicar um segurado ou violar um filing? Se sim, pode ser delegável. Se não, suba um nível.
Quem responde por ela? Se você não consegue nomear o humano e um auditor pergunta “quem decidiu isso?”, você encontrou um problema em andamento. Eu assinaria meu nome nisso, em uma auditoria de conduta de mercado? Se a ideia causa desconforto, é nível Reservar.
O que acontece quando você publica um charter
Na primeira vez que um líder de programa publica um charter (uma espécie de carta de princípios), algo inesperado costuma acontecer: metade dos conflitos políticos da equipe simplesmente desaparece. O atrito nunca foi realmente sobre a tecnologia. Era uma ansiedade não dita sobre quem realmente era responsável por algo. O charter não restringe ninguém, ele alivia todos. As pessoas brigam mais em territórios indefinidos. Desenhe o mapa e os conflitos praticamente cessam.
Uma nota sobre governança, porque o setor de seguros depende disso: a chegada da IA tenta as organizações a dar ao algoritmo uma letra na matriz RACI. Tudo bem, deixe o modelo ser Responsible ou Consulted em várias linhas. Mas o A nunca vai para o algoritmo. Accountability exige alguém que possa ser promovido, rebaixado, reconhecido ou demitido, e alguém que um regulador possa responsabilizar. No dia em que seu RACI tiver um A sem uma pessoa por trás, sua governança será apenas decorativa.
Construa o seu antes que a ferramenta construa por você
Você pode montar um rascunho inicial em uma tarde: liste as decisões de maior volume impactadas por IA, classifique cada uma em Delegar, Ampliar ou Reservar, nomeie um responsável para cada item de Ampliar e Reservar e defina a cadência de auditoria para o Nível 1. Depois publique e defenda como defenderia qualquer filing, porque, neste setor, cedo ou tarde, você terá que fazê-lo.
Escrito por Matthew Arthurs, tenente-coronel da Guarda Nacional do Exército dos EUA e executivo de entrega de programas que gerenciou grandes portfólios de engenharia e operações em setores regulados, incluindo insurtech.
