As insurtechs lançaram o Ethical AI in Insurance Consortium para colaborar com os padrões de todo o setor relacionados à justiça e à transparência no uso da inteligência artificial no setor de seguros.
Os membros fundadores incluem a Cloverleaf Analytics, a Exavalu e a Socotra. O consórcio espera aumentar o compartilhamento de conhecimento entre as seguradoras, os desenvolvedores de IA e os órgãos reguladores, bem como os grupos de defesa do consumidor. A organização está trabalhando para desenvolver diretrizes éticas para o setor relacionadas ao uso de IA em subscrição, processamento de sinistros e precificação.
Abby Hosseini, diretora digital da Exavalu, disse em uma resposta por e-mail que cada um dos membros fundadores iniciais está focado em áreas específicas do setor.
“Cada um de nós acredita que nosso foco, histórico e perspectivas exclusivos podem agregar valor às operadoras e corretores que estão correndo para aproveitar os avanços da IA”, disse Hosseini. “O primeiro objetivo é aumentar a conscientização sobre o impacto do viés algorítmico no setor de seguros.
Hosseini acrescentou que é importante reconhecer que o viés algorítmico é um problema real.
“Talvez o impacto inicial mais importante seja aumentar a conscientização sobre a questão da ética na tomada de decisões algorítmicas. Nossa esperança é que, ao colocar a questão no centro das atenções do setor, possamos ajudar a acelerar o uso da IA com barreiras de proteção e práticas recomendadas adequadas, em vez de tentar controlar o aumento da adoção da IA”, disse Hosseini. “O segundo impacto que esperamos é que o padrão ético traga um nível mais alto de transparência para o setor e espera desfazer décadas de desconfiança entre o segurado e a operadora. O sucesso do consórcio só pode ser medido por sua capacidade de ampliar o uso da IA com padrões éticos sólidos que são seguidos pelos membros.”
Robert Clark, CEO e fundador da Cloverleaf Analytics, disse em um e-mail que o consórcio está procurando estabelecer um código de ética.
“Isso é para ajudar os consumidores a ter confiança de que sua seguradora está aplicando um código de ética às implementações de IA que podem afetá-los e para ajudar as seguradoras a evitar preconceitos em relação a gênero, raça, idade, etc., que podem levar a ações regulatórias, penalidades ou, pior ainda, ações coletivas”, disse Clark.
O código de ética incluirá diretrizes sobre como evitar preconceitos e garantir a imparcialidade, inclusive abordando a transparência no uso de modelos algorítmicos e na tomada de decisões analíticas.
Por exemplo, Clark espera ver um foco na auditoria. “Acreditamos que o consórcio definirá como implementar a auditoria contínua para garantir que, quando os primeiros sinais de um possível viés começarem a surgir na IA, ele seja rapidamente resolvido.”
Os critérios para a seleção de novos membros ainda não foram totalmente determinados, mas as seguradoras e os fornecedores de soluções de seguros são o alvo. O consórcio não está ativamente envolvido com órgãos reguladores, mas já iniciou conversas com vários deles sobre o assunto.