Quase nove em cada 10 organizações utilizam agora IA em pelo menos uma função empresarial. A maioria não construiu uma governança que corresponda
A IA está sendo incorporada em processos críticos de negócios mais rápido do que muitas organizações conseguem adaptar suas capacidades de governança, segurança e resposta a incidentes, de acordo com AXA XL e consultoria de segurança cibernética S-RM.
Seu relatório, Construindo IA Resiliente: Gerenciando Riscos de IA por meio de Governança, Segurança e Resiliência, apelou aos líderes empresariais para que tratassem o risco da IA como uma questão de resiliência empresarial, em vez de apenas uma preocupação tecnológica ou de conformidade.
De acordo com a McKinsey Estado da IA em 2026 pesquisa, 88% das organizações agora relatam o uso de IA em pelo menos uma função de negócios, acima dos 78% do ano anterior. AXAXL e S-RM disseram que a escala de adoção está criando mais pontos de entrada potenciais para ameaças cibernéticas, ao mesmo tempo que introduz novas formas de risco operacional, regulatório e de terceiros.
Cinco prioridades que o relatório estabelece
À medida que os sistemas de IA ganham maior acesso a dados confidenciais, aplicativos de negócios e processos de tomada de decisão, o relatório identificou cinco prioridades para os líderes empresariais: estabelecer uma responsabilidade clara pela IA em toda a empresa, abrangendo implantações formais, recursos de software incorporados e IA paralela; proteger dados sensíveis e reforçar os controlos de identidade e acesso à medida que os sistemas de IA se tornam mais autónomos; gerenciar o risco de IA em todo o seu ciclo de vida, desde a coleta de dados e desenvolvimento de modelos até a implantação, monitoramento e resposta a incidentes; aplicar governança rigorosa e devida diligência aos fornecedores de IA e outros terceiros críticos; e preparar-se para cenários de perdas relacionados com a IA que podem abranger simultaneamente cibersegurança, fraude, responsabilidade, interrupção de negócios e outras áreas de cobertura de seguros.
Jonathan Salter, chefe de consultoria de risco da AXA XL, disse que a IA está passando da experimentação para os sistemas e processos nos quais as organizações dependem todos os dias, mas a governança nem sempre acompanha o ritmo.
“As organizações em melhor posição para capturar o valor da IA serão aquelas que sabem onde ela está sendo usada, entendem as consequências para os negócios quando ela falha e criam segurança e resiliência na implantação desde o início”, disse ele.
Enquanto isso, Rebiah Bardot-Girard, chefe de serviços de consultoria de risco cibernético da AXA XL, disse que o risco de IA raramente surge isoladamente.
“Isso amplifica as fraquezas existentes na gestão de identidades, governança de dados, supervisão de fornecedores e preparação para incidentes”, disse ela. “Um inventário prático de onde a IA é usada, quais dados ela pode acessar e onde pode tomar ou influenciar ações é agora um ponto de partida fundamental para a resiliência.”
Algumas organizações estão respondendo
O relatório cobriu riscos, incluindo vazamento de dados, manipulação de modelos, injeção imediata, resultados não confiáveis, IA paralela e agentes excessivamente autônomos, e estabeleceu cinco fundamentos para uma IA segura desde o projeto: governança de dados forte, modelos e aplicativos seguros, resiliência do ecossistema, controles de acesso robustos e monitoramento contínuo.
Há sinais de que algumas organizações estão respondendo. De acordo com o Fórum Econômico Mundial Perspectiva global de segurança cibernética 202664% dos líderes empresariais avaliam agora a segurança das ferramentas de IA antes da implementação, um aumento acentuado em relação aos 37% do ano anterior, encontrando os mesmos quadros de inquérito do WEF contra 94% dos entrevistados que afirmam que a IA será o motor mais significativo da mudança na segurança cibernética em 2026, e 87% que acreditam que as vulnerabilidades ligadas à IA aumentaram mais do que qualquer outro tipo de ameaça.
AXA XL e S-RM alertaram que a avaliação pré-implantação por si só não é suficiente. À medida que a IA ganha acesso a dados confidenciais e processos de tomada de decisão, as organizações permanecem expostas, a menos que a supervisão continue durante a implantação e a operação contínua, e não apenas no momento em que o sistema entra em operação.
Uma lacuna que o mercado de seguros mais amplo também sinalizou
O alerta central deste relatório, de que os produtos de seguros e a governação empresarial estão ambos a lutar para acompanhar o risco da IA, ecoa as conclusões publicadas no início de 2026 por Gallagher Re em seu próprio relatório, Sistemas inteligentes, pontos cegos: repensando os seguros para a era da IA.
Esse relatório concluiu que os litígios generativos relacionados com a IA nos EUA cresceram 978% entre 2021 e 2025, argumentando que as alucinações, a discriminação algorítmica, a deriva do modelo e os compromissos da cadeia de abastecimento criam responsabilidade através de mecanismos que as políticas tradicionais nunca foram concebidas para resolver.
Notavelmente, o relatório da Gallagher Re nomeou especificamente AXA XL, juntamente com Hiscox e Beazleycomo uma das operadoras que já trabalha para esclarecer os limites de cobertura por meio de endossos e produtos específicos do setor, sugerindo que este novo relatório focado na governança acompanha os próprios esforços paralelos da AXA XL para adaptar a redação de seus produtos ao mesmo risco.
O que distingue este relatório de um aviso geral de risco de IA é a sua insistência de que a exposição à IA não se enquadra perfeitamente em qualquer linha de seguros, uma fuga de dados pode desencadear uma reclamação cibernética, uma decisão automatizada errada pode desencadear uma reclamação de responsabilidade e uma falha de IA de um fornecedor pode desencadear uma reclamação de interrupção de negócios, por vezes todas devido ao mesmo incidente subjacente.
Para corretores e gestores de risco, a mensagem central do relatório tem menos a ver com a escolha do produto de seguro de IA certo e mais com a construção inicial da visibilidade interna, sabendo onde a IA é realmente implementada numa organização, incluindo a utilização de IA sombra, nenhum processo de governação formal alguma vez aprovado, sem o qual nenhuma conversa sobre seguros pode refletir com precisão o risco realmente suportado.
