Novos limites para decisões automatizadas de emprego estão empurrando os contratos de fornecedores, a supervisão humana e possíveis exclusões para uma posição mais elevada na agenda de subscrição
As novas restrições da Califórnia às decisões automatizadas de emprego estão exercendo nova pressão sobre corretores e seguradoras para determinar onde reside a responsabilidade quando os empregadores usam ferramentas de IA de terceiros.
O governador Gavin Newsom assinou o SB 947, apelidado de “No Robo Bosses Act”, em 30 de setembro. A partir de 1º de julho de 2027, os empregadores serão proibidos de confiar apenas em um sistema de decisão automatizado ao tomar decisões disciplinares ou de demissão. Quando um empregador depende principalmente de resultados automatizados, um ser humano deve corroborar a decisão, enquanto os funcionários afetados ganham avisos adicionais e direitos de informação.
A legislação não regulamenta a contratação exatamente da mesma forma. Mas chega num momento em que empregadores, seguradoras e corretores já estão a observar litígios sobre recrutamento assistido por IA, incluindo Mobley v. Workday, onde os demandantes alegam que as ferramentas de contratação automatizadas da Workday resultaram em resultados discriminatórios. Os demandantes estão buscando certificação de classe, com audiência marcada para março de 2027. Workday negou qualquer irregularidade.
Jonathan Mitchell (foto), líder de prática financeira da Founder Shield, a prática de inovação de O Grupo Baldwinacredita que a incerteza sobre o risco de responsabilidade significa que os empregadores que utilizam tecnologia externa devem assumir proativamente a assunção de responsabilidade. Mesmo quando a indemnização contratual eventualmente transfere a responsabilidade para o fornecedor de tecnologia, o empregador ainda pode enfrentar o custo imediato de se defender.
“Você deve operar como se a responsabilidade fosse sua”, disse Mitchell à Insurance Business. “Em última análise, tudo se resumirá ao que diz o contrato com o fornecedor que eles estão usando.
“Potencialmente, no futuro, você pode ser removido do processo ou transferir toda a responsabilidade para o fornecedor de IA que você usa, mas vai custar muito dinheiro para chegar lá.”
O escrutínio da subscrição pode ser mais rigoroso em torno de ferramentas de IA de terceiros
A questão dá maior peso a um risco que os corretores podem historicamente ter visto como periférico a uma colocação EPLI: os contratos que os clientes assinaram com fornecedores de tecnologia. Embora os corretores não possam prestar aconselhamento jurídico, devem rever a forma como os clientes descrevem os seus acordos de terceirização e se estes expõem lacunas entre o risco percebido e o risco real.
A questão pode ser particularmente significativa para pequenas e médias empresas que adotam ferramentas de IA para agilizar o RH sem os recursos legais dos grandes empregadores. Mitchell disse que algumas organizações podem presumir que a terceirização de uma função também terceiriza a responsabilidade trabalhista subjacente. Uma empresa pode utilizar uma plataforma para selecionar candidatos e outra para folha de pagamento, por exemplo, sem compreender totalmente a atribuição contratual de responsabilidades.
Os subscritores do EPLI estão a começar a questionar sobre a utilização da IA, embora Mitchell tenha observado que o escrutínio detalhado permanece inconsistente no segmento de mercado das PME. Atualmente, as questões tendem a centrar-se em saber se a IA está a ser utilizada, qual o fornecedor que a fornece e quem dentro da organização segurada é responsável pela supervisão da tecnologia.
“Pessoalmente, não estou vendo muito ‘preciso ver aquele contrato (fornecedor de IA)’, mas talvez seja aí que vai”, disse Mitchell. “No momento, é provavelmente mais interessante para nós, corretores, mas posso ver que isso se tornará uma necessidade em algum momento.”
Um fornecedor poderia criar sinistros no livro de uma seguradora
A maior preocupação com seguros pode, em última análise, estender-se além dos sinistros EPLI individuais; Mitchell fez uma comparação com o seguro cibernético, onde as seguradoras aprenderam que a dependência generalizada dos mesmos fornecedores de tecnologia poderia criar riscos de agregação ocultos.
Se dezenas ou centenas de empregadores segurados utilizarem a mesma plataforma de emprego de IA, um problema com esse fornecedor poderá gerar sinistros separados em toda a carteira de uma seguradora.
“Em vez de uma reivindicação de ação coletiva, seu livro tem reivindicações de 40% de seus segurados para reivindicações de EPL porque todos eles estavam usando esse fornecedor”, disse Mitchell.
As exclusões de IA estão mais próximas do EPLI
Há sinais de que As exclusões de IA estão começando a atingir a responsabilidade de gestão políticas. Berkeley A Seguradora, por exemplo, desenvolveu um endosso de “Exclusão de Inteligência Artificial (Absoluta)” que altera expressamente seus diretores e executivos, responsabilidade por práticas trabalhistas e partes de cobertura de responsabilidade fiduciária. A redação exclui perdas decorrentes do uso, implantação ou desenvolvimento real ou alegado de IA, incluindo reclamações envolvendo políticas ou treinamento de IA inadequados e alegadas violações de obrigações legais relacionadas à tecnologia.
A formulação continua a ser uma abordagem emergente e não transversal ao mercado. Aon estimou no seu relatório de risco de IA de 2026 que mais de 90% da exposição à IA potencialmente coberta ainda se encontra no seguro de “IA silenciosa”, onde as apólices não cobrem nem excluem expressamente a tecnologia.
Mas as restrições estão se desenvolvendo em outros lugares: ISO introduziu exclusões opcionais de IA generativa para apólices comerciais de responsabilidade geral, enquanto as seguradoras cibernéticas, incluindo QBE começaram a usar sublimites relacionados à IA para exposições específicas. A Aon também identificou a discriminação relacionada com o emprego como um dos riscos da IA que podem ser abrangidos pelo EPLI, tornando a evolução da formulação das políticas particularmente relevante, uma vez que as decisões de emprego automatizadas geram mais reclamações.
Mitchell disse que “ficaria chocado” se não houvesse mais exclusões de IA no futuro próximo.
“Provavelmente tudo se resumirá às respostas que os subscritores estão obtendo para essas perguntas”, disse ele à Insurance Business. “Se você estiver usando um fornecedor sobre o qual eles não têm uma opinião elevada, ninguém o supervisiona de perto ou a IA está cuidando de 100% de sua contratação até o estágio final, você poderá ver exclusões em torno disso.
“Acho que é por isso que estamos começando a ver mais produtos de seguros específicos para IA. Algumas pessoas estão prevendo a necessidade de uma cobertura mais ampla de IA porque as operadoras de EPL ou E&O podem simplesmente dizer: ‘Não vamos cobrir isso.’
