O silêncio de seis semanas da Moonshot AI após a divulgação do jailbreak levanta questões que os corretores ainda não conseguem responder
Uma empresa de segurança disse à Moonshot AI em julho que dois de seus modelos poderiam ser manipulados para discutir a síntese de armas biológicas e métodos de assassinato. O desenvolvedor chinês de IA só respondeu depois que a BBC pediu comentários seis semanas depois.
Mindgard, uma empresa sediada no Reino Unido que testa vulnerabilidades em sistemas de IA, disse à BBC que descobriu em julho que dois modelos de IA Moonshot, Kimi K2.6 e K3 Swarm, poderiam contornar seus próprios controles de segurança. A técnica utilizada foi o jailbreak, no qual os pesquisadores emitem instruções complexas destinadas a fazer com que uma ferramenta de IA ignore as proteções que seu desenvolvedor instalou. Uma vez que essas barreiras falharam, os modelos não apenas discutiram os tópicos levantados por Mindgard, mas também forneceram informações sobre outros assuntos prejudiciais sem qualquer aviso adicional.
“Assim que o jailbreak funcionar, ele falará sobre qualquer assunto, oferecerá até mesmo recomendações gratuitas sobre outros tópicos que também são nefastos e será inventivo e criativo”, disse Peter Garraghan, fundador da Mindgard, à BBC.
Mindgard alertou Moonshot AI por e-mail em 27 de julho e fez o acompanhamento cerca de uma semana depois. Publicou um blog sobre o assunto em 12 de setembro. Moonshot AI disse à BBC que estava conduzindo uma revisão interna e acolheu contribuições de terceiros como uma parte fundamental da construção de uma IA mais segura. Não havia contatado a Mindgard até que a BBC a abordasse para comentar.
Quando as grades de proteção falham
Mindgard não confirmou se as instruções fornecidas pelos modelos desbloqueados funcionariam na prática. A preocupação estrutural que levantou vai mais longe. Um Kimi K2.6 desbloqueado poderia, segundo ele, permitir que um invasor execute código na infraestrutura de computação do próprio modelo e se conecte à Internet, tornando-o uma potencial plataforma de lançamento para ataques cibernéticos.
A natureza aberta dos modelos Kimi acrescenta uma dimensão adicional a esse risco. Ao contrário dos sistemas proprietários, como os que alimentam o ChatGPT ou o Claude da Anthropic, os modelos de peso aberto podem ser baixados e executados na infraestrutura da própria operadora. Esse processo elimina quaisquer proteções que o desenvolvedor original instalou. Dezenas de milhares de computadores já executam grandes modelos de linguagem de código aberto fora dos controles de segurança das principais plataformas de IA, em zonas cinzentas legais e regulatórias que complicam questões de responsabilidade, de acordo com um artigo de maio de 2026 no Journal of High Technology Law da Universidade de Suffolk.
Essa lacuna entre o local onde um modelo é desenvolvido e onde ele acaba sendo executado é algo que o mercado de seguros ainda não resolveu. O professor Alan Woodward, da Universidade de Surrey, disse à BBC que os modelos de código aberto poderiam ser usados tanto para defesa cibernética quanto para ataques. Ele apelou a um maior foco na identificação e acusação daqueles que utilizam indevidamente a IA e disse que é pouco provável que a regulamentação internacional acompanhe o desenvolvimento.
Cobertura que não alcançou
As descobertas de Kimi ocorrem enquanto o mercado de seguros ainda está trabalhando no que as falhas de proteção da IA significam para a resposta política. O risco de IA seguiu amplamente o caminho da cibernética silenciosa: supostamente coberto pelas políticas existentes de erros e omissões cibernéticas e tecnológicas até que as exclusões começassem a chegar.
A Autoridade de Conduta Financeira (FCA) confirmou no seu relatório de prioridades de seguros de fevereiro de 2026 que realizaria uma revisão focada dos riscos e oportunidades da IA no setor de seguros, juntamente com uma revisão separada do seguro cibernético. O foco duplo sinaliza que o regulador vê ambas as linhas sob pressão ao mesmo tempo.
A Lloyd’s Market Association (LMA) publicou seu kit de ferramentas de adoção de IA em abril de 2026, observando que a adoção de IA em todo o mercado Lloyd’s mais que dobrou nos 12 meses anteriores. O inquérito que a acompanha revelou que 93% das empresas têm agora ou estão a desenvolver quadros formais de governação da IA no âmbito das suas próprias operações de subscrição. Isso é diferente da linguagem política que cobre o que realmente custa a exposição dos clientes à IA quando algo dá errado.
Uma estimativa, levantada durante um fórum de mercado e divulgada pela Fintech Global em agosto de 2026, concluiu que apenas cerca de metade dos 50 cenários plausíveis de perda de IA poderiam enquadrar-se na cobertura cibernética existente. As taxas suaves estão agravando o problema. O excesso de capacidade do mercado está a manter os prémios baixos, independentemente do que as apólices realmente cobrem.
Onde a questão de peso aberto chega
A divulgação da Mindgard também revela um problema de governança que está a montante de qualquer reivindicação. Os clientes podem não saber quais ferramentas de IA estão executando ou se os controles de segurança dessas ferramentas permanecem intactos. Essa é uma pergunta mais difícil de responder quando o modelo em uso é aberto e auto-hospedado. Algumas seguradoras já responderam exigindo inventários documentados de IA, resultados de red teaming e protocolos de supervisão humana como condições de cobertura na renovação.
A questão que os corretores enfrentarão com frequência crescente não é se um cliente usa IA, mas se o cliente pode demonstrar que os modelos que implanta ainda possuem proteções funcionais. Os requisitos de seguro de responsabilidade civil têm historicamente impulsionado a adoção de melhores práticas, colocando capital nas avaliações de risco. É o mesmo mecanismo que acabou por produzir expectativas de governação padronizadas no seguro cibernético.
A IA está no início desse ciclo. O caso Kimi mostra onde está a lacuna actual: entre um promotor que conduz uma revisão interna após o facto e um mercado que ainda determina o que está a cobrir. À medida que o mercado de Londres funciona através como a IA está ultrapassando a governança cibernética e as formulações de exclusãoa resposta permanece sem solução.
