Uma falha de segurança no agregador de IA 302.ai deixou 17,6 milhões de arquivos, totalizando 22,72 TB de dados de usuários, acessíveis publicamente por meio de um balde de armazenamento inseguro do Azure, de acordo com uma pesquisa publicada pela Cybernews em 21 de outubro.
Os dados foram colocados offline depois que os pesquisadores contataram a empresa, e o meio de comunicação disse não ter visto nada que sugerisse que pessoas mal-intencionadas os tivessem visto ou copiado. Advertiu, no entanto, que se a sua própria equipa conseguisse encontrar os dados, outros também o conseguiriam. De acordo com o cronograma de divulgação, o vazamento foi descoberto no dia 2 de agosto e sinalizado para a empresa no dia 11 de agosto, mas o balde só foi observado fechado no dia 8 de setembro.
302.ai fica entre os criadores de chatbots e os usuários finais, dando aos clientes acesso aos principais modelos de linguagem, incluindo ChatGPT, Claude, Grok, DeepSeek e Gemini. É desenvolvido pela Univerads Technology Limited, uma empresa com sede em Hong Kong fundada em 2020. O meio de comunicação disse que entrou em contato com a empresa para comentar.
O que foi exposto
As imagens representaram quase 9 TB do conjunto de dados, o vídeo 7,7 TB e os arquivos de áudio mais 5,6 TB. Mais confidenciais eram mais de 144.000 logs de bate-papo, armazenados como arquivos .json, que continham solicitações e respostas do usuário, carimbos de data e hora, qual modelo foi usado e custos de token, além de outros metadados.
Os pesquisadores descobriram que alguns desses registros continham informações de identificação pessoal que os próprios usuários provavelmente forneceram, desde datas de nascimento e sexo até detalhes de contato e endereços residenciais. O bucket também continha mais de 26.000 arquivos .zip de dados de conversas, incluindo resumos, entradas de usuários, resultados de modelos e arquivos anexados. Ele também continha documentos que iam desde pesquisas de desenvolvimento de LLM até o que pareciam ser arquivos privados que os usuários queriam analisar.
Clientes corporativos atualizados
A exposição não se limitou a usuários individuais. Os pesquisadores identificaram dados de clientes corporativos, incluindo várias conversas de um bot de atendimento ao cliente administrado por um conhecido fabricante de bonecas sexuais, cujo nome não foi identificado.
A equipe de pesquisa argumentou que, à medida que indivíduos e empresas confiam cada vez mais informações pessoais e operacionais aos agentes de IA, os principais desenvolvedores de IA não são os únicos responsáveis por proteger essas conversas. As empresas que lidam com os agentes compartilham essa responsabilidade. Os pesquisadores também alertaram que os bate-papos vazados poderiam ajudar os invasores a entender as vítimas e a construir campanhas personalizadas de engenharia social.
Exposição de IA de terceiros
Exposições deste tipo já atingiram produtos de IA antes. Em 2023, os pesquisadores revelaram que uma URL compartilhada no GitHub por um funcionário de pesquisa de IA da Microsoft deixou abertos 38 TB de dados internos mantidos no armazenamento do Azure desde 2020, incluindo senhas, chaves secretas e conversas. A Microsoft disse que nenhum dado do cliente foi afetado. No início deste ano, um pesquisador independente disse que um banco de dados exposto no aplicativo de bate-papo Chat & Ask AI lhes deu acesso a 300 milhões de mensagens de mais de 25 milhões de usuários.
A exposição ao 302.ai surge em meio à preocupação crescente com a exposição das empresas por meio de seus fornecedores de IA. Uma pesquisa com mais de 6.000 empresas em 15 países, realizada para QBE em março e abril, descobriu que 63% estavam preocupados com os riscos decorrentes do uso de IA pelos seus fornecedores. Os corretores também alertaram que muitas perdas cibernéticas decorrem de terceirosalguns dos quais podem não ter uma cobertura robusta própria.
Para empresas que executam chatbots voltados para o cliente, o caso 302.ai mostra como os dados de conversação podem acabar armazenados por intermediários a várias etapas do desenvolvedor do modelo, trazendo os agregadores de IA para o escopo do risco de fornecedor e proteção de dados.
