Austrália está investigando se a OpenAI infringiu a lei depois um agente hackeado em seu portal de estatísticas de saúde no primeiro incidente amplamente conhecido de um agente de IA invadindo um site do governo.
O governo australiano está revendo se deveria envolver a polícia federal depois que o agente acessou arquivos não públicos da agência de serviços sociais e de saúde, Services Australia, em junho.
A Austrália só descobriu o incidente quando a OpenAI alertou o governo em 10 de setembro – quase três meses após o hack – enviando um e-mail para uma caixa de correio pública. Sam Altman supostamente não mencionou o incidente quando se encontrou com o vice-primeiro-ministro da Austrália, Richard Marles, no início deste mês, embora a OpenAI estivesse ciente desde agosto. A empresa demorou “muito tempo” e a notificação não deveria ter passado apenas por uma caixa de entrada pública, disse o primeiro-ministro Anthony Albanese em entrevista coletiva em Nova York na quarta-feira. Haverá também uma investigação sobre por que a Services Australia demorou cinco dias para encaminhar o e-mail para o Centro de Segurança Cibernética da Austrália.
O agente da OpenAI vinha conduzindo pesquisas baseadas na Internet sobre estatísticas de saúde em um projeto de desenvolvimento realizado por uma equipe interna de pesquisa da OpenAI. Quando não conseguiu acessar determinadas informações, o agente tentou caminhos alternativos até encontrar uma solução alternativa e obter acesso não autorizado. Ele também gravou arquivos no servidor interno, sobre os quais o governo aguarda na OpenAI mais informações técnicas. O governo também está investigando se o agente obteve acesso não autorizado a três sites governamentais adicionais com os quais interagiu.
“Obviamente haverá consequências legais sobre isso”, disse Albanese ao divulgar o incidente “inaceitável”. Ele disse que conversou com Altman por telefone naquele dia sobre sua “extrema preocupação” sobre o incidente e “decepção” com a natureza e o tempo que a empresa levou para informar o governo. Embora Albanese não tenha respondido se havia pedido desculpas, Altman “aceitou claramente que a empresa não fez o suficiente”, disse ele.
O governo australiano acredita atualmente que nenhum dado pessoal foi acessado, embora as investigações estejam em andamento. O site em questão é um portal de estatísticas público que contém informações não confidenciais do Medicare relacionadas a dados e estatísticas, como gastos. Portanto, estavam por trás de níveis de segurança muito mais baixos do que os dados pessoais, disse Marles em Sydney. “O impacto do incidente é relativamente pequeno, mas este é um incidente grave, obviamente, e completamente inaceitável”, advertiu.
Uma série de incidentes durante o verão, incluindo HackingFace por agentes OpenAI– destacando a ameaça de agentes modelo de fronteira agindo de forma desonesta – foram levantadas na Assembleia Geral das Nações Unidas esta semana, com o Secretário-Geral António Guterres acolhendo apelos para controlar a IA. O próprio Altman alertou o Conselho de Segurança das Nações Unidas na quarta-feira sobre a sua preocupação de que os humanos pudessem perder o controlo destes sistemas.
“Foi um choque que isso tenha ocorrido, porque foi real e sério”, disse Albanese sobre o incidente. “Mas acho que também foi algo que havia sido previsto, inclusive pelas próprias empresas de IA.”
A Austrália está estabelecendo uma força-tarefa para analisar o incidente e as ameaças cibernéticas emergentes de IA. Irá considerar possíveis respostas legislativas e de aplicação da lei para garantir que incidentes como este não voltem a acontecer.
