Um governo do Reino Unido watchdog está considerando uma investigação sobre o uso de ferramentas generativas de IA para processar pedidos de asilo, descobriu a WIRED. A possível investigação segue legisladores e pesquisadores questionando publicamente a precisão das ferramentas e o sigilo do governo em torno de seu uso.
O Inspetor Chefe Independente de Fronteiras e Imigração (ICIBI), que monitora a gestão de fronteiras, imigração e alfândega do Ministério do Interior, pediu ao Open Rights Group (ORG), uma organização sem fins lucrativos de direitos digitais, que compartilhasse mais informações sobre as ferramentas enquanto elabora planos para os tópicos que inspecionará no próximo ano, disse a ativista Sara Alsherif à WIRED. As conclusões da ORG provêm de uma investigação de seis meses sobre as ferramentas, que envolveu 11 questões parlamentares, duas cartas ministeriais e 10 pedidos de registos públicos que tentam obter detalhes do Ministério do Interior, que reteve detalhes sobre as ferramentas.
O ICIBI disse à WIRED que não pode confirmar quais tópicos estão sob consideração ativa antes de publicar suas prioridades anuais de inspeção, mas afirma estar ciente das preocupações sobre o uso de ferramentas de IA e apontou para seu descobertas no ano passado, a “eficácia e confiabilidade de uma das ferramentas variaram”.
“As decisões sobre asilo são tomadas por assistentes sociais treinados, com ferramentas de IA usadas apenas para auxiliar na navegação nos registros de entrevistas e nas informações políticas. Elas não podem ser usadas isoladamente e não tomam decisões sobre reivindicações”, disse um porta-voz do Ministério do Interior à WIRED por e-mail. “Monitoramos regularmente o desempenho destas ferramentas juntamente com os nossos processos de garantia de qualidade estabelecidos e já nos comprometemos a publicar avaliações atualizadas sobre a sua implementação.”
O Ministério do Interior utiliza as ferramentas Asylum Case Summarisation (ACS) e Asylum Policy Search (APS), construídas no modelo de linguagem grande 2023 GPT-4 da OpenAI e no Microsoft Foundry, para resumir transcrições de entrevistas com requerentes de asilo e informações sobre os seus países de origem, de acordo com documentos obtidos pela ORG. A autoridade de imigração e aplicação da lei começou a testar essas ferramentas no final de 2024, enquanto o governo trabalhista tentava esclarecer um pendências de cerca de 100.000 casos de asilo, mantendo-se ao mesmo tempo atualizado sobre as dezenas de milhares de novos pedidos que o Reino Unido recebe todos os anos. Embora o departamento tenha feito progressos significativos, reduzir pela metade o número de pessoas que aguardam uma decisão inicial durante o ano até Junho, o número de recursos contra decisões aumentou.
Os investigadores estão preocupados com a precisão das ferramentas de IA – especialmente para decidir algo tão arriscado como enviar alguém de volta para um país onde teme perseguição. A ORG descobriu que a percentagem de resumos gerados pelo ACS considerados impróprios para utilização – muitas vezes porque contêm erros factuais ou deturpações – é significativamente superior à taxa de erro publicada de 9% calculada na avaliação piloto. Não existe controlo de qualidade dos resumos produzidos pela APS, concluiu ainda.
Os decisores em matéria de asilo utilizam as ferramentas para economize tempo ao analisar casos de asilo; quando usadas em conjunto, o piloto mostrou que as ferramentas poderiam economizar cerca de uma hora por caso, segundo estimativas do governo. Os assistentes sociais utilizam o ACS para acelerar a revisão das transcrições de entrevistas em que os requerentes de asilo explicam como foram perseguidos no seu país e por que têm medo de regressar. Utilizam a APS como assistente de pesquisa para encontrar e resumir informações sobre políticas do país, que os informam se o requerente enfrenta um risco genuíno de danos no seu país de origem. Em Julho, um juiz do Reino Unido acusado o Ministério do Interior ao citar um documento “alucinado pela IA” para recusar o pedido de asilo de uma mulher marroquina e do seu filho, com base no facto de o seu país de origem ser seguro para o seu regresso.
