Com o giro com um botão, apertar um gatilho e pressionar alguns botões, até mesmo um jogador não qualificado pode dançar em um ambiente de videogame 3D. Uma startup britânica aposta que sequências simples como essas contêm um tesouro de informações que podem ser usadas para treinar novos inteligência artificial modelos.
Há uma crença crescente nos setores da indústria de IA de que grandes modelos de linguagem acabará por ser limitado pela sua incapacidade de navegar no mundo físico. Treinados apenas com palavras, os LLMs talvez estejam mal equipados para pilotar veículos autônomos, dirigir braços robóticos ou realizar qualquer outra ação que exija sutileza e precisão. Para remediar essa deficiência, uma série de pesquisadores célebres, incluindo Fei-Fei Li e Yann LeCun estão concentrando seus esforços em uma classe diferente de IA: modelos mundiais.
Para se tornarem fluentes em física do mundo real, os modelos mundiais precisam ser treinados em uma combinação de dados visuais e de ação. Antes de poder manobrar habilmente um braço robótico, um modelo pode precisar ser treinado em imagens de vídeo do chão de fábrica, juntamente com informações sobre a firmeza com que um objeto deve ser agarrado, com que torque ele é manipulado e assim por diante. Mas, ao contrário dos LLMs, treinados em oceanos de texto, não existe um corpus semelhante de material disponível para laboratórios de modelos mundiais.
“Para modelos mundiais, são necessárias causa e consequência”, diz Xiatian Zhu, professor associado especializado em IA na Universidade de Surrey. “Na internet temos muito poucos dados desse tipo.”
A Worldmodeldata, uma startup britânica aconselhada pela LeCun, pretende resolver esse problema empacotando entradas de controladores e outros dados coletados por estúdios de videogame – um produto de exaustão disponível em grandes quantidades – em conjuntos de dados de treinamento para modelos mundiais. Algumas empresas, como General Intuition e Niantic, já estão coletando dados de videogames de suas próprias plataformas para construir modelos. Mas a Worldmodeldata se apresenta como uma corretora que faz curadoria e organização de dados, evitando que os laboratórios fechem acordos individuais com vários estúdios de jogos.
“Existem milhões de jogos excelentes e eles são cada vez mais semelhantes ao mundo real”, disse Rhea Loucas, CEO da Worldmodeldata, à WIRED. “Por que não pegamos as experiências vastas, abundantes e diversas dos videogames e ensinamos IA?”
Embora a hipótese ainda não tenha sido totalmente testada, os investigadores estão amplamente a trabalhar sob a suposição de que o desempenho dos modelos mundiais irá melhorar em linha com o tamanho dos seus conjuntos de dados de formação, de forma semelhante aos LLMs. Isto significa que a escassez de dados de formação adequados é um dos maiores obstáculos ao progresso.
Alguns laboratórios tentaram gerar manualmente seus próprios dados anexando sensores a humanos e robôs em ambientes de teste. Mas essa abordagem produz apenas uma pequena quantidade de dados e não leva em conta os cenários marginais que um modelo pode encontrar na natureza.
“É possível pagar às pessoas para demonstrarem tarefas de escolha e colocação. Mas a repetição por si só não irá captar a desordem do mundo em que se pede a uma máquina para operar”, afirma Nicole Fraenkel, sócia da empresa de capital de risco Khosla Ventures, que investiu na General Intuition.
A teoria da Worldmodeldata é que os dados coletados em ambientes de videogame – representações visuais de um espaço 3D emparelhado com ações realizadas pelo jogador – estão disponíveis nas quantidades necessárias e são suficientemente variados para capturar todos os casos importantes.
“Os casos extremos são os que realmente acertam”, diz Fraenkel. “O custo do erro com um carro, avião, drone, empilhadeira de fábrica ou quadrúpede autônomo é muito alto.”
A Worldmodeldata afirma ter licenciado quase 1 milhão de horas de dados de estúdios por trás de vários videogames populares, embora Loucas tenha se recusado a nomeá-los. No futuro, a startup pretende criar caminhos para que jogadores individuais também sejam compensados.
