Timnit Gebru acredita que não há ‘ameaça existencial’ da IA


Claro que são!

O New York Times acaba de fazer uma grande matéria sobre como os cientistas e pesquisadores agora, é isso que eles estão buscando, inteligência recursiva, a IA aprendendo com outra IA. Isso é uma realidade? Parece que você está dizendo que isso não é uma realidade.

Não, porque há um problema com os pesquisadores de IA: nomes e coisas aspiracionais. Portanto, aprendizado de máquina é uma nomenclatura aspiracional.

Mas o aprendizado de máquina é real.

Mas a nomenclatura é aspiracional. A máquina não está necessariamente lá.

Então, só porque existe aprendizagem curricular em IA, é um campo. Mas deixe-me apresentar um artigo do meu ex-empresário, Samy Bengio, que é uma estrela em aprendizado de máquina, não tão famoso quanto seu irmão mais velho, Yoshua. Eu pergunto a ele: “Você não está cansado de passar toda a sua vida, tipo, desmascarando todo o raciocínio a cada artigo que você escreve?”

Ele pediu demissão depois que fui demitido do Google e agora é chefe de pesquisa de aprendizado de máquina na Apple. Se você olhar quase todos os artigos que eles têm, verá que, se você mudar um pouco os parâmetros de raciocínio, a coisa toda desmorona. Não é raciocínio.

Entendi.

Deixe-me dar outro exemplo. Só porque seus modelos, os padrões estocásticos que você treinou para imprimir certos tokens, você os chama de raciocínio em cadeia de pensamento. Você não sabia que eles estavam pensando, você não sabe que é uma cadeia, você apenas sabe que esses são tokens que estão sendo impressos, mas você os chama de raciocínio em cadeia de pensamento. Agora você está dizendo que eles já estão raciocinando.

Uma das maiores crises que temos neste momento é, na verdade, a investigação científica sólida. Então, se você olhar para o meu trabalho, se algum dia eu tiver acesso aos dados, ao código, aos dados de treinamento e aos dados de avaliação, que nenhuma dessas empresas fornece essas coisas, você nem sabe se eles ingeriram esse benchmark durante o treinamento ou não.

Se você ingerir um benchmark durante o treinamento, é como estudar para a prova. É como se eu chegasse para uma prova sabendo quais já são as respostas dessas 10 questões, estudasse e anotasse, certo? Cada vez que tive acesso a essas coisas, mostrei como suas afirmações não são corretas.

Mas então, com o artigo de Samy Bengio e sua equipe, o que eles mostraram – e isso é de 2025 – é que você apenas muda um pouco os benchmarks, ajusta um pouco e tudo desmorona, mostrando que você estava apenas confiando nos padrões. Agora, algumas pessoas, quando lhes dou este exemplo, pensam: “Bem, mas estamos falando de modelos 2026”.

Adivinha? A avaliação real em ciência leva tempo. Não deveríamos passar de comunicados de imprensa a legisladores que repetem esses comunicados de imprensa e a jornalistas que repetem essas afirmações. Se você quiser fazer pesquisas e avaliações reais, peça os dados de treinamento, os dados de avaliação e a metodologia para que todos possamos reproduzi-los.

Portanto, o pensamento, o raciocínio, a inteligência recursiva – parece que você ainda vê isso como algo puramente humano. É assim que funcionam os nossos processos neurais, mas a IA ainda não funciona assim. É nisso que você acredita.



Source link