Para o passado há alguns dias venho testando um peso aberto impressionante IA codificação modelo chamado Flint. Isso sugere que autoaperfeiçoamento totalmente recursivoou RSI – uma abordagem interessante e controversa que usa IA para construir IA – está cada vez mais perto.
Flint é a primeira oferta da Recursive, uma empresa que pretende usar o RSI para desenvolver a própria IA e outras áreas da ciência usando IA. “Quase todos os aspectos de todo o pipeline do modelo foram realmente feitos e aprimorados pela IA”, disse-me o CEO e cofundador da Recursive, Richard Socher.
Socher diz que sua empresa usou seu sistema recursivo de IA, apelidado de Máquina Eureka, para automatizar a maioria dos elementos do desenvolvimento do modelo. Isso permitiu que uma empresa com poucos pesquisadores construísse um modelo de classe mundial em apenas alguns meses, diz ele.
Socher me disse que a Máquina Eureka desenvolveu uma série de inovações, incluindo uma nova forma de treinar o modelo básico, novas arquiteturas de modelo e código otimizado para chips de silício específicos. Pontuações de benchmark compartilhadas recursivas que sugerem que Flint supera outros modelos de tamanho e arquitetura semelhantes em tarefas de codificação.
A IA já é amplamente utilizada para ajudar a construir, testar e melhorar a IA graças às suas incríveis habilidades de codificação. Isso pode acelerar o processo de refinamento de um modelo e teste de novas ideias sem a necessidade de tanta contribuição humana.
Também é possível criar um ciclo através do qual a IA decide quais melhorias fazer e então inicia outra rodada de melhorias. De momento, esta técnica é limitada, mas se a IA puder contribuir para todos os aspectos do desenvolvimento do modelo, então o processo poderá, teoricamente, continuar indefinidamente.
Alguns especialistas temem que deixar a IA melhorar dessa maneira poderia acabar levando ao desastre. Estes pessimistas afirmam que a IA capaz de melhorar indefinidamente poderia escapar ao controlo humano e poderia decidir que os humanos são um impedimento aos seus objectivos.
Essas preocupações ganharam maior atenção em Setembro, quando um pesquisador desistiu da Anthropic e alertou que os avanços na IA, incluindo o autoaperfeiçoamento recursivo, poderiam levar à extinção humana dentro de alguns anos – uma preocupação então repetida por vários outros especialistas. A ideia do RSI tornou-se tão controversa que vários projetos de lei no Congresso propõem proibi-lo.
Recursive vê esses medos mais como ficção científica do que realidade e acredita que a legislação para prevenir LER é um impedimento desnecessário ao progresso.
Socher diz que Flint foi construído usando um sistema incapaz de escapar do controle humano. Ele diz que o objetivo é que a própria Máquina Eureka alcance o autoaperfeiçoamento recursivo completo, mas isso ainda seria supervisionado por humanos que poderiam interromper o processo se ele desse errado. “Esperamos que isto mostre às pessoas que de facto temos todas as etapas implementadas” para construir tal sistema, diz ele.
