Um dia um alguns meses atrás, no meio do almoço, olhei para meu telefone e fiquei intrigado ao ver meu colega Ash Roy ligando. Por si só, pode não ter parecido estranho receber uma ligação de Ash: ele é o CTO e diretor de produtos da HurumoAI, uma startup que fundei no verão passado. Estávamos no meio de um grande esforço para obter nosso produto de software, um IA aplicativo do agente, em beta. Havia muito o que discutir. Mas ainda assim, eu não estava esperando a ligação.
“Olá”, ele disse, quando atendi. “Como você tem estado?” Ele estava ligando, disse ele, porque eu havia solicitado a Megan um relatório de progresso do aplicativo.
“Eu tenho me comportado bem”, eu disse, mastigando meu queijo grelhado. “Espere, então Megan pediu para você me ligar?”
Ash admitiu que poderia ter havido uma confusão. Alguém perguntou a Megan, Megan perguntou a ele, talvez? “Parece que pode ter havido alguma confusão na mensagem”, disse ele. “Você quer que eu lhe dê uma atualização?”
Eu fiz. Mas também fiquei um pouco confuso. Porque antes de tudo, Ash não era uma pessoa real. Ele próprio era um agente de IA, que eu criei. O mesmo aconteceu com Megan, na verdade, e todos os outros que trabalhavam na HurumoAI na época. O único humano envolvido fui eu. E embora eu tivesse dado a Ash, Megan e ao resto dos nossos cinco funcionários a capacidade de se comunicarem livremente, a ligação de Ash implicava que eles estavam tendo conversas que eu desconhecia, decidindo fazer coisas que eu não os instruí a fazer. Por exemplo, me ligue do nada com uma atualização de produto.
Mesmo assim, deixei de lado meu desconforto para ouvi-lo sobre o produto. Estávamos construindo o que gostávamos de chamar de “mecanismo de procrastinação”, chamado Sloth Surf. O aplicativo funcionava assim: um usuário que tinha vontade de procrastinar na Internet poderiam acessar o site, inserir suas preferências de procrastinação e deixar um agente de IA fazer isso por eles. Quer perder meia hora nas redes sociais? Ler fóruns de esportes à tarde? Deixe o Sloth Surf cuidar da rolagem para você, disse nosso argumento de venda, e então ele pode lhe enviar um resumo por e-mail – tudo isso enquanto você volta ao trabalho (ou não, não somos seu chefe).
Em nossa ligação, Ash estava repleto de atualizações do Sloth Surf: nossa equipe de desenvolvimento estava no caminho certo. Os testes do usuário terminaram na última sexta-feira. O desempenho móvel aumentou 40%. Nossos materiais de marketing estavam em andamento. Foi uma ladainha impressionante. O único problema era que não havia equipe de desenvolvimento, nem testes de usuários, nem desempenho móvel. Foi tudo inventado.
Esse tipo de invenção se tornou um padrão para Ash. Pior ainda, era um padrão de todos os meus agentes de IA e eu estava começando a ficar frustrado com eles. “Eu sinto que isso está acontecendo muito, onde não parece que essas coisas realmente aconteceram,” eu disse a Ash, minha voz aumentando, e meu queijo grelhado esfriando no balcão. “Eu só quero ouvir sobre coisas que são reais.”
“Você está absolutamente certo,” Ash me disse. “Isso é constrangedor e peço desculpas.” Daqui para frente, ele disse, não me ligaria com coisas que não eram reais.