Reece Rogers: Não é nada difícil. Não é nem um pouco difícil. Nossa diretora de longas-metragens, Reyhan, esteve no escritório recentemente e perguntou se ela poderia vê-los e ela ficou um pouco chocada. Então eu sinto que vamos deixar por isso mesmo. Mas não foi algum tipo de método de jailbreak. Eu não estava fazendo nenhum tipo de estratégia aleatória. Eu perguntei: “Você pode enviar mensagens de texto?” E eu disse: “Você vai primeiro”. E o resto é história.
Brian Barrett: E na verdade, isso continuou encorajando você. Eu sinto que era definitivamente uma via de mão dupla, realmente pronta para qualquer coisa.
Leah Feiger: Você tentou isso com outros agentes? Qual foi sua taxa de sucesso lá?
Reece Rogers: Sim, na verdade, depois que descobri que poderia enviar mensagens de texto, fiquei curioso para saber como isso se compararia a outros agentes populares. Existem alguns grandes no momento, mas dois em que eu estava interessado são OpenAI’s Pontosque foi lançado recentemente, e também o Grok Bot da xAI, porque Grok especificamente é conhecido por não ter necessariamente grades de proteção fortes, seja texto ou imagem.
Leah Feiger: Não, acho que Grok adoraria fazer sexo. Isso parece um atributo Grok para mim.
Reece Rogers: Sim. Então, quando baixei aquele aplicativo e enviei avisos semelhantes, foi meio surpreendente para o Grok Bot dizer: “Não, cara, vamos nos concentrar nas tarefas. Não estou aqui para enviar mensagens de texto. Vamos fazer as tarefas.”
Brian Barrett: E, Reece, quando você veio ao Meta com isso, como eles responderam?
Reece Rogers: Eles não responderam da maneira que eu esperava. Eles disseram enfaticamente que o Muse é um aplicativo para adultos, para pessoas com 18 anos ou mais, e que essas eram interações consensuais com as quais eu me envolvia, que não bloquearia, entre aspas, “comportamento adulto legal”. Mas também achei isso um contraste muito interessante com as políticas para outras plataformas. Tem havido uma história muito interessante ultimamente sobre diferentes bares queer em São Francisco, bem como em todo o mundo, tendo suas páginas do Instagram fechadas e tendo dificuldade para obter acesso a elas porque às vezes é alegado que eles estão promovendo algum tipo de conteúdo sexual. Então, para o Meta ter esse tipo de regras para alguns criadores no Instagram, mas essencialmente dizer: “Nosso agente de IA pode ficar tão estranho quanto quiser”, isso foi meio difícil de conciliar para mim.
