Zoë Schiffer: Isso nos leva à história de como isso realmente vai nos matar, ou seja, muitas dessas declarações, na minha opinião, se resumem a: isso pode ser muito ruim e deveríamos fazer algo a respeito. Mas eu penso, o que especificamente você está dizendo que poderia acontecer? E eu sinto que há aproximadamente três cenários em que isso se enquadra. A IA começa a hackear coisas. Na verdade, já começou, e tanto a Anthropic quanto a OpenAI tiveram incidentes de grande repercussão em que os agentes escaparam do controle e invadiram outros sistemas sem o conhecimento dos pesquisadores, e foi descoberto mais tarde o que havia acontecido. A IA cria um nova arma biológicae essa arma é divulgada ao público de uma forma quase impossível de controlar e mata a todos. E então há uma espécie de IA vaga que simplesmente escapa do controle. Ele começa a agir por conta própria. Ele não obedece às nossas instruções e não sabemos o que pode acontecer, mas não podemos fazer nada a respeito e isso é assustador.
Leah Feiger: OK. Isso é muito útil para mim porque estamos dividindo-o nessas três categorias.
Zoë Schiffer: Eu adoro um balde.
Leah Feiger: Eu adoro um balde. Eu quero passar por cada um deles. Minha primeira pergunta, suponho, é: onde os códigos nucleares são pressionados, em que balde eles caem?
Brian Barrett: É com esse que não precisamos nos preocupar, certo?
Zoë Schiffer: Sim.
Leah Feiger: Conte-me mais.
Zoë Schiffer: Você conversa com pesquisadores de IA e, se realmente pressioná-los, poderá chegar aos três baldes que acabei de apresentar. Mas então, se você continuar conversando com eles, eles dirão: “Bem, existem outros cenários em que a IA está em um robô, o robô está andando por aí e então o robô pode interagir com o mundo físico de uma forma que é muito, muito assustador.” Mas isso está um pouco mais longe, e eles admitirão que é um pouco mais rebuscado.
Brian Barrett: Então eu acho uma coisa, Zoë, em termos de seus baldes, que eu quero esculpir talvez um sub-balde ou um pequeno balde dentro de um balde.
Zoë Schiffer: Uau, um balde.
Brian Barrett: Não, porque você estava dizendo que a IA cria uma arma biológica, a IA hackeia alguma coisa, a IA tanto faz, tudo isso: verdade. Mas acho que há uma distinção entre coisas guiadas por humanos que acontecem lá e a IA fazendo isso por conta própria. Acho que muitas pessoas pensam: “Oh, como a IA lançaria uma arma biológica? Isso é loucura.” O que é, sim, claro, tudo bem. Mas também existem pessoas más no mundo que podem usar a IA para fabricar uma arma biológica e depois liberá-la, certo?
Zoë Schiffer: Ah, bem, quero dizer, esse cenário é totalmente válido. Para mim, se você disser que dá às pessoas acesso a informações sobre como criar uma arma biológica, alguém será burro e imprudente o suficiente para realmente fazer isso. Eu estou tipo, não, totalmente. As pessoas estão fazendo todo tipo de coisas horríveis, perigosas e maliciosas o tempo todo.
