Enfeitado em roxo e xadrez, Gwen Stefani cantou seu single de 2002, “Underneath It All”, em um centro de conferências lotado em São Francisco na manhã de terça-feira – mas ela foi apenas o aquecimento. Ao final de sua apresentação, Stefani gritou “Dreamforce! Vamos!” em um microfone xadrez diante do CEO da Salesforce Marc Benioff caminhou para o centro das atenções. A Dreamforce é considerada a maior conferência de software empresarial do mundo, mas parece mais participar de uma megaigreja – especialmente este ano.
Benioff percorreu o público enquanto fazia seu sermão Dreamforce, seguido por uma câmera teleoperada sobre rodas que transmitia seu rosto para telas penduradas no teto da sala cavernosa. Em poucos minutos, ele elaborou um gráfico da receita anual da Salesforce, que a empresa projeta que superará US$ 46 bilhões em 2027, em parte graças à procura pelos seus produtos alimentados por IA. O público aplaudiu. Mas pairava sobre todo o evento uma questão sombria: será que realmente vale a pena arriscar todas as nossas vidas pela inteligência artificial?
Entre demonstrações chamativas de software de agentes construindo painéis, os participantes da conferência assistiram aos líderes do Vale do Silício debaterem se a indústria de IA deveria continuar avançando ou se o governo precisa progresso lento da IA para evitar riscos catastróficos decorrentes da tecnologia.
Na semana passada, pesquisador de IA Jacob Coxon renunciou à Anthropic e alertou publicamente que as empresas que corriam em direção a sistemas de IA auto-aperfeiçoados estavam “jogando com nossas vidas”. No fim de semana, outros funcionários da Anthropic estavam expressando suas preocupações, e o CEO Dario Amodei estava exortando os líderes mundiais para ajudar a “acompanhar a fronteira” do desenvolvimento da IA. Outros CEOs de IA começaram então a endossar a ideia, incluindo o maior rival da Amodei, Sam Altman da OpenAI.
Mas nem todos concordam com a ideia. David Sacks, conselheiro de IA da Casa Branca, descartado As sugestões e receios de Amodei de que a IA seja condenada como “apenas mais uma tentativa de captura regulatória”. O presidente Trump foi mais longe esta semana, chamando os temores sobre o risco existencial da IA “uma farsa.” Apesar do ambiente político desafiador, o Congresso está tentando aproveitar o momento e avançar com legislação para regular a indústria de IA.
No palco, Benioff, de 1,80 metro, ergueu-se sobre o CEO da Anthropic, apertando vigorosamente a mão de Amodei pouco antes de pedir sua última avaliação do progresso da IA. Embora este seja, sem dúvida, o show de Benioff, a Anthropic se tornou um parceiro crítico que ajudou a introduzir a Salesforce na era da IA.
“Digamos que você dirige uma empresa automobilística, e outra empresa automobilística, não a sua, tem algum tipo de incidente de segurança”, disse Amodei, fazendo uma referência não tão sutil ao Hugging Face da OpenAI. incidente. “Obviamente, é muito tentador atacar o seu concorrente”, acrescentou Amodei, mas a atitude mais responsável é “organizar o resto da indústria e dizer: o que podemos fazer para estabelecer padrões para todos?”
Mas o CEO da Anthropic teve o cuidado de observar que avançar na fronteira não significa “congelar a tecnologia” e, claro, ele reservou um momento para conectar a integração de Claude com o Salesforce.
Momentos após a saída de Amodei, CEO da Nvidia Jensen Huang apareceu e começou a minimizar as preocupações levantadas pela Anthropic. A segurança da IA representa efetivamente um “problema de engenharia”, argumentou Huang, e as empresas que desenvolvem a IA podem simplesmente policiar-se.
“Não precisamos de novas leis, não precisamos de nenhuma nova regulamentação”, disse Huang aos participantes do Dreamforce. “Você corre o mais rápido que pode, mas se sentir que, em algum momento, a empresa está fora de controle ou os produtos não serão seguros, faça uma pausa.”
O debate parece um pouco pesado para o Dreamforce, mas, novamente, talvez este seja o local perfeito para isso. Enquanto os executivos de tecnologia apresentavam suas diversas ferramentas empresariais de IA, saí da sala, passando pelos mascotes de pelúcia e pelas decorações vagamente havaianas, para atender uma ligação de Sayash Kapoor, um novo professor de ciência da computação na UC Berkeley.
