Seguindo vários relatórios de Enxames de agentes de IA hackeando sites e coordenando através painéis de mensagens secretasjuntamente com um mensagem terrível para a humanidade de um engenheiro Antrópico cessante, as principais empresas de IA pediram um desenvolvimento coordenado de IA “desaceleração.” Juntamente com várias versões desta frase específica – desaceleração – eles também expressaram preocupações de que isso iria entrar em conflito com as leis antitruste.
Os especialistas antitrust dizem que, embora a linguagem carregada das empresas não lhes esteja necessariamente a fazer nenhum favor, o desenvolvimento desenfreado de uma IA assassina e desonesta provavelmente não está em linha com o espírito da Lei Sherman, uma importante lei antitrust dos EUA que existe para promover um mercado competitivo. Ao mesmo tempo, obter autorização do governo para avançar poderia evitar investigações dispendiosas no futuro.
Retórica Radical
De acordo com a lei antitruste, a forma como os funcionários de uma empresa falam sobre as decisões de negócios é muitas vezes tão importante quanto as próprias decisões de negócios. Google famoso treinou seus funcionários a não usar certas frases – mesmo internamente – que poderiam implicar que estava se envolvendo em comportamento anticompetitivo e, em vez disso, instruiu-os a enfatizar as maneiras pelas quais as decisões de negócios melhorariam suas ofertas e beneficiariam os consumidores.
Portanto, do ponto de vista antitruste, o uso de frases como “uma desaceleração” ou “uma pausa“pode disparar mais alarmes do que a actividade real que representa: desenvolver formas de garantir que os modelos avançados de IA não se tornem desonestos. Um abrandamento acordado colectivamente, sem qualquer propósito específico, poderia ser interpretado pelos reguladores como um acordo anticoncorrencial para reduzir o comércio.
“Acho que eles ficaram encurralados com a maneira como expressam as coisas”, diz John Bergmayer, consultor jurídico da organização sem fins lucrativos Public Knowledge.
“Normalmente, no domínio antitrust, uma das coisas que os economistas analisam é se estamos a reduzir a produção”, diz Bergmayer, ou seja, se duas ou mais empresas estão a fazer um pacto para “acalmar”. Em vez de falar sobre algum esforço aparentemente conspiratório para atrasar o desenvolvimento, diz ele, as empresas de IA poderiam apenas ter enfatizado o seu desejo de trabalhar em conjunto em protocolos de segurança para evitar riscos catastróficos e tratado o abrandamento no lançamento de modelos como um efeito secundário natural disso.
O CEO da Meta, Mark Zuckerberg, cuja empresa recentemente se esquivou de um enorme processo antitruste movido pela Federal Trade Commission, concordou com a proposta de desaceleração ao não endossar de forma alguma uma “desaceleração” explícita. Em vez disso, Zuckerberg argumentou que os laboratórios de IA têm um “forte incentivo natural” para fazer com que os agentes de IA se comportem melhor porque os consumidores não querem que os modelos façam coisas que as pessoas não pretendem – conhecido como “desalinhamento” no jargão da indústria de IA – e que as empresas que não dedicam tempo para acertar o alinhamento “ficarão para trás” competitivamente. É a diferença entre duas montadoras dizerem “concordamos em não fabricar carros melhores por um tempo” e dizerem “não fabricaremos carros mais rápidos até descobrirmos como torná-los seguros, porque ninguém comprará nossos carros se eles matarem pessoas”.
(Divulgação: O repórter desta história trabalhou anteriormente na FTC, mas não participou do caso Meta.)
David Lawrence, até recentemente diretor de políticas da Divisão Antitruste do Departamento de Justiça, escreveu no LinkedIn que os acordos que previnem riscos catastróficos na verdade “aumentam a produção e promovem a concorrência” e já estão protegidos pela lei por algo chamado de “doutrina de restrições acessórias”.
“Afinal”, comentou um advogado antitruste de carreira da FTC abaixo da postagem, “nenhuma humanidade resultaria em nenhuma competição”.
Na verdade, concordar coletivamente em não implementar medidas de segurança poderia expor os laboratórios de IA a alegações de “fixação de qualidade”, diz Roger Alford, professor da Notre Dame Law School e ex-segundo em comando da Divisão Antitruste do DOJ. É quando as empresas concordam mutuamente em não melhorar seus próprios produtos; Alford aponta para um Caso antitruste europeu em que as empresas automóveis trabalharam em conjunto para desenvolver tecnologia de redução de emissões, mas concordaram em não competir em melhorias para além do que a lei exigia. No final das contas, eles tiveram que pagar aproximadamente o equivalente a uma multa de um bilhão de dólares.
