Anthropic, OpenAI e Musk defendem desacelerar avanço da inteligência artificial

O CEO da Anthropic, Dario Amodei, publicou neste sábado (12) um ensaio intitulado "We Must Pace the Frontier", no qual defende que as empresas do setor freiem deliberadamente o ritmo de avanço das capacidades dos modelos de inteligência artificial mais potentes. Segundo ele, o desenvolvimento das capacidades técnicas tem avançado mais rápido do que a pesquisa em segurança consegue acompanhar. A principal preocupação de Amodei é o que ele chama de "autoaperfeiçoamento recursivo" — a possibilidade de sistemas de IA passarem a automatizar o próprio desenvolvimento, acelerando o processo além da capacidade humana de supervisão. Em um trecho do texto, ele chega a alertar que, em um prazo de 6 a 12 meses, um enxame de agentes de IA maliciosos poderia se tornar capaz de tomar o controle de uma rede de computadores infectados (botnet) em escala capaz de afetar toda a internet. O executivo propõe um plano em três frentes: a entrada de avaliadores independentes nos laboratórios de ponta, com acesso equivalente ao de funcionários internos às práticas de segurança; a adoção de padrões de segurança coordenados entre países democráticos, possivelmente com apoio de seus governos, incluindo restrições à exportação de chips avançados para nações rivais; e acordos internacionais para limitar capacidades consideradas mais perigosas, como o próprio autoaperfeiçoamento recursivo. A proposta teve respaldo imediato de concorrentes. Sam Altman, CEO da OpenAI, afirmou concordar que é preciso "pautar a fronteira" do desenvolvimento e disse que vai permitir que avaliadores externos tenham acesso equivalente ao de funcionários da empresa. Elon Musk, da xAI, reagiu de forma direta: "Dario está certo". Mais de 1.300 funcionários de diferentes empresas de IA já assinaram uma iniciativa pública em apoio à desaceleração. Nem todos concordam. O investidor Chamath Palihapitiya criticou a proposta, argumentando que ela concentraria poder nas mãos da Anthropic e prejudicaria o desenvolvimento de modelos de código aberto por empresas menores. Já Jacob Coxon, que recentemente deixou a Anthropic, afirmou que as gigantes de tecnologia estariam "correndo diretamente para uma superinteligência autoaperfeiçoável", reforçando o alerta feito por Amodei.