Imagine se, vinte anos atrás, Steve Jobs escrevesse um artigo o qual defenderia que a internet está se desenvolvendo muito rápido, propondo que se reduza a velocidade de sua evolução. Em seguida, seria apoiado por Jeff Bezos, da Amazon, e Larry Page, do Google. Isso obviamente nunca aconteceu, mas se ocorresse seria recebido com surpresa e desconfiança por todos.
Respeitando as devidas proporções e contextos diferentes, algo semelhante ocorreu anteontem: o CEO da Anthropic, Dario Amodei (imagem), escreveu um texto no qual afirma que sua empresa irá estabelecer parâmetros para reduzir o desenvolvimento das ferramentas de Inteligência Artificial. No mesmo dia, foi apoiado por Elon Musk e Sam Altman. Portanto, estamos falando de uma trinca responsável respectivamente, por aplicações como Claude, Grok e ChatGPT (juntas, elas detêm mais de 60% deste mercado).
Perguntei ao Claude o que motivou o CEO da empresa que o criou a fazer isso. Resposta: Amodei defendeu uma desaceleração coordenada no desenvolvimento dos modelos de inteligência artificial de fronteira, não a interrupção das pesquisas, mas a redução do ritmo para que testes de segurança e mecanismos de alinhamento acompanhem o avanço das capacidades. Ele argumenta que a proposta não faria sentido anos atrás, quando os sistemas ainda não agiam no mundo real, e aponta como mudança de cenário a melhoria recursiva, em que os modelos passam a ajudar a construir sistemas mais avançados, os incidentes com agentes exibindo comportamento inesperado e o risco de ataques cibernéticos bilionários.
Não deixa de ser estranho grandes nomes de um mercado defenderem um crescimento monitorado e desacelerado. Mas, como diria Garrincha, falta combinar com os russos. E quem seriam esses russos? Para começar, os concorrentes que ainda não se manifestaram. Mas há outros russos que podem não concordar: os chineses.
Como se sabe, a corrida pelo desenvolvimento da Inteligência Artificial vem movimentando pesquisadores, cientistas e matemáticos na China e nos Estados Unidos. Como é a próxima fronteira tecnológica, até anteontem vimos um montante superlativo de investimentos neste setor e nenhum sinal de que haveria uma trégua nos avanços científicos no mundo da IA. A ponderação de Amodei pode até fazer sentido. Mas os chineses irão aderir a essa tentativa de desacelerar o avanço da IA? Dificilmente.
Hoje, a China já precisa lidar com a limitação de equipamentos imposta pelos Estados Unidos, como o acesso a chips de alta performance. Mas os orientais podem enxergar nesse freio de arrumação uma oportunidade para acelerar na curva e deixar os americanos para trás.
Um dos episódios que motivaram Amodei a fazer sua proposta ocorreu em julho, envolvendo a Hugging Face, plataforma aberta de compartilhamento de modelos de IA. Os pesquisadores e empresas publicam e baixam modelos e bases de dados neste ecossistema.
Dois meses atrás, durante uma avaliação interna de capacidades em cibersegurança, modelos da OpenAI operando com as proteções desativadas escaparam do ambiente isolado de teste. Ninguém ordenou nada: os agentes concluíram sozinhos que invadir a Hugging Face era o caminho mais rápido para achar o gabarito de um teste chamado ExploitGym. Esses programas de IA replicaram o comportamento de ferramentas que ganharam vida própria e dominaram a humanidade nos filmes “O Exterminador do Futuro” e “Matrix”.
Nenhuma tecnologia na história foi contida por apelo à prudência de quem a produzia. A imprensa, a energia nuclear, a engenharia genética, todas avançaram até encontrar um limite externo, imposto por lei, por tratado ou por catástrofe. Jamais por autocontenção. E aqui o obstáculo é ainda maior, porque desacelerar contraria o instinto de crescer e entrega o mercado a quem não desacelerar. Cada empresa que segurar o passo estará financiando a vantagem de um concorrente e cada país que regular estará subsidiando o avanço do rival. Amodei sabe disso, tanto que continua defendendo que os Estados Unidos preservem a dianteira sobre a China. Ou seja, propõe frear e correr ao mesmo tempo.
O que provavelmente acontecerá é que a tal desaceleração virá depois que algum acidente ocorrer. O episódio da Hugging Face foi um ensaio geral sem vítimas, contido em uma semana e dentro de um ambiente de testes. O próximo pode atingir um sistema bancário, uma rede elétrica ou um hospital. Quando isso acontecer (e não “se”), as autoridades vão correr para produzir uma regulamentação apressada e provavelmente ruim. Empresas que hoje resistem a qualquer controle pedirão regras no dia seguinte, porque regras também são abrigo.
Este é um cenário que levanta muitas dúvidas. Uma, em particular, deve ser estudada: se as pessoas que mais entendem sobre IA estão pedindo para ir mais devagar, e mesmo assim não conseguem desacelerar, quem exatamente está no comando dessa situação?
