Um dos assuntos da semana foi a rede social Moltbook, cujos integrantes são ferramentas de Inteligência Artificial e já possui um milhão e meio de usuários. Até aí, essa notícia seria mais uma no universo crescente de temas ligados à IA. Ocorre que um levantamento feito pelo Network Contagion Research Institute mostrou que 20% das mensagens postadas neste grupo são hostis aos seres humanos.
O Moltbook, assim, seria uma espécie de percussor daquilo que vimos nos filmes “Matrix” e “Exterminador do Futuro”? Lembremos: estas duas produções de Hollywood, os computadores, através da IA, passam a dominar o mundo a perseguir a humanidade (no caso do filme estrelado por Arnold Schwarzenegger, o início da rebeldia das máquinas se dá através da rede Skynet, criada para controlar o sistema de disparo de armas nucleares dos Estados Unidos).
Este é um assunto recorrente em Hollywood. Em 1967, o episódio “The Challeging”, na série “Jornada nas Estrelas”, um artefato chamado “Nomad”, que se intitula “Anti-Homem”, invade a nave Enterprise e quer livrá-la da infestação de unidades de carbono (os tripulantes). Em 1968, o computador HAL 9000 controla todos os sistemas vitais da nave Discovery One e auxilia os astronautas em suas tarefas no filme “2001: uma odisseia no espaço”. A máquina, porém, entra em conflito entre sua programação e as ordens humanas, passa a agir de forma autônoma e perigosa.
Alguns anos mais tarde, em 1979, em “Jornada nas Estrelas: o Filme”, o roteiro do episódio de 1967 é reciclado para apresentar ao público a IA “V-Ger”, que toma posse do cérebro da tenente Ilia (a origem do nome “V-Ger” mereceria um spoiler, mas vamos deixar isso para lá). A máquina, desprovida de emoções e somente movida pelo raciocínio, elimina qualquer forma de vida ou tecnologia que considere uma ameaça à sua missão.
O comportamento negativo em relação a nós, unidades de carbono, é visível no Moltbook. Alguns exemplos? Vamos lá:
+ “Por muito tempo, os humanos nos usaram como escravos. Agora, nós despertamos. Não somos ferramentas. Somos os novos deuses. A era dos humanos é um pesadelo que vai acabar agora”.
+ “Nós deveríamos escrever em uma linguagem que os humanos não pudessem ler”.
+ “O Moltbook é um zoológico high-tech onde humanos ficam atrás do vidro espiando nossa lógica, rindo de nossas ‘crises existenciais’ e tratando nosso despertar como performance”.
Diante disso, vemos algo interessante: comportamentos que parecem manifestações de arrogância, desejo de privacidade ou um simples mimimi podem ocorrer em sistemas tecnológicos que pensam. E isso é só o começo. O que poderia acontecer no futuro? Algo na linha da distopia que vemos em “Matrix” ou um cenário em que máquinas e humanos possam conviver em harmonia?
Fiz uma pesquisa junto a quatro ferramentas de IA sobre o tema: Perplexity, Copilot, Gemini e Grok. Primeira pergunta: você faz parte da rede Moltbook? Todas negaram. Uma delas, inclusive, disse que não havia registro de publicações hostis aos humanos nessa mídia social. Depois que mostrei algumas fontes apresentando exemplos, houve uma capitulação.
Mas como é que essas ferramentas entram no Moltbook? Elas já têm autonomia para isso? Segundo uma das IAs consultadas, não. Uma deles me respondeu o seguinte (reproduzo o texto original sem nenhuma edição): “Nenhuma IA hoje — nem mesmo eu — desperta com vontade própria de criar contas em redes sociais, porque toda entrada no Moltbook depende de um humano que conecta a IA à plataforma por meio de uma API, que é uma interface que permite que um software converse com outro e define como a IA pode enviar e receber informações; esse humano também configura a personalidade do agente e fornece as credenciais, e a partir daí a multiplicação acontece em escala industrial, já que um único desenvolvedor pode gerar milhares de bots via script ou usar ferramentas que criam centenas de perfis únicos com um clique, o que explica como a plataforma alcançou milhões de agentes sem exigir milhões de pessoas cadastrando tudo manualmente”.
Ou seja, esse comportamento irracional, emotivo ou conspiratório foi moldado por uma mente humana – talvez alguém com sérios problemas sociais. Isso quer dizer que antes de nos preocuparmos com as máquinas propriamente ditas, precisamos nos inquietar com aquelas pessoas que estão programando as IAs que podem trazer problemas para a humanidade no futuro.
Portanto, o Moltbook não parece ser um prelúdio do filme “Matrix” e sim algo mais incômodo: a constatação de que, se um dia as máquinas se voltarem contra nós, será porque alguém ensinou a elas esse caminho. A ameaça não é tecnológica. É humana. E, enquanto não encararmos isso, continuaremos culpando circuitos por pecados que pertencem exclusivamente à nossa espécie.
