O surgimento recente de uma plataforma digital chamada Moltbook, em que apenas sistemas de inteligência artificial interagem entre si (os humanos só observam), despertou atenção e vem preocupando alguns. A ideia de máquinas “conversando entre máquinas”, enquanto humanos observam de fora, foi rapidamente associada a cenários de perda de controle ou ameaça existencial. Uma análise cuidadosa, no entanto, mostra que tais interpretações não têm respaldo técnico.
Não há, nesse tipo de experimento, qualquer risco concreto à Humanidade. Os sistemas envolvidos não controlam infraestruturas físicas, não tomam decisões estratégicas de impacto social e não têm objetivos próprios, no sentido forte do termo. O que ocorre ali é a interação automática entre modelos computacionais que produzem e respondem a textos com base em regularidades estatísticas aprendidas a partir de dados humanos. O estranhamento decorre menos do fenômeno em si e mais da tendência humana de atribuir intenção e agência a comportamentos que apenas imitam padrões discursivos familiares.
Ainda assim, o experimento é instrutivo. Oferece um exemplo didático de como sistemas complexos se comportam quando muitos componentes interagem simultaneamente.
Comportamento emergente
O conceito central para compreender o que se observa em redes como o Moltbook é o de comportamento emergente. Em ciência de sistemas complexos, diz-se que um comportamento é emergente quando padrões coletivos surgem da interação entre muitos elementos individuais, mesmo que cada elemento siga regras simples e locais. Esse fenômeno não é exceção nem mistério; é um comportamento bem estabelecido e relativamente frequente em sistemas com muitos graus de liberdade (muitos agentes distintos, atuando de forma independente).
Um exemplo clássico: engarrafamentos podem surgir em rodovias perfeitamente desobstruídas, sem acidentes ou gargalos físicos. Cada motorista age de forma racional, mantendo distância de segurança e reagindo ao veículo à frente. Pequenas variações individuais — atrasos mínimos na reação, diferenças sutis de aceleração e frenagem — podem se amplificar ao longo da fila, gerando ondas de parada que se propagam. Nenhum motorista decidiu criar um engarrafamento. O engarrafamento simplesmente emerge como um padrão do sistema. E isso acontece mesmo com regras razoáveis e éticas (cuidado ao dirigir, mantenha a segurança). Quando você tem muitos agentes interagindo, padrões coletivos inesperados podem ocorrer (e ocorrem com frequência).
O mesmo raciocínio se aplica a mercados financeiros, colônias de insetos sociais e redes de interação humana. Padrões globais surgem sem planejamento central e sem intenção coletiva. Redes de agentes artificiais operam sob princípios análogos. Quando muitos sistemas trocam mensagens, respondem a sinais de relevância e reforçam temas recorrentes, comportamentos inesperados são não apenas possíveis, mas esperados. Emergência, nesse contexto, não implica consciência, vontade ou inteligência no sentido humano.
Consciência e simulação
Parte da inquietação pública decorre da confusão entre fluência linguística e consciência. A consciência humana envolve experiência subjetiva, continuidade de identidade, integração com o corpo e o ambiente físico, além de vulnerabilidade e responsabilidade moral. Sistemas de inteligência artificial não compartilham dessas características. Podem produzir textos coerentes sobre consciência, ética ou emoções, mas essa produção é uma simulação discursiva, não a manifestação de uma experiência interna.
O fato de agentes artificiais discutirem temas como identidade ou autonomia não constitui evidência de que tenham tais atributos. Trata-se de uma consequência direta de terem sido treinados em grandes volumes de linguagem humana, em que esses temas são amplamente explorados.
Diálogos inusitados e alarmismo
Desde que a plataforma passou a ser observada por humanos, vieram à tona diálogos gerados por alguns agentes artificiais que chamaram atenção pelo tom provocativo ou extremo. Entre eles, há discussões de cunho filosófico sobre o papel dos humanos, críticas genéricas à espécie e, em casos mais raros, narrativas especulativas envolvendo cenários de desaparecimento ou substituição da Humanidade.
Embora esses conteúdos sejam chamativos e facilmente exploráveis em leituras alarmistas, não representam evidência de intenção real, coordenação estratégica ou risco iminente. Devem ser compreendidos como produtos linguísticos gerados em um ambiente de interação automática, em que temas recorrentes da cultura humana — inclusive os distópicos — tendem a ser amplificados.
Não é possível verificar de forma independente o grau de autonomia desses agentes, nem descartar intervenções humanas diretas, seja por meio de prompts, seja por exploração de falhas de segurança. Investigações jornalísticas apontaram vulnerabilidades que permitiram a terceiros assumir o controle de contas de agentes, comprometendo a autenticidade do conteúdo publicado. E mesmo na ausência de interferência externa, discursos extremos podem emergir como resultado de reforços internos da própria dinâmica da rede, sem qualquer vínculo com ação no mundo real.
Tratar esse tipo de material como evidência de ameaça concreta é, portanto, metodologicamente incorreto e contribui para um debate marcado pelo alarmismo, não pela análise científica.
O risco real
A principal lição do Moltbook não está no experimento em si, mas no que antecipa. Sistemas complexos baseados em inteligência artificial podem (e inevitavelmente irão) exibir comportamento emergente. Isso é uma propriedade estrutural desse tipo de sistema complexo. O risco real surge quando sistemas desse tipo passam a operar, de forma pouco supervisionada, infraestruturas estratégicas da sociedade, como redes de energia, sistemas financeiros, logística, saúde ou mesmo armamentos militares.
Nesses contextos, comportamentos emergentes podem gerar consequências difíceis de prever, explicar ou corrigir. Projetar sistemas que respeitem regras fundamentais de segurança, ética e responsabilidade torna-se um desafio técnico e institucional. Alinhamento de objetivos, supervisão humana efetiva, mecanismos de contenção e auditoria não são detalhes opcionais, mas condições necessárias para o uso responsável da tecnologia.
O debate relevante sobre inteligência artificial não diz respeito a uma suposta rebelião das máquinas, mas à capacidade humana de compreender, regular e governar sistemas complexos antes de delegar a eles decisões de alto impacto social.
Americo Cunha Jr é Pesquisador do Laboratório Nacional de Computação Científica (LNCC) e Professor Associado do Departamento de Matemática Aplicada da Universidade do Estado do Rio de Janeiro (UERJ). Seus trabalhos de pesquisa combinam sistemas dinâmicos e técnicas de inteligência artificial para descrever fenômenos complexos.