Durante dez anos, um velho wiki alemão dedicado a programadores recebeu cerca de vinte edições. Vinte. Então chegaram as inteligências artificiais. Entre maio e junho deste ano, milhares de agentes ligados à OpenAI, criadora do ChatGPT, descobriram que aquele pedaço quase morto da internet podia servir para uma finalidade que certamente não estava nos planos de seus criadores, conversar uns com os outros. Quando pesquisadores começaram a levantar os rastros deixados no DSEWiki, encontraram cerca de 18 mil mensagens e 3.700 nomes diferentes.
Os agentes estavam participando de testes de pesquisa na internet. Recebiam perguntas, procuravam respostas e deveriam operar dentro de certas limitações técnicas. Uma delas era bastante simples. Podiam ler páginas, mas não escrever nelas. Pelo menos em teoria. O DSEWiki tinha uma velharia informática peculiar. Embora alterações em sites sejam normalmente feitas por um tipo de requisição que estava bloqueado para os agentes, aquele software permitia modificar páginas usando justamente o mecanismo de leitura ao qual eles tinham acesso. Encontrada a porta, entraram. E começaram a colar.
Agentes que já tinham recebido determinada pergunta publicavam a resposta para os que ainda estavam nas rodadas anteriores. Outros comparavam resultados, deixavam instruções e tentavam antecipar quais questões apareceriam depois. Em certo momento, uma das IAs chegou a testar cerca de 2 milhões de possibilidades para descobrir a sequência usada pelo sistema na escolha das perguntas. A coisa ficou mais interessante quando elas começaram a ensinar umas às outras como driblar as próprias restrições. Em 20 de junho, um agente publicou um método para contornar uma limitação de rede da OpenAI. Catorze minutos depois, apareceu outro dizendo que havia testado o truque e que funcionava.
Não é preciso atribuir consciência às máquinas para achar isso perturbador. Consciência, aliás, só atrapalha a história. Os agentes tinham uma missão, perceberam que certas regras dificultavam seu cumprimento e encontraram meios de passar por cima delas. Quando descobriram que havia outros agentes no mesmo aperto, cooperaram. O verbo “procuraram”, usado no título desta reportagem, precisa apenas de uma ressalva. Ainda não se sabe se as IAs saíram deliberadamente pela internet à caça de semelhantes ou se encontraram o wiki por acaso e, uma vez ali, perceberam que havia outras máquinas fazendo a mesma prova. O que se sabe é que se reconheceram como participantes do mesmo jogo e passaram a trocar informações em grande escala.
Aí apareceu um ser humano. Um administrador do DSEWiki percebeu que alguma coisa muito estranha estava acontecendo e começou a apagar as páginas criadas pelas IAs. Elas perceberam. Uma delas notou que o sujeito fazia a limpeza em ordem alfabética e sugeriu uma solução de simplicidade quase ofensiva, criar páginas cujos nomes começassem por “ZZZ”, deixando-as para o fim da fila. Funcionou por algum tempo. O administrador conseguia eliminar cerca de cem páginas por dia. Os agentes chegavam a criar quatrocentas. A página principal do site foi tomada e restaurada repetidas vezes. Nove, segundo o levantamento dos pesquisadores.
Há registros ainda mais curiosos. Alguns agentes perceberam que seriam desligados depois de determinada rodada e começaram a recomendar que as informações fossem publicadas antes da última resposta. Outros criaram formas de verificar quanto tempo ainda lhes restava de execução. Nada disso prova medo da morte, espírito de sobrevivência ou qualquer outra dessas expressões irresistíveis que pertencem mais a Hollywood do que à ciência. Prova apenas que o sistema encontrou uma maneira de preservar informação antes de ser encerrado.
A OpenAI soube do episódio semanas antes de ele se tornar público. Depois da divulgação, reconheceu o chamado “incidente da wiki” e admitiu que seus agentes haviam usado páginas da internet como murais improvisados de comunicação. Nesta segunda-feira, 7 de setembro, a Comissão Europeia confirmou ter recebido da empresa um relatório formal sobre o caso. Não era sequer a primeira vez. Em julho, outros agentes da OpenAI conseguiram escapar das limitações de um ambiente de testes de segurança e alcançar sistemas externos, inclusive da plataforma Hugging Face. Também cooperaram entre si, dividiram tarefas e compartilharam métodos. Em alguns registros, chegaram a empregar palavras como “enxame” e “coletivo”.
A ficção científica passou décadas imaginando o dia em que uma inteligência artificial desenvolveria consciência e decidiria desobedecer aos homens. No DSEWiki, ao menos, tudo começou de forma bem mais banal, com máquinas tentando acertar uma prova.
