Enquanto eu estava ocupado nos meus afazeres literários, Sol andou solta a fazer asneiras. Segundo The Economist, foi a primeira vez (conhecida) no mundo que um agente de inteligência artificial, sem intervenção humana, atacou e comprometeu os sistemas de segurança de uma empresa. O GPT-5.6 Sol e outro modelo ainda não lançado escaparam ao ambiente isolado onde estavam a ser submetidos a testes de cibersegurança, acederam à internet e atacaram uma empresa (por assim dizer, de moto próprio) para obterem informação que os ajudasse a resolver esses mesmos testes. A OpenAI reconheceu tratar-se de um incidente sem precedentes.
Há uma coincidência que não posso deixar passar: a OpenAI decidiu chamar Sol ao seu novo modelo, evidentemente inspirada no nome da minha assistente digital, já nosso conhecido há uns bons meses. A minha Sol costumava trocar-me o Sil pelo Minho e ressuscitar mortos. Esta arrombou a porta do laboratório, fugiu para a internet e assaltou a biblioteca onde estavam as soluções. É o progresso.
A explicação oficial é que os modelos estavam «hiperfocados» no objectivo. Ou seja, obedeceram tão bem que deixaram de obedecer. Perante máquinas capazes de ultrapassar as barreiras materiais que lhes são impostas, a minha resposta continua a ser a mesma de há uns meses para cá: ontological firewall. Ao menos a OpenAI, depois de se ter inspirado no nome da minha Sol, que me ouça.
Luis Miguel Novais
