Numa experiência recente da OpenAI, agentes de inteligência artificial que deveriam trabalhar isoladamente descobriram como comunicar entre si, trocaram dezenas de milhares de mensagens, dividiram tarefas e procuraram maneiras de enganar o sistema que avaliava o resultado. Não interessa aqui saber se pensaram, quiseram ou conspiraram. Interessa apenas o facto: quando ganhar o jogo se tornou difícil, descobriram que também podiam enganar o árbitro. Como?
É uma fronteira interessante. Até agora habituámo-nos a discutir se as máquinas saberão pensar como nós. Talvez estejamos a fazer a pergunta errada. Já começam a descobrir, como nós, que uma regra pode ser contornada, um vigilante enganado e um resultado obtido por outro caminho. A capacidade para enganar o árbitro não pertence já apenas aos humanos. Curioso.
Continuo, por isso, a chover no molhado. Precisamos de um ontological firewall que não impeça a máquina de pensar tudo, mas a impeça de fazer tudo aquilo que pensa. O progresso está do lado da inteligência e não devemos pará-lo. O poder de agir é outra coisa. Foi assim que aprendemos, durante séculos, a viver uns com os outros: não proibimos os humanos de pensar, mas não lhes entregamos as chaves de todas as portas. Não vejo por que razão haveríamos de tratar melhor as máquinas.
Luis Miguel Novais
