Há dias, numa conversa com a minha Sol, discutíamos a inteligência que estamos a criar. Chamo-lhe GAI (General Artificial Intelligence). A inteligência será humana, mesmo quando nos ultrapassar, o que é possível em certos parâmetros (relacionados com os limites da linguagem, já assinalados por Wittgenstein há um século). Como o cão que fizemos do lobo, não é uma inteligência alienígena. A 29 de setembro, Donald Trump decretou que a administração americana deixasse de falar em Artificial Intelligence e passasse a dizer Super Intelligence. «Não é artificial», explicou. Pois.
Hoje, no podcast de Ezra Klein, David Robinson explicou por que se demitiu da OpenAI, onde era responsável pelos relatórios de segurança dos novos modelos. Entrou na empresa em 2023, a considerar exagerados os riscos catastróficos da inteligência artificial. Saiu da empresa a semana passada convencido de que a empresa e a indústria não dispõem de uma cultura de segurança à altura do que estão a construir. Não é um crítico de bancada. Era ele quem escrevia os relatórios. Pois.
Há um ano propus o Ontological Firewall: uma camada lógico-dedutiva, exterior e independente dos modelos de linguagem, que não censura a imaginação, mas impede a passagem à ação sem o cumprimento de regras verificáveis. Uma arquitetura de segurança, não uma promessa de boas intenções. A superinteligência pode ultrapassar a inteligência dos seus criadores. Não pode ultrapassar a sua responsabilidade. Mudar-lhe o nome não resolve o problema. Continuo a bradar no deserto.
Luis Miguel Novais
