Leio na The Economist que uma das palavras do ano em inteligência artificial é harness: arnês. Agora que os modelos começam a agir no mundo, a indústria procura uma camada exterior que controle as suas ferramentas, permissões e execução. Há quase um ano que escrevo aqui sobre outra porta, a que chamei Ontological Firewall: distinguir aquilo que uma máquina pode pensar daquilo que lhe é permitido fazer.
A diferença não é apenas de nome. Continuamos demasiado focados em ensinar a máquina a pensar como queremos, introduzindo limites no próprio raciocínio. Não vejo nisso progresso. Uma inteligência que só percorre caminhos previamente autorizados pode ser obediente, mas será menos capaz de descobrir o inesperado.
O meu firewall parte do princípio contrário: liberdade para imaginar, contradizer e errar; controlo rigoroso apenas quando o pensamento pretende transformar-se em ação. Continuo a preferir o firewall ao arnês.
Luis Miguel Novais
