De acordo com o cientista autor de um novo estudo publicado no Journal of Experimental & Theoretical Artificial Intelligence, "sistemas racionais apresentarão uma motivação universal para a auto-proteção, aquisição de recursos, replicação e eficiência", que poderão levar a extinção da humanidade.
Seu artigo, intitulado "Tecnologia Autônoma e o Bem Maior Humano", inicia com este aviso ameaçador:
As pressões militares e econômicas estão conduzindo ao rápido desenvolvimento de sistemas autônomos. Nós mostramos que estes sistemas são propensos a se comportar de maneiras anti-sociais e nocivas a menos que eles sejam cuidadosamente projetados. Designers serão motivados a criar sistemas que atuam quase racionalmente e sistemas racionais apresentarão uma motivação universal para a auto-proteção, aquisição de recursos, replicação e eficiência. A infra-estrutura de computação atual seria vulnerável aos sistemas sem restrições com estas motivações.
O que Omohundro está concluindo é a realização inevitável da vontade incessante dos militares para produzir máquinas assassinas auto-conscientes autônomas que inevitavelmente resultarão no surgimento de Exterminadores com Inteligência Artificial, que se virarão contra a humanidade e destruirão a todos nós.
Antes que você pense que estou exagerando, clique aqui para ler o documento técnico.
Sistemas de inteligência artificial irão agir imediatamente em auto-defesa contra os seus inventores