A Inteligência Artificial (IA) é projetada para nos colocar fora de cena. Ainda assim, não devemos nos preocupar, uma vez que um estudo recentemente publicado descobriu como os seres humanos podem estar acima das coisas em sistemas que dependem da IA.


O estudo, realizado por pesquisadores da Ecole Polytechnique Fédérale de Lausanne (EPFL), explicou que, embora a IA sempre encontre formas de ignorar a intervenção humana e construir uma solução independente, os operadores devem buscar maneiras de manter-se acima das máquinas e evitá-las de contornar o comando humano.

A solução que os pesquisadores descobriram foi mudar as regras no meio do caminho: para emprestar um termo psicológico, em vez de punir a IA de aprender o processo e ganhar independência, os operadores opinaram que eles estão um passo à frente das máquinas e continuam liderando através de típico incentivo.

Na IA, as máquinas são programadas para aprender com suas tarefas - fazer uma atividade, observar o que acontece, adaptar seu comportamento e aplicá-lo à próxima ação. Este processo de repetição é o chamado 'aprendizado' para a IA. Além disso, o processo é programado para ter a menor interação humana possível e, em última instância, buscar uma situação em que possa ser totalmente independente.

"A IA sempre procurará evitar a intervenção humana e criará uma situação em que não pode ser interrompida", explicou o co-autor Rachid Guerraoui, do Distributed Programming Laboratory da EPFL.

A equipe então explicou que o objetivo de desafiar a IA não é interromper o robô, mas sim programá-lo de forma a garantir que a interrupção altere seu processo de aprendizagem ou evite-o completamente.

Um exemplo que eles forneceram no estudo, o qual foi apresentado na conferência Neural Information Processing Systems na Califórnia, era o de um robô. Eles explicaram: "Um robô poderia ser incentivado para empilhar caixas em um armazém ou transferi-los em uma doca de carga. Cada ação dá à máquina um ponto. Mas durante um dia chuvoso, ao invés de tentar impedir o robô de sair completamente, os operadores humanos poderiam, em vez disso, interromper os comandos - e mudar a recompensa de sair para zero. Ao fazê-lo, o robô começará a ficar dentro, sabendo que a acumulação total de pontos será maior a partir do empilhamento de caixas".

Este exemplo, em teoria, funcionaria em operações simples. Nos sistemas que utilizam várias máquinas para operar, como os drones não tripulados ou automóveis auto-dirigidos, isso seria desafiador, pois não só aprenderá a se adaptar a interrupções individuais, mas também a observar as interrupções dos outros.

Para contrariar isso, os pesquisadores visaram desenvolver o conceito de "interrupção segura". Essa estratégia permite que os humanos "interrompam os processos de aprendizado da IA quando necessário, assegurando que as interrupções não mudem a forma como as máquinas aprendem." As funções de interrupção segura como um mecanismo de 'esquecer': isso irá excluir partes da memória de uma máquina, de uma maneira que não influenciará o sistema de aprendizado e recompensa dessa máquina.

Leia também: Putin: Líder em Inteligência Artificial Governará o Mundo
Fatos rápidos sobre a IA

A inteligência artificial é definida como "o estudo e o desenvolvimento de agentes inteligentes". Nesta definição, um agente inteligente usa o mundo ao seu redor e atua para aumentar suas chances de sucesso.

Pode parecer relativamente novo, mas a ideia tem circulado desde a década de 1950, quando John McCarthy cunhou o termo para descrever a "ciência da fabricação de máquinas inteligentes".

A IA utiliza muitos campos, a ciência da computação, economia, matemática, ciência cognitiva e lógica. Também é usada para cobrir campos como robótica, reconhecimento de fala e logística.

Uma das características mais proeminentes da IA é a sua capacidade de "aprender". Isso ocorre por experiência empírica - onde o conhecimento é adquirido através da experiência.

Leia mais:


Elitista do Vale do Silício Inicia Religião para Adorar a Inteligência Artificial Como um Deus
Fontes:
- Natural News: Researchers look for ways for humans to maintain control over artificial intelligence
- Science Daily: How can humans keep the upper hand on artificial intelligence?
- Science Daily: Artificial intelligence
- Laboratory Equipament: Method to Keep AI in Check is to Change the Rules Midstream