Malo Bourgon: Não temos o conhecimento de como treinar IA para garantir valores humanos

O presidente executivo (CEO) do Machine Intelligence Research Institute (MIRI) adverte, em entrevista à Lusa, que não se tem o conhecimento para compreender como treinar a IA para garantir que tem os valores que apoiam o florescimento humano.

"Simplesmente não temos o conhecimento e a tecnologia para compreender como treinar os sistemas de IA [inteligência artificial] para garantir que têm os tipos de objetivos, valores ou motivações que apoiam o florescimento humano", afirma Malo Bourgon, que falava à Lusa a partir de Berkeley, EUA, ao explicar a sua preocupação com o desenvolvimento acelerado da tecnologia.

Além disso, "nem sequer sabemos se sabemos com o que queremos que as IA se importem, como treiná-las com sucesso de uma forma que tenhamos a certeza de que estas coisas são realmente o que a IA aprendeu a valorizar".

E, mesmo que se soubesse isso, "ainda temos grandes questões em aberto sobre quais seriam essas coisas, se, ao criar algo tão poderoso, isso acabaria bem para nós".

Portanto, "há dois níveis de problema e não fizemos grandes progressos em nenhum deles. E é isso que eu gostaria que as pessoas imaginassem: imaginem, basicamente, alienígenas a aparecer e, se tiverem tecnologia muito avançada e não se importarem com o que nos importa, estaríamos à mercê da forma como quisessem transformar o planeta" e "não há muito que possamos fazer quanto a isso", salienta.

Malo Bourgon sublinha que "ser inteligente é algo muito poderoso", recordando que os humanos comparados com outras espécies do planeta são mais inteligentes.

Apesar dos humanos não serem mais, nem terem a intenção de prejudicar outras espécies, o certo é que ao longo da história da Humanidade provocaram a extinção "de mais de 10.000 espécies" devido aos objetivos e formas de remodelar o mundo para os seus fins, recorda.

Ora, "ser muito inteligente e muito eficiente na prossecução de objetivos permitirá aos sistemas de IA remodelar o mundo de formas poderosas ao perseguirem os seus objetivos. Além disso, a forma como treinamos estes sistemas atualmente — a tecnologia e os métodos que utilizamos — não nos permite compreender o que aprenderam ou que objetivos, valores ou impulsos surgiram deste processo de formação", argumenta o CEO do instituto.

Quando os sistemas são testados e avaliados de várias formas, estes parecem "resistir" ao desligamento e à alteração dos objetivos e "ter instintos para adquirir mais recursos".

Desde que "estejam no seu nível atual de capacidade, isto não é tão preocupante. Mas, se forem radicalmente mais inteligentes do que nós — e acredito que, se isto continuar, não estaremos a falar de sistemas de IA tão inteligentes como Albert Einstein é em relação a mim, mas sim de sistemas tão inteligentes como eu (ou tu) em relação a um chimpanzé, a um rato ou a uma formiga —, então, se tal entidade (ou várias delas) estiver a operar no mundo, será extremamente difícil controlar algo muito, muito mais inteligente do que tu", explica.

E, a menos que essa entidade "se preocupe com coisas compatíveis com o florescimento humano", as suas ações no mundo serão "radicalmente desestabilizadoras e provavelmente conduzirão a transformações no funcionamento do mundo que são incompatíveis com a nossa continuidade", considera o CEO do MIRI, que existe há cerca de 26 anos.

"Diria que fomos uma das primeiras organizações a considerar realmente a ideia de que, a dada altura, a humanidade conseguiria criar sistemas de IA com capacidades gerais e inteligência — de forma semelhante à inteligência e às capacidades gerais dos seres humanos" e "durante a maior parte do nosso percurso, ajudámos a consolidar a área de segurança em IA" e o seu alinhamento.

"Ajudámos a cunhar este termo e a impulsionar esta área de estudo", adianta, referindo que por volta de 2020/2021 começaram a perceber que o avanço da IA era muito acelerado, mas o progresso nesta área não acompanhava o ritmo.

Entretanto, quando o ChatGPT foi lançado "redirecionámos os nossos esforços para a comunicação e governação".

Basicamente, "tentámos utilizar a experiência que acumulámos ao longo de mais de 20 anos a refletir sobre estes desafios e problemas para ajudar as pessoas a compreender o desafio que enfrentamos e os riscos — riscos que algumas das grandes mentes da área, nos anos 50 e 60 (quando o campo da IA estava apenas a começar), como Alan Turing e I.J. Good, já previam ao imaginar o que significaria atingir o objetivo de construir máquinas capazes de pensar", conta.

A ideia de "autoaperfeiçoamento recursivo — com as IA a melhorarem-se a si próprias — parecia uma possibilidade real. Assim, mesmo antes de surgir a maior parte da ficção científica que as pessoas hoje citam ao sugerir que tudo isto não passa de ficção, os especialistas que refletiam sobre o que significaria obter sucesso na área da IA já consideravam estas questões como consequências naturais com as quais teríamos de lidar", refere.

Por vezes, "a ficção científica é muito boa a compreender qual pode ser a trajetória das tecnologias futuras", pelo que "nem toda a ficção científica permanece apenas ficção para sempre", remata.