Malo Bourgon: Abrandar IA é possível com intervenção dos governos

O presidente executivo (CEO) do Machine Intelligence Research Institute (MIRI) afirma, em entrevista à Lusa, que pode fazer sentido fazer uma pausa em breve no desenvolvimento da IA e que isso só é possível com intervenção dos governos.

Questionado se faz sentido uma pausa no desenvolvimento da inteligência artificial (IA), como muitos têm defendido, nomeadamente a tecnológica norte-americana Anthropic, Malo Bourgon considera que "pode fazer sentido fazer isso em breve".

"Penso que estamos num cenário em que estas empresas líderes em IA estão a desenvolver uma tecnologia — cujo funcionamento elas próprias admitem não compreender totalmente — e faz mais sentido dizer que estes sistemas de IA são, de certa forma, cultivados, em vez de construídos, programados ou elaborados", refere o CEO da MIRI, que falava à Lusa a partir de Berkeley, EUA.

O CEO do instituto de investigação sem fins lucrativos focado em garantir que a futura superinteligência artificial seja benéfica para a humanidade aponta que se compreende o processo de treino da IA.

"Mas não compreendemos realmente o que resulta desse processo, como funciona, que aspetos são relevantes para o sistema ou que valores e impulsos possui, isto leva a sistemas de IA que apresentam uma série de comportamentos, de certa forma, não intencionais e preocupantes", sublinha.

A questão agora é que, neste momento, "os modelos não são tão potentes, mas estão a tornar-se cada vez mais poderosos a cada nova versão e as próprias empresas de IA falam sobre como gostariam de poder avançar mais devagar, considerando algum tipo de pausa sob diferentes perspetivas".

Por exemplo, Demis Hassabis, cofundador e CEO da Google DeepMind, admitiu em Davos que uma pausa poderia ser algo positivo para a segurança e para uma maior coordenação neste âmbito.

"Acredito que estamos num cenário em que os incentivos levam cada empresa individual a não ver vantagem em fazer uma pausa por conta própria, no entanto, existe, de facto, uma preocupação crescente — tanto em relação às capacidades da IA como aos rumos da tecnologia e à velocidade do progresso", prossegue, alertando que "a situação pode tornar-se assustadora muito rapidamente, chegando potencialmente a um ponto em que os sistemas de IA são tão inteligentes e capazes que corramos o risco de perder o controlo sobre eles, o que pode levar à extinção da humanidade".

Na sua opinião, este é um "tipo de problema clássico de coordenação em que entidades como os governos precisam de intervir para ajudar, pois as empresas não o conseguem fazer sozinhas".

Portanto, "saber se precisamos de fazer uma pausa agora é uma questão difícil, mas é muito complicado prever em que momento precisaremos realmente disso", isto é, "quando o progresso se tornar perigoso, quando a corrida por sistemas de superinteligência mais poderosos acabar por se transformar numa corrida para ser o primeiro a perder o controlo", aponta Malo Bourgon.

"Acredito que quanto mais cedo iniciarmos esta discussão e começarmos a considerar propostas sérias, melhor, porque não creio que haja um momento óbvio em que saberemos, com certeza, que chegámos a um ponto de não retorno e que precisamos de parar ali", adverte.

O CEO do MIRI considera que é possível fazer uma pausa no desenvolvimento da IA, mas admite que será difícil sob vários aspetos.

Contudo, "existem muitas analogias possíveis com as armas nucleares e a sua proliferação", diz.

"Penso que uma comparação realmente útil reside no facto de que, para treinar estes poderosos sistemas de IA, é necessário um centro de dados que consome tanta energia como uma pequena cidade — ou, por vezes, até um pequeno país — a operar durante muitos e muitos meses" e, "além disso, os chips utilizados nestes 'data centers' [centros de dados] de IA são produzidos por apenas três empresas".

Além disso, "são fabricados, essencialmente, por uma única companhia em Taiwan: a TSMC. Quanto às máquinas necessárias para fabricar estes chips, são produzidas por uma única empresa nos Países Baixos. Portanto, há um sentido claro em que a formação destes sistemas extremamente poderosos exige uma enorme quantidade de recursos".

Ora, estes recursos são muito evidentes pelo que, "se houvesse vontade política, poderíamos unir-nos e impor restrições sobre quem pode realizar formação de determinada escala", o que "teria um impacto significativo ao abrandar o avanço da fronteira do desenvolvimento da IA e travar a criação de modelos cada vez mais capazes", considera.

Tudo isto "exige um elevado nível de coordenação internacional — não quero fingir que não seria um desafio enorme —, mas, num certo sentido, se houvesse vontade política, poderia ser até mais fácil do que algumas das medidas que adoptámos em relação às armas nucleares, afinal, o urânio é apenas uma rocha que se encontra no solo", que depois é preciso centrifugar.

Mas "é certamente muito mais simples do que fabricar as máquinas que produzem estes chips", pelo que "existe um ponto crítico em que, se os governos quisessem realmente intervir, seria possível fazê-lo e começar a regular a tecnologia de facto", remata.

Eliezer Yudkowsky, cofundador do MIRI, é autor do livro "If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All", em parceria com Nate Soares, onde abordam as potenciais ameaças à humanidade representadas pela superinteligência artificial.