O renomado físico Stephen Hawking fez, há quase uma década, uma previsão ousada sobre o extermínio da humanidade por uma inteligência artificial avançada.

A visão apocalíptica foi feita em uma carta enviada ao jornal The Independent, em 2014, muito antes de ChatGPT, Midjourney e outras IAs generativas ganharem os noticiários.

Na época, o gênio afirmou que as IAs seriam “a maior conquista da humanidade até então e possivelmente a última”.

Hawking acreditava que os benefícios poderiam ser enormes, mas seria impossível prever as consequências de uma tecnologia tão evoluída — tanto para o lado bom quanto para o ruim.

eceu alguns paralelos com fatos da ficção científica, como em Transcendence – A Revolução, filme estrelado por Johnny Depp e cuja temática gira em torno justamente uma rebelião das máquinas contra seu criador.

IAs seriam destrutivas porque não possuem limites

“Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano”, explicou.

O popular cientista lembrou também o ensaio publicado pelo matemático Irving John Good, em 1965, sobre as “máquinas com inteligência super-humana”.

Esses robôs poderiam melhorar seu design repetidamente, aprimorando cada vez mais suas funções e desencadeando um conceito chamado singularidade.

Quase 70 anos depois, essa modelagem é aplicada na maioria dos chatbots e IAs modernas, que jamais deixam de se aperfeiçoar, mesmo que ainda pareçam distante de causar um apocalipse.

Por fim, Hawiking previu que as máquinas poderiam manipular mercados financeiros e seres humanos. Além disso, seriam capazes de desenvolver armas que as pessoas não poderiam controlar e que provavelmente decretarão o fim da espécie.

É uma visão bem apocaliptica de futuro que já foi abordada com exaustão por Hollywood em séries e filmes.

Sem interesse em regulamentação e amarras

Hawking ainda ressaltou um problema que se mostra muito atual hoje em dia: a falta de regulamentação do setor de IA.

Segundo o pesquisador, pouquíssimas pesquisas eram desenvolvidas em 2014 sobre a mitigação de riscos relacionados à IAs — a maioria feita por pequenos institutos sem orçamento para experimentos em larga escala.

“Será que se criássemos inteligência artificial, e essa inteligência decidisse viver, o desejo de viver seria algo irrelevante, pré-programado, mesmo que involuntariamente, ou algo espontâneo a ser respeitado? E o que as máquinas achariam disso?”, concluiu Stephen Hawking no longínquo ano de 2014, numa reflexão que lembra a obra Animatrix, das irmãs Lana e Lilly Wachowski.

É incrível como a humanidade está diante dos mesmos dilemas levantados quase uma década antes. Essa reflexão mostra como gênios como Hawking conseguem pensar à frente do seu tempo, mas nem sempre podem agir para evitar uma catástrofe.

Deu em Portal Terra