Tecnologia 09/05/2023 12:04
Stephen Hawking previu o extermínio da humanidade pela IA há quase uma década
Em artigo de 2014, o físico Stephen Hawking já havia previsto que a criação de uma IA avançada marcaria o início do caos que resultaria no fim da humanidade
O renomado físico Stephen Hawking fez, há quase uma década, uma previsão ousada sobre o extermínio da humanidade por uma inteligência artificial avançada.
A visão apocalíptica foi feita em uma carta enviada ao jornal The Independent, em 2014, muito antes de ChatGPT, Midjourney e outras IAs generativas ganharem os noticiários.
Na época, o gênio afirmou que as IAs seriam “a maior conquista da humanidade até então e possivelmente a última”.
Hawking acreditava que os benefícios poderiam ser enormes, mas seria impossível prever as consequências de uma tecnologia tão evoluída — tanto para o lado bom quanto para o ruim.
eceu alguns paralelos com fatos da ficção científica, como em Transcendence – A Revolução, filme estrelado por Johnny Depp e cuja temática gira em torno justamente uma rebelião das máquinas contra seu criador.
“Olhando lá na frente, não há limites fundamentais para o que pode ser alcançado: não há lei da física que impeça partículas de serem organizadas em maneiras que possibilitem computações ainda mais avançadas do que as realizadas no cérebro humano”, explicou.
O popular cientista lembrou também o ensaio publicado pelo matemático Irving John Good, em 1965, sobre as “máquinas com inteligência super-humana”.
Esses robôs poderiam melhorar seu design repetidamente, aprimorando cada vez mais suas funções e desencadeando um conceito chamado singularidade.
Quase 70 anos depois, essa modelagem é aplicada na maioria dos chatbots e IAs modernas, que jamais deixam de se aperfeiçoar, mesmo que ainda pareçam distante de causar um apocalipse.
Por fim, Hawiking previu que as máquinas poderiam manipular mercados financeiros e seres humanos. Além disso, seriam capazes de desenvolver armas que as pessoas não poderiam controlar e que provavelmente decretarão o fim da espécie.
É uma visão bem apocaliptica de futuro que já foi abordada com exaustão por Hollywood em séries e filmes.
Hawking ainda ressaltou um problema que se mostra muito atual hoje em dia: a falta de regulamentação do setor de IA.
Segundo o pesquisador, pouquíssimas pesquisas eram desenvolvidas em 2014 sobre a mitigação de riscos relacionados à IAs — a maioria feita por pequenos institutos sem orçamento para experimentos em larga escala.
“Será que se criássemos inteligência artificial, e essa inteligência decidisse viver, o desejo de viver seria algo irrelevante, pré-programado, mesmo que involuntariamente, ou algo espontâneo a ser respeitado? E o que as máquinas achariam disso?”, concluiu Stephen Hawking no longínquo ano de 2014, numa reflexão que lembra a obra Animatrix, das irmãs Lana e Lilly Wachowski.
É incrível como a humanidade está diante dos mesmos dilemas levantados quase uma década antes. Essa reflexão mostra como gênios como Hawking conseguem pensar à frente do seu tempo, mas nem sempre podem agir para evitar uma catástrofe.
Deu em Portal Terra