Publicado originalmente por Wired
O medo de que a inteligência artificial possa nos eliminar alimentou o surgimento de grupos como o Pause AI. Seus avisos não são tão exagerados, dizem os especialistas.
A primeira vez falamos, Joep Meindertsma não está em um bom lugar. Ele chora ao descrever uma conversa em que alertou a sobrinha sobre o risco da inteligência artificial causar colapso social. Depois disso, ela teve um ataque de pânico. “Eu choro dia sim, dia não”, diz ele, falando pelo Zoom de sua casa na cidade holandesa de Utrecht. “Toda vez que me despeço de meus pais ou amigos, parece que pode ser a última vez.”
Meindertsma, que tem 31 anos e é co-proprietário de uma empresa de banco de dados, está interessado em IA há alguns anos. Mas ele realmente começou a se preocupar com a ameaça que a tecnologia poderia representar para a humanidade quando a Open AI lançou seu último modelo de linguagem, GPT-4, em março. Desde então, ele assistiu ao grande sucesso do chatbot ChatGPT – baseado primeiro no GPT-3 e depois no GPT-4 – demonstrando ao mundo o quanto a IA progrediu e as grandes empresas de tecnologia correm para alcançá-lo. E ele viu pioneiros como Geoffrey Hinton, o chamado padrinho da IA, alertar sobre os perigos associados aos sistemas que ajudaram a criar. “Os recursos de IA estão avançando muito mais rapidamente do que praticamente qualquer um previu”, diz Meindertsma. “Estamos correndo o risco de um colapso social. Estamos arriscando a extinção humana.”
Um mês antes de nossa palestra, Meindertsma parou de trabalhar. Ele ficou tão consumido pela ideia de que a IA destruiria a civilização humana que estava lutando para pensar em qualquer outra coisa. Ele tinha que fazer algo, ele sentiu, para evitar o desastre. Logo depois, ele lançou o Pause AI, um grupo de protesto de base que faz campanha, como o próprio nome sugere, para interromper o desenvolvimento da IA. Desde então, ele reuniu um pequeno grupo de seguidores que realizou protestos em Bruxelas, Londres, São Francisco e Melbourne. Essas manifestações foram pequenas – menos de 10 pessoas de cada vez – mas Meindertsma tem feito amigos em altos escalões. Ele diz que já foi convidado para falar com funcionários do Parlamento holandês e da Comissão Européia.
A ideia de que a IA poderia acabar com a humanidade parece extrema. Mas é uma ideia que está ganhando força tanto no setor de tecnologia quanto na política dominante. Hinton deixou seu cargo no Google em maio e embarcou em uma rodada global de entrevistas nas quais levantou o espectro de que os humanos não são mais capazes de controlar a IA à medida que a tecnologia avança. No mesmo mês, líderes do setor – incluindo os CEOs dos laboratórios de IA Google DeepMind, OpenAI e Anthropic – assinaram uma carta reconhecendo o “risco de extinção”, e o primeiro-ministro do Reino Unido, Rishi Sunak, tornou-se o primeiro chefe de governo a admitir publicamente que também acredita que a IA representa um risco existencial para a humanidade…
Veja o artigo completo no site Wired