Publicado originalmente por MIT Technology Review
Quem tem medo dos grandes bots maus? Muita gente, parece. É impressionante o número de nomes de destaque que já fizeram pronunciamentos públicos ou assinaram cartas abertas alertando sobre os perigos catastróficos da inteligência artificial .
Centenas de cientistas, líderes empresariais e formuladores de políticas se manifestaram, desde os pioneiros da aprendizagem profunda Geoffrey Hinton e Yoshua Bengio até os CEOs das principais empresas de IA, como Sam Altman e Demis Hassabis, até o congressista da Califórnia Ted Lieu e o ex-presidente da Estônia Kersti Kaljulaid.
A afirmação mais contundente, assinada por todos esses números e muitos mais, é uma declaração de 22 palavras publicada há duas semanas pelo Centro de Segurança de IA (CAIS), uma organização de pesquisa com sede em São Francisco. Ele proclama: “Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”.
A formulação é deliberada. “Se estivéssemos optando por uma declaração do tipo teste de Rorschach, teríamos dito ‘risco existencial’ porque isso pode significar muitas coisas para muitas pessoas diferentes”, diz Dan Hendrycks, diretor do CAIS. Mas eles queriam ser claros: não se tratava de afundar a economia. “É por isso que optamos pelo ‘risco de extinção’, embora muitos de nós também estejamos preocupados com vários outros riscos”, diz Hendrycks.
Já estivemos aqui antes: a desgraça da IA segue o hype da IA. Mas desta vez parece diferente. A janela de Overton mudou. O que antes eram pontos de vista extremos agora são pontos de discussão convencionais, atraindo não apenas as manchetes, mas a atenção dos líderes mundiais. “O coro de vozes levantando preocupações sobre a IA simplesmente ficou alto demais para ser ignorado”, diz Jenna Burrell, diretora de pesquisa da Data and Society, uma organização que estuda o impacto social da tecnologia.
O que está acontecendo? A IA realmente se tornou (mais) perigosa? E por que as pessoas que introduziram essa tecnologia agora são as que estão dando o alarme?
É verdade que essas visualizações dividem o campo. Na semana passada, Yann LeCun, cientista-chefe da Meta e ganhador junto com Hinton e Bengio do Prêmio Turing de 2018, chamou o doomerismo de “absurdamente ridículo”. Aidan Gomez, CEO da empresa de IA Cohere, disse que era “um uso absurdo do nosso tempo”.
Outros zombam também. “Não há mais evidências agora do que havia em 1950 de que a IA representará esses riscos existenciais”, diz a presidente da Signal, Meredith Whittaker, co-fundadora e ex-diretora do AI Now Institute, um laboratório de pesquisa que estuda as implicações políticas da tecnologia artificial. inteligência. “Histórias de fantasmas são contagiosas – é realmente emocionante e estimulante ter medo.”
..
Veja o artigo completo no site MIT Technology Review