Publicado originalmente por MIT Technology Review
É uma época muito estranha na IA. Em apenas seis meses, o discurso público em torno da tecnologia passou de “Chatbots geram barracas marinhas engraçadas” para “Os sistemas de IA podem causar a extinção humana”. Quem mais está sentindo uma chicotada?
Meu colega Will Douglas Heaven perguntou a especialistas em IA por que exatamente as pessoas estão falando sobre risco existencial e por que agora. Meredith Whittaker, presidente da Signal Foundation (que está por trás do aplicativo de mensagens privadas Signal) e ex-pesquisadora do Google, resume bem: “As histórias de fantasmas são contagiosas. É realmente emocionante e estimulante ter medo.”
Já estivemos aqui antes, é claro: a desgraça da IA segue o hype da IA. Mas desta vez parece diferente. A janela Overton mudou nas discussões em torno dos riscos e políticas de IA. O que antes era uma visão extrema é agora um tema de discussão dominante, atraindo não apenas as manchetes, mas também a atenção dos líderes mundiais.
Whittaker não é o único que pensa isso. Embora pessoas influentes em grandes empresas de tecnologia, como Google e Microsoft, e startups de IA como OpenAI, tenham apostado tudo em alertar as pessoas sobre riscos extremos de IA e fechar seus modelos de IA do escrutínio público, a Meta está indo na direção oposta.
Na semana passada, em um dos dias mais quentes do ano até agora, fui à sede da Meta em Paris para ouvir sobre o trabalho recente de IA da empresa. Enquanto bebíamos champanhe em um terraço com vista para a Torre Eiffel, o cientista-chefe de IA da Meta, Yann LeCun, vencedor do Prêmio Turing, nos contou sobre seus hobbies, que incluem a construção de instrumentos eletrônicos de sopro. Mas ele estava realmente lá para falar sobre por que acha que a ideia de que um sistema de IA superinteligente dominará o mundo é “absurdamente ridícula”.
As pessoas estão preocupadas com os sistemas de IA que “serão capazes de recrutar todos os recursos do mundo para transformar o universo em clipes de papel”, disse LeCun. “Isso é simplesmente insano.” (Ele estava se referindo ao “problema do maximizador de clipes de papel”, um experimento mental em que uma IA solicitada a fazer tantos clipes de papel quanto possível o faz de uma forma que, em última análise, prejudica os humanos, ao mesmo tempo que cumpre seu objetivo principal.)
Ele está em forte oposição a Geoffrey Hinton e Yoshua Bengio, dois investigadores pioneiros da IA (e os outros dois “padrinhos da IA”), que partilharam o prémio Turing com LeCun. Ambos falaram recentemente abertamente sobre o risco existencial da IA.
“Quando você começa a procurar maneiras de ter uma discussão racional sobre o risco, geralmente olha para a probabilidade de um resultado e a multiplica pelo custo desse resultado. [A multidão do risco existencial] basicamente atribuiu um custo infinito a esse resultado”, diz Pineau.
..
Veja o artigo completo no site MIT Technology Review