Publicado originalmente por MIT Technology Review
Conheci Geoffrey Hinton em sua casa em uma rua bonita no norte de Londres apenas quatro dias antes do anúncio bombástico de que ele estava deixando o Google. Hinton é um pioneiro do aprendizado profundo que ajudou a desenvolver algumas das técnicas mais importantes no coração da inteligência artificial moderna, mas depois de uma década no Google, ele está deixando o cargo para se concentrar em novas preocupações que agora tem sobre IA.
Impressionado com os recursos de novos modelos de linguagem grande como o GPT-4, Hinton quer aumentar a conscientização pública sobre os sérios riscos que ele agora acredita que podem acompanhar a tecnologia que ele introduziu.
No início de nossa conversa, sentei-me à mesa da cozinha e Hinton começou a andar. Atormentado há anos por dores crônicas nas costas, Hinton quase nunca se senta. Durante a hora seguinte, observei-o caminhar de um extremo ao outro da sala, minha cabeça girando enquanto ele falava. E ele tinha muito a dizer.
O cientista da computação de 75 anos, que recebeu juntamente com Yann LeCun e Yoshua Bengio o Prêmio Turing de 2018 por seu trabalho em aprendizado profundo, diz que está pronto para mudar de marcha. “Estou ficando velho demais para fazer um trabalho técnico que exija lembrar muitos detalhes”, ele me disse. “Ainda estou bem, mas não sou tão bom quanto antes, e isso é irritante.”
Mas essa não é a única razão pela qual ele está deixando o Google. Hinton quer dedicar seu tempo ao que descreve como “um trabalho mais filosófico”. E isso se concentrará no pequeno, mas – para ele – perigo muito real de que a IA se torne um desastre.
Deixar o Google permitirá que ele fale o que pensa, sem a autocensura que um executivo do Google deve ter. “Quero falar sobre questões de segurança da IA sem ter que me preocupar com a forma como ela interage com os negócios do Google”, diz ele. “Enquanto eu for pago pelo Google, não posso fazer isso.”
Isso não significa que Hinton esteja insatisfeito com o Google de forma alguma. “Isso pode surpreendê-lo”, diz ele. “Há muitas coisas boas sobre o Google que quero dizer, e elas são muito mais confiáveis se eu não estiver mais no Google.”
Hinton diz que a nova geração de grandes modelos de linguagem – especialmente o GPT-4, lançado pela OpenAI em março – o fez perceber que as máquinas estão a caminho de serem muito mais inteligentes do que ele pensava. E ele está com medo de como isso pode acontecer…
Veja o artigo completo no site MIT Technology Review