Publicado originalmente por The Washington Post
Dois pesquisadores de IA e o CEO da startup de IA Anthropic testemunharam sobre os riscos de longo prazo da IA e disseram que o Congresso precisa instituir regras para controlá-la
Um trio de líderes influentes de inteligência artificial testemunhou em uma audiência no Congresso na terça-feira, alertando que o ritmo frenético do desenvolvimento da IA pode levar a sérios danos nos próximos anos, como estados rebeldes ou terroristas usando a tecnologia para criar armas biológicas.
Yoshua Bengio, professor de IA da Universidade de Montreal, conhecido como um dos pais da ciência moderna da IA, disse que os Estados Unidos deveriam pressionar pela cooperação internacional para controlar o desenvolvimento da IA, delineando um regime semelhante às regras internacionais sobre tecnologia nuclear.. Dario Amodei, presidente-executivo da Anthropic, startup de IA, disse temer que a IA de ponta possa ser usada para criar vírus perigosos e outras armas biológicas em menos de dois anos. E Stuart Russell, professor de ciência da computação da Universidade da Califórnia em Berkeley, disse que a maneira como a IA funciona significa que é mais difícil de entender e controlar totalmente do que outras tecnologias poderosas.
“Recentemente, eu e muitos outros ficamos surpresos com o salto gigantesco realizado por sistemas como o ChatGPT”, disse Bengio durante a audiência do Comitê Judiciário do Senado. “O cronograma mais curto é mais preocupante.”
A audiência demonstrou como as preocupações com a IA superando a inteligência humana e ficando fora de controle passaram rapidamente do reino da ficção científica para o mainstream. Durante anos, os futuristas teorizaram que um dia a IA poderia se tornar mais inteligente que os humanos e desenvolver seus próprios objetivos, potencialmente levando-a a prejudicar a humanidade.
Mas nos últimos seis meses, um punhado de proeminentes pesquisadores de IA, incluindo Bengio, mudaram seus cronogramas para quando eles pensam que a IA “superinteligente” pode ser possível de décadas para potencialmente apenas alguns anos. Essas preocupações agora estão reverberando no Vale do Silício, na mídia e em Washington, e os políticos estão citando essas ameaças como uma das razões pelas quais os governos precisam aprovar leis .
O senador Richard Blumenthal (D-Conn.), presidente do subcomitê que realizou a audiência, disse que a humanidade se mostrou capaz de inventar novas tecnologias incríveis que as pessoas nunca pensaram que seriam possíveis na época. Ele comparou a IA ao Projeto Manhattan para construir uma arma nuclear, ou aos esforços da NASA para colocar um homem na lua…
Veja o artigo completo no site The Washington Post