Publicado originalmente por Vox
Recentemente, várias histórias virais – incluindo uma da Vox – descreveram uma simulação da Força Aérea na qual um drone autônomo identificou seu operador como uma barreira para a execução de sua missão e, em seguida, procurou eliminar o operador. Esta história apresentava tudo o que indivíduos proeminentes têm soado o alarme: objetivos desalinhados, humanos fora do circuito e um eventual robô assassino. O único problema? A “simulação” nunca aconteceu – o oficial da Força Aérea que relatou a história disse mais tarde que era apenas um “exercício de pensamento”, não uma simulação real.
A proliferação de narrativas sensacionalistas em torno da inteligência artificial – alimentadas por interesse, ignorância e oportunismo – ameaça inviabilizar discussões essenciais sobre governança de IA e implementação responsável. A demanda por histórias de IA criou uma tempestade perfeita para desinformação, já que especialistas autodenominados vendem exageros e invenções que perpetuam pensamentos desleixados e metáforas falhas. Reportagens no estilo tablóide sobre IA servem apenas para atiçar ainda mais as chamas da histeria.
Esses tipos de exageros comuns acabam prejudicando a elaboração de políticas eficazes destinadas a abordar riscos imediatos e possíveis ameaças catastróficas representadas por certas tecnologias de IA. Por exemplo, um de nós conseguiu enganar o ChatGPT para dar instruções precisas sobre como construir explosivos feitos de fertilizante e óleo diesel, bem como adaptar essa combinação em uma bomba suja usando materiais radiológicos.
Se o aprendizado de máquina fosse apenas uma curiosidade acadêmica, poderíamos ignorar isso. Mas como suas aplicações potenciais se estendem ao governo, educação, medicina e defesa nacional, é vital que todos nós nos oponhamos a narrativas exageradas e coloquemos nosso peso por trás de um escrutínio sóbrio. Para aproveitar com responsabilidade o poder da IA, é essencial que nos esforcemos por regulamentações diferenciadas e resistamos a soluções simplistas que possam estrangular o próprio potencial que estamos tentando liberar…
Veja o artigo completo no site Vox