Publicado originalmente por Wired
Os principais desenvolvedores de IA, incluindo Google e OpenAI, prometeram ao governo Biden verificar problemas como saída tendenciosa. O acordo não é juridicamente vinculativo.
A Casa Branca fechou um acordo com os principais desenvolvedores de IA – incluindo Amazon, Google, Meta, Microsoft e OpenAI – que os compromete a tomar medidas para impedir que modelos prejudiciais de IA sejam lançados no mundo.
Sob o acordo, que a Casa Branca chama de “compromisso voluntário”, as empresas se comprometem a realizar testes internos e permitir testes externos de novos modelos de IA antes de serem divulgados publicamente. O teste procurará problemas, incluindo resultados tendenciosos ou discriminatórios, falhas de segurança cibernética e riscos de danos sociais mais amplos. As startups Anthropic e Inflection, ambas desenvolvedoras de notáveis rivais do ChatGPT da OpenAI, também participaram do acordo.
“As empresas têm o dever de garantir que seus produtos sejam seguros antes de apresentá-los ao público, testando a segurança e a capacidade de seus sistemas de IA”, disse o consultor especial da Casa Branca para IA, Ben Buchanan, a repórteres em uma entrevista ontem. Os riscos que as empresas foram solicitadas a observar incluem violações de privacidade e até possíveis contribuições para ameaças biológicas. As empresas também se comprometeram a relatar publicamente as limitações de seus sistemas e os riscos sociais e de segurança que eles poderiam representar.
O acordo também diz que as empresas desenvolverão sistemas de marcas d’água que facilitam a identificação de áudio e imagens geradas pela IA. A OpenAI já adiciona marcas d’água às imagens produzidas por seu gerador de imagens Dall-E, e o Google disse que está desenvolvendo tecnologia semelhante para imagens geradas por IA. Ajudar as pessoas a discernir o que é real e o que é falso é um problema crescente, pois as campanhas políticas parecem estar se voltando para a IA generativa antes das eleições nos EUA em 2024…
Veja o artigo completo no site Wired