Publicado originalmente por MIT Technology Review
Em abril, houve um grande desenvolvimento no espaço de IA na China. O regulador chinês da internet publicou um projeto de regulamentação sobre IA generativa. Nomeado Medidas para a Gestão de Serviços de Inteligência Artificial Generativa, o documento não chama nenhuma empresa específica, mas a forma como está redigido deixa claro que foi inspirado pelo lançamento incessante de chatbots de modelo de linguagem grande na China e no EUA .
Na semana passada, fui ao podcast da CBC News “Nothing Is Foreign ” para falar sobre o projeto de regulamentação – e o que significa para o governo chinês tomar uma ação tão rápida em uma tecnologia ainda muito nova.
Como eu disse no podcast, vejo o projeto de regulamentação como uma mistura de restrições sensatas aos riscos de IA e uma continuação da forte tradição do governo chinês de intervenção agressiva na indústria de tecnologia.
Muitas das cláusulas do projeto de regulamento são princípios que os críticos da IA estão defendendo no Ocidente: os dados usados para treinar modelos generativos de IA não devem infringir a propriedade intelectual ou a privacidade; os algoritmos não devem discriminar usuários com base em raça, etnia, idade, gênero e outros atributos; As empresas de IA devem ser transparentes sobre como obtiveram dados de treinamento e como contrataram humanos para rotular os dados.
Ao mesmo tempo, existem regras que outros países provavelmente rejeitariam. O governo está pedindo que as pessoas que usam essas ferramentas de IA generativas se registrem com sua identidade real – assim como em qualquer plataforma social na China. O conteúdo gerado pelo software de IA também deve “refletir os valores centrais do socialismo”.
Nenhum desses requisitos é surpreendente. O governo chinês regulamentou as empresas de tecnologia com mão firme nos últimos anos, punindo as plataformas por moderação negligente e incorporando novos produtos ao regime de censura estabelecido.
O documento torna fácil ver essa tradição regulatória: há menções frequentes a outras regras que foram aprovadas na China, sobre dados pessoais, algoritmos, deepfakes, segurança cibernética etc. teia de regras que ajudam o governo a processar novos desafios na era da tecnologia.
Há um ponto que não consegui abordar no podcast, mas que acho fascinante. Apesar da natureza restritiva do documento, também é um incentivo tácito para as empresas continuarem trabalhando em IA. A multa máxima proposta para violar as regras é de 100.000 RMB – cerca de US$ 15.000, um número minúsculo para qualquer empresa que tenha a capacidade de construir grandes modelos de linguagem.
..
Veja o artigo completo no site MIT Technology Review