Publicado originalmente por Wired
Vasculhando manuais de câmeras de segurança, um grupo de redutores encontrou detalhes sinistros e iniciou uma nova batalha na guerra tecnológica EUA-China.
Em um local ele mantém em segredo, John Honovich estava em seu laptop, vasculhando metodicamente todos os links de um site para uma conferência do outro lado do mundo. A Hikvision, maior fabricante de câmeras de segurança do mundo, estava sediando o evento – o AI Cloud World Summit 2018 – em sua cidade natal, Hangzhou, uma cidade de cerca de 10 milhões de pessoas não muito longe de Xangai. Honovich, o fundador de uma pequena publicação comercial que cobria a tecnologia de vigilância por vídeo, queria descobrir o que o equipamento mais recente da Hikvision poderia fazer.
Ele se concentrou em uma seção da agenda da conferência intitulada “Ecologicamente correta, pacífica, relaxada” e encontrou uma descrição de um sistema alimentado por IA instalado ao redor do Monte Tai, uma montanha historicamente sagrada em Shandong. Um vídeo mostrou câmeras Hikvision apontadas para turistas subindo os milhares de degraus de pedra que levam ao famoso pico. Música de piano tocada enquanto um narrador explicava, em mandarim com legendas em inglês, que as câmeras estavam ali “para identificar todos os visitantes e garantir a segurança de todos”. O vídeo cortou para a tela de um computador e Honovich fez uma pausa. Ele viu uma visão ampliada do rosto de um visitante. Abaixo estavam os dados que a IA da câmera havia inferido. Honovich baixou o vídeo e tirou screenshots da tela do computador, por segurança.
Mais tarde, com a ajuda de um tradutor, ele examinou cada pedaço de texto naquela tela. Um conjunto de caracteres, explicou o tradutor, sugeria que cada visitante fosse classificado automaticamente em categorias: idade, sexo, uso de óculos, sorriso. Quando Honovich apontou para a quinta categoria e perguntou: “O que é isso?” o tradutor respondeu: “minoria”. Honovich pressionou: “Tem certeza?” O tradutor confirmou que não havia outra maneira de lê-lo.
Honovich ficou chocado. Em seus muitos anos na indústria, ele nunca tinha visto uma empresa de vigilância estabelecida para detectar automaticamente minorias raciais. O recurso parecia completamente antiético para ele, e ele imediatamente se perguntou como a China poderia usá-lo contra o povo uigur, um grupo majoritariamente muçulmano de minoria étnica, na província de Xinjiang. Honovich tinha visto relatos vazando no oeste de uigures sendo submetidos a vigilância restritiva e detenções em massa. Ao clicar no site do AI Summit, Honovich não sabia dizer se as autoridades chinesas estavam usando essa tecnologia para oprimir minorias, mas viu esse perigo se aglutinando. Ele rapidamente escreveu um artigo sobre a tecnologia de detecção de etnia da Hikvision, incluindo o vídeo, capturas de tela e um sem comentários da empresa, e postou no site do IPVM.
…
Veja o artigo completo no site Wired