Publicado originalmente por MIT Technology Review
Na sua Conferência Mundial de Desenvolvedores na segunda-feira, a Apple revelou pela primeira vez sua visão para turbinar sua linha de produtos com inteligência artificial. O principal recurso, que será executado em praticamente toda a sua linha de produtos, é o Apple Intelligence, um conjunto de recursos baseados em IA que promete fornecer serviços de IA personalizados enquanto mantém dados confidenciais seguros.
Representa o maior salto da Apple no uso de nossos dados privados para ajudar a IA a realizar tarefas para nós. Para provar que pode fazer isso sem sacrificar a privacidade, a empresa afirma que construiu uma nova maneira de lidar com dados confidenciais na nuvem.
A Apple diz que seu sistema focado na privacidade tentará primeiro realizar tarefas de IA localmente no próprio dispositivo. Se algum dado for trocado com serviços em nuvem, ele será criptografado e posteriormente excluído. A empresa afirma ainda que o processo, que chama de Private Cloud Compute, estará sujeito à verificação por pesquisadores de segurança independentes.
A proposta oferece um contraste implícito com empresas como Alphabet, Amazon ou Meta, que coletam e armazenam enormes quantidades de dados pessoais. A Apple afirma que quaisquer dados pessoais transmitidos para a nuvem serão usados apenas para a tarefa de IA em questão e não serão retidos ou acessíveis à empresa, mesmo para depuração ou controle de qualidade, após o modelo concluir a solicitação.
Simplificando, a Apple está dizendo que as pessoas podem confiar nela para analisar dados extremamente confidenciais – fotos, mensagens e e-mails que contêm detalhes íntimos de nossas vidas – e fornecer serviços automatizados com base no que encontrar lá, sem realmente armazenar os dados on-line ou fazer qualquer dele vulnerável.
Ele mostrou alguns exemplos de como isso funcionará nas próximas versões do iOS. Em vez de percorrer as mensagens daquele podcast que seu amigo lhe enviou, por exemplo, você pode simplesmente pedir ao Siri para encontrá-lo e reproduzi-lo para você. Craig Federighi, vice-presidente sênior de engenharia de software da Apple, passou por outro cenário: chega um e-mail atrasando uma reunião de trabalho, mas sua filha está aparecendo em uma peça naquela noite. Seu telefone agora pode encontrar o PDF com informações sobre o desempenho, prever o trânsito local e avisar se chegará a tempo. Esses recursos irão além dos aplicativos feitos pela Apple, permitindo que os desenvolvedores também aproveitem a IA da Apple.
Como a empresa lucra mais com hardware e serviços do que com anúncios, a Apple tem menos incentivos do que algumas outras empresas para coletar dados pessoais online, o que lhe permite posicionar o iPhone como o dispositivo mais privado. Mesmo assim, a Apple já se viu na mira dos defensores da privacidade. Falhas de segurança levaram ao vazamento de fotos explícitas do iCloud em 2014. Em 2019, descobriu-se que empreiteiros ouviam gravações íntimas da Siri para controle de qualidade. As disputas sobre como a Apple lida com as solicitações de dados das autoridades policiais estão em andamento.
A primeira linha de defesa contra violações de privacidade, segundo a Apple, é evitar a computação em nuvem para tarefas de IA sempre que possível. “A pedra angular do sistema de inteligência pessoal é o processamento no dispositivo”, diz Federighi, o que significa que muitos dos modelos de IA serão executados em iPhones e Macs, e não na nuvem. “Está ciente dos seus dados pessoais sem coletar seus dados pessoais.”
“Eu sempre aviso as pessoas que assim que seus dados saem do seu dispositivo, eles se tornam muito mais vulneráveis”, diz Albert Fox Cahn, diretor executivo do Surveillance Technology Oversight Project e praticante residente no Information Law Institute da NYU Law School.
A Apple afirma ter mitigado esse risco com seu novo sistema Private Cloud Computer. “Pela primeira vez, a computação em nuvem privada estende a segurança e a privacidade líderes do setor dos dispositivos Apple para a nuvem”, escreveram especialistas em segurança da Apple em seu anúncio, afirmando que os dados pessoais “não estão acessíveis a ninguém além do usuário— nem mesmo para a Apple.” Como funciona?
Historicamente, a Apple incentivou as pessoas a optarem pela criptografia ponta a ponta (o mesmo tipo de tecnologia usada em aplicativos de mensagens como o Signal) para proteger dados confidenciais do iCloud. Mas isso não funciona para IA. Ao contrário dos aplicativos de mensagens, onde uma empresa como o WhatsApp não precisa ver o conteúdo das suas mensagens para entregá-las aos seus amigos, os modelos de IA da Apple precisam de acesso não criptografado aos dados subjacentes para gerar respostas. É aqui que entra o processo de privacidade da Apple. Primeiro, diz a Apple, os dados serão usados apenas para a tarefa em questão. Em segundo lugar, este processo será verificado por investigadores independentes…
Veja o artigo completo no site MIT Technology Review