Apple vai analisar dados de usuários no dispositivo para aprimorar sua IA
A Apple anunciou, hoje, que começará a analisar dados de dispositivos dos seus usuários como plano para melhorar a Apple Intelligence, sua plataforma de inteligência artificial. O novo recurso tem como foco utilizar a privacidade diferencial para proteger as informações do usuário, ao mesmo tempo que utiliza seus dados para aprimorar a Apple Intelligence.
A Maçã já enfrentou desafios para coletar dados enquanto protegia a privacidade dos seus usuários no passado, e acabou adiando diversos recursos da Apple Intelligence. Na tentativa de equilibrar ambos objetivos, ela utiliza dados sintéticos para treinar seu modelo de IA, que imitam dados do mundo real sem ameaçar informações pessoais.
.
A Apple também usará a privacidade diferencial para coletar dados e aprimorar o Image Playground, o Image Wand, o Memories Creation e a Visual Intelligence. A empresa já está fazendo isso com o Genmoji. Novos recursos serão lançados no iOS 18.5.
Contudo, por não refletirem diretamente a realidade, os dados sintéticos acabam perdendo em precisão e dificultando o aprimoramento dos sistemas de IA. O novo método de coleta resolverá esse problema, garantindo que todos os dados do usuário permaneçam nos seus dispositivos e não sejam utilizados diretamente pela IA.
Com base em nossos muitos anos de experiência no uso de técnicas como privacidade diferencial, bem como em novas técnicas como geração de dados sintéticos, conseguimos aprimorar os recursos da Apple Intelligence e, ao mesmo tempo, proteger a privacidade dos usuários que optam pelo programa de análise de dispositivos. Essas técnicas permitem que a Apple entenda tendências gerais sem precisar obter informações sobre qualquer indivíduo, como os avisos que eles usam ou o conteúdo de seus emails.
A tecnologia funciona de uma forma um tanto quanto criativa: comparando os dados sintéticos criados pela Apple com os dados reais dos usuários (como emails) e verificando as entradas falsas para determinar quais dos seus dados sintéticos se aproximam mais da realidade.
Ao criar dados sintéticos, nosso objetivo é produzir frases ou emails sintéticos que sejam suficientemente semelhantes em tópico ou estilo ao original para ajudar a aprimorar nossos modelos de sumarização, mas sem que a Apple colete emails do dispositivo.
O plano ajudará a Maçã a melhorar os recursos de texto da Apple Intelligence — como resumos de notificações, sintetização de pensamentos e recapitulações de mensagens — e poderá colocá-la no mesmo patamar de concorrentes, algumas das quais não possuem tantas políticas de proteção de dados.
Além dos dados sintéticos, a Apple treinou seus modelos com informações licenciadas de terceiros ou dados abertos, que podem ser acessados por qualquer um na internet. No entanto, a dependência de dados que não são verdadeiros causou diversos erros na Apple Intelligence, como problemas na leitura de notificações e resumos de texto incompletos.
O novo sistema apresenta uma poderosa alternativa para resolver os problemas da Apple Intelligence e de fato aprimorar seus modelos, retirando o atraso de melhorias e recursos em comparação à concorrência. Ele será lançado em uma futura versão de testes do iOS/iPadOS 18.5 e macOS Sequoia 15.5, cujas segundas betas foram disponibilizadas para desenvolvedores hoje.
Além das mudanças na coleta de dados, a Maçã também divulgou que usará maneiras centradas na privacidade para melhorar outros recursos da Apple Intelligence, como Image Playground, Varinha Gráfica (Image Wand), Memories Creation e Inteligência Visual (Visual Intelligence).
A tecnologia de privacidade diferencial já é utilizada, por exemplo, para aprimorar os Genmojis, identificando comandos populares e padrões, ao mesmo tempo em que fornece uma garantia matemática de que comandos únicos ou raros não serão descobertos. Isso funciona para entender como o modelo responde em situações nas quais vários usuários fizeram a mesma solicitação — como um dinossauro com chapéu de cowboy, por exemplo — e aprimorar as respostas nesses casos.
Esses recursos, é claro, só são aplicados para usuários que optam por compartilhar os dados de análise com a Apple, configuração que pode ser alterada em Ajustes/Ajustes do Sistema » Privacidade e Segurança » Análise e Melhorias no iPhone, iPad ou Mac.
via Bloomberg