Desenvolvedor reclama que relatos de bugs servem para treinar IA da Apple
Há alguns dias, publicamos que a Apple passará a analisar dados de usuários em seus dispositivos para aprimorar seus modelos de inteligência artificial — o que deverá melhorar a confiabilidade dos resultados gerados pela Apple Intelligence, uma vez que eles não terão como base mais apenas dados sintéticos.
Mas até que ponto essas novas diretrizes de uso de dados nos sistemas da empresa vão? De acordo com o que mostrou um desenvolvedor do iOS em uma publicação no Mastodon, a Apple passará a usar também dados de relatos de bugs para treinar seus modelos — uma mudança em relação que ocorre hoje.
Você está de brincadeira comigo, Apple?!
Depois de muito tempo, registrei outro relatório de bug usando o Assistente de Feedback porque o bug era grave o suficiente para valer a pena o esforço de anotar tudo.
Ao enviar um sysdiagnose (ou provavelmente qualquer outro anexo), você recebe o aviso de privacidade usual de que provavelmente há muitas informações privadas e sensíveis nesses arquivos de log. Não é uma sensação agradável, mas é o que acontece com os dados de diagnóstico e eu confio principalmente no pessoal da Apple para tratá-los com respeito e confio no sistema de Registro para redigir as partes mais sérias.
No entanto, ao registrar um feedback hoje, notei uma nova adição ao aviso de privacidade:
“Ao enviar, você […] concorda que a Apple pode usar seu envio para [treinar] modelos da Apple Intelligence e outros modelos de aprendizado de máquina.”
Que droga é essa? Não! Eu não quero isso. É um comportamento extremamente desprezível a) me perguntar isso neste contexto em que confio a você meus dados confidenciais para ajudar você a consertar suas coisas, b) escondê-los em outras mensagens de privacidade e c) não me dar nenhuma maneira de cancelar, exceto não registrar um relatório de bug.
Vocês realmente precisam de mais motivos para os desenvolvedores não registrarem relatórios de bug? As pessoas que decidiram fazer isso são realmente tão ignorantes sobre a imagem que o processo de relatório de bugs da Apple tem na comunidade? Como vocês conseguem pensar por um segundo que isso seja uma ideia aceitável?
Então, que diabos, Apple?!
Na versão atual do iOS, quando um desenvolvedor usa o Assistente de Feedback (Feedback Assistant) para comunicar um bug e envia um anexo para mostrá-lo visualmente, a Apple apenas informa que ele pode conter informações privadas ou confidenciais e que o usuário pode revisá-lo, editá-lo ou excluí-lo caso assim deseje.
Na versão mostrada pelo desenvolvedor, a Apple informa também que pode usar o relatório para melhorar seus produtos e serviços, como os modelos da Apple Intelligence e outras tecnologias de machine learning da empresa — o que deve ser aceito de maneira obrigatória por quem relatar um bug.
Isso significa que não há uma opção para simplesmente desativar o envio dos dados para treinar os modelos de IA da Apple, restando como única saída para quem não quer fazê-lo desistir de enviar o relatório — o que muitas vezes não é algo viável, a depender do cenário em questão.
De acordo com o AppleInsider, no treinamento que está sendo planejado para as demais partes do sistema operacional, essa opção para desativá-lo estará disponível na seção de Privacidade e Segurança do aplicativo Ajustes, na parte de Análises e Melhorias.