O que a Microsoft não te contou sobre o Recall no Windows 11

Uma nova geração de computadores totalmente empoderada por inteligência artificial, foi anunciada recentemente pela Microsoft. O Windows deve mudar consideravelmente no futuro, integrando recursos de IA em diversas partes do sistema. E essa geração deve começar com os poderosos processadores ARM Snapdragon X-Elite como base de tudo isso.

Os “Copilot+ PCs” virão equipados com uma NPU, um chip extra, além dos já conhecidos CPU e GPU, focado em realizar tarefas relacionadas a inteligência artificial, visando aumentar a eficiência dessas máquinas quando lidarem com esse tipo de tecnologia.

Dentre os novos recursos anunciados no evento “Build” recente, de longe, a novidade mais polêmica é o “Recall”, uma ferramenta que pode registrar tudo o que você faz no seu computador, capturando a tela a cada 5 segundos.

A ideia é usar o Recall para encontrar qualquer informação que tenha passado pela sua tela em algum momento e que você não saiba onde está: vídeo, áudio, texto, imagens, tudo usando o poder da IA para fazer pesquisas contextuais e semânticas em análises baseadas nesses dados registrados.

Enquanto alguns especialistas em segurança estão preocupados, alguns usuários “comuns” que usam os computadores apenas para tarefas relacionadas a produtividade se mostraram empolgados com as possibilidades. Mas afinal: o Recall realmente pode mudar a forma com que as pessoas interagem com os computadores para melhor, ou simplesmente é uma ferramenta com muito mais contras do que pros?

Como o Recall funciona?

A Microsoft gastou um bom tempo na apresentação dos Copilot+ PCs falando sobre o Recall e os vários casos de uso que ele pode ter, sempre destacando apenas o lado positivo, como já era de se esperar numa apresentação de produtos. 

Basicamente, o Recall treina uma inteligência artificial que roda localmente no seu computador utilizando sua NPU e um espaço dedicado no armazenamento, supostamente sem enviar dados para fora, utilizando as capturas de tela como base para entender tudo o que você faz no computador. Quando você quiser relembrar de algo, basta perguntar ao Recall, que ele te informa de maneira contextualizada.

As capturas de tela são feitas a cada 5 segundos e incluem informações sensíveis, como número de cartão de crédito, dados profissionais privados, senhas, acesso a bancos e muito mais. Usuários podem escolher aplicativos para não serem capturados, além disso, o modo privado do navegador Edge também não é gravado.

Com muita frequência, especialmente no que tange produtos envolvendo processamento de dados, como o Recall, é necessário fazer um balanço entre prós e contras, e entender se os dados que você está entregando a essa ferramenta, voltam para você como vantagem de uma forma proporcional.

Andreas Theodorou, editor chefe da “Tech Software at Future”, expert em privacidade digital e ferramentas de segurança, escreveu um artigo para o popular site “Tech Radar” levantando alguns pontos relacionados ao Recall que vale a pena avaliar.

As preocupações começam com coisas mais simples, como um maior uso de disco, até sobre o quão privado e seguro o Recall pode ser, considerando a quantidade monstruosa de informações que ele pode adquirir.

Nos computadores Copilot+, o Recall vem ativo por padrão, o usuário então pode escolher fazer configurações nele se quiser, adicionar e excluir aplicativos ou até mesmo desligar pelo painel de controle do sistema, na sessão de privacidade.

Como o próprio Andreas comenta no artigo, “a decisão deveria ser feita pelo indivíduo, e não pelo Windows, ter ele ativo imediatamente, apenas significa que pessoas não informadas não poderão agir sobre isso”.

O Recall é seguro?

Quem viu a apresentação e leu os FAQs pode ter reparado que a Microsoft afirma que o processamento dos dados é feito localmente e os seus dados não saem do seu computador. Graças a NPU, isso realmente pode ser feito, pelo menos até um certo nível, então acaba não sendo só mais um argumento para vender novos computadores, mas infelizmente, não é como se esse fato permitisse uma tranquilidade plena.

Tecnicamente, mesmo que seja para criar uma sensação de conforto em torno da ferramenta, o fato dos dados serem processados localmente e os snapshots não serem enviados para a Microsoft é o que separa essa ferramenta de se tornar uma catástrofe distópica. 

Segundo a Microsoft, não só os dados ficam somente no seu PC, como eles são criptografados. Os snapshots do Recall usam tecnologias como o BitLocker, presente no Windows 11 PRO e Enterprise para fazer a criptografia. Essas são versões específicas do Windows não presentes em computadores de consumo mais comuns, que geralmente vem com o Windows 11 Home.

Será que a criptografia do Recall é só válida nos Windows mais caros e os usuários da versão Home não terão acesso a ela? Ou será que mesmo no Windows Home os usuários vão ter a criptografia, sendo uma exceção à regra?

Perguntas que ainda não tem uma resposta clara, teremos que esperar esse recurso entrar em uso de fato para termos certeza de como ele funcionará. Criptografia por si só não assegura a privacidade, seria interessante ter mais detalhes sobre como isso é feito de verdade para entender sobre qual nível de segurança se trata, já que o próprio BitLocker pode ser vulnerável sob certas circunstâncias.

Convenhamos que acessar informações que registram absolutamente tudo o que o usuário fizer num computador por capturas de tela, incluindo seus contatos, conversas, históricos, dados bancários, senhas, aplicativos, é o sonho de qualquer criminoso digital. Em termos de privacidade, pelo que a Microsoft mencionou, apenas o Edge em sua aba anônima e conteúdos com DRM, como vídeos da Netflix, não serão registrados por padrão pelo Recall

O restante, incluindo os outros navegadores e qualquer outro tipo de conteúdo que não esbarre em DRM, serão registrados, dentre eles, dados sensíveis, como senhas e informações bancárias, algo que inclusive está previsto no FAQ da ferramenta.

Computadores públicos com o Recall ativado podem ser extremamente problemáticos, especialmente se as pessoas que forem usar e não souberem que a função está ativa, exponham informações sensíveis de forma não intencional.

Se a sua família compartilha um computador, também pode ser um problema de privacidade, se o seu computador for hackeado ou se o seu laptop for roubado, agora você não precisará se preocupar somente com as suas senhas, muito mais coisa está em risco.

Não podemos considerar que todas as pessoas que vão usar esse recurso sabem se proteger online, então você precisa sempre pensar no pior cenário possível: laptops sem senha, com login automático, pessoas que não usam autenticação em dois fatores e assim por diante.

Já imaginou o Recall gravando todos os dados médicos de diversos pacientes em computadores de hospitais ou clínicas onde existe muita informação sensível?

Confiança é algo muito importante, será que podemos confiar que um produto com essas capacidades nunca será usado de forma predatória, seja por hackers, governos ou a própria Microsoft? As promessas do presente, podem mudar no futuro.

Será que devemos confiar em um serviço cujos termos de uso podem mudar com o tempo para afrouxar um pouco as regras, permitindo o uso de dados? Se o usuário já não leu os termos da primeira vez, por que ela leria na segunda?

Se o Recall realmente funcionar bem, existe uma grande chance de lançarem uma versão enterprise, vendida para empresas, que podem usar essa tecnologia para monitorar os colaboradores. Discussões éticas sobre isso sempre aparecem, mas talvez essa seja a primeira vez que uma ferramenta desse tipo vem pré-instalada.

Já que o Windows tem código fechado, como saber se realmente nada é enviado para fora do sistema? 

Se essa ferramenta existe pré-instalada no sistema operacional das pessoas e a Microsoft consegue ligar e desligar funções do seu computador remotamente, o que impediria de uma ordem judicial do estado obrigar a coletar dados dos usuários secretamente?

Situações assim são obviamente hipotéticas, beirando Black Mirror, mas a simples ideia da possibilidade pode deixar algumas pessoas desconfortáveis. A Microsoft está ciente disso: avaliamos um relatório para investidores que possui uma sessão sobre potenciais riscos e problemas que a Microsoft pode precisar lidar.

Nas páginas 56 e 57, é falado sobre os problemas relacionados ao uso de dados pessoais e como isso pode acabar gerando processos legais ou danificar a reputação da empresa. Ainda comenta sobre como o desenvolvimento de tecnologias relacionadas a IA ainda pode sofrer mudanças legislativas e está sujeito às reações negativas do público, o que poderia afetar o faturamento da empresa.

A simples existência desses dados já cria potenciais riscos para a Microsoft em termos de ações legais, e sobre o uso de IA, ainda não se sabe exatamente qual é o limite. As leis relacionadas a uso de dados, direitos autorais e uso de recursos por IA continuam sendo escritas e serão certamente modificadas no futuro.

Está claro que a Microsoft não quer perder o bonde novamente, como aconteceu com os smartphones: a IA parece ser a nova galinha dos ovos de ouro. As empresas estão colocando inteligência artificial no nome dos produtos até quando não faz sentido, só pelo marketing, o que dirá então a Microsoft, que é a principal investidora da OpenAI, a empresa por trás do famoso ChatGPT.

Numa carta aberta a potenciais investidores do ano passo, o CEO da empresa, Satya Nadella, comenta sobre como a intenção é basicamente colocar IA em tudo que for possível, e é exatamente isso que estamos começando a ver agora.

O Recall não é o primeiro

A Microsoft, no entanto, não é a única empresa tentando oferecer algo como o Recall para as pessoas, numa pegada um pouco diferente, há algum tempo mostramos 17 ferramentas de produtividade diversas que usam inteligência artificial.

Uma delas se chama Rewind, na época, ele funcionava somente no macOS, mas parece que o suporte foi expandido. A proposta do Rewind é a mesma do Recall, ou seja, tecnicamente não é uma invenção da Microsoft, o conceito já existia, mas a premissa de uso é um pouco diferente.

A estrutura técnica é semelhante, porém, não atrelada ao sistema operacional nativamente, como no Windows. O Rewind é algo que o usuário escolhe usar deliberadamente, e diferente do Recall, não é necessário uma NPU para tirar proveito das funcionalidades.

Uma estratégia de venda de computadores?

Será que todas essas novidades relacionadas à IA estarem disponíveis somente para a nova geração de PCs não é apenas uma técnica de marketing para vender novos computadores? 

Para ser justo, NPUs são de fato muito melhores para tarefas envolvendo IA do que CPUs tradicionais ou até mesmo GPUs, mas o funcionando Rewind mostra que essa foi uma escolha deliberada da Microsoft. Se a intenção fosse fazer funcionar em qualquer máquina que já tenha Windows 11, ainda que de forma mais lenta, certamente poderia ser feito. Isso, na verdade, pode estar relacionado com algo que encontramos nos relatórios financeiros da Microsoft.

Uma sessão específica fala sobre o modelo de negócios da empresa, ali é mencionado que apesar da Microsoft ter transacionado para software como serviço nos últimos tempos, uma quantidade significativa da receita ainda vem de licenças do Windows e parceiros comerciais que vendem computadores com o sistema.

Apesar da receita relacionada à venda de dispositivos da Microsoft, como o Surface ter caído, os valores relacionados ao Windows OEM aumentaram cerca de 8% em relação ao mesmo período do ano anterior. Toda a sessão de computação pessoal representa um belo de um valor, em geral, cresceu 13%. Ou seja, continuar vendendo computadores ainda é uma preocupação, e criar ferramentas e recursos novos que dão um empurrãozinho nas vendas, é uma tática comum.

No documento, eles também mencionam que os competidores costumam dominar o mercado mobile e uma parte do público está deixando de usar PCs com Windows para fazer certas atividades. Como a Microsoft não tem domínio no mobile, é preciso que as pessoas continuem usando Windows de alguma forma. Isso mais uma vez reforça o interesse em criar um “novo tipo de PC”, os “Copilot+”, talvez na intenção de fazer as pessoas comprarem um novo computador desses no lugar de um Macbook ou um iPad.

Recentemente vimos também a Microsoft demonstrando intenções de lançar uma loja para sistemas operacionais móveis também, reforçando a ideia de que quer competir nesses segmentos, mesmo que pelo segundo lugar.

Testando os limites

Esse é um momento importante sobre a integração de tecnologia com recursos de IA, onde várias empresas, incluindo a Microsoft, estão testando os limites técnicos e até mesmo éticos do uso dessa tecnologia.

O conceito de bem e mal é moldado conforme a nossa percepção. Você certamente consegue pensar em coisas que eram completamente aceitáveis e até vistas como boas em uma determinada época, que hoje em dia são incorretas, ou até viraram crimes.

Parece que certas tecnologias envolvendo IA andam bem no limiar da nossa compreensão. Conforme coisas novas e fantásticas são anunciadas neste campo, é muito comum a gente ficar com sentimentos mistos, de deslumbre e preocupação.

Mesmo boas ideias, cercadas de boas intenções, podem ter um desenrolar bem problemático, não tem realmente como saber onde as coisas vão parar. No fim das contas, tentar manter o equilíbrio é mais difícil do que parece.

Agora que você sabe sobre alguns riscos envolvendo o Recall, que tal descobrir para onde os principais sistemas operacionais, Windows, Linux e macOS enviam seus dados?