A tecnologia de rastreamento de olhos é o Santo Graal da publicidade

Avi Bar-Zeek passou quase 30 anos trabalhando com realidade aumentada/realidade virtual/realidade mista [AR/VR/MR], ajudando empresas como Disney, Microsoft, Amazon e Apple a tomar decisões sobre como destrancar potencial positivo de novas tecnologias, enquanto minimizavam as partes negativas. Bar-Zeev ajudou a começar o projeto original HoloLens na Microsoft. Nada nesta matéria deve ser lida como anúncio de produtos ou ideias dessas empresas.

Humanos evoluíram para ler emoções e intenções em grande parte através dos olhos. A tecnologia moderna de rastreamento de olhos pode ir além, prometendo novas maravilhas para a interação entre humanos e computadores. Mas essa tecnologia também aumenta o perigo para sua privacidade, liberdades civis e liberdade de agir.

Incluídos em óculos de VR e AR, rastreamento de olhos vai, num futuro próximo, permitir que empresas coletem suas respostas íntimas e inconscientes para estímulos do mundo real e aqueles que eles criam. Esses insights podem ser usado para nosso benefício. Mas também serão vistos como entradas inestimáveis para negócios de propaganda, que vão aprender, modelar, prever e manipular nosso comportamento muito além de qualquer coisa que vimos até hoje.

Trabalho com Computação Espacial avançada (também conhecida como AR, VR, MR, XR) há quase 30 anos. Em 2010, tive a sorte de ajudar a começar o projeto HoloLens na Microsoft. Os primeiros óculos para um capacete de realidade aumentada incluíam rastreamento de olhos. Minha motivação pessoal era a visão para a próxima grande interface de usuário, uma que dispense “janelas” e “mouse” e deixe os humanos agirem e interagirem naturalmente com nosso mundo 3D.

Fico feliz de ver alguma forma dessas ideias inclusas no HoloLens v2, e também nos capacetes da Magic Leap e Varjo, para citar alguns. Tenho visto matérias aclamando a próxima cornucópia de dados de usuários por rastreamento de olhos para vários negócios. Mas há uma parte importante da conversa que ainda não chegou à atenção do público:

Como podemos promover os melhores usos enquanto minimizamos os usos prejudiciais?

Agora é hora de começar a criar conscientização e expectativas. Eventualmente, acredito que as empresas vão ter que conceder a um governo progressista em algum lugar do mundo (mais provavelmente na Europa) que dados de olhos são como outros dados de saúde e biometria, significando que eles precisam ser privados e protegidos pelo menos tão bem quanto nossos registros médicos e impressões digitais.

Nossa retina fica no fundo do olho, transformando a luz que recebe em sinais que nosso cérebro pode interpretar, é isso o que chamamos de “ver”. Nossa retina tem várias áreas especializadas, que evoluíram para nos ajudar a sobreviver.

As partes de maior resolução, chamadas “fóvea”, cobrem apenas uma pequena parte de cada retina, alcançando cerca de cinco graus a partir do centro. A maior parte restante é chamada de “visão periférica”, indo cerca de 220 graus pelos dois olhos. As áreas periféricas são as melhores para ver movimentos e padrões-chave como horizontes, sombras e até outro par de olhos nos observando. Mas na periferia, surpreendentemente, vemos poucas cores e detalhes.

Todas as palavras dessa página, espero, parecem bem definidas. Mas seu cérebro está te enganando. Você só consegue focar claramente em uma ou duas palavras de cada vez.

Para manter a ilusão de detalhamento, nossos olhos passam rapidamente por tudo, escaneando como lanternas no escuro, construindo um retrato do mundo com o tempo. Os detalhes periféricos são principalmente lembrados ou imaginados.

Esses movimentos rápidos dos olhos são chamados “movimentos sacádicos”. Seus padrões podem dizer muito a um computador sobre o que vemos, como pensamos e o que sabemos. Eles mostram do que estamos conscientes e no que estamos focando em dado momento. Além dos movimentos sacádicos, nossos olhos também fazem movimentos de “perseguição lenta”, por exemplo quando rastreando um carro em movimento ou uma bola de basebol. Seus olhos fazem pequenas correções com frequência, sem você notar.

Computadores podem ser treinados para rastrear esses movimentos. A abordagem mais comum de rastreamento dos olhos usa uma ou mais pequenas câmeras de vídeo apontadas bem perto dos olhos. O software de visão do computador processa o vídeo em tempo real para encontrar suas pupilas, computando uma direção para cada olho. Vários métodos acrescentam luz infravermelha com pequenos LEDs próximos, cujo reflexo é capturado pelas câmeras. Isso funciona porque seus olhos arqueiam mais ao redor da córnea. Os reflexos vão deslizar de maneira previsível. Outras abordagens de rastreamento dos olhos medem os sinais elétricos dos músculos que movem os olhos. Outros métodos ainda medem precisamente a distância entre o sensor e a superfície do olho, novamente confiando no arqueamento natural.

Os melhores sistemas conseguem distinguir entre dois ou mais alvos visuais que ficam apenas meio grau separados, como medido por linhas imaginárias desenhadas de cada olho. Mas mesmo rastreamento do olhos de baixa precisão (1, 2 graus) podem ajudar a inferir intenção e/ou saúde do usuário. Tamanho, peso e energia exigidos pelo hardware e software de rastreamento de olhos colocam mais limites para a adoção pelos consumidores.

Se você reprime seus movimentos sacádicos, como no experimento acima, você começa a entender quão limitada nossa visão periférica realmente é. Focando no ponto central, nosso cérebro não consegue manter a ilusão de estar “vendo” tudo. Nossa memória da visão periférica começa a descarrilar rapidamente, causando uma aparência distorcida até para as pessoas “mais sensuais do mundo”.

Acontece que nossos olhos também podem ser manipulados externamente a um grau surpreendente. Mágicos usam isso para nos distrair de seus truques de mão. Como os movimentos sacádicos nos ajudam a absorver novos detalhes, qualquer movimento em nosso ambiente local pode atrair nosso olhar. Na natureza, detectar movimentos assim pode ser vital para a sobrevivência. Mais interessante, nossos olhos podem naturalmente acompanhar o próprio olhar do mágico, como para ver o que ele está vendo, seguindo dicas sociais humanas (também chamada “atenção compartilhada”).

Atrair seus olhos também é útil para a narrativa, onde os diretores de cinema não podem nos mirar e focar como uma câmera. Eles contam que vamos ver o que eles querem que vejamos em cada tomada.

Designers de interface visual e de usuário trabalham de maneira similar para criar sites e aplicativos, tentando construtivamente guiar nosso olhar, para podermos notar os elementos mais importantes primeiro e entender que ações tomar mais intuitivamente do que se tivéssemos que escanear tudo e construir um mapa.

Ainda mais impressionante, ficamos praticamente cegos quando nossos olhos estão em movimento sacádico (ou o mundo pareceria borrado e confuso). Esses movimentos sacádicos naturais acontecem uma vez por segundo em média. Quase nunca notamos.

Durante essa curta cegueira, pesquisadores poder oportunisticamente mudar o mundo ao nosso redor. Como mágicos, eles podem trocar um objeto por outro, remover alguma coisa, ou rotacionar um mundo (virtual) inteiro ao nosso redor. Se eles simplesmente derrubassem um objeto, você provavelmente notaria. Mas se fizerem isso enquanto você pisca ou está num movimento sacádico, provavelmente você não vai notar.

Essa última parte pode ser útil para futuros sistemas de realidade virtual, onde você tipicamente está usando um capacete no escritório ou na sua sala. Se você tenta andar numa linha reta em VR, provavelmente vai trombar com uma mesa ou a parede na vida real. Sistemas “guardiães” tentam evitar isso te avisando visualmente para parar. Com “redirecionamento de caminhada”, você pode acreditar que está andando reto, enquanto na verdade está sendo atraído para um caminho circular mais seguro pela sua sala, usando uma série de pequenas rotações e distrações visuais dentro do capacete com óculos. O vídeo abaixo demonstra como isso funciona.

Em outro exemplo da “vida real”, podemos ver o apresentador trocar de lugar com outra pessoa, no meio de uma conversa, numa rua pública. Com distrações adequadas, o participante do experimento não nota. A questão é que vemos muito menos do que achamos que vemos.

Há usos positivos e benéficos para o rastreamento de olhos para garantir seu uso continuado, com segurança suficiente.

Para começar, rastreamento de olhos promete fundamentalmente aumentar as capacidades e baixar as exigências de energia, custo e peso para novos sistemas de AR e VR. O objetivo é (como com a retina real) fornecer uma maior resolução apenas para onde você está olhando.

Rastreamento de olhos também é muito promissor para input natural de usuários (NUI em inglês). Se sabemos no que você está focando, podemos mostrar as ações UI mais relevantes em vez de colocar menus complicados, ou pedir a você para alcançar uma rede de botões com um controle de mão. Por exemplo, se você olha para uma lâmpada, as ações mais prováveis são ligá-la ou desligá-la.

O potencial do rastreamento de olhos de parecer com leitura de mente é impressionante. Uma das patentes da Microsoft era um óculos que podia mudar sua receita de perto para longe baseado no que você estava olhando, digamos, um celular ou uma placa de trânsito. O headset da Magic Leap muda os planos de foco “perto” e “longe” para seu conteúdo AR. O óculos do dia a dia ideal mudaria sua receita para o mundo real de acordo com seu “foco” atual.

Mais superpoderes estão sendo amplamente discutidos. Por exemplo, outra patente de 2010 incluía a ideia de que nossos óculos podem detectar se você está tentando ler algo mais longe e aumentar a visão para você.

O uso mais comum para essa tecnologia hoje e estudar e melhorar decisões de marketing. O cenário típico tem um participante usando um aparelho de rastreamento de olhos num supermercado real. Um pesquisador grava como os olhos do participante se movem pelas prateleiras para determinar como, o quê e quando o participante nota vários detalhes de produtos. Não é surpresa que as pessoas queiram recriar esse cenário agora em VR para conseguir resultados mais rápidos, com maior controle das variáveis.

Esse uso da tecnologia seria particularmente invasivo, se o participante não consentir primeiro com como os dados estão sendo coletados, usados e armazenados. Com consentimento informado e manejamento apropriado dos dados, isso fica dentro dos limites éticos. O problema com o consentimento informado é que ele exige uma verdadeira compreensão do participante. Clicar num botão de um formulário não é consentimento informado, especialmente se nem vamos ler direito o texto.

Rastreamento de olhos também pode ser útil para diagnosticar autismo em crianças pequenas, já que os padrões de movimento dos olhos parecem se desviar dos de crianças neurotípicas. Crianças autistas podem escanear mais seu ambiente e focar menos em rostos. Rastreamento de olhos pode ajudar a abordar algumas dessas diferenças cognitivas enquanto essas crianças se tornam adultos.

Algumas doenças podem ser diagnosticadas medindo movimentos sacádicos e resposta de pupila, incluindo esquizofrenia, Parkinson, DDA e concussões. Esse é um território do tricoder do Star Trek.

Há um corpo de pesquisa crescente indicando que dilatação da pupila, medida diretamente por várias abordagens de rastreamento de olhos, pode indicar níveis de interesse, emoção, interesse sexual e mais, no que estamos olhando.

Como uma abertura de câmera, a íris humana serve principalmente para regular a quantidade de luz atingindo a retina. Mas, depois de controlar esses níveis de luz, o tamanho da pupila e sua taxa de mudanças conta a história dos estados emocionais internos e cognitivos de uma pessoa. Dilatação da pupila é um reflexo autonômico, significando que é muito difícil de controlar conscientemente.

Pense no teste “Voight-Kampff” do Blade Runner de PK Dick. Com a tecnologia atual de rastreamento de olhos, isso não está tão longe da realidade, exceto que humanos artificiais podem ser mais facilmente programados para passar no teste de “empatia”, onde humanos sociopatas podem falhar miseravelmente.

Rastreamento de olhos se torna ainda mais revelador quando combinados com outros sensores, como eletroencefalograma para ondas cerebrais (revelando estados da mente), resposta galvânica da pele (ansiedade, estresse), pulso e pressão sanguínea (raiva, excitação). Esses sensores podem revelar de maneira geral nosso estado emocional presente, mas não os gatilhos externos. O olhar pode revelar uma boa quantidade de ambos.

Há usos ainda melhores para rastreamento de olhos em pesquisa atualmente em várias partes do mundo. Mas ainda são primordiais.

Algumas empresas de VR já estão coletando nossos dados de movimentos corporais. Isso pode ajudá-las a estudar e melhorar a experiência de seus usuários. Já trabalhei em projetos que faziam o mesmo, mas sempre com consentimento informado. Mas há um perigo aí para nós e para essas empresas: que esses dados sejam usados de maneira inapropriada. E não compartilhando exatamente o que está sendo armazenado, como está sendo armazenado, protegido e usado, nunca saberemos.

As empresas dizem “confie em nós”, e perguntamos coletivamente “por quê?”

Algoritmos de aprendizado de máquinas podem te identificar de maneira única pelos seus movimentos em VR (ou seja, jeito de caminhar, gestos de cabeça e mãos). O Dr. Jeremy Bailenson da Stanford VR escreveu sobre como esses tipos de algoritmos podem ser usados para e contra nós. Parece que os padrões das nossas íris e vasos sanguíneos nas retinas são ainda mais únicos.

Independente de quão mais fácil você é identificado, se uma empresa retém sua identidade real (ou seja, nome, cartão de crédito, CPF) e seus dados biométricos de identificação, então as promessas de anonimato são temporárias na melhor das hipóteses. Te reidentificar se torna algo trivial.

A Microsoft fez um bom caso para sua Iris-ID para identificar positivamente o usuário no HoloLens2. Sistemas biométricos tipicamente começam computando uma “assinatura digital”, em vez de armazenar imagens cruas. Se a assinatura dos olhos combina com a assinatura gravada, então você é você. Considerando que sua assinatura de íris é única e continua protegida, isso seria melhor que senhas de acesso.

A melhor prática de segurança que conheço é armazenar essas assinaturas no aparelho, num “cofre” criptografado no hardware. Um hacker teria que roubar e hackear seu aparelho físico, o que seria um processo lento e complicado. Isso torna explorações, especialmente em massa, mais difíceis de acontecer. Optar por copiar esses dados na nuvem poderia acrescentar alguma conveniência para os usuários (ou seja: backup e restauração de sistemas, login entre aparelhos). Mas facilitaria obter sua assinatura e fazer um “replay” dela na sua ausência para se passar por você.

Resetar uma senha é fácil. Mudar seus olhos é difícil. Só uma brecha seria o suficiente para foder com a sua vida. Então qualquer empresa que esteja nesse caminho deve usar a segurança mais severa possível.

A Microsoft e a Magic Leap tornaram relativamente fácil para terceiros desenvolverem aplicativos que usam dados do olhar com seus aparelhos. Isso é bom para desenvolvedores explorando novos paradigmas de interação, mas também representa uma preocupação séria de privacidade.

A Microsoft não quis comentar para esta matéria. A Magic Leap não respondeu aos nossos pedidos de comentário. Um porta-voz da Oculus respondeu: “Não temos tecnologia de rastreamento de olhos em nenhum dos nossos produtos sendo vendidos atualmente, mas é uma tecnologia que estamos explorando para o futuro”.

Vamos considerar que nossos aparelhos de AR tenham câmeras frontais para “ver” o que vemos, e AI para classificar, reconhecer e categorizar o objeto ou pessoas que estamos vendo (seja os serviços Google Cloud AI, Amazon Rekognition, Azure CV). Preocupações similares se aplicam a aparelhos de VR puros, mas os objetos virtuais em cena já são conhecidos.

Um terceiro desenvolvedor ou fabricante de hardware poderia capturar como você olha para qualquer coisa; seja de passagem, ponderando, fixado ou desviando o olhar rapidamente; talvez até se você ficou interessado, excitado, envergonhado ou entediado (talvez usando dilatação da pupila). Eles poderiam ficar sabendo sua orientação sexual, medindo seus padrões de atenção quando observando várias pessoas. Eles poderiam descobrir por que amigos e colegas de trabalho você sente emoções (ou seja: interesse, atração, frustração ou até inveja), que características físicas específicas te atraem (para onde você olhou?), seu nível de confiança (você desviou os olhos rapidamente?) e até seu status de relacionamento (seu coração bateu mais rápido?). Pulso, por exemplo, pode ser colhido das mesmas câmeras frontais. Sensores adicionais significam mais informações.

Uma empresa poderia aprender como considerar qualquer ideia representada visualmente: carros, livros, bebidas, comida, sites, cartazes políticos e assim por diante. Ela ficaria sabendo o que você gosta, o que odeia, ou o que simplesmente não chama sua atenção.

Seus movimentos dos olhos são na maior parte involuntários e inconscientes. Se uma empresa está coletando dados, você não vai saber. A principal limitação dessas atividades hoje é o fato que capacetes de AR não estão prontos ainda para serem usados o dia todo, em qualquer lugar. Isso sem dúvida vai mudar com o tempo. Mas as práticas de segurança vão conseguir ficar um passo além da curva de adoção?

Uma mitigação fácil seria compartilhar dados do olhar com um aplicativo só quando o usuário está olhando para aquele aplicativo. Essa não é uma solução completa, e é preciso considerar que você não deveria estar compartilhando esses dados crus nunca. Claro, até uma empresa irresponsável pode prometer não armazenar ou compartilhar dados crus, enquanto ainda retém dados derivados de alto nível, que são mais valiosos.

Esses “metadados” são basicamente o modelo comportamental ou “perfil psicográfico” de como você provavelmente vai responder a vários estímulos. Eles representam um gráfico semântico das nossas personalidades e uma previsão de seu comportamento futuro. É o mais próximo que podemos imaginar do seu eu digital.

Se você duvida desse resultado, assista esse vídeo sobre as ameaças atuais. Tristan Harris, ex-eticista de desgin do Google e cofundador do Center for Humane Technology, se refere a esses modelos comportamentais como “bonecas vudus” pela extensão em que eles podem te controlar remotamente.

Esse modelo comportamental é usado para te fazer voltar sempre, e também para colocar as propagandas ideais na sua frente. Sabemos que uma propaganda que leva a uma transação verificada é muito mais valiosa que aquelas que não levam. Só provar que uma propaganda criou uma impressão já é valioso, considerando todo o barulho ao redor. Há bilhões de dólares envolvidos nisso.

Você já procurou um produto no Google e depois viu propagandas do mesmo produto por dias ou semanas? Você já viu esses mesmos anúncios continuarem aparecendo mesmo depois que você comprou o tal produto?

Isso acontece porque o Google não sabe ainda que você tomou uma decisão, comprou o produto, ou que não está mais interessado (ou seja, era um presente?).

Um fornecedor de aparelhos AR provavelmente saberia tudo isso em tempo real. “Fechar o loop” significa saber quão bem certa propaganda chamou a atenção. Significa saber o suficiente sobre você para te mostrar anúncios na hora certa que serão mais eficientes. Tal empresa teria mais oportunidades para fazer dinheiro com suas escolhas – e suas indecisões – servindo com eficiência esses insights e impulsos para aqueles que querem te vender coisas, no momento e lugar exatos.

Vale a pena apontar que publicidade não é inerentemente má. Alguns anúncios te mostram produtos e ideias que você pode realmente gostar, oferecendo assim benefício mútuo. Mas muita da publicidade hoje já é manipuladora e enganosa, mesmo que grosseiramente inepta. A velha piada é que metade de todo orçamento de publicidade é desperdiçado, mas ninguém sabe qual metade. Com rastreamento de olhos, os publicitários podem descobrir isso agora.

Digamos que uma empresa não só coleta suas respostas intrínsecas através dos seus olhos, mas também experimenta ativamente com você para desencadear essas respostas quando quiser. Considere o que pegaram o Facebook fazendo em 2014, depois de manipular os feeds de notícia de sua rede para medir as reações dos usuários.

Você notaria se um estranho de repente fosse trocado por outra pessoa? Considere o vídeo acima, onde as pessoas não notam que o apresentador foi trocado no meio de uma conversa. Considere a pesquisa (bem-intencionada) de “redirecionamento de caminhada”, que usa distrações visuais para atrair o olhar. Essas coisas efetivamente escondem como mudam o mundo. Com rastreamento de olhos, AR e VR, essas técnicas podem ser usadas contra você muito facilmente.

Conteúdo de experimento será incorporado no mundo, como acessórios, fundos, ou até objetos de atenção. Algumas empresas vão medir e registrar nossas respostas emocionais inconscientes para tudo isso. Para AR, isso significa colocar objetos virtuais no mundo além de classificar para o que mais olhamos. Sites hoje rodam o que chamamos de experimentos “A/B”, onde experimentam diferentes conteúdos ou características para diferentes subpopulações para comparar resultados.

Mas aqui, considerando nossa cegueira durante piscadas e movimentos sacádicos, um algoritmo inteligente pode repetidamente trocar coisas ao seu redor, em tempo real, testando suas reações A/B interativamente. Se você tentar contornar isso memorizando parte do que vê, o algoritmo pode detectar seu foco atual e mudar outra coisa no lugar.

Em pouco tempo, o perfil de experimento será muito mais detalhado que aprendizado estritamente ad hoc. Você foi mapeado e digitalizado.

Pare pra pensar em alguma coisa que te fez sentir inveja, arrependimento, raiva ou felicidade. Pode ser alguma coisa da sua vida social, família, trabalho, política ou qualquer mídia que realmente te emociona. Talvez seja uma letra de música que combina perfeitamente com seu humor. Esses detalhes específicos provavelmente são diferentes pra todo mundo. O que importa é se um gatilho emocional te impulsionou pra fazer alguma coisa.

Agora imagine essa sincronia natural, o momento chegando para uma diretiva explícita e escondida te motivar a comprar alguma coisa, votar a favor ou contra alguém, ou apenas ficar em casa. E se eles aprenderem exatamente o quê, quando e como jogar com a emoção certa para os melhores resultados?

Quando respondemos emocionalmente, perdemos o véu de racionalidade e estamos no ponto em que somos mais facilmente manipulados. Alguém só precisa saber que botões apertar para cada um de nós, então medir e otimizar os resultados com o tempo, fechando o loop.

O problema aqui é que essas empresas que vivem e morrem por renda de publicidade vão precisar continuar aumentando seus lucros para manter os investidores felizes. Os dois jeitos mais óbvios de fazer isso são a) acrescentar usuários, ou b) fazer mais dinheiro com cada usuários.

Eventualmente, sem forças reguladoras, essas empresas podem tomar decisões que prejudicam suas próprias seguranças. É o modelo de negócio, não a ética dos empregados, que importa.

Temos razão em nos preocupar com seguradoras sabendo nossas suscetibilidades genéticas. Elas podem tentar negar cobertura ou cobrar mais de pessoas com mais chances de ficar doente. Temos razão em nos preocupar com nossos dados de saúde sendo protegidos contra mineração e abuso de empregadores, governos ou em situações sociais.

Por que deveríamos nos preocupar menos aqui, quando informação psicológica lucrativa pode ser usada contra nós e sem nossa habilidade de dizer não?

Em Matrix, AIs fictícias alteravam o mundo virtual para avançar seus objetivos opressores. Mas mesmo os Agentes não usavam as técnicas mais sofisticadas que discutimos aqui. Na vida real, as pessoas não serão usadas como pilhas. Temos mais chances de ser plugados em nódulos computacionais abstratos, nossa atenção e decisões de compra canalizando o fluxo de trilhões de dólares em comércio; nosso livre arbítrio disponível para os compradores mais “persuasivos”.

Algumas pessoas vão ler essas ideias e salivar com o potencial político e de fazer dinheiro desse novo mundo de rastreamento de olhos. Há bilhões e bilhões de dólares pra lucrar aqui.

Outras pessoas podem ler esta matéria e exigir proteções hoje. Esse é exatamente o tipo de coisa que muitas vezes exige intervenção do governo.

Mas algumas pessoas vão perguntar sabiamente: “o que posso fazer para ajudar?”

O jeito mais fácil de evitar intromissão do governo ou sofrimento desnecessário é vivermos sob um conjunto de regras em se tratando de rastreamento de olhos, assim como dados de saúde e biométricos. Essas regras não proíbem a maioria dos bons usos, mas podem ajudar a reduzir os maus.

Aqui vai um ponto de partida para algumas das políticas que todas as empresas deveriam seguir:

- Dados de rastreamento de olhos e metadados derivados são considerados dados de saúde e biométricos, e devem ser protegidos como tal.

- Dados crus de olhos e imagens de câmeras não devem ser armazenados ou transmitidos. Dados altamente sensíveis, como assinatura de identificação de íris, podem ser armazenados nos aparelhos do usuário em cofres criptografados, protegidos por hardware especial contra hackers. Proteja isso a todo custo.

- Dados derivados de biometria, se salvos, devem ser criptografados no aparelho e nunca transmitidos sem consentimento informado. É preciso haver uma cadeia clara de custódia, permissão, criptografia, autenticação, autorização e contabilidade (AAA) para onde quer que os dados vão (o ideal é que para lugar nenhum). Esses dados nunca devem ser combinados com outros dados sem consentimento informado adicional e a mesma segurança verificável de ponta a ponta.

- Aplicativos só podem receber dados de olhar, se é que devem, quando o usuário olha diretamente para o app, e devem ser verificáveis seguindo as mesmas regras.

- Modelos comportamentais existem apenas para benefício dos usuários que representam. Os modelos nunca devem ficar disponíveis, ou serem usados, por terceiros dentro ou fora dos aparelhos. Seria impossível para um usuário consentir apropriadamente com todas as ameaças desconhecidas que surgem de compartilhar esses modelos.

- EULAs, TOS e acordos em pop-up não fornecem consentimento informado. Empresas devem garantir que seus usuários/clientes estejam conscientes de quando, por quê e como seus dados pessoais são usados; que cada vez o usuário concorde individualmente, depois de compreensão total; e que os usuários possam realmente deletar dados e revogar permissões, completamente, sempre que quiserem.

- Não prometer anonimato no lugar de segurança real, especialmente se o anonimato pode ser revertido. Anonimato não evita manipulação. Bucketing ou outros métodos de micro-targeting ainda podem permitir aplicações manipuladoras de dados sensíveis de usuários em grupos.

- É preciso dar aos usuários um jeito fácil de rastrear “por quê” qualquer conteúdo é mostrado a eles, o que pode expôr qualquer tipo de manipulação.

Peço que todas as empresas desenvolvendo soluções de Computação Espacial adotem princípios como esses e se comprometam com eles publicamente.

Se você trabalha para uma dessas empresas, imagine ter que fazer um grande recall para seu novo hardware XR que tem uma proteção muito relaxada para dados sensíveis de usuários. Imagine ter uma ação coletiva te assombrando por anos, especialmente se você tinha consciência das questões e não agiu.

Mitigar essas questões com antecedência será muito mais barato em comparação. Os princípios acima são pensados para permitir que empresas continuem competindo e se diferenciando, enquanto fornecem uma base que não deve ser rebaixada.

Então tenha reuniões para debater essas questões. Pode me perguntar, ou perguntar para qualquer especialista em privacidade, XR e AI, suas dúvidas sobre as várias ameaças e soluções.

Para os consumidores, primeiro aconselho a compartilhar esta matéria (ou outra melhor) para garantir que seus amigos estejam tão informados quanto você. Faça outras pessoas se interessarem agora, antes que a questão se misture com política e vire uma bola de neve.

Segundo, você pode decidir, como eu, evitar totalmente usar qualquer produto que não siga clara e verificavelmente essas proteções. O perigo é que quando seus dados estiverem gravados e usados sem seu consentimento, você perderá o controle para sempre. O risco não vale a pena.

Terceiro, ajude as empresas que fazem os produtos relevantes a se conscientizarem dessas questões. Diga a elas que você se importa e está observando. A maioria das empresas só precisam saber que você está votando com seu bolso e seguirão o caminho de menor resistência.

Não tomar esses passos voluntariamente quase certamente levará a regulamentação do governo. Pelo menos uma grande companhia sempre acaba indo longe demais, é pega e todo mundo sofre.

Regulamentações estão aqui para limitar maus comportamentos e nivelar o campo de jogo, então a maioria das empresas conscientes e seus clientes não são prejudicados por algumas pessoas dispostas a abusar.

O Plano B é buscar proteção das leis por todo o mundo. O HIPPA já protege informações de saúde nos EUA, a um custo significativo. Dados de olhos são dados de saúde, já que poderão ser usados para diagnóstico de condições físicas e mentais. GDPR também fez algum bem, com poucos problemas. Mas é preciso mais.

Podemos considerar nossos “indivíduos digitais”, na forma de modelos comportamentais de previsão, mais como pessoas (ou seja, clones) do que qualquer corporação jamais foi. Esses “indivíduos digitais” nunca podem ser propriedade ou vendidos para terceiros. Eles só podem existir como extensões digitais de nós mesmos, com os mesmos direitos inalienáveis dos seres humanos.

Leis exigem um entendimento amplo dessas questões e processos, para que os governos tomem atitudes em seu ritmo normal, ou mais rápido. Pode levar vários anos, mas há precedentes. O lado ruim é que regulamentação muitas vezes atrasa inovação e amarra as mãos daqueles fazendo o bem. Mas pode ser algo indispensável nesse caso.

O Plano C é o mais especulativo, mas vale a pena seguir para ver onde leva. Algumas empresas podem não seguir o pedido de autopoliciamento. Legislação pode ser lenta e sair dos trilhos por várias razões, incluindo porque o “lado bom” está ocupado demais. Mas as mesmas ideias desta matéria que nos colocam em risco podem ser usadas para nos proteger, proativamente, através de alguns futuros empreendimentos privados.

Considere um novo serviço, nosso Protetor Pessoal, que coleta os mesmos dados privados e constrói os mesmos modelos robustos da nossa personalidade com o tempo. É nosso eu digital, mas agora do nosso lado e trabalhando para o nosso benefício.

Podemos pegar esses agentes e colocá-los para trabalhar como nossos “anjos da guarda” externos ou “sistemas de alerta iniciais”. Se uma empresa de publicidade quer nos explorar, um defensor pessoal estaria na linha de frente para detectar manipulação. Ele pode responder como for da nossa preferência, versus como podemos agir sem pensar. Se uma empresa quer vender algo para nós, esse defensor pode “consumir” essas distrações e cuspir apenas o que precisamos e queremos saber. Isso colocaria uma empresa exploradora numa caixinha, fornecendo a maioria de seus benefícios sem os danos.

Isso me faz pensar no software de Ad Block usado nos navegadores hoje. E, como com o Ad Block, é difícil imaginar como empresas de publicidade podem continuar fazendo dinheiro nessa situação, exceto tentando bloquear essas proteções ou implorar que as desliguemos.

Mas também é difícil ter pena dessas empresas de publicidade nesse cenário. Elas escolhem ganância em vez dos interesses e desejos de seus clientes. O que simplesmente não é sustentável a longo prazo.

O risco, claro, é que os empreendimentos que melhor resolvam esse problema do jeito mais humano, aqueles que ganharem nossa confiança, se tornem a principal ameaça. Princípios corporativos podem mudar quando empresas são vendidas ou os fundadores são substituídos com o tempo. Essa concentração de poder sobre nós nunca é segura.

Tudo isso pode parecer muito assustador e distante para a maioria das pessoas se preocupar. Vivemos num tempo de mudança significativa, e quaisquer outras preocupações existenciais podem parecer mais reais agora. Mas para esse problema em particular, temos os meios, motivo e oportunidade para guiar as coisas para uma direção melhor. Então por que não fazer tudo que for possível?

Agradecimentos: Quero agradecer algumas pessoas sábias pelo feedback inicial e insights gerais neste trabalho: Helen Papagiannis, Matt Meisneiks, Silka Meisneiks, Dave Lorenzini, Trevor Flores, Eric Faden, David Smith, Zach Bloomgarden, Judith Szepesi, Dave Maass e Jeremy Bailenson.

Matéria originalmente publicada no Motherboard EUA.

Siga a VICE Brasil no Facebook, Twitter, Instagram e YouTube.