Black Mirror não está apenas predizendo o futuro, mas o causando

Traduzido de: THWAITE, Alice. “Black Mirror isn’t just predicting the future — it’s causing it”. In: QUARTZ. 2 de janeiro de 2019. Disponível aqui.


Black Mirror, a série de TV escrita pelo esperto e sombrio Charlie Brooker, parece rotineiramente predizer e dramatizar as notícias e as políticas do mundo. Mas em vez de meramente predizer o futuro, seu novo lançamento “Bandersnatch” pode o estar criando.

Lançada no Netflix em 28 de dezembro, “Bandersnatch” explora novo território. Sim, trata-se de uma das primeiras tentativas de grande porte de uma narrativa direcionada como jogo numa plataforma de streaming. Mas é também potencialmente o progenitor de um novo tipo de vigilância — um que invade nossa privacidade enquanto veste o manto do entretenimento.

Ao invés de assistir passivamente um filme, os espectadores (ou jogadores) precisam escolher o que o personagem principal faz a seguir. Algumas escolhas parecem bastante inocentes — que música tocar, o que comer no café da manhã —, mas logo tudo rapidamente se move em direção a questionamentos a respeito de decisões profissionais, problemas de saúde mental, e até se deve-se matar outros personagens.

Todas essas informações são coletadas pelo Netflix e guardadas em um banco de dados seguro. (Ainda que, com tantos ataques recentes a outras companhias, é difícil ter certeza.) Suas escolhas são usadas para melhorar o gameplay; e aquelas primeiras decisões inocentes (como escolher entre Sugar Puffs ou Frosties) impactam a narrativa muito mais adiante na história. Sem coletar essa informação, a narrativa não pode te conduzir ao longo de sua própria jornada do tipo escolha-sua-própria-aventura.

Mas o que acontece com os dados das suas decisões depois de subirem os créditos?

O Netflix coleta muitos dados a respeito de seus usuários. Isso inclui informação sobre seus hábitos de espectador na plataforma, quais os programas que você usa para assistir e por quanto tempo você os assiste. Ele usa essa informação para te recomendar novos shows que acha que você pode gostar, e também para melhorar o serviço ao consumidor e para propósitos marqueteiros.

Mas, se em vez de guardar quantas vezes você assistiu Simplesmente Amor no último feriado, ele está aguardando a informação de que você optou por matar seu pai a sangue frio ou salvá-lo? O que o Netflix pode fazer com esse tipo de informação emocional altamente sensível?

“A privacidade dos membros do nosso Netflix é nossa prioridade”, disse um representante do Netflix por e-mail. “Documentar essas escolhas melhora a experiência e a funcionalidade interativa de Black Mirror: ‘Bandersnatch’. Todas as interações com o filme e os usos dessa informação estão de acordo com os nossos termos de privacidade“.

Ao ler os termos de privacidade do Netflix (e também os seus termos a respeito do algoritmo de recomendação), não fica claro se os dados das escolhas dos espectadores serão utilizados fora do jogo propriamente dito. Políticas de privacidade como essas são vagas e pouco detalhadas, porque os algoritmos mudam com tanta regularidade que é impossível incluir cada detalhe a respeito do uso das informações no documento.

Mas as informações a respeito dos programas que você escolhe maratonar deveriam ser tratadas de forma mais séria, da mesma forma que as escolhas comportamentais, como se você comete assassinato ou se resolve pular de cima de um prédio? Se os dados sobre o jogo são considerados de forma diferente que os dados que o Netflix já coleta, sob a GDPR (uma regulamentação de proteção aos dados da União Europeia), o Netflix teria que notificar seus usuários europeus a respeito das mudanças na coleta de dados. Mas há a possibilidade de a sua política de privacidade ser ampla o suficiente a ponto de Netflix não precisar fazê-lo.

E daí?, você poderia perguntar. Quando você joga o “Bandersnatch”, ele realmente reflete a sua verdadeira natureza? Você escolhe atacar a sua terapeuta porque tem problemas de raiva profundamente enraizados, ou apenas pelo valor do entretenimento? Muitas das decisões levam a um beco sem saída, o que significa que você tem que voltar e fazer uma escolha diferente novamente mesmo assim. As suas escolhas no programa revelam realmente a verdade sobre você?

Essa questão importa por três razões. Uma é porque o Netflix tem uma grande influência sobre como milhões de pessoas recebem informação política e cultural. Em setembro de 2018, eles tinham 137,1 milhões de assinantes, todos os quais estão vinculados ao algoritmo de recomendação. Os usuários estão mais propensos assistir programas que tem sido recomendados a eles, e isso por consequência muda a forma como se percebe o mundo.

Suas decisões em um filme interativo podem acarretar consequências não intencionais. Se o Netflix determina que aqueles que escolheram imediatamente matar um membro da família em “Bandersnatch” poderiam estar mais propensos a gostar do filme Kill Bill Volume 1, então essa informação pode ser usada para recomendar mais filmes violentos. O Netflix planeja lançar mais conteúdo interativo em 2019 — e a plataforma já tem em seu catálogo conteúdos interativos para crianças há anos. Isso vai permitir que eles coletem mais informações a respeito de comportamento instintivo em uma variedade de assuntos. E se ele começar a recomendar programas celebrando um partido político político específico por conta das escolhas que você fez em um thriller interativo sobre a Casa Branca?

Em segundo lugar, não é difícil imaginar que as companhias que coletam informação a nosso respeito para compartilhar com atores políticos — como o YouTube e o Facebook — irão alimentar este tipo de mídia no futuro. A informação dos quizzes de personalidade já casou grandes implicações em eleições políticas — então como isso poderia funcionar em jogos interativos? Eles oferecem novas formas de entender a personalidade dos usuários, e aqui eles estão mais dispostos a responder.

A terceira preocupação é a mais Black Mirror de todas. Não é inconcebível imaginar que se o governo tiver a posse dos seus dados, ele pode achar que você é alguém digno de vigilância futura. Estudos do Oxford Internet Institute mostram que há pouca evidência no que diz respeito a possibilidade de jogos violentos levarem a comportamentos violentos na vida real. Entretanto ainda há políticos que vendem essa narrativa. Os dados do Netflix podem ser usados para identificar futuros terroristas ou restringir seu acesso a aeroportos? Isso não é muito diferente do “sistema social de créditos” da China, onde indivíduos podem ser julgados e punidos por não pagarem contas ou não atravessarem na faixa.

O episódio “Bandersnatch” de Black Mirror disseca a ideia do livre arbítrio. Mas outro tema paralelo é a erosão da nossa própria privacidade no mundo real. E se em vez de escolher sua própria aventura, é o Netflix quem está escolhendo por você?

Black Mirror pode estar de olho em você. E as suas histórias geralmente não têm finais felizes.