Arquivo 2020

Como vamos projetar serviços e produtos digitais na era da economia de vigilância?

Janayna Velozo
Stefanini Group
Criativa, Empática, Determinada

Apaixonada por pessoas, design e pela resolução de problemas complexos, Janayna Velozo trabalhou em projetos no Japão, Áustria, Canadá, EUA, Nova Zelândia, Alemanha e Brasil. Mãe de dois meninos, mulher e nordestina, trabalha atualmente como Estrategista de Design de Serviço & Product Design Lead na Stefanini Group. Líder do Programa de Mentoria do Ladies That UX Brasil e da comunidade local UXPE, Jana acredita que a empatia, a equidade e a (re)evolução das comunidades pode (e vai!) mudar o mundo pra melhor.

Janayna Velozo
Escute este artigo

Colheita de Dados & Manipulação de Comportamento: como vamos projetar serviços e produtos digitais na era da economia de vigilância?

Em um mundo cada vez mais distópico, com o aumento do controle dos gigantes corporativos através do uso da tecnologia, testemunhamos o fortalecimento da era da pós-verdade, a manipulação do comportamento e o surgimento da economia de vigilância. Com um aumento de 220% no uso de aplicativos e dispositivos digitais esse ano, as pessoas passaram mais de 1.6 trilhões de horas em celulares no primeiro semestre deste ano e, segundo o relatório Digital 2020 lançado em Outubro, quase 60% da população mundial já está online. Temos atualmente 5.2 bilhões pessoas usando celulares, 4.5 bilhões usando a internet e 3.8 bilhões usando as mídias sociais.  A pandemia de COVID19 acelerou ainda mais esse processo e agora, mais do que nunca, estamos dependentes de sistemas digitais para o trabalho, educação, comunicação, diversão, transporte, notícias, compras, saúde, movimentações financeiras, alimentação e até pra dormir. Precisamos começar a fazer perguntas mais profundas sobre o impacto dos produtos e serviços que estamos ajudando a construir e qual será o nosso papel na próxima década.

A revolução industrial nos ajudou a superar nossas limitações físicas e força muscular. A revolução tecnológica está nos ajudando a superar as limitações da nossa mente, ampliando e expandindo a função cognitiva humana. Não há dúvidas sobre os benefícios que a tecnologia tem trazido: ferramentas de comunicação e conexão humanas, drones entregando produtos em áreas inacessíveis, sensores em veículos diminuindo acidentes, robôs cirúrgicos de alta precisão na área da saúde, casas inteligentes, entre tantas outras coisas. O objetivo não é vilificar a tecnologia, mas percebermos que existem maneiras melhores de seguirmos em frente com ela, afinal de contas a “Inteligência Artificial”, o Big Data e o Deep Learning (que simula redes neurais humanas em máquinas) vieram para ficar. Acredito que nós, designers, temos a responsabilidade afirmativa social e moral com os produtos que criamos. Quais considerações éticas devemos fazer?

Dois direitos fundamentais precisam ser considerados: o direito à privacidade, que neste contexto significa o controle pessoal relativo ao uso das informações pessoais dos cidadãos, que deveriam ser os proprietários de seus dados, inclusive os que estão sob vigilância; e o direito à autodeterminação, que se refere à autonomia, poder de decisão e controle sobre o próprio destino (social, político e econômico). Estamos projetando produtos que defendem a privacidade e a segurança de dados, e que protegem nossos direitos humanos fundamentais? Estamos permitindo que as pessoas sejam informadas e possam controlar quando e como seus dados serão coletados, armazenados, copiados, analisados, usados, vendidos e destruídos pelas empresas? Quais são as consequências sociais e o que continuaríamos a perder sem nos tornarmos uma voz ativa na proteção e regulamentação dos dados dos produtos digitais?

“Em nenhum outro momento da história, as empresas privadas mais ricas tiveram à sua disposição uma arquitetura global disseminada de computação ubíqua capaz de acumular concentrações incomparáveis ​​de informações sobre indivíduos, grupos e populações, suficientes para mobilizar o eixo do monitoramento para a comando do comportamento humano remotamente e em grande escala.” --- Shoshana Zuboff

De acordo com Shoshana Zuboff, psicóloga social e professora da Harvard Business School, o capitalismo de vigilância fornece serviços gratuitos à população em sistemas digitais que monitoram suas atividades e comportamentos, entendem suas personalidades e vulnerabilidades, e alimentam motores de manipulação chamados de "inteligência de máquina" para criar e moldar os mercados comportamentais, não apenas na esfera digital, mas também no mundo físico. O objetivo é automatizar nosso comportamento e lucrar com nossas escolhas. Quanto mais dados os algoritmos obtêm de nossas vidas por meio de dispositivos digitais, mídias sociais e artefatos de IoT, melhor eles funcionam e mais imperceptíveis os mecanismos de influência se tornam. Um dos grandes problemas é que eles estão sendo coletados e controlados sorrateiramente: ouvem em microfones embutidos, assistem e gravam em câmeras embutidas, experimentam sem o nosso conhecimento e, mais importante, sem o nosso consentimento. 

A Lei Geral de Proteção de Dados (LGPD), que está sendo implementada no Brasil, define consentimento como sendo "qualquer expressão dada livremente, específica, informada e inequívoca das escolhas de um indivíduo em relação ao processamento de seus dados pessoais para um ou mais fins específicos". O consentimento deve ser dado como uma expressão de escolha real:

  • Por meio de um formulário de fácil acesso, com linguagem clara e compreensível
  • Com ação afirmativa explícita e a finalidade do processamento totalmente explicada ao indivíduo
  • Sem influência ou repercussões que possam afetar a escolha do indivíduo, e sem pré-condição para o serviço a ser prestado
  • Com a possibilidade de o indivíduo retirar o consentimento com a mesma facilidade com que foi dado, sem consequências negativas

A Privacidade de Dados considera o manuseio, processamento, armazenamento e uso “adequados” de informações pessoais, e a Segurança de Dados considera a proteção de dados pessoais contra qualquer acesso não autorizado de terceiros ou ataques e exploração maliciosos. Ambos são necessários na regulamentação e proteção dos dados digitais, mas ainda estão ausentes em diversos produtos e serviços digitais que projetamos e usamos. De acordo com a Comissão de Informação e Privacidade de Ontário (IPC), existem alguns princípios fundamentais de Privacy Design que devem ser aplicados na criação de sistemas digitais. A privacidade deve:

  • Ser proativa e preventiva, não reativa, e antecipar os problemas de privacidade antes que cheguem às pessoas
  • Ser a configuração padrão embutida no sistema
  • Ter soma positiva com funcionalidade total e evitar dicotomias
  • Ter seus padrões visíveis, transparentes, abertos, documentados e verificáveis de forma independente
  • Ser centrada nas pessoas , aberta, visível e transparente, com proteção total do ciclo de vida e segurança de ponta a ponta

Documentários como The Social Dilemma e Hacked Privacy nos mostraram como o uso da tecnologia e da manipulação do comportamento em larga escala através de ferramentas como a computação quântica, a “Inteligência Artificial”, o Big Data e o Deep Learning estão mudando nossa percepção da realidade, como estão interferindo no nosso comportamento e impactando os sistemas políticos e econômicos, assim como desestruturando a força de trabalho, aumentando a desigualdade de renda, contribuindo para o encarceramento de pessoas por suas origens étnicas, opiniões, raças, orientações sexuais e religiões divergentes, ameaçando sistemas políticos democráticos, alimentando autocracias e sistemas totalitários, amplificando problemas sociais e criando um mundo extremamente polarizado. A tecnologia está sendo usada como uma ferramenta de manipulação, controle e poder que serve aos interesses privados. E, em um mundo capitalista, a lógica do acúmulo de capital define as regras do jogo.

“Pequenas diferenças de ajuste, cuidadosamente aplicados de forma consistente, têm um efeito cumulativo ao longo do tempo. A manipulação do comportamento pode mudar o resultado de eleições, modificar a percepção da verdade e, em última instância, sabotar a sociedade humana.” - Jared Lanier

Uma das ferramentas possíveis que temos como designers de produtos digitais, é a aplicação da Avaliação de Impacto de Privacidade (PIA) no início de qualquer projeto que envolva dados pessoais. Dados pessoais são informações que se relacionam ou podem estar relacionadas a uma pessoa física, que pode ser direta ou indiretamente identificada por meio dessa informação ou em combinação com outra informação, como por exemplo: nome, endereço, número de IP etc. O objetivo da PIA é analisar os impactos na privacidade das pessoas envolvidas, procurando minimizá-los ao máximo, respeitando também os princípios acima citados. As principais etapas são:

  • Traçar e analisar fluxos de informações
  • Identificar qualquer privacidade e riscos relacionado
  • Consultar pessoas que trabalharão ou serão afetadas pelo projeto
  • Identificar e avaliar soluções para superar ou remover esses riscos

É de extrema importância envolvermos os profissionais de UX Design, UX Writing e UI Design, entre outros, para que as interfaces já existentes entrem em conformidade com a LGPD, assim como para projetar as novas interfaces de acordo com a Lei Geral de Proteção de Dados, de forma compreensível e transparente para os portadores dos dados. Alguns pontos importantes que precisam ser previstos são:

  • Como e quais dados (e cookies) são coletados
  • Como os dados (e cookies) serão usados, armazenados e compartilhados
  • Quais os direitos de proteção aos dados
  • Qual é a política de privacidade e como alterá-la
  • Quais as possibilidades de consentimento dos dados (e cookies)

Como podemos repensar a coleta, o armazenamento, o processamento e o uso de dados para que seja menos sorrateiro e intrusivo, e mais transparente? Como podemos garantir o consentimento e devolver a autonomia aos portadores dos dados? Como podemos interferir no design desses sistemas para evitar que as pessoas se tornem reféns da manipulação de comportamento? Tenho mais perguntas do que respostas e os dilemas são muitos, mas acredito que o mundo digital possa existir sem o capitalismo de vigilância. Precisamos encontrar maneiras de modificar as estruturas distópicas e gerar mais descentralização, aleatoriedade, transparência, imprevisibilidade, liberdade e diversidade no design dos sistemas digitais. Assim como nos tornar parte da solução e protagonizar a criação de redes, serviços e produtos que promovam sistemas orgânicos emergentes, distribuídos e sustentáveis de reequilíbrio do mundo, visando a preservação da autonomia, da liberdade e, principalmente, da experiência humana.

Recomendação de Leitura

The Age of Surveillance Capitalism, by Shoshana Zuboff, 2019. 

Ten Arguments for Deleting Your Social Media Accounts Right Now, by Jared Lanier, 2019.

Automating Humanity, by Joe Toscano, 2018.

Weapons of Mass Destruction, by Cathy O’Neil, 2016.

Radical Markets: Uprooting Capitalism and Democracy for a Just Society, by Eric A. Posner, 2019.

Your Rights Matter: data protection and privacy, FRA Fundamental Rights Report 2020.

From Privacy to Profit: achieving positive returns on privacy investments, Cisco Data Privacy Benchmark Study 2020.

Relatórios

Digital 2020 Report, Data Reportal 2020.

How COVID-19 Has Changed Consumer Behavior on Mobile Forever, App Annie Report 2020.

Deploy.me
Desenvolva sua carreira em UX Design, Produto e Dados com bootcamps imersivos, práticos e de curta duração com facilitadores das principais startups do Brasil e do mundo. How. Skills, not degrees.
15%OFF código:
DESIGN2021

Explore outros temas

Experiência do Usuário Surdo

Beatriz Lonskis
Beatriz Lonskis

Por que designers devem aprender No-Code em 2021?

Caio Calderari
Caio Calderari

Liderança inclusiva, design e autoconhecimento

Thaly Sanches
Thaly Sanches

Design de experiência contra o racismo algorítmico

Polli Lopes
Polli Lopes

Métricas de UX: O que são, onde vivem e do que se alimentam?

Rafa Brandão
Rafa Brandão

Design, um esporte coletivo e colaborativo

Beto Lima
Beto Lima

Design, liderança e ambientes seguros: reflexões e sugestões

Vinícius Vieira
Vinícius Vieira

Faça seu design orientado por dados

Mumtaz Mesania
Mumtaz Mesania

Design como fator de mudança para processos, cultura e maturidade nas empresas

Bruce Namatame
Bruce Namatame

Visualizando os dados da comunidade de UX no Brasil

Carolina Leslie
Carolina Leslie

Como você enxerga o Design?

Monica Barros
Monica Barros

Sou Designer, onde vou usar a fórmula de bháskara?

Rafael Miashiro
Rafael Miashiro

O Designer é a Interface - Desafios do design e experiência do usuário em tempos de isolamento social

Ubiratan Silva
Ubiratan Silva

Levei 8 anos para me definir como UX designer. E eu vou te contar como.

Lais Mastelari
Lais Mastelari

Design como ferramenta para um mundo melhor

Camila Moletta
Camila Moletta

POs e PMs e suas relações com acessibilidade

Livia Gabos
Livia Gabos

O design pode mudar o mundo

Renato Paixão
Renato Paixão

Subiu, e agora? Como medir o sucesso e a performance do Design

Fernanda Magalhães
Fernanda Magalhães

UX + LGPD. A privacidade do usuário na era dos dados

Hideki Katsumoto
Hideki Katsumoto

"Fosse ou não à escola, eu estudava."

Ariana Dias Neves
Ariana Dias Neves

Perspectivas visuais e um conceito social (talvez) necessário

Eduardo Arce
Eduardo Arce

Uma carta para a Crítica

Vitor Amorim
Vitor Amorim

Design Ético: como nós, pessoas que consomem e desenvolvem, podemos atuar

Bianca Brancaleone
Bianca Brancaleone

Líderes do presente

Juliana Marcenal
Juliana Marcenal

Se você quiser voar, precisa soltar o que te puxa para baixo

Tereza Alux
Tereza Alux

UX Research na Era Inteligente

Gabriel Bastos
Gabriel Bastos

Como a escuta no Design vem se tornando uma aliada em uma sociedade mais inclusiva

Valéria Reis
Valéria Reis

Design para um time

Thais Yabuuti
Thais Yabuuti

Designers will design

Juliana Morozowski
Juliana Morozowski

Designer é solucionador de problemas ou colonizador?

Fernando França
Fernando França

Design não é para todos, mas pode ser

Valéria Romano
Valéria Romano

Cultura de UX sob aspecto da linguagem

Melina Alves
Melina Alves

O designer nômade

Leo Ehrlich
Leo Ehrlich

Design é uma conversa cultural

Julia Nascimento
Julia Nascimento

Designer Produteiro

Robson Ramos
Robson Ramos

O design não vai salvar o mundo! Ou vai?

Bruna Castro
Bruna Castro

ROI do Design e o Cafezinho

Felipe Melo Guimarães
Felipe Melo Guimarães

Você aprende aquilo com que se importa

Denise Pilar
Denise Pilar

A síndrome de impostor no design, o “outro” inatingível e ambientes tóxicos

Thomas Castro
Thomas Castro

As pegadinhas do nosso cérebro

Renata Carriel
Renata Carriel

Vulnerabilidade e o primeiro passo contra a impostora

Tamy Lemos
Tamy Lemos

Receita de UX Designer

Leandro Rezende
Leandro Rezende

Empreender e pivotar na profissão designer

Marcelo Leal Felix
Marcelo Leal Felix

Multiculturalismo remoto

Tai Civita
Tai Civita

O futuro é plural

Paola Sales
Paola Sales

O papel do designer na desconstrução do ciclo da invisibilidade

Joyce Rocha
Joyce Rocha

UX e o Amanhã da Profissão

Amyris Fernandez
Amyris Fernandez

A motivação por trás de novos hábitos

Nathalia Cabral
Nathalia Cabral

Liderança em Design: 5 dicas para quem quer virar Líder de Design

Victor Zanini
Victor Zanini

A inevitável mudança do Design no "pós-pandemia"

Thoz
Thoz

UI Designer? Deus me livre, mas quem me dera!

Adelmo Neto
Adelmo Neto

Aprendizados para 2021 sobre a acessibilidade digital em 2020

Liliane Claudia
Liliane Claudia

O bom design durante os sintomas da pandemia

David Arty
David Arty

A Jornada do Mentor - Como se tornar um herói em UX

Sheylla Lima Souza
Sheylla Lima Souza

O Product Designer está fora de forma?

Marco Moreira
Marco Moreira

Voltando às raízes para um design acessível

Maju Santos
Maju Santos

Você já foi um designer iniciante, Design no interior e Michael Scott

Felipe Marinelli
Felipe Marinelli

Como construir maturidade de Design em empresas em transformação digital

Bianca Faraj
Bianca Faraj

Vamos parar de falar em Produto e vamos falar em Design de Serviço?

Erico Fileno
Erico Fileno

A Maturidade do Designer UX

Ioná Dourado
Ioná Dourado

Sua experiência com o futuro do trabalho está diretamente relacionada a quanto você se conhece

Kpelo
Kpelo

A crescente importância de tudo o que não sabemos

Bruno Canato
Bruno Canato

Reflexões sobre a Escuta no Design de Experiências

Denise Rocha
Denise Rocha

Design do Amanhã

Natalí Garcia
Natalí Garcia

Transição de carreira e diversidade

Liliane Oliveira
Liliane Oliveira

2021: um ano para recomeçar (?)

Koji Pereira
Koji Pereira

Confissões de um designer apaixonado

Jane Vita
Jane Vita

Como quase ter virado um Product Manager me fez ser um Product Designer melhor

Filipe Bitencourt
Filipe Bitencourt

É responsabilidade de quem?

Vinícius Gomes
Vinícius Gomes

Preparando um time para o sucesso

David Pacheco
David Pacheco

Não coma o marshmallow

Camila Borja
Camila Borja

Finalmente uma descentralização geográfica do design brasileiro?

Larissa Trindade
Larissa Trindade

A visão de um designer que acredita na política do seu dia-a-dia aplicada a sociedade brasileira

Henrique Peixe
Henrique Peixe

Fale com o seu ambiente e as novas experiências conversacionais

Caio Calado
Caio Calado

Um convite para a auto-descoberta

Karen Tie
Karen Tie

Design realmente centrado no humano

Nina Telles
Nina Telles

Uma nova visão holística do design

Bel Araújo
Bel Araújo

Por uma comunidade de design mais aberta e colaborativa

Karina Tronkos
Karina Tronkos

Que em 2021 tenhamos tempo, dinheiro e saúde para fazer a diferença

Thiago Hassu
Thiago Hassu

Menos sobre nomenclaturas e mais foco no que precisa ser feito

Renan Manço
Renan Manço

A antiga, porém nova verdade sobre DesignOps

Guilherme Gonzalez
Guilherme Gonzalez

Design ético em pauta

Lucas Cruz
Lucas Cruz

Pare de seguir os velhos padrões visuais

Raniel Oliveira
Raniel Oliveira

O Design e os trem por trás das coisa: Soft Skills, Multipotenciais e Polímatas

Brunão
Brunão

Designer Sobrevivente

Humberto Matos Valério da Silva
Humberto Matos Valério da Silva

Precisamos falar sobre saúde mental em design

Marianna Piacesi
Marianna Piacesi

Inovação em design organizacional: como ser prático na prática? 🚀

Eduardo Maia
Eduardo Maia

E se a inovação pudesse ser guiada por processos de design mais colaborativos?

Larisa Paes de Lima
Larisa Paes de Lima

Como Designers estamos preparados para um mundo que precisa de regeneração?

Barbara Villar
Barbara Villar

Co-design: Não é só sobre Design

Wander Vieira
Wander Vieira

Na contemporaneidade, o que não é design?

Isadora Ribeiro dos Santos
Isadora Ribeiro dos Santos

O Design no ano 21 do século 21: educação e trabalho pela cibercultura

André Grilo
André Grilo

Desobediências conceituais no Design

Andrei Gurgel
Andrei Gurgel

Pensando design além da interface

Juliana Akemi Segawa Cangussu
Juliana Akemi Segawa Cangussu

UX Writing: o desafio constante de aprender a se comunicar

Camila Gaidarji
Camila Gaidarji

UX Design não é modinha, é negócio

Luan Mateus
Luan Mateus

Liderança e Maternidade: Qualquer semelhança não é mera coincidência

Bruna Amancio
Bruna Amancio

Design e cultura de experimentação

Leandro Lima
Leandro Lima

3 passos para mudança do mindset do time comercial

Rafael Xavier
Rafael Xavier

21 coisas que tem que acabar em UX design para 2021

Rafaela de Souza da Silva
Rafaela de Souza da Silva
não clique