A era da manipulação escancarada, por George Monbiot.

Redes sociais permitiram à publicidade sondar e explorar momentos de insegurança ou baixa estima dos usuários, para quebrar resistências. Universidades colaboram

OutrasPalavras

Além da Mercadoria

por George Monbiot

Publicado 14/01/2019 às 08:44 - Atualizado 14/01/2019 às 10:43

Por George Monbiot | Tradução: Inês Castilho

Até que ponto decidimos com autonomia? Pensamos escolher o sentido de nossa própria vida – mas será que isso é verdade? Se você ou eu tivéssemos vivido 500 anos atrás, nossa visão de mundo, e as decisões tomadas em decorrência dela, seriam totalmente diferentes. Nossas mentes são formadas pelo ambiente social, particularmente pelos sistemas de crenças projetados por aqueles que estão no poder: antes, reis, aristocratas e teólogos; agora, corporações, bilionários e a mídia.

Humanos, mamíferos sociais por excelência, somos esponjas éticas e intelectuais. Inconscientemente absorvemos, para o bem ou para o mal, as influências que nos envolvem. Na verdade, a própria noção de que podemos formar nossas mentes é uma ideia herdada que, cinco séculos atrás, teria causado estranheza à maioria das pessoas. Não quero sugerir que somos incapazes de pensamento com independência. Mas para exercitá-lo, temos de – conscientemente e com grande esforço – nadar contra a corrente que nos carrega, na maioria das vezes sem nosso conhecimento.

No entanto, mesmo formados no meio ambiente social, será que controlamos as pequenas decisões que tomamos? Às vezes. Talvez. Mas também aqui estamos sujeitos a influências constantes, algumas das quais vemos, a maioria das quais não vemos. Uma grande indústria procura decidir em nosso nome. Suas técnicas tornam-se mais sofisticadas a cada ano, aproveitando-se das últimas descobertas da neurociência e da psicologia. Seu nome é publicidade.

Novos livros são publicados todo mês sobre o assunto, por exemplo com o título “O Código de Persuasão: como o neuromarketing pode ajudar você a persuadir alguém, em qualquer lugar, a qualquer momento” Embora muitos sejam evidentemente exagerados, descrevem uma disciplina que está capturando rapidamente nossas mentes, tornando o pensamento independente ainda mais difícil. Publicidades mais sofisticadas misturam-se a tecnologias digitais projetadas para eliminar as mediações.

No começo de 2018, o psicólogo infantil Richard Freed explicou como novas pesquisas psicológicas têm sido usadas para desenvolver mídias sociais, jogos de computador e telefones celulares com qualidades assumidamente viciantes. Cita um tecnólogo que se vangloria, aparentemente com justiça: “Podemos, ao manipular alguns botões no painel do aprendizado de máquina que construímos, levar centenas de milhares de pessoas, em todo o mundo, a mudar silenciosamente seu comportamento de maneira que, sem saber, imaginam repetir um hábito, mas estão sendo conduzidas.

O propósito deste “hackeamento de cérebros” é criar plataformas mais eficientes para a publicidade. Mas o esforço é inútil se retivermos nossa capacidade de resistir. Essa é a razão pela qual o Facebook, segundo vazamento de um relatório enviado a um anunciante, desenvolveu ferramentas para determinar quando adolescentes, ao usar a rede, sentem-se inseguros, com baixa auto-estima ou estressados. Estes parecem ser os ótimos momentos para atingi-los com uma promoção micro-segmentada. (O Facebook nega que ofereceu “ferramentas para segmentar as pessoas com base em seu estado emocional”.)

Podemos esperar que empresas comerciais lancem mão de todo e qualquer truque. Cabe à sociedade, representada pelo governo, detê-las por meio do tipo de regulação que até agora falta. Mas o que me intriga e desgosta ainda mais do que esse fracasso é a disposição das universidades em sediar pesquisas que ajudam os anunciantes a invadir nossas mentes. O ideal do Iluminismo, que todas as universidades dizem endossar, é que todos devem pensar por si mesmos. Então, por que mantêm departamentos em que pesquisadores exploram novos meios de bloquear essa capacidade?

Faço a pergunta, enquanto observo o frenesi do consumismo que eleva além dos níveis habituais o lixo do planeta neste final de ano, porque esbarrei num artigo que me deixou pasmo. Foi escrito por acadêmicos de universidades públicas na Holanda e nos EUA. Seu propósito me pareceu completamente em desacordo com o interesse público. Eles procuram identificar “as diferentes maneiras pelas quais os consumidores resistem à publicidade e as táticas que podem ser usadas para combater ou evitar essa resistência”.

Dentre as técnicas “neutralizadoras” destacam-se “disfarçar a intenção de persuadir ou o emissor da mensagem”; distrair nossa atenção usando frases confusas que dificultam perceber as intenções do anunciante; e “usar o empobrecimento cognitivo como tática para reduzir a capacidade do consumidor de questionar as mensagens”. Isso significa nos atingir com um número de propagandas suficiente para exaurir nossos recursos mentais, quebrando nossa capacidade de pensar.

Intrigado, comecei a buscar outros artigos acadêmicos sobre o mesmo tema, e encontrei uma enorme literatura. Havia artigos sobre cada aspecto possível da resistência à publicidade, e dicas úteis para superá-la. Por exemplo, um artigo que ensina anunciantes a reconstruir a confiança do público quando a celebridade com quem trabalham se mete em problemas. Em vez de abandonar esse ativo lucrativo, os pesquisadores aconselharam que o melhor meio para melhorar “o autêntico apelo persuasivo de uma celebridade” cujo prestígio tenha caído é fazer com que exiba “um sorriso de Duchenne”, conhecido também como “sorriso genuíno”. Eles detalham esses sorrisos com precisão, mostram como identificá-los e discutem a “construção” da sinceridade e da “franqueza”: um exercício magnífico de autenticidade inautêntica.

Outro artigo sugere como persuadir pessoas céticas a acatar as afirmações sobre responsabilidade social corporativa de uma empresa, especialmente quando essas afirmações entram em conflito com o conjunto dos objetivos da empresa. (Um exemplo óbvio são as tentativas atuais da Exxon Mobil de convencer as pessoas de que é ambientalmente responsável, porque está pesquisando combustíveis de algas que poderiam um dia reduzir o CO2 – mesmo que continue bombeando 10 milhões de barris de óleo fóssil por dia). Esperava que o jornal recomendasse que o melhor meio de persuadir as pessoas é a empresa mudar suas práticas. Ao invés disso, os autores da pesquisa mostraram como imagens e declarações podem ser habilmente combinadas para “minimizar o ceticismo das partes envolvidas”.

Outro artigo discutia anúncios que trabalham com o estímulo ao medo de perder [fear of missing out, FOMO]. Notava que essas publicidades funcionam através da “motivação controlada”, que é um “anátema para o bem-estar”. Anúncios FOMO, explicava o artigo, tendem a causar desconforto significativo àqueles que o recebem. Depois seguia mostrando que melhorar o entendimento da resposta das pessoas “oferece a oportunidade de melhorar a eficácia do FOMO como disparador da compra.” Uma tática proposta é continuar estimulando o medo de perder, durante e depois da decisão de comprar. Isso, sugere, tornará as pessoas mais suscetíveis a outros anúncios na mesma linha.

Sim, eu sei: trabalho num setor que recebe a maior parte de seus recursos financeiros da publicidade, então sou cúmplice também. Mas assim somos todos nós. A publicidade e seus impactos destrutivos no planeta vivo, em nossa paz de espírito e nosso livre arbítrio está no coração da economia que se baseia no “crescimento”. Isso nos dá ainda mais motivos para desafiá-la. Dentre os lugares onde o desafio deve começar estão as universidades e sociedades acadêmicas, que supostamente estabelecem e mantêm padrões éticos. Se elas não podem nadar contra as correntes do desejo construído e do pensamento construído, quem poderá?

Gostou do texto? Contribua para manter e ampliar nosso jornalismo de profundidade: OutrosQuinhentos

A silenciosa ditadura do algoritmo, por Pepe Escobar.

– on 18/10/2016Categorias: Destaques, Mundo, Sociedade

Em sociedades digitalizadas, decisões cruciais sobre a vida são tomadas por máquinas e códigos. Por que isso multiplica a desigualdade e ameaça o direito à informação e a democracia 

Por Pepe Escobar | Tradução: Inês Castilho

Vivemos todos na Era do Algoritmo. Aqui está uma história que não apenas resume a era, mas mostra como a obsessão pelo algoritmo pode dar terrivelmente errado.

Tudo começou no início de setembro, quando o Facebook censurou a foto ícone de Kim Phuch, a “menina do napalm”, símbolo reconhecido em todo o mundo da Guerra do Vietnã. A foto figurava em post no Facebook do escritor norueguês Tom Egeland, que pretendia iniciar um debate sobre “sete fotos que mudaram a história da guerra”.

Não só o seu post foi apagado, como Egeland foi suspenso do Facebook. O Aftenposten, principal jornal diário da Noruega, propriedade do grupo de mídia escandinavo Schibsted, transmitiu devidamente a notícia, lado a lado com a foto. O Facebook pediu então que o jornal apagasse a foto – ou a tornasse irreconhecível em sua edição online. Antes mesmo de o jornal responder, artigo e foto já haviam sido censurados na página do Aftenposten do Facebook.

A primeira ministra norueguesa, Erna Solberg, protestou contra tudo isso em sua página do Facebook. Também foi censurada. O Aftenposten então sapecou a história inteira em sua primeira página, ao lado de carta aberta a Mark Zuckerberg, assinada pelo diretor do jornal, Espen Egil Hansen, acusando o Facebook de abuso do poder.

Passaram-se 24 longas horas até que o colosso de Palo Alto recuasse e “desbloqueasse” a publicação.

Uma opinião embrulhada em código

O Facebook empenhou-se ao máximo para controlar os danos depois do episódio. Isso não alterou o fato de que o inbroglio “menina da napalm” é um clássico drama do algoritmo, como ocorre na aplicação de inteligência artificial para avaliar conteúdo.

Como outros gigantes da Economia de Dados, o Facebook deslocaliza a filtragem de dados para um exército de moderadores em empresas localizadas do Oriente Médio ao Sul da Ásia. Isso foi confirmado por Monika Bickert, do Facebook.

Esses moderadores têm um papel no controle daquilo que deve ser eliminado da rede social, a partir de sinalizações dos usuários. Mas a informação é então comparada a um algoritmo, que tem a decisão final.

Não é necessário ter PhD para perceber que esses moderadores não têm, necessariamente, vasta competência cultural, ou capacidade de analisar contextos. Isso para não mencionar que os algoritmos são incapazes de “entender” contexto cultural e certamente não são programados para interpretar ironia, sarcasmo ou metáforas culturais.

Os algoritmos são literais. Em poucas palavras, são uma opinião embrulhada em código. E no entanto, estejamos atingindo um estágio em que a máquina decide o que é notícia. O Facebook, por exemplo, conta agora apenas com o algoritmo para definir quais hstórias coloca em destaque.

Pode haver um lado positivo nessa tendência – como o Facebook, o Google e o YouTube usarem sistemas para bloquear rapidamente vídeos do ISIS e propaganda jihadista semelhante. Logo estará em operação eGLYPH – um sistema que censura vídeos violam supostos direitos autorais por meio  “hashing”, ou codificação para busca rápida. Uma única marca será atribuída a vídeos e áudios considerados “extremistas”, possibilitando assim sua remoção automática em qualquer nova versão e bloqueando novos uploads.

E isso nos traz para um território ainda mais turvo; o próprio conceito de “extremista”. E os efeitos, sobre todos nós, de sistemas de censura baseados em lógica algorítmica.

Como as Armas de Destruição Matemática controlam nossa vida

É neste cenário que um livro como Armas de Destruição em Math [ou “Armas de Destruição Matemática”] de Cathy O’Neil (Crown Publishing), torna-se tão essencial quanto o ar que respiramos.

O’Neil lida com a coisa real; é PHD em matemática em Harvard, ex-professora do Barnard College, ex-analista quantitativa num fundo de hedge antes de reconverter-se a pesquisadora, e blogueira no mathbabe.org.

Modelos matemáticos são o motor de nossa economia digital. Isso leva O’Neil a formular seus dois insights decisivos – que podem surpreender legiões de pessoas que veem as máquinas como simplesmente “neutras”.

1) “Aplicações baseadas em matemática e que empoderam a Economia de Dados são baseadas em escolhas feitas por seres humanos falíveis”.

2) “Esses modelos matemáticos são opacos, e seu trabalho é invisível para todos, exceto os cardeais em suas áreas: matemáticos e cientistas computacionais. Seus vereditos são imunes a disputas ou apelos, mesmo quando errados ou nocivos. E tendem a punir pobres e oprimidos, enquanto tornam os ricos mais ricos em nossa sociedade”.

Daí o conceito de Armas de Destruição Matemática (WMDs), de O’Neil; ou de o quanto modelos matemáticos destrutivos estão acelerando um terremoto social.

O’Neil detalha extensivamente  como modelos matemáticos destrutivos microgerem vastas faixas da economia real, da publicidade ao sistema prisional, sem falar do sistema financeiro (e dos efeitos posteriores à interminável crise de 2008).

Esses modelos matemáticos são essencialmente opacos; não responsáveis; e miram acima de toda “otimização” das massas (consumidoras).

A regra de ouro é – o que mais seria? – seguir o dinheiro. Como diz O’Neil, para “as pessoas que executam os WMDs”, o “feedback é a grana”; “os sistemas são construídos para devorar mais e mais dados, e afinar suas análises de modo a despejar nele mais e mais dinheiro”.

As vítimas – como nos ataques de drone na administração Obama – são mero “dano colateral”.

Paralelos entre o cassino financeiro e os Big Data são inevitáveis – e é útil o fato de que O’Neil tenha trabalhado nos dois setores.

O Vale do Silício segue o dinheiro. Vemos nele os mesmos bancos de talentos das universidades de elite norte-americanas (MIT, Stanford, Princeton), a mesma obsessão por fazer o necessário para juntar mais e mais dinheiro para a empresa empregadora.

As Armas de Destruição Matemática favorecem a eficiência. “Justiça” não passa de um conceito. Computadores não entendem conceitos. Programadores não sabem codificar um conceito – como vimos na história da “menina do napalm”. E também não sabem como ajustar algoritmos para refletir equidade.

O que temos é o conceito de “amizade” sendo medido por likes e conexões no Facebook. O’Neil soma tudo; “Se você pensa no WMD como indústria, injustiça é o que está sendo expelido pela fumaça da chaminé. É uma emissão tóxica.”

Mande um fluxo de caixa, já

No fim, é a Deusa do Mercado que regula tudo – premiando eficiência, crescimento e fluxo de caixa sem fim.

Mesmo antes do fiasco da “menina do napalm”, O’Neil já apontara o fato crucial de que o Facebook determina, na realidade, e segundo seus próprios interesses, o que todos veem – e aprendem – na rede social. Nada menos que dois terços dos norte-americanos adultos têm perfil no Facebook”. Quase a metade, afirma relatório do Centro de Pesquisa Pew, conta com o Facebook para parte, ao menos, das notícias que leem.

A maioria dos norte-americanos – para não falar da maioria dos 1,7 bilhão de usuários do Facebook espalhados pelo mundo – ignora que o Facebook canaliza o feed de notícias. As pessoas de fato acreditam que o sistema compartilha instantaneamente, com sua comunidade de amigos, qualquer coisa que é postada.

O que nos traz, mais uma vez, à questão chave no front das notícias. Ao ajustar seus algoritmos para modelar as notícias que as pessoas veem, o Facebook tem agora tudo o que é necessário para jogar com todo o sistema político. Como observa O’Neil, “Facebook, Google, Apple, Microsoft, Amazon têm todos uma vasta quantidade de informação sobre grande parte da humanidade – e os meios para nos dirigir para onde queiram”.

Estrategicamente, seus algoritmos não têm preço, é claro; segredo comercial supremo, não transparente.; “Eles fazem seus negócios nas sombras”.

Em sua recente e propagandeada viagem a Roma, Mark Zuckerberg disse que o Facebook é “uma empresa high-tech, não uma empresa jornalística”. Não é bem isso. O aspecto mais intrigante do fiasco da “menina do napalm” pode ser o fato de que Shibsted, o grupo de mídia escandinavo, está planejando investir um dinheiro enorme na criação de um novo forum social para derrotar – quem? – o Facebook. Prepare-se para uma guerra novinha em folha no fronte do  WMD.