A resposta é simples, mas sua compreensão nem tanto…

A resposta simples: Hoje em dias as relações sociais em rede são controladas por algoritmos (IA) das redes sociais, que extraem, modelam e comparam os dados dos usuários, e entregam à eles conteúdos que julgam relevante. Ao escolher que informação, de quem e quando, as redes sociais possuem o poder de moldar a realidade deste indivíduo, que acaba preso em uma bolha de unanimidade, retroalimentando suas crenças e sua própria construção da realidade.

Mas como isto é possível?

As redes sociais estáticas e orgânicas como o Orkut, onde a principal interação se dava nos grupos, e seguiam uma ordem cronológica, foram baseadas inicialmente nos fóruns de Internet, os quais podemos chamar de pre-história das redes sociais.

No Orkut, as telas exibiam conteúdos de acordo com as escolhas explicitas dos usuários. Você escolhia categorias, pessoas, e grupos para seguir. As únicas informações que o Orkut possuía sobre você eram as que você fornecia, as suas conexões (amigos), grupos a que pertencia, e sua participação neles. Dava para produzir grafos de redes sociais, apontando as conexões, laços fortes e fracos, vozes dominantes, e com um pouco mais de trabalho, uma nuvem de palavras.

O Orkut surgiu em 2004, e a partir de 2011 começou a perder muitos usuários para o Facebook, quando este se tornou popular no Brasil, e encerrou suas atividades em 2014. Ao longo destes 10 anos muita coisa aconteceu, foram fatos e eventos concomitantes em campos diferentes da Internet, que eu descrevo no meu artigo: “Uma perspectiva histórica e sistêmica do capitalismo de vigilância“, do qual extrai a linha do tempo a seguir:

Não vou focar em todos os aspectos, que cito no artigo, o qual recomendo a leitura, mas vou sintetizar, para embasar minha explicação. Em linhas gerais nos três campos: Acesso, empresas e tecnologias, e webdesign, tivemos uma evolução muito grande e rápida. No Webdesign, conceitos como os Web Standards, Usabilidade na Internet, XHTML e AJAX, mudaram completamente a forma como os sites são carregados para o navegador dos usuários, e a forma como os dados são coletados, requisitados e enviados ao servidor.

Explicando de uma forma mais simples, antes enviávamos informações ao servidor pelo navegador de Internet, e o servidor devolvia uma página com base nestas informações, era um processo assíncrono, hoje em dia as interações são síncronas, ou seja, dados transitam do navegador do usuário para o servidor e vice-versa, em tempo real.

Um exemplo prático, quando você escrevia uma postagem no Orkut, os dados só eram enviados depois do usuário pressionar o botão enviar, hoje em dia no Facebook, cada letra que você escreve numa postagem já vai para o servidor, e mesmo que você desista de envia-la, ela ficará registrada nos bancos de dados do Facebook.

Com tantos dados disponíveis, limitados apenas à capacidade de coleta dos servidores, os algoritmos das redes sociais que tratavam da interação com o usuário evoluíram a passos largos, e seguem evoluindo. O que permitiu a Amazon criar um agente inteligente eficiente:

Jeff Bezos, da Amazon, atingiu a marca de um milhão de clientes de livros em 1997. A Amazon desenvolveu uma solução de relevância com base nos dados e comportamento dos clientes: que livros procuravam, compravam, compartilhavam, colocavam em lista de desejos. Foi o primeiro “agente inteligente” que realmente funcionou. Bezos baseou seu método de relevância no livreiro do bairro, que conhece o interesse de cada cliente (idem).

CARIBÉ, 2019

O Google, o Facebook, Twitter e demais empresas do Vale do Silício, as “Big Techs” também buscavam aprimorar seus agentes inteligentes. O Facebook, e quando falo Facebook, falo das empresas da Meta, também aprimoravam estas interações, criando o feed de noticias em 2011. O termo feed (alimentador) passou a ser usado ao invés de timeline (linha do tempo), porque as publicações apresentadas na primeira tela do Facebook não atendiam mais a uma lógica cronológica.

O Facebook estava aprimorando seus algoritmos para extrair todos os dados das pegadas digitais dos usuários, que após modeladas permitiam obter seus perfis psicométricos e de interesse, criando um “duplo digital” dos indivíduos, e este duplo digital as permitia comparar e inferir mais informações e interesses. Ao comparar estes duplos digitais, as redes sociais passaram a identificar postagens potenciais, e assim passou a montar o feed. O documentário “O Dilema das Redes” na Netflix tangibilizou o duplo digital e todo processo que estou descrevendo.

O feed nada mais é que uma sequencia de postagens escolhidas por inteligência artificial com base nestes critérios, de forma a apresentar logo no topo do feed uma postagem que deverá interessar muito o usuário, seguida por outras postagens com base em temas de interesse inferidos, não esquecendo de inserir publicidade e principalmente uma postagem “injuriante”, isso mesmo, sempre vai ter uma postagem no seu feed que vai mexer com você, e provavelmente irá interagir, e é isso que a rede social quer, o seu interesse, pouco importando a montanha russa emocional que ela faz por conta disto.

Os problemas são muitos, para inicio de conversa a maioria das pessoas não faz ideia de como as redes sociais extraem suas pegadas digitais e modelam seus “duplos digitais” a partir delas. Além disso, esta grande maioria das pessoas estão formando seus consensos a partir das interações das redes sociais. É comum ouvir alguém dizer: Está todo mundo falando no Facebook. E estas formações de consenso estão sendo levadas para os grupos de WhatsApp, as pessoas acabam emprestando seus capitais sociais para disseminar fake news, fazendo com que terceiros acreditem com base na sua reputação. Some isto a construção das bolhas de unanimidade pelas redes sociais, que apresentam cada vez mais conteúdo de interesse do usuário, que molda a sua realidade a partir dai.

Uma das consequências mais óbvias é a crescente radicalização, principalmente quando há um embate entre indivíduos de bolhas de unanimidade opostas. Estas construções estão isolando grupos sociais, e fazendo com que muitas vezes, estes grupos se construam em torno de ideologias nada éticas e legais. Esta espiral de construção e reconstrução social tem feito muito mal a sociedade como um todo, e precisa ser interrompida com uma boa regulamentação e fiscalização, como já esta acontecendo na Europa.

---

O Panspectron

De 2016 à 2019 pesquisei este tema com profundidade, foram dezenas de livros e centenas de artigos acadêmicos, com o qual forjei minha dissertação de mestrado: “Algoritmização das relações sociais em rede, produção de crenças e construção da realidade“. Na dissertação eu também descrevo as fraquezas humanas, os vieses cognitivos, e sua relação com as informações, e entro em cada detalhe deste processo de construção e funcionamento da chamada mediação algorítmica.

As pessoas desconhecem o termo “Panspectron”, mas muitos sabem o que é um “Panoptico”. São conceitos parecidos, mas ainda assim existem acadêmicos que ainda usam o termo panóptico quando descrevem o processo de vigilância das redes sociais.

Explicando de forma resumida, um panspectron é um modelo de vigilância sofisticada que se dá através da análise e modelagem dos dados de um grupo de indivíduos. O panspectron não esta focando em um individuo especificamente, mas sim em coletar todos os rastros digitais e dados do máximo de indivíduos indiscriminadamente, em busca de padrões ou desvios.

A motivação para escrever o panspectron

A Internet trouxe grandes avanços para a humanidade, nos negócios, cultura, educação e saúde, mas algo parece estar dando errado. A sociedade esta mais dependente da tecnologia, seja para trabalhar, namorar, deslocar de um lugar para outro, e em especial para sociabilizar. As plataformas de redes sociais e aplicativos, fazem esta tarefa para o indivíduo, e aparentemente cobram apenas “alguns dados” por seus serviços.

A humanidade abraça os benefícios da tecnologia, mas ignora ou minimiza os seus riscos, como destaca Urich Beck em Sociedade de Risco, mas na maioria das vezes identificar estes riscos demanda tempo e estudos, ou eles surgem desastrosamente algum tempo depois. Algumas consequências destas facilidades tecnológicas como aplicativos e redes sociais se mostram evidentes, como a crescente dependência e perda de autonomia do indivíduo, mas outras mais complexas como a própria construção da realidade através da produção de crenças, mediados pelos algoritmos das redes sociais, podem colocar em risco parte significativa da sociedade, ou o todo.

O objetivo deste site e deste livro são tornar acessíveis, estes riscos, para que a sociedade compreenda e possa avaliar os riscos e benefícios envolvidos nas redes sociais.