Print Friendly, PDF & Email

A mediação algorítmica, como o próprio nome diz é realizada por diversos algoritmos e modelos matemáticos, que podem ser enviesados. Este viés pode ser codificado no algoritmo, ou resultar de dados enviesados, ou ainda ser produzido pela interação e viés do usuário.

A hipótese da recursividade foca neste último, o viés produzido pela interação e vieses do usuário. O detalhe aqui é que o processo recursivo produz uma aceleração na intensidade e velocidade com que este viés ocorra.

O que é recursividade

Pela perspectiva dos algoritmos, a recursividade é um recurso onde um determinado algoritmo (rotina) pode executar novas instâncias de si mesmo de forma ilimitada.

Em ciência da computação, a recursividade é a definição de uma sub-rotina (função ou método) que pode invocar a si mesma. Um exemplo de aplicação da recursividade pode ser encontrado nos analisadores sintáticos recursivos para linguagens de programação. A grande vantagem da recursão está na possibilidade de usar um programa de computador finito para definir, analisar ou produzir um estoque potencialmente infinito de sentenças, designs ou outros dados. (Wikipedia)

Calculo fatorial e de juros compostos por exemplo podem usar funções recursivas para sua solução por algoritmos. Para levar a formulação de minha hipótese, vamos a um exemplo mais próximo, o PredPol.

Um exemplo de viés por recursividade

No livro “Weapons of Math Destruction”, Cathy O’Neil descreve o PredPol (p.106).

O PredPol era um software de previsão de crimes baseado na análise dos registros de crimes, adotado pela policia de Santa Cruz na Califórnia. O programa processava dados históricos de crimes, e calculava a cada hora, os locais mais prováveis onde poderão ocorrer novos crimes. O PredPol usa modelos sofisticados de predição de crimes, ele é informado de crimes em determinada área, incorpora isto em um padrão histórico e consegue predizer onde pode ser mais provável de ocorrer o próximo crime. O viés pode ocorrer em três condições: Ser incorporado no código, nos dados e na implementação prática. O Professor Jeffrey Brantingham da UCLA, conforme O’Neil, testou o PredPol e concluiu que ele (o código) é imparcial para etnias. Na aplicação do caso em estudo foi onde aconteceu o viés, ou seja, os policiais passaram a reportar uma quantidade significativa de crimes leves como, consumo de álcool em via pública e pequenos vandalismos, já na região onde habitualmente reportavam estes crimes. O PredPol passou a incorpora-los e a medida que ia prevendo novos delitos na mesma região, recebia mais dados e assim recursivamente passou a reportar os mesmos locais de sempre. Deixando de fora crimes mais sérios reportados em outras regiões, mas em número menos frequente.

A hipótese do viés pela recursividade da bolha

Relembrando que o viés pode:

  1. Ser codificado no algoritmo
  2. Ser resultado de dados enviesados
  3. Ser produzido pela interação e viés do usuário

No tocante à sociabilização mediada por algoritmos, o indivíduo esta sujeito aos três, focando no Facebook, lembremos o conceito de “Síndrome do Mundo Bom” cunhado por Pariser em “O filtro invisível: O que a internet está escondendo de você”, que significa uma distorção produzida pela interação do indivíduo com a rede, ao indicar seus interesses de forma bem estrita, ignorando conteúdos fora deste interesse. O Indivíduo comum não tem este conhecimento de que desta forma está produzindo a “A síndrome do mundo bom”. A síndrome do mundo bom em sí é o resultado de um viés pela recursividade da bolha, produzido pela interação e viés do usuário.

A questão que levanto segue a partir deste ponto, uma vez que a recursividade irá continuar, e a bolha em torno do indivíduo irá se purificar, o adverso, o imprevisível, o debate serão substituídos pela monocromia, criando bolsões de unanimidade, matando a criatividade, gerando um mundo polarizado, potencializando os vieses da confirmação dos indivíduos destes bolsões, que aos poucos vão perdendo suas capacidades cognitivas, argumentativas, criativas…

Bibliografia

O’NEIL, C. Weapons of Math Destruction, How big data increases inequality and threatens democracy. New York: Crown Publishing Group, 2016. 307 p. ISBN: 9780553418828.

PARISER, E. O filtro invisível: O que a internet está escondendo de você. 1 ed. Brazil: Zahar, 2012. 251 p. ISBN: 978-85-378-0831-3.


João Carlos Rebello Caribé

Mestre em Ciência da Informação pela UFRJ/PPGCI. Formado em Publicidade e Propaganda pela Estácio de Sá. Membro do Laboratório em Rede de Humanidades Digitais (LarHud) e do Estudos Críticos em Informação, Tecnologia e Organização Social (Escritos).

0 comentário

Deixe uma resposta

Avatar placeholder

O seu endereço de e-mail não será publicado.

I accept the Privacy Policy