quinta-feira, 29 de julho de 2021

COMO SÃO FEITOS OS BOTS QUE TE CONTROLAM

Um rapaz (que prefere não se identificar) da área de TI escreveu este ótimo e detalhado artigo explicando pra gente como funcionam os bots criados para alterar a opinião pública. 

Bot é um diminutivo da palavra robot, que significa robô. No contexto de programação e internet é usado para programas de computador que são capazes de simular ações de seres humanos.

O meu primeiro bot foi programado há 30 anos. Era um bot que simulava um jogador no videogame de computador que eu estava desenvolvendo. Um jogo de ação de combate aéreo, similar ao conhecido jogo de Atari 2600, o River Raid. Assim, em vez de ficar pressionando teclas ou usando o joystick para ver se o que acabei de programar estava funcionando adequadamente, apenas assistia a ação, tomava notas, percebia se tinha algo errado. O bot desviava de naves e disparos inimigos, disparava contra eles e tentava marcar pontos. Depois de um tempo de testes voltava a programar o jogo para corrigir os defeitos que identificava.

Também programei bots para testar programas de computador de outros tipos. Os bots preenchiam formulários com nomes, datas, escolhas e enviavam o formulário para ser processado. Preenchiam de forma aleatória, com valores diferentes, para facilitar a descoberta de erros. Se o bot identificasse a palavra erro no formulário automaticamente salvaria a tela, que poderia ser analisada depois.

Atualmente, uso um bot que copia dados de um sistema para o outro sem precisar ter acesso ao código de nenhum dos dois. São muito úteis. Transformo uma tarefa de 5 minutos em 1 minuto sem desgastar os meus tendões.

Um dos bots que programei para aprendizado era capaz de jogar alguns modos de um jogo que eu gostava de forma independente. O objetivo era ver as mensagens que se compram com dinheiro do game. Deixava o bot atuando durante a madrugada para conseguir moedas e diamantes. Quando acordava via as mensagens pagas com o que havia conseguido. As mensagens eram bem engraçadas. Era uma trapaça, mas não afetava ninguém. Era só uma forma de não gastar meu tempo com tarefas repetitivas.

Mostrei para um amigo esse último bot. Ele teve a ideia de criar um bot para fazer colheita de seus amigos num famoso jogo do saudoso Orkut. Tirou umas dúvidas comigo, mas ele mesmo desenvolveu o bot. Eu não achei lá muito legal, pois ele estava trapaceando os seus amigos. Deixava-os frustrados. Perguntavam como ele não dava sossego, se ele não dormia para ficar jogando, já que ele não os deixava acumularem nenhuma produção.

Nessas eleições no Brasil e em outras estrangeiras fomos influenciados pela ação desse tipo de bot. A democracia, que funciona com a apresentação de propostas, visões políticas e alianças, não foi apenas desenvolvida por seres humanos como você. Usou-se de muito dinheiro para acrescentar bots que tiveram o poder de influenciar a opinião pública.

Os bots usaram de informações das redes sociais para descobrir os maiores medos de nossa população. Tivemos campanhas com divulgação de notícias falsas alinhadas a esses medos. Se temos por exemplo quem tenha medo de ser assaltado sem ter como reagir, podemos receber uma fake news falando que armas serão distribuídas gratuitamente para a população.

Os medos que serão explorados podem ser alinhados com qualquer ideologia. Podem passar mensagens prometendo que casas e carros serão confiscados, que direitos trabalhistas serão eliminados, basta descobrir a quais mensagens a maior parte da população é suscetível e escolher o candidato que vai representar a solução para esses medos.

Se num post sobre um candidato você vê dezenas de comentários de apoio -- às vezes exaltando a visão dele, que pode em parte ser parecida com a sua -- você pode começar a se identificar cada vez mais com o candidato em questão. Se o processo se repete mais vezes, você pode sentir uma identificação praticamente absoluta, sentindo que o candidato fará no governo o que você desejaria que fosse feito. Infelizmente, uma boa parte desses comentários vieram de bots. Tente lembrar do tanto de vezes que vocês viram comentários apoiando um candidato, desde anos antes dessa eleição, sem às vezes sequer fazer sentido no contexto.

Quando somos manipulados em massa, passamos a ser nós mesmos os bots que vão até a urna apertar os botões em favor do candidato. Isso não dá para fazer com bots de internet, então nós mesmos fazemos. E achamos que estamos fazendo o certo, que estamos participando do processo democrático, que estamos escolhendo. Não há raciocínio, não há análise, não há tomada de decisão. Só estamos reagindo aos nossos medos. Escolheram por nós e vamos lá apenas para apertar os botões. E sequer tem a ver com inteligência. Mesmo as pessoas inteligentes não são imunes às mensagens falsas direcionadas para explorar os seus medos.

Considerem o quanto isso é, no mínimo, desonesto. Você está interagindo com programas de computador. Eles tem fotos, tem nomes de pessoas, tem amigos que o seguem (normalmente, mais bots). Em alguns casos há o cuidado de se criar uma história para os bots, posts como fotos de aniversário, por exemplo. Alguns são capazes de até conduzir um diálogo, respondendo e fazendo perguntas, concordando, te convencendo. Você pode interagir apenas com bots um dia inteiro e nem perceber.

Todas as redes sociais e formas de comunicação que usam meio eletrônico estão sujeitas aos bots. As mais utilizadas como Facebook, WhatsApp, Instagram e Twitter são particularmente mais vantajosas para se investir. Algumas redes são usadas também para coleta de informações. Uma simples reação de risada numa reportagem em que há denúncia de violência contra uma lésbica pode indicar o perfil do usuário. Juntam-se várias reações similares, comentários e interesses e se consegue bastante precisão.

Bots precisam de recursos computacionais, programadores de computadores como eu, psicólogos, marqueteiros e publicitários para que as mensagens programadas funcionem melhor e atinjam um grande público. Isso tudo custa muito dinheiro. E, se custa muito dinheiro, o investimento não será feito por pessoas comuns, ainda que essas possam ajudar a propagar as mensagens pessoalmente ou por outras formas de comunicação. Será feito por quem tem muito poder econômico. Quem tem muito poder econômico pode até desejar algumas mudanças que sejam boas para a população, mas o seu objetivo primário será sempre aumentar o seu próprio poder econômico. Qualquer lado numa eleição pode usar esse recurso, mas é certo que uma parte será mais beneficiada que a outra. Basta verificar quem será mais beneficiado economicamente.

Em campanhas anteriores tivemos, obviamente, outras formas de manipulação. Só que uma coisa é você receber uma notícia falsa ou tendenciosa vindo da TV, rádio ou jornais impressos, outra é você receber uma mensagem falsa de uma pessoa em quem você confia. E uma mensagem baseada nos seus maiores medos. Você acredita mais, automaticamente, pois a confiança que você tem na pessoa é transferida em parte à mensagem.

Temos que pensar nas perguntas a seguir, procurar informações e lutar para conseguirmos manter algo que poderemos chamar de democracia.

Conseguiremos provar a existência de bots que manipulem eleições?

Esses bots são ilegais?

Se não são, deveriam ser?

Deveriam obrigar que os bots fossem identificados como bots e, em se detectando uso indevido não identificado, penalizar os culpados?

Que empresários investiram para que esses bots fossem utilizados nas campanhas eleitorais?

O investimento foi declarado?

O que esperam de retorno para esses investimentos?

Estou me sentindo muito manipulado, o que posso fazer?

Como você se sente ao saber de tudo isso?

Como poderemos prevenir ou limitar os efeitos dessa manipulação no futuro?

9 comentários:

Alan Alriga disse...

O mais difícil atualmente é saber diferenciar os humanos dos bots, já que existem bots avançados que se passam por humanos que têm baixa escolaridade de forma quase perfeita, e humanos que agem feito bots mal programados nas redes sociais, seja por só saber seguir mulheres/homens gostosos, viver fechado dentro da própria bolha (independente do tipo de bolha, seja política, filmes, livros, música, etc.), sem interagir com outras bolhas, principalmente de forma saudável sem atacar pessoas de outras bolhas gratuitamente, coisa essa que é quase impossível hoje em dia principalmente no Twitter.

"Estou me sentindo muito manipulado, o que posso fazer?" E respondendo essa pergunta, é muito mais fácil você ser taxado de conspiracionista por todos a sua volta, do que realmente poder fazer algo de fato, como realmente aconteceu nessas últimas eleições, onde muitas pessoas perceberam essas manipulações e eram humilhados virtualmente por isso, até que jornais renomados começaram a fazer matérias sobre isso.

Anônimo disse...

"Humanos que agem feito bots mal programados nas redes sociais". Perfeita definição. Infelizmente há muitas pessoas assim. Esse pessoal faz cada comentário estranho e disparatado que a gente duvida que tal comentário foi feito por uma pessoa. De tão absurdo, gente que não escreve coisa com coisa. Assim é meu ex-namorado, obcecado por teorias da conspiração, adorador de Bolsonaro, dos filhos dele, do Olavo de Carvalho, de políticos de extrema direita, capaz de dizer que Lula, Manuela, Ciro Gomes, FHC, Dória, Amoedo, Serra, Ronaldo Caiado, Rodrigo Maia, Joyce Hasselman é "tudo comunista esquerdalha" (!!!!).Ele adora esse papo de meritocracia mas não gosta de trabalhar de verdade (só bicos que o deixam com mais tempo livre do que de trabalho), não procura emprego, sempre dá um jeito de viver encostado em alguem (até 2019 ele revezava alguns dias na semana na minha casa, outros na casa da irmã). Ou seja muito tempo livre para ficar no facebook, no twitter, telegram, youtube. O twitter dele é aberto, os comentários e postagens são pura alucinação, não diz lé om cré, xingamentos a qualquer um que se manifeste contra Bolsonaro. Ele já foi confundido com robô por usuários do twitter, porque nada que ele diz faz sentido. Um horror:(

Anônimo disse...

E vc continua gostando dele assim mesmo né? Pelo tanto de referência e relevância que vc deu a ele num simples comentário, dá pra perceber de cara a fixação no cidadão. Bj

Anônimo disse...

Gosto não, prezado anônimo. Mas o que vc tem com isso? Fixação, eu? Vc é psicólogo por acaso para me diagnosticar? Mas de todo jeito, vc sentiu seu calo apertar? Carapuça lhe serviu? Vc é igual a ele? Cuide de sua própria vida, eu decido como escrevo meus comentários, do tamanho que eu quiser, e dou pouca ou muita relevância e referência ao que eu quiser. Quem é você para cagar regra nos comentários dos outros? Eu hein?? Não gostou, não curtiu? Enfia o dedo no teu cuu e rasga. Bj pra vc também.

Anônimo disse...

Pela sua "educação", dá pra saber o porquê do seu amor ter lhe trocado. Dessa forma, com essa agressividade toda, vc só faz afastar as pessoas de vc, inclusive as que vc ama (como é o caso do seu relato). Bjs

Anônimo disse...

Prezado anônimo. Para sua informação, não, não fui trocada, eu é que meti o pé na bunda porque não nasci para sustentar homem que não quer saber de trabalho e não tem planos para a vida. Em geral sou de boa. Uma das poucas situações que me tornam agressiva é alguém vir me dizer como devo fazer qualquer coisa, sem que eu tenha solicitado. Inclusive um comentário num blog. Detesto gente me ditando regras ou tentando me avaliar sem me conhecer.E reitero, não estou precisando de nenhum aconselhamento ou ensinamento, guarde os seus pra vc mesmo. Valeu?

Anônimo disse...

Essa é a resposta ao anônimo das 11:40

Kasturba disse...

Meu pai é desse mesmo jeito.
Pior que eu sempre achei ele um homem muito inteligente, sempre o admirei.
Mas hoje, já aposentado, passa o dia todo nas redes sociais reencaminhando mensagens patéticas defendendo bozo (ou falando mal do PT, o que pra eles é sinônimo), e fazendo comentários do tipo "e o petê?", "luladrão"... Poucas cenas me dou ao trabalho de responder às postagens dele, mostrando fato, chamando pra um debate um pouco mais profundo, e ele simplesmente não reponde porque não sabe responder... as respostas dele nunca passam de pequenas frases "de efeito", sem nenhum conteúdo... Se eu não conhecesse, certamente acharia que é um robô, do tipo mal programado mesmo...

Anônimo disse...

Feliz pela anônima ou anônimo que ficou livre do ex-namorado.

Entendi totalmente a agressividade. Não dá para assumir nada sobre uma pessoa que deixou outra e nem se deve assumir.

Sinto pelas pessoas que lidaram com conspiracionistas. Eu tenho um caso particular bem estranho. Irmão evangélico de esquerda, que abomina o Bolsonaro, mas acredita em algumas conspirações ligadas a vacina ou PIX!

Felizmente os pais são de esquerda e vacinados.