(Sobre o medo que inspirou meu livro, PERSONIFICADORES)
Em 2016, morando na Califórnia, estava obcecada com a proliferação de deepfakes, distribuídas através de postagens individualizadas na mídia social, que contribuiu com um resultado eleitoral chocante nos Estados Unidos. A mesma técnica também contribuiu com outro resultado igualmente perturbador no Brasil em 2018. Claro que existem grupos de interesse que devem ser responsabilizados pela proliferação e aplicação maliciosa dessas ferramentas que distorcem a realidade. Uma arma não puxa o próprio gatilho. Mas meu foco estava na nossa dificuldade em detectarmos desinformação e falsidades na Internet.
Onde essa distorção dos fatos nos levará? Que futuro estamos construindo?
Um estudo de 2010 da Universidade Americana Northwestern [1] demonstrou que quando os estudantes universitários participantes buscavam respostas online para questões que consideravam importantes, o fator mais relevante em seu processo decisório sobre em que site confiar era o posicionamento das respostas no aplicativo de busca. Eles ignoravam o valor do patrocínio dos arquivos, acreditavam sem questionar que o aplicativo organiza a lista de resultados em ordem de confiabilidade.
Outra pesquisa realizada em 2016 pela escola de educação da Universidade Stanford [2], que envolveu milhares de estudantes em sete estados americanos durante dezoito meses, demonstrou que jovens, do ensino médio ao superior, tinham dificuldade em diferenciar artigos e postagens verdadeiros dos falsos. A ideia de que os jovens teriam mais habilidade para detectar inverdades na internet por estarem crescendo habituados as telas é falsa. Facilidade em navegar as novas tecnologias não equivale em discernimento ao usá-las.
A conclusão de ambos os estudos é de que precisamos adicionar matérias nos currículos acadêmicos desde o ensino básico sobre como usar a internet, não apenas para a segurança dos alunos, mas também para o desenvolvimento da capacidade de separar fatos de falsidades, dados reais de opiniões.
O desenvolvimento acelerado de tecnologias de Inteligência Artificial faz com que essa tarefa seja cada vez mais desafiante. A situação se exacerbou dramaticamente com a invenção da tecnologia GAN (Generative Adversarial Network – Rede Adversária Generativa), um modelo de Machine Learning criado para gerar dados “realistas” baseados em dados existentes. Enfatizei a palavra “realistas” porque a tecnologia GAN não tem compromisso com a realidade, mas sim em criar dados sintéticos que pareçam reais. Os exemplos mais contundentes desta realidade falsa são as faces sintéticas, rostos que se assemelham tanto aos de pessoas de verdade, gente que existe no mundo real, que nos enganam completamente.
Em 2021, um estudo multidisciplinar [3] com pesquisadores da Universidade de Notre Dame, Universidade do Texas, e a empresa de tecnologia Kitware, especializada no desenvolvimento de software de imagem, postulou a seguinte questão: “É possível que identidades sintéticas efetivamente enganem observadores humanos?” Neste que foi o primeiro estudo deste gênero, a resposta contundente foi: sim. Os participantes do estudo acharam que rostos sintéticos e verdadeiros eram reais em proporção equivalente. Ou seja, identidades sintéticas passaram por gente de verdade na mesma proporção que gente de verdade foi taxada de falsa.
A conclusão óbvia é que não sabemos dizer se vídeos são reais ou não. A solução é pesquisar a fonte, o que a maioria de nós não faz por inúmeros fatores, muitos válidos como falta de tempo, outros ligados a nossa tendência de querer acreditar no que reforça nossos paradigmas.
A essa altura, após tanta leitura, minha cabeça rodava, e eu, que como engenheira eletrônica sempre apreciei avanços tecnológicos, me vi desnorteada. Os avanços que eu aprecio e quero ver no mundo trazem melhorias para a qualidade de vida de todos nós, como a IA que detecta tumores cancerígenos em tempo de salvar vidas. Porém, como nos conta nossa história, a ganância de alguns, causa a dor de muitos. Essa conclusão óbvia não me trouxe mais perto de responder as perguntas que motivaram tanto trabalho de pesquisa. No entanto, ela despertou uma necessidade imensa de por essa angústia para fora.
Adoro ficção científica, mas andava cansada do foco que muitos livros tem nas tecnologias em si. Queria uma estória sobre um ser humano de carne e osso confrontando a possibilidade terrível de perder sua humanidade.
Segui alimentando meu subconsciente com leituras, apresentações, documentários e filmes até que uma inspiração me bateu na testa. Em agosto de 2022, digitei as primeiras páginas de Personificadores. O resultado final, soma dos conhecimentos adquiridos, meus medos e ansiedades, minha esperança de que encontremos um caminho melhor e meus estudos em escrita criativa não é uma coleção de dados sintéticos fruto da recombinação de estórias copiadas sem a autorização de seus autores. Personificadores é uma estória inventada por mim sem a participação de nenhuma IA; qualquer semelhança com acontecimentos reais, é mera coincidência. Espero que jamais cheguemos perto da “realidade sintética” que criei nesta obra de ficção.
***
Referências:
[1] Eszter Hargittai, Lindsay Fullerton, Erika Menchen-Trevino e Kristin Yates Thoms: Trust Online: Young Adults’ Evaluation of Web Content
[2] Sam Wineburg, Sarah McGrew, Joel Breakstone e Teresa Ortega: Evaluating Information: The Cornerstone of Civic Online Reasoning
[3] Bingyu Shen, Brandon RichardWebster, Alice O’Toole, Kevin Bowyer e Walter J. Scheirer: A Study of the Human Perception of Synthetic Faces