Estudante na India cria golpista loira com IA para pagar as parcelas da faculdade e declara em depoimento a revista Wired que:
– O povo MAGA é composto por gente muito burra. Eles caem fácil.
A verdade é que todos podemos cair e essa é a inspiração por trás de Personificadores, onde, num futuro próximo, todos os filmes e shows de TV são deepfakes, que ao invés de atores, usam marionetes digitais criadas por IA.
Um estudante de medicina na India, de apenas vinte dois anos, expôs quão fácil é dar golpe nos homens estadunidenses do movimento MAGA. Basta usar Inteligência Artificial e tribalismo.
Ele criou “Emily Hart”, uma enfermeira loira e conservadora fictícia, parecida com a Jennifer Lawrence. A conta falsa fazia postagens com imagens dela pescando, bebendo cerveja e atirando com rifles. Todas as legendas eram inflamatórias: “Aborto é assassinato”, “Jesus Cristo é Rei”, “Todos os ilegais devem ser deportados”.
O mais chocante disso tudo é que o estudante recebeu a ideia da IA Gemini da Google. Quando ele começou a fazer postagens de conteúdo genérico, não conseguiu alavancar sua página para monetizá-la. Ele pediu dicas a Gemini sobre como melhorar. A Gemini sugeriu que ele focasse seus esforços no “nicho conservador dos Estados Unidos, o movimento MAGA” explicando que “a audiência conservadora (especialmente homens estadunidenses mais velhos) são mais leais e tipicamente tem mais dinheiro disponível para gastos extras”.
Seus vídeos de deepfake passaram a ter milhões de visualizações. Em um mês, Emily Hart já tinha mais de dez mil seguidores, muitos deles assinantes pagantes no site Fanvue, plataforma de conteúdo explícito feito com IA. Trabalhando de 30 a 50 minutos por dia, o estudante passou a receber milhares de dólares por mês.
Emily Hart não é a única personalidade-sintética criada por IA sendo usada para dar golpes e transmitir fake news na Internet. Uma onda de “Mulheres MAGA”, brancas, loiras, na maioria enfermeiras ou do “exército”, todas feitas com IA, estão invadindo plataformas de mídia social usando pornografia “softcore” e “rage-bait”, declarações sensacionalistas, misóginas e preconceituosas, para fisgar homens da extrema direita e monetizar sua lealdade.
Uma conta, “Jessica Foster” chegou a um milhão de seguidores no Instagram antes de ser exposta como falsa.
Especialistas alertam que este mesmo padrão está sendo usado para espalhar desinformação em grande escala, um exército “bot” de patriotas falsos feitos por IA divulgando propaganda enganosa nos Estados Unidos.
Enquanto uma estória individual isolada pode parecer até engraçada, as implicações são muito perigosas, e o mesmo está acontecendo no Brasil. Os brasileiros estão sendo manipulados por deepfakes que estão se espalhando como fogo em palha seca.
Uma pesquisa da Imperva de 2024 averiguou que 50% de todo o tráfego de Internet são bots. E a proporção de “bad bots”, bots dedicados a golpes e desinformação, subiu de 30,2% em 2022 para 32% em 2023. Desenvolvidos por IA, esses bots malígnos copiam o comportamento humano, curtindo, seguindo, comentando e engajando em conversas online em tempo real. Fraudadores tem usado essas ferramentas para fingir crescimento de apoio a figuras públicas, distorcendo pesquisas, para difundir teorias de conspiração e para nos dividir cada vez mais.
Como nos proteger? Pesquisando a fonte de notícias, a origem de postagens, nunca acreditando em nada sem verificar a procedência.
Criadores de conteúdo sérios sempre divulgam as fontes das informações que compartilham.
Fontes:
https://www.wired.com/story/ai-generated-maga-girls/
https://www.forbes.com/councils/forbestechcouncil/2025/02/18/is-social-media-trust-eroding-bots-and-deepfakes-are-creating-a-digital-wildfire/
https://www.businesswire.com/news/home/20240416225637/en/Bots-Now-Make-Up-Nearly-Half-of-All-Internet-Traffic-Globally