A proliferação de conteúdos gerados por inteligência artificial (IA) nas redes sociais tem revelado um lado sombrio da tecnologia, especialmente quando utilizada para fins de exploração e objetificação. Um levantamento recente do DesinfoPop, laboratório da Fundação Getulio Vargas (FGV), acendeu um alerta sobre a criação de vídeos que sexualizam e ridicularizam mulheres com síndrome de Down, nanismo e autismo em plataformas como TikTok, X (antigo Twitter) e Instagram. Essa prática não apenas viola a dignidade dessas pessoas, mas também serve como isca para golpes e venda de conteúdo adulto fraudulento.
A pesquisa detalha como a simples busca por termos como “síndrome de Down” no TikTok pode levar a uma série de vídeos manipulados por IA. Em muitos desses casos, os perfis que publicam o material direcionam os usuários para grupos no Telegram ou páginas de venda de conteúdo adulto. O preocupante é que, ao chegar a esses destinos, as mulheres apresentadas não possuem as deficiências que eram exploradas nos vídeos alterados. A condição é usada como uma estratégia de atração e diferenciação comercial, e em diversas situações, o conteúdo adulto prometido sequer existe, configurando um golpe.
A sexualização de pessoas com deficiência e o capacitismo
Para especialistas, a principal vítima dessa modalidade de conteúdo é a própria pessoa com deficiência. Ao transformar condições como síndrome de Down ou nanismo em fetiche ou objeto de ridicularização, essas publicações reforçam o capacitismo – a discriminação contra pessoas com deficiência. Além disso, naturalizam a objetificação e causam profundos prejuízos emocionais e psicológicos, minando a autoestima e a inclusão social desses indivíduos.
Ergon Cugler, pesquisador da FGV e integrante do DesinfoPop, ressalta que um dos aspectos mais alarmantes do levantamento não é apenas a existência desses conteúdos, mas a facilidade com que são encontrados. “O algoritmo escolhe privilegiar conteúdos nocivos em vez de entregar vídeos educativos, democráticos ou simplesmente explicando essas condições”, afirma Cugler. Ele complementa que essa dinâmica “mostra o quanto naturalizamos um comportamento que, fora do ambiente digital, seria considerado inaceitável”, evidenciando uma falha ética na curadoria algorítmica das plataformas.
Respostas das plataformas e o desafio da moderação
Diante da gravidade da situação, as plataformas foram questionadas sobre suas políticas e ações. O TikTok, por exemplo, informou que o conteúdo reportado foi removido por violar suas diretrizes, que proíbem publicações que degradem indivíduos em razão de aparência, inteligência ou condição médica. A empresa destacou que seu sistema de moderação atua continuamente, tendo removido proativamente 99,1% dos conteúdos violadores no quarto trimestre de 2025.
O Telegram, por sua vez, afirmou não permitir a distribuição de imagens íntimas não consensuais, incluindo pornografia deepfake. A plataforma assegurou que seus moderadores, equipados com ferramentas de IA, monitoram proativamente o ambiente público e analisam denúncias de usuários para remover milhões de conteúdos nocivos diariamente. Já a Meta, controladora do Instagram, optou por não comentar o assunto, enquanto o X não respondeu aos questionamentos da reportagem.
A amplificação algorítmica e o futuro da ética digital
A sofisticação dos algoritmos, como o do TikTok, em amplificar esse tipo de conteúdo é um ponto crítico. A pesquisa da FGV revelou que, ao iniciar a digitação de “síndrome de Down”, o próprio TikTok sugere buscas como “síndrome de Down gata”. Segundo os pesquisadores, essa não é uma ocorrência acidental, mas um reflexo das escolhas de design do algoritmo, que tende a impulsionar conteúdos com alto engajamento, independentemente de seu impacto ético ou social. Este cenário levanta questões urgentes sobre a responsabilidade das empresas de tecnologia na moderação de conteúdo e na proteção de grupos vulneráveis.
A discussão transcende a mera remoção de vídeos, adentrando o campo da ética no desenvolvimento e aplicação da inteligência artificial. É fundamental que as plataformas revisem seus algoritmos para priorizar a segurança e o bem-estar dos usuários, em vez de apenas o engajamento. A sociedade, por sua vez, precisa estar atenta e exigir maior transparência e responsabilidade das empresas de tecnologia. Para aprofundar-se nos estudos sobre desordem informacional e políticas públicas, visite o site do DesinfoPop da FGV.
Continue acompanhando o M1 Metrópole para se manter informado sobre as últimas notícias, análises aprofundadas e conteúdos relevantes que impactam a sua vida e a sociedade. Nosso compromisso é com a informação de qualidade, contextualizada e acessível, abordando uma vasta gama de temas com credibilidade e rigor jornalístico.
