Tanya Mehra e Bibi van Ginkel, pesquisadoras seniores do ICCT, argumentam que o termo “conteúdo borderline” — frequentemente usado para descrever material “terrível, mas legal” (“awful but lawful”) — tornou-se insuficiente e perigoso. Elas propõem a adoção do conceito de “Conteúdo Extremista Implícito”, definindo-o como material que oculta deliberadamente sua intenção ilegal ou nociva através de humor, ironia e códigos culturais. Essa reclassificação é crucial porque o vácuo atual permite que narrativas de ódio escapem da moderação algorítmica e prosperem sob a proteção técnica da liberdade de expressão.
A análise aponta que grupos extremistas, tanto jihadistas quanto de extrema-direita, adaptaram suas táticas para operar exatamente nessa zona de ambiguidade. O uso de memes (como o Pepe the Frog), linguagem codificada (“dog whistles”) e sátira serve como camuflagem para recrutamento e normalização da violência. O perigo reside no fato de que, para um moderador de conteúdo ou IA sem contexto cultural específico, essas postagens parecem inócuas, resultando em “falsos negativos” que permitem a continuidade da radicalização em plataformas abertas como TikTok e Discord.
O impacto dessa lacuna é devastador para o público jovem, que se encontra em estágio formativo de identidade. O estudo cita dados alarmantes da Europol (TE-SAT 2025), indicando que menores representam quase 30% das prisões por terrorismo na UE. Redes como a “764” exploram essa vulnerabilidade, misturando extremismo violento com abuso sexual infantil e autoagressão, tudo embalado em formatos digitais que escapam das definições legais tradicionais de terrorismo.
Do ponto de vista jurídico e de direitos humanos, a proposta do ICCT busca equilibrar a segurança com a liberdade de expressão. Ao introduzir o critério de “dano” (“harmful”) na definição — focado no risco real a indivíduos ou à ordem democrática —, as autoras tentam evitar a censura excessiva (“falsos positivos”). A ideia é que a moderação não deve punir apenas a ilegalidade explícita, mas também a intenção velada de causar ruptura social, exigindo que as plataformas assumam maior responsabilidade editorial sobre o que amplificam.
Para a segurança global, a mudança de paradigma sugerida é vital. A distinção binária entre “legal” e “ilegal” tornou-se obsoleta na guerra híbrida moderna, onde a desinformação e a polarização são armas estratégicas. Se as democracias não desenvolverem ferramentas para mitigar o “Conteúdo Extremista Implícito”, continuarão a perder a batalha pelos corações e mentes, permitindo que a infraestrutura da internet livre seja usada para desmantelá-la por dentro.
Fonte: ICCT (International Centre for Counter-Terrorism)
Link: Leia na íntegra em https://icct.nl/publication/boundaries-borderline-content-defining-scope-implicit-extremist-content