IA y desinformación en Ceuta: el nuevo riesgo para las instituciones
- Vídeos generados con IA suplantan a la Policía Nacional, Guardia Civil, Cruz Roja y TVE para difundir odio.
- Los bulos buscan ridiculizar la labor institucional y estigmatizar a los migrantes en Ceuta.
- Herramientas de Meta y Google SynthID han confirmado el origen sintético de los contenidos.
- La APM impulsa la formación periodística para combatir la desinformación en contextos críticos.
La capacidad de la inteligencia artificial generativa para crear imágenes y vídeos hiperrealistas ha dejado de ser una curiosidad tecnológica para convertirse en un arma de desestabilización social. En España, el foco de esta tendencia se ha desplazado hacia Ceuta, donde se ha detectado una campaña coordinada de desinformación que utiliza la IA para suplantar la identidad de instituciones públicas y organizaciones humanitarias con un objetivo claro: alimentar el discurso de odio y desprestigiar la gestión de la crisis migratoria.
La fabricación de realidades sintéticas en Ceuta
El fenómeno no se limita a simples textos falsos, sino que ha evolucionado hacia la creación de vídeos diseñados para engañar al ojo humano. Recientemente, han circulado grabaciones en YouTube e Instagram que presentan escenas contradictorias para sugerir un trato desigual por parte de las fuerzas de seguridad. En uno de estos vídeos, se muestra a agentes de la Policía Nacional multando a un ciudadano español en una playa por fumar o tirar basura, mientras que, en una secuencia posterior etiquetada como Ceuta, se ve una playa llena de residuos donde los policías ignoran a los presentes bajo la premisa de que son personas protegidas.
Estas imágenes, que buscan proyectar una falsa narrativa de impunidad para los migrantes y rigor excesivo para los nacionales, han sido analizadas por el equipo de VerificaRTVE. El resultado es contundente: no se trata de grabaciones reales editadas, sino de contenidos generados íntegramente mediante modelos de IA. La sofisticación de estas piezas permite que miles de usuarios las consuman como hechos reales, amplificando la polarización en redes sociales.
Suplantación de identidad y ataque a la Cruz Roja
La campaña de desinformación no se ha detenido en los cuerpos de seguridad. La Cruz Roja ha sido blanco de una estrategia doble que combina la IA con la descontextualización de datos. Por un lado, han aparecido vídeos sintéticos en Instagram donde supuestos voluntarios de la organización reparten sprays de defensa a personas marroquíes, una escena absurda pero diseñada para generar indignación y ridículo.
Por otro lado, se ha desplegado una narrativa que intenta invisibilizar la labor humanitaria de la entidad en otras crisis nacionales. En la plataforma X, se han difundido mensajes asegurando que la organización prioriza la atención a los migrantes en Ceuta mientras ignora a las víctimas de los incendios forestales del verano o a los afectados por la dana en Valencia. Sin embargo, los registros oficiales y la actividad en redes de la propia institución demuestran que la asistencia fue desplegada en ambos escenarios, desmintiendo la idea de una ayuda selectiva.
El papel de TVE y la manipulación del discurso
Incluso los medios de comunicación públicos han sido suplantados para dar legitimidad a bulos peligrosos. Se han detectado vídeos que imitan el formato de entrevistas de TVE, en los cuales supuestos migrantes afirman haber conquistado España. Este tipo de contenidos no solo atacan la reputación del medio, sino que utilizan la autoridad visual de una cadena nacional para validar teorías conspirativas sobre la soberanía y la migración.
La IA se está utilizando para desacreditar y alimentar el discurso de odio contra instituciones y organizaciones, creando una percepción distorsionada de la realidad en zonas de alta tensión social.
La detección de estos fraudes ha sido posible gracias a la implementación de herramientas avanzadas de verificación. El uso de Google SynthID y los sistemas de detección de Meta ha permitido confirmar que los vídeos fueron creados con sus propios modelos de IA, evidenciando que las mismas herramientas que impulsan la productividad empresarial están siendo desviadas para la creación de propaganda.
La respuesta desde el periodismo y la formación
Ante este escenario, la respuesta no puede ser únicamente tecnológica, sino también humana y profesional. La Asociación de la Prensa de Madrid (APM) ha tomado la iniciativa organizando jornadas formativas específicas sobre la cobertura informativa en Ceuta y el impacto de la IA. En estas sesiones, impartidas por expertas como Carmela Ríos, se ha subrayado la importancia del periodismo local como la primera línea de defensa contra la desinformación.
La colaboración entre periodistas de medios ceutíes, como El Faro de Ceuta, y profesionales de Madrid busca establecer protocolos de verificación más estrictos. El objetivo es evitar que la inmediatez de las redes sociales imponga una narrativa falsa antes de que los hechos puedan ser contrastados en el terreno. La formación en periodismo móvil y el uso de herramientas de detección de IA se han vuelto competencias críticas para cualquier redactor que cubra conflictos migratorios o crisis sociales.
El ecosistema de difusión en redes sociales
El análisis de la propagación de estos bulos revela un patrón claro: el uso de cuentas puente en Instagram y YouTube que actúan como nodos de distribución. Estas cuentas no buscan informar, sino generar reacciones emocionales fuertes que impulsen el algoritmo de recomendación. Una vez que el vídeo sintético alcanza una masa crítica de visualizaciones, es trasladado a X o WhatsApp, donde la verificación es mucho más difícil debido a la naturaleza cerrada de los grupos de mensajería.
La peligrosidad de este método reside en la capacidad de la IA para crear variaciones del mismo bulo, adaptando el mensaje según la audiencia. Mientras que en una plataforma se ataca la eficiencia de la Guardia Civil, en otra se cuestiona la ética de la Cruz Roja, creando un cerco de desconfianza generalizada hacia cualquier institución que opere en la ciudad autónoma.
Impacto en el tejido empresarial y digital de España
Para el emprendedor y el empresario español, este escenario es una señal de alerta sobre la vulnerabilidad de la reputación corporativa en la era de la IA generativa. La facilidad con la que se ha suplantado a instituciones como la Cruz Roja o TVE demuestra que ninguna marca, por consolidada que esté, es inmune a un ataque de desinformación sintética.
En el marco del AI Act de la Unión Europea, España se encuentra en una posición donde debe acelerar la implementación de normativas de transparencia. La obligatoriedad de etiquetar los contenidos generados por IA no es solo una cuestión ética, sino una necesidad de seguridad jurídica para las empresas. El tejido empresarial español, especialmente aquel vinculado a la comunicación y la tecnología, debe integrar la verificación de contenidos como parte de su gestión de riesgos.
La agenda digital española debe priorizar la alfabetización mediática no solo para el ciudadano, sino para los cuadros directivos. La capacidad de distinguir un activo real de uno sintético será una ventaja competitiva y una medida de protección esencial. En un entorno donde la desinformación puede provocar crisis reputacionales en cuestión de minutos, la inversión en herramientas de detección y en protocolos de respuesta rápida se vuelve imperativa para garantizar la estabilidad del ecosistema de negocios local.
Preguntas frecuentes
¿Cómo se ha confirmado que los vídeos de Ceuta son falsos?
Se han utilizado herramientas de detección de inteligencia artificial de Meta y Google SynthID, que han determinado que los contenidos fueron generados con sus modelos de IA.
¿Qué instituciones han sido suplantadas en estas campañas?
Han sido suplantadas la Policía Nacional, la Guardia Civil, la Cruz Roja y la corporación RTVE.
¿Cuál es el objetivo principal de estos vídeos generados con IA?
El objetivo es ridiculizar la labor de las instituciones, difundir mensajes de odio y estigmatizar a las personas migrantes en el contexto de la crisis de Ceuta.
¿Qué medidas se están tomando desde el sector periodístico?
La APM ha organizado jornadas formativas sobre desinformación e IA, destacando la importancia del periodismo local y la formación en herramientas de verificación.
Fuentes: Rtve (2), Lavanguardia ·
glacom · Inteligencia artificial para empresas: los modelos corren en tus servidores, los datos no salen →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
