El martes trabajé junto a un grupo de estudiantes que están empezando a producir contenidos audiovisuales con IA en el marco del programa de mentoría GlitCheck que vengo haciendo desde principio de año. En ese espacio trabajamos criterios de calidad, estabilidad visual y coherencia narrativa en piezas generadas con IA, tomando como ejemplo una de las publicidades del Banco Nación Argentina.
GlitCheck lo cree para acompañar a equipos y creadores en la producción de contenido audiovisual con IA, brindando herramientas prácticas para mejorar la coherencia, la calidad visual y la comprensión técnica de estas tecnologías. Funciona también como un enfoque de análisis visual que revisa las piezas para identificar variaciones de identidad, deformaciones de objetos, errores de continuidad, cambios de texturas, fallas lumínicas y cualquier otro “glitch” característico de los modelos generativos actuales.
La propuesta combina criterio técnico y sensibilidad estética para ayudar a interpretar estas inconsistencias no como fallas humanas-máquinas, sino como señales del funcionamiento interno de la IA. Así, GlitCheck transforma cada glitch en una oportunidad de aprendizaje y en una guía para producir piezas más estables, responsables y profesionales.
La campaña #ClásicosDelCiberdelito es una iniciativa sumamente valiosa: el ciberdelito crece, se diversifica y afecta por igual a personas de todas las edades y niveles de alfabetización digital. Por eso, es fundamental que organizaciones con tanto alcance impulsen campañas de concientización.
La decisión de experimentar con IA en una pieza institucional demuestra apertura, búsqueda creativa y conexión con nuevos lenguajes. Esto, a su vez, exige comprender los límites y alcance actual de estas tecnologías.
Cuando una pieza audiovisual fue generada con IA – total o parcialmente – es recomendable aclararlo explícitamente. Esto permite contextualizar las imperfecciones que puedan aparecer, evitar interpretaciones erróneas y contribuir a una comunicación más transparente y educativa.
La pieza nos resultó atractiva, dinámica y captó nuestra atención. Pero, al detenerla cuadro por cuadro, aparecen inconsistencias típicas de la generación generativa, que son importantes conocerlas para mejorar las producciones.
Algunos detalles identificados
- Líneas divisorias de la calzada: Las líneas discontinuas del carril varían en espesor, largo y orientación. Este comportamiento errático es típico de modelos generativos que reconstruyen cada cuadro sin continuidad geométrica estricta. En algunos segmentos se borronea la demarcación, generando una sensación de inestabilidad visual.
- Trayectoria incorrecta del auto: El auto no se mantiene centrado en la dirección natural del carril, presentando un desplazamiento lateral. Esto sucede porque existen modelos que no fueron entrenados de forma adecuada; solo generan aproximaciones cuadro a cuadro, produciendo desalineación.
- Objetos en veredas y fondos deformados: Postes, árboles y bolardos muestran deformaciones. Las sombras no coinciden y algunas texturas parecen estiradas o comprimidas. Estos artefactos responden a la forma en que la IA sintetiza “ambientes plausibles” sin respetar coherencia física del espacio.
- Inconsistencia del actor principal: El rostro del actor varía entre planos: cambia la forma de la nariz, la mandíbula, la edad percibida y la estructura de los ojos. Este efecto, llamado identity drift, ocurre cuando la IA no fija una identidad estable y reconstruye una cara parecida en cada cuadro.
- Textos borrosos en el celular: La pantalla del teléfono presenta texto ilegible, formado por pseudo-caracteres o letras inventadas. Los modelos generativos suelen producir texto que parece texto, pero sin semántica real, lo cual es problemático en una escena donde el mensaje fraudulento es parte fundamental del relato.
- Cambios en el reloj del actor: El reloj aparece y desaparece entre planos e incluso cambia levemente de forma. Estos errores son comunes porque la IA no capta a este objeto como algo persistente y lo reimagina cuadro a cuadro.
- Variaciones en la textura de la remera: La remera del actor cambia de trama y grosor a lo largo del video. En algunos momentos parece algodón grueso; en otros, una tela más fina y ajustada al cuerpo del actor. La IA no guarda memoria de materiales y reconstruye la ropa de manera independiente en cada plano.
La campaña es creativa, necesaria y efectiva en captar atención. Su “buen rápido” funciona: el ritmo, el impacto visual y el formato ayudan a comunicar un mensaje urgente. Pero al detenernos y observar en detalle emergen las inconsistencias de la IA generativa actual. Identificarlas no invalida la pieza; al contrario, permite mejorar procesos y fortalecer futuras producciones institucionales asistidas por IA.
Las mentorías de GlitCheck pueden ser individuales o grupales. Si querés conocer los alcances del programa, podemos coordinar una reunión y te cuento más en detalle, completando este formulario.