RealorRender de Fraunhofer detecta deepfakes con 85-91% de precisión explicando qué región de la imagen delata el engaño

Un equipo de investigadores alemanes ha desarrollado una herramienta llamada RealorRender que promete revolucionar la lucha contra los deepfakes. Este sistema, financiado por la Oficina Federal de Seguridad Informática de Alemania, no solo detecta imágenes falsas generadas por inteligencia artificial, sino que también explica qué partes de la imagen delatan el engaño. Con una precisión que oscila entre el 85% y el 91%, supera ampliamente la capacidad humana, que apenas alcanza un 50-55% de acierto en condiciones similares.

La clave de RealorRender reside en su enfoque ingenioso: utiliza la misma tecnología que crea los deepfakes para desenmascararlos. El proceso funciona en dos fases. Primero, intenta reconstruir la imagen sospechosa con un generador de IA. Si la copia resultante es casi idéntica al original, es una señal clara de que la imagen fue creada artificialmente, ya que los generadores de IA reconocen y replican mejor los patrones que ellos mismos han aprendido. En la segunda fase, un modelo de clasificación analiza las diferencias entre la imagen original y su reconstrucción, calculando la probabilidad de que sea un deepfake. Pero lo más innovador es que, además de dar un veredicto, genera un mapa de calor que señala las zonas sospechosas, como texturas anómalas en la piel o patrones de frecuencia inusuales en los bordes de los objetos.

Un problema con cifras alarmantes

Los deepfakes no son solo un desafío técnico, sino un problema social y económico en crecimiento. En 2025, el fraude relacionado con estas imágenes superó los 1.500 millones de dólares. Plataformas dedicadas a deepfakes sexuales registraron millones de visitas, con un impacto devastador en las víctimas, especialmente mujeres y jóvenes. En este contexto, herramientas como RealorRender podrían convertirse en aliadas clave para plataformas digitales, medios de comunicación y sectores como el cine, donde la distinción entre contenido real y generado por IA es cada vez más crítica. Por ejemplo, los Oscar ya aceptan películas con elementos creados por IA, pero la línea entre el uso autorizado y el fraude sigue siendo difusa.

A pesar de su eficacia, RealorRender no es infalible. Su precisión actual, aunque notable, podría verse desafiada por la evolución de los generadores de deepfakes, que podrían adaptarse para burlar estos sistemas. Además, su aplicación se centra principalmente en imágenes de personas, dejando otros tipos de deepfakes, como paisajes o escenas complejas, fuera de su alcance. Por ahora, la herramienta no está disponible comercialmente, pero su desarrollo marca un paso importante en la transferencia de tecnología desde la investigación pública hacia soluciones prácticas.

Qué significa para tu negocio

Si gestionas una pyme en sectores como la construcción, reformas, inmobiliarias o servicios técnicos, podrías pensar que los deepfakes no te afectan directamente. Sin embargo, el riesgo está más cerca de lo que parece. Imagina que un competidor o un cliente descontento difunde imágenes falsas de tus obras, productos o instalaciones para dañar tu reputación. O que un empleado recibe un vídeo manipulado de un directivo pidiendo transferencias urgentes, un fraude cada vez más común. Herramientas como RealorRender, cuando estén disponibles, podrían ayudarte a verificar la autenticidad de imágenes o vídeos antes de tomar decisiones basadas en ellos. Mientras tanto, es clave formar a tu equipo para que desconfíe de contenidos sospechosos y establezca protocolos de verificación, como confirmar por teléfono cualquier solicitud urgente que llegue por medios digitales. La ciberseguridad ya no es solo cuestión de firewalls y contraseñas, sino también de saber distinguir la realidad de la ficción.