¿Qué es un deepfake y cómo funciona?

Los deepfakes son videos, imágenes o audios manipulados mediante inteligencia artificial que consiguen parecer auténticos, mostrando a personas reales (o ficticias) diciendo o haciendo cosas que nunca ocurrieron. El término deepfake surge de la combinación de deep learning (aprendizaje profundo) y fake (falso), en alusión a la tecnología de aprendizaje automático usada para crearlos. En esencia, un algoritmo analiza numerosos datos (fotos, grabaciones de voz, etc.) de la persona objetivo y aprende a imitar sus rasgos faciales o su voz, para luego superponerlos sobre otra imagen o voz de fondo. De este modo, se puede lograr que parezca que alguien dijo o hizo algo que jamás ocurrió en realidad.

¿Cómo se crean los deepfakes?

Existen varias técnicas, pero suelen agruparse en tres categorías principales:

• Clonación de voz: la IA imita la voz de una persona a partir de unos segundos o minutos de grabación originales, y luego puede hacerla decir cualquier frase escrita. Por ejemplo, un estafador podría clonar la voz de un familiar o de un profesor para hacer una llamada y solicitar información o favores fraudulentos. De hecho, con apenas 15 minutos de audio es posible replicar casi cualquier voz humana de forma verosímil, advierten los expertos.
• Lip-sync (sincronización labial): se altera el movimiento de la boca en un video real y se le superpone un audio falso, consiguiendo que la persona del video aparente decir palabras que nunca pronunció. Un caso famoso fue un video manipulado donde parecía que un político daba un mensaje controvertido que en realidad nunca dijo.
• Intercambio de rostros (face-swap): es la técnica más compleja. Consiste en reemplazar el rostro de alguien en una foto o video por el de otra persona, manteniendo expresiones faciales coherentes. Al combinarlo con voz clonada, el resultado es un doble digital casi indistinguible del individuo real. Esto permite, por ejemplo, crear un video en que la cara de un conocido aparece actuando en el cuerpo de otra persona.

Riesgos de los deepfakes en la sociedad

Los deepfakes ya no son solo trucos de internet; se han utilizado con intenciones maliciosas que suponen riesgos serios. Uno de los peligros principales es la desinformación: videos o audios falsos pueden viralizarse y hacer que la gente crea noticias o declaraciones que nunca ocurrieron. Por ejemplo, en enero de 2024 se detectó una llamada automática falsificada donde una voz imitando al presidente de EE.UU. instaba a los votantes de New Hampshire a no participar en unas primarias, generando confusión en el proceso electoral. Este caso encendió las alarmas sobre cómo los deepfakes podrían manipular la opinión pública o incluso influir en resultados de votaciones. También se han visto imágenes falsas muy creíbles difundiendo rumores (como montajes de atentados inexistentes) que causan pánico antes de ser desmentidos.

Otro riesgo grave es el fraude y la suplantación de identidad. Delincuentes han empleado deepfakes para hacerse pasar por personas de confianza y engañar a sus víctimas. Grandes empresas han reportado estafas donde los estafadores clonaron la voz de un director ejecutivo para dar órdenes falsas de transferencia de dinero. De igual forma, hay ciberdelincuentes que utilizan estas técnicas para estafar a particulares, fingiendo ser un familiar en apuros o un representante bancario en llamadas telefónicas. Las deepfakes les permiten sonar o verse exactamente como alguien que la víctima conoce, aumentando la credibilidad del engaño. Una manipulación de audio convincente puede lograr que una persona comparta datos privados o contraseñas creyendo que habla con su hijo, su profesor o su banco, cuando en realidad es un impostor digital.

Por último, los deepfakes pueden emplearse para dañar reputaciones o acosar. Personas malintencionadas han creado videos falsos de contenido íntimo o comprometedor protagonizados por celebridades, periodistas e incluso ciudadanos comunes, lo cual constituye una forma de difamación o venganza. Este tipo de montaje puede afectar gravemente la vida personal y profesional de la víctima. En muchos países se están tomando medidas legales: por ejemplo, ya se han aprobado leyes que penalizan la creación de pornografía falsa con deepfakes o su uso para interferir en elecciones o atacar el honor ajeno, reconociendo el enorme perjuicio que pueden causar.

Deepfakes en la educación: un nuevo desafío

No solo los políticos o empresarios están en la mira de los deepfakes; el ámbito educativo también enfrenta este fenómeno. Un caso impactante ocurrió en 2023 en una escuela de Maryland, EE.UU.: circuló un audio deepfake atribuido al director del colegio, en el cual supuestamente hacía comentarios racistas y antisemitas. El clip se volvió viral en la comunidad escolar, provocando indignación y hasta amenazas de muerte contra el director. Semanas después se descubrió que era completamente falso, generado con IA para imitar su voz, y la policía identificó al responsable (un empleado del mismo colegio que buscaba vengarse de su superior). Este incidente estremeció a padres, docentes y alumnos, demostrando que un montaje digital puede causar verdadero bullying masivo y conflictos en la vida real antes de ser desmentido.

En entornos educativos, un deepfake puede ser utilizado como herramienta de acoso escolar o descrédito. Imaginemos que un estudiante manipula un video para que parezca que un compañero hizo algo vergonzoso, o que alguien crea un audio falso de un profesor diciendo insultos. Estas falsificaciones podrían difundirse por redes sociales escolares y aplicaciones de mensajería, dañando la reputación de la víctima y generándole angustia. Además, la mera existencia de deepfakes introduce la duda: autoridades escolares y familias podrían comenzar a cuestionar la veracidad de evidencias multimedia presentadas en casos de disciplina o conflictividad entre alumnos.

Por ello, la educación digital es clave. Docentes y centros educativos deben promover en los estudiantes la capacidad de pensamiento crítico frente a los medios: enseñarles a no creer todo lo que ven o escuchan en internet, verificar fuentes y autenticidad de videos, y discutir abiertamente la existencia de tecnologías de manipulación como los deepfakes. Del mismo modo, es importante que los propios profesores estén informados sobre esta tendencia, para reaccionar con cautela ante posibles engaños y fomentar un ambiente donde prevalezca la veracidad. Algunas escuelas han comenzado a incorporar en sus programas temas de alfabetización mediática, usando ejemplos de deepfakes para mostrar a los jóvenes lo fácil que es falsificar contenidos y la importancia de corroborar la información antes de difundirla.

Cómo protegerse de los deepfakes

Dado que los deepfakes pueden afectar a cualquiera, es fundamental tomar medidas para no caer en sus trampas. A continuación, ofrecemos consejos prácticos para protegerse:

Verificar la fuente y autenticidad

No des por cierto un video o audio polémico sin confirmarlo primero en fuentes oficiales o medios confiables. Ante contenidos sorprendentes (por ejemplo, un docente supuestamente actuando de forma extraña en un video filtrado), busca la noticia en canales oficiales de la escuela o comunícate directamente con la persona involucrada. Contrastar información es la mejor defensa contra la desinformación.

Fijarse en detalles anómalos

Muchos deepfakes hiperrealistas aún presentan pequeños indicios de falsedad. Presta atención a sincronizaciones labiales imperfectas, expresiones faciales rígidas o parpadeos poco naturales en los videos. En audios, detecta tonos robóticos, entonación extraña o fondos de sonido inconsistentes. Estos fallos pueden delatar que el contenido ha sido manipulado, aunque la tecnología mejora constantemente.

Cautela ante solicitudes sospechosas

Si recibes una comunicación inesperada (llamada, mensaje de voz o video) en la que alguien te pide dinero, contraseñas u otros datos sensibles, mantén la guardia en alto. Los estafadores pueden usar deepfakes para hacerse pasar por un conocido o una autoridad. Nunca procedas de inmediato ante una solicitud inusual; primero confirma su veracidad por otro medio. Por ejemplo, si un supuesto familiar te manda un audio urgente pidiendo un favor financiero, intenta llamarlo directamente para confirmar. Del mismo modo, un banco o institución educativa legítima nunca debería solicitar contraseñas por estos medios. Ante la duda, corta la comunicación y verifica por canales oficiales.

Mantenerse informado y usar herramientas

La industria tecnológica está desarrollando herramientas de detección de deepfakes (algunas funcionan como filtros que etiquetan o bloquean contenido manipulado). Aunque estas herramientas aún no son infalibles y los atacantes mejoran sus técnicas continuamente, vale la pena estar al tanto de su evolución. Existen también servicios de búsqueda inversa de imágenes y videos que pueden ayudar a rastrear el origen de un contenido para comprobar si es original o una versión editada. En resumen, mientras más informado estés sobre las estafas actuales, mejor preparado estarás para identificarlas.

Protección legal y reporte

Si llegas a ser víctima de un deepfake malicioso (por ejemplo, descubres un video falso tuyo circulando en redes), actúa rápido. Guarda evidencia del contenido (descarga el video, haz capturas de pantalla) y repórtalo en la plataforma donde aparezca para que lo retiren. Muchas redes sociales y sitios prohíben explícitamente las deepfake dañinas y pueden eliminarlas al ser notificadas. Considera además informar a las autoridades, especialmente si el deepfake implica difamación, fraude o suplantación. En varios países ya hay marcos legales para castigar a quienes creen y difunden deepfakes con intención de perjudicar, lo cual puede ampararte para emprender acciones legales. No enfrentes el problema en silencio: busca apoyo en profesionales (abogados, expertos en seguridad) si es necesario.

Conclusión

Los deepfakes representan un desafío creciente en la era digital. Combaten nuestra confianza en lo que vemos y oímos, pero con educación, precaución y verificación podemos mitigar sus riesgos. Al mantenerse alerta, difundir conciencia sobre este fenómeno y adoptar buenas prácticas de seguridad digital, docentes, estudiantes y público en general pueden disfrutar de las ventajas de la tecnología evitando caer en engaños ultrarrealistas.