En los últimos años, el auge de las «deepfakes» ha suscitado gran preocupación en los foros internacionales sobre propiedad intelectual, derechos de imagen y legislación sobre contenidos digitales. Esta tecnología basada en la IA permite superponer rostros, voces y expresiones humanas con un realismo cada vez mayor, creando vídeos o audios falsos pero convincentes. Las implicaciones legales, éticas y sociales de esta práctica son objeto de intenso debate.

¿Qué son los deepfakes y por qué son un problema?

El término «deepfake» combina «deep learning» y «fake» y se refiere al contenido audiovisual manipulado mediante algoritmos de aprendizaje automático para recrear digitalmente rostros o voces humanas. Aunque esta tecnología tiene usos potenciales en el entretenimiento, la educación e incluso el arte, también se ha empleado con fines maliciosos: difusión de información errónea, extorsión, robo de identidad y creación de contenido sexual no consentido.

Retos jurídicos actuales

Una de las cuestiones clave es que los marcos jurídicos existentes en muchos países no están preparados para tratar las deepfakes. La legislación clásica sobre derechos de autor protege las obras originales fijadas en forma tangible, pero no necesariamente la imagen o la voz de una persona. La legislación sobre derechos de imagen está fragmentada y varía significativamente entre jurisdicciones. Además, para perseguir los delitos de falsificación digital suele ser necesario demostrar la intención de causar daño, lo que resulta difícil en los entornos anónimos en línea.

Informe de la Oficina de Derechos de Autor de EE.UU. (2024)

En diciembre de 2024, la Oficina de Derechos de Autor de EE.UU. publicó un informe en el que afirmaba que las leyes actuales son inadecuadas para abordar los riesgos que plantean las deepfakes. Entre las principales conclusiones se incluyen:

• No existe una protección integral de la imagen y la voz como derechos autónomos.
• Las obras manipuladas no pueden registrarse como originales si carecen de intervención humana significativa.
• La Oficina recomienda al Congreso que promulgue una legislación federal específica sobre las falsificaciones profundas.

Principales riesgos asociados a los deepfakes

1. Violación de la identidad personal: El uso no autorizado del rostro o la voz de alguien puede vulnerar su derecho a la propia imagen, especialmente si se representa en contextos ofensivos o engañosos.
2. Impacto en los derechos de autor: Manipular una obra protegida (por ejemplo, una película o una canción) para insertar elementos ficticios puede alterar su integridad y crear confusión sobre la autoría.
3. Dificultad en la trazabilidad y la rendición de cuentas: El contenido deepfake se distribuye fácilmente de forma anónima a través de las redes sociales, lo que dificulta la identificación del autor.
4. Desinformación y manipulación social: Los deepfakes pueden utilizarse para crear declaraciones falsas de personajes públicos, afectando a las elecciones o desencadenando el malestar social.

Propuestas normativas en debate

1. Reconocimiento de los derechos de identidad digital: Varios países están estudiando reformas legales para reconocer la imagen y la voz como bienes personales que pueden protegerse independientemente de una obra.
2. Etiquetado obligatorio de los contenidos sintéticos: Se están haciendo propuestas para exigir que todos los contenidos generados o manipulados por IA lleven una marca visible que indique su origen artificial.
3. Creación de registros digitales de procedencia (blockchain): Para garantizar la autenticidad, se están explorando tecnologías de trazabilidad y certificación digital.
4. Responsabilidad de las plataformas: Existe un debate sobre si plataformas como YouTube, TikTok o X deben asumir obligaciones más estrictas para detectar y eliminar deepfakes maliciosos.
5. Delitos penales específicos: Algunos estados de EE.UU. han aprobado leyes que penalizan la creación de deepfakes con fines difamatorios o sexuales no consentidos.

Ejemplos notables

• En 2023, se hizo viral un vídeo falso que mostraba al presidente de Ucrania anunciando su rendición a Rusia. Aunque fue rápidamente desmentido, causó temporalmente el pánico público.
• Famosos como Scarlett Johansson y Tom Hanks han denunciado públicamente el uso no autorizado de su imagen en anuncios generados por IA.

Consideraciones éticas

• Consentimiento informado: El uso de la imagen de una persona debe requerir su autorización explícita, especialmente en contextos sensibles.
• Libertad de expresión frente a protección de derechos: La regulación debe encontrar un equilibrio entre la libertad creativa y la protección contra la manipulación.
• Educación digital y alfabetización mediática: La sensibilización y la formación del público son fundamentales para ayudar a las personas a reconocer y evaluar críticamente los contenidos manipulados.

Conclusiones: Hacia una legislación inteligente y preventiva

El fenómeno deepfake es uno de los retos más acuciantes para la protección de los derechos de autor y la identidad en la era digital. Se necesita urgentemente un enfoque multidisciplinar que combine medidas tecnológicas, jurídicas y educativas. La creación de un marco jurídico específico y armonizado tanto a nivel nacional como internacional es esencial para salvaguardar los derechos individuales y preservar la confianza en el ecosistema digital actual.