3
Los deepfakes son vídeos o imágenes generados por ordenador que se pueden crear para manipular rostros o voces humanas de tal forma que parezcan increíblemente reales. Desde el punto de vista legal, este tipo de creaciones son más que delicadas.
Crear deepfakes: qué se puede crear exactamente con el software
Los deepfakes pueden resultar divertidos, sobre todo entre amigos, y tienen potencial para convertirse en memes. Hoy en día parecen sorprendentemente reales: en los vídeos, los rostros pronuncian frases que la persona real nunca ha dicho, y aparecen personas en escenas en las que nunca han estado. Lo que antes solo era posible en Hollywood, hoy se puede llevar a cabo con software de libre acceso. Pero, a pesar de lo fascinante que resulta, esta tecnología no solo es poderosa, sino que también es un tema muy delicado desde el punto de vista jurídico y ético.
- Un deepfake es, en realidad, material de imagen, audio o vídeo manipulado mediante IA, en el que se sustituye a una persona por otra o se simula de forma increíblemente realista. Son especialmente conocidos los deepfakes en los que se utiliza el rostro o la voz de una persona real en un vídeo para hacer que, aparentemente, diga o haga cosas.
- La tecnología que hay detrás se basa en redes neuronales, sobre todo en las denominadas redes generativas adversarias (GAN). Con estas herramientas, incluso personas sin conocimientos técnicos avanzados pueden crear deepfakes. Algunos ejemplos son DeepFaceLab, FaceSwap o la aplicación Zao.
- DeepFaceLab es, sin duda, la herramienta de código abierto más conocida para crear deepfakes. Ofrece una gran flexibilidad, pero también una interfaz de usuario compleja, y es ideal para usuarios experimentados con conocimientos técnicos previos. FaceSwap , otro proyecto de código abierto, ofrece, por el contrario, una interfaz algo más accesible para principiantes.
- La aplicación china Zao intercambia rostros en escenas de películas en cuestión de segundos. Es muy fácil de usar, aunque tiene una política de privacidad cuestionable.
- Reface, DeepSwap y Deepswap.ai son servicios comerciales basados en la nube con una guía de usuario clara. Permiten realizar intercambios de rostros en pocos minutos, a cambio de una tarifa o mediante suscripción. En este caso, conviene revisar detenidamente la política de privacidad y las condiciones de uso.
- Para crear un deepfake, recopila imágenes o vídeos de la persona que quieras utilizar en tu deepfake. Cuantas más imágenes tengas, mejor será el resultado.
- Utiliza el software seleccionado para aislar y analizar los rostros de la persona en las imágenes. Selecciona un vídeo o una imagen de destino en los que quieras insertar el rostro de la persona.
- Con ayuda del software, puedes insertar el rostro de la persona en el vídeo o la imagen de destino y ajustarlo.
Peligros y normativa legal sobre los deepfakes
- Porque también existe, por ejemplo, el riesgo de que los deepfakes se utilicen para mostrar a alguien en una situación sexualmente explícita o embarazosa, lo que puede considerarse una violación de la privacidad.
- En Alemania lo protege el derecho a la propia imagen según los artículos 22 y 23 de la KunstUrhG, así como el derecho general de la personalidad recogido en los artículos 1 y 2 de la Ley Fundamental. La difusión de deepfakes sin el consentimiento de la persona afectada puede considerarse una violación de los derechos de la personalidad, difamación o incluso suplantación de identidad.
- En particular está prohibida la manipulación erótica o política sin consentimiento; en estos casos, se pueden incurrir en consecuencias civiles y penales.
- Está permitido crear deepfakes con fines artísticos, satíricos, paródicos o periodísticos. Sin embargo, en algunos países, como por ejemplo Austria, se están barajando leyes para regular y prohibir la creación y difusión de deepfakes. No obstante, esto también puede tener repercusiones en la libertad de expresión y la libertad creativa.
- Es importante actuar de forma éticamente responsable a la hora de crear y difundir deepfakes, y asegurarse de que no se utilicen para dañar o perjudicar a otras personas. Obtenga siempre el consentimiento expreso de las personas afectadas antes de utilizar su rostro o su voz en un deepfake.
- Además, debe asegurarse de que la fuente de un deepfake esté claramente identificada para indicar a los espectadores que se trata de una representación manipulada.
- Incluso si utiliza los deepfakes de forma privada o con fines de entretenimiento: Una identificación clara es una obligación ética. El público debe poder reconocer que se trata de un medio generado artificialmente. Esto no solo protege a tu interlocutor, sino también tu propia credibilidad, por ejemplo, en las publicaciones en redes sociales.
- Actualmente existen suficientes medios para detectar los deepfakes. Herramientas como Microsoft Video Authenticator, Deepware Scanner, FakeCatcher de Intel o los filtros basados en IA de las redes sociales analizan los cambios en los píxeles, los reflejos de luz, el parpadeo y otros indicios de manipulación digital. Estas herramientas ayudan a detectar falsificaciones y fomentan la alfabetización mediática en la era digital.
