Los deepfakes son vídeos o imágenes generados por ordenador que se pueden crear para manipular rostros o voces humanas de tal manera que parecen auténticos. Desde el punto de vista legal, estas creaciones son más que delicadas.
Crear deepfakes: qué se puede crear exactamente con el software
Los deepfakes pueden ser divertidos, sobre todo entre amigos, y tienen potencial para convertirse en memes. Hoy en día parecen increíblemente reales: rostros pronuncian frases en vídeos que la persona real nunca ha dicho, personas aparecen en escenas en las que nunca han estado. Lo que antes solo era posible en Hollywood, hoy en día se puede hacer con software de libre acceso. Pero, a pesar de toda la fascinación, la tecnología no solo es poderosa, sino que también es muy delicada desde el punto de vista legal y ético.
- Un deepfake es un material de imagen, audio o vídeo manipulado mediante IA en el que una persona es sustituida por otra o simulada de forma engañosamente real. Son especialmente conocidos los deepfakes en los que se utiliza el rostro o la voz de una persona real en un vídeo para hacer que parezca que dice o hace cosas.
- La tecnología que hay detrás se basa en redes neuronales, especialmente en las denominadas redes generativas adversarias (GAN). Con estas herramientas, incluso los profanos en materia técnica pueden crear deepfakes. Algunos ejemplos son DeepFaceLab, FaceSwap o la aplicación Zao.
- DeepFaceLab es probablemente la herramienta de código abierto más conocida para crear deepfakes. Ofrece una gran flexibilidad, pero también una interfaz de usuario compleja, y es ideal para usuarios experimentados con conocimientos técnicos previos. FaceSwap, otro proyecto de código abierto, ofrece una interfaz algo más fácil de usar para principiantes.
- La aplicación china Zao intercambia caras en escenas de películas en cuestión de segundos. Es muy fácil de usar, pero tiene una política de privacidad cuestionable.
- Reface, DeepSwap y Deepswap.ai son servicios comerciales basados en la nube con una interfaz de usuario clara. Permiten intercambiar caras en pocos minutos, ya sea mediante pago o suscripción. Se recomienda leer atentamente la política de privacidad y las condiciones de uso.
- Para crear un deepfake, recopile imágenes o vídeos de la persona que desea utilizar en su deepfake. Cuantas más imágenes tenga, mejor será el resultado.
- Utilice el software seleccionado para aislar y analizar los rostros de la persona en las imágenes. Seleccione un vídeo o una imagen de destino en el que desee insertar el rostro de la persona.
- Con la ayuda del software, puede insertar el rostro de la persona en el vídeo o la imagen de destino y ajustarlo.
Peligros y regulaciones legales de los deepfakes
Los deepfakes pueden ser divertidos para fines privados, pero, lamentablemente, también pueden servir para difundir información falsa o engañosa, conocida como fake news. Esto no solo puede dar lugar a difamaciones, sino también a manipulaciones políticas. Por ello, la situación legal de los deepfakes es cada vez más estricta en todo el mundo. En muchos países, entre ellos Alemania, se han promulgado normativas especiales para frenar las violaciones de los derechos personales, el ciberacoso y la desinformación política.
- Porque también existe el riesgo, por ejemplo, de que los deepfakes se utilicen para representar a alguien en una situación sexualmente explícita o embarazosa, lo que puede considerarse una violación de la privacidad.
- En Alemania, el derecho a la propia imagen está protegido por los artículos 22 y 23 de la Ley de Derechos Artísticos (KunstUrhG) y por el derecho general a la intimidad recogido en los artículos 1 y 2 de la Ley Fundamental. La difusión de deepfakes sin el consentimiento de la persona afectada puede considerarse una violación de los derechos personales, difamación o incluso robo de identidad.
- Está especialmente prohibida la manipulación erótica o política sin consentimiento, que puede acarrear consecuencias civiles y penales.
- Está permitido crear deepfakes con fines artísticos, satíricos, paródicos o periodísticos. Sin embargo, en algunos países, como Austria, se están estudiando leyes para regular y prohibir la creación y difusión de deepfakes. No obstante, esto también puede afectar a la libertad de expresión y a la libertad creativa.
- Es importante actuar de forma éticamente responsable al crear y difundir deepfakes y asegurarse de que no se utilicen para dañar o perjudicar a otras personas. Obtenga siempre el consentimiento expreso de las personas afectadas antes de utilizar su rostro o su voz en un deepfake.
- Además, debe asegurarse de que la fuente de un deepfake esté claramente identificada para que los espectadores sepan que se trata de una representación manipulada.
- Incluso si utiliza deepfakes de forma privada o con fines de entretenimiento, es ético identificarlos claramente. El público debe poder reconocer que se trata de un medio creado artificialmente. Esto no solo protege a su interlocutor, sino también su propia credibilidad, por ejemplo, en las publicaciones en redes sociales.
- Actualmente existen suficientes medios para detectar deepfakes. Herramientas como Microsoft Video Authenticator, Deepware Scanner, FakeCatcher de Intel o los filtros basados en IA de las redes sociales analizan los cambios en los píxeles, los reflejos de luz, los parpadeos y otros indicios de manipulación digital. Estas herramientas ayudan a detectar las falsificaciones y fomentan la competencia mediática en la era digital.
