La Ley Anti-Deepfakes de Corea del Sur: Un Paso Necesario hacia la Protección Digital
Por Fernando Castillo
La tecnología en la edición de fotografías y ahora en videos con la inteligencia artificial ha escalado hasta el punto de poder crear contenido falso con una precisión demasiado inquietante.
Recuerdo una anécdota de mi época en la secundaria, allá por el año 2003. Un amigo de uno de mis maestros trajo una fotografía impresa en la que había hecho un fotomontaje muy cuidadoso de él abrazando a Britney Spears. En ese entonces, todos quedamos impresionados porque parecía una foto tan real hasta que comenzó a llevar más con otras cantantes usando la misma fotografía como base. Sin duda, fue una época en la que la manipulación de imágenes requería habilidades técnicas considerables y herramientas especializadas como Photoshop y no cualquiera era capaz de hacerlo.
Veinte años más tarde, la revolución digital nos ha llevado a la creación de deepfakes, es decir, contenido digital, ya sea de imágenes o videos, a cualquier persona que posea un dispositivo inteligente con acceso a internet. Esta facilidad y sobre todo la accesibilidad han llevado a la proliferación de deepfakes utilizados con fines pornográficos no consensuados.
En ese aspecto, Corea del Sur ha tomado medidas drásticas para contrarrestar el uso indebido de la inteligencia artificial, especialmente en lo que a pornografía respecta. La ley anti-deepfakes de Corea del Sur no solamente penaliza la creación y distribución, sino que también sanciona la posesión y visualización de contenido sexual falsificado sin consentimiento. Para quienes infrinjan la norma, la ley establece sanciones de hasta 3 años en prisión o multas significativas.
Impacto y Necesidad de la Ley
Este caso debería ser considerado por países Latinoamericanos como un ejemplo para legislar el uso de las nuevas tecnologías basadas en la inteligencia artificial dado que esta permite la creación de videos y audios falsos que pueden parecer extremadamente reales, y son a su vez un riesgo latente para la privacidad, la seguridad y la integridad de cualquier individuo.
En el ámbito de la opinión pública y los medios de comunicación pueden ser fácilmente utilizados para difundir información falsa en los medios de comunicación que carezcan de un equipo especializado en filtrar o corroborar las fuentes de información que usan para sus contenidos noticiosos. Pueden utilizarse para cometer fraudes, suplantación de identidad y hasta extorsiones, e incluso dañar la reputación de individuos o grandes organizaciones.
Sin duda, penalizar no solo la creación y distribución, sino también la posesión y consumo, Corea del Sur establece un marco legal que disuade el uso malintencionado de la inteligencia artificial y protege a las víctimas potenciales.
Casos significativos
A través de una cuenta de TikTok llamada “deeptomcruise” se difundieron videos de deepfake del actor, donde hacía diversas actividades como bailar canciones virales, haciendo ejercicio o conviviendo con otras celebridades como Paris Hilton. Aunque estos videos eran completamente inofensivos, queda entre visto el alcance y potencial que tienen los deepfakes para engañar a millones de personas que no se dan a la tarea de investigar si son reales o no.
De la misma manera, en marzo de 2022, un video del presidente de Ucrania, Volodymir Zelenskyy, se hizo viral en redes sociales. En el clip, el presidente supuestamente pedía a las fuerzas ucranianas que se rindieran ante el ejército ruso. El objetivo del video sin duda era desmoralizar a las tropas y afectar la moral pública durante un momento crítico en los medios de comunicación y a nivel global.
Y no solamente se han usado con fines políticos o entretenimiento de las masas, sino que también han sido reportados diversos casos donde se falsifica la voz de directivos de grandes empresas para engañar a sus empleados y hacer que transfieran grandes sumas de dinero a cuentas que, evidentemente, son de los estafadores.
Aspectos Éticos y Legales
Sumado a lo antes mencionados, en los que el objetivo es difundir información falsa, manipular la opinión pública o cometer fraudes y extorsiones, también nos enfrentamos a otro desafío ético: minar la confianza de los individuos en los medios de comunicación y sobre la información que encuentran en internet. Asimismo, la creación de este tipo de contenido, sin el consentimiento de las partes involucradas, plantea serias preocupaciones sobre los límites de la violación de la privacidad y los derechos de imagen.
Aunque no seamos parte del medio artístico, al publicar fotos y videos en redes sociales, sin restricciones ni lineamientos que aseguren que solo nuestros amigos puedan ver el contenido, nos exponemos a una audiencia más amplia, lo que puede hacernos más visibles y, en cierto sentido, figuras públicas. Esto es especialmente relevante porque las dejamos con la esperanza de hacernos virales, convertirnos en influencers y monetizar nuestro contenido. En el peor de los casos, terminamos en un video pornográfico en una página que se dedica a publicar contenido con deepfakes.
Comparación Internacional
El primer país en regular los Deepfakes (o la Deep Synthesis) fue China. En enero de 2023, la Administración del Ciberespacio de China (CAC) implementó una normativa específica para controlar el uso de este tipo de tecnologías denominadas “Tecnologías de Síntesis” en el ámbito de video, imagen y audio que imiten la apariencia y el sonido de una persona.
La normativa, conocida como “Provisiones sobre la administración de la síntesis profunda de servicios de información basados en internet” busca limitar la creación y distribución de deepfakes, específicamente los que atentan contra la seguridad nacional y la economía del país en cuestión.
Por su parte, la Unión Europea adoptó el Reglamento de Inteligencia Artificial (AI Act), que entró en vigor en agosto de 2024. En él, se clasifican 4 niveles de riesgo: a mayor riesgo, normas más estrictas. Es decir, el reglamento clasifica los sistemas de la AI en función del riesgo y establece obligaciones específicas para los deepfakes, clasificándolos como de alto riesgo, obligando a los proveedores a incluir etiquetas claras de procedencia y garantizar la transparencia en sus sistemas.
En Estados Unidos aún no se tiene una ley federal específica contra este tipo de contenido, pero la ley Federal Trade Commission ha propuesto expandir sus reglas de suplantación para abarcar los deepfakes.
De todos los ejemplos anteriores, la ley de Corea del Sur es una de las más estrictas y completas en cuanto a regulación se refiere, penalizando tanto la creación, distribución, posesión y consumo de contenido de índole sexual falso sin consentimiento. En comparación, la normativa China se centra en la seguridad nacional y la economía. La Unión Europea aborda el tema con una perspectiva de riesgo y transparencia, siendo su enfoque más preventivo que punitivo.
En resumen, los enfoques varían dependiendo las prioridades y contextos legales de cada país que ha regulado y legislado el tema.
Conclusiones
Sin duda, quedaron atrás esos años donde el único motivo que teníamos, para hacer una edición fotográfica de nuestro actor o cantante favorito, era impresionar a los más aprovechándonos de su ingenuidad y poca experiencia en el uso de herramientas como Photoshop.
Estamos en un momento crucial del alcance las inteligencias artificiales donde debemos reflexionar sobre la importancia de legislar la era digital y tomar las medidas proactivas para proteger nuestros derechos de imagen y nuestra privacidad, sean cuales sean nuestras aspiraciones de presencia en la web. La tecnología sigue avanzando y las leyes deben evolucionar en el mismo camino a la par para garantizar su uso ético y responsable.
La Ley Anti–Deepfakes es un paso crucial hacia la protección de los derechos individuales en la era digital. En un Mundo donde la tecnología avanza a un ritmo vertiginoso y se debe proteger la integridad de los individuos de su uso malintencionado. Establecer penas severas para la creación, distribución y posesión de contenido falso sin consentimiento, se envía un mensaje claro: el uso de este tipo de tecnologías para causar daño no se tolerará.
La tecnología de síntesis profunda no conoce fronteras digitales o físicas, y su uso potencial para fraudes o atentar contra la integridad de una nación, es indiscutiblemente inminente. Todos los países deberían adoptar leyes similares para estandarizar de forma internacional la regulación de este tipo de tecnologías.
Fuentes consultadas
- [BBC News] (https://www.bbc.com/news/technology-55267946) – South Korea’s new law to tackle deepfake pornography.
- [The Korea Herald] (http://www.koreaherald.com/view.php?ud=20201210000784)- South Korea passes law to punish possession of deepfake porn.
- [Reuters] (https://www.reuters.com/article/us-southkorea-deepfakes-idUSKBN28K0J5 ) – South Korea criminalizes possession of deepfake porn.
- [The Diplomat] (https://thediplomat.com/2020/12/south-korea-criminalizes-possession-of-deepfake-pornography/ ) – South Korea Criminalizes Possession of Deepfake Pornography.
- [FundéuRAE] (https://www.fundeu.es/recomendacion/ultrafalso-alternativa-a-deep-fake/ ) – Ultra falso, alternativa a deep fake.
- [China Briefing] (https://www.china-briefing.com/news/china-to-regulate-deep-synthesis-deep-fake-technology-starting-january-2023/ ) – China to Regulate Deep Synthesis (Deep Fake) Technology Starting January 2023.
- [CAC] (https://www.cac.gov.cn/2022-12/11/c_1672221949318230.htm ) – Provisiones sobre la Administración de la Síntesis Profunda de Servicios de Información Basados en Internet.
- [Consilium Europa] (https://www.consilium.europa.eu/es/policies/artificial-intelligence/#:~:text=El%20acto%20fue%20adoptado%20formalmente,1%20de%20agosto%20de%202024 ) – Reglamento de Inteligencia Artificial (AI Act) de la Unión Europea.
- [Infobae] (https://www.infobae.com/america/tecno/2022/12/09/los-4-casos-famosos-de-suplantacion-de-identidad-o-deepfake-tom-cruise-y-zuckerberg-figuraron/ ) – Los 4 casos famosos de suplantación de identidad o deepfake: Tom Cruise y Zuckerberg figuraron.
- [Global Voices] (https://es.globalvoices.org/2024/04/11/deepfakes-y-riesgos-del-creciente-uso-de-fraude-por-video/ ) – Deepfakes y riesgos del creciente uso de fraude por video.
- [Laita Digital] (https://bing.com/search?q=casos+de+da%C3%B1o+por+deepfakes ) – Casos de daño por deepfakes.
- [Instituto Autor](https://institutoautor.org/ee-uu-se-introduce-en-el-congreso-un-proyecto-de-ley-que-obliga-a-informar-sobre-la-fuente-de-los-contenidos-utilizados-para-entrenar-las-herramientas-de-inteligencia-artificial/ ) – EE.UU. se introduce en el Congreso un proyecto de ley que obliga a informar sobre la fuente de los contenidos utilizados para entrenar las herramientas de inteligencia artificial.
- [RPP Noticias](https://rpp.pe/usa/actualidad/california-2024-juez-bloquea-ley-de-deepfakes-que-desato-disputa-entre-elon-musk-y-el-gobernador-gavin-newsom-estados-unidos-rppusa-noticia-1589098 ) – California 2024: Juez bloquea ley de deepfakes que desató disputa entre Elon Musk y el gobernador Gavin Newsom.
Las opiniones expresadas en este texto periodístico de opinión, son responsabilidad exclusiva del autor y no son atribuibles a El Comentario.
