Los deepfakes son videos, fotografías o audios manipulados con la tecnología de inteligencia artificial (IA)
Los deepfakes son videos, fotografías o audios manipulados con la tecnología de inteligencia artificial (IA) para hacer parec er que alguien dice o hace algo que no hizo.
De acuerdo con el estudio “Evolución del Deepfake: campos semánticos y géneros discursivos (2017-2021)” elaborado por Deeptrace, la cantidad de deepfakes en línea se duplicaron cada seis meses entre 2018 y 2021. En 2022, se estima que se crearon más de 100 mil deepfakes.
Esta amenaza no sólo existe en México, cada vez más alrededor del mundo se ven casos en los que se usan deepfakes para distorsionar la realidad y desinformar a la gente, ya sea en temas políticos o sociales. Ante este desafío, empresas líderes en tecnología firmaron un acuerdo “Protect Elections from Deceptive AI Act" para combatir el contenido engañoso de inteligencia artificial que está poniendo en peligro la integridad de las principales elecciones democráticas en todo el mundo este año.
En 2024, se espera que alrededor de cuatro mil millones de personas salgan a votar en 76 países. Esta cifra representa casi la mitad de la población mundial y marca un acontecimiento histórico. Por ello, diversas plataformas de redes sociales se unieron para crear herramientas como marcas de agua y técnicas de detección para identificar, etiquetar y desacreditar imágenes y audio "deepfake" de figuras públicas en campañas electorales.
Sin embargo, es importante resaltar que, herramientas como "metadatos, marcas de agua, clasificadores u otras formas de técnicas de procedencia o detección" no pueden mitigar completamente el daño de los deepfakes.
Mientras que el documento elaborado por IBM, Here’s what policymakers can do about deepfakes, right now, se destacan tres prioridades para tomadores de decisiones y regulación que buscan mitigar los daños de los deepfakes para:
Proteger las elecciones: Esta prioridad se centra en garantizar que los procesos electorales sean libres y justos, evitando que los deepfakes se utilicen para engañar a los votantes. Por ejemplo, se busca prohibir la distribución de contenido deepfakes que pueda falsear información relevante para las elecciones, como declaraciones falsas de candidatos o información errónea sobre cómo, cuándo o dónde votar
Proteger a creadores: Que los creadores de contenido, como músicos, artistas y actores, no sean perjudicados por el uso indebido de sus imágenes o talentos en deepfakes. Se busca responsabilizar a quienes producen deepfakes no autorizados que afecten a los creadores y a las plataformas que difundan conscientemente este contenido no autorizado
Proteger la privacidad de las personas: Busca evitar que las personas sean perjudicadas por deepfakes, especialmente en casos de pornografía no consensuada o "revenge porn", donde su imagen es utilizada sin su permiso. Hay que establecer responsabilidades legales y penales para quienes distribuyan este tipo de contenido y para aquellos que amenacen con hacerlo, especialmente cuando las víctimas son menores de edad
Hoy más que nunca, es necesaria la colaboración entre la triple hélice: gobierno, academia y la iniciativa privada para aumentar la conciencia pública sobre los deepfakes.
La protección de la integridad electoral, la privacidad, la propiedad intelectual y los derechos de autor. La confianza pública es una responsabilidad compartida y un bien común que trasciende los intereses partidistas y las fronteras nacionales.
留言