Curso de Deepfakes está creciendo en América Latina. Según un informe reciente de la plataforma Kapwing, Argentina lidera un interés regional en esta tecnología, seguido de Chile, Perú y Colombia con 481, 337 y 141 búsquedas mensuales en relación con Deepfakes.
Existe la conciencia del uso malicioso de esta herramienta digital, que se basa en la inteligencia artificial para crear videos o audios falsos que se simulen. Sin embargo, la acción regulatoria y técnica avanza a un ritmo mucho más lento, que afecta a diferentes sectores de la sociedad, según el Dr. Francisco José Adán Castraño, abogado y maestro del dominio oficial en derecho digital y la ciberseguridad de la Universidad Internacional de Valencia – Viu, que pertenece a la red internacional de capacitación en planetas de educación superior y universidades.
«Los políticos probablemente sean más afectados en este tema. Videos equivocados de candidatos que dicen cosas que nunca dijeron poco antes de las elecciones … es una pesadilla para la democracia, «advierte VIU». También tienen serios problemas en el sector empresarial y financiero. Los casos de estafadores que usan Voice Deepfakes no son extraños para encarnar a los CEO y aprobar transmisiones millonarias. «
Legislación digital que retrasa
Deepfake y DeepVoice Foto:Istock
El progreso tecnológico de los profundos en contraste con la lentitud del marco regulatorio en América Latina. Los sistemas de justicia deben improvisar con las regulaciones de difamación o fraude que no siempre son efectivos. Además, la transnacionalidad del entorno digital se queja la capacidad legal.
«Las leyes son muy lentas en comparación con la tecnología», señala el Dr. Francisco Adán Cataño, quien también es experto en IA y propiedad intelectual. «Muchos países ni siquiera tienen leyes específicas para los profundos. Internet no tiene límites. ¿Qué ley se aplica, dónde se hizo, dónde subió o dónde vio? «
La falta de capacitación técnica en las autoridades responsables se agrega a esta debilidad normativa. La policía o los jueces a menudo no son suficientes para los problemas tecnológicos habitualesY se demuestra que la falta de capacitación técnica entiende y descifra el problema de los profundos.
La tecnología vs. tecnología
Deepfake y DeepVoice Foto:Istock
El progreso de los profundos ha llevado a un verdadero brazo entre el creador y los detectores, en el que el aprendizaje automático es el centro. Entrenan con miles de videos reales y falsos para desarrollar la capacidad de detección.
Es, como experto en propiedad intelectual, privacidad y nuevas tecnologías, un juego del gato y el ratón, en el que los detectores han indicado con cada mejora en los detectores Los profundos son más exigentes.
Hoy hay algoritmos de reconocimiento que identifican anomalías invisibles para el ojo humano. B. Patrones o distorsiones parpadeantes en la luz facial. El aprendizaje automático es la clave de esta tarea. Sistemas de capacitación con miles de videos reales y falsos para distinguir patrones.
La autenticación blockchain es otra línea prometedora que permitiría crear un video. Está registrado de tal manera que no sea cambios, de modo que se demuestre cualquier tipo de modificación. Y cuando habla de audio, el análisis puede basarse en patrones de voz, roturas y respiración.
Soluciones comunes para combatir los defectos profundos
El problema con DeepFakes no tiene una solución única. Requiere medidas coordinadas entre gobiernos, empresas de tecnología, desarrolladores, plataformas y sociedad civil.
«Los gobiernos deben dar como resultado leyes que tienen sentido y que en realidad no solo pueden aplicarse al documento», enfatiza el experto. «También tienes que entrenar a tu gente y trabajar internacionalmente porque esto cruza los límites».
El portavoz de VIU también enfatiza el papel de las plataformas digitales. Redes como Facebook, Tiktok y YouTube tienen que hacer una inversión para reconocer y eliminar los maliciosos den -pfakes y dejar a un lado la neutralidad. Y la responsabilidad de los usuarios de estas redes también contribuiría a este panorama.
«La sociedad civil juega un papel importante», dice. «Los fondos para revisar los hechos hacen un buen trabajo, pero necesitamos más. También necesitamos universidades para examinar más sobre la detección, y hay más programas educativos sobre competencia digital ».
La tecnología que condujo al problema también puede ser parte de la solución. Sin un marco legal adecuado y una conciencia crítica extendida en la región, América Latina podría estar expuesta a un futuro en el que el verdadero por el error ya no se puede distinguir.
