A medida que nacen nuevos desarrollos tecnológicos, también se diversifican las formas en que las personas hacen uso de estos. Recientemente, el avance de la Inteligencia Artificial (IA) ha dado lugar a una nueva arma en manos de los ciberdelincuentes: el deepfake.
Esta perturbadora técnica, respaldada por algoritmos conocidos como GAN (Generative Adversarial Networks) o RGA (Redes Generativas Antagónicas), permite la creación de imágenes falsas, ya sean fotografías, vídeos o audios, que resultan increíblemente realistas, con el fin de cometer estafas virtuales o engaños en línea.
Según datos del Foro Económico Mundial el deepfake crece a un ritmo anual del 900%. Estas cifras son una muestra de cómo ha escalado este ciberdelito en todo el mundo, con el fin no solo de cometer fraudes, chantajes, manipulación o afectar la reputación de un individuo o empresas, sino también fomentar la desinformación a través de “fake news”.
“La proliferación de deepfakes ha despertado una nueva era de incertidumbre digital, donde las imágenes y videos manipulados con IA pueden difuminar los límites entre la realidad y la ficción. En este entorno peligroso, es esencial que las personas y las marcas estén alerta a las posibles vulnerabilidades y adopten medidas preventivas para evitar ser víctimas de la desinformación y los ataques cibernéticos”, expresó Arturo Sánchez, director comercial de Noventiq México.
La capacidad de manipular rostros, voces y expresiones con una precisión sorprendente plantea serios desafíos a la hora de discernir entre lo auténtico y lo falso.
En este sentido, desde la empresa especialista comparten algunas estrategias para contrarrestar el deepfake:
- Concientización y educación: La batalla contra el deepfake comienza con la concientización y la educación. Es fundamental que todos, desde el público en general hasta los profesionales y empresas, comprendan qué es el deepfake, cómo funciona y cómo se puede reconocer en algunos casos.
- Fortalecimiento de la autenticidad digital: las plataformas tecnológicas deben invertir en tecnologías de autenticación robustas que permitan verificar la legitimidad de los contenidos compartidos en línea. Algoritmos de reconocimiento facial y de voz, así como marcas de agua digitales, pueden desempeñar un papel crucial en la protección de la integridad de los archivos multimedia.
- Colaboración y cooperación: la lucha contra el deepfake requiere un esfuerzo conjunto de gobiernos, empresas tecnológicas, instituciones académicas y sociedad civil. Se deben establecer alianzas sólidas para compartir conocimientos, recursos y mejores prácticas en la detección y mitigación de deepfakes. Además, la colaboración internacional es fundamental para abordar este desafío global y establecer estándares comunes que promuevan la integridad y la autenticidad en los medios digitales.
- Legislación y regulación: en ciudades como California ya se han impuesto leyes contra el uso del deepfake en aspectos pornográficos y políticos. Esto demuestra que los gobiernos deben trabajar en conjunto para establecer marcos legales que penalicen la producción y difusión de deepfakes con intención maliciosa.
“Aunque ciertas señales como movimientos incoherentes, cambios de iluminación y desincronización labial pueden indicar un deepfake, la evolución de esta tecnología nos insta a no bajar la guardia. Para abordar eficazmente esta amenaza, necesitamos una combinación de esfuerzos que abarque la educación de la sociedad sobre los riesgos del deepfake, la investigación y desarrollo de algoritmos de detección de última generación, la promulgación de leyes adecuadas y la colaboración activa entre los sectores público y privado. Juntos, podemos enfrentar el desafío del deepfake y proteger la integridad de la información en la era digital”, concluyeron desde Noventiq.