Crecerán 800% las deepfakes; amenazan seguridad y democracia | IT Masters Mag

NOTICIAS

Crecerán 800% las deepfakes; amenazan seguridad y democracia



Dirección copiada

Expertos alertan que deepfakes podrían crecer exponencialmente ante el uso de información falsa en campanas electorales en México y EU

Publicado el 20 mar 2024



Imagen deepfakes creada con inteliegencia artificial del papa y de donald trump
Deepfakes podrían crecer hasta 800% prevén expertos ante elecciones en México y EU

El 2024 será un año convulso para la ciberseguridad y la política ante las elecciones presidenciales en México y Estados Unidos.

Los expertos prevén un incremento de 800% en el uso de deepfakes, es decir la creación de fotos, videos o audios falsos de cualquier persona.

La alarmante cifra fue publicada en un reporte de la empresa de ciberseguridad Baufest y escrito por Matías Armándola, cybersecurity account architect.

El experto en ciberseguridad describe que los escenarios electorales de México y Estados Unidos serán un detonante para estos ciberdelitos.

“Advertimos que este año podríamos ver un aumento del 800% en el uso de deepfakes para cometer fraudes financieros, sextorsión y manipulación política“, asegura Armándola.

“Este pronóstico es alarmante, especialmente porque la desinformación y la manipulación pueden tener un impacto significativo por ejemplo en resultados electorales que definen el futuro de una nación”, describe el reporte.

¿Qué son las deepfakes?

También llamados “medios sintéticos”, las deepfakes es información falsa creada por AI que parece tan real que ni siquiera las personas o algoritmos pueden detectarla.

Esta información falsa creada bajo tecnologías de AI pueden ser imágenes, fotografías, videos o audios de cosas o personas.

Este tipo de suplantación es tan convincente que 77% de las personas no logra distinguir entre imágenes o audios reales y los creados por la AI”, explica Armándola.

Casos famosos de deepfakes

En México los casos más sonados de deepfakes han sido los de un falso Carlos Slim y un López Obrador promoviendo inversiones falsas.

En el caso de la política internacional el caso más famoso fue el de un falso Barack Obama diciendo que Donald Trump es un estúpido.

Deepfakes: amenaza para la seguridad y la democracia

Los expertos en ciberseguridad han lanzado una advertencia ante el crecimiento exponencial de deepfakes, mientras el mundo está más digitalizado y se implementan más tecnologías.

Al tiempo que la inteligencia artificial se apodera de la escena digital, los delitos que más aumentan son el fraude financiero, sextorsión y manipulación política.

Deepfakes en la política mexicana

A medida que las campañas electorales avanzan tanto en México como en Estados Unidos comenzaremos a ver más fotos, videos y audios falsos de políticos.

La cifra de deepfakes podría elevarse a medida que veamos ataques y descalificaciones en torno a los candidatos que participen.

En México, hasta ahora, uno de los casos más sonados de deepfakes en las elecciones de 2024 fue un supuesto audio de Marti Batres.

En dicho audio, el actual jefe de gobierno de la Ciudad de México, supuestamente pedía apoyar a la candidata Clara Brugada.

Martí Batres desmintió lo dicho y aseguró que el audio fue generado con inteligencia artificial. Un análisis hecho con la herramienta Loccus.ia evidenció que “el audio era muy probablemente falso”.

Buscan castigar las deepfakes en México

Manuel Torruco, diputado por Morena, presentó una iniciativa ante el Congreso para castigar a quienes generen o usen este tipo de información falsa.

“La bancada de Morena en la Cámara de Diputados presentó una iniciativa de reformas y adiciones al Código Penal Federal para castigar hasta con ocho años de prisión a quienes, mediante el uso de inteligencia artificial, modifiquen videos, audios, rostros de personas o grabaciones de voz con la intención de hacerlos pasar como reales en detrimento de personas físicas o morales”, precisaron los legisladores.

Mientras en EU, la Comisión Federal Electoral, inició un proceso para regular los deeepfakes generados por la AI en anuncios políticos en las elecciones de 2024.

Artículos relacionados

Artículo 1 de 5