top of page
  • Foto del escritorOscar C

Hasta seis años de cárcel a quien haga deepfakes de una mujer en contenidos sexuales


Inteligencia artificial hasta para hacer deepfakes. La tecnología (ya no tanto) de moda llega ahora hasta Congreso de CDMX en forma de una iniciativa que pretende castigar con cárcel a quien la utilice para generar contenido íntimo falso.


"Los deepfakes que involucran a mujeres, en particular, a menudo se utilizan para crear contenido sexualmente explícito sin su consentimiento, lo que constituye una grave violación de su privacidad y dignidad", se lee en la iniciativa del diputado Fausto Zamorano.


En su argumentación el diputado Zamorano tiene razón, aunque los deepfakes para crear contenido sexual falso no es un problema reciente. En 2018 Twitter y hasta Pornhub prohibieron los videos con deepfakes porque comenzaron a ser relativamente frecuentes las películas porno presuntamente estelarizadas por celebridades de Hollywood.


Con la llegada de la IA, el control de generar los videos llegó a más manos y la producción se exponenció. "Me venden en contra de mi voluntad, no consentí que me sexualizaran" dijo una víctima streamer que denunció ante NBC , en febrero pasado, el caso de haber encontrado su rostro como protagonista de material pornográfico en línea. El problema se ha vuelto más complejo, puesto que los videos de deepfakes se han multiplicado por siete de 2018 a la fecha, según la investigación hecha por Genieve Oh en un sitio de contenido generado por deepfakes.


Definir el delito


La solución a corto plazo del diputado priista es una punitiva. Su iniciativa no incluye trabajo alguno para que la gente conozca qué es un deepfake o cómo distinguirlo en contenido multimedia, más bien pretende iniciar catalogándolo como delito y establecer castigo. En su texto sugerido al Código Penal se lee:


"III. Quien haga uso de la inteligencia artificial para crear exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y/o compartir imágenes, audios o videos de contenido sexual intimo de una persona, sin su consentimiento, y que para realizar dichas acciones utilice materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier otro medio tecnológico.
Para efectos del párrafo anterior, se entenderá por Inteligencia artificial las aplicaciones, programas o tecnología que analice fotografías, audios o videos, y ofrece ajustes automáticos para hacerles alteraciones y/o modificaciones".
Extracto de la iniciativa del diputado Zamorano.

El texto anterior básicamente define que el uso de IA para crear contenido sexual sin consentimiento es un delito y describe a la Inteligencia Artificial como aplicación, programa o tecnología que haga alteraciones sobre contenido multimedia. Es, desde luego, una definición corta puesto que con esa redacción podría entenderse que Photoshop o cualquier herramienta de edición fotográfica y/o de video como una herramienta de IA.


De cualquier forma, a quien cometa el delito se le impondrán multas de cuatro a seis años de prisión y multa de 500 a 1,000 unidades de medida y actualización, lo que equivale a entre 51,500 y 103,000 pesos.

"Utilizar la imagen de una mujer en contenido sexual falso, los deepfakes refuerzan estereotipos de género dañinos y cosifican a las mujeres, contribuyendo a una cultura de objetivación y degradación".
Extracto de la iniciativa del diputado Zamorano.

La iniciativa fue presentada el 5 de septiembre de 2023 y todavía tiene un camino largo antes de poder ser aprobada por el pleno de la cámara de diputados. En el mejor de los casos su destino posible no debería ser ese, sino que el tema sea retomado y el documento pronto sirva como referencia para que el Congreso de la Unión le considere como uno importante en la agenda legislativa urgente de nuevas tecnologías. Claro, si tal cosa existiese.


Creditos: XATAKA

bottom of page