“Crear contenido sexual manipulando fotos de niñas y niños con Inteligencias artificiales no es cosa de juego, tampoco una imprudencia infantil, es acoso sexual, y este crea un daño profundo en la víctima, por lo que debe sancionarse”, dijo la diputada América Aguilar (PT), quien presentó una iniciativa para agregar el uso indebido de Inteligencia Artificial (IA) como delito en el Código de Menores Infractores.
La legisladora petista alertó sobre el crecimiento exponencial que tiene este tipo de violencia alimentada por inteligencia artificial, para ejemplo recordó el caso de hace quince días en donde al menos 400 alumnas de una secundaria en Zacatecas, notificaron que, con la ayuda de la Inteligencia Artificial, tres compañeros de ellas convirtieron sus fotografías en material pornográfico.
Cabe destacar que la iniciativa busca que se reconozcan expresamente: La violencia digital, la sextorsión y la creación de contenido sintético pornográfico de menores sin su consentimiento, como conductas sancionables dentro del régimen de justicia para adolescentes, así como el uso indebido de Inteligencia Artificial como circunstancia agravante.
Del mismo modo, el documento señala que se debe implementar la detección, rastreo y eliminación de contenido ilícito en el que participen menores de edad, salvaguardando su integridad, privacidad y el interés superior de la niñez.
La reforma no busca criminalizar a las y los adolescentes, sino responsabilizar de manera diferenciada las conductas ilícitas cometidas con medios digitales, asegurando que las medidas sean proporcionales y socioeducativas.
De ahí que proponga la participación obligatoria en programas de Alfabetización Digital, a través de la prevención de violencia en línea y respeto a la intimidad, y la coordinación de las instituciones de justicia con universidades y organismos especializados para crear protocolos de detección digital basados en Inteligencia Artificial.
“Debemos, y vamos a hacer lo necesario para proteger a las y los niños, los casos que estamos viendo en las escuelas, en donde menores de edad consideran sencillo, y hasta cosa de juego, tomar la imagen de una compañera y manipularla para crear pornografía infantil, no pueden, ni deben pasarse por alto” concluyó Aguilar Gil.
