La jueza Karina Cabral, de la Cámara Tercera en lo Criminal y Correccional de La Rioja, advirtió sobre las graves implicaciones penales y psicosociales del uso irresponsable de la inteligencia artificial (IA) para la creación de deepfakes sexuales. En una entrevista, destacó que compartir o reenviar este tipo de contenido a través de WhatsApp es considerado un delito, y los padres de menores infractores podrían enfrentar responsabilidades civiles.
Cabral enfatizó que estas acciones no deben ser vistas como bromas digitales, ya que están tipificadas como delitos en el Código Penal argentino y en la Ley Olimpia, que aborda la violencia digital. Las penas pueden llegar hasta 6 años de prisión, incrementándose a 8 años si la víctima es menor de 13 años. Además, los adolescentes desde los 14 años pueden recibir penas privativas de libertad.
Aunque La Rioja no ha recibido denuncias formales por deepfakes sexuales, en otras provincias se ha observado un preocupante aumento en la difusión de imágenes sexualizadas de adolescentes. A nivel mundial, más de 1,2 millones de menores han sido afectados, lo que ha llevado a la creación de leyes como la Ley Ema. Cabral instó a la sociedad a denunciar formalmente estos casos para mitigar sus devastadoras consecuencias psicológicas.