• Andrea Cova Moore, equipo de Facts
• |
• Ver más de facts

Alana Flores es una influenciadora mexicana de 24 años que actualmente atraviesa un momento delicado, que ella misma describe como un “caos sin control”. A través de sus redes sociales difundió un video explicando la situación: se viralizó una serie de imágenes íntimas en las que aparece una mujer idéntica a ella, pero que no lo es. “Todo eso ha sido alterado, ya sea por inteligencia artificial (IA) o por una persona. Es una imagen que no soy yo. Es una imagen en la que utilizaron mi cara y está siendo alterada. Esa imagen no es real, nunca me la tomaron y nunca ocurrió”, afirmó.

Este tipo de casos son cada vez más comunes, y el mal uso de la inteligencia artificial tiene un rol importante. Y no solo afecta a esta creadora de contenido mexicana: desde líderes políticos hasta figuras públicas han sido víctimas de los conocidos deepfakes, que son imágenes, videos o audios manipulados digitalmente con la intención de hacer parecer que una persona dijo o hizo algo que jamás ocurrió.

En Chile también se han registrado situaciones similares. Por ejemplo, en el colegio Saint George’s de Vitacura, alumnos crearon, mediante IA, imágenes de desnudos de siete de sus compañeras de educación básica y media. Este caso, ocurrido durante el primer semestre del año pasado, conmocionó a las comunidades educativas y a las autoridades, debido al alcance del mal uso de esta herramienta.

De acuerdo con cifras de la PDI, entre 2017 y 2018 —según un estudio realizado por la Jefatura Nacional Contra Delitos Sexuales para la Comisión de Seguridad Ciudadana de la Cámara de Diputados— se registraron 391 denuncias por divulgación de contenido no autorizado. Si bien estas denuncias no se refieren exclusivamente a contenido manipulado por IA, evidencian una realidad preocupante en el país.

¿Cómo debería abordarse en la legislación?

Claudio Álvarez, profesor asociado de la Facultad de Ingeniería y Ciencias Aplicadas de la Universidad de los Andes, comenta que la legislación chilena actual aún no contempla una norma penal específica que sancione de forma directa y eficaz la difusión no consentida de imágenes íntimas.

“Aunque existe un proyecto ampliamente conocido como la ‘Ley Pack’, este no ha sido promulgado: fue aprobado por la Cámara de Diputadas y Diputados en 2019 y, desde ese mismo año, permanece en segundo trámite constitucional en el Senado. La ausencia de una legislación clara deja a las víctimas en una situación de vulnerabilidad jurídica frente a este tipo de agresiones digitales”, advierte Álvarez.

Sin embargo, señala que hay ciertas herramientas legales vigentes que pueden utilizarse. Por ejemplo, “los artículos 161-A y 161-B del Código Penal sancionan algunas formas de violación a la vida privada, como la grabación o difusión de conversaciones o imágenes sin consentimiento. También se puede recurrir a figuras como las injurias graves, el recurso de protección ante la Corte de Apelaciones, o incluso a la Ley de Violencia Intrafamiliar si los hechos ocurren en contextos de relaciones personales o afectivas”.

Aclara, no obstante, que estas vías no siempre permiten responder con celeridad ni reflejan la especificidad del daño causado por la exposición íntima digital.

“Hoy no existe en Chile una regulación que tipifique expresamente los llamados deepfakes pornográficos, aunque su difusión podría ser perseguida si se demuestra que vulneran la honra o integridad psíquica de la persona afectada. En estos casos, el criterio judicial debe interpretar las normas en favor de la protección de los derechos fundamentales, considerando el carácter dañino del contenido, su verosimilitud, su vínculo identificable con la víctima y su impacto social”, explica el experto.

Álvarez comenta que este tipo de casos evidencia una urgente necesidad de modernización legislativa: “Mientras se espera la aprobación de una ley que regule explícitamente estas formas de violencia digital, el Estado chileno debe utilizar los mecanismos disponibles con enfoque de derechos y perspectiva de género, para no dejar en desprotección a las víctimas de estas agresiones, reales o generadas artificialmente”.

Desafíos en la regulación

Desde la perspectiva del académico, existen dificultades de tipo técnico y jurisdiccional. En lo primero, se vuelve complejo enfrentar la persistencia del contenido en línea. “Si bien una imagen puede ser retirada de una plataforma, puede reaparecer en otras, circular en redes cerradas o almacenarse en servidores fuera de la jurisdicción chilena. De hecho, muchas veces el contenido se aloja en servicios ubicados fuera del país, y lograr su eliminación puede ser lento y depende de la colaboración voluntaria de las plataformas”, afirma.

Además, los autores de estos delitos pueden usar identidades falsas, cuentas temporales y medios de anonimización como VPNs, lo que dificulta su identificación y “que la denominada ‘Ley Pack’ continúe aún en segundo trámite constitucional después de años, evidencia un preocupante retraso legislativo frente al avance vertiginoso de las tecnologías digitales”, detalla.

“La ausencia de una norma clara que regule y sancione este tipo de agresiones limita la capacidad del sistema de justicia para dar respuestas oportunas, especialmente en casos que involucran a niñas, niños y adolescentes, donde los procedimientos judiciales vigentes no siempre logran ofrecer protección efectiva ni reparación suficiente”, advierte.

“Una imagen ya no vale más que mil palabras”

La Dra. Loreto Bravo, directora del Instituto de Data Science de la Universidad del Desarrollo (UDD), comenta que como sociedad debemos comenzar a cambiar la forma en que interpretamos lo que vemos: “Una imagen ya no vale más que mil palabras. Hoy, una foto, un video o un audio pueden ser completamente falsos, y cada vez es más fácil generar ese tipo de contenido con herramientas accesibles y potentes. Por eso, tanto la legislación como la justicia deben actuar rápido. Pero también es clave que como personas aprendamos a dudar, verificar y no difundir contenido potencialmente dañino”.

Lamentablemente, según la académica, en la actualidad no existe una forma 100% efectiva de protegerse ante este tipo de situaciones, especialmente para quienes tienen una alta exposición pública.

No obstante, señala que sí hay medidas que ayudan a disminuir los riesgos: “Es importante mantener una identidad digital clara y verificada, y estar atentos a cómo circulan nuestras imágenes en redes. Pero, más allá de lo que una persona pueda hacer, el foco no debe estar en la víctima. El problema no es que alguien tenga fotos públicas, sino que otros decidan usarlas para dañar. Por eso es clave fomentar una cultura digital responsable, donde aprendamos que una imagen, un video o un audio pueden ser completamente falsos y no deben compartirse sin pensar en las consecuencias”.