El 23 y 24 de octubre de este año, se realizó en Chile el Foro Sobre la Ética de la Inteligencia Artificial en América Latina y el Caribe (IALAC), con el objetivo de establecer un consejo regional que implemente la recomendación de Ética de la inteligencia artificial adoptada hace dos años por los 193 Estados miembros de Unesco. Esta normativa aborda la temática desde un enfoque ético, integrador y protector de derechos y considera las necesidades específicas de la región. Sin embargo, y a pesar de que Chile cuenta con una Política Nacional de Inteligencia Artificial desde 2021, no existe una regulación integral de la misma y cada vez son más los desafíos que existen en el país para regular el tema.

Por ejemplo, hace unas semanas, Mauricio Bustos, cantante y productor chileno, se viralizó en redes sociales al presentar una canción con ayuda de un programa de Inteligencia Artificial (IA), donde replicaba voces de populares cantantes del género urbano. Su proyecto titulado Flow GPT, alcanzó gran notoriedad cuando utilizó la voz de Bad Bunny en una canción. El intérprete puertorriqueño envió un fuerte mensaje a sus fans repudiando el resultado y abre una vez más el debate: ¿Dónde convergen los límites éticos y el derecho de autor cuando se trata de IA?

En materia de propiedad intelectual existen algunas interrogantes con la creación de contenido. En el caso antes mencionado, existe un trabajo musical de parte de Bustos, pero aun así utiliza la voz del reconocido cantante, quien no tenía conocimiento de su participación en el proyecto. Por lo tanto, en este y otros temas legales más amplios, las autoridades chilenas se encuentran en un desafío para regular el uso de IA en la propiedad intelectual, la privacidad y el resguardo de los datos personales.

Propiedad intelectual y uso de datos personales

La Dra. Loreto Bravo, Directora del Instituto de Data Science de la Universidad del Desarrollo (UDD), menciona que la IA presenta desafíos legales de gran envergadura. No obstante, “diversos países están adoptando enfoques variados para abordar este tema: algunos trabajan en la creación de leyes específicas, otros emiten directrices éticas, y algunos ajustan las legislaciones existentes en distintos ámbitos para incorporar la IA”, comenta la experta.

En el caso de Chile, Bravo asegura que hay una ausencia de una ley sólida de datos, incluso existe un proceso hace más de cinco años, lo que ha ocasionado un vacío legal “preocupante”. De acuerdo con la experta, es una temática de gran relevancia porque los sistemas de IA se nutren de los datos personales “y la falta de regulación en esta área puede exponer a las personas a riesgos significativos en cuanto a su privacidad”.

Asimismo, supone un problema ante la propiedad intelectual y la manipulación de la información, debido a que estos sistemas son capaces de crear noticias falsas que “pueden incluir textos bien redactados y respaldados por imágenes y videos realistas de eventos que podrían nunca haber ocurrido”, detalla Bravo.

Legislación rígida

No obstante, y a pesar de los riesgos de la inexistente normativa sobre el tema, la experta señala que una legislación rígida puede tener un impacto negativo en la innovación tecnológica, porque se limita el potencial positivo de la IA. “Por lo tanto, encontrar un equilibrio adecuado entre la protección de la privacidad, la seguridad y el estímulo a la innovación representan un desafío crucial, pero necesario para asegurar que la inteligencia artificial beneficie a la sociedad en su conjunto”, asevera.

En cuanto a la propiedad intelectual, el desafío es aún mayor, porque existe un debate complejo y desafiante. De acuerdo con la académica de la UDD, la controversia ha crecido en tono al uso de obras de artistas para entrenar sistemas de IA. Según explica, “cuando un usuario solicita una imagen en el estilo de un fotógrafo específico a través de una aplicación de generación de imágenes, surgen preguntas sobre la propiedad de la imagen resultante (¿es del usuario que solicitó la imagen? ¿Del sistema de IA? ¿Del fotógrafo?). Algunas empresas de IA argumentan que el uso de datos disponibles en la web para entrenar modelos es legítimo bajo la noción de “fair use”, aunque esta interpretación sigue siendo motivo de debate y no existe un consenso internacional claro al respecto”.

Bravo asegura que algunas empresas de IA han implementado programas de “Copyright Shield” con la intención de respaldar a sus usuarios en caso de demandas por derecho de autor, lo que evidencia la preocupación legal de estos sistemas. “Estos desafíos resaltan la necesidad de una regulación más clara y de un consenso internacional sobre los límites éticos y legales en el uso de obras de terceros para entrenar modelos de IA. La resolución de estas cuestiones debe equilibrar los intereses de los artistas, los usuarios y el avance de la IA de manera justa y ética”, añade la experta.

Loreto Bresky, Directora del Instituto Nacional de Propiedad Intelectual (INAPI), señala que es de suma importancia establecer los límites en cuanto a los derechos de autor y éticos de la IA, porque “ la actuación de la IA está dada fundamentalmente por lo que los humanos la han “instruido” que realice y la forma de hacerlo. ¿Cuáles son los límites éticos que los humanos deberíamos “incorporar” en la IA para que actúe de una manera que no genere riesgos para los humanos ni para la sociedad?”. Esta es una de las interrogantes que genera debate.

Proyectos de ley

Desde el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación (CTCI) señalan que existe un desafío para generar una regulación que resguarde los derechos fundamentales de la sociedad frente a posibles efectos adversos en la implementación de sistemas de IA. “Como ministerio estamos trabajando en la actualización de la Política Nacional de IA y, en el ámbito legislativo, impulsamos la Ley de Datos Personales, crucial para prevenir discriminación en algoritmos de IA, y presentaremos indicaciones al proyecto de inteligencia artificial presentado por (Tomás) Lagomarsino”, detallan las autoridades.

Desde el Gobierno habían anunciado una propuesta de ley propia que buscaba regularizar este tipo de herramienta, pero finalmente la idea fue descartada y optó por realizar indicaciones al proyecto de ley del diputado Lagomarsino. Su propuesta plantea regular los sistemas de IA, robótica y tecnologías conexas en distintos ámbitos, además de crear una Comisión Nacional de IA con facultad de pre aprobar el desarrollo de esta tecnología. Sin embargo, el proyecto se encuentra en tramitación en el Congreso.

Asimismo, detallan del CTCI que avanzar en una regulación que proteja los derechos fundamentales, mientras que al mismo tiempo promueva la inclusión y se adapta a la evolución constante de la tecnología, es un desafío complejo, porque se necesita que todos los actores involucrados participen con el objetivo de colocar la IA al servicio de las personas.

Por su parte, la Directora del INAPI, Loreto Bresky señala que para lograr una regulación se deben evaluar los desafíos. Por ejemplo, el más recurrente, según explica, “pareciera ser la seguridad en los desarrollos basados en IA”. Además, considera que no regular este tipo de herramienta podría suponer un riesgo, debido a que puede dejar en “desamparo a la protección de derechos humanos, la transparencia, la equidad, la responsabilidad, la regulación, la seguridad, la supervisión humana adecuada, la ética, la mitigación de los prejuicios, la privacidad y la protección de datos”.