Perú debate regulación de inteligencia artificial inspirada en la UE

Los legisladores peruanos iniciaron el debate de una propuesta al objeto de crear un marco para el uso y desarrollo de tecnologías de inteligencia artificial, inspirado en gran medida en la normativa de la Unión Europea.

Presentado esta semana por el congresista Carlos Javier Zeballos Madariaga, el proyecto de ley 07033/2023 es el primero en el país que aborda específicamente la tecnología de IA. Otros países de la región como Paraguay y Brasil también están avanzando con la reglamentación de la IA.

El marco peruano tiene como objetivo “garantizar la protección de los derechos fundamentales, la privacidad y la seguridad de los ciudadanos, fomentando la transparencia, la ética, innovación y el progreso en el campo de la inteligencia artificial”, señala el resumen de la propuesta.

El autor de la moción agrega que otro objetivo es "evitar riesgos y consecuencias negativas" de la tecnología.

La propuesta de ley consagra el concepto de soberanía de datos al estipular que las reglas se aplicarán a cualquier empresa o persona que desarrolle u opere una IA en territorio peruano, independientemente de dónde se encuentren los servidores donde resida.

En otras palabras, incluso si la tecnología de IA está alojada en centros de datos de otros países, seguirá sujeta a la normativa local si se ofrece y aplica en Perú.

La soberanía de datos es la idea de que los datos están sujetos a las leyes y estructuras de gobernanza de la nación donde se recopilan.

AUDITORÍA, TRANSPARENCIA Y MÁS

Los desarrolladores de IA tendrán que documentar y revelar cómo funcionan sus algoritmos para fines de auditoría externa, algo que también constituye un pilar clave de la legislación de la UE.

De acuerdo con la regulación de datos personales de Perú, el proyecto de ley de IA también establece que la recopilación y procesamiento de datos de los usuarios solo puede tener lugar con consentimiento claro y explícito.

Además, los particulares también podrán solicitar explicaciones sobre cómo funciona la IA y para qué se utilizarán sus datos en todo momento.

Mientras tanto, las aplicaciones móviles que permitan a los usuarios navegar o descargar servicios basados en tecnología de inteligencia artificial que no cumplan con las reglas y principios de la legislación estarán sujetas a sanciones "drásticas".

Al igual que las normas de la UE, la legislación peruana establece diferentes riesgos relacionados con el uso de sistemas de IA, con reglas y restricciones específicas para cada caso aún por definir.

En el proyecto de ley se consideran cuatro tipos de riesgos asociados a la IA: riesgos inaceptables, elevados, limitados e insignificantes, según su impacto en los derechos esenciales o humanos.

En el caso de los riesgos inaceptables, se recomienda la prohibición total de la tecnología.

El proyecto de ley también responsabiliza a la Secretaría de Gobierno y Transformación Digital, que está bajo el control de la presidencia del Consejo de Ministros, de fiscalizar la legislación y hacer cumplir sus normas.

El texto completo del proyecto de ley se puede revisar aquí.

Su contenido se debatirá en la comisión de ciencia, tecnología e innovación del Congreso, así como en la comisión de presupuesto y cuenta general, antes de pasar al pleno del Congreso para su votación.