En Argentina ¿se busca regular la IA?
La Cámara de Diputados de la Nación inició una serie de reuniones informativas para conocer la opinión de personas expertas en Inteligencia Artificial. Hasta la fecha, hay al menos 7 proyectos de ley presentados.
Desde DataGénero hicimos un análisis de cada uno.
Responsabilidad algorítmica y promoción de la robótica, algoritmos verdes e Inteligencia Artificial en la República Argentina.
Autor: Maximiliano Ferraro (CC – CABA)
En este proyecto, los principios generales planteados son muy positivos. Sin embargo, observamos que la iniciativa es ampliamente declarativa y no pone en cabeza de la autoridad de aplicación un poder real de decisión vinculante y regulación general, que permita que aquellos principios puedan materializarse en la actividad algorítmica del sector público y del sector privado.
Por otro lado, su redacción presenta ciertas confusiones conceptuales y errores de técnica que llevan a vacíos y abstracciones.
Modificación Ley Nacional 25.467
Autorxs: Jimena Latorre (UCR – Mendoza) y Facundo Manes (UCR – Buenos Aires)
El proyecto busca modificar la Ley 25.467 de Ciencia, Tecnología e Innovación para incorporar lineamientos vinculados al desarrollo de Inteligencia Artificial.
Puntos claves:
- Agrega un artículo sobre principios rectores para la IA (diversidad e inclusión; paz y justicia).
- Incorpora que los sistemas de IA sean registrados en la órbita del Gabinete Científico y Tecnológico (GACTEC), en el ámbito de la Jefatura de Gabinete de Ministros (conforme a procedimientos que el GACTEC fije). También indica que el GACTEC podrá detener avances de investigaciones en el caso que los sistemas de IA dañen los principios rectores de la Ley.
- Establece que si una persona se siente amenazada o perjudicada por un sistema de IA podrá realizar la denuncia ante la Secretaría para la Tecnología, la Ciencia y la Innovación Productiva (SETCIP) para la revisión de dicho sistema.
Se trata de una iniciativa que podría ser un primer paso para incorporar regulaciones. Si bien su espíritu es correcto, es demasiado escueta y libra en la autoridad de aplicación el contenido de la regulación que podría sancionar el Congreso en el ejercicio de sus competencias.
Ley de Regulación y Uso de la Inteligencia Artificial en la Educación
Autora: Victoria Morales Gorleri (PRO – CABA)
El proyecto busca establecer las regulaciones y pautas para el desarrollo y uso de la inteligencia artificial en el ámbito educativo.
Puntos claves:
- Establece principios rectores como la transparencia, la responsabilidad y la mejora educativa.
- Desarrolla los lineamientos para asegurar la protección de datos y privacidad, estableciendo el consentimiento informado, la seguridad en el almacenamiento y la posibilidad de conocer y modificar los datos registrados por parte de los y las estudiantes.
- Establece que dentro del Consejo Federal se acordarán los
documentos que darán marco a la regulación de la utilización de IA en las instituciones educativas, que deberán cumplir una seria de disposiciones como la identificación de los sistemas utilizados, la implementación informada y la evaluación y monitoreo permanentes. - Dispone que desde el Consejo Federal se inicie un proceso de actualización curricular.
- Sobre el desarrollo y la evaluación de sistemas de IA, prevé evaluaciones periódicas de calidad, medidas para identificar y mitigar cualquier sesgo o discriminación potencial en los sistemas de IA utilizados, y actualización y mejora continua.
- Sobre la formación y capacitación, establece que el INFOD deberá proporcionar oportunidades de formación y capacitación en el uso ético, pedagógico y efectivo de la IA a todos los docentes y profesionales de la educación.
Se trata de una buena iniciativa para el ámbito educativo. Los lineamientos son correctos y cuidadosos de los derechos humanos. Sin embargo, podría dotarse de más contenido para evitar lagunas o imprecisiones. Por ejemplo: ¿Cuáles son los lineamientos de la evaluación? ¿Con qué periodicidad? ¿De qué manera se va a asegurar la protección de los datos? ¿Qué estrategias?
Marco legal para la regulación del desarrollo y uso de la Inteligencia Artificial
Autora: Victoria Morales Gorleri (PRO – CABA)
El proyecto busca establecer un marco regulatorio general para el uso de la IA.
Puntos claves:
- Establece principios éticos para el desarrollo y uso de IA, como la equidad, la transparencia y la responsabilidad.
- Incluye la protección de los derechos humanos y la privacidad de los datos.
- Obliga a que los sistemas de IA sean transparentes y explicables.
- Requiere la divulgación de los algoritmos utilizados y las decisiones automatizadas.
- Determina quién es responsable por las decisiones y acciones de los sistemas de IA.
- Establece mecanismos de rendición de cuentas para los desarrolladores y operadores de IA.
- Crea la Autoridad de Supervisión de la Inteligencia Artificial (ASIA) encargada de garantizar el cumplimiento de la ley y la regulación de los sistemas de inteligencia artificial.
- Establece procedimientos para la evaluación y certificación de sistemas de IA.
- Obliga a implementar medidas de seguridad para proteger los datos.
- Obliga a realizar evaluaciones de riesgo y establecer planes de mitigación.
Se trata de una buena iniciativa como puntapié inicial. Hay medidas concretas que celebramos, como el derecho de las personas de solicitar explicaciones sobre el funcionamiento algorítmico, la prohibición taxativa del uso de la IA para fines discriminatorios o la creación de un organismo regulador como la ASIA.
Sin embargo, creemos que podría incorporar más contenido para evitar lagunas o imprecisiones. Por ejemplo: ¿En qué consiste “fomentar” la creación de comisiones de seguimiento o de suscripción de acuerdos? – es muy laxo el verbo “fomentar”, la normativa precisa mayor enforcement – ¿Cómo va a estar compuesta la ASIA? En este punto es indispensable que participen personas de la sociedad civil.
Régimen jurídico aplicable par el uso responsable de la Inteligencia Artificial en la República Argentina
Autor: Juan Fernando Brugge (HCF – Córdoba)
El proyecto busca establecer un régimen legal aplicable para el uso responsable de la IA.
Puntos claves:
- Establece una serie de principios, con sus respectivas definiciones y lineamientos, como la transparencia, la robustez, la equidad y la no discriminación, la responsabilidad proactiva, la trazabilidad, la privacidad y la seguridad
- Incorpora la obligación de contar con una evaluación de impacto sobre derechos humanos realizada por la autoridad de aplicación (que para este proyecto es el INTI). Asimismo, establece pautas para la gestión de riesgos, clasificando éstos desde inaceptables y prohibidos, hasta leves.
- En función del grado del riesgo, establece distintos tipo de sanciones, así como una acción judicial resarcitoria.
- Crea un Consejo Asesor en IA en el ámbito de la Jefatura de Gabinete de Ministros, compuesto por expertos en ética, tecnología, derechos humanos, privacidad y otros campos relevantes tanto del sector público, privado, académico y organizaciones de la sociedad civil, con el objetivo de garantizar una evaluación exhaustiva e imparcial del impacto de los proyectos y sistemas de IA.
- Delega en el Poder Ejecutivo la promoción de la cooperación internacional en el desarrollo y regulación de la IA, participando en iniciativas multilaterales y colaborando con otros países y organizaciones internacionales.
Consideramos que es una muy buena iniciativa. Tanto las definiciones como su contenido regulatorio son claros. Establece principios pero no solo como meros lineamientos sino como contenido mínimo que debe respetar el desarrollo en IA.
Propone evaluaciones de impacto y un sistema en niveles de gestión de riesgos, con sus respectivas sanciones en caso de incumplimiento. Imputa como autoridad de aplicación a un órgano con reconocida trayectoria (el INTI), y al mismo tiempo crea un Consejo Asesor multisectorial en la temática.
Como aporte, creemos que el Consejo podría tener más funciones vinculantes, en función de que estará compuesto por especialistas, conocedores de la problemática.
El proyecto busca crear el «Consejo Federal de Inteligencia Artificial».
Puntos claves:
- Indica que estará compuesto por una (1) persona del área de CyT de cada provincia que adhiera a la ley.
- Regula su funcionamiento interno y sus competencias.
- Estipula que deberá crearse un comité de ética con función consultiva, el cual se expedirá respecto a cualquier iniciativa vinculada con IA presentada por un particular o consulta de un organismo público.
Se trata de una iniciativa escueta y poco precisa. Crea una institución a la que se le dan muchísimas funciones pero con pocos o nulos lineamientos de política pública. Establece la creación de un comité de ética, pero sus decisiones son de carácter no vinculante y además no explica quienes lo integrarían.
No creemos que la implementación de este Consejo suponga mayor transparencia y seguridad ante la implementación de la IA.
Proyecto de ley sobre regulación y uso de la Inteligencia Artificial
Autora: Anahí Costa (UxP – Catamarca)
El proyecto busca garantizar y promover el uso de la Inteligencia Artificial resguardando a las personas y protegiendo sus derechos humanos.
Puntos claves:
- Establece una serie de principios, como el de la proporcionalidad e inocuidad, garantizando la evaluación de riesgos y la adopción de medidas para impedir que se produzcan daños; la seguridad y la protección; la equidad y la no discriminación; la supervisión y la decisión humana; la transparencia y la explicabilidad; y la responsabilidad y la rendición de cuentas.
- Incorpora prohibiciones de uso ante situaciones en que afecte o comprometa derechos humanos; cuando sea generadora de riesgos a la seguridad y riesgos a la protección de los seres humanos, del medio ambiente y de los ecosistemas; cuando generen o perpetúen situaciones que afecte a la diversidad y la inclusión; cuando los sistemas recopilen datos personales o los mismos se utilicen, compartan, archiven y supriman de forma consistente; cuando se procure reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas; cuando se utilice para manipular información sensible y destinada a informar a la sociedad, y cuando tenga uso bélico y/o militar.
- Encomienda al Poder Ejecutivo la designación de la autoridad de control . Dicha autoridad podrá realizar evaluaciones de impacto y deberá promover capacitaciones en materia de ética y de alfabetización mediática e informacional sobre la IA. También será la encargada de crear un registro de responsables, creadores y proveedores de sistemas de IA, así como tamibén aplicar sanciones.
Consideramos que es una buena iniciativa como primer marco regulatorio. Celebramos las prohibiciones estipuladas así como la posibilidad de aplicar sanciones.
De todas maneras, podrían incorporarse más detalles. El proyecto es muy “principista” y deja en cabeza del Ejecutivo la facultad de designar un organismo. Creemos que la autoridad de aplicación debe crearse por ley y debe contar con participación de la sociedad civil. Además, deben explicarse los supuestos ante los cuales se aplicarán las mencionadas sanciones.
Koi Soluciones Digitales
