Kicillof copió reglas europeas y oficializó su primera medida para frenar el avance de la IA

Con el avance de la inteligencia artificial y la llegada de estas tecnologías a distintos aspectos de la esfera social, el Gobierno bonaerense de Axel Kicillof oficializó una serie de medidas, a través de la Resolución 9/25 de la Subsecretaría de Gobierno Digital, donde se reglamenta el uso de la IA en la administración publica a nivel provincial.

Las reglas “para el desarrollo, implementación y uso responsable de sistemas de Inteligencia Artificial” ya es obligatorio para todas las oficinas y dependencias del Estado bonaerense.

En la norma que se publicó en el Boletín Oficial de este jueves, las autoridades argumentaron que “la popularización y masividad de las inteligencias artificiales, plantea la necesidad de reglas que clarifiquen su utilización en el ámbito público“. A esto le sumaron que “la innovación tecnológica jamás puede ir en desmedro de los derechos fundamentales y humanos de la ciudadanía”.

El reglamento está basado en normativas internacionales, como la AI Act de la Unión Europea, e introduce cuatro niveles de riesgo. Uno de ellos es calificado como inaceptable y directamente prohíbe su uso. En esta categoría entraron usos conocidos como scoring social, manipulación subliminal o explotación de vulnerabilidades.

En un segundo escalón quedaron los usos de alto riesgo que quedaron permitidos, pero bajo estrictas condiciones. Acá entran los sistemas de identificación biométrica, la gestión de las relaciones laborales o la administración de justicia, entre otros sistemas.

En la categoría riesgo limitado quedaron los chatbots genéricos que es una tecnología cuyo uso ya está extendido en empresas y entes gubernamentales.

En este punto, la novedad que impone el reglamento bonaerense es la llamada autodeterminación informativa que obliga a todos los organismos que usen sistemas de IA para comunicarse con la ciudadanía a advertir cuando estén interactuando con una IA. “Dicho aviso, además de expreso y claro, debe ser previo a la interacción”, aclara el reglamento.

Más allá de las prohibiciones y la calificación de riesgos, el reglamento habla de “mitigar la aparición de sesgos“, respetar la privacidad y proteger los datos, contar con procedimientos de trazabilidad y auditorías y de conservar la “centralidad de la persona humana“, entre otros principios.

La normativa cierra con la creación del Registro de Inteligencia Artificial al que deberán inscribirse de manera obligatoria “los organismos de la Administración Pública de la Provincia de Buenos Aires, que usen o desarrollen sistemas de inteligencia artificial”.

Dicho registro, funcionará bajo la orbita de la Subsecretaría de Gobierno Digital que lidera Sandra D’Agostino.