Los Universitarios hablan es un espacio abierto a la comunidad estudiantil, inicialmente la que funciona en la Ciudad de México. Pretende ser un espacio en el que maestros y alumnos opinen libre y responsablemente sobre temas de actualidad.

En esta entrega participan la maestra Ireri Elizabeth García Ramos de la Escuela Libre de Derecho y la alumna Michelle Nava Ruiz de la Universidad Autónoma Metropolitana. Dan su visión respecto de un tema específico y actual: la AI Act de la Unión Europea y la necesidad de regular la inteligencia artificial.

Elisur Arteaga Nava

 

Más allá de la IA: Desafíos regulatorios

Por Michelle Nava Ruiz, UAM

 

Se acusa al Derecho de querer regularlo todo, y la Inteligencia Artificial (IA) no ha sido la excepción. Así, el pasado 12 de julio se publicó el Reglamento UE 2024/1689 del Parlamento Europeo y del Consejo en el Diario Oficial de la Unión Europea. Su objeto es establecer un marco jurídico para el uso de IA y garantizar la protección a la salud, seguridad y derechos fundamentales previstos en la Carta de los Derechos Fundamentales de la Unión Europea, incluidos la democracia, protección al medio ambiente y Estado de Derecho. Con esto también se prevé la libre circulación transfronteriza de mercancías y servicios y la prohibición de prácticas en la IA. Dentro de los puntos más relevantes del Reglamento están:

Ámbito de aplicación: va dirigido principalmente a proveedores que introduzcan o pongan a disposición sistemas y modelos de IA, importadores, distribuidores, y fabricantes –independientemente de si están establecidos o ubicados en la Unión o en un tercer país (principio de extraterritorialidad)-.

Definiciones: entre ellas sistema de IA como aquél basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos, explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

Obligaciones: establece obligaciones específicas para importadores y distribuidores y al mismo tiempo garantiza la protección de derechos de las personas.

Conductas prohibidas: vale la pena destacar algunas de las prácticas prohibidas, tales como la utilización de sistemas de IA que trasciendan a la conciencia de una persona o manipulen o engañen con el objeto de alterar de forma sustancial el comportamiento de una o varias personas para tomar una decisión; la introducción de sistemas para evaluar o clasificar a personas o colectivos durante un periodo de tiempo atendiendo su conducta o características conocidas o inferidas y que la puntuación provoque cierta marginación o trato perjudicial injustificado o desproporcional o uso de sistemas de categorización biométrica para clasificar a las personas sobre datos biométricos y deducir raza, opiniones políticas, etc.

Gobernanza: se constituirá una Comisión que desarrollará conocimientos mediante una Oficina; se crea un Consejo Europeo de Inteligencia Artificial que facilitará la aplicación del Reglamento; habrá un foro consultivo para proporcionar conocimientos técnicos y asesorará al Consejo y a la Comisión; y la Comisión podrá adoptar disposiciones sobre la creación de un grupo de expertos científicos independientes.

Recursos: si una persona considera que se ha infringido el Reglamento, puede presentar una reclamación ante la autoridad de vigilancia o si se ve afectada por una decisión de alto riesgo tiene derecho a obtener una explicación clara y significativa.

Sanciones: los Estados miembros establecerán sanciones y medidas de ejecución ante infracciones por operadores.  No obstante, el Supervisor Europeo de Protección de Datos podrá imponer multas administrativas a instituciones y órganos de la Unión.

A grandes rasgos, esto es lo que estará entrando en vigor de forma sucesiva del 1o de agosto del 2024 hasta 2026.  La idea es que no solo los europeos cuenten con una legislación, pero un primer gran paso era establecer un parámetro en la materia. Este reglamento representa un compendio robusto de principios éticos para una IA más fiable. Aún queda mucho por hacer, pues la IA es una gran herramienta para la humanidad, pero si no se le limita, corre el riesgo de salirse de nuestro control. He ahí la importancia del tema regulatorio en las nuevas tecnologías.

www.linkedin.com/in/michelle-nava-ruiz-35b985169

 

AI ACT, regular para proteger

Por Ireri Elizabeth García Ramos, ELD

 

Hace apenas una semana, 12 de julio de 2024, se publicó en el Diario Oficial de la Unión Europea la primera ley de inteligencia artificial, AI Act, mediante el Reglamento 2024/1689, obligatorio para todos sus estados miembros. Los objetivos principales de la normativa es dar certeza en el uso de la inteligencia artificial y garantizar el respeto a los derechos humanos.

A pesar de celebrar la publicación de dicha ley no deja de sorprender que tuvieron que pasar más de 70 años, desde las primeras pruebas conversacionales entre humanos y maquinas, para que finalmente el ámbito jurídico pudiera acordar el primer instrumento jurídico regional obligatorio en la materia. Los motivos del retraso podrían ir desde la intención de evitar regulaciones que detuvieran la innovación hasta el hecho de que el sector legal se vio rebasado por la Cuarta Revolución Industrial, lo cierto es que sin regulación las personas estamos desprotegidas ante el uso de esta tecnología.

Como antecedentes de la normativa que nos ocupa podemos encontrar distintos esfuerzos por regular la inteligencia artificial, en adelante IA, entre lo más relevantes se encuentran la Carta Ética Europea sobre el uso de la Inteligencia Artificial en los Sistemas Judiciales, de 4 de diciembre de 2018,  y  la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, de 25 de noviembre de 2021 que, entre otros parámetros, señalan la importancia de identificar principios universales para asegurar la protección de los derechos humanos en el uso de la IA.

De lo descrito anteriormente, podemos notar como factor común de los tres instrumentos la necesidad de adoptar una IA centrada en el ser humano en la que se garantice el respeto de los derechos humanos. Algunos se sorprenderán de que en pleno 2024 se reconozca como objetivo principal de leyes y reglamentos la protección de derechos humanos, sin darse cuenta de que estamos en una revolución tecnológica que puede ser utilizada para restringir y vulnerar nuestros derechos a gran escala sin darnos siquiera cuenta.

Un ejemplo de lo anterior lo vimos en algunas de las propuestas de la pasada contienda electoral, específicamente con el llamado “Plan Ángel” en el que se apostaba por el uso de la inteligencia artificial en labores de seguridad pública mediante sistemas de reconocimiento facial, sin tomar en consideración que dicha tecnología ha sido prohibida en diversos países por su alto grado de intromisión en los derechos de privacidad y discriminación. El implementar este tipo de tecnología, reconocimiento facial o incluso morfológico, implica que nuestras acciones estén vigiladas en tiempo real en cada espacio público.

En el caso del Reglamento 2024/1689 se hace una clasificación de los sistemas de IA de acuerdo a los niveles de riesgo que impliquen. La clasificación abarca desde los sistemas prohibidos en los que se encuentran aquellos que utilicen la categorización biométrica basados en datos como la cara o impresiones dactilares, los sistemas de alto riesgo que requieren cumplir con requisitos obligatorios para ser utilizados, los sistemas de riesgo limitado y los sistemas de riesgo neutro.

La aplicación del reglamento será escalonada, ya que a pesar de que entrará en vigor a los veinte días de su publicación, 1 de agosto de 2024 y, en general será aplicable a partir del 2 de agosto de 2026, algunos capítulos como el de las prácticas prohibidas y disposiciones generales serán aplicables a partir del 2 de febrero del 2025 y algunas obligaciones hasta el 2 de agosto de 2027. Esperamos que este esfuerzo normativo sea el ejemplo para que en nuestra región se empiece a regular el uso de la IA como una valiosa herramienta a disposición de las personas.

X: @ireri_egr