Los Universitarios hablan es un espacio abierto a la comunidad estudiantil, inicialmente la que funciona en la Ciudad de México. Pretende ser un espacio en el que maestros y alumnos opinen libre y responsablemente sobre temas de actualidad.
En esta entrega participan la maestra Ireri García de la Escuela Libre de Derecho y el alumno Santiago de Hoyos Guzmán de la Universidad Panamericana. Dan su visión respecto de un tema específico y actual: el Plan Ángel de Marcelo Ebrard.
Elisur Arteaga Nava
Plan Ángel: ¿constitucionalmente viable?
Por Santiago de Hoyos Guzmán, UP
En las últimas semanas, el debate público en México ha girado en torno a las próximas elecciones presidenciales, donde se elegirá al nuevo líder del país. En este contexto, las coaliciones políticas han comenzado a revelar sus procesos de selección de candidatos, y los precandidatos han presentado sus propuestas en diferentes áreas, incluyendo la de seguridad.
Uno de los precandidatos de la actual coalición gobernante, Marcelo Ebrard, dio a conocer su estrategia para combatir la inseguridad, bajo la denominación de “Plan Ángel”. Esta estrategia ha generado discusiones tanto en el ámbito político como jurídico, debido a su enfoque novedoso que busca romper con los paradigmas actuales mediante el uso preponderante de la inteligencia artificial, mismo que va desde sistemas reconocimiento facial hasta sistemas de reconocimiento morfológico de delincuentes. Aunque esta propuesta puede parecer infalible en un principio, el análisis de su viabilidad desde una perspectiva constitucional y práctica es indispensable.
El uso excesivo de inteligencia artificial en tareas de seguridad pública plantea riesgos, dado que estas tecnologías han sido, en su mayoría, para uso exclusivo de los particulares dentro de la esfera privada. Implementarlas en el sector público y, por tanto, hacer depender su calidad del monto de inversión que se realice, tiene como consecuencia un incremento en la posibilidad de fallas en los sistemas, mismo que puede dar lugar a, entre otras cosas, detenciones arbitrarias por parte de la autoridad. Así se manifestó Luis Fernando García, presidente de la Red de Defensa de los Derechos Digitales, afirmando lo siguiente: “su implementación en el espacio público abre la puerta a detenciones arbitrarias. El problema más grave es que los errores no son equitativos, sino que afectan a poblaciones históricamente discriminadas, como las mujeres, los adultos mayores, las personas racializadas, así como a personas trans y no binarias“.
Por su parte, Agnès Callamard, secretaria general de Amnistía Internacional, ha manifestado su opinión en el mismo sentido, puntualizando lo siguiente: “Reforzar el aparato de seguridad con una vigilancia masiva impulsada por inteligencia artificial es un proyecto políticamente peligroso que podría resultar en violaciones generalizadas de los derechos humanos. Cada acción realizada en un espacio público quedaría registrada en una red de infraestructura de vigilancia, lo que socavaría las libertades civiles fundamentales“.
Es evidente que el uso de la inteligencia artificial en materia de seguridad pública plantea desafíos significativos desde diversas perspectivas. Derivado de lo anterior, resulta indispensable mencionar a este respecto que no hay soluciones generales y abstractas que puedan ser aplicables a todos los países. Es así como, partiendo de un análisis de la realidad del nuestro país, me permito afirmar la inviabilidad de tal proyecto por el momento, no obstante que, el tener una infraestructura de gobierno que permita la implementación eficaz de tales sistemas, es una aspiración que todo funcionario público debería tener. Es indispensable atender las interrogantes previamente planteadas, lo anterior, a fin de garantizar el respeto a los derechos humanos, evitar detenciones arbitrarias y proteger las libertades civiles. La seguridad debe ser una prioridad, pero no puede lograrse a expensas de la privacidad y los derechos fundamentales de los ciudadanos.
@sdehoyosguzman
El Plan Ángel y la necesidad de regulación de la inteligencia artificial, IA
Por Ireri Elizabeth García Ramos, ELD
Acontecimientos como la huelga de actores en Hollywood por el uso de IA en la industria audiovisual y la propuesta del “Plan Ángel” del candidato presidencial Marcelo Ebrard, que plantea el uso de dicha herramienta tecnológica para combatir la inseguridad, nos recuerdan que estamos viviendo una Cuarta Revolución Industrial en la que el principal activo son los datos.
La Cuarta Revolución Industrial representa una serie de retos, hoy en día tenemos acceso a una gran cantidad de información, a una velocidad muy rápida y a partir de distintas fuentes, lo que implica la necesidad de incorporar nuevas tecnologías para poder procesar y utilizar los datos a nuestro favor por medio de la modernización de procesos que permitan la adaptación al cambio y la anticipación a los problemas y a sus soluciones.
Como lo ha reconocido la ONU en la Agenda 2030 para el Desarrollo Sostenible, uno de los principales actores en la era digital es el sector público; del manejo que las autoridades den a los datos dependerá el desarrollo sostenible de la población. Si se tiene un correcto manejo de los datos se puede asegurar la toma de decisiones adecuadas, oportunas, trazables, transparentes e incluso anticiparse a planificar decisiones.
El mayor reto que implica la transformación de los proceso es elaborar una estrategia digital a partir de la cual se gobiernen los datos y se implementen las tecnologías con estricto respeto a los derechos humanos, DDHH. Se subraya el término DDHH ya que es necesario no perder de vista que la IA es una herramienta al servicio de los sujetos de derechos y que su desarrollo debe limitarse a simplificar y acelerar procesos en beneficio de estos.
Ante este escenario es urgente que se establezcan disposiciones generales que blinden el respeto de los DDHH en el uso de IA y que aseguren que su uso y resultados sean democráticos, es decir, que estén planeados para acortar la brecha digital y que el uso de la IA no acrecente las desigualdades sociales y económicas.
Actualmente existen directrices en las que se agrupan principios universales para asegurar la protección de los DDHH en el uso de la IA, ejemplo de ello es la Recomendación sobre la Ética de la Inteligencia Artificial emitida por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, UNESCO, del 25 de noviembre de 2021, organismo del cual el Estado Mexicano es miembro fundador.
Algunos de los principios básicos que se han identificado como éticamente necesarios para la aplicación de la IA son: respeto a los derechos fundamentales; equidad, no discriminación e imparcialidad; calidad y seguridad; transparencia y explicabilidad; control por el usuario; proporcionalidad e inocuidad; sostenibilidad; respeto a la intimidad y protección de datos; supervisión y decisión humana; responsabilidad y rendición de cuentas; sensibilización y educación; y gobernanza y colaboración.
Como miembro fundador de la UNESCO, cualquier proyecto del Gobierno de México que pretenda utilizar de la IA como herramienta para el logro de sus objetivos debe estar sujeto a un análisis de cumplimiento de los principios éticos descritos. Con fundamento en el artículo 1º, párrafo tercero, de la Constitución Política de los Estados Unidos Mexicanos, todas las autoridades, en el ámbito de sus competencias, tienen la obligación de promover, respetar, proteger y garantizar los DDHH de conformidad con los principios de universalidad, interdependencia, indivisibilidad y progresividad.
Para cumplir con la citada obligación, es necesario que las autoridades del Estado Mexicano emitan, en el ámbito de su competencia, normatividad para regular los procesos en los que se utilice IA. En tanto no existan normas nacionales que regulen el uso de IA por parte de las autoridades mexicanas, con vista al artículo 1º constitucional cualquier plan gubernamental que implique el uso de IA estará sujeto, como mínimo, a las mejores prácticas en materia de DDHH y a los límites éticos establecidos por la UNESCO que materializan los principios que en el sistema universal de derechos humanos se han fijado en el uso de IA. El “Plan Ángel” y cualquier proyecto similar, de llegar a implementarse, estará viciado de inconstitucionalidad si no cumple con los límites descritos.
@ireri_egr