Este 14 de septiembre se llevó a cabo la tercera sesión del ciclo de conversatorios: Inteligencia Artificial y Derechos Humanos con el tema “Inteligencia Artificial y Sociedad: Derechos, Poder y Decisiones para el Futuro de México” durante el cual se generó un espacio de diálogo abierto, crítico e intergeneracional, en temas fundamentales relacionados con el avance de dicha tecnología y los derechos humanos.
En la utopía Elena Poniatowska, ubicada en la alcaldía Coyoacán de la Ciudad de México, se llevó a cabo este encuentro con especialistas en Inteligencia Artificial (IA), personas servidoras públicas y estudiantes de nivel medio superior. La conclusión central fue que toda tecnología, por avanzada que sea, debe estar al servicio de las personas, por lo que es preciso preguntarnos como ciudadanos, quién la controla, qué sucede con nuestra privacidad, nuestros datos y al servicio de quién está, a fin de salvaguardar los derechos humanos de las personas usuarias.
Entre los planteamientos más relevantes que se mencionaron están que los actores del sector tecnológico llamaron a “desacelerar” el desarrollo de la Inteligencia Artificial, además plantean la necesidad de evaluar y regular estos sistemas para proteger los derechos de las personas. Sin embargo, desde una perspectiva crítica, también pueden interpretarse como una estrategia de carácter monopólico: controlar el ritmo de innovación, limitar la entrada de competidores y preservar su posición dominante.
Otro planteamiento es que entre los principales riesgos se encuentran: la utilización de datos personales para generar ganancias; la falta de normatividad en la materia; además de que las corporaciones tecnológicas están pidiendo autorregulación, lo cual no garantiza certeza en el manejo responsable de los datos personales y la información que recopilan; así como de otros fenómenos como: exclusión social, racismo, discriminación y desigualdad social.
Sobre los efectos de la IA en los derechos democráticos se hizo un llamado para avanzar en la regulación para desalentar la persuasión y la manipulación en la toma de decisiones y la concentración del poder informático, así como la fragmentación de la realidad compartida, porque constituyen amenazas fundamentales para la sociedad. Se dijo que, si bien todo individuo tiene derecho a la libertad de opinión y expresión, según el Artículo 19 de la Declaración Universal de los Derechos Humanos. Sin embargo, el desarrollo de la Inteligencia Artificial plantea nuevos retos para la protección de este derecho, ya que facilita la creación y difusión de noticias falsas (fake news) y contenidos de video, imagen o voz manipulados para hacer creer que alguien dijo o hizo algo que nunca sucedió (deep fakes).
Se destacó la importancia de no resistirse a utilizar los cambios tecnológicos, como los algoritmos y las redes sociales, toda vez que pueden proporcionar información importante y ayudarnos en nuestras tareas cotidianas, pero se insistió en la urgencia de invertir en la educación tecnológica de los sistemas automatizados además de normar su producción y de su regulación para un manejo ético y responsable.
Se hizo mención particular del caso del gobierno mexicano que, a través de la Agencia de Transformación Digital y Telecomunicaciones, trabaja para conocer el impacto que tiene la Inteligencia Artificial en la vida de las personas, la educación, adquisición de conocimiento, pero, sobre todo, la formación de capacidades en el Estado para atender las necesidades públicas y generar soluciones para problemas reales.
Para ello, se requiere legislar sobre la obligatoriedad de que los datos generados por sistemas de IA en México sean almacenados y procesados en infraestructuras nacionales, protegiendo así la soberanía y seguridad de la información. Además de formar talento capaz de comprender la Inteligencia Artificial, su alcance, ventajas y desventajas, un punto importante es cuidar los datos generados y que la información sea protegida, para lo cual se requiere infraestructura y software propios. Es fundamental establecer organismos independientes encargados de la vigilancia y cumplimiento de estas regulaciones, así como mecanismos de rendición de cuentas y participación ciudadana en la toma de decisiones sobre IA.
Este ciclo de conferencias abre un debate más profundo sobre las consecuencias que tiene la Inteligencia Artificial a escala planetaria. Como lo señala el debate contemporáneo, estamos ante una transformación que exige una reflexión colectiva y la construcción, codo a codo, de los debates y las acciones necesarias para buscar nuestra soberanía, defender nuestra democracia y garantizar los derechos del pueblo de México.
Por ello, este ciclo de conferencias representa un inicio y no un final. Es apenas el punto de partida de una discusión que resulta indispensable para comprender las implicaciones de la Inteligencia Artificial, garantizar la accesibilidad a la información y cuestionar la idea de una supuesta “objetividad de la ciencia”, reconociendo que la tecnología también está atravesada por intereses, decisiones y relaciones de poder. La Inteligencia Artificial requiere de nuestra creatividad, de nuestra participación colectiva y de nuestra capacidad para construir nuevas formas de regulación. El desafío es lograr que estas tecnologías estén al servicio de la sociedad, de la democracia y, particularmente, de la humanidad en su conjunto.