CNDH exige regular inteligencia artificial para proteger derechos humanos en México

La Comisión Nacional de los Derechos Humanos (CNDH) urgió a regular el desarrollo de la inteligencia artificial (IA) para garantizar el respeto a los derechos humanos, proteger los datos personales y evitar que estas tecnologías sean utilizadas para manipular decisiones, profundizar desigualdades o concentrar el poder informático. Durante la tercera sesión del ciclo de conversatorios Inteligencia Artificial y Derechos Humanos, realizada el 14 de septiembre en la Utopía Elena Poniatowska, en la alcaldía Coyoacán, especialistas en IA, personas servidoras públicas y estudiantes de nivel medio superior analizaron los efectos de esta tecnología en la sociedad y en los derechos de las personas.

El encuentro, titulado Inteligencia Artificial y Sociedad: Derechos, Poder y Decisiones para el Futuro de México, planteó que el desarrollo tecnológico debía mantenerse al servicio de las personas y estar acompañado de mecanismos que permitieran determinar quién controla estas herramientas, cómo se utilizan los datos personales y a quién benefician. Entre los principales riesgos identificados estuvieron el uso de datos personales con fines de lucro, la falta de regulación, la discriminación, el racismo, la exclusión social y la desigualdad.

También se cuestionó la propuesta de que las propias corporaciones tecnológicas se autorregulen, al considerar que ello no garantizaría un manejo responsable de los datos y la información que recopilan. Los participantes destacaron que la sociedad no debía resistirse a los cambios tecnológicos, pues herramientas como los algoritmos y las redes sociales podían contribuir al acceso a información y facilitar actividades cotidianas.

Sin embargo, señalaron que era necesario fortalecer la educación tecnológica, además de establecer normas para la producción y utilización ética y responsable de sistemas automatizados. En el caso de México, se destacó el trabajo de la Agencia de Transformación Digital y Telecomunicaciones para conocer el impacto de la IA en la vida de las personas, la educación y la adquisición de conocimiento, así como para desarrollar capacidades dentro del Estado que permitan atender necesidades públicas y generar soluciones a problemas reales.

Durante el encuentro se planteó la necesidad de legislar para que los datos generados por sistemas de IA en México sean almacenados y procesados en infraestructura nacional, con el propósito de fortalecer la soberanía y seguridad de la información. Los participantes también señalaron la importancia de formar especialistas capaces de comprender el alcance, ventajas y riesgos de la IA, así como de desarrollar infraestructura y software propios para proteger la información generada en el país.

La CNDH consideró que el ciclo de conversatorios representó un punto de partida para profundizar el debate sobre las consecuencias de la IA a escala global y sus implicaciones para la soberanía, la democracia y los derechos humanos. Indicó que el desafío consistía en construir nuevas formas de regulación y participación colectiva para garantizar que estas tecnologías estuvieran al servicio de la sociedad, la democracia y la humanidad..