CNDH propone abordar el uso de la Inteligencia Artificial desde los derechos humanos

Especial | Comisión Nacional de los Derechos Humanos

La Comisión Nacional de los Derechos Humanos (CNDH), en ejercicio de su mandato constitucional de protección, observancia, promoción, estudio y divulgación de los derechos humanos, cree necesario manifestar su posición frente al desarrollo acelerado y la incorporación cada vez más creciente de la Inteligencia Artificial en prácticamente todos los ámbitos de la vida social, económica y política de las personas.

La Inteligencia Artificial constituye una de las transformaciones tecnológicas más profundas de nuestro tiempo. Su capacidad para procesar enormes volúmenes de información, generar contenidos, automatizar tareas humanas, orientar e incluso influenciar en la toma de decisiones en todos los niveles, está modificando cada día la manera en que las personas piensan, trabajan, aprenden, crean, se informan, se relacionan entre sí y hasta en cómo ejercen sus derechos. Sólo que toda transformación técnica es también una transformación social.

La tecnología no aparece ni se desarrolla al margen de la historia y mucho menos al margen de las relaciones humanas. Es creada por personas, instituciones y empresas, respondiendo a sus necesidades e intereses; requiere trabajo humano y recursos naturales, y es a partir de eso que comienza a modificar las relaciones económicas del mundo, alterando la distribución del conocimiento y, por ende, del poder.

Por ello, la tecnología nunca ha sido neutral. Toda vez que se diseña con fines específicos; como receptores de la misma, no debemos dejar de preguntar quién diseña estas tecnologías, para qué, quién obtiene sus beneficios, quiénes asumen los costos y qué poder adquieren quienes controlan su infraestructura, sus datos y sus capacidades.

La CNDH reconoce que la Inteligencia Artificial puede contribuir, en cierto modo, a mejorar los sistemas de salud y los sistemas educativos; acelerar la investigación científica; facilitar el análisis de la información y acercar determinados servicios a personas y comunidades. También, esta tecnología puede incrementar algunas capacidades del Estado para anticipar problemas públicos y diseñar políticas.

La tecnología, puesta al servicio de las personas, puede reducir y liberar tiempo, ampliar conocimiento y multiplicar capacidades. Pero cuando las personas quedan subordinadas a la Inteligencia Artificial, todas estas posibilidades pueden convertirse en una nueva forma de dependencia, lo que constituye una de las contradicciones fundamentales de este movimiento.

Ya hemos pasado por un proceso similar. Ocurrió en el siglo XVIII cuando la llamada Revolución Industrial modificó la economía y las relaciones laborales y humanas en general. Sin embargo, nunca como ahora habíamos contado con instrumentos capaces de producir conocimiento a tal velocidad, con una capacidad semejante para observar, clasificar, perfilar e influir sobre millones de personas simultáneamente. Esto es, que, en efecto, nunca había sido tan sencillo producir información y conocimiento, pero nunca tampoco había sido tan fácil fabricar la apariencia de la verdad.

La Inteligencia Artificial, por sí misma, no elimina los prejuicios ni desigualdades de nuestras sociedades. Puede incorporarlos en sus datos, convertirlos en patrones estadísticos y aún reproducirlos a una escala mucho mayor. Por eso, lo realmente importante es el uso y la orientación que habremos de darle. Porque el mismo sistema que ahora selecciona personas para un empleo, evalúa riesgos, recomienda tratamientos o apoya una decisión política, puede también discriminar, excluir, invisibilizar y convertir desigualdades históricas en resultados aparentemente objetivos y válidos.

La transformación que estamos viendo en el ejercicio de los derechos sociales, económicos, culturales y ambientales expresa con claridad esta tensión. La Inteligencia Artificial puede incrementar la productividad y crear nuevas ocupaciones y dinámicas laborales, pero también podríaeliminar actividades, desplazar trabajos, crear incertidumbre legal, acelerar la precarización y alterar la vida cotidiana a tal punto de ensanchar las diferencias entre quienes poseen capital, tecnología y conocimientos, y quienes solo cuentan con su empleo u ocupación para sostener su vida y la de su familia.

El hecho es que no podemos medir este progreso tecnológico por cuánto produce una sociedad, sino por cómo se distribuyen los beneficios de aquello que produce. La Inteligencia Artificial es una innovación que tanto podrá multiplicar riqueza como igualmente ampliar desigualdades y, por ello, desde una perspectiva de derechos humanos, no puede considerarse un progreso completo.

Ocurre con los datos personales que ahora pueden recolectarse y almacenarse como nunca, por un lado, para mejorar servicios; por otro, como muestran evidencias, para perfilar, vigilar, controlar, predecir e influir sobre las decisiones que nos hacen individuos.

Cuando la vida humana se convierte constantemente en información procesable, aparece una pregunta que ninguna democracia puede ignorar: ¿qué espacio queda para la intimidad, la autonomía, la libertad y los derechos humanos cuando cada acción se convierte en un dato y cada dato en un instrumento de influencia?

Durante siglos, la palabra, la imagen y la creatividad fueron expresiones puramente humanas; hoy la Inteligencia Artificial produce textos, fotografías y voces con apariencia de verdad y, peor aún, que son mentira. La misma capacidad que presenta posibilidades para una nueva cultura y conocimiento, también presenta posibilidades para fabricar identidades o acontecimientos, destruir reputaciones, influir maliciosamente en decisiones ciudadanas fundamentales y organizar campañas de desinformación o impulsar prácticas bélicas a una escala inimaginable.

No es cuestión de si podremos distinguir lo verdadero de lo falso, sino sobre lo que ocurre con una sociedad cuando comienza a desconfiar de lo que vive, de lo que observa y hasta de las palabras que recibe. La erosión de esta confianza puede convertirse en la erosión de la vida democrática y del ejercicio mismo de los derechos humanos.

Otra paradoja ocurre con nuestros sistemas educativos, pues si bien la enorme cantidad de información y de conocimiento procesado al alcance de niñas, niños y adolescentes puede ampliar extraordinariamente su aprendizaje, también lo es que puede generar mayor desinformación.

Utilizada la Inteligencia Artificial como sustituto reiterado del esfuerzo intelectual, puede debilitar procesos esenciales de análisis, memoria, imaginación y razonamiento, que es, en esencia, lo que nos hace humanos. No es casual que en distintos países estén surgiendo leyes que limitan el uso tanto de Inteligencia Artificial como del internet para menores de edad.

Una sociedad que delega paulatinamente su pensamiento en sistemas automatizados corre el riesgo de poseer cada vez más información, pero menor autonomía intelectual, capacidad que nos permite formular preguntas, confrontar ideas, equivocarnos, descubrir, imaginar y construir un criterio propio, que es la esencia de nuestra humanidad.

Por ello, la CNDH, observa con particular atención los efectos que la Inteligencia Artificial comienza a producir en niñas, niños y adolescentes; pero, sobre todo, en la sociedad en general.

La historia humana nos demuestra que las sociedades no pueden frenar las revoluciones científicas ni las transformaciones tecnológicas, pero siempre las regulan y las orientan. Por todo esto, es indispensable pensar en quienes realmente deciden y se benefician el rumbo de esta transformación, en los márgenes legales actuales, pues es un hecho que esta tecnología está en manos de un pequeño número de corporaciones propietarias de la infraestructura y la concentración de datos. Y este mercado no convertirá por sí solo la innovación en bienestar colectivo, porque cuando pocas personas y empresas poseen tecnologías capaces de influenciar la información, el trabajo, la educación, la cultura, el consumo y la vida política de todas y todos, se vuelve evidente concentración del poder y fuente de desigualdades.

Nadie pone en duda de que cualquier democracia representativa exige contrapesos, como tampoco que la libertad exige límites, tanto al poder público como al privado. Por eso, la Inteligencia Artificial debe desarrollarse bajo instituciones y regulaciones capaces de garantizar que ninguna innovación tecnológica esté por encima de la dignidad humana, que ningún sistema automatizado sustituya la obligación constitucional de fundar y motivar una decisión o transferir las responsabilidades del Estado a una base de datos o modelo matemático.

Cuando una decisión emanada de la Inteligencia Artificial pueda afectar derechos, siempre deberá existir responsabilidad humana identificable. No puede ni debe poder desarrollarse esta tecnología si ignora los derechos humanos, el derecho a un medio ambiente sano, la disponibilidad de agua, energía, recursos, ni los derechos de las comunidades sobre sus territorios.

En México contamos con un referente que son los Principios de Chapultepec, presentados en 2026 por la Secretaría de Ciencia, Humanidades, Tecnología e Innovación y la Agencia de Transformación Digital y Telecomunicaciones, que colocan como premisas del tema la ampliación de derechos, responsabilidades humanas, participación, bienestar y uso responsable de datos.

Sumado a lo anterior, esta Comisión Nacional considera indispensable que cualquier desarrollo, utilización o regulación de la Inteligencia Artificial atienda, por lo menos, los siguientes parámetros:

1.     Derechos humanos, derecho a la verdad y a la dignidad, como límites y finalidad de la utilización o innovación tecnológica;

2.     Responsabilidad humana siempre identificable, nunca delegada en un algoritmo;

3.     Prevención antes que reparación del daño, por utilización de esta tecnología, en lo económico, social, cultural y ambiental;

4.     Transparencia y aseguramiento del derecho a comprender, cuestionar y corregir;

5.     Tecnología para reducir desigualdades, nunca para automatizar la segregación o discriminación;

6.     Privacidad y protección de datos desde el diseño y durante toda la utilización de esta tecnología;

7.     Participación democrática ampliada y gobernanza participativa e incluyente, no concentración de decisiones sobre el uso de esta tecnología;

8.     Justicia ambiental y territorial, nunca innovación al costo de los territorios o comunidades;

9.     Regulación proporcional, clara y adaptable, no a las lagunas o vacíos regulatorios que vulneren a las personas y lesionen o perviertan el ejercicio de derechos, fundamentalmente el derecho a la libre expresión y a la elección de gobernantes;

10.Tecnología para ampliar derechos y capacidades humanas sí; para restringirlos, nunca.

Por ello, la CNDH observa que la Inteligencia Artificial es algo más que una nueva herramienta, es la posibilidad de transformación en la distribución de poderes y la democratización del conocimiento, del trabajo y en la ampliación de los derechos.

La pregunta decisiva es hasta dónde queremos permitir que llegue la Inteligencia Artificial y para qué queremos utilizarla, por lo que el desafío de nuestro tiempo consiste en aprovechar los avances tecnológicos sin subordinarnos a ellos, ni permitir que su uso genere nuevas formas de exclusión, dependencia o dominación.

La oportunidad para México implica hoy tener la capacidad de innovar, sin aceptar ningún cambio que permita o prohíje desigualdades o ventajas para unos cuantos, es decir, utilizar la Inteligencia Artificial poniendo siempre en el centro a las personas y el bien social, siempre con el objetivo de ampliar la libertad humana, siempre para ampliar las posibilidades de vivir dignamente.

El progreso tecnológico sólo puede considerarse progreso cuando se traduce en progreso humano.

© La Crítica. Información clara, análisis puntual y las historias que marcan la agenda de México.