A través de los principios de Chapultepec de México, se pretende establecer una regulación para la adopción de inteligencia artificial en el país. El objetivo es gestionar mejor el uso de esta tendencia, con un alto enfoque tanto en derechos como en la responsabilidad humana.
Dicha propuesta establece una serie de criterios públicos, para evitar la toma de decisiones automatizadas, así se buscan reducir los riesgos de discriminación. La idea es asegurar tanto el control como la gestión del factor humano, esto en los sistemas que usa el sector público.
Lo anterior se dio a conocer, durante las actividades del evento “La inteligencia artificial en la vida pública de México”. El cual fue llevado a cabo en el Museo Nacional de Antropología, de la ciudad de México, donde participaron funcionarios de algunas instituciones de gobierno.
Al inició del evento, Rosaura Ruiz Gutiérrez, secretaria de Ciencia, Humanidades, Tecnología e Innovación (Secihti), dio lectura a los Principios de Chapultepec de México. Que consisten en una declaración de ética y buenas prácticas, para el desarrollo de la inteligencia artificial.
En la sesión inicial, la funcionaria explicó que son lineamientos que buscan orientar políticas públicas, regulaciones e instrumentos institucionales. Que se relacionan con la adopción de esta tecnología, donde una de las bases principales es ampliar los derechos y no reducirlos.
Además la iniciativa incluye consideraciones sobre sostenibilidad, soberanía a nivel digital y educación. Por esto, se plantea evaluar el impacto social, territorial y ambiental, esto ante de la implementación de estas plataformas, para fortalecer las capacidades a nivel educativo.
Una IA más consistente con los Principios de Chapultepec de México
Otros de los puntos clave de los Principios de Chapultepec de México, tiene que ver con que los sistemas automatizados deberán evitar reproducir prejuicios sociales. Ya que con esto, es posible generar nuevas formas de exclusión, que pueden afectar el derecho a la información.
Esta declaración justifica que los avances en materia tecnológica, no son imparciales a nivel social y tienen impactos directos en la vida pública. Algo que, se escala hasta el ejercicio de los derechos fundamentales, por esto es importante garantizar la gestión del factor humano.
Es decir, las plataformas tecnológicas no pueden operar sin marcos regulatorios, que definan quién las diseña, supervisa y es responsable por sus efectos. En este sentido, la rendición de cuentas se plantea como un elemento estratégico dentro de las dependencias del gobierno.
También se propone una gobernanza colectiva de la IA, donde las decisiones sobre su uso y desarrollo no deben tomarse de forma aislada o técnica. Ya que la participación de la propia ciudadanía es necesaria, además de la academia, sector productivo y otras organizaciones.
Se debe tener en cuenta, que el marco ético que proponen los Principios de Chapultepec en México también fija límites a la automatización de decisiones. Sobre todo aquellas que no se puedan explicar de manera razonable, en este momento debe intervenir el criterio humano.
De acuerdo con la funcionaría, si una decisión no puede ser comprendida o reconstruida por las personas afectadas, no debe automatizarse. Finalmente, dicho criterio se aplicaría en las políticas públicas e investigaciones científicas, así como en la producción del conocimiento.
Por: Francisco Vicario/Notipress