En América Latina se ha promocionado la inteligencia artificial (IA) con una narrativa de desarrollo económico y social. Sin embargo, la omisión de un diálogo articulado entre las entidades del Estado y con las organizaciones de la sociedad civil dibuja una compleja cartografía de preocupaciones éticas, metodológicas y hasta epistemológicas en relación con la regulación de la IA en los países de la región.

En esta coyuntura crítica, el consorcio AlSur —integrado por organizaciones de sociedad civil y academia de América Latina— busca fortalecer los derechos humanos en el entorno digital de la región. Con tal motivo, produjo un documento sobre los escenarios de regulación en Brasil, Perú, Colombia y México, en el que plantea que los escenarios de regulación de estos países son ejemplos de una reactividad legislativa sin un marco legal integral, así como un desconocimiento de la realidad material y de las necesidades particulares de cada país. «La regulación —señala— no solo se trata de tema técnico, sino de una serie de prácticas sociales y legislativas que afectan la vida de las personas».

En Brasil, la influencia de la legislación internacional planteó la inclusión inicial de un capítulo sobre «La garantía de los derechos de las personas afectadas por los sistemas de inteligencia artificial». Posteriormente, debido a la acción ejecutiva se transformó en un vago capítulo sobre «La protección de la especie humana y la protección de datos». Lo anterior, es un ejemplo de casos en los que las regulaciones se adaptan a las necesidades de proyectos tecnosolucionistas e intereses que parecieran opacar la relación entre IA y derechos humanos, más que demarcar los límites y establecer garantías para las personas que se ven impactadas por su uso e implementación.

En los casos de Perú, México y Colombia, la participación efectiva de la sociedad civil en la  construcción de los marcos legales de la IA ha sido nula, generando una constante desconfianza sobre la garantía de los derechos humanos. Por ejemplo, ¿dónde quedan los contextos de vigilancia masiva y racismo algorítmico? ¿Por qué no se regulan los casos específicos en los que la IA afecta la garantía de derechos y por el contrario regulan sobre un espectro amplio de riesgos?

En el caso de Perú, se han creado distintas instituciones para promover el aprovechamiento ético de tecnologías, incluida la inteligencia artificial, pero se ha dejado de lado el análisis de los riesgos relacionados al uso de la IA y cómo el Estado debería hacerles frente. Además, la participación efectiva de la sociedad civil ha quedado en un espacio marginal en la construcción de las iniciativas legislativas.

En Colombia, si bien hay marcos éticos, mecanismos de regulación y «la hoja de ruta para garantizar la adopción ética y sostenible de la inteligencia artificial», la interlocución entre normativas ya existentes como la ley de protección de datos personales o la legislación en derechos de autor es inexistente. Además, se da la espalda a casos específicos de vulneración de derechos como es el caso de los sistemas para clasificar potenciales beneficiarios de programas sociales. En ese sentido, hay una constante preocupación por la falta de garantía de derechos inmediatos.

Por la misma línea, México tiene una regulación genérica de la IA que asimismo busca replicar el modelo de riesgos de la Ley de Inteligencia Artificial de la Unión Europea. Lo cual, pone en entredicho los derechos humanos. Ya que, se centra en riesgos que aún no existen y quita la mirada de temas específicos como la vigilancia biométrica masiva bajo premisas de «seguridad nacional».

Similar al caso de Colombia, un marco efectivo para la regulación de sistemas automatizados o inteligencia artificial debe fundamentarse en un diagnóstico del marco jurídico que ya regula indirectamente esta tecnología. Por ejemplo, no se ha realizado un análisis de cómo la inteligencia artificial ya está parcialmente regulada por la legislación en materia de privacidad, protección de datos personales, procedimientos, consumo, competencia económica, propiedad intelectual y derechos de autor.

De manera que, una de las principales preocupaciones consiste en conciliar un enfoque con base en los distintos niveles de riesgo y un modelo regulador sostenido en derechos humanos. Lo anterior, para desviar la atención a la protección de las personas, quienes son las afectadas, impactadas y clasificadas por estos sistemas, y no a las máquinas o los algoritmos. Si bien la legislación global sobre IA se desarrolla en un contexto de competencia y disputa entre empresas de unos pocos países, la sociedad civil no es un observador pasivo. Por ejemplo, en Brasil las acciones de las organizaciones de la sociedad civil frente al racismo algorítmico marcan una ruta de acción alternativa a las iniciativas legislativas.

Además de hacer un recorrido por las distintas formas de regulación de la IA en México, Brasil, Perú y Colombia, los textos del documento apuntan a varios temas comunes, como la necesidad de usar los marcos legales existentes, evitar la copia de modelos regulatorios extraños para el contexto local y la necesidad de desarrollar procesos participativos y garantistas de derechos para crear regulaciones adecuadas y pertinentes. a IA puede afectar profundamente las relaciones sociales y políticas que ya desfavorecen a las personas por su origen, género, raza y disponibilidad de recursos económicos. La adopción masiva de la IA requiere de debates y regulaciones responsables con los riesgos de esa adopción.

Esta publicación ha sido preparada por las organizaciones de AlSur Derechos Digitales, Fundación Karisma, IDEC, Coding Rights, Hiperderecho y R3D, como parte de una reflexión e intercambios internos en el marco del consorcio. «Sabemos que éste es apenas un punto de inicio y que la carrera regulatoria con respecto a las IA todavía tendrá un largo camino por recorrer. Nuestro interés principal es aportar desde nuestra perspectiva, un análisis crítico que pueda ser aprovechado por tomadores de decisión, organizaciones de sociedad civil y activistas, para que los debates en torno a las IA tengan como base los derechos humanos y las necesidades específicas de los países de nuestra región».

Descargar el documento