¿El uso intensivo de la IA agrava el perfilamiento racial, como dijo Francia Márquez en Nueva York? La respuesta de ChatGPT

La vicepresidenta, Francia Márquez, habló en Nueva York (Estados Unidos) de cómo la inteligencia artificial puede agravar el perfilamiento racial.

Durante su intervención en el Cuarto Período de Sesiones del Foro Permanente sobre los Afrodescendientes, en la sede de las Naciones Unidas, en Nueva York, la vicepresidenta de la República, Francia Elena Márquez Mina, reiteró el llamado a la comunidad internacional a actuar con decisión frente al racismo estructural, la exclusión histórica y la invisibilización de los pueblos afrodescendientes en el sistema global.

Márquez denunció que aún persisten formas estructurales de racismo, incluso dentro del sistema multilateral. “En la COP16 aprendí que el reconocimiento de pueblos afrodescendientes no era un lenguaje acordado. Esto es evidencia del racismo en el sistema general de Naciones Unidas. Porque no somos un lenguaje a acordar: existimos como pueblos”, enfatizó.

Márquez también dijo que el “uso intensivo de la inteligencia artificial agrava el perfilamiento racial”, desatando la polémica. Incluso así la criticó la congresista María Fernanda Cabal.

Este año, el tema de la sesión fue “África y los afrodescendientes: unidos por la justicia reparadora en la era de la IA”.

¿Qué dice ChatGPT?

ChatGPT, precisamente un sistema de inteligencia artificial, respondió si es real o no que el uso excesivo de IA fomente el “perfilamiento racial”.

Sí, el uso intensivo de la inteligencia artificial (IA) puede agravar el perfilamiento racial, y lo que dijo la vicepresidenta Francia Márquez tiene fundamento. Este riesgo se debe principalmente a tres factores clave:

1. Datos sesgados

Los sistemas de IA aprenden de datos históricos. Si esos datos contienen prejuicios raciales —por ejemplo, en registros policiales, decisiones judiciales, o evaluaciones de crédito—, la IA puede aprender y reproducir esos mismos sesgos.

Ejemplo: Un sistema de reconocimiento facial entrenado con bases de datos que tienen una mayoría de rostros blancos tiende a cometer más errores con personas negras o indígenas. Esto ya se ha demostrado en estudios académicos y pruebas prácticas.

2. Falta de contexto cultural

La IA no “entiende” el contexto social, cultural o histórico detrás de los datos. Así que puede hacer asociaciones peligrosas si no se regula adecuadamente.

Ejemplo: Algoritmos de predicción del crimen pueden asociar ciertos barrios con delincuencia simplemente porque históricamente fueron más patrullados, no porque haya más crímenes en realidad.

3. Falta de supervisión Humana y Regulación

Muchas decisiones automatizadas se están implementando sin la supervisión adecuada ni regulaciones claras que protejan a comunidades vulnerables.

Ejemplo: Un algoritmo usado en procesos de selección de personal podría excluir automáticamente a candidatos de ciertos grupos raciales si se entrena con datos de contrataciones previas sesgadas.

No se trata de que la IA sea racista por sí misma, sino de que puede amplificar patrones racistas existentes si no se diseña, supervisa y regula de forma ética y justa.

Otros apartados de su intervención

Ante delegaciones oficiales, representantes de organismos multilaterales y sociedad civil de diversas regiones del mundo, la vicepresidenta señaló: “Colombia es uno de los países más desiguales e inequitativos de América Latina. Por eso, creamos el Ministerio de Igualdad y Equidad, para garantizar los derechos de las poblaciones históricamente excluidas y marginadas”. Márquez se refirió al avance en la reglamentación de la Ley 70 de 1993, asegurando que “después de 31 años reglamentamos los capítulos sobre recursos naturales y mineros. Además, expedimos el Decreto 0129 de 2024 sobre ampliación y saneamiento de los territorios colectivos de comunidades negras”.

Asimismo, destacó la creación de la Comisión Intersectorial Nacional de Reparación Histórica, que avanza en la formulación de un programa que aborde los daños y las consecuencias causadas por el colonialismo, la esclavización y el racismo sistemático. “Adicionalmente, estamos construyendo la política pública para la erradicación del racismo y la discriminación racial”, complementó.

En su intervención ante el Foro, Márquez Mina dio cuenta de la adopción, por parte de Naciones Unida,s de la resolución que proclama el 25 de julio como Día Internacional de las Mujeres y Niñas Afrodescendientes: “Esta es una victoria colectiva que nace de las luchas históricas de nuestras hermanas afrolatinas y caribeñas”.