Colombia está ad portas de tener su primera ley para regular la inteligencia artificial (IA), en un momento clave para su transformación digital. El Ministerio de Ciencia, Tecnología e Innovación lidera esta iniciativa junto al Congreso, buscando asegurar que la IA se utilice sin comprometer los derechos fundamentales.

“La inteligencia artificial debe ser una herramienta al servicio del conocimiento, la equidad y la transformación productiva del país”, señaló la ministra Yesenia Olaya. El proyecto, radicado el 7 de mayo, busca alinear la IA con áreas estratégicas como la bioeconomía, la transición energética y la soberanía sanitaria. Sin embargo, Olaya resaltó que el objetivo es más amplio: “MinCiencias no solo tramita una ley, sino que lidera una estrategia de gobernanza anticipatoria”.

Un aspecto clave del proyecto es la clasificación de los sistemas de IA según su nivel de riesgo, lo que permitirá aplicar regulaciones más estrictas en sectores críticos como la salud y la justicia. La propuesta también promueve principios como la explicabilidad, la trazabilidad y la inclusión. “La IA no puede ser una caja negra incontrolable. Debe ser comprensible, auditable y al servicio del bienestar común”, concluyó Olaya.

Regular la inteligencia artificial (IA) es un reto técnico y legislativo. Para el senador Pedro Flórez, presidente de la Comisión Sexta, la multiplicidad de proyectos sobre IA puede generar duplicidades sin una coordinación adecuada. Para ello, lideró la creación de la Comisión Accidental de Inteligencia Artificial en el Senado, que ha trabajado con aportes de la academia, sociedad civil, sector tecnológico y expertos internacionales, tomando como modelo el enfoque europeo.

Gracias a este esfuerzo, se radicó el Proyecto de Ley 091 de 2023, que unifica iniciativas previas y articula al Ejecutivo y Legislativo. Flórez celebró que este trabajo haya dado como resultado un marco regulatorio que fomente el desarrollo ético y el uso responsable de la IA en Colombia: “Hoy podemos celebrar que el trabajo realizado desde esta Comisión Accidental ha empezado a ver los resultados de ese diálogo continuo”.

El proyecto propone aplicar principios éticos en sectores clave como salud, educación y justicia, y plantea medidas como la actualización trimestral del marco ético, capacitación continua, y la creación de entornos de prueba regulada para nuevas aplicaciones. También promueve incentivos para fortalecer la innovación nacional.

La ministra Yesenia Olaya resaltó el enfoque inclusivo de la propuesta: “Esta ley está pensada para todos los emprendimientos, desde la economía popular y comunitaria hasta las mipymes y startups tecnológicas”.

Sin embargo, destacó que uno de los mayores retos es proteger los datos personales: “El mayor reto es asegurar que el avance de la inteligencia artificial no se traduzca en retrocesos para los derechos fundamentales”. Para ello, el proyecto incorpora control humano en decisiones automatizadas y salvaguardas por nivel de riesgo.

La IA tiene un potencial amplio, desde mejorar las cadenas agroindustriales hasta fortalecer políticas públicas. “Esperamos continuar consolidando el consenso nacional alrededor de esta iniciativa”, advirtió Olaya, y por eso la importancia de buscar una regulación que impulse la innovación sin perder de vista la equidad.

La senadora Sandra Ramírez, ponente del proyecto, subrayó que se basa en principios de transparencia, seguridad y equidad: “Este proyecto busca promover el uso responsable de la inteligencia artificial y proteger los derechos de los ciudadanos”. En este marco, destacó el deber de informar sobre el uso de los sistemas de IA: “Tenemos derecho a saber cómo se usan nuestros datos, quién los usa y para qué. Esa es una de las claves para garantizar la confianza ciudadana”.

El proyecto se articula con el Conpes 4144, la primera política pública sobre IA en Colombia. “Estamos construyendo una regulación que sea inclusiva, que tenga en cuenta a los territorios y respete la diversidad”, precisó Ramírez. El objetivo es que la IA sirva a la sociedad, no que la gobierne.

El impacto ambiental del uso de modelos de inteligencia artificial como GPT-4 depende de diferentes variables, que incluyen la distancia desde donde se consulta y donde reposan los servidores, la complejidad de la consulta y la cantidad de tráfico. Aquí algunos referentes basados en los estudios disponibles más recientes.

Una consulta básica en Chat GPT, como la generación de un texto de 100 palabras consume:

Los modelos de IA como ChatGPT necesitan un primer gran entrenamiento de su algoritmo. En esta etapa se alimentan sus sistemas con grandes cantidades de datos (por ejemplo, libros, artículos, sitios web y otros textos disponibles públicamente) para que sea capaz de generar respuestas coherentes, útiles y seguras en una amplia variedad de contextos sin haber memorizado datos específicos.

Sin embargo, hay algunos que piensan que el debate avanza sin una coordinación clara entre sectores, lo que podría derivar en un marco legal incoherente. Así lo advirtió Juan Diego Castañeda, codirector de la Fundación Karisma: “Hay varias listas de principios, distintas prohibiciones. Esto hace que el potencial marco jurídico de la IA pueda ser incoherente”. Por eso la propuesta de que el proyecto liderado por el Ministerio de Ciencia sea el eje del debate, con un enfoque integral y técnico, aunque todavía no supera el trámite legislativo.

Castañeda insistió en que el respeto a los derechos humanos debe guiar el desarrollo de estas tecnologías, especialmente frente al uso de sistemas biométricos. “Es necesario que haya instituciones fuertes con una cultura de observación del principio de legalidad”, afirmó.

También cuestionó que el país solo consuma tecnologías externas: “Si el rol de Colombia en la IA es el de ser un usuario más […] la regulación […] se hace sin entender qué se necesita de ella para nuestro contexto”.

Una regulación robusta, dijo, requiere participación ciudadana y transparencia en los usos de la IA. “Solo así se podrá evaluar con mayor rigor su impacto”, aseguró recordando riesgos como la discriminación o la precarización laboral en el entrenamiento de algoritmos.

David Luna, exministro TIC, coincidió en que Colombia necesita una regulación propia. “La industria de IA en Colombia apenas está arrancando, y si la llenamos de regulaciones copiadas de Europa […] lo que vamos a hacer es ahogarla antes de que crezca”. Por eso, propuso impulsar la innovación sin dejar de proteger los derechos fundamentales.

Para Luna, el talento humano debe ser prioridad. “Con franqueza: no estamos preparados. […] Y esa debe ser la prioridad”, afirmó, citando datos del Foro Económico Mundial que prevén una reconversión laboral masiva.

También advirtió que “el verdadero riesgo no está en legislar tarde, sino en legislar mal”. Aseguró que el país debe evitar normas precipitadas y enfocarse en comprender los riesgos y oportunidades reales de la IA.

En Colombia, la academia también ha jugado un papel crucial en el debate sobre la regulación de la IA. Juan David Gutiérrez, profesor de la Universidad de los Andes, advirtió que “la inteligencia artificial puede tener efectos muy positivos, pero también generar situaciones de riesgo, particularmente de vulneración de derechos fundamentales”.

A su juicio, la regulación es solo el primer paso; pues también es necesario desarrollar competencias digitales y pensamiento crítico, además de asegurar el acceso a internet y sistemas interoperables para que los colombianos puedan aprovechar la IA de manera adecuada.

Sandra Ortiz, de la Universidad Externado, resaltó la importancia de un trabajo conjunto entre academia, Estado, empresas y sociedad civil. “La regulación debe estar orientada a garantizar derechos como la individualidad, la no discriminación y la transparencia algorítmica”, señaló.

También destacó el Conpes 4144, pero subrayó la falta de coordinación legislativa y la necesidad de avances reales. “No basta con legislar; sin condiciones adecuadas, la IA no será implementada de manera justa”, señaló.

Erick Rincón, de la Universidad del Rosario, enfatizó en la necesidad de un enfoque multidimensional en el proyecto legislativo. “Este proyecto requiere equilibrar innovación con protección”, aseguró, llamando a crear entes independientes y espacios de participación ciudadana para garantizar que se protejan los derechos fundamentales, como la privacidad y la no discriminación.

Carolina Sánchez Vásquez, profesora de EAFIT, señaló los efectos de la IA en derechos fundamentales como el trabajo, la educación y el debido proceso. En su opinión, la regulación debe ser un esfuerzo global y nacional, con una política participativa que involucre a múltiples actores, especialmente a la academia.

Por eso su propuesta es que el “control humano” sea reconocido como un derecho fundamental, lo que permitiría mecanismos jurídicos como la tutela para garantizar su cumplimiento.

La IA está aquí para quedarse. La pregunta ya no es si debe regularse, sino cómo hacerlo con justicia y visión de futuro. Colombia apenas comienza este camino.