El proyecto de ley pretende fomentar la innovación en inteligencia artificial (IA) sin descuidar la ética mediante varias estrategias clave, que buscan un equilibrio entre la promoción del desarrollo tecnológico y la protección de los derechos y valores fundamentales:
- Diseño de un marco regulatorio equilibrado: La ley establece regulaciones que protejan los derechos y la seguridad de las personas pero que, al mismo tiempo, no inhiban la innovación. De esta forma, se busca generar confianza pública en la IA y fomentar la inversión y el desarrollo en el sector
- Implementación de sandboxes regulatorios: Se promueve la creación de entornos controlados donde se puedan experimentar nuevas tecnologías de IA de manera segura. Estos sandboxes permiten el perfeccionamiento y la validación de innovaciones en IA, asegurando a la vez que la regulación evolucione con los avances tecnológicos
- Incentivos para la innovación ética: El proyecto contempla ofrecer incentivos a empresas y organizaciones que desarrollen tecnologías de IA de manera ética y responsable. Estos incentivos pueden incluir subvenciones, créditos fiscales y reconocimiento público, impulsando un desarrollo innovador que también sea social y ambientalmente responsable
- Alineación con principios internacionales de ética en IA: La ley se fundamenta en los principios de la OCDE y las directrices de la UNESCO, que establecen la necesidad de transparencia, responsabilidad, inclusión, diversidad, seguridad y justicia en el desarrollo de la IA. Así, la innovación se enmarca dentro de un compromiso con el bienestar social y la sostenibilidad
- Promoción de la colaboración interdisciplinaria e internacional: Para fomentar innovación de calidad y conforme a altos estándares éticos, la ley promueve la cooperación entre diversos sectores, instituciones y países, facilitando un desarrollo responsable y competitivo de la IA
- Protección y promoción de derechos fundamentales: La regulación asegura que el desarrollo de la IA respete la privacidad, la no discriminación, la justicia y los derechos laborales, creando un ecosistema donde la innovación no se dé a costa de vulnerar derechos humanos o generar desigualdades
Las principales obligaciones que impone la ley a las instituciones en relación con la inteligencia artificial (IA) en Colombia son las siguientes:
- Garantizar un desarrollo ético y responsable de la IA: Las instituciones deben asegurar que los sistemas de IA se diseñen y operen de manera ética, promoviendo el bienestar social y minimizando los riesgos, conforme a los principios de la OCDE y directrices de la UNESCO, que incluyen transparencia, explicabilidad, inclusión, seguridad, protección de derechos humanos y justicia social
- Proteger los derechos fundamentales y la seguridad de las personas: Las entidades deben velar por la protección de la privacidad, la no discriminación, la equidad y la protección de datos personales, asegurando que los sistemas de IA cumplan con normativas como la Ley 1266 de 2008 (Habeas Data), Decreto 1377 de 2013 y la Ley 1712 de 2024 sobre transparencia y acceso a la información pública
- Promover la inclusión y accesibilidad: Las instituciones tienen la obligación de fomentar que las tecnologías de IA sean accesibles para todas las comunidades, incluyendo las más vulnerables y marginadas, y de apoyar programas de capacitación y formación para reducir desigualdades y fomentar la inclusión social, garantizando un enfoque que también atienda a personas con discapacidades, minorías étnicas y otros grupos.
- Asegurar transparencia y explicabilidad de los sistemas de IA: Las entidades deben establecer mecanismos para que los algoritmos y sistemas de IA sean transparentes, auditables y comprensibles, para garantizar la rendición de cuentas y la responsabilidad.
- Fomentar la innovación y la competitividad: A través del apoyo interdisciplinario, interinstitucional e internacional, las instituciones deben impulsar la innovación en IA, asegurando un desarrollo competitivo y sostenible que contribuya al progreso económico y social del país.
- Incorporar medidas de seguridad y ciberseguridad: Deben garantizar que los sistemas de IA sean robustos, seguros y resistentes a ataques, conforme a estándares que protejan la integridad de los datos y eviten fallos o manipulaciones.
- Vigilar el impacto económico y social: Las instituciones deben evaluar y gestionar el impacto económico y social de la IA para maximizar beneficios como el aumento de productividad, mejora en sectores como salud y educación, y mitigar riesgos asociados, conforme a los objetivos de la ley
- Cumplir con la normativa laboral y de derechos humanos: Se debe respetar la legislación laboral vigente y garantizar condiciones dignas, libres y justas en el trabajo, considerando los efectos de la IA en el empleo y la sociedad.
Estas obligaciones reflejan el enfoque integral de la ley para asegurar que la inteligencia artificial se desarrolle y utilice en Colombia de manera ética, responsable, inclusiva y sostenible, alineándose con principios internacionales y normativas nacionales.
Algunas especificidades:
Salud
- La IA mejora la atención médica con diagnósticos precisos y tratamientos personalizados.
- Se usa para predecir brotes de enfermedades y optimizar el uso de equipos médicos.
Educación
La IA personaliza la enseñanza, adaptando contenidos a estudiantes.
- Es relevante en zonas rurales con acceso limitado a recursos educativos.
Agricultura
- La IA optimiza cultivos, predice plagas y gestiona eficientemente el agua.
- Estas tecnologías aumentan la productividad agrícola y garantizan la seguridad alimentaria.
Seguridad y justicia
- La IA mejora la vigilancia y prevención del delito mediante análisis predictivos.
- Contribuye a la eficiencia judicial automatizando procesos y mejorando la gestión de casos.
Desarrollo ético y responsable
- El desarrollo de la IA debe alinearse con principios éticos y de sostenibilidad.
- La OCDE y la UNESCO resaltan la protección de derechos humanos y la justicia social.
Principios de la OCDE
- La IA debe ser inclusiva, sostenible y promover el bienestar.
- Incluyen transparencia, responsabilidad, inclusión, seguridad y justicia.
Directrices de la UNESCO
- Enfatizan un enfoque centrado en el ser humano, protegiendo la privacidad y promoviendo la diversidad cultural.
- Destacan considerar impactos sociales y ambientales e implementar rendición de cuentas.
Hoja de ruta de Inteligencia Artificial del Ministerio de Ciencia, Tecnología e Innovación
- Refiere la importancia de garantizar la adopción ética y sostenible de la IA en Colombia.
- La adopción tecnológica busca mejorar la calidad de vida y la productividad.
Adopción tecnológica
- En el gobierno, facilita el acceso a recursos y mejora la eficiencia de servicios.
- En las empresas, favorece la eficiencia, el ahorro y la productividad.
- A nivel social, facilita el acceso a la información y agiliza el aprendizaje.
Adopción de la IA por el Gobierno
- Implica la incorporación de sistemas de IA en operaciones y políticas.
- La participación pública es crucial para la formulación de políticas en el ámbito de la IA.
Desde el punto de vista de las organizaciones
- La adopción de IA transforma las redes de cadena de suministro y la gestión operativa.
- La IA optimiza operaciones internas y automatiza procesos comerciales.
Ética en la Inteligencia Artificial
- Se refiere a principios morales que guían el diseño de sistemas de IA.
- Busca mitigar sesgos cognitivos para evitar resultados injustos y discriminación.
Principios fundamentales para la ética de la IA
- Respeto a las personas: reconoce la autonomía y el consentimiento informado.
- Beneficencia: los algoritmos no deben causar daño y deben mejorar el sistema.
- Justicia: busca la imparcialidad y equidad en el uso de la IA.
Sostenibilidad en la Inteligencia Artificial
- Asegura las necesidades presentes sin comprometer a las futuras generaciones.
- Implica sostenibilidad ambiental, económica y social.
Necesidad de regulación
- La falta de regulación puede llevar a abusos y violaciones de derechos.
- La regulación debe proteger la privacidad, evitar la discriminación y garantizar la seguridad.
Protección de derechos fundamentales
- Privacidad y protección de datos: Establecer normas claras para la protección de datos personales.
- No discriminación y equidad: Garantizar que la IA no perpetúe desigualdades existentes.
Garantía de seguridad
- Ciberseguridad: Los sistemas de IA deben incorporar medidas de ciberseguridad desde el diseño.
- Seguridad física: La seguridad física de las personas debe ser una prioridad en aplicaciones con interacción física.
Promoción de la innovación
- Sandboxes regulatorios: Permiten la experimentación controlada de nuevas tecnologías de IA.
- Incentivos para la innovación ética: Fomentar el desarrollo ético y responsable de la IA.
Defensa del derecho de autor
- Busca equilibrar la protección de derechos de autor con usos específicos para el progreso tecnológico.
- La aplicación de la regla de los tres pasos garantiza un equilibrio justo.
Agravación del tipo penal de falsedad personal mediante el uso de Inteligencia Artificial
- Busca adaptar el marco legal y proteger derechos individuales en el entorno digital.
- La falsedad personal mediante IA amenaza la integridad y la confianza en los sistemas digitales.
- La simulación de identidades puede usarse para cometer fraudes y dañar la reputación.
Europol y ONU sobre el uso malicioso de la IA
- EUROPOL evidencia el uso de sistemas de IA generativa para facilitar delitos.
- La ONU advierte que la evolución de la tecnología dificulta la diferenciación entre contenido artificial y auténtico.
Consideraciones de la Corte Constitucional sobre la imagen
- La sentencia T-634-13 definió el derecho a la propia imagen, que abarca la necesidad de consentimiento y la protección de la individualidad.
- A la fecha, no existen iniciativas legislativas para regular la suplantación de identidad o falsedad personal mediante la IA.
Capacitación y armonización laboral en el uso de la Inteligencia Artificial
- Busca proteger los derechos de los trabajadores y asegurar la correcta utilización de la IA.
- Promueve la armonía entre los avances tecnológicos y el ejercicio de las labores.
Instituto de Ciencia Política Hernán Echavarría Olózaga sobre la IA
- La IA es una tecnología fundamental para desarrollar sistemas y soluciones con consecuencias económicas y sociales.
- La IA ha penetrado en la mayoría de las industrias, incluyendo la manufactura, la salud y la agricultura.
Justificación de la Iniciativa Legislativa
- Regular la IA en el derecho laboral, para proteger los derechos y la estabilidad laboral de los trabajadores.
- No obstaculizar el avance tecnológico de las empresas colombianas, promoviendo el crecimiento económico.
Normativa Constitucional
- Artículo 13: Igualdad ante la ley y protección especial a personas en debilidad manifiesta.
- Artículo 15: Derecho a la intimidad personal y familiar y a su buen nombre.
- Artículo 25: El trabajo es un derecho y una obligación social, con especial protección del Estado.
Normativa Constitucional (Cont.)
- Artículo 26: Libertad de escoger profesión u oficio
- Artículo 27: El Estado garantiza las libertades de enseñanza, aprendizaje e investigación
- Artículo 38: Se garantiza el derecho de libre asociación
Normativa Constitucional (Cont.)
- Artículo 39: Derecho de los trabajadores y empleadores a constituir sindicatos
- Artículo 67: La educación es un derecho y un servicio público que busca el acceso al conocimiento
- Artículo 71: La búsqueda del conocimiento y la expresión artística son libres
Normativa Constitucional (Cont.)
- Artículo 334: La dirección general de la economía estará a cargo del Estado
- El gasto público social será prioritario
Normativa Legal
- El Código Sustantivo del Trabajo regula la actividad humana libre y consciente al servicio de otra
- El trabajo es socialmente obligatorio y goza de la protección del Estado
Leyes que establecen un marco para la IA en Colombia
- Ley 1581 de 2012: Protección de Datos Personales
- Ley 1266 de 2008: Habeas Data
Normativas y Leyes Internacionales
- Política de Inteligencia Artificial de la OCDE: Promueve el uso ético y responsable de la IA
- Reglamentos de la Unión Europea: El GDPR establece normas sobre la protección de datos personales
- Ley de Inteligencia Artificial de la UE: Define un marco regulatorio específico para la IA basado en la evaluación del riesgo
Objetivos de la Ley
- Objetivo general: Garantizar el desarrollo ético y responsable de la IA en Colombia
- Objetivos específicos: Proteger los derechos fundamentales, fomentar la innovación y asegurar la transparencia
Análisis de Impacto: Impacto Social
- Mejora la calidad de vida: Promueve el bienestar social a través de diagnósticos precisos y aprendizaje personalizado
- Reduce desigualdades: Garantiza el acceso a tecnologías de IA para todas las comunidades, incluyendo las más vulnerables
- Fomenta la inclusión social: Promueve la participación activa de diversos grupos en la economía digital
Impacto Económico
- Aumento de la productividad: La IA automatiza procesos y optimiza el uso de recursos en diversos sectores
- Competitividad de la economía colombiana: Fomenta la innovación y el desarrollo tecnológico, posicionando a Colombia como líder en IA
- Generación de empleo de alta calidad: Incentiva la capacitación y la educación en habilidades relacionadas con la IA
Impacto Ambiental
- Desarrollo sostenible de la IA: Asegura que el desarrollo y uso de la IA sean sostenibles y no perjudiquen el medio ambiente
- Mitigación del cambio climático: Proporciona herramientas para el monitoreo y gestión de emisiones
- Protección de la biodiversidad: Ayuda a monitorear y proteger especies en peligro, previniendo la deforestación
Marco Normativo: Referencias Internacionales
- Ley de Inteligencia Artificial de la Unión Europea: Establece estrictos requisitos para garantizar seguridad y transparencia
- Proyecto de Ley de Inteligencia Artificial de Chile: Adopta un enfoque basado en riesgos alineado con marcos internacionales
- Principios de la OCDE: Destacan la importancia de la IA inclusiva y responsable, el respeto por los derechos humanos y la justicia social
- Directrices de la UNESCO: Abogan por la transparencia, la no discriminación y la protección de la privacidad
