LA INTELIGENCIA ARTIFICIAL: Un desarrollo normativo a futuro.
Por: Prof. John Jairo Morales Alzate – LLM1
1. Introducción
Algunos autores dan inicio a la inteligencia artificial (En adelante IA) como
disciplina en los 50´s, con el denominado ¨Test de Turing¨, que consistió en
evaluar la capacidad de una máquina para comportarse de forma similar a un
humano – Comunicación verbal hombre – máquina, evaluando esta última la
capacidad de hacerse pasar por humano 2-, a su vez se inicia con el concepto
de algoritmo y se establecen las bases de la informática por parte del científico
Alan Turing.
De la misma manera, el científico John McCarthy llamado el padre de la IA, en
al auditorio de la Universidad de Dartmouth da paso a la terminología de la
INTELIGENCIA ARTIFICIAL, definiéndola como una ciencia e ingeniería de
fabricar máquinas inteligentes, planteando unos fines, que a su vez dan base
a las futuras investigaciones, indico:
“Este estudio procederá sobre la base de que todos los aspectos del
aprendizaje o de rasgo de la inteligencia pueden, en principio, ser descritos de
una forma tan precisa que se puede crear una máquina que los simule”. 3
(SFT).
1
Abogado, especialista en Derecho Administrativo y Comercial – Universidad Santo Tomas de Bogotá,
Especialista en Derecho Constitucional – Universidad de los Andes, Legum Magister – Universidad de Konstanz
– Alemania-, Profesor Universidades: La Gran Colombia, Postgrados: Libre, Cooperativa (Neiva), Sergio
Arboleda e invitado Universidad de Kiel – Alemania. Arbitro Lista A Cámara de Comercio Bogotá, Cartagena,
Manizales y Yopal, Ex Conjuez Sección Segunda H. Consejo de Estado, Ex Arbitro Obligatorio Sala Laboral Corte
Suprema de Justicia, investigador y autor de textos de derecho público, DDFF e interpretación. Miembro
Consultivo del Consejo de la Asociación Colombo Alemana de Juristas - Deutsch - Kolumbianische
Juristenvereinigung , y Vocal Principal de la Asociación Colombiana de Derecho Disciplinario.
2 Breve historia de la Inteligencia Artificial ([Link]). 2.10.23 H. 11:30 PM.
3 El verdadero padre de la inteligencia artificial | OpenMind ([Link]). 2/10/2023, H. 11:00 P.M.
1
Por consiguiente, podemos indicar que en este tiempo de los científicos
McCathy4 y Touring, se sientan los fundamentos y bases teóricas de la
disciplina IA, obviamente sin desconocer los aportes dados por otros
científicos p.e George Boole (1854) que señalo sobre: “… el razonamiento
lógico que podría sistematizarse de la misma manera que se resuelve un
sistema de ecuaciones .”, Karel Apek (1921) quien usa por primera vez el
término “robot”, Komrad Zuse (1941) crea el primer ordenador moderno
programable y automático – Z 3-, Marvin Minsky (1969) inicia con el análisis
de las redes neuronales artificiales, entre otros.
Por otra parte, tenemos los avances dados v. gr:
I. Auto autónomos denominado “Standford” en 1979,
II. Wabot – 2 (1980) “robot humanoide capaz de comunicarse con otra
persona, leer partitura musical y tocar melodías.”,
III. Deep Blue (1996), supercomputadora hecha por IBM, que vence al
ajedrecista ruso G. Kasparov,
IV. Eugene (2014), es un ordenador, que supera el Test de Turing de IA
verbal, suplantando a un joven de 13 años5.
En definitiva, la génesis de la cuarta (4ª) revolución digital (4RI), ha permitido
el incursionamiento de la hoy denominada inteligencia artificial, en la era
digital con tecnología de los circuitos cerrados y el inicio de los computadores
personales, para así dar paso en los 80`s con el progreso de lo análogo y
mecánico a la actual tecnología digital, representada en lo que denominan: “
… la miniaturización, la nanotecnología, la computación cuántica y las
telecomunicaciones … “ 6, exhibiéndose … adelantos trasformadores en
inteligencia artificial, machine learning, procesamiento masivo de datos,
robótica y biotecnología … “(Ibidem).
4 Es el llamado padre de la computación moderna, introduce el concepto de algoritmo y sienta las bases de la
informática.
5Breve historia de la Inteligencia Artificial ([Link]) 3.10.23, H. 12:05 A.M
6[Link] . 14.09.23 H. 5:
45 PM.
2
2. Contexto normativo e impacto de la IA, en la Libertad Económica y
otras esferas del Derecho.
En otro aspecto y teniendo en cuenta que hoy por hoy la legislación sobre la
materia es muy incipiente, a sabiendas de la constante evolución de la IA,
podemos sin embargo tener como referente básico normativo el concepto de:
“… libertad económica, empresa o de industria que se encuentra establecido
en la constitución en su artículo 333, constituyéndose así en el fundamento
jurídico de las garantías económicas y en suma del Estado social, democrático
de derecho, enmarcado en una economía social de mercado, que propugna
por la iniciativa privada y unas libertades orientadas al bonnus communitatio
o al moderno concepto de plenitud humana (John Finnisch) ambas con un
punto de equilibrio en su operabilidad”.7 Conceptos, que nos puede servir
para dejar sentado unas bases para la construcción de la legislación especial,
para la operabilidad de la IA, y su incidencia en los demás campos del derecho
ya sea público o privado – En el ámbito nacional, internacional, regional o
comunitario p.e: constitucional, administrativo, comercial, laboral,
económico, entre otros- , igualmente desarrollar un ecosistema de confianza
y seguridad jurídica para los sujetos activos y pasivos que usan la IA.
2.1. Análisis y generalidades del artículo 333 constitucional.
“La actividad económica y la iniciativa privada son libres, dentro de los límites
del bien común. Para su ejercicio, nadie podrá exigir permisos previos ni
requisitos, sin autorización de la ley. La libre competencia económica es un
derecho de todos que supone responsabilidades.
La empresa, como base del desarrollo, tiene una función social que implica
obligaciones. El Estado fortalecerá las organizaciones solidarias y estimulará el
desarrollo empresarial.
El Estado, por mandato de la ley, impedirá que se obstruya o se restrinja la
libertad económica y evitará o controlará cualquier abuso que personas o
empresas hagan de su posición dominante en el mercado nacional. La ley
7 Morales Alzate, John Jairo. (2017) Derecho Económico Constitucional. 7ª edición. Doctrina y ley. Bogotá.
3
delimitará el alcance de la libertad económica cuando así lo exijan el interés
social, el ambiente y el patrimonio cultural de la Nación.” (SFT).
Desde la perspectiva constitucional, la empresa, denominada también libertad
de iniciativa privada, es en sí una facultad amplia de desarrollar actividades
económicas destinadas a la oferta de bienes y servicios en general 8 -
Capacidad de emprender, además con aspecto instrumental que se traduce en
la organización, naturaleza jurídica-patrimonial y a su vez el contenido laboral
de la empresa – Tema que abordaremos posteriormente-.
En este orden de ideas, la norma superior indica de manera expresa el límite a
la operabilidad o ejercicio de esta libertad, señalando el interés general y la
responsabilidad social como frontera, en consecuencia, estos dan razón a la
intervención el Estado en la economía (Art. 334 CN), cuya finalidad es evitar la
afectación de los valores y principios constitucionales, sin menguar los núcleos
esenciales de este derecho9, en este sentido la Corte Constitucional ha
indicado:
“… que esa intervención será compatible con los preceptos que dispongan la
intervención del Estado en el mercado solo resultarán acordes con la Carta
Política cuando esta “i) necesariamente debe llevarse a cabo por ministerio
de la ley; ii) no puede afectar el núcleo esencial de la libertad de empresa; iii)
debe obedecer a motivos adecuados y suficientes que justifiquen la limitación
de la referida garantía; iv) debe obedecer al principio de solidaridad; y v) debe
responder a criterios de razonabilidad y proporcionalidad”10.
De los conceptos anteriores, podemos atrevernos a formular e iniciar con unas
líneas básicas, para una propuesta de investigación - legislativa sobre la IA,
empleando las iniciativas y propuestas de regulación comparada en su:
desarrollo, uso responsable y ético, amparando valores y principios
constitucionales y por ende los derechos fundamentales, donde prime la
noción de dignidad humana como principio estructural y en sí determinar que
este tipo de capacidades cognoscitivas e intelectuales dadas por los sistemas
informativos de algoritmos, cuyo propósito es la creación de maquinas que
8 C- 949 de 2001.
9 Morales, ibidem.
10 C- 228 de 2010.
4
imitan al ser humano en su inteligencia, para desarrollar actividades físicas y
recopilar información, deberán esta al servicio del hombre y no este doblegado
a la máquina.
Para concluir esta primera parte, me permito concluir con una destacada frase
de Francisco Morales Bermúdez, quien en su texto: “El problema científico.
Lógica, filosofía, planeamiento y desarrollo”, claramente nos dice como el
avance científico y tecnológico nos está mudando la manera de ver el mundo,
indico:
“La ciencia debe estar al servicio del hombre, considerándolo como sujeto
moral y no como objeto utilitario”.
2.2 Derecho comparado
2.2.1 España. Se expide la Ley 15 de 2022, cuyo objeto es referido a la igualdad
de trato y la no discriminación, el contenido frente a la IA, se refiere así:
• Promueve su aplicación en favor del desarrollo económico y social, a su
vez es considerada la primera regulación en el uso de la IA en entidades
públicas como privadas,
• Aborda la igualdad de trato y no discriminación en al ámbito de las IA y
mecanismos de toma de decisión automatizados (Art. 23),
Ámbito subjetivo de aplicación (Art. 2 N. 4, literal O), referido a las obligaciones
dadas en la ley 15 y su aplicación en el sector público y privado, en lo referido
a la IA y gestión masiva de datos, así como otras esferas de análoga
significación y,
• Promoción de una IA ética, confiable y respetuosa de los DDFF,
siguiendo las pautas de la Unión Europea (En adelante UE).
5
2.2.2 Unión Europea.
El Parlamento de la UE, proyecta una normativa integral para entrar en
vigencia próximamente, siendo así la primera a nivel mundial, pretende esta
ley garantizar que la IA desarrollada y utilizada en Europa no vulnere valores y
derechos fundamentales y es así como dicho reglamento (Artificial
Intelligence Act- ARI) establecerá los siguientes temas11:
(…)
I. “Obligaciones a los proveedores de herramientas basadas en IA,
como:
• Supervisión humana – aspecto de gran importancia, para el tema
laboral que abordaremos, frente a la reforma que se plantea en
Colombia.
• seguridad,
• privacidad,
• transparencia, en este ítem estarían las IA´s (Grupo 1 ) que no
representan gran amenaza para los ciudadanos y estarían sujetos a las
obligaciones generales de este principio.
• no discriminación
• bienestar social y,
• medioambiental.”
Estos límites, condicionados al riesgo que pueda presentar la herramienta,
estos grupos son:
1. Los que no representan amenaza, sometidos al concepto de transparencia,
2. Amenaza alta, aplicable al ámbito de los DDFF o para la seguridad, p.e:
evaluación de solvencia económica, calificación crediticia en el sistema
financiero, los medios de control usados por la policía en los procedimientos
de control, vigilancia o procesamientos de movimientos migratorio y,
3. Amenaza inaceptable, estos serían: los sistemas biométricos de vigilancia –
salvo la identificación biométrica en diferida ordenada por autoridad judicial-,
11La primera ley europea sobre inteligencia artificial se amplía para incluir a ChatGPT y entra en su recta final
| Economía nacional e internacional | Cinco Días ([Link]) 4.10.23, H. 12 20 PM.
6
los que afectan la seguridad ciudadana y de aquellos que buscan forjar una
escala de comportamiento del buen ciudadano.
En suma, se prohíbe de manera rotunda los sistemas susceptibles de interferir
en la esfera de la seguridad de los usuarios, como aquellos que clasifican a
partir del comportamiento o las características personales, incluso a los
intrusivos y discriminatorios – genero, edad, raza, nacionalidad, religión,
filosofía y condición económica.
II. Practicas prohibidas.
• “Los sistemas de identificación biométrica remota, en tiempo real o no,
en espacios públicos.
• Los sistemas de categorización biométrica que utilicen ciertas
características identitarias (por ejemplo, el género, la raza, la etnia, el
estatus de ciudadanía, la religión o la orientación política).
• Los sistemas policiales predictivos (basados en la elaboración de
perfiles, la ubicación o el historial delictivo).
• Los sistemas de reconocimiento de emociones por las fuerzas de
seguridad en la gestión de fronteras, los lugares de trabajo o las
instituciones de enseñanza.
• El rastreo indiscriminado de imágenes faciales sacadas de internet o de
circuitos cerrados de televisión para crear bases de datos de
reconocimiento facial (que violan el derecho a la intimidad).
• También se consideran de alto riesgo –y quedan, por tanto, prohibidos–
los sistemas que puedan influir de algún modo en los procesos
electorales.”.
(…)
III. “Límites a ChatGPT
El texto obliga a los proveedores de estos sistemas a registrar sus modelos en
la base de datos de la UE antes de comercializarlos. Además, los sistemas de
inteligencia artificial generativa, como ChatGPT, tendrán que cumplir unos
requisitos adicionales de transparencia, como informar explícitamente que su
contenido ha sido generado por IA.
7
Se pretende así distinguir, por ejemplo, las falsificaciones de las imágenes
auténticas. Igualmente deberán publicar resúmenes detallados de los datos
protegidos por derechos de autor que han sido utilizados para su desarrollo.
Para impulsar la innovación y apoyar a las pymes, la ley hace una excepción
con los proyectos de investigación y los componentes de IA suministrados
con licencias de código abierto. Promueve, además, los llamados «espacios
controlados de pruebas», entornos reales en los que las empresas pueden
probar la inteligencia artificial bajo la supervisión de las autoridades públicas
antes de salir al mercado.”
El texto también contempla la posibilidad de que los ciudadanos, puedan
presentar alegaciones si consideran que sus derechos se han visto vulnerados
por algún sistema de IA. En este sentido, se propone reformar la Oficina
Europea de Inteligencia Artificial, que se encargaría de supervisar la forma en
que se aplica el código normativo.”
[Link] Aspectos novedosos de la normativa europea.
• Espectro de aplicabilidad y concepto de IA,
• Principios estructurales de los sistemas,
• Regulación específica para modelos funcionales,
• Prohibiciones, concepto de riesgos y sus listados de sistema y
aplicaciones
• Obligación de informar fuente de IA,
• Régimen sancionador,
• Medidas de apoyo a la innovación,
• Nuevas funciones. Ej: Bing Chat – modelo funcional-, riesgo, espacio
controlado, entre otros.
• Tipificación de seis principios estructurales aplicables a todos los
sistemas de IA regulados en la norma: intervención y vigilancia
humanas; solidez y seguridad técnicas; privacidad y gobernanza de
datos;
• " Introduce la garantía de que las personas físicas responsables de la
supervisión humana de los sistemas de IA de alto riesgo sean
8
específicamente conscientes del riesgo de sesgo de automatización o
confirmación, y la obligación de proporcionar especificaciones para los
datos de entrada o cualquier otra información pertinente en cuanto a
los conjuntos de datos utilizados, incluida su limitación y supuestos,
teniendo en cuenta la finalidad prevista y el mal uso previsible y
razonablemente previsible del sistema.
• Requisitos específicos a los sistemas de IA generativa, como la
obligación de revelar que los contenidos han sido generados por IA,
diseñar el sistema de forma que impida generar contenidos ilegales y
publicar resúmenes de los datos protegidos por derechos de autor
utilizados para el entrenamiento.
• Promueve la investigación y el desarrollo de soluciones de IA que
apoyen resultados positivos para la sociedad y el medio ambiente, como
soluciones para aumentar la accesibilidad de las personas con
discapacidad; atajar las desigualdades socioeconómicas, y cumplir los
objetivos de sostenibilidad y medio ambiente. También se potencian el
ámbito y financiación de los espacios controlados de pruebas
o sandboxes.
• El régimen sancionador es objeto de cambios relevantes. Frente a los
iniciales tres niveles de sanciones, ahora se establecen cuatro. Las
sanciones más elevadas serán de hasta 40 millones de euros o,
tratándose de una empresa, de una cuantía equivalente al 7% como
máximo del volumen de negocio total anual global del ejercicio
financiero anterior, optándose por la de mayor cuantía, en caso de
incumplimiento del artículo 5 de la norma (sistemas de IA prohibidos).
• Por otra parte, se prevén multas intermedias de 20 millones de euros o
de hasta el 4% como máximo del volumen de negocio total anual global
del ejercicio financiero anterior, optándose por la de mayor cuantía, y
de hasta 10 millones de euros o de hasta el 2% como máximo del
volumen de negocio total anual global del ejercicio financiero anterior,
optándose por la de mayor cuantía, para el caso de incumplimiento del
sistema de IA o del modelo fundacional de las normas incluidas en los
artículos 5, 10 y 13.
9
• También es importante, dejar de presente que el texto propone que las
sanciones (incluidas las multas) tipificadas en la norma, así como las
costas procesales y las reclamaciones de indemnización asociadas, no
puedan estar sujetas a cláusulas contractuales u otras formas de
acuerdos de reparto de cargas entre proveedores y distribuidores,
importadores, implementadores o cualquier otro tercero.” (Ibidem).
[Link] Críticas al proyecto de regulación de UE.
• La amplia discrecionalidad a las empresas, para decidir si su sistema de
IA se considera de alto riesgo o no y así escapar de las principales
obligaciones del reglamento,
• Demasiada discreción para decidir el riesgo,
• Los principios de transparencia y equidad son solo voluntarios,
• No se prohíbe el reconocimiento de emociones, cuando se usa en las
personas consumidoras, lo que puede conducir a graves intrusiones en
la privacidad y afectar la capacidad de tomar decisiones autónomas.
2.3 Recomendaciones de la Organización para la Cooperación y el
Desarrollo Económico – OCDE.
La OCDE, como organismo internacional que asocia a 36 países, entre
ellos Colombia, tiene por misión la promoción de políticas de bienestar
económica y social, no ajena a esta tarea en 2019 adopto las primeras
directrices de políticas intergubernamentales sobre los sistemas IA, las
cuales podemos resumirlas en 5 grandes temas así:
“ (…)
1. La IA debe estar al servicio de las personas y del planeta,
impulsando un crecimiento inclusivo, el desarrollo sostenible y el
bienestar.
2. Los sistemas de IA deben diseñarse de manera que respeten el
Estado de derecho, los derechos humanos, los valores
democráticos y la diversidad, e incorporar salvaguardias
adecuadas —por ejemplo, permitiendo la intervención humana
10
cuando sea necesario— con miras a garantizar una sociedad justa
y equitativa.
3. Los sistemas de IA deben estar presididos por la transparencia y
una divulgación responsable a fin de garantizar que las personas
sepan cuándo están interactuando con ellos y puedan oponerse a
los resultados de esa interacción.
4. Los sistemas de IA han de funcionar con robustez, de manera
fiable y segura durante toda su vida útil, y los potenciales riesgos
deberán evaluarse y gestionarse en todo momento.
5. Las organizaciones y las personas que desarrollen, desplieguen o
gestionen sistemas de IA deberán responder de su correcto
funcionamiento en consonancia con los principios precedentes.
Principios que podemos resumir en: crecimiento inclusivo, desarrollo
sostenible y bienestar, al igual valores centrados en la persona y la equidad,
transparencia y explicabilidad, robustez, seguridad y protección, todos estos
conceptos enmarcados en la responsabilidad mirada desde toda perspectiva.
Por otra parte, la OCDE recomienda a los Estados miembros una serie de
políticas consistentes en:
1. “Facilitar una inversión pública y privada en investigación y
desarrollo que estimule la innovación,
2. Fomentar ecosistemas de IA accesibles con tecnologías e
infraestructura digitales, y mecanismos para el intercambio de datos
y conocimientos,
3. Desarrollar un entorno de políticas que allane el camino para el
despliegue de unos sistemas de IA confiables.
4. Capacitar a las personas con competencias de IA y apoyar a los
trabajadores con el fin de garantizar una transición equitativa.
5. Cooperar en la puesta en común de información entre países y
sectores, desarrollar estándares y asegurar una administración
responsable del sistema.”.
11
3. Caso Colombiano.
Colombia está avanzando en la adopción e implementación de tecnologías de
IA. El número de empresas colombianas que la utilizan para optimizar
procesos, reducir costos y ofrecer una mejor experiencia de usuario sigue
creciendo12. En 2022, el número de empresas que usan IA en Colombia creció
un 7% con respecto a 202113.
Además, se está elaborando un marco ético con diez (10) pilares para el uso y
desarrollo de la IA14. Este marco ético, es fundamental para consolidar un
ecosistema tecnológico de emprendimiento e innovación en Colombia y así
convertirnos en los más sólidos de América – Latina.
De hecho, desde 2019 encontramos como antecedentes mediáticos en el
tema de la IA, el CONPES 3975 del mismo año, que aprobó la política
nacional para la transformación digital e IA, como instrumento para
aumentar la generación de valor social y económico a través de la
transformación digital del sector público y privado, y así enfrentar los retos
dados con la 4ª revolución y en especial con la IA, dicho CONPES se
compone de seis (6) secciones, así:
• Introducción,
• Antecedentes y justificación,
• Marco conceptual,
• Diagnostico,
• Política y,
• Recomendaciones.
12 [Link]
tecnologias-de-inteligencia-artificial/202300/ 4.10.23 - H. 6:00 PM
13 [Link]
tecnologias-de-inteligencia-artificial/202300/ 4.10.23 - H. 6: 15 PM
14 [Link]
tecnologias-de-inteligencia-artificial/202300/ 4.10.23 – H. 6:30 M
12
En dicho documento se define la IA, en los siguientes términos:
” Es un campo de la informática dedicado a resolver problemas cognitivos
asociados con la inteligencia humana o seres inteligentes, entendidos
como aquellos que pueden adaptarse a situaciones cambiantes. Su base
es el desarrollo de sistemas informáticos, la disponibilidad de datos y los
algoritmos.”15.
A su vez, se consagran unos principios para el desarrollo de la IA en
Colombia, destacándose el fomento a la innovación y confianza en esta,
basados en los DDFF y los valores democráticos – (Conceptos estos
desarrollados en el 2019 por la OCDE), siendo estos dos últimos limites al
ejercicio de la actividad económica que se desarrolle en base a la IA.
3.1 Principios de la IA – CONPES 3975 de 2019.
Se señala que los principios sobre IA (14), así como el marco que
generan, pueden estar abiertos a cambios conforme a la evolución de
esta tecnología o de las condiciones socioeconómicas requeridas para
su implementación, destacamos los siguientes:
“ (…)
1. Creación del mercado de inteligencia,
2. Priorización de las innovaciones creadoras de artificial,
3. Políticas basadas en evidencia y métricas de impacto para la
regulación,
4. Experimentación regulatoria,
5. Infraestructura de datos de fácil acceso,
15Concepto que fue también consagrado en el artículo [Link].3 – 3.2 del Decreto presidencial 1263 de 2022,
y se alinea con el propuesto por la OCDE en mayo de 2019, definiendo: es como “un sistema basado en
máquinas diseñado para funcionar con diversos niveles de autonomía y capaz, para objetivos explícitos o
implícitos, de generar información de salida –como predicciones, recomendaciones o decisiones– que influya
en entornos reales o virtuales”.
13
6. Mercado de IA como generador de equidad e inclusión,
7. Marco ético para la IA y seguridad,
8. Compromisos creíbles y producto de consensos,
9. Ambiente de experimentación para desarrollar políticas de
talento,
10. El rol estratégico de las universidades y la investigación en la
creación de la IA,
11. Atracción de talento internacional,
12. Políticas sobre futuro del trabajo basadas en evidencia,
13. El Estado facilitador y usuario de la IA y,
14. Acceso continuo a conocimiento de la IA.”
3.2 DIRECTIVA16 PRESIDENCIAL 03 DE 2021
Esta directiva, nace con el propósito de dar cumplimiento al artículo 147 N. 6
de la Ley 1955 de 2019: “Por el cual se expide el Plan Nacional de Desarrollo
2018-2022: “Pacto por Colombia, Pacto por la Equidad”, y buscar disminuir
los costos de funcionamiento, acelerar la innovación, brindar entornos
confiables digitales para las entidades públicas y mejorar sus procedimientos
y servicios, lo que implica en si establecer los lineamientos para el uso de
servicios en la nube, inteligencia artificial, seguridad digital y gestión de
datos.
16
Artículo 189 de la Constitución Política, dispone:
“Corresponde al Presidente de la República como Jefe de Estado, Jefe del Gobierno y Suprema Autoridad
Administrativa:
11. Ejercer la potestad reglamentaria, mediante la expedición de los decretos, resoluciones
y órdenes necesarios para la cumplida ejecución de las leyes.” (subrayado fuera del texto).
14
En cuanto a la IA, la directiva señala como puntos trascendentes los siguientes:
1. Deberá propender por el crecimiento inclusivo, el desarrollo sostenible
y mejorar la calidad de los colombianos.
2. En caso de implementar proyectos de IA, deberán informa sobre sus
avances, dentro de los respectivos informes anuales de rendición de
cuentas.
3. Fomentar la participación de los funcionarios públicos en cursos,
capacitaciones o programas de talento dirigidos a generar mayor
conocimiento y capacidades sobre IA, su implementación,
características y funcionalidades.
4. Facilitar la realización de sandboxes regulatorios en IA, en el marco de la
coordinación y articulación interinstitucional.
5. Efectuar el desarrollo de los Proyectos de IA en el marco de la
coordinación interinstitucional y en apoyo a la cooperación
internacional que surja en la materia, permitiendo el intercambio de
información y el seguimiento a las recomendaciones, con sujeción a las
funciones asignadas y a la normativa aplicable.
6. En el marco de la Ley 1712 de 2014: "Por medio de la cual se crea la Ley
de Transparencia y del Derecho de Acceso a la Información Pública
Nacional y se dictan otras disposiciones", informar a la ciudadanía
cuando estén implementando un proyecto que incorpore sistemas de
IA y el propósito de su uso, brindando información clara y actualizada,
con el fin de asegurar el conocimiento de esta tecnología y las
características de los proyectos.
7. Cumplimiento a las recomendaciones y principios éticos.
8. Desplegar los sistemas de IA sobre la base de las funciones, el contexto
y en consonancia con el estado de la técnica.
9. Según los roles, el contexto y la capacidad para actuar, aplicar un
enfoque sistemático de gestión de riesgos en cada fase del ciclo de vida
del sistema de IA para abordar los riesgos relacionados con los sistemas
de IA y su implementación, reduciendo cualquier riesgo de
discriminación, entre otras posibles afectaciones.
10. Documentar los procesos y las decisiones adoptadas durante el ciclo de
vida del sistema de IA, para permitir el análisis de sus resultados,
15
teniendo en cuenta el contexto y siendo coherente con el estado de la
técnica.
4.0 Perspectiva legislativa sobre la IA.
En razón al tema legislativo, se hace necesario la implementación de una ley
que señale los derroteros de la política pública de la IA en todo su contenido y
desarrollo, tanto para la esfera pública como privada, toda vez que las nuevas
dinámicas transforman el quehacer diario de las personas y por ende de las
empresas, buscando un equilibrio para así aprovechar al máximo los beneficios
de la IA como instrumento para mejorar la calidad de vida de las personas.
Como antecedente normativo, podemos destacar un proyecto de ley
presentado por el Senador Juan Diego Echevarría Sánchez, radicado bajo el
número 253 de 2022: “Por medio de la cual se establecen los lineamientos de
política pública para el desarrollo, uso e implementación de la Inteligencia
Artificial y se dictan otras disposiciones”, el cual en su contenido establece en
sus 32 artículos aspectos relacionados con la política a implementarse en la IA:
1. Disposiciones generales,
2. Crecimiento inclusivo, desarrollo sostenible y bienestar,
3. Valores centrados en el ser humano y equidad,
4. Transparencia y explicabilidad,
5. Robustez, seguridad y protección y,
6. Responsabilidad.
Los anteriores conceptos, el autor del proyecto los oriento principalmente a
las políticas públicas como medios de aplicación y prevención, como a su vez
se centró en cinco (5) principios dados por la OCDE, un intento muy positivo
para avanzar en nuestra legislación, lo que implica de ampliar los contenidos
normativos a otras esferas que se marcaran muy seguramente del derecho
comparado en especial la que se desarrolla en la actualidad en la UE.
16
En suma, en este aparte, podemos concluir la necesidad de primer nivel para
establecer una normativa para todo el universo de la IA en su génesis,
operabilidad, desarrollo e implementación, y su incidencia en el derecho tanto
nacional e internacional, en lo público como privado, en aspectos relacionados
con los derechos fundamentales17, es así como podemos encontrar en riesgo
entre otros: la vida, intimidad, salud, educación, libertades como de reunión,
asociación, expresión y movimiento, habeas data, e incluso afectar la igualdad
por razones de etnias, nacionalidad, ideas, credo, pautas de conducta y en
general cualquier modo de discriminación, lo que indica que una primer limite
que debemos encontrar a la IA es el respeto y garantía de los derechos
humanos, la seguridad y en consecuencia la dignidad humana como elemento
sine qua non y nuclear del ser, es así como el concepto de riesgo o amenaza
(1, 2 y 318) que se analizó en este escrito es un insumo para implementar en la
legislación, al igual que los diferentes principios que encontramos en la
constitución, en los dados por la OCDE y los que propugna el proyecto
normativo de la Unión Europea - Artificial Intelligence Act- ARI.
En suma, los sujetos relacionados con la IA, deben respetar el Estado de
Derecho, los derechos humanos y valores democráticos, a lo largo del
desarrollo y operabilidad del sistema de IA.
17 Morales Alzate, John Jairo. (2020). La acción de tutela en Colombia y en Alemania: Un estudio comparado.
Universidad Manuela Beltrán. Bogotá. En asocio con la Asociación Colombo – Alema de juristas – Deutsch –
Kolumbianische [Link] Alemania.
18 Estos límites, condicionados al riesgo que pueda presentar la herramienta, estos grupos son:
1. Los que no representan amenaza, sometidos al concepto de transparencia,
2. Amenaza alta, aplicable al ámbito de los DDFF o para la seguridad, p.e: evaluación de solvencia económica,
calificación crediticia en el sistema financiero, los medios de control usados por la policía en los
procedimientos de control, vigilancia o procesamientos de movimientos migratorio y,
3. Amenaza inaceptable, estos serían: los sistemas biométricos de vigilancia – salvo la identificación
biométrica en diferida ordenada por autoridad judicial-, los que afectan la seguridad ciudadana y de aquellos
que buscan forjar una escala de comportamiento del buen ciudadano.
En suma, se prohíbe de manera rotunda los sistemas susceptibles de interferir en la esfera de la seguridad de
los usuarios, como aquellos que clasifican a partir del comportamiento o las características personales, incluso
a los intrusivos y discriminatorios – genero, edad, raza, nacionalidad, religión, filosofía y condición económica.
17
4.1 Caso de estudio: PLATAFORMAS DIGITALES DE REPARTO Y EL DERECHO
LABORAL:
La Constitución Política en su norma superior 5319, dispuso que el Congreso
de Colombia, expediría el Estatuto Laboral y a su vez se trazan los principios
mínimos fundamentales en los que habría de inspirarse dicha codificación.
Después de más de 32 años, hasta ahora se vislumbra un proyecto de iniciativa
del Ministerio del Trabajo, cuyas características básicas son:
1. Propugna por los principios mínimos fundamentales,
2. armoniza las normas del trabajo con las nuevas realidades y el contexto
normativo nacional y comparado, como a su vez
3. La temática del “Trabajo en plataformas digitales de reparto” - artículos
23 al 29.
4.2 Ejes temáticos del proyecto.
i) La autoridad del Trabajo, entiende de manera pronta que la realidad supero
lo previsto en la normativa del C.S.T, toda vez que jamás se pensó que el
trabajo humano pudiera estar subordinado a una IA que diera órdenes,
sancionara e incluso pudiera despedir, sin opción de defensa alguna por parte
del trabajador, generándose así importantes dudas, retos y preocupaciones,
cuando se utiliza la IA en adopción de decisiones, en este asunto el Comité
para la Eliminación de la Discriminación Racial de la ONU (2020), en su
observación 36, establece:
“… Aunque es consciente de que, en algunos ámbitos, la inteligencia artificial
puede contribuir a una mayor eficacia en una serie de procesos de adopción
de decisiones, el Comité también comprende que existe un riesgo real de sesgo
algorítmico cuando se utiliza la inteligencia artificial en la adopción de
19 “El Congreso expedirá el estatuto del trabajo. La ley correspondiente tendrá en cuenta por lo menos los
siguientes principios mínimos fundamentales: Igualdad de oportunidades para los trabajadores;
remuneración mínima vital y móvil, proporcional a la cantidad y calidad de trabajo; estabilidad en el empleo;
irrenunciabilidad a los beneficios mínimos establecidos en normas laborales; facultades para transigir y
conciliar sobre derechos inciertos y discutibles; situación más favorable al trabajador en caso de duda en la
aplicación e interpretación de las fuentes formales de derecho; primacía de la realidad sobre formalidades
establecidas por los sujetos de las relaciones laborales; garantía a la seguridad social, la capacitación, el
adiestramiento y el descanso necesario; protección especial a la mujer, a la maternidad y al trabajador menor
de edad. El estado garantiza el derecho al pago oportuno y al reajuste periódico de las pensiones legales. Los
convenios internacionales del trabajo debidamente ratificados, hacen parte de la legislación interna. La ley,
los contratos, los acuerdos y convenios de trabajo, no pueden menoscabar la libertad, la dignidad humana ni
los derechos de los trabajadores.”
18
decisiones en el contexto de la aplicación de la ley. La elaboración de perfiles
algorítmicos plantea serias preocupaciones y las consecuencias con respecto a
los derechos de las víctimas podrían ser muy graves”.
ii) En el proyecto de reforma, se advierte la preocupación del Ministerio de
Trabajo, de visibilizar quiénes son los sujetos de ese vínculo laboral, pues hasta
el día de hoy, la plataforma no tiene certeza de los sujetos de la relación,
implicando desconocimiento del sujeto que establece la subordinación y da las
órdenes e incluso producir un despido, pues para el caso de los domiciliarios
solo sabe que presta su fuerza de trabajo para una IA (Machine learning20),
una aplicación, a quien debe rendir cuentas y a quien no puede elevar reclamo
alguno. Por lo precedente de forma importante en el artículo 25 del proyecto
de reforma se implementa una identificación plena del trabajador, por su parte
en el artículo 27, se dispone una identificación de la plataforma.
iii) Como un tercer aspecto a relievar, se encuentra que en el artículo 29
dispone: “La supervisión humana de los sistemas automatizados”, lo que
constituye un gran avance y uno de los puntos medulares de la reforma, dado
que se humaniza el trabajo – Factor Humano-, el trabajador tiene el derecho
de conocer quién está detrás de la máquina, a quién reclamar, o en últimas en
términos coloquiales todos en un trabajo requerimos saber “quién es el jefe”
(Transparencia y explicabilidad). Lo que implica que esta norma al establecer
la supervisión humana, se ajusta y encuentra una base en los valores
recomendados por el Consejo sobre IA de la OCDE, cuando indica:
(…)
“ [Link] centrados en el ser humano y equidad
a) Los actores de IA deben respetar el Estado de Derecho, los
derechos humanos y valores democráticos, a lo largo del
ciclo de vida del sistema de IA. Estos incluyen la libertad,
dignidad y autonomía, privacidad y protección de datos, no
discriminación e igualdad, diversidad, equidad, justicia
social y reconocimiento internacional derechos laborales.
20 “Machine learning: método de análisis de datos que automatiza la construcción de modelos analíticos. Es
una rama de la inteligencia artificial basada en la idea de que los sistemas pueden aprender de datos,
identificar patrones tomar decisiones con la mínima intervención humana”. Concepto tomado de: 'Machine
Learning': definición, tipos y aplicaciones prácticas - Iberdrola 5.10.23 H. 12 : 20 AM.
19
b) Con este fin, los actores de la IA deben implementar
mecanismos y salvaguardias, tales como la capacidad de
determinación humana, que son apropiadas para el contexto y
coherente con el estado de la técnica.”
1.3. Transparencia y Explicabilidad
Los actores de IA deben comprometerse a transparencia y divulgación
responsable de los sistemas de IA. Con este fin, debe proporcionar
información significativa, apropiada para el contexto, y de acuerdo con
el estado de la técnica:
i. fomentar una comprensión general de los sistemas de IA,
Ii. para que las partes interesadas sean conscientes de sus
interacciones con los sistemas de IA, incluso en el lugar de
trabajo,
Iii. para permitir que los afectados por un sistema de IA
comprendan el resultado, y
Iv. para permitir que aquellos afectados negativamente por
un sistema de IA desafíen su resultado se basa en
información clara y fácil de entender sobre los factores, y
la lógica que sirvió de base para la predicción,
recomendación o decisión.”. (SFT).
iv) Dispone el pago de aportes al sistema de seguridad social a
cargo del empleador un porcentaje, como es normal en todo
vínculo laboral, lo que no solo vemos como necesario, sino que
además es un mínimo vital y en consecuencia de dignidad humana
para quien presta el servicio, que por lo general son personas de
escasos recursos.
20
4.3 Conclusión del caso la IA y el derecho laboral.
La reforma en este tema de regulación de la plataformas digitales - IA, es de
avanzada y ajustada a los cánones internacionales, efectúa una lectura
adecuada del mundo moderno, propende por humanizar y dignificar el
trabajo, aunque quedan puntos por mejorar, v. gr: cuando se plantea que el
trabajo a través de estas plataformas puede ser independiente, pero no se
reguló o desarrolló esa posibilidad, además difícilmente se podrá lograr que la
fuerza de trabajo en las plataformas se considere autónoma; se pudo haber
profundizado en la identificación de la plataforma, no solo el nombre general,
sino la determinación de las personas naturales que están detrás de ellas; y se
espera que el desarrollo normativo que se realice mediante Decreto, esté
restringido solo a reglamentar, para evitar riegos de eventuales demandas, es
así, que el requisito sine qua non de la reforma laboral propuesta, se
concentre en ampliar su espectro normativo con el mayor desarrollo posible,
y evitar la reglamentación en el Decreto de elementos esenciales que deben
quedar en la norma estatutaria.
Finalmente, me permito manifestar al lector que continuaremos con estudios
de casos de IA relacionados con el derecho.
21
