El derecho al control humano en la inteligencia artificial

Una propuesta de regulación del control humano como un nuevo derecho en el ordenamiento
jurídico colombiano

Autora:
Carolina Sánchez Vásquez

Asesor:
Cristian Díaz Díez

Universidad EAFIT
Escuela de Derecho
Septiembre de 2021
Contenido

Resumen .......................................................................................................................................3
Introducción ......................................................................................................................................3
1. Planteamiento del problema.................................................................................................4
2. Justificación ..........................................................................................................................8
3. Marco teórico ........................................................................................................................9
3.1 Aproximación teórica a la Inteligencia artificial ................................................................9
3.2 Derechos de cuarta generación: reconocimiento de nuevos derechos en el marco de
la inteligencia artificial ............................................................................................................11
3.3 Aproximación teórica al control humano ........................................................................16
4. Conceptualización del derecho al control humano ..........................................................18
4.1 Reconocimiento del control humano como derecho ................................................18
4.2 Fundamentación del derecho al control humano .....................................................27
5. Relación del derecho al control humano con derechos fundamentales reconocidos ...32
5.1 Relación del control humano con la igualdad ...........................................................33
5.2 Relación del control humano con la privacidad ........................................................38
5.3 Relación del control humano con el derecho al debido proceso ............................43
5.4 Relación entre el control humano y la libertad de expresión ...................................50
6. Contenido del derecho al control humano ........................................................................54
7. Clasificación del derecho al control humano....................................................................66
8. Sujetos del derecho al control humano.............................................................................75
9. Deberes que se desprenden del derecho al control humano ..........................................80
9.1 Deberes estatales para garantizar el derecho al control humano ...........................80
9.2 Deberes del sector privado para garantizar el derecho al control humano ............87
10. Garantía del derecho al control humano .......................................................................90
10.1 Mecanismos judiciales para hacer exigible el derecho al control humano .............90
10.2 Mecanismos y acciones administrativas para hacer exigible el derecho al control
humano ....................................................................................................................................92
11. Conclusiones ..................................................................................................................93
Referencias .....................................................................................................................................97
Resumen
La inteligencia artificial ha abierto escenarios hasta ahora inexplorados para la humanidad, la
tecnología ha revolucionado el mundo y con él, el derecho está en la necesidad de responder a los
nuevos retos que se plantean. La vulneración de derechos humanos por sistemas de inteligencia
artificial abre la puerta a cuestionamientos sobre las respuestas jurídicas que se deben dar, una de
ellas, el control humano, como un nuevo derecho para garantizar la veeduría humana en el diseño y
desarrollo de dichos sistemas con el fin de evitar afectaciones a derechos ya existentes. La pregunta
entonces que suscita esta investigación es, ¿cómo se debe regular el control humano en la inteligencia
artificial como un derecho en el ordenamiento jurídico colombiano?
Para responderla, se presenta una propuesta de regulación del derecho al control humano, con los
elementos que ello implica, tales como su conceptualización, contenido, implicaciones jurídicas y
garantía del mismo, a partir de los desarrollos jurídicos que puedan nutrir el análisis y sobre todo,
teniendo en cuenta los avances en las discusiones que al respecto se están dando en el mundo.

Introducción

La inteligencia artificial puede ser considerada uno de los mayores desarrollos tecnológicos del Siglo
XXI, enmarcada en lo que muchos han catalogado como la Cuarta Revolución Industrial. La
inteligencia artificial ocupa la mayoría de los espacios de la vida. A diferencia de los anteriores
desarrollos tecnológicos, no solo está dirigida a la industria y la producción masiva de bienes y
servicios, sino a las labores cotidianas, el ocio, las relaciones interpersonales y los espacios más
íntimos de la vida, deshumanizándolos o por lo menos tecnificándolos, como nunca antes se había
imaginado (Oppenhaimer, 2018).
En este escenario, la inteligencia artificial no solo desafía las reglas de la ingeniería, la medicina y las
ciencias, sino también del derecho, a partir de cuestionamientos sobre cómo los ordenamientos
jurídicos deben responder a estos nuevos desarrollos. Es ahí, entonces, cuando cabe hacer hincapié
en la protección de los derechos hasta ahora conocidos y plantear la necesidad de reconocer nuevos
derechos para proteger los bienes jurídicos del ser humano, ya no en una realidad análoga sino en
escenarios artificiales.
La cuarta generación de derechos es la respuesta que se ha ofrecido a tales interrogantes. La vigencia
de los derechos hasta ahora reconocidos y el surgimiento de nuevos derechos en escenarios digitales
y de inteligencia artificial, son el punto de diferenciación entre la cuarta generación de derechos y las
generaciones ya existentes. Lo anterior, abre la puerta a un nuevo proceso de reconocimiento de
derechos en los escenarios de inteligencia artificial, que enmarcan lo aquí propuesto: la necesidad de
reconocer el control humano en la inteligencia artificial como un nuevo derecho, en el ordenamiento
jurídico colombiano.
El control humano, como un nuevo derecho, es la respuesta jurídica a la necesidad de mantener una
veeduría, inspección o intervención humana en el desarrollo de los sistemas y tecnologías que se
encuadran en la inteligencia artificial, con el fin de garantizar la protección de los bienes jurídicos ya
tutelados, como lo son la igualdad, la libertad, la privacidad, el debido proceso, entre otros. Esto
significa, entonces, que el valor del control humano como derecho radica en su sentido instrumental,
esto es, que se justifica en su relación con la protección en escenarios aún desregularizados
jurídicamente, como los de la inteligencia artificial, con los bienes jurídicos y derechos intrínsecos al
ser humano.
El objetivo entonces de esta investigación es abordar el problema jurídico que supone el
reconocimiento del control humano en la inteligencia artificial como un nuevo derecho. Cuestión de la
cual se derivan otros aspectos igual de relevantes como lo son, su delimitación conceptual, la
conexidad con derechos ya reconocidos y bienes jurídicos tutelados, la naturaleza jurídica del derecho
y las exigencias que de esta naturaleza se derivan a nivel institucional y normativo. En este sentido,
lo que se pretende con la investigación es analizar las implicaciones jurídicas del reconocimiento del
control humano como derecho; un tema aún inexplorado en el sistema jurídico colombiano, pero ya
desarrollado en los sistemas internacionales, convirtiéndolo en un asunto de suma trascendencia en
un mundo cada vez más tecnificado, que exige respuestas oportunas e integrales del derecho.
En consonancia con lo anterior, la investigación que aquí se propone se enmarca predominantemente
en las de tipo “lege ferenda”, esto es, aquellas cuya orientación es prescriptiva, en tanto, propone que
la regulación de un asunto no se deriva del derecho positivo ya existente, sino que postula una nueva
solución que implica la modificación del derecho conocido. No obstante, cabe precisar que para llegar
a la prescripción de un nuevo derecho, también es necesario desarrollar una faceta descriptiva en la
investigación, por lo que, también contiene elementos de las investigaciones de tipo “lege data”. En
este sentido, la metodología de la presente investigación consiste grosso modo en: (i) el rastreo del
derecho al control humano en la doctrina y normas internacionales, (ii) un análisis sobre la
compatibilidad de estas con el ordenamiento jurídico colombiano, para luego (iii) formular un propuesta
de reconocimiento y regulación del control humano como un derecho en el ordenamiento jurídico
colombiano.
1. Planteamiento del problema

La inteligencia artificial es un término frecuentemente nombrado que se ha incorporado a la vida

cotidiana con la misma velocidad que sus desarrollos. Y es que no es para menos, pues los avances
tecnológicos sorprenden cada día a la humanidad. Esta nueva tecnología ha invadido, bien sea de
manera positiva o negativa, casi todas las esferas de la vida, tanto pública, como privada: los negocios,
las relaciones interpersonales, la medicina, la educación y hasta las actividades del hogar, se han visto
impactadas por sistemas o dispositivos que cuentan con inteligencia artificial.
Pero entonces, ¿qué es inteligencia artificial? Una pregunta aparentemente sencilla, pero con variadas
respuestas, sobre las que todavía no hay un consenso. Por lo tanto, hasta este punto, se entenderá
por inteligencia artificial un conjunto de técnicas, algoritmos y herramientas que permiten resolver
problemas, para los que, a priori, es necesario cierto grado de inteligencia, en el sentido de que son
problemas que suponen un desafío incluso para el cerebro humano (Serrano, 2012). Sin embargo,
más allá de definir la inteligencia artificial, lo que aquí preocupa son los efectos negativos que la misma
puede tener sobre los derechos humanos y preguntarse entonces si es necesario también empezar a
crear nuevos derechos, reglas y protecciones en estos nuevos sistemas artificiales.
Sobre la inteligencia artificial existen certezas pero al mismo tiempo incertidumbres. Hay certeza en
tanto ha facilitado la vida humana, realizando tareas complejas para el ser humano en un tiempo
reducido. También ha contribuido a la resolución de grandes problemas de la humanidad, como el
empleo, el comercio, entre otros; en suma, ha marcado un hito en la evolución y en los desarrollos
tecnológicos más importantes del último siglo. No obstante, también ha dejado en evidencia los riesgos
que se corren al utilizarla, aspecto que se demuestra en las fallas de los sistemas, que generan como
consecuencia serias afectaciones a los bienes jurídicos tutelados.
Muestra de lo anterior, son los sesgos discriminatorios de los datos ingresados en los sistemas de
inteligencia artificial, que utilizan big data y que producen decisiones tales como asociar los cargos
mejor remunerados con los hombres y las vacancias laborales inferiores con las mujeres, o considerar
como sospechosos de delitos a los hombres negros, por encima de los hombres blancos. En
situaciones como estas, ¿quién garantiza el derecho a la igualdad y no discriminación de los
implicados? o ¿quién evita el procesamiento de los datos sesgados?
Para mayor claridad, se transcribe algunos ejemplos propuestos por Urueña (2019), quien ilustra la
manera como la inteligencia artificial puede reproducir factores de discriminación, vulnerando el
derecho a la igualdad:
Piénsese, por ejemplo, en instancias de discriminación algorítmica El COMPAS, la plataforma
de predicción de reincidencia reseñada antes, señalaba sistemáticamente a los hombres
negros como más proclives a la reincidencia. El proceso de reconocimiento de fotos de
Google, un ejemplo típico de machine learning, categorizó fotos de personas de raza negra
como “gorilas”. Y el algoritmo de anuncios de Google tendió en un momento dado a mostrar
a las mujeres menos anuncios de los trabajos mejor pagos.
Otro ejemplo de lo propuesto, es el robot virtual de Microsoft, llamado Tay, que en su cuenta de Twitter
@TayandYou, está programado para almacenar y procesar datos procedentes de sus conversaciones
con tuiteros humanos y así perfeccionar su lenguaje, aptitudes y actitudes millenial para parecer cada
vez más una joven real. Lo que no se esperaba era que Tay fuera capaz de alabar a Hitler e insultar
a las feministas con mensajes como “Odio a las feministas, deberían morir todas y pudrirse en el
infierno” o “Bush generó el 11-M y Hitler habría hecho un trabajo mejor que el mono [Barack Obama]
que tenemos ahora” (Público, 2017).
Ejemplos como estos evidencian que las decisiones algorítmicas pueden ser sesgadas o
discriminatorias como resultado de precondiciones perjudiciales, diseño inadecuado o conjuntos de
datos insuficientes o mal seleccionados. A medida que los sistemas basados en algoritmos adoptan
decisiones automatizadas, el posible sesgo se vuelve masivo y, en muchos casos, pasa desapercibido
mientras se vuelve viral. En una sociedad densamente interconectada, la viralidad basada en la red
actúa como un amplificador de los efectos nocivos, los impactos negativos se expanden rápidamente,
la magnitud del daño aumenta enormemente y la reversibilidad de las acciones se vuelve más
improbable y menos factible (Rodríguez, 2019).
Por su parte, surgen preocupaciones sobre la garantía del debido proceso en los procesos judiciales
y administrativos que, utilizan tecnologías como los sistemas jurídicos expertos 1 para tomar decisiones
tan trascendentales como definir la condena de privación de libertad de una persona o imponer multas
y sanciones administrativas a los ciudadanos. Estos sistemas fueron diseñados, entre otras razones,
para apoyar la toma de decisiones de los jueces y emitir sentencias en los diferentes juicios que
realizan, a partir de un prototipo de sentencia cuya base de conocimiento está integrada por los
requisitos de forma y fondo de una determinada sentencia del derecho. La pregunta es, entonces,
cómo garantizar el debido proceso en decisiones en las que los humanos, de manera particular, los
jueces, hacen uso de sistemas de inteligencia artificial, robots o máquinas para apoyarse en la toma
de dicha decisión. Considerando que estos sistemas, no tienen la capacidad interpretativa de los
hechos y las circunstancias que sí tiene un humano. En efecto, estos sistemas solo están diseñados
a partir de bases de datos del procedimiento judicial, datos de la demanda, contestación y análisis de
las pruebas documentales, confesionales, testimoniales y presuncionales.
Por otro lado, surgen preguntas igual de importantes, sobre el destino y el tratamiento de los datos
personales entregados a los sistemas artificiales: ¿quién conoce la vida privada de las personas?,
¿qué pasa con los datos entregados a los robots que realizan tareas en los hogares?, ¿quién controla
el traspaso de datos a través del internet de las cosas? Estas preguntas resumen las preocupaciones
que existen alrededor del derecho a la privacidad, que se ve amenazado con la entrega de información
privada a los sistemas de inteligencia artificial, sin tener pleno conocimiento sobre el destinatario final
y el uso que de la misma se hará, pues una vez la información es entregada, se pierde el control sobre
la misma.
Como ejemplo de los riesgos que el big data plantea para los derechos a la privacidad y a la protección
de datos personales, puede tomarse el sonado caso de la cadena de almacenes Target, cuya analítica
de datos le permitió inferir, a partir de los datos de compras de sus clientes, el embarazo de una cliente
adolescente, incluso antes de que sus padres lo supieran (Newman, 2019). Situaciones como estas
son cada vez más comunes, pues constantemente se está entregando información personal a los
sistemas artificiales: al crear una cuenta de perfil, al suministrar la ubicación para la entrega de una
compra, los datos de pago, las cuentas bancarias, la fecha y hora de acceso a los servicios, las
personas con quien se interactúa, los sitios web más frecuentados, entre otras. En suma, con la
inteligencia artificial también surge la preocupación sobre el control que se debe tener respecto a los

1 Los Sistemas Expertos, en la Informática Jurídica, son la estructuración de conocimientos especializados en términos
jurídicos, que, acoplados a un mecanismo de inferencia, sacan conclusiones de información suministrada de esta área del
conocimiento en forma de preguntas y respuestas. Se refiere en [Martino (1988)] que un Sistema Experto es aquel que,
partiendo de ciertas informaciones proporcionadas por un especialista en la materia considerada, pretende resolver
problemas que se presentan al interior de uno específico “dominio”, mediante la simulación de razonamientos que expertos
han obtenido por sus conocimientos y experiencias adquiridas, como un conjunto de programas capaces de alcanzar los
resultados de un experto humano por una tarea dada. (Batista, 2019)
datos personales y la vigilancia necesaria para asegurar un uso correcto y consentido sobre los
mismos.

En síntesis, la pregunta sobre quién, cómo y hasta cuándo proteger los bienes jurídicos tutelados del
ser humano en escenarios de inteligencia artificial, es el cuestionamiento que está detrás de esta
investigación. Como se evidenció, la inteligencia artificial es imperfecta y sus errores pueden ocasionar
gravosas consecuencias para el ser humano, que se resumen en la afectación de los derechos
humanos ya reconocidos y tutelados por los ordenamientos jurídicos. Dicha afectación se debe, en
gran medida, a la ausencia de control y vigilancia humana en el diseño y desarrollo de los sistemas
de inteligencia artificial, pues, por su naturaleza “inteligente”, los sistemas de inteligencia artificial
desarrollan cierto grado de autonomía, en virtud de la cual, más allá de la programación y definición
de algoritmos, se prescinde del control y la supervisión humana. Esto significa que su carácter
autónomo limita la intervención del ser humano para evitar la afectación de derechos humanos, como
ya se ha evidenciado.

En este escenario, el control humano, entendido como la presencia humana en el diseño, desarrollo y
uso de sistemas artificiales como garantía de veeduría, control y supervisión de dichos sistemas, para
proteger valores y principios ya reconocidos universalmente a la persona, es la respuesta que se
propone para solucionar el problema jurídico que representa la amenaza y vulneración de bienes y
derechos tutelados. Al respecto, se debe advertir que, por el momento hay más preguntas que
respuestas, pues plantear el control humano como un nuevo derecho implica una serie de desafíos
jurídicos que deben ser asumidos y, consecuentemente, por la ingeniería, esta última llamada a acatar
lo propuesto por el derecho.
En consecuencia, la pregunta que se pretende responder con esta investigación es ¿cómo se debe
regular el control humano en la inteligencia artificial como un derecho en el ordenamiento jurídico
colombiano?, y el objetivo general de la investigación es formular una propuesta de regulación del
control humano en la inteligencia artificial como un derecho en el ordenamiento jurídico colombiano.
Para lograr tal propósito, se prevé cumplir con los siguientes objetivos específicos, que a su vez, se
corresponden con los apartados que se desarrollarán en la investigación:
1. Conceptualizar el derecho al control humano en la inteligencia artificial.
2. Identificar la relación del derecho al control humano con otros derechos ya reconocidos.
3. Determinar la naturaleza jurídica del derecho al control humano en el ordenamiento jurídico
colombiano.
4. Analizar las implicaciones jurídicas de garantizar el derecho al control humano en Colombia.
Para lograr lo anterior, se tendrán en cuenta fuentes tanto normativas como doctrinarias, partiendo del
presupuesto de que este es un tema que ha sido desarrollado en los sistemas internacionales y en
otros países, pero no en Colombia, donde el desarrollo normativo y jurisprudencial en la materia ha
sido mínimo. En este sentido, serán fundamentales los pronunciamientos de organizaciones
internacionales de derecho público, doctrinantes y empresas dedicadas al desarrollo de la inteligencia
artificial, que ya han reconocido la necesidad de incluir consideraciones éticas y valorativas en el
desarrollo de sistemas tecnológicos, para, luego, adaptar, guardada toda proporción, las propuestas
internacionales al sistema colombiano.

2. Justificación

El control humano es considerado como la capacidad de intervención de los seres humanos durante
el ciclo de diseño del sistema de inteligencia artificial y en el seguimiento de su funcionamiento, con el
fin de evitar un impacto negativo en los derechos humanos y facilitar el cumplimiento de objetivos tales
como seguridad, protección, transparencia, explicación, justicia, no discriminación y, en general, la
promoción de valores humanos dentro de los sistemas de inteligencia artificial. El control humano
comprende la supervisión, participación, revisión y determinación humana, es esto, que los sistemas
permanezcan siempre bajo el control humano, incluso de manera ex post, con la revisión de las
decisiones que dichos sistemas determinen, siempre impulsados por consideraciones basadas en
valores (The Public Voice Coalition, 2018).
Su reconocimiento como derecho y principio de la inteligencia artificial es un tema que actualmente
está sobre la mesa de discusión en países con altos desarrollos al respecto y en las empresas líderes,
a partir de la identificación de la necesidad de que los actores de inteligencia artificial respeten el
Estado de derecho, los derechos humanos y los valores democráticos, durante todo su ciclo de vida
(OCDE, 2020). Empresas como IBM, Microsoft, Telia Company e IA Latam se han sumado a esta
discusión, así como países avanzados en el tema, tales como Canadá, Japón, Estados Unidos y la
comunidad política de la Unión Europea, a partir de declaraciones públicas y privadas en las que han
manifestado la necesidad de considerar el control humano en la formulación y desarrollo de sistemas
de inteligencia artificial.
Por tanto, cabe preguntarse ¿por qué catalogarlo como derecho? o más bien ¿por qué no basta con
las declaraciones ya existentes al respecto? La respuesta a estos interrogantes es, en esencia, la
justificación de la presente investigación. Como ya se evidenció y como se desarrollará más adelante,
la inteligencia artificial representa una amenaza a bienes jurídicos tutelados, lo que hace necesaria la
intervención jurídica al respecto. Esto quiere decir que no es posible dejar a la voluntad de las
empresas, quienes en últimas tienen intereses particulares, la decisión de privilegiar los derechos
humanos sobre otros intereses y mucho menos que la garantía de los mismos sea desigual,
atendiendo a la empresa con la que se contratan los sistemas de inteligencia artificial. En este mismo
sentido, es necesaria una directriz general a nivel internacional o por lo menos a nivel estatal, que
cobije todas las empresas y desarrollos de inteligencia artificial (IA).
En esta línea, debe ser una norma de orden público la que considere el control humano como un
derecho humano, con las características propias de este, es decir, universal, inalienable, irrenunciable,
imprescriptible e indivisible. Asimismo, el Estado colombiano tiene el deber de intervención en estos
nuevos escenarios artificiales, adoptando las medidas que al respecto ya se han desarrollado en otros
Estados con mayores avances en el tema, como los ya citados y lo dicho por las organizaciones de
derecho público internacional, cuyas declaraciones pueden hacer parte del ordenamiento jurídico
colombiano, en virtud del bloque de constitucionalidad.

En suma, la justificación de reconocer el control humano como un derecho radica en el deber que, en
principio, tienen los Estados de proteger los derechos humanos en los sistemas de inteligencia
artificial, bien sea a partir de leyes, como normas de orden general, de actos administrativos o de
pronunciamientos judiciales, pero, en todo caso, garantizando la tutela de los derechos ya reconocidos
en estos nuevos escenarios. De esta manera, resultan necesarios pero insuficientes los postulados
que, al respecto, han promulgado las empresas tecnológicas, sobre el control humano como un
principio de la inteligencia artificial, en tanto, al ser las directamente implicadas en el desarrollo de
estos sistemas, conocen de primera mano los efectos adversos de los mismos en los derechos
humanos, pero no son la fuente principal de Derecho, en un ordenamiento jurídico como el colombiano.
3. Marco teórico

3.1 Aproximación teórica a la Inteligencia artificial

Desde comienzos del Siglo XXI se ha acuñado el término Cuarta Revolución Industrial para referirse
a los desarrollos tecnológicos recientes que ha experimentado la humanidad y que han marcado un
hito por su impacto en todos los ámbitos de la vida cotidiana. A diferencia de las revoluciones
industriales anteriores, esta propone aprovechar las nuevas tecnologías para alcanzar procesos más
estables y precisos. Asimismo, se caracteriza por la inclusión de la tecnología como un medio utilizado
para el bien común.
Uno de los mayores avances que ha traído la Cuarta Revolución Industrial ha sido la inteligencia
artificial que a diferencia de los anteriores desarrollos tecnológicos, no solo está dirigida a la industria
y la producción masiva de bienes y servicios, sino a las labores cotidianas, el ocio, las relaciones
interpersonales y los espacios más íntimos de la vida. Definir la inteligencia artificial no es una tarea
sencilla, pues existen tantas definiciones como desarrollos de la misma, por lo que a continuación se
exponen algunas aproximaciones ampliamente aceptadas y sobre las que vale la pena identificar
ciertos puntos en común que resultan claves para el análisis.
En este sentido, sobre la inteligencia artificial se ha dicho que es una rama de la informática que trata
de realizar con máquinas tareas que puede desempeñar el ser humano aplicando cualquier tipo de
razonamiento. Es una automatización de actividades que se vincula con procesos del pensamiento
humano, tales como la toma de decisiones, solución de problemáticas y aprendizaje. En síntesis,
sistemas capaces de simular características que son comúnmente asociadas con la inteligencia de la
conducta humana (Martínez, 2012).
También suele definirse como la capacidad de una máquina computacional u ordenador para
solucionar problemas complejos y determinados, mediante la implementación de un algoritmo2 que
comienza por la identificación de un problema y su delimitación, es decir, por identificar los datos o
características de un problema y los resultados potenciales que puede arrojar el algoritmo (Almonacid,
2020). Este autor, concibe la inteligencia artificial como un conjunto de técnicas para desarrollar
algoritmos que trabajan de forma compleja en ambientes complejos.
En suma, hablar de inteligencia artificial supone referirse a sistemas basados en algoritmos y
autoaprendizaje guiados por el aprendizaje automático y profundo, que pueden realizar ciertas
capacidades cognitivas humanas al interactuar con el entorno a través de sensores, procesar
información, adoptar decisiones y efectuar acciones, con un cierto (creciente) grado de autonomía
(Rodríguez, 2020). En todo caso, de estas variadas definiciones cabe resaltar que todas coinciden en
la integración de tres elementos: la simulación del razonamiento humano, la identificación de
problemas y el aprendizaje autónomo del sistema. Esto quiere decir que bajo el término de inteligencia
artificial se circunscriben un sinnúmero de desarrollos tecnológicos existentes y futuros que tienen
como característica común la capacidad de realizar una actividad que implica la simulación del
razonamiento humano, para, en últimas, resolver un problema, a partir del cual el sistema adquiere la
capacidad de aprender de manera autónoma.
En este sentido, para efectos de la presente investigación, al hablar de inteligencia artificial se hace
referencia a los desarrollos presentes y futuros que compartan los elementos comunes ya
identificados, esto es, que emulen las facultades del razonamiento humano, con el objetivo de resolver
problemas complejos y a partir de los cuales sea posible el aprendizaje autónomo de los mismos
sistemas. En este punto, igualmente, cabe aclarar que hablar de inteligencia artificial supone dejar la
puerta abierta a invenciones futuras que aún no estén contempladas ni reguladas por el derecho, pero
que su sistema cumple con los presupuestos ya enunciados.
Hecha esta aclaración, cabe señalar que en la literatura se han reconocido un grupo de características
atribuibles a la inteligencia artificial, tales como la complejidad, la opacidad, la autonomía y la
vulnerabilidad. Sobre la complejidad, es importante señalar que esta se manifiesta en tres capas: (i)
complejidad lógica interna; (ii) pluralidad de participantes y (iii) fuentes que contribuyen al
funcionamiento del sistema. Esto quiere decir que los algoritmos que impulsan sistemas autónomos
sofisticados implican un alto nivel de complejidad en el diseño y en la operación. La complejidad
agrega opacidad al procesamiento interno del sistema autónomo, es decir que oculta los criterios
relevantes para la toma de decisiones y reduce la comprensión de los resultados. En este sentido, la
opacidad de los esquemas de inteligencia artificial, debido a la complejidad y la falta de transparencia
de todo el procedimiento, normalmente implica el desconocimiento por parte del destinatario de las
condiciones previas, los criterios y los aspectos procesales de la decisión algorítmica.

2
Los algoritmos son instrucciones matemáticas escritas por científicos de datos que indican a la máquina cómo debe
encontrar soluciones a un problema. Cuando se ejecuta una pequeña selección de datos (llamados datos de
entrenamiento) a través de un algoritmo de forma repetida, recurrentemente ajustado hasta que su comportamiento sea
fiable, el resultado es un modelo que la máquina puede usar para su propio aprendizaje adicional (P-Tech, 2019)
Por su parte, la autonomía se refiere a las capacidades de aprendizaje automático que los sistemas
basados en algoritmos pueden tener. El aumento de la autonomía de los sistemas basados en
algoritmos constituye uno de los factores más disruptivos de este tipo de tecnologías. Sin embargo,
es necesario definir en qué punto las soluciones tradicionales para la asignación de efectos legales y
la atribución de responsabilidad se vuelven inadecuadas y cuándo se necesitan nuevas soluciones.
Los algoritmos cada vez más complejos impulsan sistemas autónomos con capacidades de
autoaprendizaje que seleccionan candidatos para un trabajo, un préstamo o una subvención, crean
perfiles de consumidores, clasifican y filtran contenido digital, agrupan usuarios o redirigen spam,
alimentados por inmensas cantidades de datos recopilados en donde los criterios sobre los cuales las
decisiones se basan a menudo son desconocidas, y el diseño del proceso subyacente es opaco. Así,
la falta de transparencia exacerba la complejidad y la incertidumbre de la asignación de
responsabilidad (Rodríguez, 2020).
La opacidad, en otras palabras, se refiere a la falta de transparencia en la inteligencia artificial. El
complejo conjunto de instrucciones, criterios, factores de peso, datos u opciones alternativas
normalmente no son visibles (ni fáciles de entender) para el usuario final. Pero, lo que es más
importante, en muchos casos, la mera transparencia de tales elementos no garantizaría una
comprensión suficiente de los criterios que conducen a la toma de decisiones, las razones del mal
funcionamiento o las causas que provocan el daño. En resumen, la capacidad de explicación de los
sistemas tecnológicos complejos es limitada, costosa y no siempre totalmente factible en su totalidad.

Finalmente, la vulnerabilidad de la inteligencia artificial hace referencia a que, por un lado, los sistemas
dependen de los datos, bien sea para hacer pruebas, aprender, procesar información o personalizar
al usuario. Los datos determinan la precisión de los resultados, alimentan las decisiones, alimentan el
proceso de aprendizaje automático y garantizan el funcionamiento mismo del sistema. En este sentido,
la dependencia de datos es una fuente de vulnerabilidad, pues los datos insuficientes, inexactos o
sesgados comprometen el rendimiento del sistema. Por otro lado, los sistemas de inteligencia artificial
(IA) están expuestos a ataques o infracciones de seguridad cibernética, cuyas consecuencias pueden
ser altamente gravosas en los derechos fundamentales (Rodríguez, 2020).
En síntesis, la caracterización de la inteligencia artificial deja en evidencia el carácter amplio y genérico
de su definición, la magnitud de su alcance y la complejidad de sus desarrollos. Todos estos elementos
pretenden ser el punto de partida de la investigación que aquí se propone y mostrar la complejidad de
su estudio, sobre todo desde una óptica jurídica y no técnica. En este sentido, a continuación, se
expone el reconocimiento de nuevos derechos, como el punto de convergencia entre la inteligencia
artificial y el derecho, con una aproximación teórica al respecto.
3.2 Derechos de cuarta generación: reconocimiento de nuevos derechos en el marco de la
inteligencia artificial

Los desarrollos tecnológicos del Siglo XXI, dentro de los que se encuentra la inteligencia artificial, han
obligado a repensar no solo la ingeniería, sino también el Derecho. La existencia de nuevos
escenarios, relaciones y actores, ha llevado a hablar de una cuarta generación de derechos, la cual
se refiere a la nueva comprensión de los derechos humanos a raíz de la relación entre los desarrollos
técnicos y el entorno humano, esto es, una reformulación de los derechos humanos a partir de la
aplicación de las tecnologías y el beneficio comunitario derivado del uso de ellas. Esta generación de
derechos surge de las nuevas necesidades humanas relacionadas con el desarrollo científico y
tecnológico, que demanda el reconocimiento también de nuevas políticas que garanticen la tutela de
los bienes jurídicos en escenarios informáticos y de ciberespacio (Centro de Estudios Sociales y de
Opinión Pública, 2017).

En este sentido, el punto de partida de la inteligencia artificial debe ser garantizar que el diseño y la
implementación de sus herramientas y servicios sean compatibles con los derechos humanos. Esto
significa que desde las fases de diseño y aprendizaje deben existir reglas que prohíban violaciones
directas o indirectas de los valores fundamentales, es decir, incluir un enfoque ético en su diseño y
funcionamiento que comprenda el respeto por principios como la igualdad y no discriminación, la
calidad y seguridad de los servicios y de los datos ingresados, la transparencia, la imparcialidad y la
equidad, justicia e integridad y protección de la privacidad (CEPEJ, 2018). En síntesis, la inteligencia
artificial debe estar centrada en el ser humano, para simplificar y mejorar su vida, respetar sus
derechos en la relación humano-máquina y complementar las habilidades humanas en lugar de
disminuirlas o restringirlas.
Por su parte, esta nueva generación de derechos ha sido construida por los aportes que al respecto
han realizado organizaciones de la sociedad civil, gobiernos, el sector privado y múltiples actores,
quienes en los últimos años han declarado públicamente la necesidad de tener consideraciones éticas
en los desarrollos de inteligencia artificial y en este sentido, reconocer nuevos derechos para la
protección de principios humanos. A este ejercicio, se han sumado organizaciones y empresas como
U.S. National Science and Technology Council, Future of Life Institute, ITI, UNI Global Union,
Microsoft, Google, Telefónica, The Public Voice Coalition, Telia Company, Smart Dubai, IBM, entre
otros. También, se han sumado Estados como China, Japón, Canadá, Estados Unidos y
organizaciones de derecho internacional como la OCDE, el G20, y el Council of Europe: CEPEJ.
(Harvard University, 2020)
Todos estos actores han manifestado su compromiso con la protección de los derechos humanos en
desarrollos de inteligencia artificial, alrededor de la protección de los principios de privacidad,
responsabilidad, protección y seguridad, transparencia y capacidad de explicación, equidad y no
discriminación, control humano de la tecnología, responsabilidad profesional y promoción de valores
humanos (Harvard University, 2020). Sus declaraciones han puesto sobre la mesa la necesidad de
reconocer nuevos derechos humanos, a partir de la amenaza que puede representar la inteligencia
artificial para los mismos. En este punto, es importante evidenciar cómo la necesidad de reconocer
nuevos derechos ya no es una discusión exclusivamente estatal, sino que, organizaciones civiles y
empresas han tomado un papel protagónico en esta discusión, lo que resulta novedoso en un tema
que hasta el momento estaba reservado exclusivamente a los Estados y a las organizaciones de
derecho público internacional.
El punto de convergencia de todas estas declaraciones es la inclusión de principios éticos en los
desarrollos de inteligencia artificial. Así, organizaciones intergubernamentales como la OCDE (2020)
en sus Recomendaciones para Políticas de Inteligencia Artificial identifica cinco principios basados en
valores para la administración responsable de la inteligencia artificial: crecimiento inclusivo, desarrollo
sostenible y bienestar, valores centrados en el ser humano y equidad, transparencia y capacidad de
explicación, robustez, seguridad y protección y responsabilidad. Asimismo, hace cinco sugerencias a
los responsables de políticas nacionales y de cooperación internacional para una inteligencia artificial
confiable, a saber, invertir en investigación y desarrollo de IA; fomentar un ecosistema digital; dar
forma a un entorno político propicio para la IA; fortalecer la capacidad humana, preparar para la
transformación del mercado laboral; y fomentar la cooperación internacional para una IA confiable.
Igualmente, el G20 (2019) ha reconocido que la inteligencia artificial debe fundamentar su desarrollo
en el crecimiento inclusivo, el desarrollo sostenible y en valores centrados en el ser humano, tales
como la equidad, la transparencia, la capacidad de explicación, la robustez, la seguridad, la protección
y la responsabilidad. De la misma manera, la Comisión Europea para la Eficiencia y la Justicia (2018)
ha considerado como principios de la inteligencia artificial el respeto de los derechos humanos en la
implementación sus servicios, la no discriminación y prevención de la misma, calidad y seguridad de
los sistemas, transparencia, imparcialidad y equidad, y el control humano en cualquier proceso o
decisión tomada por un sistema artificial.
Por su parte, organizaciones de la sociedad civil tales como Uni Global Union (2017), exigen que los
sistemas de inteligencia artificial sean transparentes, sirvan a las personas y al planeta, siempre
tengan al mando a un humano, se puedan garantizar de manera imparcial sin importar el género, sean
seguros, justos y garanticen las libertades y derechos ya existentes. En otras palabras, que cuenten
con una “caja negra de ética” que contenga los datos relevantes para garantizar los bienes ya
enunciados y que al mismo tiempo incluya las consideraciones éticas integradas al sistema. En este
mismo sentido, The Public Voice Coalition (2018) declara que se debe garantizar en los sistemas de
inteligencia artificial, los derechos a: la transparencia, la determinación humana, la identificación de
los responsables, la equidad, la rendición de cuentas, la calidad de los datos y la seguridad pública y
en el ciberespacio.
Por su parte, empresas privadas como IBM (2019) han considerado cinco áreas de atención ética en
la inteligencia artificial, a saber, la responsabilidad, la capacidad de explicación, la justicia, el respeto
por los datos de los usuarios y alineación de valor en sus sistemas. Asimismo, Telia Company (2019)
ha considerado como pilares de su compañía, desarrollar sistemas que estén centrados en el ser
humano, sean respetuosos de los derechos ya existentes, estén controlados por el humano, sean
responsables, seguros, transparentes, justos y equitativos y estén sometidos a una constante revisión.
Igualmente, IA Latam (2019) ha declarado como principios éticos, velar porque la inteligencia artificial
esté al servicio de los individuos y la sociedad, sus desarrollos sean responsables con el impacto que
producen, estén en constante evaluación, siempre protejan el derecho a la privacidad de sus usuarios,
respeten la legislación vigente, la propiedad intelectual y eviten impactos injustos en las personas, en
atención a criterios discriminatorios como raza, género, nacionalidad y orientación sexual. Finalmente,
Telefónica (2018) se compromete a asegurar el respeto de los derechos humanos, que sus sistemas
sean justos, estén sometidos al control humano y garanticen el derecho a la privacidad de sus
usuarios.
Por otro lado, sobresalen en las declaraciones gubernamentales al respecto, la realizada por House
of Lords del Reino Unido (2018), quien considera como presupuestos del diseño de sistemas de
inteligencia artificial el acceso y el control de datos, la anonimización, el fortalecimiento del acceso y
el control, la transparencia técnica, la explicabilidad y la no discriminación. De la misma forma, el
Consejo Japonés de Ciencia, Tecnología e Innovación (2019) considera fundamental la garantía de la
seguridad, la confianza y de principios éticos en general en los sistemas de inteligencia artificial, y el
gobierno de Dubai (2019) considera que dichos sistemas deben ser justos, inclusivos, igualitarios y no
discriminatorios, responsables y supervisados para evitar cualquier afectación o consecuencia
indeseada.
Por último, una organización que reúne múltiples actores interesados, como el Instituto del Futuro de
la Vida (2017), promulgó los Principios Asilomar, los cuales consideran que la inteligencia artificial
debe garantizar en sus sistemas, la seguridad, la transparencia, la responsabilidad, la privacidad, la
libertad y, en general, el respeto por los valores humanos. En síntesis, las declaraciones aquí
enunciadas dan cuenta del debate que el mundo está teniendo sobre el reconocimiento de nuevos
principios y derechos en escenarios de inteligencia artificial, que encuentran justificación en la
amenaza que los mismos pueden representar para los bienes jurídicos tutelados.

En este punto, es importante señalar que, además de las declaraciones ya descritas, también existe
un debate sobre nuevas facetas de derechos ya existentes, que han dado lugar a propuestas de
regulación en la materia. En este sentido y solo a modo enunciativo, es menester señalar que
organizaciones internacionales como la Comisión Interamericana de Derechos Humanos (2017) se
han pronunciado sobre el deber de respetar el derecho a la protección de los datos personales por el
uso de la inteligencia artificial, reconociendo igualmente que en el ámbito americano la protección de
este derecho en estos nuevos escenarios es poca, aun cuando varios Estados lo han adoptado con
un carácter de derecho humano autónomo, aunque interrelacionado con el derecho a la vida privada.
Este es precisamente el caso de Argentina, Chile, Uruguay, México y Colombia, entre otros.
En esta misma línea, la Asamblea General de la ONU (1990) emitió los Principios rectores para la
reglamentación de los ficheros computadorizados de datos personales, los cuales contienen la licitud,
la lealtad, la exactitud, la finalidad, el acceso, la no discriminación, la seguridad, el control y las
sanciones como principios. Por otro lado, la ONU también promulgó una resolución referente al
derecho a la privacidad en la era digital en la que exhorta a las empresas y a los Estados a tomar
medidas encaminadas a la protección de este derecho en escenarios digitales. Sobre el mismo tema,
la Unión Europea (2016) expidió una resolución relativa a la protección de las personas físicas en lo
que respecta al tratamiento de datos personales y a la libre circulación de estos datos. De otro lado,
el Estado de California (2018) profirió una Ley de Datos personales muy novedosa, en tanto
comprende la protección de este derecho en escenarios digitales.
Por su parte, derechos como la igualdad y la libertad también han sido objeto de análisis por las
instituciones que analizan las nuevas facetas que desarrollan los derechos en escenarios digitales.
Así, la Comisión Interamericana de Derechos humanos, se ha referido a la libertad de expresión en
medios digitales y, la preocupación por evitar sesgos discriminatorios y sistemas desiguales ha sido
un tema recurrente en los debates actuales sobre inteligencia artificial. Al respecto, se debe señalar
que los debates aquí descritos no tienen el mismo nivel de desarrollo en Latinoamérica que en el resto
del mundo, pues en la primera es incipiente la regulación de orden regional en el tema, que establezca
directrices para los gobiernos nacionales.

Finalmente, en Colombia la inteligencia artificial ha sido un tema poco abordado por las autoridades
públicas. Al respecto, mediante un documento CONPES, se expidió la Política Nacional para la
Transformación Digital e Inteligencia Artificial en el año 2019, la cual tiene como centro la
transformación digital, al reconocer que es un fenómeno que está cambiando radicalmente la sociedad
y es uno de los principales motores de la Cuarta Revolución Industrial. En este sentido, la política en
mención pretende, primero, disminuir las barreras que impiden la incorporación de tecnologías
digitales, tanto en el ámbito empresarial como en las entidades del Estado; segundo, crear las
condiciones habilitantes para la innovación digital, privada y pública como medio para aumentar la
generación de valor económico y social mediante nuevos procesos y productos; tercero, fortalecer las
competencias del capital humano que faciliten la inserción de la sociedad colombiana en la Cuarta
Revolución Industrial; y finalmente, desarrollar condiciones habilitantes para preparar a Colombia para
los cambios económicos y sociales que conlleva la inteligencia artificial, reconociendo esta tecnología
como un acelerador clave de la transformación digital.
En el ámbito legislativo, es insuficiente y precaria la legislación en la materia, pues en lo referente a la
inteligencia artificial aún no existe ninguna ley en el país que establezca lineamientos claros, ni que
imponga obligaciones o reconozca nuevos derechos en estos nuevos escenarios. Por último, a nivel
jurisprudencial la Corte Constitucional ha reconocido que la existencia de la realidad virtual no significa
que los derechos también lo sean, por el contrario, se trata de garantías expresas que el juez
constitucional está llamado a proteger aún en el ciberespacio o en escenarios digitales (Corte
Constitucional, 2013). Al respecto, se han proferido varias sentencias desde el año 2013, en las que
se han resuelto problemas jurídicos que surgen por la vulneración de derechos ya reconocidos en
escenarios digitales. No obstante, también se ha reconocido el carácter incipiente de la jurisprudencia
constitucional en materia de internet, redes sociales, plataformas, aplicaciones, herramientas digitales
e inteligencia artificial y el estado de construcción en el que se encuentra el análisis del conflicto de
derechos humanos en estos escenarios (Corte Constitucional, 2017).
De esta manera, es pertinente concluir que aún el Estado colombiano no ha dado una respuesta
integral al surgimiento de nuevos derechos con ocasión del uso de la inteligencia artificial, aun cuando
ya a nivel internacional el tema está en debate y se han logrado avances no solo a nivel estatal, sino
también en escenarios privados como los liderados por las empresas tecnológicas, y en espacios
deliberativos y decisorios como las organizaciones de la sociedad civil y las de derecho público
internacional. En síntesis, es el vacío jurídico aquí identificado en el ordenamiento jurídico colombiano
el que da lugar a plantear la necesidad de reconocer el control humano como un derecho en Colombia,
a partir de las consideraciones teóricas que a continuación se describen.

3.3 Aproximación teórica al control humano

Lo primero que se debe señalar sobre el control humano es que es un concepto en construcción. Las
aproximaciones teóricas que sobre el mismo se han hecho provienen de empresas, organizaciones
civiles e internacionales y gobiernos, que han reconocido la necesidad de controlar los sistemas de
inteligencia artificial. En este sentido, se ha entendido por control humano la capacidad de que
intervengan seres humanos durante el ciclo de diseño del sistema de inteligencia artificial y en el
seguimiento de su funcionamiento, con el fin de evitar un impacto negativo en los derechos humanos
y facilitar el cumplimiento de objetivos tales como seguridad, protección, transparencia, capacidad de
explicación, justicia, no discriminación y, en general, la promoción de valores humanos dentro de los
sistemas de inteligencia artificial (The Public Voice Coalition, 2018).
El control humano comprende la supervisión, participación, revisión y determinación humana, esto es,
que los sistemas permanezcan siempre bajo el control humano, incluso de manera ex post con la
revisión de las decisiones que dichos sistemas determinen, siempre impulsados por consideraciones
basadas en valores (The Public Voice Coalition, 2018). Al respecto, organizaciones como el
Observatorio Iberoamericano de Protección de Datos (2008) han reconocido la necesidad de prohibir
que cualquier decisión que afecte a una persona se adopte exclusivamente por medio de sistemas
automatizados, sin intervención de otra persona humana con potestad decisoria para cada caso
concreto.
Por su parte, IBM (2019) considera que el juicio humano juega un papel fundamental en un sistema
aparentemente objetivo de decisiones lógicas. Son los humanos quienes escriben algoritmos, quienes
definen el éxito o el fracaso, quienes toman decisiones sobre los usos de los sistemas y quienes
pueden verse afectados por los resultados del mismo. Cada persona involucrada en la creación de
inteligencia artificial en cualquier caso es responsable de considerar el impacto del sistema en el
mundo, al igual que las empresas que invierten en su desarrollo. Para esto, los diseñadores y
desarrolladores de la inteligencia artificial deben implementar mecanismos y salvaguardas, como la
capacidad de determinación humana, que sean apropiadas al contexto y consistentes con el estado
del arte (OCDE, 2020)
Entre tanto, el G20 (2019) formula la determinación humana en términos de derechos, toda vez que
considera que las personas tiene derecho a una determinación final hecha por una persona, para lo
que es necesario que los actores de inteligencia artificial implementen mecanismos que apunten a
este fin, que sean apropiados al contexto, para esto, los humanos deben elegir cómo y si delegar
decisiones a los sistemas de inteligencia artificial. En suma, hablar de control humano es hablar de
un monitoreo humano constante sobre el conjunto de datos y algoritmos que son insumos para el
sistema de inteligencia artificial y sobre el desarrollo del mismo (Telia Company, 2019).
En este escenario, surgen dos preguntas para comprender el alcance del control humano como un
derecho. La primera pregunta es ¿por qué es necesario el control humano en los sistemas de
inteligencia artificial?, para luego responder a la pregunta, ¿para qué el control humano en la
inteligencia artificial? Como respuesta a la primera pregunta, esto es, al porqué del control humano,
cabe señalar que los sistemas de inteligencia artificial son máquinas sintácticas y no semánticas, lo
que significa que pueden realizar acciones y manipulaciones, pero sin atribuirles ningún significado,
de esta manera este último solamente es dado por los operadores humanos. Al ser máquinas
irreflexivas, no pueden analizar ni comprender las implicaciones éticas de su comportamiento (King,
et.al 2019).
Dicha condición se debe a que el ser humano solamente interviene en los sistemas artificiales al
momento de su diseño, con la programación de los algoritmos que determinan el funcionamiento del
sistema, pero una vez este entra en operación el humano asume un rol secundario. Esto, encuentra
justificación en la naturaleza misma de la inteligencia artificial, pues, como ya se anticipó, tiene la
capacidad para aprender de manera autónoma, sin intervención humana. En este sentido, la respuesta
a la primera pregunta, radica en la naturaleza de los sistemas, esto es, que son autónomos, toda vez
que su sistema ya ha sido programado a través de algoritmos, pero como máquinas sintácticas y no
semánticas.
Ahora bien, es aquí cuando cobra relevancia la segunda pregunta sobre el para qué del control
humano. Al respecto, Telefónica (2018) ha señalado que los sistemas de inteligencia artificial deben
permanecer siempre bajo el control humano, para que no generen ningún impacto negativo en los
derechos humanos, e IBM (2019) considera que la intervención humana se hace necesaria para
minimizar sesgos algorítmicos, como los ya descritos en esta investigación. Por su parte, el G20 (2019)
señala que el control humano es una garantía de la inteligencia artificial centrada en el ser humano,
para, en últimas, lograr una sociedad inclusiva, segura, confiable e innovadora aún en escenarios
artificiales.

Del control humano también se desprenden otros beneficios tales como ser diseñados y operar para
cumplir con las leyes existentes, controlar los datos ingresados y la privacidad de sus titulares y tener
la posibilidad de recibir una explicación sobre los procedimientos utilizados para la construcción de los
sistemas (Uni Global Unión, 2019). Esto último encuentra relación con la necesidad de informar al
usuario en un lenguaje claro y comprensible sobre las soluciones ofrecidas por las herramientas de
inteligencia artificial, cualquier procesamiento realizado y, en últimas, tener derecho a objetarlo
(CEJEP, 2018). Esta claridad y una mayor comprensión digital ayudarán al público a experimentar las
ventajas de la IA, así como a optar por no usar dichos productos si tienen duda, lo que se refiere
también a un principio de transparencia, a partir del cual todas las personas tienen derecho a conocer
la base de una decisión de inteligencia artificial que les concierne. Esto incluye el acceso a los factores,
la lógica y las técnicas que produjeron el resultado.

En general, los sistemas de inteligencia artificial pueden tanto favorecer los derechos fundamentales
como obstaculizarlos. En situaciones en las que existan riesgos, deberá implementarse el control
humano para identificar, prevenir, mitigar y explicar cómo se abordan los impactos sobre los derechos
humanos y cómo se manejan dichos riesgos. En síntesis, el control humano es un presupuesto para
respetar los derechos humanos y los valores democráticos durante todo el ciclo de vida del sistema
de inteligencia artificial, estos incluyen libertad, dignidad y autonomía, privacidad y protección de
datos, no discriminación e igualdad, diversidad, justicia y derechos laborales internacionalmente
reconocidos.
Igualmente, el control humano debe ser el mecanismo veedor de la alineación de valores en los
sistemas que son altamente autónomos, de modo que siempre sean congruentes con los principios
jurídicos y compatibles con la dignidad humana, derechos, libertades y diversidad cultural. Así, la
súper-inteligencia solo debe desarrollarse al servicio de ideales éticos ampliamente compartidos, para
el beneficio de toda la humanidad (Instituto del Futuro de Vida, 2017) y se deben contrarrestar las
aplicaciones potencialmente dañinas o abusivas (IA Latam, 2019).
4. Conceptualización del derecho al control humano

4.1 Reconocimiento del control humano como derecho

Formular una propuesta de regulación del control humano como derecho, supone antes, superar una
primera tarea, que consiste en referirse a su reconocimiento como tal. Esto quiere decir que, para
regular un derecho este primero debe estar reconocido en el ordenamiento jurídico colombiano o, por
lo menos, se debe aclarar y justificar la manera como se debe llevar a cabo este reconocimiento,
asunto que será abordado en el presente apartado.
Para esto, es necesario referirse a la categoría jurídica de Derecho subjetivo, entendida como toda
situación que, al ser objeto de valoración positiva, entendida como reconocimiento, por el
ordenamiento jurídico, habilita a un sujeto individual o colectivo para reclamar a otro, el cumplimiento
de determinados deberes de dar, hacer o no hacer. De esta manera, tener un derecho subjetivo
significa que para alguien existe una facultad derivada de una norma jurídica para exigir de otra
persona o institución el cumplimiento de un deber específico impuesto por el derecho positivo, aun
mediante el ejercicio de una acción judicial (Chinchilla, 2009).
Así, reconocer el control humano en principio, como un derecho subjetivo, implica que en virtud de él
nace una posición ventajosa y legítima para su titular, a partir de la cual puede exigirles a otros sujetos
de derecho, ciertas conductas de acción y omisión, con el propósito de salvaguardar el contenido de
ese derecho. Cabe señalar que, todos estos elementos serán desglosados y desarrollados en la
presente investigación.
En este escenario, se debe señalar que, del reconocimiento del control humano como un derecho, se
derivan por lo menos tres asuntos importantes. El primero de ellos es la situación ventajosa que se
predica de su titular, esto es, la facultad que adquiere en virtud del nuevo derecho de exigir el
cumplimiento de deberes de dar, hacer o no hacer de otro sujeto determinado o de la comunidad en
abstracto. Esto quiere decir que el titular del derecho asume una posición privilegiada respecto de las
demás personas, en función de la cual puede sacar partido y que se concreta en un conjunto de
facultades.

Correlativo a esta situación, surge el segundo asunto importante, que se refiere a una posición de
deber u obligación respecto al titular del derecho, de quien está llamado a garantizar la protección del
mismo. Esta posición puede ser compartida, para el derecho que aquí se trata, tanto por quien está
llamado a controlar, como por quien debe ser controlado, sujetos que serán diferenciados más
adelante. Por lo pronto, basta con señalar que se debe identificar un sujeto obligado sobre el que
recaen las cargas o limitaciones de conducta que del derecho se deriven, el cual está llamado a cumplir
deberes de dar, hacer o no hacer, tanto específicos como generales, que constituyen el correlato
obligacional del derecho y que van surgiendo en cada situación fáctica a partir de la afirmación de
este.
El tercer asunto importante que se deriva del reconocimiento del control humano, consiste en el
contenido mismo del derecho, es decir, la zona central y mínima de la conducta protegida sin la cual
se desnaturalizaría el derecho. En otras palabras, los valores o principios ético-políticos explícitos o
implícitos, de los cuales el derecho es concreción inmediata y necesaria.
Estos elementos responden a la idea de los derechos como relaciones tríadicas, conformadas por tres
elementos: (i) el titular del derecho; (ii) el destinatario del derecho y; (iii) el objeto del derecho (Cruz,
2007). No obstante, cabe agregar un último asunto, que son las garantías con las que cuenta el titular
para hacerlo exigible, esto es, los mecanismos judiciales y administrativos que el Estado debe poner
a disposición del titular para que este haga cumplir su derecho, frente a terceros.
Por su parte, señala Chinchilla (2009) que la existencia de un derecho subjetivo supone que deben
cumplirse las siguientes condiciones:

 Adopción de decisiones políticas (legislativas, ejecutivas o internacionales) con un

importante componente de preferencias éticas complejas.
 Condensación de los valores supremos preferidos en un criterio normativo de mayor
densidad que el de un simple razonamiento axiológico, a fin de que pueda fundamentar
decisiones judiciales altamente riesgosas en la conducción del Estado.
 Formación de un alto consenso ético político entre la opinión jurídica calificada.
Trasladar estas condiciones al reconocimiento del control humano como un derecho supone, en
últimas, darle un alto contenido ético y político al nuevo derecho, a saber, justificar axiológicamente la
necesidad de reconocerlo, para suplir una insuficiencia que no puede ser satisfecha con los derechos
hasta ahora reconocidos en el ordenamiento jurídico. Esta comprensión de los derechos significa dotar
de elementos estructurales del discurso moral de la comunidad al nuevo derecho, para pasar de ser
una moralidad social a una positivizada; lo que en palabras de Hart, significa que tener un derecho, es
tener una justificación moral para exigir alguna libertad de acción para uno mismo (Chinchilla, 2009).

Lo hasta aquí señalado significa que, para llegar al reconocimiento del control humano como un nuevo
derecho, se debió pasar por un examen ético o axiológico del mismo, con el fin de dotarlo de una
dimensión ética y darle vigencia social. Dicha justificación para el caso concreto se deriva de la relación
que el control humano tiene con otros derechos ya reconocidos, muchos de ellos fundamentales, como
lo son la igualdad, la libertad de expresión, la privacidad y el debido proceso; esto es, que el control
humano tiene un carácter instrumental para proteger en escenarios de inteligencia artificial los
derechos ya existentes.
Como su nombre lo indica, la justificación del nuevo derecho se deriva de la necesidad de mantener
la presencia y el control humano en los desarrollos de inteligencia artificial con el fin de prevenir,
atender y remediar las afectaciones a derechos fundamentales que de los mismos se desprendan. Lo
anterior, bajo la premisa que por la naturaleza autónoma de la inteligencia artificial, se pierde el control
o supervisión humana de los sistemas, que pueden generar vulneraciones a intereses jurídicamente
tutelados, sin ser advertidos previamente por un humano.
Ahora bien, en este punto surgen dos cuestionamientos referentes al reconocimiento del control
humano. En primer lugar, lo relativo a la necesidad de crear un nuevo derecho para lograr el propósito
señalado, pues cabe preguntarse si acaso no bastaría con hablar de los derechos ya reconocidos pero
en escenarios no análogos, sino de inteligencia artificial. En otras palabras, parte de la justificación del
reconocimiento del derecho al control humano pasa por superar la cuestión de si es necesario crear
un nuevo derecho para proteger los que ya existen, ahora en los sistemas de inteligencia artificial, o
si es suficiente hablar de una nueva dimensión de cada uno de los derechos ya existentes pero en
escenarios artificiales.

La respuesta a esta pregunta es que no es suficiente con hacer extensivos los derechos ya existentes
para asegurar la defensa de los mismos en escenarios de inteligencia artificial, lo que responde a la
naturaleza de esta última. Lo anterior, quiere decir que, a diferencia del mundo análogo y de los
escenarios de interacción hasta ahora conocidos, en la inteligencia artificial hay un alto grado de
autonomía de los sistemas tecnológicos, que desplazan el rol que el ser humano desempeña en los
mismos. Esto significa que solo hacer extensivos los derechos ya existentes sería una respuesta
jurídica insuficiente para asegurar su tutela, en la medida en que la intervención del derecho se
limitaría a los derechos ya existentes, desconociendo la posibilidad de reconocer nuevos derechos en
estos escenarios digitales, los cuales, probablemente, logren responder con mayor acierto a las
nuevas necesidades.
En este sentido, el control humano representa una respuesta oportuna o si se quiere anticipada a la
amenaza o vulneración inminente que suponen los sistemas de inteligencia artificial para los derechos,
pues, como se ha evidenciado reiteradamente en esta investigación, la IA, al ser un desarrollo humano
es igual de imperfecto a este e, inevitablemente, además de sus efectos benéficos para la humanidad,
también trae consigo consecuencias indeseadas para los derechos humanos. Así, el control humano
sintetiza en un solo derecho la intención de proteger los demás derechos ya existentes en escenarios
de inteligencia artificial y acompañarlo de una serie de obligaciones en cabeza del Estado y de las
empresas, así como de garantías judiciales y administrativas, lo cual puede asegurar la tutela efectiva
de los derechos, que de manera independiente perderían fuerza o se diluirían en los nuevos
escenarios de inteligencia artificial.
En este punto surge el segundo cuestionamiento enunciado, referente a la amenaza que puede
representar el reconocimiento del control humano como un derecho para la naturaleza misma de la
inteligencia artificial. Esto significa que, controlar excesiva o desproporcionadamente la inteligencia
artificial puede ser contraproducente, en la medida en que se generarían desincentivos para
desarrollar la inteligencia artificial y afectaría la autonomía propia de la inteligencia artificial; escenario
que es indeseado en cualquier sociedad moderna del siglo XXI, en la que la tecnología cobra cada
vez más fuerza y, particularmente, en la sociedad colombiana, que se encuentra relegada respecto a
grandes potencias mundiales con altos desarrollos en IA. De esta manera, controlar
desproporcionadamente la inteligencia artificial, podría representar un incentivo negativo para nuevos
desarrollos, cuando lo que se quiere es que estos se sigan dando, pero con un enfoque de derechos
humanos.
En este sentido, es necesario encontrar un punto de equilibrio entre el control humano y la autonomía
de la inteligencia artificial, para evitar que esta última se desnaturalice, pues carecería de todo sentido
controlar de tal manera los sistemas de inteligencia artificial, hasta el punto de desdibujar la autonomía
que han alcanzado y que son el resultado de décadas de investigación y desarrollo científico, esto es,
no tiene sentido que la IA sea tan intervenida humanamente hasta el punto que pierda el propósito
para el que fue creada. El punto de equilibrio entre estos dos asuntos se alcanza de acuerdo a las
obligaciones que del control humano se desprendan, tanto para el Estado como para las empresas y
privados responsables de la inteligencia artificial, así como de las facultades que en virtud del derecho
se le concedan a sus titulares y que pueden hacer exigibles a través de las garantías proporcionadas.
Los anteriores cuestionamientos son relevantes tanto para reconocer el control humano como un
derecho, como para formular una propuesta de regulación del mismo, por lo que serán desarrollados
en los siguientes apartados. No obstante, con lo hasta ahora señalado, se puede afirmar que, el control
humano como un derecho supone reconocerlo como una respuesta vanguardista de los
ordenamientos jurídicos para garantizar la defensa de los derechos, principios e intereses
jurídicamente tutelados hasta el momento, ya no en una realidad análoga sino en una regida por la
inteligencia artificial. Así, otorgarle la categoría de derecho al control humano, significa reconocer en
él la intención que contiene cada derecho hasta ahora reconocido: la tutela de la dignidad humana a
todas las personas y dotarlo de las características propias de cualquier derecho.
En consonancia con lo anterior, es necesario justificar la existencia del control humano como un
nuevo derecho, para lo que, según Beitz (2012), se debe: a) mostrar que los objetivos que persigue
son valiosos; b) evaluar si las normas que lo consagran pueden cumplir con la función de promover
dichos objetivos y c) determinar quiénes son los agentes que deberían actuar para proteger tal derecho
y cuáles son las razones por las que deberían hacerlo. Si tal cosa puede ser llevada adelante con
éxito, entonces se habrá brindado una justificación del derecho (Beitz, 2012).
En atención a estos criterios, en el presente apartado solo se abordará el primero de ellos, –mostrar
que los objetivos que persigue son valiosos–, con la intención de desarrollar los dos restantes en los
siguientes apartados de la presente investigación. De esta manera, sobre los objetivos que persigue
el control humano como un derecho se debe mencionar que el mismo pretende: (i) garantizar la tutela
de los derechos humanos ya reconocidos en los sistemas de inteligencia artificial; (ii) asegurar la
veeduría e intervención humana en el diseño y desarrollo de los sistemas de inteligencia artificial y;
(iii) corregir cualquier amenaza o vulneración de los derechos humanos en los sistemas de inteligencia
artificial. Tales objetivos se describirán a continuación.
(i) Garantizar la tutela de los derechos humanos ya reconocidos en los sistemas
de inteligencia artificial
Como se ha evidenciado, los sistemas de inteligencia artificial son tan imperfectos como el mismo
ser humano, y es que, al ser una creación suya, representan y reproducen los mismos sesgos,
amenazas o vulneraciones sobre los derechos humanos que se pueden atribuir a las personas.
La libertad, la igualdad, la privacidad y el debido proceso, son derechos que constantemente se
encuentran en riesgo en el diseño y desarrollo de los sistemas de inteligencia artificial, bien sea
porque son programados con sesgos y datos contradictorios de los derechos humanos o, porque
en virtud de su autonomía y en ejercicio de sus capacidades de aprendizaje autónomo, absorben
de la interacción con el mundo tanto los elementos positivos, como los negativos, sin la existencia
de filtros o criterios claros de discernimiento al respecto.
Es por esto que surge la necesidad de mantener un control, vigilancia o si se quiere inspección
humana en el diseño y desarrollo de la inteligencia artificial, no para limitar su autonomía, situación
que sin duda iría en contravía de su propia naturaleza, sino para garantizar que un ser humano
estará interviniendo los sistemas con el único propósito de evitar cualquier acción u omisión que
de los mismos se derive, aspecto que puede vulnerar o, por lo menos, amenazar los derechos
humanos ya reconocidos en el ordenamiento jurídico.
En este sentido, la justificación del control humano como derecho no es autónoma, sino que radica
en su carácter instrumental, en tanto su existencia per se no tiene un sentido jurídicamente válido,
sino que todo se debe a su conexidad con otros derechos humanos, muchos de ellos
fundamentales, y con el propósito de asegurar su tutela en sistemas de inteligencia artificial. De
esta manera, lo que se busca con el control humano es extender las garantías, recursos y
vigilancia de la que hasta el momento son titulares todos los seres humanos en el mundo análogo,
a un mundo si se quiere, artificial, que hasta el momento es regido por los intereses privados de
las empresas y por las relaciones particulares entre productores, distribuidores y, en últimas,
consumidores, pero en las que la intervención estatal es mínima o hasta inexistente.
Hay que decir que el control humano surge como una respuesta jurídica a una necesidad pública
y, al mismo tiempo, a una obligación estatal. Es una necesidad pública la intervención de las
autoridades para preservar los derechos humanos en escenarios hasta ahora dominados por
agentes no estatales, como las empresas, para asegurar la defensa de los derechos humanos.
Esto quiere decir que es una necesidad que todas las personas encuentren garantizados y
protegidos sus intereses y derechos humanos en los desarrollos de inteligencia artificial ya
existentes y en los futuros, a partir de una cláusula de protección genérica y maleable a las
circunstancias y desarrollos tecnológicos, como el derecho al control humano, pues esta última
categoría le da la posibilidad de adaptación a las situaciones previstas, pero también a las
imprevisibles, pero posibles, debido a la velocidad con la que se desarrollan los sistemas de
inteligencia artificial.
Finalmente, el sentido del control humano como derecho responde a una obligación estatal, que,
como ya se advirtió, se encuentra para el caso colombiano en el artículo segundo de la
Constitución Política. En virtud de este, es una obligación del Estado “garantizar la efectividad de
los principios, derechos y deberes consagrados en la Constitución”, esto es, asegurar la protección
de los derechos en todas las situaciones, circunstancias o escenarios, que como es lógico, van
evolucionando con el tiempo. Así, el deber de protección estatal y de intervención mediante
instituciones competentes en escenarios de inteligencia artificial cobra cada día más relevancia y
se hace más urgente una respuesta integral por parte del Estado.

(ii) Asegurar la veeduría e intervención humana en el diseño y desarrollo de los

sistemas de inteligencia artificial
Considerar el control humano como un derecho supone la potestad de exigir la intervención de un
sujeto controlador en todas las fases del proceso de creación, desarrollo, distribución y utilización
de los sistemas de inteligencia artificial, con el propósito de evitar vulneraciones o amenazas de
derechos humanos. El objetivo de asegurar la veeduría e intervención humana cumple una función
sobre todo preventiva, es decir, corregir acciones u omisiones de los sistemas de inteligencia
artificial, antes de que se produzca un daño irremediable que represente una vulneración de
derechos.
Lo anterior, significa que la intervención humana debe evitar que se materialicen riesgos ya
evidenciados que atentan contra los derechos humanos. Este objetivo supone, entonces, dos
funciones. En primera instancia, tener la capacidad de advertir riesgos y amenazas de derechos
humanos, a partir de criterios objetivos y de los desarrollos jurídicos hasta el momento existentes,
tanto en la normatividad como en la jurisprudencia colombiana. En segundo lugar, corregir o, si
se quiere, remediar anticipadamente la conducta desviada con el propósito de que se ajuste al
ordenamiento jurídico y se asegure su correspondencia con los derechos humanos ya existentes.
Finalmente, asegurar la veeduría y la intervención humana supone además de lo anterior,
garantizar la presencia y control de autoridades públicas y privadas externas y ajenas a los
desarrolladores de sistemas de inteligencia artificial, en el proceso de diseño y desarrollo de los
mismos, con el ánimo de asegurar la defensa de otros intereses, además de los privados en estos
sistemas. Esto significa que la veeduría debe estar en cabeza de actores estatales, de la sociedad
civil y de otras empresas como pares, que evalúen el respeto de los derechos humanos en los
sistemas de inteligencia artificial, con el fin último de que estos prevalezcan sobre los intereses
particulares y lucrativos de las empresas. Para todos los casos, los responsables deben ser
sujetos especializados, idóneos e imparciales.
 (iii) Corregir cualquier amenaza o vulneración de los derechos humanos en los
sistemas de inteligencia artificial

A diferencia del objetivo anterior, lo que aquí se pretende con el control humano es que las
personas que ejercen dicho control corrijan las vulneraciones que los sistemas de inteligencia
artificial han producido. Esto pretende anunciar que, el control humano no solo implica una tarea
preventiva sino también correctiva, cuando aun siendo diligentes en la protección de derechos, se
produjo una afectación a los mismos.
La manera como la prevención y la corrección se deben desarrollar se abordará en los siguientes
apartados de la presente investigación. Por lo pronto, basta con señalar que en virtud del control
humano también se debe procurar el restablecimiento de los derechos humanos cuando estos han
sido vulnerados, esto es, devolver a la posición inicial a la persona que ha visto menoscabados
sus derechos e intereses jurídicamente tutelados, por cuenta de los sistemas de inteligencia
artificial.
Finalmente, se advierte que para el cumplimiento de este objetivo se deben tener en cuenta
consideraciones fundamentales tales como el momento en el que se determina la vulneración del
derecho y su relación con la cadena de fabricación, distribución y uso de los productos o sistemas;
la competencia que debe ostentar una persona para decidir la manera y el motivo por el que se
ha vulnerado un derecho humano, sin que esto vaya en detrimento del debido proceso y el derecho
de defensa del supuesto vulnerador y, sobre todo, la determinación de las medidas llamadas a
implementar para restablecer la posición inicial de la persona a la que se le han vulnerado sus
derechos por la inteligencia artificial.
Una vez identificados los objetivos que se esperan alcanzar con la categorización del control humano
como un derecho, lo que se evidencia, además, es que la lista de derechos hasta ahora conocida no
es taxativa y que contrario a esto, los ordenamientos jurídicos deben adaptarse y responder a los
cambios sociales y, en este caso tecnológicos, para asegurar la protección de los principios e intereses
jurídicamente tutelados en cualquier escenario. Al respecto, Beitz (2012), reconoce que los derechos
humanos son una creación novedosa y deben ser concebidos de acuerdo a las funciones que
desempeñan en el discurso político global.
Esta idea sobre los derechos fue aceptada y asumida por el ordenamiento jurídico colombiano al
momento de la redacción de la Constitución Política de Colombia, en la que, en el marco de una
discusión sobre la acción de tutela, se reconoció que la carta de derechos fundamentales no podía ser
taxativa. Se transcribe a continuación la intervención del constituyente Juan Carlos Esguerra:
"... en el artículo de tutela que viene a continuación se estableció que a través de ese
mecanismo se protegerían los derechos fundamentales, entonces, deliberadamente no
incluimos allí una relación de los derechos fundamentales, porque la verdad es que quizá lo
conveniente es dejarle esa labor al legislador más bien que al constituyente; hoy se reputan
fundamentales algunos derechos que quizá mañana no lo sean, como mañana pueden llegar
a tener ese carácter algunos que hoy no hemos imaginado, entonces yo sería partidario y así
 se lo sugerí al doctor Pérez Rubio, de que en esta norma corremos el riesgo de equivocarnos
como ocurre con toda enumeración taxativa a nivel constitucional, se dejara que lo haga la
ley... de manera...que la reglamentación debería comenzar por la determinación de cuáles
son los derechos que van a ampararse a través de ese mecanismo y no correr el riesgo de
petrificar una serie de derechos, cerrando la posibilidad de que el día de mañana aparezcan
otros; donde la ley podría determinar cuales tienen el carácter de fundamentales para efectos
de la tutela..." (Corte Constitucional, 1992)
En esta línea, desde la redacción de la Constitución Política se dejó la puerta abierta a la posibilidad
de que se reconozcan nuevos derechos en el ordenamiento jurídico colombiano, siempre que los
mismos respeten los principios constitucionales. Al respecto, ha señalado la Corte Constitucional que
los principios constitucionales son la base axiológico-jurídica sobre la que se construye todo el sistema
normativo y, en consecuencia, el reconocimiento de derechos. En este sentido, ninguna norma o
institución del sistema puede estar en contradicción con los postulados expuestos en los principios.

En este escenario, los principios constitucionales resultan ser un factor determinador a la hora de
considerar un derecho humano en el ordenamiento jurídico, lo que es relevante no solo para el
reconocimiento de los derechos ya existentes en el ordenamiento, sino que de ahí se deriva el hecho
de que toda la discrecionalidad otorgada a los órganos y creadores del derecho debe estar fundada a
partir del hilo conductor de los principios, para que, en últimas, los derechos sean emanación de los
valores y principios constitucionales (Corte Constitucional, 1992).

La cuestión, entonces, es corroborar que el control humano como un derecho se ajusta a los principios
constitucionales, situación que se evidencia con la evaluación jurídica de los objetivos ya expuestos y
con el análisis de los puntos que más adelante se desarrollarán, tales como la relación del nuevo
derecho con la dignidad humana, el contenido del mismo, las obligaciones estatales y privadas que
de este se derivan y los mecanismos necesarios para que el derecho sea garantizado en el
ordenamiento jurídico colombiano.

En síntesis, reconocer el control humano como un derecho se fundamenta en la necesidad de

preservar la tutela de los derechos ya reconocidos en escenarios de inteligencia artificial. Dicha
necesidad, se circunscribe a una discusión mucha más amplia tanto en tiempo como en espacio, que
se ha adelantado en los últimos años en el mundo, liderada especialmente por las grandes potencias
tecnológicas que llevan la vanguardia en los desarrollos de inteligencia artificial. El llamado entonces
es a que Colombia responda también a las necesidades jurídicas que demandan los desarrollos
tecnológicos que se despliegan en el país, a partir del reconocimiento del control humano como un
derecho.
La propuesta de reconocer en el ordenamiento jurídico colombiano el control humano como un
derecho, responde a una discusión más amplia que se está adelantando en el mundo hace varios
años. Así, la Unión Internacional de Telecomunicaciones (la agencia especializada de las Naciones
Unidas responsable de las TIC) convocó la cumbre "AI for Good" en junio de 2017 para propiciar el
diálogo internacional sobre cuestiones éticas, técnicas, sociales y políticas relacionadas con
inteligencia artificial. El UNICRI (Interregional Crime and Justice Research Institute) también lanzó un
Centro de Inteligencia Artificial y Robótica en 2016, con la misión de mejorar la comprensión de los
riesgos y beneficios de la IA y la robótica.
Por otro lado, la inteligencia artificial fue una parte integral de la agenda de la cumbre del G7 de 2018.
Bajo la Presidencia del G7 de Canadá en 2018, los Ministros de Empleo e Innovación convocaron una
conferencia de múltiples partes interesadas y emitieron una declaración sobre IA que promueve la
inclusión en el desarrollo y despliegue de IA y pide una investigación continua sobre sesgos y
salvaguardas de privacidad. El G7 ha abogado por un desarrollo de la IA que respete la autonomía y
la dignidad humana, a partir de pautas que incluyen principios de transparencia, privacidad, ética y
responsabilidad, invitando a los desarrolladores a tomar las medidas necesarias para no causar una
discriminación injusta como resultado del prejuicio incluido en los datos de aprendizaje de los sistemas
de IA. Las directrices también invocan obligaciones de derechos humanos para que los
desarrolladores garanticen que los sistemas de IA no infrinjan indebidamente el valor de la humanidad,
de acuerdo con el Derecho Internacional de los Derechos Humanos y el Derecho Internacional
Humanitario.
Del mismo modo, la Unión Europea se ha comprometido a redactar pautas de ética de IA y
estableciendo el tono para las discusiones globales sobre IA que respeta los derechos. La Declaración
de la Unión Europea sobre inteligencia artificial también se esfuerza por garantizar un marco legal y
ético adecuado, basado en los derechos y valores fundamentales de la UE, incluida la privacidad y
protección de datos personales, así como principios como la transparencia y la rendición de cuentas.
En Canadá, el Instituto Canadiense de Investigación Avanzada (CIFAR) gestiona la estrategia de
inteligencia artificial pancanadiense. Los objetivos de la estrategia incluyen un liderazgo de
pensamiento global sobre las implicaciones económicas, éticas, políticas y legales de los avances en
inteligencia artificial. Por su parte, el presupuesto del Reino Unido para 2017 destinó 75 millones de
libras a la inteligencia artificial, que incluyen la creación de un nuevo Centro de ética e innovación de
datos para garantizar una innovación segura, ética e innovadora en inteligencia artificial y tecnologías
basadas en datos. El Comité Parlamentario Selecto de Inteligencia Artificial publicó un informe
completo sobre IA que aborda la inteligibilidad, la responsabilidad, la desigualdad y las
consideraciones éticas (The Digital Inclusion, 2018).
Otras potencias tecnológicas, como Estados Unidos, emitieron varios informes sobre las implicaciones
de la automatización en los derechos civiles, con especial atención a las preocupaciones de
privacidad. El informe "Preparándose para el futuro de la IA" plantea inquietudes de imparcialidad,
rendición de cuentas y sesgo. De igual modo, señala la necesidad de una mayor investigación en
inteligencia artificial explicable. Por su parte, la estrategia de China para convertirse en el líder mundial
de IA para 2030 menciona una "estructura de juicio ética y moral de múltiples niveles y un marco ético
de colaboración humano-computadora" y una participación activa en la gobernanza global de
inteligencia artificial (The Digital Inclusion, 2018).
Finalmente, la Comisión Nacional de Información Informática y de Libertades (CNIL) de Francia
propone una nueva generación de "derechos de sistema" para organizar la nueva realidad digital, con
el fin de llevar estos derechos a la arena internacional. De otro lado, Francia formó un grupo de trabajo
de inteligencia artificial y publicó un informe integral, que aborda los aspectos de gobernanza, ética e
inclusión de IA y Japón, ha creado un Consejo de Estrategia de Tecnología de IA para coordinar sus
esfuerzos de IA. La estrategia menciona la protección de datos personales, lo que indica cierta
atención a los derechos de privacidad y ha distribuido entre los miembros del G7 las pautas de
Investigación + Desarrollo que abordan algunas preocupaciones de derechos humanos con IA (The
Digital Inclusion, 2018).
En síntesis, reconocer el control humano como un derecho es el primer paso para ahondar en una
regulación del mismo. Dicho reconocimiento responde a una necesidad pública de proteger los
derechos en escenarios de inteligencia artificial y a partir de este se desprenden una serie de
obligaciones y garantías necesarias para su efectiva tutela. Todo esto responde a la naturaleza abierta
y maleable de los derechos humanos que permiten el reconocimiento de uno nuevo, cuando así lo
demanden las circunstancias y desarrollos sociales, a lo que se le debe sumar las nuevas discusiones
que en el mundo se están dando en torno a la inteligencia artificial y su incidencia en los derechos
humanos.
4.2 Fundamentación del derecho al control humano
Considerar el control humano como un derecho supone desagregar cada uno de los elementos de
esta afirmación, esto es, definir el control humano y conceptualizar los derechos, para, en últimas,
fusionar ambas definiciones hasta identificar el significado y las implicaciones del control humano
como un derecho. En este sentido, en este subapartado se pretende abordar la tarea de conceptualizar
la categoría de derecho, haciendo una fundamentación de la misma.
Los derechos humanos son concebidos como un conjunto de facultades e instituciones que, en cada
momento histórico, concretan las exigencias de la dignidad, la libertad y la igualdad humanas, las
cuales deben ser reconocidas positivamente por los ordenamientos jurídicos, tanto nacionales como
internacionales (Sampaio, 2018). Al ser facultades para sus titulares, los derechos humanos, son
exigencias que pesan sobre los Estados, quienes deben garantizar su respeto y cumplimiento, así
como sancionar las violaciones a los mismos (Beitz, 2012), con el objetivo de corregir patologías tanto
estatales como sociales.
La relación con la dignidad humana y por ella, con la igualdad, la libertad y la autonomía, son la
justificación del reconocimiento de los derechos humanos (Corte Constitucional, 2016), por lo que son
aquellos concedidos a todas las personas, de manera indisponible e inalienable. Son características
de los derechos humanos: (a) la universalidad, en tanto son principios rectores para todos los seres
humanos porque forman parte de su propia esencia, en este sentido, se deben aplicar a toda persona,
grupo o pueblo sin distinción y con independencia del sistema político, ideológico, económico y
sociocultural de los Estados (Lafuente, 2016); (b) la indivisibilidad, puesto que no hay jerarquía entre
los derechos humanos, ni derechos dignos de mejor o mayor tratamiento horizontal. Ello implica que
los Estados tienen la necesidad de tratarlos de manera integral, tomando medidas para garantizar su
vigencia (Lafuente, 2016) y; (c) la interrelación, en la medida que el objetivo final de los derechos
humanos es la mejora de la calidad de vida de las personas. Así, el derecho a la vida implica la garantía
de existencia de condiciones económicas, sociales, culturales y ambientales que aseguren su calidad
(Lafuente, 2016).
De esta manera, todos los seres humanos son iguales para que se les reconozca sin distinción alguna
su dignidad humana y los demás derechos que de ella se desprenden. Así, todos son igualmente
titulares de derechos, pero los verdaderos sujetos de esos derechos son establecidos por las
características de cada una de las sociedades (Sampaio, 2019). Finalmente, se deben reconocer como
(d) inalienables en el sentido que los derechos son tan importantes que sus titulares no pueden
renunciar a ellos, esto es, que no están a la libre disposición de sus titulares.
Como muestra de reconocimiento a tales facultades, se realizó la Declaración Universal de los
Derechos Humanos como la expresión del compromiso moral de la comunidad internacional, mediante
la cual se fijan las bases para el reconocimiento de los derechos humanos y es la referencia para la
asunción de la obligación de garantizarlos por parte de los Estados. Tal Declaración se estableció
como un instrumento que favorece y estimula la cooperación internacional para el respeto de los
derechos humanos y guía e inspira el esfuerzo individual y colectivo en el mundo para respetarlos
(Revilla, 2017).
Lo anterior, resulta ser un elemento trascendental, en tanto la Declaración Universal de Derechos
Humanos resume los derechos que la sociedad considera de suma importancia para cada individuo,
independientemente de su demografía particular, como su cultura, género o circunstancias
socioeconómicas. En suma, se puede definir como un acuerdo ético universal, que sintetiza las
consideraciones moralmente valiosas para los seres humanos (Canca, 2019). La cuestión ahora es
cómo el control humano también comparte las características hasta el momento descritas de los
derechos humanos, esto es, que el control humano también puede ser considerado una facultad
intrínseca a cualquier persona, que se fundamenta en los principios universalmente aceptados.

El control humano está fundamentado en gran medida, en su carácter instrumental que deviene de su
relación con otros derechos, muchos de ellos fundamentales, en escenarios de inteligencia artificial.
La necesidad pública de proteger los intereses jurídicamente tutelados y la correlativa obligación
estatal que de esta necesidad se deriva, son la justificación para que se reconozca el control humano
como un derecho, con las debidas obligaciones y garantías que de este reconocimiento resultan y con
el reconocimiento de las propiedades intrínsecas a los derechos.

De esta manera, la fundamentación del control humano es en esencia ética, puesto que concebir el
control humano como un derecho, es en últimas reconocerlo como un derecho moral, esto es, como
una exigencia ética que se proyecta sobre el mundo del derecho y sirve como justificación para hacer
reclamos sociales. Es por esto, que para Chinchilla (2009) hablar de un nuevo derecho humano es
comprender en él: a) una raíz ética profunda que le dé fundamento en el discurso jurídico, sin el cual
carece de todo significado; b) estar vertido en un lenguaje propio de los enunciados morales y no en
el lenguaje técnico del derecho positivo; c) deducir facultades y obligaciones a partir de él; y d) que su
existencia no depende solo de su positivización sino también de un razonamiento axiológico o ético a
partir de cláusulas morales (Chinchilla, 2009).

En atención a estos elementos, es la relación del control humano con el principio de dignidad el
elemento central que justifica el reconocimiento del primero como un derecho en el ordenamiento
jurídico, pues es la dignidad el valor diferenciador del ser humano y es la base sobre la que se
estructura el Estado Social de Derecho. La dignidad, según Kant, es un requerimiento moral que exige
tratar a toda persona como un fin en sí mismo; de esta manera, de quien se predica la dignidad no
tiene un precio y no admite equivalente (Dulcey-Ruíz, 2015). La dignidad, entonces, es un valor
intrínseco de la persona que es suficiente para merecer el respeto de los demás, idea que escapa a
todo orden jerárquico social o político, pues tiene como presupuesto la igualdad de todas las personas
sin ningún criterio discriminador (Navet, 2018).
Esta idea supone que el ser humano no puede ser considerado ni por el Estado ni por otras personas
como un medio para alcanzar un fin, aun cuando este sea legítimo, pues la persona, por el solo hecho
de serlo, tiene un valor, que no puede ser objeto de transacción, acuerdo o disposición. La dignidad,
como idea moral y filosófica, se consolidó como el fundamento jurídico de los ordenamientos
nacionales e internacionales, particularmente, fue el presupuesto de la Declaración Universal de los
Derechos Humanos, la cual consagra que el reconocimiento de la dignidad es inherente a todos los
miembros de la familia humana y sus derechos iguales e inalienables constituye el fundamento de la
libertad, de la justicia y de la paz en el mundo (Navet, 2018).

De igual forma, cabe mencionar como para la filósofa Adela Cortina, la dignidad humana se refiere no
solo a considerar a la persona como “un fin en sí mismo”, sino también reconocer que cuenta con
autociencia y autoestima, lo que diferencia a la persona de cualquier otro ser. Así, para Cortina la
dignidad comprende la capacidad del ser humano para actuar desde la libertad y para asumir su
responsabilidad. (Cortina, 2018)
Sumado a lo anterior, es valioso resaltar como Cortina traslada este concepto a los nuevos desarrollos
tecnológicos, considerando que la transformación digital debe contribuir a que se logre un mundo en
el que se respete las personas, de modo que la productividad y la eficiencia estén a su servicio, nunca
se permitan menoscabarlas y menos aún anularla, pues la razón moral debe ir por delante de la razón
técnica. De esta manera, el reto es ajustar la tecnología a los valores humanos sin oponerse al
desarrollo, siempre que sus medios sean usados para buenos fines. (Cortina, 2018)
Para el caso colombiano, la Constitución Política consagra la dignidad humana como un principio
transversal a todo el texto, elemento que ha sido objeto de estudio por parte de la Corte Constitucional,
quien se ha apoyado también en la filosofía kantiana y ha defendido la dignidad humana como un
valor intrínseco del ser humano, derivado de la voluntad y de la razón y que hace a la persona un fin
en sí mismo. Lo que significa que el ser humano no tiene equivalencia material y que no puede ser
tratado como un simple medio.

En este sentido, la Corte Constitucional ha sostenido que la dignidad humana se compone de dos
dimensiones: (i) una normativa y otra (ii) funcional, las cuales no son excluyentes, pero sí
complementarias. La dimensión normativa se refiere al conjunto de derechos comprendidos en la
dignidad humana, particularmente: a) el derecho a la autodeterminación o al diseño de un plan de vida
(vivir como quiera); b) el derecho a gozar de condiciones materiales de existencia (vivir bien) y; c) la
intangibilidad de los bienes no patrimoniales, integridad física e integridad moral (vivir sin
humillaciones) (Corte Constitucional, 2019).
La dimensión funcional se refiere a la dignidad como un elemento definitorio del Estado Social de
Derecho y de la democracia constitucional, lo que significa que no solo implica un conjunto de
derechos sino también unos principios, en virtud de los cuales se ha reconocido que la dignidad
humana es el valor supremo del Estado Social de Derecho (Corte Constitucional, 1992) que tiene
varias acepciones: la dignidad como valor, como principio constitucional y como derecho. La dignidad
como valor, entendido como el principio fundante del ordenamiento constitucional es la base axiológica
o de fundamentación de todos los demás derechos, sobre todo fundamentales.
Por su parte, la dignidad como principio constitucional responde al deber positivo del Estado según el
cual todas las autoridades, sin excepción, deben en la medida de sus posibilidades jurídicas y
materiales, realizar todas las conductas relacionadas con sus funciones constitucionales y legales.
Finalmente, la dignidad como derecho fundamental autónomo, que la Corte ha traducido en las
protecciones concretas a la igualdad en el trato digno (Quinche, 2015). En este panorama normativo,
la dignidad es sobre todo un derecho de aplicación directa que guarda una estrecha relación con el
cumplimiento eficiente de las obligaciones del Estado y la eficacia de los demás derechos, por lo que
la dignidad del ser humano constituye razón de ser, principio y fin último de la organización estatal.
El control humano no es una excepción a este principio, por el contrario, es la dignidad humana parte
central de su justificación, pues con la inteligencia artificial, el ser humano ha sido instrumentalizado
como un medio para alcanzar otros fines y ha dejado de concebirse como un fin en sí mismo. Esta
afirmación se justifica en que ciertas empresas y desarrolladores de inteligencia artificial han utilizado
estos sistemas para satisfacer o alcanzar intereses privados a costa de la vulneración de derechos
fundamentales.
Muestra de lo anterior, son, a modo de ejemplo, las situaciones en las que mediante sistemas de
inteligencia artificial se obtiene información personal de los usuarios y consumidores, sin su
conocimiento ni autorización para fines comerciales, vulnerando el derecho a la privacidad; cuando se
hace uso de la información recopilada en sistemas de big data para la creación de índices de medición
para acceso a derechos de educación, trabajo y salud, a partir de datos con sesgos discriminatorios.
Cuando los sistemas de inteligencia artificial utilizados para la toma de decisiones jurídicas privilegian
la agilidad, celeridad y economía sobre el derecho y principio al debido proceso o cuando se censuran
expresiones en medios digitales de manera arbitraria, por decisores de inteligencia artificial,
vulnerando el derecho a la libertad de expresión.
Es ahí entonces cuando surge la necesidad de reconocer el control humano como un derecho, con el
objetivo de garantizar no solo la protección de los derechos fundamentales anteriormente
mencionados, sino en últimas, el principio de dignidad, como el eje transversal del ordenamiento
jurídico colombiano, que tiene una vocación de aplicación directa no solo en la realidad análoga, sino
también artificial, al ser un principio superior a todos los demás, hasta el punto de presentársele como
fundamento de los demás principios y derechos fundamentales.
El llamado es a que los desarrollos de inteligencia artificial no solo satisfagan la evolución tecnológica
ni los intereses privados de quienes la lideran a costa de los derechos fundamentales de quienes la
usan, sino más bien que, desde su desarrollo hasta su uso, la inteligencia artificial se ajuste a los
postulados jurídicos del ordenamiento colombiano. Esto se fundamenta en la defensa del principio de
dignidad y la incidencia que la misma puede tener en el ejercicio de los derechos fundamentales.

En este sentido, hasta ahora se ha hecho evidente una tensión entre los desarrollos de la inteligencia
artificial y los postulados constitucionales, que rigen el Estado colombiano, en tanto los primeros son
una real y potencial amenaza al ejercicio de derechos e intereses jurídicamente tutelados hasta el
momento, pero ahora en escenarios artificiales, caracterizados por la ausencia regulatoria. De esta
manera, se propone el derecho al control humano como una respuesta conciliatoria para la
mencionada tensión, a partir de la cual se garantice la defensa de los principios constitucionales en
escenarios de inteligencia artificial.
La dignidad humana es, entonces, el punto de partida y de fundamentación del control humano, a
partir de la cual se justifican las obligaciones en cabeza del Estado y de los particulares, que surgen
como consecuencia del reconocimiento y la regulación de un nuevo derecho, así como las
prerrogativas que ostentan los titulares del mismo y que los facultan para hacer exigible el derecho
ante las autoridades competentes, mediante los mecanismos diseñados para tal fin. La dignidad es un
derecho que implica obligaciones de dar, hacer y no hacer por parte del Estado (Corte Constitucional,
2006) y que en este caso se materializan a través de la consagración del control humano como un
derecho.
La dignidad es inherente a todas las personas y constituye la base sobre la que se desarrollan los
derechos humanos, es decir, fundamenta la construcción de los derechos de las personas como
sujetos libres e iguales en dignidad y derechos. La inteligencia artificial no es ajena a esta premisa y,
por el contrario, las empresas deben hacer suya esta centralidad, en tanto la calidad de la dignidad
humana representa el eje dinamizador e interpretativo de todo el sistema de protección de los
derechos humanos, lo que implica la búsqueda de asegurar que en toda decisión se aplique el principio
“pro persona”, en aras de alcanzarse el resultado que mejor proteja al ser humano y menos limite la
realización de sus derechos fundamentales (Comisión Interamericana de Derechos Humanos, 2019).

El control humano encuentra justificación en su conexidad con otros derechos fundamentales que no
son más que la materialización del principio de dignidad sobre el que se estructura todo el
ordenamiento jurídico. En este sentido, surge la necesidad de hacer extensiva la aplicabilidad de la
dignidad a escenarios de inteligencia artificial y la respuesta jurídica para esto es el control humano
como un derecho. La persona, en ningún escenario, ni siquiera artificial, es un objeto, por lo que no
puede ser instrumentalizada para que otros satisfagan intereses propios, muchas veces lucrativos
(Corte Constitucional, 2019).
Lo hasta aquí expuesto se debe analizar en clave de un sistema moral en el que el respeto a las
personas es equivalente al respeto de sus derechos, es decir, equivale a pensar en ella como alguien
susceptible de formular demandas de derechos morales básicos. Para el caso colombiano, este
postulado ético respecto a los derechos, se evidencia en el leguaje moral que utiliza la Constitución y
que se debe hacer extensivo al nuevo derecho del control humano de la inteligencia artificial. En este
sentido, a modo de resumen, la fundamentación dogmática del control humano, supone reconocer en
el él los siguientes atributos:

 Un derecho con las mismas características que se predican de los derechos humanos,
tales como inalienable e inherente a la persona, universal, indivisible e interrelacionado.
 Se deriva de principios morales tales como la dignidad humana. Esto quiere decir, que
se debe entender la persona como el centro del sistema, con valor en sí misma, razón
por la cual ha de ser tratada como un fin en sí misma y no como un simple medio para
otros fines, por valiosos que estos sean.
 Su construcción no se limita al reconocimiento legal, sino que el juez realiza una tarea de
descubrimiento mediante un razonamiento axiológico, a partir de la aplicación de los
valores supremos explícitos o implícitos de la Carta que estén en juego en casos
concretos de aplicación del nuevo derecho.

En síntesis, fundamentar éticamente el control humano significa reconocer en él un derecho moral, en

virtud del cual surge una autoridad moral que ostenta el titular para exigir conductas en los demás, a
su favor. Su existencia no depende de un acuerdo o convención social, pero su reconocimiento sí
depende de la voluntad política, a partir de la cual, además de ser un derecho moral, pasa a ser uno
institucional, esto es, un derecho conferido por una norma jurídica que tiene valor tanto por su
contenido como por la autoridad normativa de la que emana. Esto implica que reconocer el derecho
al control humano es el resultado de identificar en él los postulados éticos propios del ordenamiento
jurídico colombiano, por coincidir con el propósito último del Estado Social de Derecho, que es proteger
la dignidad humana de manera absoluta. Pero al mismo tiempo, su reconocimiento es el primer paso
para no tener que justificar su existencia, sino más bien procurar su garantía en nuevos escenarios.
5. Relación del derecho al control humano con derechos fundamentales reconocidos

La inteligencia artificial lejos de ser neutral respecto a los derechos fundamentales, tiene una
incidencia directa sobre los mismos. Positiva o negativamente la inteligencia artificial impacta los
derechos de las personas, incorporándose en las instituciones sociales existentes, tales como el
Estado, las instituciones educativas, los centros de trabajo y el mercado. Cada sistema artificial
impacta una multitud de derechos de formas complicadas y, en ocasiones, contradictorias (Berkman
Klein Center, 2018).

Partiendo de esta base, lo que se propone en este apartado es evidenciar la manera como la
inteligencia artificial se relaciona con los derechos fundamentales, particularmente con cuatro de ellos:
la igualdad, la privacidad, el debido proceso y la libertad de expresión, mediante la identificación de
sus patrones de comportamiento, que dan lugar a la vulneración de dichos derechos. Para esto, se
hará un análisis a partir de situaciones reales que han evidenciado la imperfección de los sistemas de
inteligencia artificial, hechos cotidianos que permean todas las esferas de la vida.
Finalmente, será el control humano el punto de convergencia con la inteligencia artificial, con el
propósito de justificar el carácter instrumental de este nuevo derecho en el ordenamiento jurídico. En
este sentido, se pretende evidenciar cómo es la relación del control humano con otros derechos
fundamentales, la justificación de la necesidad de incluir al primero como un nuevo derecho en el
ordenamiento jurídico colombiano y cómo es menester incluir en su fundamentación y contenido los
principios constitucionales y el sentido mismo del Estado Social de Derecho.

De esta manera, el control humano será el elemento transversal del análisis que a continuación se
presenta, al tiempo que es el elemento de conexión entre los derechos fundamentales ya reconocidos,
que presentan vulneraciones por el uso de inteligencia artificial, y la vigencia y extensión de los
principios constitucionales, a nuevos escenarios tecnológicos. Todo lo anterior, bajo la idea que es el
control humano el punto en el que los principios constitucionales se consolidan y se extienden a los
sistemas de inteligencia artificial, convirtiéndose en una herramienta jurídica que da lugar a nuevas
normas y fundamenta decisiones judiciales.

5.1 Relación del control humano con la igualdad

5.1.1 Igualdad en la inteligencia artificial

Uno de los mayores riesgos de la inteligencia artificial es que sus sistemas se convierten en
mecanismos para perpetuar, amplificar y, en última instancia, osificar los prejuicios sociales existentes,
lo que es a todas luces una vulneración al derecho a la igualdad. A diferencia de los tomadores de
decisiones humanos, que tienen agencia y libre albedrío para cambiar su perspectiva moral con el
tiempo, los sistemas de inteligencia artificial no tienen dichas capacidades, por lo que requieren una
atención constante por parte de los responsables del diseño y operación de dichos sistemas para
asegurar que sus resultados sean equitativos y no discriminatorios. Esta situación responde a que los
sistemas de inteligencia artificial están entrenados para replicar patrones de toma de decisiones que
aprenden de los datos que alimentan dichos sistemas, los cuales pueden responder a prejuicios
humanos existentes y dinámicas de poder arraigadas en las relaciones sociales, perpetuando dichos
prejuicios y reproduciendo condiciones de desigualdad en nuevos escenarios digitales.
Los patrones existentes de discriminación estructural pueden reproducirse y agravarse en situaciones
particulares de estas tecnologías. Por ejemplo, se afirma que los algoritmos inevitablemente toman
decisiones sesgadas, en tanto su diseño y funcionalidad reflejan los valores de su diseñador, lo que
conlleva a que el desarrollo de la inteligencia artificial no sea un camino neutral y lineal (Mittelstadt
et.al, 2016). Igualmente, se afirma que los algoritmos imitan la toma de decisiones humanas y están
capacitados para aprender de los éxitos pasados, lo que puede incluir sesgos existentes. En este
sentido, la discriminación en la inteligencia artificial puede considerarse una expresión consistente y
repetida de una preferencia particular, creencia o valor en la toma de decisiones, lo que a su vez,
ocasiona efectos sociales problemáticos.
Son ejemplos de la perpetuación de estereotipos existentes y de la segregación social producto de la
inteligencia artificial, la utilización de la misma en escenarios de (i) persecución del crimen, (ii)
educación, (iii) acceso a créditos y (iv) acceso al mercado laboral. Así, sobre la (i) persecución del
crimen, cabe mencionar los casos del “big data policing”, el cual es utilizado por las autoridades de
policía para predecir el crimen, con base en determinados perfiles que son construidos a partir de
datos cuya neutralidad racial es seriamente cuestionada, y que, en esa medida, pueden perpetuar
estereotipos discriminatorios (Ferguson, 2017). De esta manera, se debe procurar que los datos y los
sistemas algorítmicos no se utilicen de manera que exacerben las disparidades injustificadas en el
sistema de justicia penal.

Para el caso colombiano, la Fiscalía General de la Nación se encuentra implementando la herramienta

“Prisma”, diseñada para predecir el riesgo de reincidencia criminal de personas capturadas, con el
objetivo de reducir errores en las decisiones sobre medidas de aseguramiento privativas de la libertad.
Con la herramienta Prisma, surgen preguntas acerca de cuáles son las “características del individuo”
que se tienen en cuenta, o si las “capturas previas”, sin distinguir si fueron o no legalizadas, deben ser
parte de las variables tenidas en cuenta para predecir la reincidencia criminal. Lo anterior puede ser
especialmente problemático si se tiene en cuenta que la Corte Constitucional ha considerado
inconstitucional que en estas decisiones se tengan en cuenta aspectos correspondientes al “derecho
penal de autor” en el cual se sanciona a las personas por sus características personales y no por sus
actos. (Fedesarrollo, 2020)
En cuanto a (ii) la educación, al tomar decisiones de admisión, las instituciones de educación superior
pueden usar técnicas de big data para tratar de predecir la probabilidad de que un solicitante se gradúe
antes de ingresar a la universidad. Al usar este tipo de prácticas de datos, algunos estudiantes podrían
enfrentar barreras de admisión porque estadísticamente son menos propensos a graduarse. Las
instituciones también podrían negar a los estudiantes de familias de bajos ingresos u otros estudiantes
que enfrentan desafíos únicos para graduarse, el apoyo que se merecen o que necesitan para pagar
la universidad. Esto, a su vez, crea la preocupación que a medida que las escuelas se apresuran a
reducir costos, algunos solicitantes podrían enfrentar mayores barreras para la admisión si se les
considera indignos de los recursos adicionales que se necesitarían para mantenerlos inscritos
(Executive Office of the President, 2016).
Por su parte, en lo que respecta al (iii) acceso a créditos, puede suceder que al usar sistemas de
inteligencia artificial a partir de criterios como el historial crediticio, se quede por fuera una parte de la
población, por no contar con el suficiente historial de pago de crédito. Adicionalmente, se ha
encontrado una fuerte relación entre los ingresos y un buen puntaje para acceder a créditos, lo que
responde a un criterio sospechoso de discriminación (Executive Office of the President, 2016). En este
sentido, si el big data no se utiliza con criterios objetivos para este tipo de procesos, puede perpetuar
o enmascarar la discriminación ya establecida en la sociedad.

Finalmente, en cuanto al (iv) acceso al mercado laboral, mediante el uso de algoritmos y grandes
conjuntos de datos, se pueden reproducir juicios y suposiciones a la hora de realizar contrataciones
laborales. Aquellos esfuerzos para usar el análisis de datos para crear e implementar herramientas
predictivas deben trabajar duro para garantizar que dichos algoritmos no dependan de factores que
desproporcionadamente seleccionan comunidades particulares en función de características como la
raza, la religión, el nivel de ingresos, la educación u otras entradas de datos que pueden contener
sesgos discriminatorios (Executive Office of the President, 2016).
En atención a lo anterior, se evidencia cómo decisiones con impacto tanto individual como colectivo,
que tradicionalmente eran tomadas por humanos, ahora son tomadas por sistemas de inteligencia
artificial (Oliver, 2018). Dichas decisiones están también compuestas por sesgos discriminatorios y
prejuicios de los humanos, lo que responde en gran medida a errores en los datos. Al respecto, cabe
señalar que son errores (Executive Office of the President, 2016):
(i) Los datos mal seleccionados, donde los diseñadores deciden que ciertos datos son
importantes para la decisión, pero no otros, dejando de considerar condiciones socio-
económicas, acceso a servicios públicos o nivel educativo, como situaciones de
diferenciación entre las personas a la hora de tomar una decisión;
(ii) Los datos incompletos, incorrectos u obsoletos, donde puede haber una falta de rigor
técnico y exhaustividad para la recopilación de datos, o donde pueden existir inexactitudes
o lagunas en los datos recopilados;
(iii) Los sesgos de selección en los datos, donde el conjunto de entradas de datos a un modelo
no es representativo de una población, y por lo tanto, da como resultado conclusiones que
podrían favorecer a ciertos grupos sobre otros;
(iv) La perpetuación no intencional de sesgos históricos, donde un ciclo de retroalimentación
hace que el sesgo en las entradas de datos, se replique en las salidas de un sistema
algorítmico;
(v) Datos que carecen de información o representan desproporcionadamente a ciertas
poblaciones, lo que desemboca en sistemas algorítmicos asimétricos que codifican
efectivamente la discriminación debido a la naturaleza defectuosa de las entradas
iniciales.

5.1.2 El control humano como respuesta a la discriminación en la inteligencia

artificial

Ahora, es importante hacer un análisis más particular sobre la relación que la igualdad tiene con la
inteligencia artificial y la manera como el ordenamiento jurídico, a través del derecho al control
humano, debe responder a las condiciones de desigualdad y discriminación que se pueden presentar
en el uso de los nuevos sistemas de inteligencia artificial.

En este sentido, es conveniente analizar a la luz de los principios constitucionales y la jurisprudencia

constitucional, la forma como en los supuestos fácticos inicialmente descritos se configuran
situaciones de discriminación y desigualdad, como consecuencia del uso de sistemas de inteligencia
artificial. Para esto, la Corte Constitucional ha construido una serie de elementos que permiten
identificar los hechos en los que se está haciendo uso de criterios sospechosos de discriminación para
ir en detrimento del derecho a la igualdad. El primer elemento de análisis propuesto por la Corte
Constitucional que resulta relevante para el presente análisis es considerar los siguientes criterios, a
la hora de tomar cualquier decisión, en este caso, decisiones tomadas por sistemas de inteligencia
artificial. Estos criterios son:
i) Referirse a las categorías prohibidas contenidas en el numeral 1° del artículo 13 de
la Constitución;
ii) Fundarse en rasgos permanentes de las personas, los cuales son irrenunciables,
pues afectan directamente la identidad personal;
iii) Dirigirse contra personas que han estado sometidas, históricamente, a patrones de
valoración cultural que generan posiciones jurídicas inferiores y configuran
condiciones de debilidad manifiesta por integrar grupos marginados o sujetos que
gozan de especial protección constitucional;
iv) Desconocer prima facie un derecho fundamental; e,
v) Incorporar, sin causa aparente, un privilegio exclusivo para un sector de la población,
con el correlativo desmedro en el ejercicio de los derechos de las personas y grupos
que fueron excluidos. (Corte Constitucional, 2017)
En atención a lo anterior, lo primero que aquí se propone es que, en ejercicio del derecho al control
humano, se incluyan los criterios anteriores como filtro de evaluación de las decisiones que se tomen
en virtud de los sistemas de inteligencia artificial. En este sentido, la primera tarea que se debe realizar
es incluir dentro del control humano la potestad para evaluar las pautas sobre las que se fundan las
decisiones de los sistemas de inteligencia artificial, con el fin de identificar en las mismas posibles
condiciones de discriminación. Lo anterior supone que los sistemas de inteligencia artificial no deben
incluir las categorías prohibidas del artículo 13 constitucional, ni reproducir sesgos discriminatorios
respecto a grupos sociales históricamente sometidos o en debilidad manifiesta, como los expuestos
en los supuestos de hecho, inicialmente descritos.
Por su parte, como segundo elemento propuesto, la Corte Constitucional insta a que en cualquier
escenario de distribución de recursos o asignación de oportunidades, se respete el principio de
igualdad mediante el cumplimiento de los siguientes criterios: (i) respetar el principio de igualdad de
oportunidades de todos los interesados; (ii) ser transparentes, (iii) estar predeterminados y (iv) no
afectar desproporcionadamente los derechos de algunas personas. (Corte Constitucional, 2017)
Los anteriores requisitos resultan particularmente importantes en aquellos sistemas de inteligencia
artificial con un carácter predictivo, a partir de los cuales está el juego la asignación de recursos o de
oportunidades, como las que se discuten en procesos de selección laboral, educativo o crediticio y
especialmente, en las decisiones sobre justicia penal en las que está en juego la libertad y buen
nombre de las personas. En otras palabras, en las situaciones en las que se decida mediante sistemas
de inteligencia artificial la concesión de prerrogativas sociales o económicas para una persona, se
debe garantizar que dichos sistemas (i) respeten la igualdad que todas las personas tienen para
acceder a las mismas oportunidades, para lo que se debe considerar las condiciones socio-
económicas y particulares de cada persona, en aplicación del principio que se debe tratar igual a los
iguales y desigual a los desiguales. Asimismo, se debe garantizar que los sistemas de inteligencia
artificial sean (ii) transparentes y (iii) predeterminados, esto es, que los criterios se definan de manera
objetiva y previa a la toma de decisiones, con el fin de evitar favorecer a una u otra persona una vez
ya se han conocido sus condiciones particulares.
Igualmente, se debe evitar que con las decisiones de inteligencia artificial se (iv) afecten
desproporcionadamente derechos de algunas personas, lo que hace referencia al menoscabo de
intereses jurídicamente tutelados, a partir de decisiones desiguales y discriminatorias. En suma, son
estas condiciones las que, en virtud del control humano se deben promover y garantizar cuando los
sistemas de inteligencia artificial tomen decisiones de las que dependan la asignación de recursos o
beneficios entre varias personas.

Finalmente, la Corte Constitucional desarrolla como herramienta metodológica el Test de igualdad, el

cual si bien está diseñado para que los jueces decidan si en situaciones de hecho particulares se ha
vulnerado el principio de igualdad, vale la pena señalar que sus criterios también pueden ser
considerados a la hora de intervenir y evaluar los procesos de inteligencia artificial que desembocan
en decisiones que tienen alguna relación con la igualdad. En este sentido, se debe señalar que para
que un trato diferenciado sea constitucionalmente válido, debe tener un propósito constitucionalmente
legítimo y debe ser proporcional, en el sentido que no implique afectaciones excesivas a otros
propósitos constitucionalmente protegidos.
La proporcionalidad del medio se determina, entonces, mediante una evaluación de su
“idoneidad para obtener el fin (constitucionalmente legítimo de acuerdo con el principio de
razón suficiente); necesidad, en el sentido de que no existan medios alternativos igualmente
adecuados o idóneos para la obtención del fin, pero menos restrictivos de los principios
afectados; y proporcionalidad en sentido estricto, esto es, que la efectividad del fin que se
persigue se alcance en una medida mayor a la afectación de los principios que sufren
restricción, y particularmente, del principio de igualdad” (Corte Constitucional, 2016).
En síntesis, lo que aquí se pretende mostrar es que se deben considerar las herramientas
metodológicas propuestas por la Corte Constitucional en el diseño y usos de los sistemas de
inteligencia artificial, con el fin de evitar que los mismos vulneren el principio de igualdad de quienes
los utilizan o de la comunidad en general. Para esto, se debe tener como premisa la prohibición del
trato discriminatorio, es decir, la introducción de diferencias de trato que conlleven la violación de
derechos fundamentales, enumerando los criterios prohibidos o “categorías sospechosas” que, de
conformidad con la jurisprudencia de la Corte Constitucional, son un conjunto de criterios no taxativos,
que han sido usados históricamente para afectar el derecho a la igualdad y otros derechos. En este
sentido, no pueden ser otorgados privilegios, ni pueden ser fijadas exclusiones o limitaciones por
razones de sexo, raza, origen nacional o familiar, lengua, religión, opinión política o filosófica.
Para esto, también es importante considerar que la discriminación puede ser directa cuando se
establece frente a un sujeto determinado un tratamiento diferenciado, injustificado y desfavorable,
basado en criterios como la raza, el sexo, la religión, opiniones personales, entre otras, es decir,
cuando las medidas estudiadas establecen categorías expresas de exclusión, o indirecta cuando las
prácticas aparentemente son neutras, pero los efectos diferenciales generan una situación
desventajosa para el grupo afectado. (Corte Constitucional, 2017) Por su parte, la discriminación es
indirecta cuando de tratamientos formalmente no discriminatorios se derivan consecuencias fácticas
desiguales para algunas personas, lo que produce lesiones y vulneraciones de sus derechos
fundamentales o limitan el goce de los mismos. En ese sentido, las medidas neutrales en principio, no
implican factores diferenciadores entre las personas, pero producen desigualdades de trato entre unas
y otras.
En conclusión, se pretende evidenciar cómo en virtud del control humano todos los actores públicos y
privados deben prevenir y mitigar los riesgos de discriminación en el diseño, desarrollo y aplicación de
tecnologías de aprendizaje automático y deben asegurarse de que existan mecanismos que permitan
el acceso a una solución efectiva antes de la implementación y durante todo el ciclo de vida del
sistema. Lo anterior, supone la vinculación del ser humano, durante el diseño y la aplicación de los
sistemas de aprendizaje automático, para ayudar a garantizar que los sistemas se creen y utilicen de
manera que respeten los derechos.
Así, frente a la pregunta sobre si ¿se pueden eliminar por completo los prejuicios?, tanto para los
métodos algorítmicos como para los humanos, la respuesta es "probablemente no". Pero a medida
que el big data, los algoritmos de aprendizaje automático y el análisis de personas adquieren un papel
más grande e influyente en el diseño de sistemas de inteligencia artificial, se deben percibir mejoras
en el impacto que los mismos tienen respectos al derecho a la igualdad y no discriminación de los que
goza cualquier persona (Mann, 2016)
5.2 Relación del control humano con la privacidad

5.2.1 El derecho a la privacidad en la inteligencia artificial

Hablar de inteligencia artificial supone necesariamente hablar de datos. Ellos son el insumo de la
inteligencia artificial, a partir de los cuales se construyen los algoritmos para que los sistemas puedan,
a partir del aprendizaje autónomo, generar respuestas, predecir situaciones, decidir y, en últimas,
imitar la inteligencia humana. En consecuencia, los sistemas de inteligencia artificial dependen de la
recopilación, el almacenamiento, la consolidación y el análisis de grandes cantidades de datos, y a su
vez, crea incentivos para recopilar y almacenar tantos datos adicionales como sea posible, en vista de
la posibilidad de que nuevos flujos de datos permitan que los sistemas de inteligencia artificial generen
nuevos conocimientos.
Ahora bien, qué tipo de datos son los recopilados y cómo se recopilan, son preguntas cuyas
respuestas implican en muchas ocasiones situarse en el tratamiento de datos personales y con ellos,
adentrarse en una de las esferas más íntimas del ser humano: su vida privada y con ella, los derechos
que la cobijan, tales como la privacidad. Son datos personales, toda la información sobre una persona
física identificada o identificable, esto es, toda persona cuya identidad puede determinarse, directa o
indirectamente mediante un nombre, un número de identificación, datos de localización, un
identificador en línea o uno o varios elementos propios de la identidad física, fisiológica, genética,
psíquica, económica, cultural o social de dicha persona (Parlamento Europeo, 2016)
Los datos personales pueden cumplir múltiples tareas en función de la inteligencia artificial, tales como,
prestar bienes o servicios, identificar necesidades en el mercado, ofrecer contenidos personalizados
y hasta compartir información con terceros, que pueden ser anunciantes, empresas, proveedores de
servicios, investigadores académicos y autoridades públicas (Newman, 2019). Dichos datos, pueden
ser obtenidos, en principio, de tres fuentes: (i) los proporcionados por el usuario o el cliente, (ii) los
datos recolectados a través de web tracking y (iii) los datos proporcionados por socios estratégicos.
En lo que respecta a los datos proporcionados por el usuario o cliente, se trata usualmente de
información que este proporciona al crear una cuenta o perfil, usar el servicio, hacer una compra o al
subir contenido a una plataforma o aplicación. Frente a los datos recolectados a través de web
tracking, estos incluyen normalmente datos sobre las aplicaciones, los navegadores y los dispositivos
que utiliza el usuario o cliente y sobre su actividad en la respectiva plataforma o aplicación. Asimismo,
incluyen datos sobre la ubicación del usuario o cliente, la cual puede ser determinada a partir del GPS,
dirección IP, datos del sensor del dispositivo utilizado, puntos de acceso a Wifi, antenas de servicio de
telefonía móvil o dispositivos con Bluetooth activado que están cerca de este, u otros dispositivos que
se encuentran cerca o que comparten la red.
Por su parte, en relación con los datos proporcionados por socios estratégicos, las fuentes más
comunes son los terceros que prestan algún servicio en nombre de la empresa, las empresas de
marketing o anunciantes que les proporcionan servicios publicitarios y de investigación, las
plataformas de terceros en las que la empresa tiene cuentas, como cuando los usuarios utilizan la
función “Me gusta” en Facebook o la función +1 en Google y las aplicaciones y plataformas para
ofrecer servicios de crédito y financieros a determinados usuarios (Newman, 2019).
Como se evidencia entonces, las anteriores fuentes pueden proporcionar datos personales, los cuales
resultan constantemente expuestos en el uso de sistemas de inteligencia artificial. Su recopilación,
tratamiento y uso son, en muchas ocasiones, desconocidos por sus titulares, lo que puede
desencadenar en impactos perjudiciales en el derecho a la privacidad. Solo a modo de ejemplo, son
reflejo de dicho riesgo, la manera como los robots inteligentes permiten el almacenamiento masivo e
indiscriminado de datos, dentro de los que pueden estar los personales, como imágenes, voces y
rasgos faciales, a partir de los cuales pueden ser entrenados para pensar y tomar decisiones de
manera independiente (Santos, 2017) o la capacidad que tienen los sistemas de inteligencia artificial
para advertir situaciones futuras, antes que sus mismos titulares, como fue el sonado caso de la
cadena de almacenes Target, que conoció del embarazo de una joven adolescente, antes que sus
propios padres, a partir del análisis de los datos de sus compras (Newman, 2019).
5.2.2 El control humano en el derecho a la privacidad
Una vez expuesta la manera como la inteligencia artificial puede vulnerar o por lo menos amenazar el
derecho a la privacidad, vale la pena ahora referirse a la forma como este último derecho se relaciona
con el control humano. Igualmente, se expone a continuación la manera como el control humano es
una respuesta jurídica para garantizar la protección de la privacidad en el uso de la inteligencia
artificial, lo que en últimas justifica el sentido instrumental de este nuevo derecho.
Para el efecto, es importante sentar las bases sobre las que se desarrollará el derecho al control
humano en lo que respecta a la privacidad, por lo que se tomará como fundamento el documento
Principios rectores para la reglamentación de los ficheros computadorizados de datos personales de
la Organización de Naciones Unidas, en el cual, dicha organización formula una serie de principios
que se deben considerar en el tratamiento de datos mediante sistemas de inteligencia artificial y
medios digitales, con el fin de garantizar el derecho a la privacidad.
En este sentido, lo que aquí se propone es que el control humano, como un nuevo derecho, debe
servir como un instrumento para asegurar la defensa de los siguientes principios, en el diseño y
desarrollo de los sistemas de inteligencia artificial, en clave de la protección del derecho a la privacidad
(Organización de Naciones Unidas, 1990):
1. Principio de la licitud y la lealtad: se refiere a que la información relativa a las personas no
se debe recoger ni elaborar con procedimientos desleales o ilícitos, ni utilizarse con fines
contrarios a los propósitos y principios de la Carta de las Naciones Unidas y para el caso
colombiano, de la Constitución Política. Esto encuentra consonancia con lo propuesto en la
jurisprudencia constitucional, en la cual se precisa que la recolección y manipulación de
información que pueda constituir una injerencia en la privacidad de las personas debe, entre
otros cometidos, perseguir un fin constitucionalmente legítimo, con el objetivo último de
preservar los derechos e intereses que protege el ordenamiento jurídico colombiano.
2. Principio de exactitud: las personas encargadas del diseño de sistemas de inteligencia
artificial o de su funcionamiento deben tener la obligación de verificar la exactitud y pertinencia
de los datos registrados y cerciorarse de que siguen siendo lo más completos posibles a fin
de evitar los errores por omisión y que se actualicen, periódicamente o cuando se utilicen las
informaciones contenidas en un expediente, mientras se estén procesando.
3. Principio de finalidad: la finalidad de un sistema de inteligencia artificial y de la recolección
y tratamiento de información personal que para el mismo se requiera, debe especificarse y
justificarse y en el momento de su creación debe ser objeto de una medida de publicidad o
ponerse en conocimiento de la persona interesada. Dicha publicidad encuentra fundamento
en que se debe garantizar que los datos personales reunidos y registrados sigan siendo
 pertinentes a la finalidad perseguida, ninguno de los datos sea utilizado o revelado sin el
consentimiento de la persona interesada, con un propósito diferente al inicialmente
especificado y el periodo de conservación de los datos no exceda el necesario para alcanzar
la finalidad con que se ha registrado.
4. Principio de acceso de la persona interesada: toda persona que demuestre su identidad
tiene derecho a saber si se está procesando información que le concierne, mediante sistemas
de inteligencia artificial, tanto públicos como privados. Para esto, se hace necesario un registro
de los datos personales procesados tanto por organizaciones públicas como privadas y el
fortalecimiento de autoridades encargadas de su control.
5. Facultad de establecer excepciones: este principio hace referencia a la posibilidad de que
se establezcan excepciones a los principios anteriormente descritos, siempre que prime un fin
constitucionalmente legítimo, con mayor prioridad que el derecho a la privacidad. Son
ejemplos de ellos, de acuerdo a las circunstancias de cada caso, la seguridad nacional, el
orden público, la salud pública y en particular, los derechos y libertades de los demás; siempre
que dichas excepciones estén previstas expresamente por la ley, en la que se definan los
límites y se establezcan las garantías apropiadas.
6. Principio de seguridad: adoptar medidas apropiadas para proteger los sistemas de
inteligencia artificial que manipulan datos personales, contra los riesgos naturales, como la
pérdida accidental o la destrucción por siniestro, y contra los riesgos humanos, como el acceso
sin autorización, la utilización encubierta de datos o la contaminación por virus informático.
7. Control y sanciones: designar una autoridad competente para controlar el respeto de los
principios anteriormente anunciados, la cual debe ofrecer garantías de imparcialidad, de
independencia con respecto a las personas u organismos responsables del procesamiento de
los datos o de su aplicación, y de competencia técnica. Igualmente, es importante que se
prevean sanciones, bien sea administrativas o penales, para quienes incumplan los principios
propuestos y se debe designar una autoridad responsable de la imposición de dichas
sanciones.
En consonancia con los principios aquí propuestos, en virtud del control humano, deben surgir una
serie de responsabilidades en cabeza del Estado y de los particulares con el fin de hacer efectivos
dichos principios y de proteger el derecho a la privacidad en escenarios de inteligencia artificial. En
este sentido, se proponen como deberes de los Estados, en clave de la privacidad (Organización de
Naciones Unidas, 2016), los siguientes:
1. Examinar periódicamente sus procedimientos, prácticas y legislación relativos a la vigilancia
de los datos personales mediante sistemas de inteligencia artificial, velando porque se dé
cumplimiento pleno y efectivo a todas sus obligaciones en virtud del derecho internacional de
los derechos humanos.
2. Establecer o mantener mecanismos de supervisión, de índole judicial, administrativa o
parlamentaria, que cuenten con los recursos necesarios y sean independientes, efectivos e
imparciales, así como capaces de asegurar la transparencia, cuando proceda, y la rendición
de cuentas por las actividades de vigilancia de las comunicaciones, su interceptación y la
 recopilación de datos personales que realice el Estado mediante sistemas de inteligencia
artificial.
3. Examinar constantemente la posibilidad de adoptar y actualizar leyes, normas y políticas de
protección de datos, que podrían incluir el establecimiento de autoridades nacionales
independientes con las facultades y los recursos necesarios para supervisar las prácticas de
protección de datos, investigar las violaciones y los abusos y recibir comunicaciones de
particulares y organizaciones.
4. Elaborar y mantener medidas preventivas frente a las violaciones del derecho a la privacidad
por el uso y desarrollo de sistemas de inteligencia artificial, que pueden afectar a todas las
personas, haciendo un especial énfasis en grupos sociales vulnerables o marginados.
5. Proporcionar una orientación eficaz a las empresas sobre la forma de respetar el derecho a
la privacidad en sistemas de inteligencia artificial, mediante el asesoramiento sobre métodos
apropiados, incluida la diligencia debida en materia de derechos humanos, y sobre la manera
de considerar eficazmente las cuestiones de género, vulnerabilidad o marginación.
6. Promover una educación permanente en la que se fomenten los conocimientos sobre la
inteligencia artificial y las aptitudes técnicas necesarias para proteger eficazmente la
privacidad.
Finalmente, en virtud del control humano en lo que respecta al derecho a la privacidad, también deben
surgir una serie de responsabilidades en cabeza de los particulares, de manera especial, de las
empresas, quienes hasta el momento han liderado los desarrollos de inteligencia artificial en Colombia
y en el mundo. En este sentido, se proponen como responsabilidades de las empresas (Organización
de Naciones Unidas, 2016):
1. Informar a los usuarios de manera clara y accesible, sobre la recopilación, el uso, el
intercambio y la retención de los datos que puedan afectar su derecho a la privacidad y
establezcan políticas de transparencia, cuando corresponda.
2. Aplicar salvaguardas administrativas, técnicas y físicas para garantizar que los datos se
procesen de manera lícita y que este procesamiento se limite a lo necesario en relación con
sus fines, y que se aseguren la legitimidad de estos fines y la precisión, integridad y
confidencialidad del procesamiento.
3. Velar para que se incorporen el respeto del derecho a la privacidad en el diseño,
funcionamiento, evaluación y regulación de la adopción automatizada de decisiones y las
tecnologías de aprendizaje automático.
4. Facilitar las comunicaciones seguras y la protección de los usuarios individuales contra
injerencias arbitrarias o ilegales en su privacidad, incluso mediante el desarrollo de soluciones
técnicas.
En síntesis, lo que aquí se propone es que el control humano sirva como un instrumento para asegurar
la protección y tutela del derecho a la privacidad en escenarios de inteligencia artificial. Para esto, se
hace necesario el establecimiento de una serie de principios, que sirvan como insumos para el
desarrollo de responsabilidades por parte del Estado y los particulares, para que, mediante un trabajo
conjunto y articulado se asegure el respeto de la privacidad de los usuarios o beneficiarios de la
inteligencia artificial.

Todo lo anterior, a partir de la premisa que resulta clave para que la protección de la privacidad sea
efectiva: el establecimiento de principios y deberes que legitimen el tratamiento de los datos
personales, el reconocimiento de los derechos de los interesados y los procedimientos para garantizar
su ejercicio, con el fin de que se les permita un control efectivo respecto de su información, y la
existencia de autoridades independientes de control, en el sentido de que sean ajenas a cualquier
influencia externa, tanto directa como indirecta (Parlamento Europeo, 2016)

5.3 Relación del control humano con el derecho al debido proceso

5.3.1 El debido proceso en la inteligencia artificial

Como hasta ahora se ha evidenciado, la inteligencia artificial es un desarrollo tecnológico transversal

a todas las áreas del conocimiento, el ejercicio profesional y los sectores económicos. El derecho y
las actividades jurídicas no son ajenas a esto, por lo que de manera gradual han incorporado en sus
procedimientos el uso de sistemas de inteligencia artificial que, en principio facilitan y agilizan sus
funciones. Muestra de lo aquí señalado es la creciente participación y disponibilidad de las tecnologías
de inteligencia artificial en el funcionamiento de las áreas jurídicas, con el propósito de crear una nueva
clase de herramientas que soportan el análisis jurídico en diferentes actividades, que hasta el
momento solo eran ejercidos por operadores jurídicos (Farage, 2018)
Para McGinnis e Pearce (2014) el papel de las máquinas en la transformación del derecho comprende
cinco aspectos diferentes. El primero de ellos es el descubrimiento legal, traducido en la aplicación de
métodos de búsqueda realizados por la máquina en el análisis de documentos legales. En un segundo
paso, la tecnología se presta para la investigación jurídica a través de algoritmos que identifican los
aspectos más relevantes de la doctrina y la jurisprudencia. Además, y según los autores, las máquinas
ayudan a la generación automática de documentos estructurando formularios, así como generar
memorandos e informes. Finalmente, McGinnis y Pearce afirman el uso de la tecnología para
pronosticar casos judiciales combinando información y analizándola (Farage, 2018).
A continuación, se presentan algunos ejemplos, que ilustran la manera como la inteligencia artificial
ha sido aplicada a las operaciones jurídicas en el mundo. En tal sentido, cabe destacar los Contract
Intelligence – COIN, utilizados especialmente en Estados Unidos, un sistema de aprendizaje
automático cuya función es interpretar los acuerdos de préstamos comerciales y analizar los acuerdos
financieros en el ámbito del banco norteamericano. Esta herramienta, se estima, reemplaza el trabajo
de 360 mil horas por año de un abogado, además de reducir el número de errores en la concesión de
servicios de crédito por error humano (GALEON, Dom; HOUSER, Kristin; 2017)
En la misma línea, sobresale el sistema British Luminance, creada por la Universidad de Cambridge,
como una plataforma de inteligencia artificial para profesiones jurídicas, que lee y comprende contratos
y otros documentos legales - en cualquier idioma - para encontrar información y cualquier anomalía.
Igualmente, sobresale el sistema ROSS Intelligence, una plataforma de búsqueda legal que utiliza
tecnología de inteligencia artificial, basada en el sistema de computación cognitivo IBM Watson,
mediante el cual los usuarios realizan investigaciones a través de preguntas en un lenguaje sencillo
en detrimento de series de búsqueda complejas.
Por su parte, en Sao Paulo, fue creado el sistema Finch Soluções, como brazo tecnológico de litigio
masivo en la firma de abogados JBM & Mandaliti, destacándose inicialmente por la implementación
de robots de captura de información, automatización y gestión de procesos en el mundo legal. Hoy la
empresa busca operar en diferentes sectores de la economía, con el fin de brindar soluciones para
incrementar los resultados y la inteligencia comercial de otros clientes (Farage, 2018).
También en Brasil, pero esta vez en el ámbito público, el Tribunal Federal de Cuentas, desde el año
2016 ha utilizado tres robots - Alice, Sofia y Mônica - para identificar fraudes en licitaciones públicas.
Se trata del denominado Laboratorio de Información de Control - Labcontas, que utiliza herramientas
y algoritmos soportados por modelos de aprendizaje autónomo para automatizar la interpretación de
documentos con el fin de proceder a la clasificación y extracción automática de información contenida
en fuentes de datos no estructuradas. Su principal objetivo es incrementar la eficiencia y efectividad
en la planificación y ejecución de políticas públicas (SILVA, 2016). (34,1).
En la misma línea de lo aquí expuesto, sobresalen otros desarrollos a nivel mundial, tales como Kira
Systems, el cual aplica machine learning para analizar y extraer disposiciones concretas, entre otros
datos relevantes de los contratos, proporcionando información más rápido de lo que es posible por
otros medios al utilizar modelos personalizados de ML que pueden identificar con precisión
prácticamente cualquier cláusula. Por su parte, LawGeex es una plataforma de revisión de contratos
en línea que puede cargar veinte tipos diferentes de contratos, y en el curso de las siguientes 24 horas
emitirá un análisis profundo de lo que es bueno, malo, inusual o problemático. Incluso señalar las
cláusulas que faltan en el contrato, a partir de la comparación de contratos concretos con sus bases
de datos de miles de documentos similares.
Asimismo, Beagle revisa el lenguaje del contrato propuesto, de manera muy rápida, resalta las
cláusulas clave para la aceptación o el rechazo, y aprende las preferencias del usuario con base en
cláusulas aceptadas o rechazadas. Igualmente, la firma Axiom, con el respaldo de tecnología de
inteligencia artificial, ofrece asistencia complementaria para proyectos jurídicos de gran envergadura.
Además, proporciona servicios que reducen los costos, como el análisis de contratos y las alertas de
actualización legislativa y reglamentaria (Almonacid, 2020)
Por otro lado, cabe hacer hincapié en los sistemas jurídicos expertos, como uno de los desarrollos de
la inteligencia artificial con mayor incidencia en las actividades jurídicas y sobre todo estatales. Al
respecto, se debe señalar que los Sistemas Jurídicos Expertos (SJE) son la estructuración de
conocimiento especializado en términos jurídicos, que acoplados a un mecanismo de inferencia, arroja
conclusiones de información suministrada en forma de preguntas y respuestas. En virtud de estos
sistemas, se pretende resolver problemas que se presentan al interior del dominio jurídico, mediante
la simulación de razonamientos que expertos han obtenido por sus conocimientos y experiencias
adquiridas, con el objetivo de alcanzar resultados de un experto humano en la tarea asignada.

Se argumenta que los SJE son la principal aplicación de la inteligencia artificial al derecho, basados
en el conocimiento desarrollado en la actualidad para resolver problemas muy específicos como
colaboradores de la decisión judicial, es un sistema computacional que puede plantear posibles
soluciones a determinados asuntos jurídicos aplicando el conocimiento experto en la materia, así como
explicar sus razonamientos. En general, se ha pretendido establecer estas aplicaciones como
herramientas de apoyo para los operadores jurídicos en contextos tales como la asesoría o asistencia
legal o la función jurisdiccional que pueden contribuir a una racionalización del método jurídico ya que
ellos facilitan clarificar y unificar el significado de conceptos y categorías jurídicas (Batista, et. al, 2019).
Particularmente, se debe señalar que estos sistemas son utilizados para apoyar la toma de decisiones
de los jueces y emitir sentencias en los diferentes juicios que realizan, a partir de un prototipo de
sentencia cuya base de conocimiento está integrada por los requisitos de forma y fondo de una
determinada sentencia del derecho. La estructura del sistema experto implica bases de datos del
procedimiento judicial, así como de los datos de la demanda, contestación y análisis de las pruebas
documental, confesional y testimonial (Batista, et. al, 2019).
En este sentido, los Sistemas Jurídicos Expertos son particularmente relevantes, en tanto son
sistemas computacionales capaces de proporcionar respuestas a partir de la emulación de la toma de
decisiones de un experto humano en dominios de conocimiento bien definidos, en este caso el
derecho. La base de su conocimiento está constituida por un acervo de conocimientos especializados
y el motor de inferencia, como un dispositivo que despliega patrones o secuencias de razonamiento y
búsqueda a lo largo de la base de conocimientos, lo cual posibilita que el sistema encuentre soluciones
a los problemas planteados y, por último, está conformado por la interfase con el usuario, esto es, la
parte del sistema que permite la interacción con el usuario para que este último le proporcione
directrices sobre las que el sistema debe responder (Martínez, 2012)

No obstante lo anterior, para los Sistemas Jurídicos Expertos que de manera particular se dedican a
las actividades judiciales, se toma como fuente para elaboración de la base de conocimientos, además
de los expertos, actuaciones procesales, tales como la demanda, la contestación de la demanda, las
actas de las audiencias y la sentencia definitiva de procesos anteriores (Batista, et. al, 2019). En virtud
de lo anterior, se puede afirmar que la inteligencia artificial, a partir del desarrollo de sistemas como
los hasta aquí expuestos y especialmente a partir de los Sistemas Jurídicos Expertos, está ocupando
cada vez más espacios en el ejercicio de actividades jurídicas y, de manera particular, funciones
jurisdiccionales.
Con los avances tecnológicos, los elementos más estructurales del sistema político e institucional
pueden ser objeto de revisión y cambio y la tecnología puede ser una forma de garantizar mayor
celeridad en las actividades judiciales, con una menor inversión de tiempo de los profesionales
(Farage, 2018). En términos generales, se genera la expectativa de que la inteligencia artificial libere
a los funcionarios de actividades repetitivas, al tiempo que posibilitaría la transparencia y eficiencia en
la provisión y gestión de servicios ciudadanos (Ramió, 2019)

Bajo esta idea, cabe resaltar las apuestas que en Colombia se están haciendo desde la administración
de justicia, para incorporar en ella sistemas de inteligencia artificial. Dentro de esta labor sobresalen
tres propuestas novedosas: (i) Prisma, (ii) Prometea y (ii) la digitalización del expediente judicial.
Sobre (i) Prisma, se debe señalar que es un sistema de inteligencia artificial diseñado por la Fiscalía
General de la Nación para predecir el riesgo de reincidencia criminal de personas capturadas, con el
objetivo de reducir errores en las decisiones sobre medidas de aseguramiento privativas de la libertad.

Prisma predice la probabilidad de reincidencia y genera un perfil para cada individuo, a través de un
modelo de aprendizaje supervisado, que se construye con el ingreso de datos relacionados con las
características del individuo, las características del último evento criminal, los delitos previos, las
medidas de aseguramiento previas, las capturas previas y la información previa del INPEC
(Fedesarrollo, 2020). A partir de esta información, se construye una conclusión acerca de la
probabilidad de reincidencia, que se divide en reincidencia general, reincidencia en crimen contra la
propiedad, reincidencia en crimen violento y otros delitos. (Fedesarrollo, 2020).
Por su parte, (ii) Prometea consiste en una herramienta de inteligencia artificial adoptada por la Corte
Constitucional para la selección de tutelas que serán revisadas por el alto tribunal. Este sistema es
adoptado de la Fiscalía de Buenos Aires, Argentina y funciona como una herramienta para automatizar
la tarea que de selección de tutelas, que hasta el momento realizan estudiantes de derecho con la
supervisión del personal de la Corte Constitucional. Finalmente, (iii) en el año 2019 se dio inicio al
proyecto de expediente digital para la Rama Judicial en Colombia con el apoyo del BID, lo cual servirá
para implementar los expedientes electrónicos, la digitalización jurisprudencial y la interrelación
permanente entre las bases de datos, para que en últimas la justicia sea más oportuna en la toma de
decisiones (Fedesarrollo, 2020).
Como se ha evidenciado, la inteligencia artificial está ocupando paulatinamente funciones jurídicas
que históricamente habían sido ejercidas exclusivamente por operadores del derecho y sobre las que
se hacía impensable que fueran ejercidas por una máquina o un sistema tecnológico. En este punto,
se debe señalar que si bien resultan llamativos y novedosos todos los desarrollos de inteligencia
artificial con incidencia en el ejercicio de la profesión jurídica, es importante detenerse en aquellos
sistemas utilizados por autoridades administrativas o judiciales, quienes, por su naturaleza pública,
están abocados directamente a proteger el derecho al debido proceso.

Lo anterior encuentra justificación en que, como se expuso, en la actualidad se está haciendo uso de
la inteligencia artificial para realizar actividades tales como la redacción de documentos, la toma de
decisiones, el análisis predictivo y sobre todo el apoyo en los procesos judiciales para la construcción
de sentencias, a partir de los Sistemas Jurídicos Expertos. Situaciones que en principio están
encaminadas a que la demanda de justicia pueda ser cumplida en mejor medida que en la actualidad,
reducir conflictos sociales que muchas veces se dan por el mal funcionamiento de la administración
de justicia y fomentar así una sociedad más justa y eficiente.
No obstante, en el afán de cumplir tales objetivos, surgen cuestionamientos sobre el respeto por las
garantías procesales que ostentan los usuarios de dichos sistemas. Así, surgen tanto preguntas
generales para estos sistemas, como preguntas particulares, para algunos de los aquí expuestos. Son
preguntas generales a todos los sistemas de inteligencia artificial con aplicación en el derecho,
preocupaciones sobre la objetividad de las decisiones tomadas, las cuales tienen fuertes implicaciones
en los bienes jurídicos de las personas, como pueden ser la libertad en los procesos penales, la
propiedad en los procesos civiles, la presunción de inocencia y el buen nombre en los procesos
sancionatorios.

En este sentido, se deja sobre el debate la preocupación que con sistemas como los descritos se
reflejen prejuicios humanos que conduzcan a malas interpretaciones de los documentos jurídicos
analizados o de los insumos que toman los sistemas para apoyar la construcción de decisiones
judiciales. Asimismo, surgen preocupaciones por la opacidad de los sistemas, lo que se traduce, entre
otras, en el desconocimiento que el destinatario tenga sobre las condiciones previas, los criterios y los
aspectos procesales de la decisión algorítmica (Rodríguez, 2019). Los criterios sobre los cuales se
fundamentan las decisiones, a menudo son desconocidos, y el diseño del proceso subyacente es
opaco, así, la falta de transparencia exacerba la complejidad y la incertidumbre de la asignación de
responsabilidad.
Tales preocupaciones se hacen particularmente evidentes y preocupantes en los Sistemas Jurídicos
Expertos, los cuales, como ya se señaló son la aplicación más directa e importante de la inteligencia
artificial en el derecho. Sobre los mismos, se debe decir que es cuestionable dejar que sean sistemas
de inteligencia artificial los que decidan en procesos jurisdiccionales o que, por lo menos, tengan un
alto grado de incidencia en las decisiones judiciales. ¿Sobre cuáles criterios deciden los SJE?,
¿Cuáles son los expertos consultados sobre los que se construye el sistema? Y más importante aún,
¿Qué pasa con aquellos criterios y circunstancias que el juez humano logra percibir en el proceso que
se escapa a la capacidad de los SJE? Son ejemplos de esto, la interpretación de los testimonios, en
análisis de las pruebas aportadas, las circunstancias particulares de cada caso y cada persona,
aspectos que ponen en jaque la viabilidad de confiar a la inteligencia artificial decisiones judiciales.
Igualmente, cabe extender los anteriores cuestionamientos a las aplicaciones particulares de
inteligencia artificial que se han propuesto en Colombia. En este sentido, con la herramienta Prisma,
surgen preguntas acerca de cuáles son las “características del individuo” que se tienen en cuenta, o
si las “capturas previas”, sin distinguir si fueron o no legalizadas, deben ser parte de las variables
tenidas en cuenta para predecir la reincidencia criminal. Lo anterior puede ser especialmente
problemático si se considera que la Corte Constitucional ha declarado inconstitucional que en estas
decisiones se tengan en cuenta aspectos correspondientes al “derecho penal de autor” en el cual se
sanciona a las personas por sus características personales y no por sus actos (Fedesarrollo, 2020).
Igualmente, en lo que concierne a la herramienta Prometea, se debe preguntar sobre los posibles
riesgos asociados al uso de herramientas automatizadas de toma de decisiones judiciales, de las que
depende que la Corte Constitucional revise o no un caso particular. Al respecto, se debe tener en
cuenta que la selección de tutelas no es un asunto menor en la Corte Constitucional, pues de los casos
seleccionados depende la consolidación o el cambio de las líneas jurisprudenciales, la protección de
derechos fundamentales, la evitación de un perjuicio irremediable o el remedio de una vulneración a
un derecho fundamental. Es por lo anterior, que la puesta en marcha de dicha herramienta debe ser
evaluada no solo a partir de criterios técnicos, sino también éticos.
En síntesis, lo que aquí se pretende evidenciar es que la aplicación de la inteligencia artificial en las
decisiones y procesos jurídicos, más allá de facilitar el trabajo humano y agilizar dichos procesos,
representa una amenaza al debido proceso, derecho fundamental que debe ser garantizado en
cualquier trámite administrativo o judicial y que se puede ver en riesgo al trasladar la competencia para
tomar decisiones trascendentales sobre bienes jurídicos tutelados a sistemas de inteligencia artificial,
que no deberían reemplazar por completo a los humanos, especialmente a los jueces.
5.3.2 El control humano como respuesta al debido proceso

Una vez expuestos algunos casos que evidencian la manera como la inteligencia artificial ha permeado
los procedimientos administrativos y jurisdiccionales en los que rige el derecho al debido proceso, se
presentan a continuación unas breves consideraciones sobre la forma como el derecho al control
humano debe estar relacionado con el debido proceso, con el fin de asegurar la tutela de este último.
En este sentido, el derecho al control humano en la inteligencia artificial debe servir como instrumento
para el establecimiento de garantías para proteger a los ciudadanos frente al empleo de algoritmos y
programas tanto en la administración pública como en la jurisdicción. Así, en virtud del control humano,
cuando se haga uso de un sistema de inteligencia artificial en procedimientos judiciales y
administrativos, se deben preservar, por lo menos, las siguientes garantías (Corte Constitucional,
2013):
1. El ciudadano es oído durante toda la actuación: esto significa que incluso, en aquellas
etapas procesales en las que se está haciendo uso de la inteligencia artificial, se debe
asegurar que la persona procesada sea escuchada, como parte de su derecho a la defensa,
que a su vez, es una manifestación del derecho al debido proceso.
2. La notificación es oportuna y de conformidad con la ley: implica que aun en uso de los
sistemas de inteligencia artificial para la toma de decisiones judiciales y administrativas, se
debe garantizar que la notificación de las decisiones sea oportuna y en los términos referidos
por la ley.
3. La actuación se surta sin dilaciones injustificadas: los sistemas de inteligencia artificial no
pueden ser la justificación para propiciar mayores retrasos en los procesos judiciales y
administrativos y tampoco excusas para dilatar las etapas procesales, sin una justificación
jurídicamente válida.
4. Se permita la participación en la actuación desde su inicio hasta su culminación: en las
etapas procesales o en las tareas específicas en los que incidan los sistemas de inteligencia
artificial, se debe asegurar la participación de los implicados y de los terceros con intereses
legítimos en el proceso. Esto es, que el uso de la inteligencia artificial no puede fungir como
 una restricción para permitir la participación en los procesos, en cumplimiento de las normas
que rigen a los mismos.
5. La actuación se adelante por autoridad competente y con el pleno respeto de las formas
propias previstas en el ordenamiento jurídico: esta puede ser quizá la garantía que más
se ve amenazada por el uso de la inteligencia artificial en los procesos decisorios. En todo
caso, se debe garantizar que quien tome las decisiones jurisdiccionales y administrativas sea
quien esté investido de competencia para tal, lo que en ningún caso, incluye a sistemas de
inteligencia artificial, quienes hasta el momento carecen de personería jurídica.
Lo que aquí se plantea es que, en ningún caso la decisión final puede quedar en manos de
un sistema de inteligencia artificial, pues, entre otras, no tiene la competencia para hacerlo.
Asimismo, cualquier decisión que se tome en el marco de procesos jurisdiccionales y
administrativos con el apoyo de sistemas de inteligencia artificial debe ser controlada y
revisada por un humano, quien debe ser una autoridad competente en el proceso, en respeto
de las garantías.
6. Gozar de la presunción de inocencia: en este punto, se debe señalar que la inteligencia
artificial no debe ser utilizada para desvirtuar la presunción de inocencia, tanto en los procesos
administrativos como en los jurisdiccionales. Esto cobra relevancia en aquellos sistemas que
pretenden perfilar, caracterizar o categorizar posibles responsables en procesos
jurisdiccionales de cualquier materia, lo que atenta a todas luces con la presunción de
inocencia.
De la misma manera, la inteligencia artificial debe ser utilizada como un instrumento en
beneficio de los principios procesales y no como una herramienta que va en detrimento de los
mismos.
7. El ejercicio del derecho de defensa y contradicción: en consonancia con lo ya expuesto,
la inteligencia artificial debe facilitar el derecho de contradicción de los implicados judiciales y
administrativos, permitiendo la interacción procesal en cada una de las etapas del proceso en
cuestión. En este sentido, la inteligencia artificial no debe ser utilizada como una herramienta
de supresión de oportunidades procesales para el ejercicio del derecho a la defensa y la
contradicción.
8. Solicitar, aportar y controvertir pruebas: en este punto, se debe señalar que la inteligencia
artificial puede ser utilizada como una herramienta de análisis de pruebas, por lo que se debe
aplicar el criterio aquí expuesto, sobre la necesidad que cualquier decisión en la que incida la
inteligencia artificial debe ser revisada y controlada por el ser humano. Lo anterior, con el fin
de evitar que el análisis de pruebas quede reducido exclusivamente a los sistemas de
inteligencia artificial, sino que siempre se cuente con una supervisión humana.
9. Impugnar las decisiones y promover la nulidad de aquellas obtenidas con violación del
debido proceso: este principio, como una condensación de los anteriormente descritos, debe
servir para controvertir, impugnar y hasta promover la nulidad de aquellas decisiones en las
que la inteligencia artificial tuvo injerencia, cuando de tales decisiones se derivó alguna
violación o amenaza del debido proceso.
En consonancia con lo anterior, lo que aquí se quiere señalar es que, en virtud del control humano, se
debe procurar que se respeten las garantías que ofrece el debido proceso, aun cuando en los procesos
judiciales o administrativos se hace uso de la inteligencia artificial. Esto significa que la inteligencia
artificial no puede ser utilizada como una herramienta para reducir, aislar o eliminar las garantías
procesales que ya se han consolidado en las actuaciones administrativas y judiciales.
En este mismo sentido, el control humano, asume una función instrumental consistente en la
necesidad de mantener una veeduría, revisión e inspección en las decisiones tomadas por la
inteligencia artificial, máxime cuando de esta dependen situaciones jurídicas en las que están en juego
bienes jurídicos tutelados, como los que se discuten en los procesos administrativos y jurisdiccionales,
tales como la libertad, la propiedad, la integridad, el buen nombre, la honra y, de manera transversal
el debido proceso.
Así, se propone que (i) cualquier decisión o actuación en la que medie la inteligencia artificial, como
las expuestas inicialmente, tales como la revisión y creación de documentos, el apoyo a la toma de
decisiones judiciales, la asesoría jurídica, debe ser, previamente supervisada y estudiada por una
autoridad competente en el proceso, para asegurar que no contenga algún sesgo discriminatorio o
que represente en sí misma, una potencial amenaza a derechos fundamentales, especialmente al
debido proceso de los implicados.
Igualmente, (ii) en virtud del control humano, se debe hacer una revisión ex post de la decisión que
haya impulsado el sistema de inteligencia artificial o en la que dichos sistemas, por lo menos hayan
tenido algún tipo de injerencia, con el fin de advertir, antes de que la decisión judicial o administrativa
quede en firme, que se configure alguna vulneración al debido proceso, esto es, que no se haya
violado ninguna garantía procesal, de aquellas que ya estaban previamente establecidas en la ley,
partiendo de la idea de que el proceso es ya un sistema reglado, donde se tiene previamente definidas
los derechos, las competencias y las funciones de los que en él intervienen.
En conclusión, se espera que el control humano sea un instrumento para asegurar que en aquellos
procesos en los que se hace uso de los sistemas de inteligencia artificial se mantenga el cumplimiento
de las exigencias y condiciones previstas por la ley para adelantar un procedimiento administrativo y
judicial. Lo anterior, con el fin de extender las garantías constitucionales y legales que cobijan los
procesos hasta ahora reglados, a aquellos que de manera novedosa están introduciendo la
inteligencia artificial en alguna de las etapas procesales, bajo la premisa de que bajo ninguna
circunstancia la inteligencia artificial puede servir de justificación para desconocer o pasar por alto el
derecho al debido proceso del que gozan todas las personas, en virtud del artículo 29 constitucional.
5.4 Relación entre el control humano y la libertad de expresión

5.4.1 La libertad de expresión en la inteligencia artificial

La inteligencia artificial de manera particular y la tecnología de manera general, han creado nuevos
espacios de interacción social, en los que los usuarios intercambian opiniones, ideas y conceptos, en
escenarios diferentes a los análogos. Así, se puede afirmar que el mundo digital es un espacio de
expresión humana, donde todos los actos están expuestos, en algún grado, al público y es un medio
de difusión para el ser humano, donde existe un alto grado de interconexión entre los participantes
(Riofrío, 2014).
Como hasta ahora se ha señalado, los sistemas de inteligencia artificial son un reflejo de las realidades
creadas por los humanos, lo que no es ajeno a aquellos escenarios de interacción, participación y
debate en los que está de por medio la inteligencia artificial. En este sentido, hablar de libertad de
expresión no es un asunto reservado a los periódicos, las revistas y los noticieros. También en
escenarios digitales y de inteligencia artificial se hace latente la necesidad de asegurar la libertad de
expresión para todas aquellas personas que interactúan en escenarios de este tipo.
De esta manera, no existe mundo virtual sin mundo real y entre ambos existe siempre un nexo causal,
puesto que el mundo virtual es causado esencialmente por el mundo real, esto es, que el mundo virtual
es el reflejo del real (Riofrío, 2014). Como parte de las similitudes entre ambos mundos, se debe
señalar que los dos son espacios idóneos para la manifestación de diversas formas de expresión
dentro de las que se incluye la libertad de acceso, la multiplicidad de formatos de información, la
descentralización en la producción y consumo de información, la posibilidad de interacción de los
usuarios en tiempo real y la neutralidad en cuanto al tipo de información compartida.

Igualmente, se debe señalar que el uso de las nuevas tecnologías modifica la percepción de la
información, en relación con los emisores, los canales por medio de los cuales se hace la difusión, la
disponibilidad de la información publicada y la masificación de los receptores. En esta línea, se afirma
que, con independencia del medio (tradicional o de las nuevas tecnologías de la información, dentro
de las que se incluyen las redes sociales), lo cierto es que no todo lo que allí se expresa puede
considerase legítimo. De hecho, en razón a la masificación de la información y a su alto tráfico, las
limitaciones resultan más exigentes, por el riesgo potencializado que se genera sobre la garantía plena
de los derechos de quienes interactúan (Corte Constitucional, 2018)
El mayor impacto de las nuevas tecnologías sobre el ejercicio del derecho a la libertad de expresión
está en la forma en la que ha aumentado la capacidad de las personas de recibir, buscar y difundir
información. La red permite la creación en colaboración y el intercambio de contenidos, y a su vez,
ayuda a comunicarse, colaborar e intercambiar opiniones e información. De esta manera, la tecnología
se ha convertido en una fuerza de democratización, transformando el derecho a la libertad de
expresión mediante el establecimiento de nuevas capacidades para crear y editar contenidos, lo que
genera nuevas formas de organización y movilización; y nuevas posibilidades para innovar y generar
desarrollo económico, pero al tiempo crea restricciones a la interacción digital que antes no existían
(Comisión Interamericana de Derechos Humanos, 2017).

Como evidencia de los riesgos aquí señalados, se expone a continuación un caso particular en el que,
a partir del uso de inteligencia artificial, se pretende sustituir en un periódico, los periodistas por robots
inteligentes que tienen la capacidad para escribir noticias en los portales digitales de los periódicos
tradicionales. Heliograf es el nombre del sistema de inteligencia artificial utilizado por el reconocido
periódico The Washington Post que desde el 2016 escribe noticias. En palabras de uno de los
directivos del periódico, lo que se busca con este sistema es “quitarle de encima las tareas tediosas y
mundanas a nuestros reporteros y permitirles que se enfoquen en historias mucho más interesantes
y sofisticadas” (Oppenheimer, 2018).
Y es que es innegable la gran capacidad de Heliograf, que supera las capacidades humanas para
procesar un alto número de datos simultáneamente, para escribir artículos sobre diferentes temas,
como política y deporte, en suma, para contar lo que pasó y dejarles a los humanos la tarea de
entender lo que pasó. A simple vista, este es uno de los mayores logros de la inteligencia artificial en
el periodismo, pero también es importante analizar las implicaciones que este tipo de sistemas pueden
tener en los derechos fundamentales, particularmente en el derecho a la libertad de expresión, de los
periodistas y de los lectores del periódico.

El problema se evidencia cuando Heliograf produce las noticias de acuerdo a los intereses de cada
lector y de acuerdo a sus necesidades. “Al tener los datos y las preferencias de los suscriptores a la
edición digital del periódico, Heliograf escribirá cada artículo teniendo en cuenta no solo la ciudad o
vecindario de cada consumidor de noticias, sino también su conocimiento del tema” (Oppenheimer,
2018). Esto supone entonces que por una programación de algoritmos, los espectadores no recibirán
todas las noticias sobre un tema sino aquellas que se ajustan a sus intereses y preferencias, lo que
atenta contra el derecho a la libertad de expresión y al acceso a información imparcial y objetiva.
El resultado de estas programaciones a través de la inteligencia artificial es que las noticias cada vez
serán más personalizadas y micro direccionadas, con la recepción de artículos periodísticos cada vez
más individualizados, desencadenando sociedades fragmentadas, lo que en palabras de
Oppenheimer son “burbujas informativas”. El meollo del asunto radica en que la individualización de
las noticias puede llevar a manipular políticamente a los espectadores, “porque los algoritmos de las
plataformas como Google y Facebook están diseñados para satisfacer al consumidor, más que para
cumplir una función cívica” (Oppenheimer, 2018).
En este sentido, lo que hacen estos sistemas de inteligencia artificial, lejos de informar y expresar
libremente los hechos, es reforzar las preferencias políticas en vez de dar noticias desde diferentes
ángulos para que puedan formar sus propias opiniones. “Si yo soy Facebook, mi misión no es la
defensa de la democracia, mi misión es que entres en mi plataforma y mantenerte ahí la mayor
cantidad de tiempo posible” (Oppenheimer, 2018).
Este, como muchos otros casos, evidencian la manera como la inteligencia artificial puede poner en
riesgo o incluso vulnerar el derecho a la libertad de expresión y el derecho a estar informado, cuando
en su uso se imponen restricciones injustificadas en la transmisión o recepción de información, se
interfieren los medios de comunicación o se fragmenta la información recibida, creando sesgos en la
comunicación. De esta manera, se hace necesaria una respuesta desde el derecho y la tecnología,
que como aquí se ha propuesto, es el control humano, como una alternativa para mantener la veeduría
y la supervisión humana en los sistemas artificiales con el fin de evitar este tipo de afectaciones.

5.4.2 El control humano en la libertad de expresión

Una vez expuesta la manera como la inteligencia artificial puede vulnerar o por lo menos amenazar el
derecho a la libertad de expresión, vale la pena ahora referirse a la forma como este último derecho
se relaciona con el control humano. Igualmente, se expone a continuación la manera como el control
humano es una respuesta jurídica para garantizar la protección de la libertad de expresión en el uso
de la inteligencia artificial.
En este sentido, la propuesta que a continuación se expone se fundamenta especialmente en
principios, los cuales, se sugiere, sean la base sobre la que se estructuren las acciones que se deben
promover desde el derecho al control humano, en función de la libertad de expresión, con el fin de
asegurar esta última. De esta manera, se retoman los principios orientadores formulados por la
Relatoría Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos
(CIDH), los cuales son: (i) acceso en condiciones de igualdad; (ii) pluralismo; (iii) no discriminación;
y (iv) privacidad.
Sobre el acceso, se debe señalar que este es un presupuesto necesario para el goce de la libertad de
expresión. Hablar de acceso supone referirse a la posibilidad que tengan todas las personas para
acceder en igualdad de condiciones a sistemas digitales o de inteligencia artificial, que sirvan como
plataformas para expresar libremente pensamientos, opiniones o ideas individuales o colectivas. Tal
acceso entonces debe ser universal, y se deben establecer prohibiciones explícitas en torno a
bloqueos arbitrarios, parciales o totales y ralentizaciones (Comisión Interamericana de Derechos
Humanos, 2017).
En lo concerniente al pluralismo, se debe señalar que en los sistemas de inteligencia artificial se debe
hacer extensivo el principio de maximización de número de personas y la diversidad de las mismas,
que participan en la deliberación pública, para lo que se deben preservar las condiciones para
promover el pluralismo informativo. El uso de inteligencia artificial y con ella, la libertad para
expresarse, no debe ser un privilegio reservado a una clase o grupo social, más bien debe ser una
posibilidad a todas las personas, lo que, en otras palabras, significa que bajo el pluralismo, todas las
personas deben tener la posibilidad de expresarse libremente mediante sistemas de inteligencia
artificial, sin ninguna clase de restricciones discriminatorias, excluyentes o injustificadas.

Por su parte, el principio de no discriminación supone además de lo propuesto por el pluralismo, que
también se adopten medidas positivas para prevenir y corregir situaciones discriminatorias que
impidan a ciertos grupos poblacionales ejercer libremente sus expresiones. Este principio supone una
función activa del derecho al control humano, como instrumento para promover en el desarrollo y
funcionamiento de los sistemas de inteligencia artificial, la implementación de acciones afirmativas que
impulsen la participación libre y activa de todos los grupos poblacionales, especialmente aquellos que
han sido históricamente discriminados o sobre los que se han construido criterios sospechosos de
discriminación. De la misma manera, a este principio se debe sumar la neutralidad, a partir de la cual
se trata sin ningún tipo de discriminación los datos de los sistemas.

Finalmente, la privacidad es un derecho que ya ha sido abordado en este apartado y que guarda una
estrecha relación con el derecho a la libertad de expresión, en tanto, al tutelar la privacidad, se
garantiza que terceros se abstengan de realizar conductas abusivas, lo que repercute en la libertad
de expresión de tales personas. Este principio guarda igualmente, una estrecha relación con el
anonimato, toda vez que este constituye un medio para la protección de la privacidad y ha facilitado la
participación en el discurso público sin identificarse, evitando de esta manera posibles represalias
asociadas con la opinión, lo que en últimas tiene efectos positivos sobre la libertad de expresión
(Comisión Interamericana de Derechos Humanos, 2017).
En la misma línea, el control humano debe servir como instrumento para reducir las restricciones a la
libre circulación de información, opiniones e ideas, amparado en un concepto amplio de la autonomía
y la dignidad de las personas (Comisión Interamericana de Derechos Humanos, 2017). Por lo que,
surgen tanto para las empresas como para los Estados una serie de compromisos con el fin de prevenir
violaciones directa o indirectamente vinculadas con sus operaciones o servicios, especialmente
cuando estas tienen que ver con la libertad de expresión (Comisión Interamericana de Derechos
Humanos, 2017). Adicionalmente para el Estado, surgen compromisos para no tomar medidas
restrictivas a la libertad de expresión en escenarios digitales y de inteligencia artificial.
Finalmente, se sugiere que se aplique el principio de máxima divulgación desarrollado en el marco del
derecho de acceso a la información. Principio que guarda relación con la prevención de
implementación de mecanismos de interceptación y monitoreo, especialmente en lo concerniente a la
información pública y del Estado; por lo que se deben promover políticas y prácticas en torno al control
de la vigilancia electrónica, los protocolos para su uso, las condiciones y pautas para su autorización,
e identificación de autoridades encargadas de la implementación, la autorización y la supervisión de
la misma (Comisión Interamericana de Derechos Humanos, 2017).

Para esto, por último, se sugiere adoptar las prácticas que al respecto se han implementado en otros
países como Canadá, en donde, en aras de proteger la libertad de expresión en sistemas de
inteligencia artificial, se monitorean las amenazas que la misma configura, a través del control de los
efectos de la entrega de contenido a medida del usuario. Igualmente, se propone fomentar informes
de transparencia armonizados sobre la eliminación de contenidos, por parte de los Estados o de las
empresas, así como crear plataformas de denuncias especializadas para la vulneración de la libertad
de expresión.
Asimismo, es importante considerar en el acceso a la información pública, los principios propuestos
por el artículo 3 de la Ley 1712 de 2014, los cuales son: el principio de transparencia, buena fe,
facilitación, no discriminación, gratuidad, celeridad, eficacia, calidad de la información, divulgación
proactiva de la información y responsabilidad en el uso de la información.

6. Contenido del derecho al control humano

Proponer el control humano como un derecho supone identificar en él su contenido, el cual hace
referencia a la zona central de la conducta protegida, sin la cual se desnaturalizaría el derecho o en
otras palabras, aquello sin lo cual se hace imposible su ejercicio (Cruz, 2007), es decir, que está
conformado por aquellos elementos distintivos del derecho, que lo individualizan, caracterizan y dotan
de contenido.
En esta línea, ha señalado la jurisprudencia constitucional que el contenido del derecho se refiere a
los intereses jurídicamente protegidos del derecho, aquella parte que es absolutamente necesaria para
que los intereses jurídicamente protegidos, que dan vida al derecho, resulten real, concreta y
efectivamente garantizados. De ese modo, se rebasa o se desconoce el contenido cuando el derecho
queda sometido a limitaciones que lo hacen impracticable, lo dificultan más allá de lo razonable o lo
despojan de la necesaria protección (Corte Constitucional, 2001).También se deben considerar los
valores, principios e intereses superiores que al derecho subyacen y la tradición político-jurídica
incorporada al derecho, especialmente, la jurisprudencia que en esta materia deviene obligatoria.

Igualmente, se hace necesario que en la delimitación del contenido del derecho se precisen los sujetos
obligados, las condiciones de exigibilidad y el contenido de las prestaciones. A partir de allí, es
necesario hacer todo lo razonablemente posible y aplicar todos los medios disponibles para lograr la
optimización en la eficacia del derecho, teniendo como premisa que son violaciones al derecho, toda
exigencia injustificada, innecesaria o inadecuada para el fin perseguido por el derecho (Cruz, 2007).
En virtud de lo anterior, en el presente apartado se busca delimitar el contenido del derecho al control
humano, a partir de los elementos esbozados por la jurisprudencia constitucional para el efecto. Así,
en este apartado se abordarán los siguientes elementos:
a. Funciones del derecho
b. Valores, principios e intereses superiores que lo rigen
c. Intereses jurídicamente protegidos
d. Limitaciones al derecho

Finalmente, se aclara que en este apartado no se hará referencia a los sujetos obligados, las
obligaciones y las condiciones de exigibilidad de las mismas, debido a que son elementos que se
abordarán más adelante en la presente investigación.
a. Funciones del derecho
Partiendo de las definiciones que hasta el momento se han presentado, vale recordar que el control
humano se refiere a la capacidad de que intervengan seres humanos durante el ciclo de diseño del
sistema y en el seguimiento de su funcionamiento. Así, se habla de control humano como la capacidad
que tienen las personas para supervisar la actividad global de un sistema de inteligencia artificial desde
el tratamiento de los datos y algoritmos, hasta su uso, y de decidir cómo y cuándo utilizar el sistema
en una situación determinada, lo que puede incluir la decisión de no utilizar un sistema de inteligencia
artificial en una situación particular, establecer niveles de discrecionalidad humana durante el uso del
sistema o garantizar la posibilidad de ignorar una decisión adoptada por un sistema (Comisión
Europea, 2018)

En este sentido, se debe entender por control humano el monitoreo constante a los sistemas de
inteligencia artificial, bajo el supuesto que es dicha supervisión humana la que asegura la inclusión en
tales sistemas de consideraciones basadas en valores (Telefónica, 2018). Lo anterior, significa que el
propósito principal del control humano es evitar que la inteligencia artificial tenga algún impacto
negativo en los derechos humanos de las personas que se ven impactadas por la misma (Telefónica,
2018), es decir, que el control humano puede facilitar la garantía de principios y valores, tales como la
seguridad, la transparencia y capacidad de explicación, la justicia y no discriminación y, en general la
promoción de los valores humanos. El control humano requiere que los sistemas de inteligencia
artificial estén diseñados e implementados con la capacidad de que las personas intervengan en sus
acciones. De esta manera, el derecho al control humano se puede desagregar en las siguientes
funciones, en aras de identificar a profundidad, lo que significa su contenido.

i. Monitoreo en el diseño de los sistemas de inteligencia artificial

El control humano debe ser comprendido como un derecho transversal y aplicable a todo el proceso
de desarrollo de los sistemas de inteligencia artificial, comprendiendo así, desde el diseño hasta el
uso del sistema. Particularmente en este punto, se debe precisar que en el periodo de diseño del
sistema el control humano asume un rol trascendental como veedor de dicho diseño, con el propósito
de evitar que en la construcción del sistema de inteligencia artificial se tomen decisiones o se incluya
información que puede vulnerar o por lo menos amenazar derechos humanos.
Lo anterior significa que el control humano entra en juego desde la selección de la información o datos
que serán la fuente del sistema y, en la construcción de los algoritmos del mismo. Momentos que
resultan fundamentales para seleccionar los datos que servirán de insumo para el desarrollo y uso de
los sistemas de inteligencia artificial. En otras palabras, lo que aquí se propone es que en virtud del
control humano se intervengan los sistemas de inteligencia artificial desde la estructuración de los
mismos, con el objetivo que exista una veeduría humana que asegure la defensa y aplicación de los
principios y valores que sostienen este derecho y hagan extensiva la protección de intereses
jurídicamente tutelados a escenarios de inteligencia artificial.
Así, el control humano en el diseño de los sistemas de inteligencia artificial se puede considerar como
la presencia humana que tiene como propósito evitar cualquier acción u omisión en el diseño, de las
que se derive la amenaza o vulneración de derechos humanos ya reconocidos en el ordenamiento
jurídico. De esta manera, el objetivo de asegurar la veeduría e intervención humana en el diseño
cumple una función sobre todo preventiva, es decir, corregir acciones u omisiones de los sistemas de
inteligencia artificial, antes de que se produzca un daño irremediable que represente una vulneración
de derechos. Lo anterior responde a los objetivos que inicialmente se habían planteado sobre el
derecho al control humano, en tanto apunta a que el ser humano tenga la capacidad de advertir riesgos
y amenazas de derechos humanos, para lo cual se deben establecer criterios jurídicos objetivos que
permitan advertir tales riesgos en contra de los derechos humanos.
 ii. Disponibilidad humana
Si bien el momento del diseño de los sistemas de inteligencia artificial resulta ser clave en la prevención
de riesgos y vulneraciones a los derechos humanos, en tanto es en este momento que se da la
selección y tratamiento de datos y la construcción de los algoritmos del sistema, el control humano no
se debe agotar en esta etapa. De esta manera, en virtud del derecho al control humano se debe
asegurar que en todas las fases de los sistemas de inteligencia artificial, esto es, además del diseño,
en el desarrollo, distribución y utilización de los sistemas de inteligencia artificial, exista la
disponibilidad de una persona, para que en caso de que se requiera, revise e inspeccione el sistema
de inteligencia artificial.
En otras palabras, lo que aquí se señala es que luego de la etapa de diseño de la inteligencia artificial
todos los usuarios o personas que comprometen sus derechos por el desarrollo o usos de los sistemas
de inteligencia artificial, deben tener la facultad de exigir una revisión humana, para lo que siempre se
debe garantizar la supervisión de un equipo humano experto en el tema que logre verificar y en
consecuencia advertir vulneraciones o amenazas como consecuencia de la inteligencia artificial.
iii. Revisión humana de la decisión automatizada
Esta función representa la idea de que cuando se implementan los sistemas de inteligencia artificial
para tomar decisiones, las mismas están sujetas a la posibilidad de que las personas puedan solicitar
y recibir una revisión humana de estas. Tal principio, a diferencia de otros, siempre es ex post en su
implementación, brindando la oportunidad de remediar un resultado objetable, con el propósito de que
los humanos que interactúan con los sistemas de inteligencia artificial deben ser capaces de mantener
una autodeterminación plena y efectiva sobre sí mismos. A diferencia de las funciones anteriores, lo
que aquí se pretende con el control humano es que las personas que ejercen dicho control corrijan las
vulneraciones que los sistemas de inteligencia artificial han producido. Esto pretende anunciar que el
control humano no solo implica una tarea preventiva sino también correctiva, cuando aun siendo
diligentes en la protección de derechos, se produjo una afectación a los mismos.

Esta función también es conocida como la capacidad de apelación en los sistemas de inteligencia
artificial, haciendo referencia a que una persona que es objeto de una decisión tomada por estos
sistemas pueda impugnarla. Facultad, que coincide con el derecho a ser informado sobre las
decisiones que comprometen el uso de inteligencia artificial (Harvard University, 2020).
En este sentido, se evidencia cómo en virtud del control humano también se debe procurar el
restablecimiento de los derechos humanos cuando estos son vulnerados, esto es, que este derecho
debe ser un puente o una herramienta jurídica para reestablecer los derechos humanos cuando estos
son vulnerados y devolver a la posición inicial a la persona que ha visto menoscabados sus derechos
e intereses jurídicamente tutelados, por cuenta de los sistemas de inteligencia artificial.
iv. Capacidad para optar por no tomar una decisión automatizada
Esta función se define como la oportunidad de brindar a los individuos la opción de no estar sujetos a
los sistemas donde se implemente la inteligencia artificial. Para esto, es importante que los usuarios o
beneficiarios de los sistemas de inteligencia artificial sean conscientes de cómo y cuándo se utiliza la
inteligencia artificial para tomar decisiones sobre ellos, y qué implicaciones tendrán las mismas sobre
sus vidas.
Bajo esta función, lo que se propone es que en virtud del control humano se exija la posibilidad de que
los usuarios de los sistemas de inteligencia artificial sean informados sobre el momento y la manera
como están sometidos a estos sistemas, al tiempo que puedan elegir si someterse o no a una decisión
proveniente de un sistema de inteligencia artificial. Así, lo que se busca es que la autonomía del
usuario se aumente y no se restrinja mediante el uso de herramientas y servicios de inteligencia
artificial.
Para lograr dicho propósito, se debe informar al usuario en un lenguaje claro y comprensible sobre si
las soluciones ofrecidas por las herramientas de inteligencia artificial son vinculantes y sobre las
diferentes opciones disponibles (CEJEP, 2018). Situación que guarda estrecha relación con los
principios de transparencia y explicabilidad que se deben asegurar en el desarrollo de la inteligencia
artificial.
b. Valores y principios que rigen el derecho al control humano
Sobre los valores y principios que fundamentan el contenido del derecho al control humano, lo primero
que se debe señalar es que la literatura y documentos internacionales tanto públicos como privados
son generosos y diversos en el señalamiento de principios y valores que debe considerar un marco
ético de inteligencia artificial. En este sentido, a continuación se presenta una compilación de los
principios y valores más relevantes y sobresalientes en lo concerniente a la inteligencia artificial en
términos generales (Harvard University, 2020), pero que terminan siendo condensados en el control
humano, en atención a su carácter instrumental que facilita la defensa de otros principios en la
inteligencia artificial.
En otras palabras, a continuación se proponen una serie de principios y valores reseñados en la
literatura como presupuestos éticos de la inteligencia artificial, que a su vez, son el fundamento para
la construcción del contenido del control humano. Lo anterior, en la medida en que son los principios
que justifican su existencia y en razón del carácter instrumental del derecho al control humano, son
aquellos principios que se busca proteger en el desarrollo de la inteligencia artificial.
i. Intimidad
La intimidad es un principio destacado en la literatura internacional, cuando de inteligencia artificial se
trata. Así, principios tales como el consentimiento, el control sobre el uso de datos, la capacidad de
restringir el procesamiento de datos, el derecho a la rectificación, el derecho a borrar, la privacidad por
diseño y la privacidad en general, se pueden sintetizan en la protección de la intimidad como un
principio y objetivo final de la inteligencia artificial.
En este sentido, el control humano debe apuntar en todo momento a la protección de la intimidad de
todas las personas que depositan sus datos personales para el desarrollo y uso de la inteligencia
artificial, así como de todas las personas que se ven involucradas en tales sistemas, desde el diseño
de los mismos, hasta las decisiones que estos arrojan.

ii. Responsabilidad
Detrás de este principio subyace la pregunta sobre quién será el responsable de las decisiones que
ya no son tomadas por humanos, sino por sistemas de inteligencia artificial, así como
cuestionamientos sobre quien asumirá los impactos de la tecnología sobre el mundo natural y social.
De esta manera, el principio de responsabilidad abarca a su vez, elementos tales como la
verificabilidad y replicabilidad de los sistemas de inteligencia artificial, para que los sistemas funcionen
como deberían. En otras palabras, la necesidad de verificar que un sistema de inteligencia artificial
pueda prevenir eficazmente la distorsión, la discriminación, la manipulación y otras formas de uso
indebido.
Igualmente, la responsabilidad supone la evaluación, sobre los propósitos, objetivos, beneficios y
riesgos de la inteligencia artificial, por lo que es importante que se pueda probar en un entorno
controlado, en el que alguien siempre responda por las consecuencias adversas de tales sistemas. En
consonancia con lo anterior, la responsabilidad también supone la necesidad de un organismo de
monitoreo que requiere la creación y supervisión de la inteligencia artificial.
Finalmente, la responsabilidad exige un contenido legal que se refiere a la necesidad de garantizar la
vinculación y resarcimiento de las personas o entidades que son responsables de los daños
ocasionados por la inteligencia artificial. Esto implica igualmente ajustes a las regulaciones existentes
y creación de nuevas regulaciones en relación a la responsabilidad civil por daños ocasionados con
sistemas de inteligencia artificial.
iii. Seguridad
El principio de seguridad generalmente se refiere al funcionamiento interno y adecuado de un sistema
de inteligencia artificial con el fin de evitar daños no deseados, lo que guarda una estrecha relación
con el principio de confiabilidad, en tanto un sistema es confiable cuando es seguro, pues funciona
como se espera sin comprometer ni vulnerar a terceros. En este sentido, sobre el principio de
seguridad se debe señalar que supone la adopción de medidas que se deben tomar tanto antes como
después de que se implementen los sistemas, esto es, a lo largo de su vida útil operativa, para evitar
que ocasionen daños. Así, construir sistemas de manera segura significa evitar daños, para lo que se
deben evaluar los riesgos.
Igualmente, el principio de seguridad se refiere a la capacidad de un sistema de inteligencia artificial
para resistir amenazas externas, lo que supone a su vez la capacidad de probar la resistencia de los
sistemas de inteligencia artificial para proteger otros derechos como la privacidad e integridad de los
usuarios. Finalmente, la seguridad guarda relación con la previsibilidad que hace alusión a la
planificación del sistema y coherencia con las entradas y salidas de información del mismo. En
palabras de la estrategia alemana, los sistemas de inteligencia artificial transparentes, predecibles y
verificables pueden prevenir efectivamente la distorsión, discriminación y manipulación de información.
 iv. Transparencia y capacidad de explicación
El principio de transparencia es la afirmación de que los sistemas de inteligencia artificial deben
diseñarse e implementarse de tal manera que sea posible la supervisión de sus operaciones, lo que
hace alusión a la transparencia en los daños, los modelos y el sistema en general de la inteligencia
artificial. La transparencia a lo largo del ciclo de vida de un sistema significa la apertura en los procesos
de diseño, desarrollo e implementación de los mismos, para lo que se sugiere la creación de
estándares que describan niveles de transparencia medibles y comprobables, de modo que los
sistemas puedan ser evaluados objetivamente y los niveles de cumplimiento sean determinados.

Por su parte, el principio de explicabilidad se basa en la traducción de técnicas, conceptos y resultados

de decisiones en formatos intangibles, en un lenguaje comprensible y adecuado para las personas.
En este sentido, la explicabilidad está ligada con el derecho a la información, esto es, con el derecho
de las personas a conocer los diversos aspectos del uso de los sistemas de inteligencia artificial, lo
que puede incluir acceso a factores, lógica y técnicas que produjeron el resultado de un sistema de
inteligencia artificial, y en general, cómo la decisión automatizada se alcanza en los procesos de
fabricación.
v. Justicia y no discriminación
Este principio hace referencia a la obligación que todos los actores, públicos y privados, tienen de
prevenir y mitigar los riesgos de discriminación en el diseño, desarrollo y aplicación de sistemas de
inteligencia artificial. Igualmente, se refiere a que debe asegurarse que existan mecanismos que
permitan el acceso a una solución efectiva a decisiones discriminatorias antes de la implementación y
durante todo el ciclo de vida del sistema.
De manera particular sobre el principio de justicia, cabe señalar que este se ha definido como el
tratamiento equitativo e imparcial de los interesados por los sistemas de inteligencia artificial. Supone
entonces que los sistemas de inteligencia artificial deben tratar a todas las personas de manera justa,
al tiempo que deben desarrollar técnicas analíticas para detectar y abordar posibles injusticias, como
métodos que sistemáticamente evalúan los datos para garantizar una representatividad social
adecuada y documentar la información para identificar sus orígenes y características. En este punto,
se debe precisar que la justicia cobra especial relevancia con respecto a las poblaciones marginadas,
haciendo referencia a que, en los sistemas de inteligencia artificial, todas las personas deben ser
tratadas de manera justa sin discriminación injustificada por motivos diversos como raza, género,
nacionalidad, edad, creencias políticas, religión, etc., con el objetivo de evitar prejuicios o
discriminación contra grupos o individuos específicos, y evitar colocar a las personas desfavorecidas
en una posición más desfavorable.
En lo concerniente al principio de igualdad, este representa la idea de que las personas así estén o no
en posiciones similares, merecen las mismas oportunidades y protecciones en relación a las
tecnologías de inteligencia artificial. Pero, a diferencia del principio anterior, la igualdad va más allá de
la justicia, en tanto la primera implica que las mismas reglas deben aplicarse para que todos tengan
acceso a la información, los datos, el conocimiento, los mercados y una distribución justa del valor
agregado generado por las tecnologías de inteligencia artificial.

En síntesis, los principios de justicia e igualdad hacen referencia al acceso igualitario a la tecnología,
la adopción de medidas para eliminar la discriminación y la posibilidad de que todas las personas
tengan acceso a los beneficios de la inteligencia artificial, lo que implica que los sistemas estén
diseñados para este fin. Asimismo, los sistemas de inteligencia artificial deben ayudar a reducir las
desigualdades y vulneraciones sociales y más bien, producir garantías en este sentido, lo que supone
la participación de los grupos de interés en los procesos de diseño de estos sistemas.

vi. Promoción de valores humanos

De manera general, la promoción de los valores humanos es un elemento clave en la ética de la
inteligencia artificial. Sobre este principio, se definen los objetivos a los que debe apuntar la inteligencia
artificial y los medios que debe implementar para cumplirlos, los cuales deben corresponder y estar
fuertemente influenciados por la promoción de los valores humanos. Lo anterior, bajo la premisa de
que a medida que el uso de la inteligencia artificial se vuelve más frecuente y el poder de la tecnología
aumenta, la imposición de prioridades y juicios humanos sobre la inteligencia artificial es
especialmente crucial.
En este sentido, el principio en cuestión se puede definir como el desarrollo y uso de la inteligencia
artificial con referencia a las normas sociales imperantes, las creencias culturales y los mejores
intereses de la humanidad, en otras palabras, que la inteligencia artificial debería servir al progreso de
la civilización humana. Así, lo que aquí se señala es que este, como un principio central recoge la
necesidad que la inteligencia artificial sea aprovechada para beneficiar a la sociedad en respeto de
valores humanos tales como la dignidad, la libertad, la justicia, la igualdad, la solidaridad, y el respeto
por estructuras sociales como la democracia y el Estado Social de Derecho y, al servicio de ideales
éticos ampliamente compartidos para el beneficio de toda la humanidad, en lugar de un Estado y
organización (Future of Life Institute, 2017)

Finalmente, en términos generales cabe concluir que estos principios son de especial relevancia
durante la fase de diseño, pues es el momento en el que queda configurada y programada la mayoría
de las funcionalidades de cada sistema de inteligencia artificial. No obstante, los principios atañen
también a las fases de desarrollo, introducción y adopción de esta tecnología. Esto es, que son
principios que acompañan a los sistemas de inteligencia artificial durante todo su ciclo de vida útil,
comprendiendo especialmente el diseño de los mismos (Cátedra CaixaBank de Responsabilidad
Social Corporativa, 2019)
c. Intereses jurídicamente protegidos
Hacen parte de los elementos distintivos del contenido del control humano los intereses jurídicamente
protegidos que este derecho persigue. Al respecto, son los derechos humanos la respuesta que se
ofrece a la pregunta sobre cuáles son los intereses jurídicamente protegidos, es decir, que el control
humano tiene como objetivo último la protección de los derechos humanos, exclusivamente, en
escenarios de inteligencia artificial.

En este orden de ideas, se debe partir de la dignidad humana como el fundamento del que se derivan
los intereses jurídicamente protegidos del derecho al control humano, pues como ya se ha desarrollado
en la presente investigación, es la dignidad humana la fundamentación del nuevo derecho, partiendo
de la premisa de que esta es un derecho, principio y valor en el ordenamiento jurídico colombiano.
Así, reconociendo en el ser humano un fin en sí mismo, es obligación del Estado reconocer y proteger
todos aquellos derechos humanos intrínsecos a su naturaleza, para lo cual el control humano actúa
como un instrumento para lograr dicho fin.
En este punto entonces se recuerda que es la dignidad humana el elemento definitorio del Estado
Social de Derecho, lo que la convierte en el principio fundante del ordenamiento constitucional, es la
fuente del deber de las autoridades públicas de cumplir con los fines estatales, al tiempo que es un
derecho de aplicación directa, del que se desprende la eficacia de los demás derechos. Por lo que la
dignidad del ser humano constituye razón de ser, principio y fin último de la organización estatal.
De esta manera, de la dignidad se desprenden los demás derechos humanos que pretenden ser
salvaguardados mediante el ejercicio del derecho al control humano, lo que lleva a reconocer el
carácter instrumental que este derecho ocupa en el ordenamiento jurídico. En este sentido, lo que aquí
se quiere señalar es que el control humano es un instrumento jurídico para salvaguardar otros
derechos humanos en escenarios de inteligencia artificial, en otras palabras, es una herramienta que
se propone para tutelar intereses jurídicos superiores, como lo son los derechos en escenarios de
inteligencia artificial.
Ahora bien, la pregunta que surge es cuáles o qué tipos de derechos son los considerados intereses
jurídicamente protegidos por el derecho al control humano, frente a lo que se considera que no es
pertinente restringir el control humano a la supervisión o revisión de ciertos derechos, privilegiando
unos sobre otros. En otras palabras, el control humano debe servir como un instrumento de supervisión
de la inteligencia artificial para proteger, en principio, a todos los demás derechos humanos, dejando
abierta la posibilidad de alguna priorización en atención a criterios jurídicos o técnicos que las
autoridades competentes deberán decidir en cada escenario.
De esta manera, si bien en apartados anteriores se ha reducido el análisis exclusivamente a los
derechos a la privacidad, la igualdad, la libertad de expresión y el debido proceso, se aclara que esta
selección responde exclusivamente a la coincidencia de patrones de vulneración sobre estos derechos
en la literatura del tema y los casos empíricos que sustentan los riesgos de la inteligencia artificial para
los derechos humanos. No obstante, se considera que cuentan con la misma relevancia jurídica
cualquier vulneración a los derechos humanos que se desprenda del uso de la inteligencia artificial y
que se pueda advertir o hasta remediar, mediante el ejercicio del derecho al control humano.
d. Limitaciones al derecho
Finalmente, sobre el contenido del derecho al control humano, es necesario hacer referencia a los
límites del mismo, con el fin de marcar su alcance y fronteras con otros principios y derechos en el
campo de la inteligencia artificial. Al respecto, se propone que se consideren tres tipos de límites al
derecho, a saber, límites (i) materiales, (ii) temporales y (iii) jurídicos, los cuales se desarrollan a
continuación.
(i) Límites materiales
Los límites materiales hacen referencia a las materias o asuntos que son cobijados por el derecho al
control humano. En este punto, lo primero que se debe señalar es que, al ser un derecho, el control
humano goza de todos sus atributos, como se ha expuesto en esta investigación, esto es, que es un
derecho universal, inalienable, imprescriptible e indivisible. Asunto que, de entrada abre el espectro
de aplicación del derecho a todas las situaciones previstas o previsibles en las que medie el uso de
inteligencia artificial.
No obstante lo anterior, lo que en este punto se propone es que vale la pena diferenciar el tipo de
decisiones y de procesos que están en juego mediante los sistemas de inteligencia artificial a la hora
de hacer exigible el derecho al control humano. De manera particular, se sugiere que el control humano
sea reservado solamente a aquellos sistemas de inteligencia artificial mediante los cuales se pone en
juego o aquellos que guardan algún tipo de relación con derechos humanos.
Lo anterior significa que se debe considerar que no todos los sistemas de inteligencia artificial ponen
en juego derechos humanos, pues como ya se ha evidenciado, la misma tiene la capacidad de incidir
en todos los ámbitos de la vida, tanto pública como privada. En este sentido, no son jurídicamente
relevantes aquellas decisiones sometidas a la inteligencia artificial mediante las cuales no se pone en
riesgo o en las que ni siquiera interfieren los derechos humanos.
Al respecto, también se debe señalar que la distinción entre los sistemas de inteligencia artificial que
aquí se propone debe, en principio, ser analizada ex ante por las autoridades públicas responsables
de la supervisión de los sistemas de inteligencia artificial, así como por las empresas y actores del
sector privado, productores, distribuidores y comercializadores de los mismos, y por los usuarios de
dichos sistemas. No obstante, el momento crucial para realizar dicha distinción es en el que se invoca
el derecho al control humano para exigir una supervisión o veeduría humana en el desarrollo de los
sistemas de inteligencia artificial, cuando los mismos ponen en juego los derechos humanos.
De esta manera, los límites materiales se refieren a que el derecho al control humano está reservado
solo a aquellos sistemas o procesos de inteligencia artificial mediante los cuales se afectan derechos
humanos, lo que encuentra justificación en que son precisamente estos derechos, los intereses
jurídicamente protegidos por el derecho al control humano, que definen su marco de acción. En
consecuencia, cualquier otra conducta que no se enmarque en el mismo no debe ser considerada por
el derecho al control humano y no hay lugar a invocar al mismo.
(ii) Límites temporales
Los límites temporales hacen referencia al momento en el que se debe hacer exigible el derecho al
control humano. Al respecto, se debe señalar que, como ya se ha advertido en esta investigación, el
control humano cobra una especial relevancia en el momento del diseño de los sistemas de
inteligencia artificial, en tanto, es en esta fase en que se seleccionan los datos y se programan los
algoritmos sobre los que funcionará el sistema. En este sentido, desde el diseño se hace exigible el
derecho al control humano en relación con la inteligencia artificial.
A partir de este momento y durante todo el desarrollo de los sistemas de inteligencia artificial, se hace
exigible el control humano. Esto, fundamentado en la función de disponibilidad humana que hace parte
del contenido derecho al control humano, es decir, de la obligación que durante el desarrollo,
distribución y uso de los sistemas de inteligencia artificial esté disponible una persona o un grupo de
estas, para mantener una supervisión humana con el fin de advertir posibles riesgos a los derechos
humanos.
En este panorama, se tiene claro el momento en el que inicia la exigibilidad y vigencia del derecho al
control humano, ahora la pregunta, es por el momento hasta que tal derecho es exigible, o en otras
palabras, el momento en que termina la vigencia del derecho al control humano. La respuesta a este
cuestionamiento es que, el derecho al control humano también guarda un componente ex post, esto
es, que aun después de que el sistema de inteligencia artificial ha afectado derechos humanos
mediante la toma de decisiones, es posible una revisión posterior con el fin de remediar la posible
afectación a derechos humanos.

Así, la cuestión siguiente es determinar el periodo que se debe reservar para realizar dicho control ex
post, pues contrario a ser un periodo indefinido, indeterminado o hasta infinito, debe ser un plazo
delimitado con anterioridad, en aras de preservar la seguridad jurídica y definir la competencia de las
autoridades públicas que vigilan y sancionan este derecho. En esta línea, se deja como una
consideración técnica la definición del periodo de tiempo en el cual se debe realizar el control humano
a los sistemas de inteligencia artificial.

En síntesis, los límites temporales hacen referencia al momento en el que se hace exigible y aplicable
el derecho al control humano. Se concluye que el mismo empieza desde el momento del diseño del
sistema, hasta un periodo posterior a la toma de decisiones o la ejecución de procesos mediante los
cuales se afectaron derechos humanos. Lo anterior, bajo la justificación de garantizar controles antes,
durante y después del desarrollo de los sistemas de inteligencia artificial, en aras de defender y tutelar
los derechos humanos en escenarios de inteligencia artificial.

(iii) Límites jurídicos

Finalmente, sobre los límites al derecho al control humano se debe hacer referencia a los de tipo
jurídico. Esto es, que se debe partir de la idea que el derecho al control humano, como los demás
derechos, no es absoluto y que su aplicabilidad está condicionada a otros derechos humanos. En otras
palabras, el derecho al control humano debe, en todo momento, ser ponderado con otros derechos
con el fin de mantener una armonía en el ordenamiento jurídico y no llegar a una imposición suprema
del control humano, lo que podría ir en detrimento de otros derechos e intereses tales como la libre
competencia, la propiedad intelectual, entre otros.

Al respecto, cabe mencionar dos referentes que desarrollan la ponderación dentro del ordenamiento
jurídico. Por un lado, señala Robert Alexy (1985) en su Teoría de los derechos fundamentales, que los
principios, entendidos como mandatos de optimización, pueden entrar en colisión, esto es, en un
estado de tensión, por problemas de contradicción entre ellos. En estos casos, la vía que propone
Alexy para solucionar la mencionada colisión, es acudir a la ponderación, lo que se refiere al peso de
los principios en unas circunstancia determinadas, que llevaría a darle prelación a uno sobre otro, esto
es, al principio que tenga mayor peso en las circunstancias de cada situación.
En otras palabras, propone Alexy que, cuando exista algún conflicto entre dos principios, estos se
deben ponderar para definir, cual pesa más y en ese sentido, debe imponerse sobre el otro, en las
circunstancias de hecho ya definidas. Dicha tarea de ponderación debe llevar a que un principio ceda
ante el otro, lo que no significa declararlo inválido en el ordenamiento jurídico, sino más bien,
comprender que bajo ciertas circunstancias uno de los principios precede al otro. Así, se debe aclarar
que la decisión sobre cual interés debe ceder, se debe hacer teniendo en cuenta la conformación típica
del caso y las circunstancias especiales del hecho particular, lo que permite concluir que ningún
principio o derecho per se es absoluto o con mayor peso que los demás, sino que todo dependerá de
las circunstancias.
Por su parte, la Corte Constitucional señala en la sentencia C-435 de 2013 que el artículo 95
constitucional consagra la obligación de toda persona de respetar los derechos ajenos y no abusar de
los propios, a partir de los cuales se ha considerado que el ejercicio de todo derecho no es absoluto y
que entraña una serie de deberes y obligaciones. Igualmente, reconoce la Corte que en la medida en
que los derechos no son absolutos, se admite que las personas gocen libremente de sus derechos,
siempre que no afecten a los demás. Asunto, que se deriva de las consideraciones de la sentencia
SU-479 de 1997, la cual señala:

“La vida en comunidad conlleva forzosamente el cumplimiento de una serie de deberes

recíprocos por parte de los asociados, el primero de los cuales es el de respetar los derechos
de los demás. De ello se desprende la consecuencia lógica de que el hombre en sociedad no
es titular de derechos absolutos, ni puede ejercer su derecho a la libertad de manera absoluta;
los derechos y libertades individuales deben ser ejercidos dentro de los parámetros de respeto
al orden jurídico existente y a los valores esenciales para la vida comunitaria como son el
orden, la convivencia pacífica, la salubridad pública, la moral social, bienes todos estos
protegidos en nuestro ordenamiento constitucional”
Así, el ordenamiento jurídico es también un límite al derecho al control humano, en tanto, este último
debe ingresar al mundo jurídico para preservar la armonía existente con los demás derechos en el
ordenamiento y contribuir a la consecución de los fines del Estado Social de Derecho y los principios
constitucionales, en consonancia con lo señalado en el artículo segundo constitucional 3. De esta
manera, el control humano no es un derecho absoluto y más bien, es un derecho que debe ser
ponderado en virtud de las reglas jurisprudenciales y legales al respecto, en aras de respetar el
ordenamiento jurídico preestablecido.
En consecuencia con lo planteado, se deben incluir dentro de los límites jurídicos, todas aquellas
modificaciones institucionales y jurídicas que supone el reconocimiento del control humano como un
nuevo derecho. Esto, implica la definición de nuevas autoridades públicas o, la reorganización de
funciones en la estructura administrativa, con el propósito de garantizar autoridades públicas
competentes para tutelar el derecho al control humano, asunto que será desarrolla do extensamente
en los siguientes apartados de la presente investigación.
Asimismo, hacen parte de los límites jurídicos la adopción de la jurisprudencia, particularmente,
constitucional y las reglas jurídicas existentes en relación al reconocimiento de nuevos derechos en el
ordenamiento jurídico. Esto es que, el reconocimiento del control humano debe suponer el respeto por
las categorías de los derechos y acogerse a las clasificaciones constitucionales y legales que se tienen
reservadas para este asunto, como lo son los derechos de orden constitucional o legal, así como las
clasificaciones entre derechos fundamentales, económicos, sociales y culturales o de otra índole.
En síntesis, son límites jurídicos el respeto por el ordenamiento jurídico, lo que supone a su vez, la
ponderación con otros derechos cuando estos entran en tensión con el control humano; la adopción
de las reglas legales y jurisprudenciales en materia de reconocimiento e instauración de nuevos
derechos y los cambios jurídicos y orgánicos que implican el reconocimiento del control humano como
un nuevo derecho. Todos estos, asuntos que serán abordados más adelante en la presente
investigación.
7. Clasificación del derecho al control humano

Luego de reconocer el control humano como un derecho en el ordenamiento jurídico, la pregunta

subsiguiente es qué tipo de derecho es, esto es, cuál es la clasificación del derecho al control humano.
Es esta entonces la cuestión que se pretende abordar en este apartado, ofreciendo más que una
respuesta definitiva, una primera aproximación a esta pregunta, inexplorada en la literatura estudiada
y en las fuentes normativas abordadas en la presente investigación.
En este sentido, a continuación se ofrece una conclusión preliminar sobre el tipo de derecho que
debería ser el control humano en el ordenamiento jurídico colombiano, para lo cual se anticipa desde

3 Artículo 2: Son fines esenciales del Estado: servir a la comunidad, promover la prosperidad general y garantizar la
efectividad de los principios, derechos y deberes consagrados en la Constitución; facilitar la participación de todos en las
decisiones que los afectan y en la vida económica, política, administrativa y cultural de la Nación; defender la
independencia nacional, mantener la integridad territorial y asegurar la convivencia pacífica y la vigencia de un orden justo.

Las autoridades de la República están instituidas para proteger a todas las personas residentes en Colombia, en su vida,
honra, bienes, creencias, y demás derechos y libertades, y para asegurar el cumplimiento de los deberes sociales del
Estado y de los particulares.
este momento que la apuesta que se presenta en la investigación, es considerar el control humano
como un derecho humano fundamental. Así, para desarrollar dicha conclusión se abordarán los
siguientes aspectos: (i) categorías de derechos en el ordenamiento jurídico, (ii) el derecho al control
humano como un derecho fundamental y (iii) otras consideraciones jurídicas.
(i) Categorías de derechos en el ordenamiento jurídico colombiano
De acuerdo con el jurista colombiano Manuel Fernando Quinche (2015) existen tres grandes
clasificaciones en torno a los derechos, siendo la más general, los derechos humanos. Estos, pueden
ser considerados en una esfera política como reivindicaciones sociales expresadas a manera de
derechos, en la esfera ética, como enunciados que permiten la convivencia pacífica en una democracia
secularizada, y como categoría del derecho internacional público, configuran un conjunto de
obligaciones de respeto y garantía que tiene el Estado, frente a las personas.
Seguido de los derechos humanos, se encuentran los derechos constitucionales, entendidos como
una categoría específica del derecho público interno, que corresponde a los derechos humanos que
han sido positivizados en los sistemas estatales, por medio de las constituciones políticas de los
Estados. Y finalmente los derechos fundamentales, cuya determinación le corresponde al derecho
público interno, es decir, que se trata de derechos humanos positivizados por vía constitucional, pero
con garantía reforzada.
Ahora bien, Quinche resalta (2015) que en Colombia, la Constitución Política de 1991 realiza una
propia clasificación de derechos, en la que se diferencian tres categorías. La primera de ellas hace
referencia a los derechos fundamentales, los cuales en palabras de la Corte Constitucional, son
aquellos derechos que son fundamentales en razón de su naturaleza, por su inherencia con respecto
al contenido jurídico, político, social, económico y cultural de la persona. Esto es, que los derechos
fundamentales constituyen las garantías ciudadanas básicas sin las cuales la supervivencia del ser
humano no sería posible (Corte Constitucional, 1992).
La segunda categoría de derechos, se refiere a los Económicos, sociales y culturales (DESC), los
cuales pueden ser definidos como un conjunto de garantías cuya principal característica es que no
son simples posibilidades de acción individual, sino que imponen además una carga u obligación al
Estado, frente al cual el individuo es situado en el marco social en la condición de acreedor de ciertos
bienes que debe dispensarle el aparato político, lo que implican que sean llamados derechos
prestacionales y, derechos asistenciales.
Por último, la tercera categoría identificada por Quinche, son los derechos colectivos y del ambiente,
los cuales se refieren a la protección de intereses colectivos y de intereses difusos, entendidos como
un interés que pertenece a todos y cada uno de los miembros de una colectividad determinada. Dicho
interés, se concreta a través de su participación activa ante la administración de justicia, en demanda
de su protección. El titular de los derechos e intereses colectivos ya no es la persona individual sino
el género humano.
Sobre dicha clasificación cabe señalar en este punto que la misma obedece a razones históricas más
que dogmáticas, esto es, que la división de los derechos responde en gran medida al momento en
que fueron reconocidos en la historia de acuerdo a las luchas sociales y políticas que se vivían para
la época. Esto, resulta relevante en tanto, el origen histórico de la clasificación ha sido objeto de críticas
por los juristas, al señalar que, dicha clasificación no debe ser impedimento para privilegiar una
categoría sobre otra, teniendo en cuenta que todos son derechos humanos.
Así, en esta investigación se reconocen las criticas existentes respecto a la clasificación de derechos
que anteriormente se expuso, no obstante, con el objetivo de hacer más ilustrativa la idea del derecho
al control humano que aquí se propone, se mantendrá la distinción entre derechos humanos y
constitucionales y entre estos últimos, los fundamentales, los económicos, sociales y culturales y los
colectivos y del ambiente.
(ii) El derecho al control humano como un derecho fundamental
Una vez identificadas las categorías de derechos existentes en el ordenamiento jurídico colombiano,
o por lo menos positivizadas en la Constitución Política de 1991, la apuesta que aquí se hace es
reconocer el control humano como un derecho fundamental. Al respecto, lo primero que se debe
señalar es que dicha connotación como fundamental no se deriva de ningún análisis previo realizado
en ordenamientos jurídicos extranjeros o en el propio y tampoco de ningún análisis doctrinal
evidenciado en las fuentes de la presente investigación. Más bien, la clasificación del derecho al
control humano al interior del ordenamiento, puede considerarse como un vacío jurídico y doctrinal,
que responde en gran medida a lo novedoso del asunto.
Así, se debe precisar que a la fecha no existe un documento con fuerza jurídica vinculante a nivel
nacional o internacional, en el que se evidencie una apuesta por reconocer el control humano como
un derecho, en tanto la construcción jurídica que al respecto se ha hecho es aún incipiente y las
principales fuentes que abarcan la materia responden a actores públicos y privados internacionales
inmersos en los desarrollos de la inteligencia artificial, que han evidenciado la necesidad de construir
un marco ético para tales desarrollos. Es ahí en donde el control humano se empieza a vislumbrar
como un principio y también como un derecho, con el fin de evitar afectaciones a derechos humanos
y el desconocimiento de los principios sociales ya reconocidos en las sociedades modernas.
En virtud de lo señalado, la clasificación del derecho al control humano puede considerarse como un
vacío jurídico a nivel nacional e internacional, en tanto, no existe una norma, tratado o convenio
internacional en los términos referidos en los artículos 93 y 94 constitucionales, que apueste por la
clasificación de dicho derecho, por lo que no es posible acudir al bloque de constitucionalidad como
una herramienta para reconocer el control humano como un derecho en el ordenamiento jurídico
colombiano. No obstante lo anterior, se hace imperante la necesidad de clasificar el derecho en las
categorías del ordenamiento jurídico colombiano, puesto que esta tarea, lejos de ser un asunto
meramente formal, tiene grandes implicaciones jurídicas. Así, reconocer el control humano como un
derecho fundamental tiene diferentes efectos (Chinchilla, 2009), tales como:
  Delimitar el bien jurídico que se protege mediante la acción de tutela, como el mecanismo más
urgente para la garantía de un derecho.
 Identificar la necesidad de un trámite especial para su regulación legislativa, como puede ser
la ley estatutaria.
 Incluirlo en el catálogo de derechos que no pueden ser suspendidos durante los estados de
excepción.
 Determinar si, en virtud de su protección, se autoriza al legislador a reglamentar el derecho
de petición frente a organizaciones particulares.
Así las cosas, la apuesta que aquí se plantea es reconocer el control humano como un derecho
fundamental, a partir de un análisis basado en su justificación en la dignidad humana, en escenarios
de inteligencia artificial. Para esto, a continuación se presenta un breve acercamiento al control
humano como un derecho fundamental, en el que se incluye un análisis sobre los criterios en virtud
de los cuales se considera el control humano como un derecho fundamental y las implicaciones
jurídicas de considerarlo así.
En este sentido, de acuerdo con la Corte Constitucional, son derechos fundamentales todos aquellos
que corresponden al ser humano como tal, de ahí el reconocimiento de la dignidad humana, que lo
sitúa en una situación superior en el universo social en el que se desenvuelve, y por ello es acreedor
de derechos que le permiten desarrollar su personalidad jurídica (Corte Constitucional, 1992). En este
orden, será fundamental todo derecho que esté dirigido a proteger la dignidad humana y sea traducible
en un derecho subjetivo, es decir, en la medida en que resulte necesario para lograr la libertad de
elección de un plan de vida concreto y la posibilidad de funcionar en sociedad (Corte Constitucional,
2003).

Así, reconocer el control humano como un derecho fundamental constituye una necesidad, pero al
mismo tiempo un reto jurídico, en tanto, es una necesidad jurídica el reconocimiento del control
humano como un derecho fundamental, en la medida que guarda una relación intrínseca e indisoluble
con la dignidad humana, la cual, como ya se ha explicado, es el principio fundante y rector del
ordenamiento jurídico y de los demás derechos que lo conforman. Tal relación, se hace evidente tantos
en los derechos hasta ahora reconocidos en los escenarios análogos, y también en los de inteligencia
artificial, caracterizados por la ausencia de regulación, definición de competencias y sobretodo de
límites jurídicos.
Por esto, lo que aquí se quiere mostrar es que el control humano es un derecho con una alta función
instrumental, en tanto, como ya se señaló, su existencia está condicionada a la protección de otros
derechos fundamentales que se ven amenazados en el uso y desarrollo de los sistemas de inteligencia
artificial. En otras palabras, es la relación que el control humano guarda con la dignidad humana y con
otros derechos fundamentales lo que justifica su categorización como derecho fundamental y convierte
tal reconocimiento en una necesidad jurídica si se quiere asegurar la tutela de derechos en escenarios
de inteligencia artificial.
En este punto, cabe reforzar que no tendría sentido invocar el derecho al control humano como un
instrumento de defensa y protección de derechos fundamentales, si él mismo no es considerado bajo
esta categoría, pues su existencia y clasificación carecería de sustento jurídico y haría inviable alegarlo
como una herramienta de defensa de otros derechos en escenarios de inteligencia artificia. Lo anterior,
guarda una estrecha relación con la teoría de conexidad de los derechos fundamentales desarrollada
por la Corte Constitucional, como más adelante se explicará. Igualmente, se debe advertir que su
naturaleza y contenido no responde a una categoría de derechos diferentes a los fundamentales, lo
que hace imperante su reconocimiento como tal, con las consecuencias jurídicas que ello implica.

Por su parte, además de ser una necesidad jurídica el reconocimiento como fundamental del derecho
al control humano, al mismo tiempo supone un reto para el derecho, en la medida en que aún se
carece de dos elementos esenciales para dicho reconocimiento. El primero de ellos, el consenso social
y jurídico sobre su carácter fundamental, lo que responde en gran medida a lo novedoso del asunto,
que solo hasta ahora está siendo debatido en escenarios internacionales en donde se ha hecho
evidente la preocupación que existe sobre la protección de los derechos fundamentales en escenarios
de inteligencia artificial, y la manera como el control humano es una respuesta pertinente para tal
problema. No obstante, en Colombia los desarrollos jurídicos que versan sobre inteligencia artificial
aún son incipientes a nivel legislativo, reglamentario y jurisprudencial, en donde todavía no se ha
vislumbrado la posibilidad de reconocer el control humano como un derecho y otorgarle a este la
categoría de fundamental.

En consecuencia, el segundo obstáculo que se evidencia para reconocer el control humano como un
derecho fundamental es su positivización en el ordenamiento, debido a que hasta que no se logre un
consenso político y jurídico sobre la necesidad inminente que supone la protección de derechos en
escenarios de inteligencia artificial, se postergará la positivización del control humano como un
derecho fundamental. No obstante, en contraposición a este obstáculo y como insumo para defender
la tesis que aquí se propone, se resalta lo indicado por la Corte Constitucional (1992), quien señala
que la existencia de un derecho fundamental no solo depende de un reconocimiento expreso por parte
del legislador, sino también de una interpretación sistemática y teleológica a partir de la cual se mire
el ordenamiento en su conjunto (Corte Constitucional, 1992).
De ahí la importancia de considerar que la enumeración de la carta de derechos constitucionales no
debe entenderse como la negación de otros, que siendo inherentes al ser humano no figuren
expresamente en la Constitución o en los convenios internacionales vigentes. Esta disposición guarda
relación con el sentido amplio y dinámico que debe tener el concepto de derecho fundamental en el
Estado Social de Derecho. En otras palabras, los criterios que determinan el carácter fundamental de
un derecho, sobrepasan la consagración expresa y depende de la naturaleza, el contenido esencial y
la conexión con principios que tiene tal derecho (Corte Constitucional, 1992).
En esta línea, a partir de desarrollos doctrinales y jurisprudenciales de la Corte Constitucional, se
identifican algunos criterios para considerar un derecho como fundamental, en este caso particular, el
derecho al control humano. Así, propone la Corte Constitucional (2014) como criterios para la
definición de un derecho fundamental, los siguientes:
a. Relación del derecho con el principio de dignidad: como se ha señalado de manera reiterada,
la fundamentación jurídica del derecho al control humano es su relación con el principio de
dignidad humana, pues esta es el punto a partir del cual se justifican las obligaciones en cabeza
del Estado y de los particulares, que surgen como consecuencia del reconocimiento y la regulación
del nuevo derecho, así como las prerrogativas que ostentan los titulares del mismo y que los
facultan para hacer exigible el derecho ante las autoridades competentes. La dignidad es un
derecho que implica obligaciones de dar, hacer y no hacer por parte del Estado (Corte
Constitucional, 2006) y que en este caso se materializan a través de la consagración del control
humano como un derecho.

En la inteligencia artificial, la dignidad humana representa el eje dinamizador e interpretativo de

todo el sistema de protección de los derechos humanos, lo que implica la búsqueda de asegurar
que en toda decisión se aplique el principio “pro persona”, en aras de alcanzarse el resultado que
mejor proteja al ser humano y menos limite la realización de sus derechos fundamentales
(Comisión Interamericana de Derechos Humanos, 2019)

b. Contenido esencial: para que un derecho sea fundamental es necesario que albergue un ámbito
irreductible de conducta, que el derecho protege con independencia de las modalidades que
asuma o de las formas en que él se manifieste. Es un ámbito mínimo o zona central del derecho
que no depende de las mayorías parlamentarias y que se impone a ellas cuando reglamentan el
ejercicio del derecho mediante ley (Chinchilla, 2009). En este punto, se advierte cómo el contenido
esencial del derecho ya fue desarrollado en el apartado anterior de la investigación, por lo que por
economía, no se reiterará lo ya señalado. No obstante, cabe indicar como se cumple
satisfactoriamente con este criterio, toda vez que en la propuesta aquí realizada se formula como
un elemento de la naturaleza del derecho su contenido esencial.

c. Estructura típica: hablar de una estructura del derecho, se refiere a la intención de delimitar en
relación al mismo, los sujetos titulares, los sujetos obligados, la relación obligacional, los bienes
protegidos, los contenidos obligacionales y las garantías de exigibilidad y justiciabilidad
(Chinchilla, 2009). En este sentido, la respuesta sobre la satisfacción de este criterio es en esencia
el desarrollo de la presente investigación, por lo que anticipar en este punto si se satisface o no,
sería un desacierto.

Lo anterior no es un impedimento para advertir desde este momento la importancia que tiene la
satisfacción de cada uno de los elementos aquí señalados a la hora de evaluar la categorización
del derecho al control humano, como uno fundamental. Evaluación, que se deberá realizar al
finalizar la tesis propuesta en la presente investigación.

d. Realidad social: referirse a la realidad social como un criterio supone indagar no solo por las
condiciones jurídicas, sino sociales que rodean el reconocimiento de un derecho como
fundamental, lo que resulta de suma trascendencia, en tanto el ordenamiento jurídico debe
 responder a las necesidades sociales y a los cambios que se presenten, los cuales pueden ser de
diversa índole, incluso tecnológica. Para el caso particular, indagar por la realidad social del
derecho al control humano, implica reconocer la importancia que cada vez adquiere la inteligencia
artificial en los desarrollos sociales, políticos y económicos actuales.

Con dichos desarrollos, también surgen vulneraciones a derechos por el uso de la inteligencia
artificial y es ahí, cuando el Estado tiene la obligación de responder para garantizar la defensa de
tales derechos. Así, el control humano se enmarca en una realidad social permeada por la
tecnología, que afecta tanto positiva como negativamente los derechos fundamentales y el control
humano constituye una respuesta oportuna a las amenazas y vulneraciones que la inteligencia
artificial representa para los derechos humanos.

e. Eficacia del derecho: para que un derecho sea considerado como fundamental, debe ser el
resultado de una aplicación directa del texto constitucional, sin que sea necesaria una
intermediación normativa. En este sentido, si se quiere categorizar el control humano como un
derecho fundamental se debe identificar en él, principios, valores e incluso, derechos que ya han
sido reconocidos en la Constitución Política de Colombia y con los que se identifica una relación
estrecha. En desarrollo de tal criterio, se debe señalar que el control humano puede considerarse
como una aplicación directa de las siguientes disposiciones constitucionales:

 ARTICULO 1o. Colombia es un Estado social de derecho, organizado en forma de República

unitaria, descentralizada, con autonomía de sus entidades territoriales, democrática, participativa
y pluralista, fundada en el respeto de la dignidad humana, en el trabajo y la solidaridad de las
personas que la integran y en la prevalencia del interés general.

En consonancia con lo ya señalado y con el fin de evitar una duplicidad en la explicación, se reitera
como el derecho al control humano fundamenta su naturaleza y contenido en su relación estrecha
con el principio y valor constitucional de la dignidad, como eje rector y estructurador del
ordenamiento jurídico colombiano.

 ARTICULO 2o. Son fines esenciales del Estado: servir a la comunidad, promover la prosperidad
general y garantizar la efectividad de los principios, derechos y deberes consagrados en la
Constitución; facilitar la participación de todos en las decisiones que los afectan y en la vida
económica, política, administrativa y cultural de la Nación; defender la independencia nacional,
mantener la integridad territorial y asegurar la convivencia pacífica y la vigencia de un orden justo.
Las autoridades de la República están instituidas para proteger a todas las personas residentes
en Colombia, en su vida, honra, bienes, creencias, y demás derechos y libertades, y para asegurar
el cumplimiento de los deberes sociales del Estado y de los particulares

Al respecto, se reitera que el control humano funge como un instrumento y una respuesta jurídica
a la inminente amenaza que representa la inteligencia artificial para la protección de derechos
 humanos, especialmente fundamentales, en estos escenarios. Así, el fin del reconocimiento del
control humano como un derecho es cumplir el artículo segundo constitucional que consagra los
fines esenciales del Estado, los cuales están llamados a aplicarse no solo en el plano análogo sino
también en nuevos escenarios hasta ahora explorados, derivados de las nuevas tecnologías, tales
como internet, el espacio digital y la inteligencia artificial.

En este sentido, en un deber del Estado proteger a todas las personas residentes en Colombia,
en su vida, honra, bienes y sobre todo derechos y libertades, para asegurar el cumplimiento de los
deberes sociales del Estado y de los particulares, ahora en escenarios de inteligencia artificial.
Para lo anterior, se ofrece el control humano como una respuesta jurídica y técnica para lograr
dichos fines.

 ARTICULO 13. Todas las personas nacen libres e iguales ante la ley, recibirán la misma protección
y trato de las autoridades y gozarán de los mismos derechos, libertades y oportunidades sin
ninguna discriminación por razones de sexo, raza, origen nacional o familiar, lengua, religión,
opinión política o filosófica.
El Estado promoverá las condiciones para que la igualdad sea real y efectiva y adoptará medidas
en favor de grupos discriminados o marginados.
El Estado protegerá especialmente a aquellas personas que por su condición económica, física o
mental, se encuentren en circunstancia de debilidad manifiesta y sancionará los abusos o
maltratos que contra ellas se cometan.

Como se ha señalado, la igualdad es un mandato que goza de tres facetas en el ordenamiento

jurídico: como principio, como derecho fundamental y como valor, lo que lo convierte en un eje
transversal al sistema jurídico. En este sentido, en virtud del mismo, cabe señalar algunas
consideraciones que dan cuenta de su aplicación inmediata y directa en el derecho al control
humano.

En primer lugar, se debe precisar que es en desarrollo del derecho a la igualdad que se hace
imperativa la extensión de la protección estatal a los derechos fundamentales a los escenarios de
inteligencia artificial, pues de lo contrario se estaría frente a un trato discriminatorio y desigual, si
los derechos, mecanismos de protección e instrumentos jurídicos hasta ahora existentes se
limitaran o restringieran a los escenarios análogos y no a los nuevos escenarios de inteligencia
artificial.

Así, lo que aquí se quiere decir es que todas las personas tienen derecho a exigir la misma
protección de sus derechos tanto en escenarios análogos como de inteligencia artificial, en virtud
del derecho a la igualdad. Por lo que, el control humano funge como el instrumento jurídico
diseñado para hacer extensiva dicha protección, que bien se podría ajustar a la acepción formal
de la igualdad, según la cual, se predica una igualdad ante la ley, relacionada con el carácter
general y abstracto de las disposiciones normativas y su aplicación uniforme a todas las personas,
a lo que cabe agregar, una aplicación uniforme en todos los escenarios.

Igualmente, cabe señalar la segunda consideración, la cual consiste en resaltar cómo la igualdad
se materializa en el trato igual de todas las personas, lo que incluye la protección de todos sus
derechos, conocida como la acepción material de la igualdad. En este sentido, y retomando lo
inicialmente señalado en esta investigación, se hace evidente cómo la inteligencia artificial
representa una amenaza para derechos fundamentales, por lo que el andamiaje estatal no debe
ser indiferente ante tal hecho, sino que debe, en virtud de una igualdad material, promover las
condiciones para que la protección sea real y efectiva, aun en escenarios de inteligencia artificial.

Así, el control humano puede ser considerado como una respuesta jurídica para lograr dicha
protección real y efectiva de los derechos fundamentales en escenarios de inteligencia artificial, a
partir de la garantía de una presencia humana que promueva la defensa de tales derechos en los
escenarios artificiales, advierta cualquier vulneración que se pueda presentar e intente remediar
las afectaciones que ya se hayan materializados, con el fin de devolver al titular al estado inicial.
Todo lo anterior, con el propósito de extender en virtud, del principio de igualdad, la defensa a los
derechos fundamentales en la inteligencia artificial.

f. Conexidad: finalmente como un complemento al criterio anterior, es importante hacer referencia

a lo que la Corte Constitucional ha denominado como derechos fundamentales por conexidad,
entendiendo por los mismos, aquellos derechos que no son denominados como tales en el texto
constitucional. Sin embargo, les es comunicada esta calificación en virtud de la íntima e
inescindible relación con otros derechos fundamentales, de forma que si no fueron protegidos en
forma inmediata, los primeros, se ocasionaría la vulneración o amenaza de los segundos. (Corte
Constitucional, 2014 5ne)
Así, lo que aquí se propone es abrir el análisis sobre la conexidad existente entre el derecho al
control humano con otros derechos fundamentales, bajo la idea que si no se tutela el primero, los
segundos serán desconocidos. Esta propuesta guarda coherencia con lo propuesto en la presente
investigación, especialmente, lo referente a la relación evidente entre el control humano con los
derechos fundamentales a la igualdad, la privacidad, la libertad de expresión y el debido proceso,
los cuales se ven especialmente vulnerados por el uso de la inteligencia artificial.
En este sentido, lo que se concluye en este punto es que del desconocimiento del control humano
como un derecho se deriva inminentemente la vulneración de otros derechos fundamentales,
como los ya referenciados. Lo que es en esencia la aplicación de la teoría de la conexidad
propuesta por la Corte Constitucional, en tanto, el control humano aun no es reconocido de
manera expresa como un derecho fundamental en el texto constitucional, pero su relación
estrecha con otros derechos ya reconocidos como fundamentales, hace que se le transfiera dicho
carácter. Lo que se suma a los argumentos ya expuestos, que apuntan a señalar que la lista de
 derechos fundamentales no es taxativa y que su reconocimiento no depende tanto de una
consagración expresa en los textos jurídicos, sino en su relación con la dignidad, que es en
esencia su fundamentación. Aclarando en este punto, que este análisis se enmarca en escenarios
de inteligencia artificial, pues es solo en estos, donde el derecho al control humano cobra vida.
En suma, lo que este criterio propone es extender de la teoría de la conexidad a nuevos derechos
que apenas se discuten en relación a nuevos escenarios tecnológicos, de manera particular al
control humano, como un derecho de carácter instrumental, que encuentra justificación en su
relación con derechos fundamentales ya existentes que se ven amenazados por el uso de la
inteligencia artificial.
(ii) Consideraciones finales
A modo de conclusión, es importante advertir que definir el derecho al control humano como
fundamental tiene implicaciones jurídicas trascendentales, empezando por la justificación de un
tratamiento especial en la teoría y en la práctica de los derechos. Significa que la Constitución le asigna
un nivel reforzado de protección, que se materializa, entre otras, en el acceso a la tutela como
mecanismo judicial de protección reforzada. Igualmente, este derecho estaría llamado a operar con la
máxima eficacia posible frente al poder social que ostentan ciertos particulares (Chinchilla, 2009), que
para el caso se hacen evidentes, tales como las grandes empresas tecnológicas, muchas de ellas
internacionales, que lideran los desarrollos en inteligencia artificial y que podrían llegar a tener una
alta incidencia en la construcción legislativa de la materia.

En este sentido, hablar del control humano como un derecho fundamental no solo responde a su
cimiento ético sino a las garantías legislativas, judiciales y administrativas con las que se blinda, a fin
de evitar su desconocimiento por la acción del poder soberano o del poder social que ostentan ciertos
particulares. En este punto, cabe recordar que un derecho fundamental se manifiesta en (i) la
prohibición que otros interfieran con sus actos en el goce del derecho, (ii) la facultad de la que goza el
titular del derecho y que al mismo tiempo impone un deber o una prestación positiva a otra persona y
(iii) en la inmunidad que tiene el titular frente a cualquier tercero que pretenda perturbar por acción u
omisión el derecho (Chinchilla, 2009).
En suma, la apuesta por reconocer el control humano como un derecho fundamental es un asunto que
debe abrir la discusión no solo jurídica, sino política, social y económica sobre la incidencia que los
desarrollos de inteligencia artificial están teniendo en los derechos fundamentales y la manera, como
el Estado debe reaccionar ante tales afectaciones con el reconocimiento de nuevos derechos como el
control humano y el otorgamiento de garantías reforzadas al mismo. Lo anterior, con el fin de extender
las prerrogativas jurídicas hasta ahora existentes a los escenarios de inteligencia artificial, para que
en virtud del principio de igualdad formal y material, la protección de la ley también se haga extensiva
en estas situaciones.
8. Sujetos del derecho al control humano
Uno de los elementos esenciales para la definición del control humano como un derecho, es la
delimitación de sus sujetos, por lo que, aquí se propone formular la estructura relacional del derecho
al control humano, en la que se identifiquen los sujetos involucrados alrededor del tal derecho, bien
sea en calidad de titulares del mismo o de obligados. En este sentido, a continuación se expone una
estructura tripartita del derecho al control humano, que se procederá a explicar en atención a las
facultades y competencias que se desprenden de su posición en la estructura.
8.1 Estructura relacional del derecho al control humano

Titular del
derecho

Estructura
relacional

Sujeto Sujeto
controlador controlado

Como se acaba de ilustrar, el derecho al control humano cuenta con una estructura relacional
compuesta por tres sujetos clave, a saber, (i) el titular del derecho, (ii) el sujeto controlador, o quien
ejerce el control humano, y (iii) el sujeto controlado, o sobre quien se ejerce el control humano. A
continuación, se procede a detallar el rol que cada uno de estos sujetos desempeñaría en la estructura
relacional aquí propuesta, y las implicaciones jurídicas que esto conlleva.
(i) Titular del derecho al control humano
El titular de un derecho, en términos generales es un sujeto determinado, al que también se le
denomina sujeto pretensor, el cual puede ser una persona natural o jurídica, pública o privada y que
tiene capacidad de reclamar por sí o por alguien que actúa en su nombre el cumplimiento del derecho
del que es titular, en este caso, el control humano. Así, de su posición se deriva el objeto del derecho
subjetivo, es decir, la facultad que tiene el titular para beneficiarse o disfrutar de un bien socialmente
estimado. Tal facultad se traduce en la legitimidad para actuar, disponer, recibir, retener, exigir
socialmente a otros, resistir frente a actos de otros e incluso impedir fácticamente a otros afectar con
su conducta el derecho del que es titular.
Igualmente, de la posición del titular se deriva la facultad que este tiene para reclamar mediante un
procedimiento administrativo o judicial el cumplimiento del deber específico que tiene el sujeto
obligado. Punto en el cual cobra importancia la garantía del derecho, llamada también tutela judicial
efectiva del derecho, que supone un segundo derecho adicional, que es a poner en movimiento el
aparato judicial mediante un proceso predeterminado en una norma jurídica (Chinchilla, 2009)
Así las cosas, aplicando lo aquí señalado al derecho al control humano, se propone que el titular de
este derecho sea cualquier persona natural o jurídica que en razón del uso de los sistemas de
inteligencia artificial considere necesario el control humano de dichos sistemas en aras de evitar o
advertir cualquier afectación a sus derechos humanos, y de manera particular, sus derechos
fundamentales. En otras palabras, es el titular del derecho al control humano, cualquier persona que
por hacer uso directa o indirectamente de la inteligencia artificial, solicite el control humano sobre la
misma. Lo anterior, amerita una explicación a fondo de cada uno de los elementos señalados. Así,
cabe precisar que:
 Es titular del derecho al control humano cualquier persona natural o jurídica o incluso, una
figura asociativa permitida por el Derecho, esto es, que el control humano no está restringido
exclusivamente a la persona humana, sino también a ficciones jurídicas, como lo son las
personas jurídicas, siempre que estas en uso de la inteligencia artificial consideren necesario
el control humano para la tutela de sus derechos.
 El titular del derecho al control humano debe cumplir como presupuesto, que haga uso directa
o indirectamente de la inteligencia artificial. Quiere decir que está haciendo un uso directo de
la inteligencia artificial, cuando la persona de manera voluntaria accede a dichos sistemas, es
decir, cuando existe de manera previa, una manifestación de voluntad expresa de someterse
a los procesos y decisiones de los sistemas de inteligencia artificial, un ejemplo de ello son
las compras de los sistemas de inteligencia artificial para uso doméstico o laboral.
Mientras que se estaría frente a un uso indirecto o involuntario de la inteligencia artificial,
cuando aún sin existir una manifestación previa de voluntad, una persona se ve afectada por
los procesos y decisiones de los sistemas de inteligencia artificial. Es un ejemplo de esto, los
casos en que las personas son sometidas a sistemas de inteligencia artificial en procesos
judiciales, laborales o educativos, por ejemplo para la identificación de patrones criminales, la
selección de personal para una empresa o la selección de beneficiarios de becas en
universidades, casos en los cuales las personas afectadas por tales decisiones no decidieron
voluntariamente someterse a sistemas artificiales.
 Finalmente, cabe precisar que el titular del derecho puede hacer uso del mismo cuando
pretenda evitar o advertir cualquier afectación a los demás derechos de los que es titular, en
escenarios de inteligencia artificial, siempre que considere que tales sistemas están
amenazando o vulnerando derechos humanos.

(ii) Sujeto controlador

Lo primero que en este punto se debe señalar es que el titular del derecho no es al mismo tiempo el
sujeto controlador, pues este último tiene la potestad para realizar controles a los sistemas de
inteligencia artificial, con el fin de evitar afectaciones a derechos fundamentales, tarea que, no debería
quedar en cabeza de todas las personas naturales y jurídicas que son titulares del derecho al control
humano, sino más bien de autoridades públicas y privadas que estén dotadas de la competencia y la
capacidad para ejercer el control que se plantea. Así, lo que aquí se propone es que una vez el titular
del derecho lo invoque, se active la facultad del sujeto controlador, para iniciar las tareas de inspección,
control y vigilancia sobre los sistemas de inteligencia artificial, esto es, que sea un control rogado o,
por el contrario, sea una facultad de oficio del sujeto controlador que pueda ejercer en cualquier
momento, sin necesidad de ser invocado por el titular, siempre en el marco de sus competencias.
En este sentido, se considera que lo más conveniente en aras de garantizar la seguridad jurídica y la
distribución de competencias, es que el Sujeto controlador sea una autoridad pública, definida por el
legislador, quien delimite la competencia para realizar el control humano, sobre el sujeto controlado,
como se describirá. De esta manera, sobre el Sujeto controlador recae el deber específico de ejercer
el control humano sobre los sistemas de inteligencia artificial, deber que es correlativo a la situación
ventajosa o beneficiosa que se predica del titular del derecho.

Al respecto, cabe precisar que la vigilancia que realiza el sujeto controlador, puede ser tanto rogada
como de oficio, esto es, que las funciones de control que desempeñe este sujeto pueden iniciar cuando
cualquier titular del derecho al control humano, invoque tal derecho o, cuando, el sujeto controlador,
de oficio y en ejercicio de sus competencias, previamente definidas legalmente, considere necesario
el control humano sobre un sistema de inteligencia artificial en aras de evitar afectaciones a derechos
humanos.

Lo anterior, debe ser definido expresamente por la ley, en tanto, al ser el control humano un derecho
que supone vigilancia, imposición de restricciones y medidas de seguridad, puede entrar en colisión
con otros derechos tales como la libertad en varias de sus manifestaciones. Por lo que debe ser el
legislador, el responsable de delimitar los alcances del control humano y las competencias que en
virtud de este derecho, asuma el Sujeto controlador.
Finalmente, en este punto cabe referirse al perfil del Sujeto controlador o en otras palabras a sus
atributos y cualidades. Al respecto, se esperaría que fuera una autoridad pública administrativa, que
puede ser del orden central o descentralizada. Sobre los profesionales que ejerzan dicho control dentro
de las autoridad designada, se esperaría que tengan por lo menos una formación técnica que lo dote
de capacidad para entender, intervenir y controlar los sistemas de inteligencia artificial, al tiempo que
es fundamental que cuenten con conocimientos en derechos y ética aplicada a la tecnología.
No obstante, esto se definirá a discreción del legislador y de las autoridades administrativas, quienes
tendrán la libertad para definir los perfiles de sus equipos. Así como será facultad del legislador definir
si esta será una función pública que pueda ser ejercida por particulares, para lo cual debe delimitar
las competencias de los privados, siempre garantizando que no exista un conflicto de intereses que
pueda llevar a una inhabilidad o incompatibilidad sobre su función.
(iii) Sujeto controlado
Finalmente, el último sujeto de la estructura tripartita del derecho al control humano es el Sujeto
controlado, es decir, sobre quien se ejerce el control. En este sentido, se propone que el Sujeto
controlado sean todas aquellas personas naturales o jurídicas que son responsables de los sistemas
de inteligencia artificial, que pueden representar una amenaza o vulneración para los derechos
humanos. Al respecto, es importante advertir dos puntos que pueden dar lugar a posibles confusiones
y que deben ser definidos también por el legislador, relacionado, con la definición de los sujetos
responsables de los sistemas de inteligencia artificial y la autonomía de estos últimos.
Tal aclaración, se hace necesaria, en tanto pueden ser muchos los sujetos que intervienen en la
cadena de fabricación, distribución, comercialización y uso de los sistemas de inteligencia artificial.
Por lo que necesariamente se debe definir sobre cuál sujeto de la cadena debe recaer el control
humano, que se extiende a los sistemas de inteligencia artificial que están bajo su responsabilidad.
Como se ha señalado, son estos asuntos los que se deben definir por el legislador, no obstante, como
una propuesta preliminar y con el fin de no afectar la protección del derecho al titular, se sugiere que
en todo caso, el primer Sujeto controlado sea el responsable de la comercialización de los sistemas
de inteligencia artificial, siendo estos los últimos en la cadena y los que guardan mayor relación con el
titular del derecho, que termina siendo el usuario o cliente de los sistemas de inteligencia artificial.
Por último, la segunda aclaración versa sobre la posibilidad que el Sujeto controlado sea directamente
el sistema de inteligencia artificial y no la persona natural o jurídica que los comercializa, considerando
que estos sistemas pueden alcanzar un grado de autonomía que lo convierte en un ente independiente
al creador. Al respecto, la respuesta que aquí se ofrece es que considerar el sistema de inteligencia
artificial como un Sujeto controlado autónomo sería un error, en tanto hasta hoy, estos sistemas en el
mundo del Derecho continúan siendo bienes que no tienen personería jurídica y en consecuencia no
cuentan con los atributos que de esta institución se derivan tales como la capacidad jurídica, el
patrimonio o la nacionalidad y, tampoco cuenta con facultades atribuidas solo a una persona, como la
voluntad, libertad y responsabilidad, por lo que, en principio el Sujeto controlado debería ser solo una
persona natural o jurídica y no el sistema de inteligencia artificial como ente independiente.
8.2 Consideraciones finales
Por último y a modo de conclusión, se propone hacer algunas reflexiones sobre la importancia y las
implicaciones de la delimitación de los sujetos del derecho al control humano. En este sentido, es
importante la delimitación del titular del derecho, entre otros asuntos, para la identificación de aquellos
que podrán acceder a la administración de justicia para exigir la protección del derecho, lo que también
es conocido como la justiciabilidad del derecho, que para el caso particular, por su carácter
fundamental, abre la puerta a la tutela como una acción subjetiva, de carácter personal y concreto,
cuyo titular es la persona agraviada o amenazada en sus derechos fundamentales. De ahí, la
importancia de individualizar la titularidad del derecho al control humano, para que el juez tenga la
capacidad de identificar una situación subjetiva individual, para garantizar el control humano como un
derecho subjetivo con un titular perfectamente identificable.
Por su parte, la definición de los sujetos del derecho es decisiva para la tarea que debe emprender el
legislador en relación a la concesión de competencias para las autoridades públicas que deberán
fungir como Sujeto controlador respecto a los sistemas de inteligencia artificial. Aquí, también cabe
abrir la discusión sobre si los sujetos privados puedan ejercer labores de control, o sobre si, esta
competencia será reservada de manera exclusiva a las autoridades públicas.
En consonancia con lo anterior, consecuente con la delimitación de los sujetos del derecho, deviene
la definición de competencias, potestades y responsabilidades que se le asignan a cada uno de ellos,
lo que supone la intervención del legislador, la imposición de nuevas funciones en la estructura
orgánica del Estado y abre la puerta al mismo tiempo a la fusión del trabajo entre autoridades públicas
y privadas, que cuenten con el conocimiento específico que demanda la inteligencia artificial para
ejercer el control humano.
9. Deberes que se desprenden del derecho al control humano

Además de lo señalado hasta el momento, son elementos esenciales del derecho al control humano
los deberes que del mismo se desprenden, los cuales están en cabeza de múltiples actores, tales
como el Estado, el sector privado y la sociedad civil. En este sentido, en el presente apartado se
pretende exponer un primer acercamiento a lo que serían los deberes que asumirían los actores
descritos en virtud del nuevo derecho al control humano.

De esta manera, a continuación se presentan dos subapartados, el primero dirigido a los deberes que
se esperaría que el Estado asumiera como consecuencia del reconocimiento del derecho al control
humano; mientras que en un segundo subapartado se hace referencia a los deberes que del mismo
derecho se desprenden pero en cabeza del sector privado. Lo anterior, bajo la premisa que el
reconocimiento de un nuevo derecho debe tener implicaciones prácticas, que suponen la definición de
responsables, competencias y nuevos marcos regulatorios.

9.1 Deberes estatales para garantizar el derecho al control humano

El Estado colombiano, en cumplimiento del artículo segundo constitucional, tiene el deber de proteger
a todas las personas y sus derechos, con el fin de asegurar el cumplimiento de los deberes sociales
del Estado. Con base en este fundamento constitucional y en los desarrollos internacionales que se
han dado sobre las obligaciones de los Estados, respecto a la defensa de los derechos de los
ciudadanos, a continuación se presenta una propuesta de las implicaciones jurídicas para el Estado
colombiano que se derivarían del reconocimiento del control humano como un derecho en el
ordenamiento jurídico.
En este sentido, el presente apartado se divide de la siguiente manera: (i) alusión a las obligaciones
del Estado de respetar, proteger y cumplir los derechos; (ii) obligaciones regulatorias y, (iii)
obligaciones institucionales.
9.1.1 Obligaciones del Estado de respetar, proteger y promover los derechos
El sistema internacional de Derechos Humanos, liderado especialmente por la Organización de
Naciones Unidas (ONU), ha sido reiterativo en la obligación que tienen los Estados de promover,
proteger y respetar los derechos humanos en todo momento (CIDH, 2019). Lo anterior, reconociendo
que son los Estados quienes asumen un papel importante para la creación de mecanismos efectivos
para remediar impactos adversos de la inteligencia artificial en los derechos humanos y abordar las
consecuencias distributivas de esta tecnología, mediante el proceso democrático.
En esta línea, es pertinente tomar como referente el Pacto Internacional de Derechos Económicos,
Sociales y Culturales, para hacer extensivas algunas de sus consideraciones a las obligaciones que
se derivarían en cabeza del Estado en escenarios de inteligencia artificial. Así, cabe destacar cómo la
ONU reconoce que las obligaciones de los Estados respecto a los derechos humanos se pueden
identificar en tres niveles: respetar, proteger y cumplir o promover. De acuerdo con este documento,
estas obligaciones se aplican tanto a las situaciones que se producen en el territorio nacional como a
las situaciones que tienen lugar fuera de este (Pielemeier, 2018)

De esta manera, haciendo una adaptación particular al derecho al control humano y, en términos
generales a los derechos humanos en escenarios de inteligencia artificial, sobre la obligación de
respeto cabe mencionar que el Estado debe garantizar el ejercicio de los derechos, lo que incluye la
adopción de medidas de protección ante actos de terceros particulares, como las empresas, quienes
asumen un rol protagónico en los desarrollos de inteligencia artificial. Así, señala de manera puntual
la ONU que, para lograr la plena efectividad de los derechos “no es posible ignorar o rechazar el rol e
impacto que el sector empresarial tiene sobre ellos dada la multiplicidad de situaciones en que tales
actores privados se involucran en el goce de los derechos (…)”, por lo que los derechos podrían verse
limitados si desde los Estados no se toman las medidas necesarias para su respeto y garantía dentro
de este ámbito (CIDH, 2019).
En este sentido, y haciendo un énfasis particular en la relación Estado-Empresa, la obligación de
respeto del primero implica que “los Estados deban abstenerse de desplegar conductas vinculadas a
actividades empresariales que contravengan el ejercicio de los derechos humanos” (CIDH, 2019). Esto
sucedería por ejemplo si se colabora con la conducta de empresas que impliquen violaciones a los
derechos humanos, por lo que, se afirma en los Principios Rectores sobre las empresas y los Derechos
Humanos de la ONU que, “cuanto más próxima del Estado se encuentre una empresa o más dependa
de un organismo público o del apoyo del contribuyente, más se justifica que el Estado asegure que
respeta los derechos humanos” (Organización de Naciones Unidas, 2011).

De esta manera, se puede afirmar que la obligación de respeto es una obligación negativa, que implica
conductas de abstención y no intromisión en el goce de los derechos, en este caso particular, en el
goce del derecho al control humano. Así, el Estado no debería limitar su ejercicio injustificadamente,
sino aduciendo limitaciones razonables y proporcionadas, respetuosas de los principios y valores
constitucionales como hasta ahora se ha señalado, a lo que se le debe sumar que en ningún momento
se debe privilegiar los intereses de las empresas en detrimento de los derechos humanos, sin una
debida justificación.
En esta línea, la obligación de respeto que asume el Estado en relación al control humano se puede
definir como el deber de abstenerse de realizar conductas, promover o incentivar en ejercicio de sus
competencias, la vulneración de este derecho o el desconocimiento del mismo, en escenarios de
inteligencia artificial. Lo que desembocaría en la vulneración de otros derechos, muchos de ellos,
fundamentales, en estos nuevos escenarios tecnológicos.
Por su parte, sobre el segundo tipo de obligaciones, tendentes a proteger los derechos humanos, cabe
señalar que estas están encaminadas a que los Estados adopten “las medidas apropiadas para
prevenir, investigar, castigar y reparar esos abusos mediante políticas adecuadas, actividades de
reglamentación y sometimiento a la justicia” (CIDH, 2019). De acuerdo con lo anterior, de la obligación
de proteger podrían surgir deberes para el Estado respecto al derecho al control humano, tales como:
(i) regular y adoptar disposiciones del derecho interno que reglamenten el control humano, (ii) prevenir
violaciones al derecho en el marco de actividades empresariales, (iii) fiscalizar las actividades que
puedan implicar una amenaza para el derecho al control humano y (iv) investigar, sancionar y asegurar
el acceso a reparaciones para aquellas personas que han visto vulnerado su derecho al control
humano.
De lo anterior se desprende la obligación que tendría el Estado de adoptar medidas legislativas,
administrativas y judiciales para asegurar una protección eficaz contra las vulneraciones del derecho
al control humano, especialmente cuando estas guardan una relación permanente con actividades
empresariales, pues no se debe olvidar que son las empresas las abanderadas en los desarrollos
tecnológicos de inteligencia artificial y las primeras llamadas a incurrir en posibles vulneraciones
(Comité de Derechos Económicos, Sociales y Culturales, 2017). Así, la obligación de proteger deviene
en el deber de adoptar un marco jurídico que regule el derecho al control humano y con él, las
competencias, funciones y obligaciones del Estado respecto a su protección.
Igualmente, en el marco de la obligación de protección respecto al derecho al control humano, el
Estado debe diseñar y hacer cumplir las leyes que tengan por objeto hacer respetar el derecho al
control humano, lo que, en otras palabras, significa mantener un marco normativo adecuado para
asegurar el cumplimiento de sus obligaciones y las de todos los ciudadanos respecto al derecho al
control humano. Asimismo, el Estado debe tomar medidas apropiadas para garantizar por vías
judiciales, administrativas o de otro tipo, que cuando se produzcan afectaciones al derecho al control
humano los afectados puedan acceder a mecanismos de reparación eficaces.
En este punto cabe señalar que el Estado debe considerar la posibilidad de imponer sanciones
penales, administrativas o pecuniarias, en los casos que con la acción u omisión de las autoridades
públicas o de particulares haya lugar a la vulneración del derecho al control humano, lo que se debe
circunscribir a la categoría de derecho que le sea asignada, que para el efecto de esta investigación,
se ha considerado como un derecho fundamental. Por lo anterior, el Estado debe facilitar la
interposición de acciones judiciales y administrativas o cualquier otro medio eficaz para que los
titulares del derecho al control humano, reclamen la protección del mismo, cuando consideren que
este ha sido vulnerado.
Finalmente, respecto a la obligación de cumplir que debería asumir el Estado, se debe señalar que
este último debe adoptar las medidas necesarias para facilitar y promover el disfrute del derecho al
control humano. El cumplimiento de esta obligación, puede exigir la movilización de recursos por parte
del Estado, lo que puede implicar la cooperación entre el Estado y otros sectores sociales, tales como
las empresas, las veedurías ciudadanas y las organizaciones sociales que buscan también la defensa
de los derechos en escenarios de inteligencia artificial.
Igualmente, en el marco de esta obligación, se incluye que los Estados deben actuar con debida
diligencia para prevenir, investigar y sancionar toda violación al derecho al control humano y procurar,
además, la restitución del derecho afectado, y la reparación de los daños producidos por su violación
(CIDH, 2019). Adicionalmente, y no menos importante, la obligación de cumplimiento también debe
implicar el deber de prevención que, de acuerdo con la Corte Interamericana implica, todas aquellas
medidas de carácter jurídico, político, administrativo y cultural que promuevan la salvaguarda de los
derechos humanos, lo que exige que las autoridades correspondientes adopten medidas para evitar
que los riesgos reales contra el derecho al control humano se concreticen, para lo que es necesario
contar con un actuar articulado entre las autoridades públicas.
9.1.2 Obligaciones regulatorias
En desarrollo de las obligaciones anteriormente descritas, particularmente la obligación de proteger
que está en cabeza del Estado, cabe mencionar que el mismo asume deberes regulatorios respecto
del derecho al control humano, lo que deviene en la creación de un marco normativo completo que
desarrolle el contenido y las obligaciones que se derivan del nuevo derecho. Así, el Congreso de la
República, en calidad de órgano legislativo por excelencia del Estado, es el primero en ser llamado a
proferir leyes que delimiten el alcance, las obligaciones y las implicaciones jurídicas del derecho al
control humano. En este punto, cabe precisar que, en consonancia con lo ya descrito en esta
investigación, al considerar este derecho como uno fundamental, el tipo de ley llamada a regular la
materia debe ser una estatutaria4, lo que supone cumplir el trámite que para el efecto ya ha sido
definido.
No obstante lo anterior, las obligaciones regulatorias no deberían estas exclusivamente en cabeza del
Congreso de la República, sino también en cabeza del gobierno en todos sus órdenes, quien, en el

4 Se aclara que es la Ley Estatutaria la llamada a regular el derecho al control humano, en su calidad de derecho
fundamental, en tanto, de acuerdo con el artículo 152 de la Constitución Políticas, son este tipo de leyes las que están
llamadas a abordar los derechos fundamentales. Así, señala el artículo:
“ARTICULO 152. Mediante las leyes estatutarias, el Congreso de la República regulará las siguientes materias:
a) Derechos y deberes fundamentales de las personas y los procedimientos y recursos para su protección”. Por su parte,
ha señalado la Corte Constitucional que “Las Leyes Estatutarias constituyen un tipo de leyes de especial jerarquía, que
tienen como fin esencial salvaguardar la entidad de las materias que regula, que son: los derechos y deberes
fundamentales, así como los procedimientos y recursos para su protección; la administración de justicia; la organización y
régimen de los partidos y movimientos políticos, el estatuto de la oposición y las funciones electorales; (…) (Corte
Constitucional, 2011). Igualmente reconoce la Corte que “la reserva de ley estatutaria procura someter a mayor discusión
democrática y control la regulación de ciertas materias que cuentan con un trámite legislativo cualificado, debido a su
importancia para el Estado Social de Derecho, por ejemplo los derechos fundamentales y sus garantías.” (Corte
Constitucional, 2020)
marco de sus competencias, tiene la potestad para regular asuntos que guardan estrecha relación con
el derecho al control humano, tales como la inteligencia artificial, los derechos en escenarios
tecnológicos, la relación entre el Estado y las empresas tecnológicas, entre otros asuntos.
Finalmente, en este punto cabe preguntarse cuál debería ser el contenido o el alcance de la regulación
respecto al derecho al control humano, frente a lo cual cabe señalar que se esperaría por lo menos la
inclusión de los siguientes asuntos:

 Naturaleza y contenido del derecho

 Elementos y principios del derecho
 Ámbito de aplicación de la ley
 Obligaciones del Estado
 Evaluación de indicadores de goce del derecho
 Integralidad del derecho y relación de este con otros derechos fundamentales
 Derechos y deberes de las personas, derivados del derecho al control humano
 Sujetos de protección
 Sujetos controlados y sujetos que ejercen el control
 Garantía y mecanismos de protección del derecho
 Procedimiento de resolución de conflictos
 Definición de autoridades y competencias.

Al respecto, se precisa que los anteriores asuntos han sido abordados a los largo de la presente
investigación, por lo que no se detendrá nuevamente en la descripción de cada uno de ellos. Por su
parte, se pretende señalar de manera general, como la regulación es, si se quiere, la primera
obligación que debe asumir el Estado respecto al derecho al control humano, lo que supone un actuar
conjunto y armónico entre las diferentes autoridades públicas, empezando por la Rama Legislativa,
pasando por la Administración y vinculando, en últimas, a los jueces, que terminarían dirimiendo los
conflictos.

No obstante, vale la pena indicar que la regulación no es la única alternativa jurídica para abordar el
derecho al control humano, en tanto, también existe la posibilidad de formular estrategias de auto-
regulación, impulsadas por el sector privado, de manera puntual, por las empresas tecnológicas. En
este punto, es importante exponer la problemática que puede suponer la auto-regulación, puesto que,
hay que comprender diferentes aristas frente al asunto. De esta manera, se debe reconocer que la
incidencia directa del Estado en un mercado como el tecnológico, con el reconocimiento al derecho al
control humano, puede resultar contraproducente para las dinámicas del mercado, por lo que desde
el Derecho se podrían ofrecer otras alternativas para garantizar la protección de los derechos
fundamentales en escenarios tecnológicos, tales como la construcción de marcos éticos y reglamentos
internos en cada una de las empresas respecto a la garantía de derechos o la definición de
obligaciones de los directamente implicados en el mercado, a través de acuerdos contractuales
vinculantes.
No obstante, estas alternativas si bien son válidas, pueden resultar inconvenientes e insuficientes
respecto a la protección óptima de derechos en escenarios de inteligencia artificial. Lo anterior,
obedece a que son las empresas quienes tienen un interés directo en la relación con sus
consumidores, formándose así, una relación en la que el sujeto llamado a ser protegido debe ser el
consumidor o usuario de los sistemas de inteligencia artificial, lo que justifica la intervención estatal,
como una garantía general, dirigida y vinculante para toda la comunidad y lo que se podría afectar si
son las mismas empresas quienes definen sus marcos de actuación a partir de la auto-regulación.

En suma, lo que se pretende evidenciar es que no es pacífica la elección de la regulación como la

respuesta jurídica que se debe ofrecer respecto a la problemática que supone la vulneración de
derechos fundamentales en escenarios de inteligencia artificial y que, la auto-regulación también se
plantea como una alternativa jurídica válida. No obstante, para el desarrollo de la presente
investigación se decantó por la regulación estatal como el medio más idóneo para abordar el asunto,
por los argumentos expuestos con suficiencia a lo largo del texto.

9.1.3 Obligaciones institucionales

Sumadas a las obligaciones regulatorias que asume el Estado, se debe hacer referencia a las
obligaciones institucionales que se derivan del derecho al control humano. Estas están relacionadas
con la necesidad que el Estado defina las autoridades públicas encargadas de respetar, proteger y
cumplir el nuevo derecho. De esta manera, se debe precisar inicialmente que si bien la garantía de
cualquier derecho es una obligación general para el Estado, extensiva a cualquiera de sus autoridades
públicas, es importante que, en aras de respetar la distribución de competencias y la estructura
orgánica del Estado, se definan las autoridades competentes para la protección y promoción del
derecho al control humano.

En este sentido, lo que aquí se busca es advertir la importancia de que el Estado defina cuales serían
las autoridades públicas competentes y responsables de cumplir las obligaciones estatales que se
derivan del derecho al control humano y sobre todo la asignación de competencias para ejercer el
control sobre la inteligencia artificial como consecuencia del derecho. Así, surgen diferentes
cuestiones que, a continuación, se advierten sobre la delimitación institucional como consecuencia del
reconocimiento del derecho al control humano.

El propósito de este subapartado no es señalar una autoridad púbica determinada para que asuma
las obligaciones estatales que se derivan del control humano, sino, más bien, exponer algunas
cuestiones que se deben tener en cuenta en su definición. Así, es importante considerar que del
derecho al control humano se deprenden obligaciones de diversa índole, lo que necesariamente
vincula varias autoridades públicas. No obstante, es importante hacer énfasis en la obligación de
inspección y vigilancia que se deriva del control humano, esto es, el efectivo control respecto a los
sistemas y desarrollos de la inteligencia artificial.
En este sentido, el Estado debe definir en cabeza de quien radicará la labor de control humano
respecto a la inteligencia artificial. Asunto complejo que puede derivar en múltiples respuestas, tales
como que, el control estará concentrado en una sola entidad pública o por el contrario, que dicho
control estará disperso en múltiples autoridades públicas, que cuentan con las competencias y las
capacidades para asumir esta tarea. En todo caso, independiente a la respuesta sobre la asignación
de funciones en una o varias autoridades, es importante, considerar la naturaleza de la autoridad o las
autoridades encargadas, esto es, que si bien es una autoridad estatal, cabe preguntarse si debe ser
una entidad administrativa, legislativa o judicial la llamada a ejercer el control humano.

Si la respuesta a esta primera pregunta es que debe ser una autoridad administrativa la llamada a
ejercer este control, cabe preguntarse luego, si esta debe ser del sector central o descentralizado.
Igualmente, surgen cuestionamientos sobre si dicha entidad debe ser de orden nacional o territorial,
entendiendo por este último, las entidades departamentales, distritales y municipales. Esto quiere decir
que la primera tarea debe ser la delimitación de la naturaleza de la entidad, de lo que se desprende la
vocación de la misma respecto al derecho al control humano, en tanto, de acuerdo a la naturaleza de
la entidad se delimitan las funciones de fomento, promoción, control, inspección o sanción de la
entidad.
Por su parte, también cabe considerar si para atender las obligaciones que se desprenden del derecho
al control humano, se hace necesaria la creación de una nueva entidad o si basta con las ya existentes.
Solo a modo de ejemplo, cabe preguntarse si el Ministerio de Tecnologías de la Información y las
Comunicaciones (MinTic) sería la entidad llamada a asumir funciones respecto al derecho al control
humano, en tanto es la entidad encargada de promover políticas y proyectos del sector de las
Tecnologías de la Información y las Comunicaciones, asuntos que podrían guardar una relación con
los desarrollos de la inteligencia artificial.
Por otro lado, también cabe preguntarse si la idea del control humano, se asemeja a las funciones que
actualmente desempeñan las superintendencias, en tanto su objeto es inspeccionar y vigilar
determinadas actividades económicas y de servicios en todo el país, o a otras entidades de la
administración pública, tales como las Comisiones de Regulación, que en principio están dirigidas a
regular los servicios públicos domiciliarios, pero cuya naturaleza está encaminada a garantizar la
competencia y defensa de los derechos de los usuarios frente a los prestadores de los servicios,
quienes pueden ser de carácter público o privado (Congreso de la República, 1994).
Asimismo, puede plantearse una relación con las Agencias Estatales, las cuales son entidades
públicas que pertenecen al sector descentralizado del poder ejecutivo, están envestidas con
personería jurídica, patrimonio propio, autonomía administrativa, técnica y financiera, adscritas a los
ministerios y cuya función es velar por los intereses del Estado, coordinar y administrar políticas
públicas (Palacios, 2015), lo cual también podría hacerse extensivo al control humano en la inteligencia
artificial.

En lo que respecta a las autoridades judiciales, también se pueden plantear múltiples respuestas
respecto a su competencia para conocer del control humano. Al respecto, en principio serían los jueces
constitucionales en sede de tutela quienes podrían conocer de los asuntos relacionados con el control
humano, obedeciendo a su carácter de derecho fundamental, asunto que se desarrollará con detalle
en el siguiente apartado. No obstante, también se deja abierta la posibilidad a la jurisdicción ordinaria,
autoridades administrativas y particulares que en virtud de una norma legal o constitucional tienen
competencia para ejercer funciones jurisdiccionales.
Son muestra de esto último, las funciones jurisdiccionales de algunas superintendencias en las
materias de su competencia, tales como la Superintendencia de Sociedades para la declaratoria de
nulidad de los actos defraudatorios y la desestimación de la personalidad jurídica de las sociedades
sometidas a su supervisión; el cumplimiento y ejecución específica de acuerdos de accionistas; la
impugnación de decisiones de los órganos sociales; el reconocimiento de los presupuestos de
ineficacia contemplados en el Código de Comercio, entre otros (Asuntos legales, 2015). Al igual que
la Superintendencia de Industria y Comercio que se encarga de decidir judicialmente sobre el
restablecimiento de los derechos de los consumidores; la existencia de actos de competencia desleal
y la infracción de derechos de propiedad industrial (SIC, 2021).
Igualmente, cabe hacer referencia a la posibilidad que los particulares ejerzan excepcionalmente
funciones jurisdiccionales, investidos por la competencia otorgada por el artículo 116 de la Constitución
Política, el cual señala que “(…) Los particulares pueden ser investidos transitoriamente de la función
de administrar justicia en la condición de jurados en las causas criminales, conciliadores o en la de
árbitros habilitados por las partes para proferir fallos en derecho o en equidad, en los términos que
determine la ley” (Constitución Política, 1991). A partir de lo cual, se plantea la posibilidad que sean
particulares quienes ejerzan el control humano en sede jurisdiccional.
En todo caso, lo que aquí se pretende evidenciar es que la promoción, protección y defensa del
derecho al control humano es un asunto transversal al Estado, que vincula armónicamente a diferentes
autoridades públicas adscritas a las tres ramas del poder público, lo que sin lugar a dudas, resulta
necesario para el ejercicio del derecho al control humano. No obstante lo anterior, en cumplimiento de
las obligaciones institucionales del Estado, es importante que el mismo defina clara y oportunamente
las autoridades llamadas a asumir directamente las funciones que se desprenden del control humano
y que ya se han expuesto en esta investigación, como lo son la regulación, promoción, protección,
inspección, resolución de conflictos, entre otras, respecto al control humano.
De esta manera, la obligación que, al respecto, debe asumir el Estado es la asignación correcta de las
autoridades e instituciones públicas que, en virtud de su misión y naturaleza, cuenten con las
competencias y capacidades para garantizar el ejercicio del derecho al control humano. Esto supone
evaluar, como ya se señaló, la naturaleza, funciones y organización de las autoridades existentes o
las que se deben crear para atender las nuevas necesidades que surgen en contextos de inteligencia
artificial.
9.2 Deberes del sector privado para garantizar el derecho al control humano
Una vez identificadas las obligaciones que, en principio, surgirían en cabeza del Estado como
consecuencia del reconocimiento del derecho al control humano, es importante hacer mención a los
deberes que se demandan del sector privado, de manera particular de las empresas del sector
tecnológico, encargadas del desarrollo de los sistemas de inteligencia artificial. Al respecto, reconoce
la Organización de Naciones Unidas que, del mismo modo que los Estados deben actuar con
coherencia política, las empresas deben conciliar coherentemente su obligación de respetar los
derechos humanos y las actividades comerciales que realizan (Organización de Naciones Unidas,
2011). Esto, aterrizado al contexto de inteligencia artificial, implica reconocer que las empresas
dedicadas a este asunto, no deben sacrificar los derechos humanos, tales como la igualdad, la
privacidad, el debido proceso y la libertad de expresión en el ejercicio de sus actividades comerciales.
Como consecuencia, se ha acuñado el término de debida diligencia en materia de derechos humanos,
entendida como las exigencias que los Estados les hacen a las empresas, consistentes en un proceso
continuo de gestión que una empresa debe llevar a cabo para hacer frente a su responsabilidad de
respetar los derechos humanos, para identificar, prevenir y rendir cuentas por los daños que causan
los mismos (CIDH, 2019). En este sentido, lo que aquí se propone es que, en virtud del reconocimiento
del derecho al control humano se haga extensiva la debida diligencia a las empresas del sector
tecnológico que llevan a cabo los desarrollos de inteligencia artificial.
De esta idea, se desprende que no solo los Estados sino también las empresas, asuman un rol
protagónico y responsable en la defensa de los derechos humanos en escenarios de inteligencia
artificial, para lo que se esperaría que las empresas (Organización de Naciones Unidas, 2011):
a. Abarquen las consecuencias negativas sobre los derechos humanos que la empresa haya
provocado o contribuido a provocar a través de sus propias actividades, o que guarden
relación directa con sus operaciones o servicios comerciales.
b. Construyan un proceso continuo interno, encaminado a la previsión de los riesgos para los
derechos humanos, en tanto aquellos pueden cambiar con el tiempo, en función de la
evolución de las operaciones y el contexto operacional de las empresas
c. Pongan en marcha el proceso de debida diligencia en materia de derechos humanos lo antes
posible, cuando se emprende una nueva actividad o se inicia una relación comercial, puesto
que ya en la fase de preparación de los contratos u otros acuerdos pueden mitigarse o
agravarse los riesgos para los derechos humanos.
d. Eviten que sus propias actividades provoquen o contribuyan a provocar consecuencias
negativas sobre los derechos humanos
e. Prevengan o mitiguen las consecuencias negativas sobre los derechos humanos,
directamente relacionadas con operaciones, productos o servicios prestados por sus
relaciones comerciales, incluso cuando no hayan contribuido a generarlos.
f. Cuenten con políticas y procedimientos apropiados, en función de su tamaño y circunstancias
de la empresa, que logren evidenciar un compromiso político de esta para asumir su
responsabilidad de respetar los derechos humanos
 g. Definan procesos que permitan reparar todas las consecuencias negativas sobre los derechos
humanos que hayan provocado o contribuido a provocar
h. Para verificar que se estén tomando las medidas para prevenir las consecuencias negativas
sobre los derechos humanos, las empresas deben hacer un seguimiento de la eficacia de su
respuesta, el cual debe basarse en los indicadores cualitativos y cuantitativos adecuados.
En todo caso, las empresas que prestan servicios y desarrollan actividades comerciales vinculados
con inteligencia artificial, deben respetar los derechos humanos, lo que significa abstenerse de infringir
los derechos humanos de terceros y hacer frente a las consecuencias negativas sobre los derechos
humanos en las que tengan alguna participación (Organización de Naciones Unidas, 2011). Así, para
la CIDH es evidente entonces la importancia de que empresas vinculadas a los nuevos desarrollos
tecnológicos, como internet, plataformas en línea, medios de comunicación y ahora, inteligencia
artificial, cumplan con tener en cuenta los impactos negativos que su quehacer puede producir sobre
los derechos humanos, en particular los de aquellos grupos históricamente discriminados, para que
organicen sus servicios y actividades de manera que no infrinjan los parámetros establecidos por el
marco de los derechos humanos (CIDH, 2019).
Por lo anterior, las empresas tienen la obligación de crear un entorno en el que se respeten los
derechos humanos, por lo que también resulta importante que los Estados implementen mecanismos
adecuados para la supervisión, rendición de cuentas y acceso efectivo a reparaciones en el ámbito de
empresas y derechos humanos (CIDH, 2019). Así, lo aquí señalado debe ser comprendido en un
contexto de reconocimiento del derecho al control humano, a partir de cual es fundamental que
además de las anteriores obligaciones, consideren que pueden llegar a ser objeto de control,
inspección y veeduría por parte de autoridades estatales, para verificar que en desarrollo de sus
sistemas de inteligencia artificial, no se amenacen o vulneren derechos humanos.
En otras palabras, las empresas empiezan a asumir un rol de sujeto pasivo en la estructura relacional
del derecho al control humano, por lo que se deben incluir en sus deberes la disposición y apertura a
ser objeto de control, lo que podría implicar tareas de inspección y vigilancia permanente o periódica
de sus actividades o desarrollos de inteligencia artificial. Todo lo anterior, con el fin de evitar la
materialización de un daño a los derechos humanos.
En suma, como consecuencia del reconocimiento del control humano se advierten dos tipos de
obligaciones para las empresas. El primer grupo de obligaciones responde a la extensión del deber
de debida diligencia que ya ha sido desarrollado a nivel nacional e internacional, a aquellas actividades
empresariales que versan sobre desarrollos de inteligencia artificial, con el fin que el deber de
armonizar la actividad empresarial con la defensa de los derechos humanos se mantenga. Por su
parte, el segundo grupo de obligaciones se resume en el reconocimiento de las empresas como un
sujeto pasivo del control humano, esto es, que deben mantener la disposición para ser sometidos a
control y vigilancia, con el fin de advertir oportunamente y si es el caso, remediar, cualquier vulneración
a los derechos humanos en escenarios de inteligencia artificial.
 10. Garantía del derecho al control humano

Como último elemento constitutivo del derecho al control humano, resulta necesario referirse a los
medios judiciales y administrativos que constituyen la garantía del derecho. Esto, se ajusta al deber
de protección que tienen los Estados respecto a los derechos humanos, en virtud del cual, se deben
tomar las medidas apropiadas para garantizar, por las vías judiciales, administrativas o de otra índole,
que, cuando se produzca algún tipo de abuso al derecho, los afectados puedan acceder a mecanismos
de reparación eficaces (Organización de Naciones Unidas, 2011).
Así, siguiendo con las obligaciones de proteger, respetar y remediar que surgen en cabeza del Estado
de acuerdo con los Principios Rectores sobre las empresas y los Derechos Humanos (2011), el deber
de remediar, se concretiza en la obligación del Estado de proporcionar el acceso a recursos judiciales
y otros recursos efectivos a disposición de aquellas personas que han sido afectadas por abusos de
sus derechos humanos, en este caso, el derecho al control humano. En este sentido, los Estados
deben adoptar medidas apropiadas para asegurar la eficacia de los mecanismos judiciales y
administrativos frente a violaciones de derechos humanos en escenarios de inteligencia artificial, para
lo que es necesario proporcionar los medios adecuados de atención y reparación a las personas
afectadas.
10.1 Mecanismos judiciales para hacer exigible el derecho al control humano

Dentro del deber de garantía que debe asumir el Estado respecto al derecho al control humano, se
deben mencionar en primer lugar, los mecanismos judiciales que el Estado debe proporcionar al titular
del derecho, para que, en caso de alguna amenaza o vulneración al mismo, cuente con los medios
idóneos para hacer exigible su reparación y restitución al estado inicial. En este punto, cobra especial
relevancia la naturaleza del derecho al control humano, en tanto de esta clasificación depende la
definición de los medios judiciales a partir de los cuales se garantiza su goce.
En este sentido, cabe recordar que como ya se había señalado, lo que aquí se propone es que el
control humano sea considerado un derecho fundamental, por lo que es la acción de tutela el
mecanismo judicial idóneo para reclamar la exigibilidad del derecho. Así, cabe recordar cómo la Corte
Constitucional define la acción de tutela como un mecanismo judicial de rango constitucional,
autónomo, subsidiario y sumario, que les permite a todos los habitantes del territorio nacional acceder
a una herramienta para la protección inmediata de los derechos fundamentales, cuando estos resulten
amenazados o vulnerados por las autoridades públicas, o incluso por particulares.
Por lo anterior, es la acción de tutela el mecanismo judicial por excelencia llamado a proteger el
derecho al control humano, en tanto este es considerado un derecho fundamental. También, cabe
reforzar la legitimación para acudir a la acción de tutela en el artículo 2 del Decreto 2591 de 1991, el
cual señala que “cuando una decisión de tutela se refiere a un derecho no señalado expresamente
por la Constitución como fundamental, pero cuya naturaleza permita su tutela para casos concretos,
la Corte Constitucional le dará prelación en la revisión a esta decisión”, caso aplicable al derecho al
control humano, en la medida que su naturaleza es de un derecho fundamental, aun cuando no esté
señalado expresamente así por la Constitución, lo cual no es un impedimento para acudir a la acción
de tutela.

De esta manera, se esperaría que con la acción de tutela el titular del derecho al control humano
solicite garantizar el pleno goce de su derecho y volver al estado anterior a la violación, cuando fuere
posible. Por su parte, cuando la vulneración se concrete por una omisión, el titular podrá solicitar que
se desarrolle la acción adecuada para lograr la protección de su derecho fundamental. En todo caso,
deberán ser aplicables todas las reglas legales y jurisprudenciales que rijan sobre la acción de tutela,
en tanto esta también debe ser extensiva para el derecho al control humano.

Sumado a lo anterior, los mecanismos judiciales no se deben limitar exclusivamente a la acción de

tutela, sino que también se deben considerar las demás acciones judiciales contempladas en el
ordenamiento jurídico colombiano, que puedan llegar a ser ejercidas por los titulares del derecho al
control humano, de acuerdo a la conducta indebida y los perjuicios causados, de lo que se puede
derivar por ejemplo una reclamación pecuniaria.
Al respecto, es pertinente dejar sobre la mesa la posibilidad de acudir a acciones judiciales como la
Acción de grupo y la Acción Popular, consagradas en el artículo 88 constitucional y desarrolladas por
la Ley 472 de 1998. Así, señala la citada ley que las acciones populares son los medios procesales
para la protección de los derechos e intereses colectivos, mientras que la acción de grupo es entendida
como aquella interpuesta por un número plural o un conjunto de personas que reúnen condiciones
uniformes respecto de una misma causa que originó perjuicios individuales para dichas personas
(Congreso de la República, 1998). Estas últimas dos acciones serían oportunas en caso que de la
vulneración del derecho al control humano, se derive la afectación de un derecho o interés colectivo o
se causen perjuicios individuales a un grupo de personas, por lo que se deben considerar las
particularidades de cada caso para definir la acción judicial procedente para reclamar el
restablecimiento del derecho afectado.
En cualquier situación, es importante que el Estado establezca mecanismos de reclamación judiciales
eficaces y apropiados, por lo que para garantizar su eficacia, se debe considerar que dichos
mecanismos cumplan con los principios procesales definidos, y atributos tales como la legitimidad, la
accesibilidad, la transparencia y en general, con el debido proceso como un derecho y principio del
Estado Social de Derecho (Organización de Naciones Unidas, 2011).
Igualmente, cabe señalar que la obligación de propiciar mecanismos judiciales idóneos en cabeza del
Estado para la protección del derecho al control humano se circunscribe a las obligaciones
internacionales asumidas por el Estado colombiano, encaminadas a facilitar el acceso a recursos
efectivos y, en particular, adoptar todas las medidas necesarias para prevenir la vulneración de
derechos. Asimismo, cuando estas medidas fallen, investigar a fondo las vulneraciones y adoptar
medidas adecuadas contra los presuntos responsables, así como propiciar a las víctimas un acceso
efectivo a la justicia y garantizar a los titulares del derecho, recursos efectivos (Organización de
Naciones Unidas, 2011).
Por otro lado, es importante advertir sobre la posibilidad que el Sistema Interamericano de Derechos
Humanos también conozca sobre controversias alrededor del derecho al control humano. Esto,
considerando que dicho sistema tiene como propósito la protección y promoción de los derechos
humanos, al tiempo que establece obligaciones para lograr tal fin y cuenta con órganos destinados
para velar por su observancia, tales como la Comisión Interamericana de Derecho Humanos y la Corte
Interamericana de Derecho Humanos (Corte Interamericana de Derechos Humanos, 2019)
Finalmente, cabe resaltar el interés que el SIDDHH ha manifestado respecto a la protección de los
derechos humanos en escenarios digitales, muestra de ello es el documento Estándares para una
internet libre, abierta e incluyente de la Comisión Interamericana de Derechos Humanos como un
acercamiento a la protección de derechos en escenarios de tecnología, lo que guarda íntima relación
con el derecho al control humano. Por lo que, siempre que se cumplan con los requisitos definidos por
el SIDDHH, se debe explorar la posibilidad de acceder a él como un medio judicial subsidiario para la
garantía del derecho al control humano.

10.2 Mecanismos y acciones administrativas para hacer exigible el derecho al

control humano

Sumado a los mecanismos judiciales que se deben disponer para garantizar el derecho al control
humano, el Estado también debe propiciar mecanismos, acciones o procedimientos de índole
administrativo que permitan exigir la garantía del mencionado derecho. Lo que se circunscribe a la
idea que el Estado tiene el deber internacional de organizar todo el aparato gubernamental, para que
sean capaces de asegurar jurídicamente el libre y pleno ejercicio de los derechos humanos (CIDH,
2019)
Como consecuencia, el Estado debe disponer los mecanismos y procedimientos para prevenir,
investigar y sancionar administrativamente cualquier violación al derecho al control humano (CIDH,
2019). Por lo anterior, cabe hacer mención a tres elementos sobre este punto: el primero de ellos, se
refiere a que los mecanismos administrativos dispuestos por el Estado para la protección del derecho,
dependen en gran medida de las instituciones que el Estado previamente defina como responsables
de la protección del control humano.
En otras palabras, los procedimientos administrativos que se definan van a depender inicialmente de
los ya dispuestos por el ordenamiento jurídico colombiano, particularmente por el Código de
Procedimiento Administrativo y Contencioso Administrativo y excepcionalmente, por los
procedimientos especiales administrativos. Así, hasta que no se defina un procedimiento
administrativo específico para ejercer el control humano y reclamar su garantía, se debe ajustar a los
procedimientos ya existentes, en concordancia con lo señalado con los artículos 2 y 34 del Código de
Procedimiento Administrativo y Contencioso Administrativo
No obstante lo anterior y como segundo punto, aquí se sugiere considerar algunas recomendaciones
a nivel administrativo, las cuales versan sobre la importancia de promover desde la instancias
administrativas los medios idóneos para ejercer el control humano sobre los sistemas de inteligencia
artificial en un sentido preventivo. Esto es, que desde la administración pública se deben promover los
instrumentos jurídicos e institucionales necesarios para prevenir que desde los sistemas de
inteligencia artificial se vulneren derechos humanos. Lo anterior, guarda coherencia con el contenido
del derecho descrito anteriormente en la investigación, en el cual se señala que uno de los objetivos
del control humano es evitar la afectación de derechos fundamentales.
Finalmente, cabe mencionar es que una de las estrategias que puede ser impulsada desde la
administración pública es la creación de un órgano, bien sea un comité o una comisión, responsable
de liderar la dimensión ética de la inteligencia artificial y en ella del derecho al control humano en el
país. En este sentido, señala Villani (2018) que el papel de la ética en el debate sobre la inteligencia
artificial se ha vuelto tan significativo, que parece necesario establecer un comité asesor nacional
sobre ética para tecnología digital y la inteligencia artificial dentro de un marco institucional. Su
importancia radica en que se convertiría en un órgano responsable de coordinar el debate sobre sobre
la inteligencia artificial de una manera accesible y construida dentro de un marco legal.
11. Conclusiones

La inteligencia artificial es, sin lugar a dudas, un avance tecnológico significativo para la humanidad,
al tiempo que se convierte en un reto para las ciencias, y ahora para el Derecho. Es por esto que el
control humano como un derecho, fue la respuesta jurídica que en esta investigación se ofreció para
atender el problema que puede representar el uso de la inteligencia artificial para la vulneración de
derechos fundamentales. Es así como se planteó la pregunta que orientó la investigación, que versaba
sobre cómo se debe regular el derecho al control humano, asunto sobre el cual se presentan las
conclusiones a las que se llegó en la investigación.
En este sentido, una vez identificado el problema que dio origen a la investigación, la primera
conclusión a la que se llega es que, por control humano se entiende la capacidad de que intervengan
seres humanos durante el ciclo de diseño del sistema de inteligencia artificial y en el seguimiento de
su funcionamiento, con el fin de evitar un impacto negativo en los derechos humanos. Esto, en
articulación con el propósito de facilitar el cumplimiento de objetivos tales como seguridad, protección,
transparencia, capacidad de explicación, justicia, no discriminación y, en general, la promoción de
valores humanos dentro de los sistemas de inteligencia artificial (The Public Voice Coalition, 2018).
Es por esto que el control humano comprende la supervisión, participación, revisión y determinación
humana, es decir, que los sistemas permanezcan siempre bajo el control humano, incluso de manera
ex post con la revisión de las decisiones que dichos sistemas determinen, siempre impulsados por
consideraciones basadas en valores (The Public Voice Coalition, 2018). Lo anterior encuentra
justificación en el objetivo del control humano que es, mantener a los sistemas de inteligencia artificial
bajo supervisión humana para evitar la generación de un impacto negativo sobre los derechos
humanos, siendo una garantía para lograr una sociedad inclusiva, segura, confiable e innovadora aún
en escenarios artificiales.
Así, una vez definido el control humano, la siguiente tarea, antes de responder a la preguntar por su
regulación en el ordenamiento jurídico, fue abordar su reconocimiento, lo que se deriva en la segunda
conclusión a la que aquí se llega, consistente en advertir que antes de entrar a regular un derecho, la
tarea previa debe ser preguntarse por su reconocimiento en el ordenamiento jurídico. De esta manera,
en la labor de reconocer el control humano como un derecho, se concluye que tal reconocimiento se
desprende de la categoría jurídica de derecho subjetivo, a partir de la cual se considera que es dicha
estructura la que se debe hacer también extensiva al derecho.
En este orden de ideas, reconocer el control humano como un derecho subjetivo implica que en virtud
de él nace una posición ventajosa y legítima para su titular, a partir de la cual puede exigirle a otros
sujetos de derecho, ciertas conductas de acción y abstensión, con el propósito de salvaguardar el
contenido de ese derecho. Por lo que, del reconocimiento del control humano, se deriva por lo menos:
(i) una situación ventajosa de su titular, que es la facultad de exigir el cumplimiento de deberes frente
a las demás personas, (ii) una posición de deber u obligación respecto al titular del derecho, de quien
está llamado a garantizar la protección del mismo y (iii) el contenido del derecho.
Sumado a lo anterior, también se deben considerar los objetivos que el nuevo derecho pretende
perseguir, para lo que se concluye que en el caso del control humano son: (i) garantizar la tutela de
los derechos humanos ya reconocidos en los sistemas de inteligencia artificial, (ii) asegurar la veeduría
e intervención humana en el diseño y desarrollo de los sistemas de inteligencia artificial y (iii) corregir
cualquier amenaza o vulneración de los derechos humanos en los sistemas de inteligencia artificial.
De esta manera, una vez identificada su estructura subjetiva y los objetivos que persigue, se abordó
la pregunta sobre su fundamentación, frente a lo cual se concluyó que esta radica en el principio de
dignidad humana y en su relación con otros derechos fundamentales ya existentes.
En desarrollo de esta idea, se concluye entonces que el reconocimiento del control humano como un
nuevo derecho se justifica en la relación de este con el principio de dignidad, pues este es el valor
diferenciador del ser humano y del que se desprenden los demás derechos reconocidos. En otras
palabras, surge la necesidad de reconocer el control humano como un derecho, con el objetivo de
garantizar el principio de dignidad, como el eje transversal del ordenamiento jurídico colombiano, que
tiene una vocación de aplicación directa no solo en la realidad análoga, sino también artificial, al ser
un principio superior a todos los demás que se caracteriza por ser absoluto, hasta el punto de
presentársele como fundamento de los demás principios y derechos fundamentales.
Adicionalmente, como parte esencial del control humano y de su fundamentación, se evidencia su
relación con otros derechos fundamentales ya reconocidos y que se ven amenazados por el uso de la
inteligencia artificial, tales como la igualdad, la intimidad, el debido proceso y la libertad de expresión.
Por lo cual, el control humano asume un carácter instrumental, al estar íntimamente vinculado con
otros derechos, que, en últimas justifican, su existencia. Así, se concluye que la relación del control
humano con los derechos mencionados, justifican la necesidad de incluir al primero en el ordenamiento
jurídico colombiano, presentándose como una respuesta innovadora para que en virtud de este, se
hagan extensivas las garantías y protecciones que prevé el Derecho, para escenarios de inteligencia
artificial.
En este punto, en donde ya se ha superado el reconocimiento y la fundamentación del derecho al
control humano, cabe hacer mención al contenido del mismo y lo que sobre este se concluyó en aras
de responder la pregunta de investigación. De esta manera, se debe mencionar que en la presente
investigación se entendió que el contenido del control humano se resume en cuatro elementos: el
primero de ellos referente a sus funciones conformado por el monitoreo en el diseño de los sistemas
de inteligencia artificial, la disponibilidad humana, la revisión humana de la decisión automatizada y la
capacidad de optar por no tomar una decisión automatizada. El segundo elemento, hace referencia a
los valores y principios que lo rigen, los cuales son la intimidad, la responsabilidad, la seguridad, la
transparencia y capacidad de explicación, la justicia y no discriminación y la promoción de valores
humanos.
El tercer elemento del contenido del derecho corresponde a los intereses jurídicamente protegidos que
se pueden sintetizar en, la defensa y garantía de la dignidad y los derechos humanos en escenarios
de inteligencia artificial. Finalmente, el último elemento que compone el contenido del derecho, se
refiere sus limitaciones, las cuales fueron de índole material, temporal y jurídica.
Por su parte, se concluye que el control humano debe ser considerado un derecho fundamental, en
tanto, como ya se señaló, su fundamentación radica en su relación intrínseca con la dignidad humana
y su carácter instrumental con derecho fundamentales. Igualmente, se señala que su naturaleza como
derecho fundamental obedece a la estrecha relación con el principio de dignidad y su relación directa
con el derecho a la igualdad, bajo la idea que las personas tienen derecho a que las garantías y
derechos que el ordenamiento jurídico protege en escenarios análogos, también se hagan extensivos
a los escenarios de inteligencia artificial, sin ningún tipo de discriminación.
Sobre la estructura relacional del derecho al control humano, se concluye que la misma está
compuesta por el titular del derecho, quien goza de la facultad de exigir de otros conductas de acción
u omisión para proteger sus intereses jurídicos; el sujeto controlador, quien es el responsable de
ejercer el control humano, esto es, las acciones descritas en el contenido del derecho y, finalmente, el
sujeto controlado, que obedece en gran medida a las empresas y sujetos tecnológicos responsables
del desarrollo de los sistemas de inteligencia artificial, con los cuales se pueden vulnerar derechos
fundamentales.
Igualmente, se concluye que en la regulación del control humano se deben considerar los deberes
que de este se desprendan tanto para el Estado como para el sector privado. Así, en relación al Estado
se debe resaltar que sus deberes se desprenden de la obligación internacional de respetar, proteger
y promover los derechos humanos en su territorio nacional, dentro de los que se encuentra el control
humano. De dichas obligaciones se derivan los deberes regulatorios, referentes a la necesidad de
construir marcos normativos sólidos que reglamenten los elementos esenciales del derecho y asignen
obligaciones claras a los responsables de su protección. Asimismo, se desprenden obligaciones
institucionales tendientes a definir las autoridades públicas competentes y capaces para asumir las
obligaciones estatales que se derivan del control humano.
Por su parte, en relación a los deberes del sector privado, estos se pueden sintetizar en hacer
extensiva la obligación de debida diligencia a las empresas tecnológicas responsables de los
desarrollos de inteligencia artificial, para que en virtud de los mismos evite cualquier afectación a
derechos humanos. Mientras que, se considera importante que las empresas mantengan la
disposición y contribuyan a que las autoridades competentes ejerzan sobre ellas el control humano
debido para evitar y remediar afectaciones a derechos fundamentales.
Finalmente, se concluye que la regulación del derecho al control humano debe considerar
necesariamente los mecanismos de garantía del mismo, por lo que en el presente estudio se considera
importante prever por un lado, mecanismos judiciales, conformados por la acción de tutela, como
medio idóneo para exigir la garantía de los derechos fundamentales, como lo es el control humano y,
las demás acciones judiciales a las que haya lugar para reclamar la defensa de los derechos
fundamentales y exigir la reparación de los perjuicios causados por su afectación, siempre en
cumplimiento del principio de debido proceso.
Por otro lado, se reconoció la importancia de los mecanismos administrativos, frente a lo cual se señaló
que estos dependerán en gran medida de las autoridades administrativas asignadas para ejercer el
control humano. No obstante, en todo caso, se deben respetar las normas que regulan los
procedimientos administrativos de manera general, como lo es el Código de Procedimiento
Administrativo y Contencioso Administrativo, salvo que se definan procedimientos administrativos
especiales.
Por último, es importante advertir algunas reflexiones a las que se llegó en la investigación sobre lo
problemático que puede resultar la idea de entrar a regular el mercado de la inteligencia artificial,
reconociendo que existen voces que consideran contraproducente la intervención estatal en los
nuevos mercados tecnológicos, en contraposición a quienes la consideran necesaria cuando el
desarrollo de este mercado puede conllevar a la vulneración de derechos humanos.
En este escenario, las respuestas jurídicas que se pueden ofrecer son, por un lado, la regulación como
se propuso en esta investigación, o por otro lado, la auto-regulación, lo que se convertiría en una futura
veta de investigación. No obstante, en este punto se dejan algunas reflexiones sobre cada una de
estas alternativas. Así, sobre la regulación, cabe mencionar que es la respuesta más viable que se
consideró en la investigación, partiendo de la necesidad de la intervención estatal para evitar y
remediar vulneraciones a los derechos humanos.
Sin embargo, también se deben exponer los puntos problemáticos de esta propuesta, como lo son, (i)
la posición de desventaja que ocupa Colombia en el mercado tecnológico, en tanto, lejos de llegar a
ser una potencia en este mercado, es un Estado con poca producción tecnológica, y en una posición
de desventaja respecto a otros países. Así, la propuesta de entrar a regular el mercado podría llevar
a la construcción de efectos adversos para la industria nacional y para la incorporación de la tecnología
al país.
Esta última afirmación se justifica en que, si Colombia es el único país que empieza a incluir dentro de
su ordenamiento el reconocimiento del control humano, esto podría constituir un incentivo para que
las potencias y empresas tecnológicas decidan excluir a Colombia como compradores, en la medida
en que vender tecnología en este país resultaría altamente gravoso y con controles excesivos, los
cuales, posiblemente las empresas no estén dispuestos a asumir. En este sentido, la primera reflexión
que al respecto se deja, es que, a la hora de proponer regulaciones como las de la presente
investigación se deben considerar aspectos más allá de los jurídicos, como lo son la posición
económica del país en el mundo, las relaciones comerciales con grandes empresas tecnológicas y los
efectos que dichas regulaciones puedan conllevar a la población colombiana.
En este orden de ideas, (ii) el segundo punto que se deriva del primero, es la importancia de que exista
un trabajo inter-estatal coordinado, en tanto, se debe reconocer que la inteligencia artificial y sus
efectos en los derechos humanos es un asunto supranacional, que no solo atañe a Estados
individuales, sino que es un asunto que debe ser comprendido a nivel internacional. Así, lo que aquí
se quiere señalar es la necesidad que asuntos como el derecho al control humano, no sea una decisión
particular de un Estado como el colombiano, sino que es necesaria una coordinación internacional, en
la que, si es el caso, intervengan organismos de derecho público internacional con el fin de articular la
manera como se deben regular estos asuntos, procurando un equilibrio entre todos los Estados.
Por su parte, en la contracara de la regulación, surge la auto-regulación como una alternativa a la
defensa de los derechos humanos en el uso de la inteligencia artificial. Al respecto, se señala que esta
podría llegar a ser también una propuesta viable para atender el problema que suscitó la investigación,
advirtiendo que es un asunto inexplorado, que se convertiría en una futura veta de investigación, pero
sobre el que de antemano se encuentra un problema, en relación a un posible conflicto de intereses
de las empresas tecnológicas, al ser ellas las potenciales vulneradoras de derechos humanos, quienes
definan sus propios marcos éticos y de regulación.
Por último, es importante explicitar la importancia de ahondar aún más desde la investigación básica
y aplicada en la influencia que tiene la inteligencia artificial y los desarrollos jurídicos que sobre la
misma se hagan, en la realidad socio-económica del país. En otras palabras, se hace un llamado a
que las investigaciones desde el derecho sobre la tecnología no sean ajenas a la realidad social del
país, que está compuesta por múltiples aristas, en las que sobresale la desigualdad social, el acceso
y calidad limitada a la educación y la manera como la inteligencia artificial puede contribuir a disminuir
o a aumentar estas brechas de desigualdad y los problemas sociales del país, de acuerdo a la manera
como sea utilizada.

Referencias

Alexy, R. (1985). Teoría de los derechos fundamentales. En R. Alexy, Objeto y tarea de los derechos
fundamentales (págs. 27-46).
Almonacid, J. (2020). Aplicabilidad de la inteligencia artificial y la tecnología blockchain en el derecho
contractual privado. Revista de Derecho privado, 119-142.
Asuntos legales. (28 de Noviembre de 2015). Asuntos legales. Obtenido de Asuntos legales:
https://www.asuntoslegales.com.co/consultorio/funcion-jurisdiccional-de-la-superintendencia-de-
sociedades-2327531
Batista, N. (2019). La toma de decisiones en la informática jurídica basado en el uso de los sistemas
expertos. Revista Investigacion Operacional, 131-139.
Beitz, C. (2012). La idea de los derechos humanos. Marcial Pons.
Berkman Kelin Center. (2018). Artificial Intelligence & Human Rights:. Harvard University, 1-63.
Bustamante, J. (2007). Los nuevos derechos humanos: gobierno electrónico e informática comunitaria.
Enlace.
Canca, C. (2019). AI & Global Governance: Human Rights and AI Ethics – Why Ethics Cannot be
Replaced by the UDHR. 1-5.
Centro de Estudios Sociales y de Opinión Pública. (2017). Los derechos humanos de cuarta
generación. Una aproximación. Ciudad de México.
Chinchilla, T. (2009). ¿Qué son y cuáles son los derechos fundamentales? Bogotá: Temis.
Comisión Europea. (2018). Directrices éticas para una IA fiable. Bruselas: Comisión Europea.
Comisión Eurpea para la eficiencia y la justicia. (2018). European Ethical Charter on the Use of Artificial
Intelligence in Judicial Systems and their environment. Estrasburgo.
Comisión Interamericana de Derechos Humanos. (2017). Estándares para una internet libre, abierta e
incluyente. Washington: OEA.
Comisión Interamericana de Derechos Humanos. (2019). Empresas y Derechos Humanos:
Estándares Interamericanos. Washington: OEA.
Comité de Derechos Económicos, Sociales y Culturales. (2017). Observación general núm. 24 (2017)
sobre las obligaciones de los Estados en virtud del Pacto Internacional de Derechos Económicos,
Sociales y Culturales en el contexto de las actividades empresariale. Wasington: ONU.
Congreso de la República de Colombia. (1994). Ley 142 de 1994 “Por la cual se establece el régimen
de los servicios públicos domiciliarios y se dictan otras disposiciones”. Bogotá.
Congreso de la República de Colombia. (1998). Ley 478 de 1998 “Por la cual se desarrolla el artículo
88 de la Constitución Política de Colombia en relación con el ejercicio de las acciones populares y de
grupo y se dictan otras disposiciones”. Bogotá.
Congreso de la República de Colombia. (2011). Ley 1437 de 2011 “Por la cual se expide el Código de
Procedimiento Administrativo y de lo Contencioso Administrativo”. Bogotá.
Congreso de la República de Colombia. (2019). Proyecto de ley “Por la cual se regulan los Servicios
de Intercambio de Criptoactivos ofrecidos a través de las Plataformas de Intercambio de Criptoactivos”.
Bogotá.
Corte Constitucional, Sala Primera (05 de junio de 1992). T-406 de 1992. [MP. Ciro Angarita Baron]
Corte Constitucional, Sala Primera (16 de junio de 1992). T-414 de 1992. [MP. Ciro Angarita Baron]
Corte Constitucional, Sala Primera (17 de junio de 1992). T-419 de 1992. [MP. Simon Rodriguez
Rodriguez]
Corte Constitucional, Sala Primera (19 de junio de 1992). T-418 de 1992. [MP. Ciro Angarita Baron,
Jaime Sanin Greiffenstein]
Corte Constitucional, Sala Plena (25 de septiembre de 1997). SU-479 de 1997. [MP. JOSÉ
GREGORIO HERNÁNDEZ GALINDO]
Corte Constitucional, Sala Plena (13 de junio de 2001). C-620 de 2001. [MP. JAIME ARAUJO
RENTERIA]
Corte Constitucional, Sala Séptima (17 de marzo de 2003). T-227 de 2003. [MP. Eduardo Montealegre
Lynett]
Corte Constitucional, Sala Séptima (23 de febrero de 2006). T-133 de 2006. [MP. Humberto Antonio
Sierra Porto]
Corte Constitucional, Sala Quinta (29 de marzo de 2007). T-233 de 2007. [MP. Marco Gerardo Monroy
Cabra]
Corte Constitucional, Sala Plena (16 de febrero de 2011). C-089 de 2011. [MP. Luís Ernesto Vargas
Silva]
Corte Constitucional, Sala Plena (06 de octubre de 2011). C-748 de 2011. [MP. Jorge Ignacio Pretelt
Chaljub]
Corte Constitucional, Sala Séptima (28 de enero de 2013). T-040 de 2013. [MP. Jorge Ignacio Pretelt
Chaljub]
Corte Constitucional, Sala Plena (10 de julio de 2013). C-435 de 2013. [MP. MAURICIO GONZÁLEZ
CUERVO]
Corte Constitucional, Sala Plena (31 de octubre de 2013). C-758 de 2013. [MP. Gabriel Eduardo
Mendoza Martelo]
Corte Constitucional, Sala Plena (26 de marzo de 2014). C-178 de 2014. [MP. María Victoria Calle
Correa]
Corte Constitucional, Sala Plena (29 de mayo de 2014). C-313 de 2014. [MP. Gabriel Eduardo
Mendoza Martelo]
Corte Constitucional, Sala Cuarta (15 de julio de 2015). T-445 de 2015. [MP. Gabriel Eduardo Mendoza
Martelo]
Corte Constitucional, Sala Cuarta (10 de febrero de 2016). T-050 de 2016. [MP. Gabriel Eduardo
Mendoza Martelo]
Corte Constitucional, Sala Tercera (25 de febrero de 2016). T-095 de 2016. [MP. Alejandro Linares
Cantillo]
Corte Constitucional, Sala Plena (21 de septiembre de 2016). C-520 de 2016. [MP. María Victoria Calle
Correa]
Corte Constitucional, Sala Plena (26 de octubre de 2016). C-586 de 2016. [MP. Alberto Rojas Ríos]
Corte Constitucional, Sala Quinta (24 de enero de 2017). T-030 de 2017. [MP. Gloria Stella Ortiz
Delgado]
Corte Constitucional, Sala Sexta (03 de febrero de 2017). T-063A de 2017. [MP. Jorge Ignacio Pretelt
Chaljub]
Corte Constitucional, Sala Plena (19 de abril de 2017). C-220 de 2017. [MP. José Antonio Cepeda
Amarís]
Corte Constitucional, Sala Primera (09 de abril de 2018). T- 121 de 2018. [MP. Carlos Bernál Pulido]
Corte Constitucional, Sala Primera (23 de junio de 2018). T- 243 de 2018. [MP. Diana Fajardo Rivera]
Corte Constitucional, Sala Novena (29 de agosto de 2019). T-398 de 2019. [MP. Alberto Rojas Ríos]
Corte Constitucional, Sala Plena (11 de julio de 2019). C-308 de 2019. [MP. Diana Fajardo Rivera]
Corte Interamericana de Derechos Humanos. (2019). ABC Corte Interamericana de Derechos
Humanos. San José.
Cruz, J. (2007). El lenguaje de los derechos. Fernández: Trotta.
Departamento Administrativo de la Presidencia de la República. (19 de noviembre de 1991) Por el cual
se reglamenta la acción de tutela consagrada en el artículo 86 de la Constitución Política. [Decreto
2591 de 1991]. DO: 40.165
Departamento Nacional de Planeación. (2019). Política nacional para la transformación digital e
inteligencia. Bogotá.
Dulcey-Ruiz, E. (2015). Derecho y Derechos Humanos. Siglo del Hombre, 193-207.
Estado de California. (2018). Ley de datos de California. California.
Executive Office of the President. (2016). Big Data: A Report on Algorithmic Systems, Opportunity, and
Civil Rights. Washington: The Withe House.
Farge, B. (2018). INTELIGÊNCIA ARTIFICIAL NO DIREITO – UMA REALIDADE A SER
DESBRAVADA. Revista de Direito, Governança e Novas Tecnologias, 01-16.
Fedesarrollo. (2020). Modernización de la administración de justicia través de la inteligencia artificial.
Bogotá: Centro de Investigación Económica y Social.
Ferrajoli, L. (2004). Derechos y garantías. Madrid: Trotta.
Future of Life Institute, ‘Asilomar AI Principles’ (2017) <https://futureoflife.org/ai-principles/?cn-
reloaded=1>
G20. (2019). Ministerial Statement on Trade and Digital Economy. Tsukuba.
González, A. (2019). El derecho de los robots con inteligencia artificial ¿una nueva disciplina jurídica?
La laguna, 1-37.
Harvard University. (2020). Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-
based Approaches to Principles for AI. Berkamn Klein Center.
IA Latam, ‘Declaración de Principios Éticos Para La IA de Latinoamérica’ (2019) <http://ia-
latam.com/etica-ia-latam/>
IBM, ‘IBM Everyday Ethics for AI’ (2019)
<https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf>
Japanese Cabinet Office, Council for Science, Technology and Innovation, ‘Social Principles of
Human-Centric Artificial Intelligence’ (2019) <https://www8.cao.go.jp/cstp/english/humancentricai.pdf>
King, T. (2019). Artificial Intelligence Crime: An Interdisciplinary Analysis of Foreseeable Threats and
Solutions. Science and Engineering Ethics, 89-120.
Lafuente, D. (2016). Garantizar los derechos en un mundo globalizado . Tiempo de paz, 29-35.
Malvar, A. (12 de Agosto de 2017). Público. Obtenido de https://www.publico.es/ciencias/inteligencia-
artificial-internet-tay-robot-microsoft-nazi-machista.html
Mann, G. (2016). Hiring Algorithms Are Not Neutral.
Maqueo, M., Moreno, J., & Recio, M. (2017). Protección de datos personales, privacidad y vida privada:
la inquietante búsqueda de un equilibrio global necesario. Revista de Derecho, 77-96.
Martinez, G. (2012). La inteligencia artificial y su aplicación al campo del Derecho. Alegatos.
MCGINNIS, John O.; PEARCE, Russell G.. The Great Disruption: How Machine Intelligence Will
Transform the Role of Lawyers in the Delivery of Legal Services. 82 Fordham Law Review 3041:
Northwestern Public Law Research Paper, New York, v. 17, n. 14, p.1-26, 15 maio 2014.
Mittelstadt, B. e. (2016). The ethics of algorithms: Mapping the debate. Big data & Society, 1-21.
Navet, G. (2018). DE LA DIGNIDAD EN LA DECLARACIÓN UNIVERSAL DE LOS DERECHOS
HUMANOS DE 1948. 153-158, Revista de Filosofía.
Newman, V., & Ángel, M. (2019). Rendición de cuentas de Google y otros negocios en Colombia.
Bogotá: Dejusticia.
Observatorio Iberoamerciano de Protección de Datos. (2008). Declaración de Derechos del
Ciberespacio.
OCDE. (2020). Recommendation of the Council on Arificial Intelligence. OECD Legal Instruments.
Oliver, N. (2018). Inteligencia artificial: Ficción, realidad y sueños. Madrid: Real Academía de
Ingeniería.
Oppenheimer, A. (2018). ¡Sálvese quien pueda! Bogotá: Nomos.
Organización de Naciones Unidas. (1990). Principios rectores para la reglamentación de los ficheros
computarizados de datos personales. Washington: ONU.
Organización de Naciones Unidas. (2011). Principios rectores sobre las empresas y los Derechos
Humanos. Nueva York: ONU.
Organización de Naciones Unidas. (2016). Resolución 71/199. El derecho a la privacidad en la era
digital. Washington: ONU.
Palacios, A. (2015). Trascendencia del concepto de agencia estatal en la estructura del poder
público colombiano. Bogotá: Universidad Militar Nueva Granada.
Parlamento Europeo. (2016). REGLAMENTO (UE) 2016/679 relativo a la protección de las personas
físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos.
Bruselas: Parlamento Europeo.
Pielemeier, J. (6 de Junio de 2018). Data & Science: Points. Obtenido de Data & Science: Points:
https://points.datasociety.net/the-advantages-and-limitations-of-applying-the-international-human-
rights-framework-to-artificial-291a2dfe1d8a
P-Tech. (2019).Qué es la Inteligencia Artificial?. Tomado de
https://ptech.yourlearning.ibm.com/activity/ILB-PZXXWZEREVVQ28K2
Ramió, C. (2019). Inteligencia artificial y Administración pública: robots y humanos compartiendo el
servicio público. Revista Española de Ciencia Política, 207-210.
Revilla, M. (2017). Las constituciones, una de las fuentes del sistema internacional de los derechos
humanos. A los 70 años de la Declaración Universal de los Derechos Humanos y su relación con la
laicidad de los Estados. Pensamiento Constitucional , 229-241.
Riofrío, J. (2014). La cuarta ola de Derechos Humanos: los derechos digitales. Revista
Lationoamericana de Derechos Humanos, 15-45.
Rodriguez, t. (2019). Legal challenges of artificial intelligence: modelling the disruptive features of
emerging technologies and assessing their possible legal impact. Unif. L. Rev, 302-314.
Sampaio, A. (2019). Direitos Fundamentais e Direitos Humanos: estreitamento das fronteiras
conceituais e a necessidade de um diálogo entre a órbita jurídica interna e internacional. Opinión
Jurídica, 209-230.
Santos, M. (2017). Regulación legal de la robótica y la inteligencia artificial: retos del futuro. Revista
Jurídica de la Universidad de León, 25-50.
SILVA, Luís André Dutra e. Uso de técnicas de inteligência artificial para subsidiar ações de controle.
Revista do Tcu, Brasília, v. 48, n. 137, p.125-137, 2016.
Smart Dubai, ‘Artificial Intelligence Principles and Ethics’ (2019) https://smartdubai.ae/initiatives/ai-
principles-ethics
Superintendecia de Industria y Comercio. (07 de Septiembre de 2021). Superintendecia de Industria y
Comercio. Obtenido de Superintendecia de Industria y Comercio:
https://www.sic.gov.co/tema/asuntos-jurisdiccionales/que-hacemos
Telefónica, ‘AI Principles of Telefónica’ (2018) <https://www.telefonica.com/en/web/responsible-
business/our-commitments/ai-principles>
Telia Company, ‘Guiding Principles on Trusted AI Ethics’ (2019)
<https://www.teliacompany.com/globalassets/telia-company/documents/about-telia-company/public-
policy/2018/guiding-principles-on-trusted-ai-ethics.pdf>
The Digital Inclusin. (2018). Artificial intelligence and human rigths. Toronto.
The Public Voice Coalition, ‘Universal Guidelines for Artificial Intelligence’ (2018)
<https://thepublicvoice.org/ai-universal-guidelines
UK House of Lords, Select Committee on Artificial Intelligence, ‘AI in the UK: Ready, Willing and Able?’
(2018) Report of Session 2017-19
<https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf>
UNI Global Union, ‘Top 10 Principles for Ethical Artificial Intelligence’ (2017)
Unión Europea. (2016). Reglamento general de protección de datos. Unión Europea.
Urueña, René. “Autoridad algorítmica: ¿cómo empezar a pensar la protección de los derechos
humanos en la era del ‘big data’?” Latin American Law Review n.º 02 (2019): 99-124, doi:
https://doi.org/10.29263/lar02.2019.05
Villani, C. (2018). For a meaningful artificial intelligence. París.