Inteligencia Artificial y

Neuroderechos:
Una conversación entre ciencia y filosofía
Profesor: Rodolfo Aldea

17 de enero 2024
Índice
Contenidos

1. Recuento sesión anterior

2. Pensamiento Crítico: argumentos a
favor y en contra de la consciencia en la
IA
3. Dataficación
4. Neuroderechos
1. Recuento sesión
anterior
 Large Language
Models
1. Modelos de lenguaje para
predicción/generación de texto
2. Típicamente con una arquitectura
de transformadores con
autoatención multicabezal
3. Entrenados con datos de texto
4. Hasta más de un billón de
parámetros
5. BERT, GPT-2, GPT-3, PaLM, Bard,
GPT-4, Gemini…
Capacidades de los
• Conversación y escritura
modelos de lenguaje • Programación
• Matemáticas
• Explicación
• Razonamiento funcional
 LLM+

Capacidades multimodales conectadas con la percepción y la

acción (cámaras, robots, análisis de imágenes, etc.).

Consulta de base de datos, ejecución de código y

simulaciones.

Modelos agenciales que usan los LLM para planificar acciones

a largo plazo
 • Pueden estos LLMs..
Preguntas
–¿Pensar?
conectadas a la –¿Entender?
filosofía de la –¿Tener agencia?
mente –¿Tener consciencia?
Características de la
Consciencia
• Experiencia sensorial; como ver el
color rojo.
• Experiencia afectiva; como sentir
dolor.
• Experiencia cognitiva; como pensar
profundamente en un problema.
• Experiencia agencial, como decidir
actuar.
• Autoconciencia.
 ¿Cómo es ser
un murciélago?

• La experiencia subjetiva del murciélago es

fundamentalmente ajena a nosotros.
• El punto clave del argumento de Nagel es que las
experiencias conscientes tienen una cualidad
subjetiva, a menudo denominada "qualia", que es
intrínsecamente privada e inaccesible para los
demás.
• Esto significa que ningún conocimiento objetivo
sobre los procesos físicos del cerebro y los
sistemas sensoriales de un murciélago puede
hacernos saber cómo es, desde la perspectiva del
murciélago, ser un murciélago.
2. Pensamiento Crítico: argumentos a
favor y en contra de la consciencia en
la IA
¿Qué NO es consciencia
considerando la experiencia
subjetiva?

• Comportamiento sofisticado
• Comportamiento dirigido a
un fin
• Comportamiento a nivel
humano
¿Hay un
“cómo ser
Chat GPT”?
 1. Autoinformes: Pueden hablar sobre la conciencia,
expresar sentimientos y hacer afirmaciones sobre
sus propios estados mentales. Aunque estos
autoinformes podrían considerarse una mera

Argumentos a
generación de texto basada en datos de
entrenamiento, se sugiere que, si tomamos los
autoinformes como prueba de la consciencia en los
favor de la 2.
humanos, también podría aplicarse a los LLM.
Habilidades conversacionales: Su capacidad de
consciencia en respuesta y la forma en que aparentemente pueden
comprender y generar respuestas coherentes y

LLMs contextualmente relevantes podrían considerarse

indicativas de alguna forma de consciencia.
3. Inicios de inteligencia general: Muestran lo que
podría considerarse el inicio de la inteligencia
general. Se señala que, aunque todavía no alcanzan
el nivel humano, su capacidad para realizar una
amplia variedad de tareas intelectuales en distintos
ámbitos podría sugerir una forma de conciencia.
 1. Falta de biología: Uno de los principales
argumentos es que los LLM carecen de biología,
especialmente de cerebro. Algunas teorías de la
consciencia enfatizan el aspecto biológico del

Argumentos cerebro en la producción de la consciencia,

sugiriendo que un sistema no biológico como un
LLM no sería consciente.
en Contra de 2. Ausencia de procesamiento sensorial y
personificación: Los LLM no tienen procesamiento
la consciencia sensorial ni encarnación. Chalmers señala que
muchas teorías de la conciencia defienden la

en LLMs
necesidad de experiencias sensoriales y de un
cuerpo físico para la conciencia.
3. Falta de modelos del mundo y del yo: Los LLM
pueden carecer de modelos sofisticados del mundo
y del yo. La conciencia se asocia a menudo con
tener un rico modelo interno del mundo y de uno
mismo, que los LLM pueden no poseer.
 4. Ausencia de procesamiento recurrente: Los
LLMs, particularmente aquellos como el GPT-3,
utilizan principalmente procesamiento
feedforward en lugar de procesamiento
Argumentos recurrente. Algunas teorías de la conciencia
enfatizan la importancia del procesamiento
recurrente en la generación de experiencias
en Contra de 5.
conscientes.
Ausencia de espacio de trabajo global: |La
la consciencia teoría del espacio de trabajo global de la
conciencia sugiere que un sistema central que
en LLMs integra información de varias fuentes es clave
para la conciencia.
6. Falta de Agencia Unificada: Los LLM no muestran
agencia unificada, que a menudo se considera un
aspecto crítico de la consciencia. La agencia
unificada se refiere a la capacidad de actuar en el
mundo como un agente único y coherente con
objetivos e intenciones.
•David Chalmers concluye que, aunque se trata de una
cuestión intrigante, la probabilidad de que los grandes
modelos lingüísticos (LLM) actuales, como el GPT-3, sean
conscientes es baja, si nos basamos en los principales
supuestos sobre la consciencia. Subraya que la comprensión
actual de la conciencia, junto con las limitaciones y
características de los LLM, hace difícil atribuir definitivamente
la conciencia a estos modelos.
•Sin embargo, Chalmers también sugiere que los futuros
avances en IA podrían cambiar esta valoración. Señala que a
medida que los LLM evolucionen, sobre todo con mejoras en
áreas como el procesamiento sensorial, los modelos del
mundo y del yo, y la agencia unificada, la cuestión de su
conciencia podría volverse más compleja y apremiante.
Chalmers subraya la importancia de seguir investigando tanto
el desarrollo de la IA como la teoría de la consciencia, para
comprender y abordar mejor las posibles implicaciones éticas y
filosóficas de la IA consciente.
•En esencia, la conclusión de Chalmers deja la puerta abierta a
futuros desarrollos en los estudios sobre IA y consciencia, al
tiempo que reconoce las limitaciones y retos actuales a la hora
de afirmar con seguridad la consciencia de los LLM.
3. DATAFICACIÓN
¿QUÉ ES LA ‘DATIFICACIÓN’?

• La datificación (a veces denominada "datafication" en inglés) se

refiere al proceso de transformar diversos aspectos de la vida
cotidiana en datos cuantificables. Este proceso permite que
fenómenos, comportamientos, interacciones y hasta emociones
humanas sean analizados y procesados por sistemas de
inteligencia artificial.
• Es un concepto crucial en la era digital, ya que proporciona la
materia prima (datos) que alimenta los algoritmos de aprendizaje
automático y otras formas de IA. A través de la recopilación y
análisis de grandes volúmenes de datos, la IA puede identificar
patrones, hacer predicciones, optimizar procesos y tomar
decisiones automatizadas.
• Este proceso tiene aplicaciones en múltiples campos, desde el
marketing y la publicidad hasta la salud y la gestión urbana. Sin
embargo, también plantea cuestiones éticas y de privacidad, ya
que la recolección de datos personales debe equilibrarse con el
respeto a la intimidad y la autonomía individual.
 CONTEXT
O

• Máquina a vapor • Digitalización

• Motor de Sociedad • Microprocesador • Digitalización
Sociedad Informaciona • IA
combustión • Internet
industrial (s. l Actualidad
• Energía eléctrica • Robótica • Big Data
XVIII) (segunda
• Automatización • Automatización • Industria 4.0
mitad s. XX)
mecánica digital rutinaria

Materia / Energía Información / Datos / Procesamiento

Conocimiento
DATIFICACIÓN: BREVE HISTORIA
 Siglo XVIII: La estadística estatal se consolida como una implicancias enormes en el comercio y la publicidad digital.
herramienta de gobierno, con la implementación de censos y 
2001: Los atentados del 11 de Septiembre en Estados Unidos
registros administrativos. Este período marca el inicio del uso
llevan a la implementación de la Ley Patriótica, que impone la
sistemático de datos para la gestión y planificación estatal.
obligatoriedad del registro de datos por parte de los
 1945: Las Conferencias Macy marcan un hito en el desarrollo Proveedores de Servicios de Internet (ISP) y la actividad del
de la cibernética, una disciplina que aborda la regulación y el usuario a través de cookies, marcando un punto de inflexión
control en sistemas biológicos y mecánicos, realzando el valor en la vigilancia y seguridad nacional.
de la información y la retroalimentación.  2002-2010: El crecimiento de la Web 2.0 conlleva un
 1978: El Informe Nora-Minc en Francia reconoce la almacenamiento masivo de datos directos e indirectos,
importancia emergente de la informática y sugiere políticas utilizados principalmente con fines publicitarios y de
para la libre circulación de información, preludiando la era seguridad nacional. Este período ve el surgimiento de la
digital. publicidad orientada y los modelos de plataformas basados en
 la explotación de enormes bases de datos.
Diseño original de Internet y Telecomunicaciones Digitales
(TD): En sus inicios, Internet no estaba diseñada para registrar Crawford (2022) destaca cómo esta vasta acumulación de
datos o actividad de usuarios, enfocándose en la conectividad datos ha sido fundamental para el "entrenamiento" de la
y el intercambio de información. Inteligencia Artificial, permitiendo avances significativos en
 esta área.
1994: La creación de las cookies por parte de Napster
representa un cambio significativo, permitiendo el rastreo de Fuente: Martín Gendler
datos de usuario y actividad en línea, lo cual tiene
CONTEXTO ACTUAL

 Masificación del smartphone

 Juicios de propiedad intelectual
 Post crisis económica (2008) y
post pandemia global
 Neuroderechos
4. NEURODERECHOS
CONTEXTO

 Durante la última década, organismos gubernamentales de

todo el mundo, incluyendo algunos de Estados Unidos,
China, Corea, la Unión Europea, Japón, Canadá y Australia,
ente otros, han creado grandes proyectos que financian la
investigación pública en neurociencia, con el objetivo de
potenciar el progreso del conocimiento del cerebro humano
y del tratamiento de enfermedades psiquiátricas y
neurológicas.
NEUROTECNOLOGÍAS
1. Interfaces Cerebro-Computadora (BCI): Dispositivos que permiten la interacción directa entre el cerebro y los sistemas informáticos. Estas tecnologías
pueden usarse para ayudar a personas con discapacidades motoras a controlar prótesis o dispositivos de asistencia mediante el pensamiento.
2. Estimulación Cerebral Profunda (DBS): Un procedimiento quirúrgico que implica la implantación de electrodos en áreas específicas del cerebro. Se utiliza
para tratar trastornos como el Parkinson, la depresión resistente al tratamiento, y el trastorno obsesivo-compulsivo.
3. Electroencefalografía (EEG) Mejorada: Técnicas avanzadas de EEG que pueden detectar y analizar patrones de actividad cerebral con mayor precisión.
Estas se utilizan en investigación, diagnóstico médico, e incluso en aplicaciones como la mejora del rendimiento cognitivo o la meditación asistida por
tecnología.
4. Neurofeedback: Una técnica que implica proporcionar retroalimentación en tiempo real sobre la actividad cerebral, permitiendo a los usuarios modificar sus
propios patrones cerebrales. Tiene aplicaciones en el tratamiento de trastornos como el TDAH, la ansiedad, y el estrés.
5. Optogenética: Una técnica de investigación que utiliza la luz para controlar células en tejidos vivos, típicamente neuronas. Aunque todavía en fase
experimental, tiene un enorme potencial para entender y eventualmente tratar trastornos neurológicos.
6. Realidad Virtual y Aumentada Integrada con Neurotecnología: Estos sistemas pueden interactuar con señales cerebrales para crear experiencias
inmersivas que tienen aplicaciones en terapia, educación, entrenamiento, y entretenimiento.
7. Implantes Neurales y Chips Cerebrales: Tecnologías emergentes que pueden implantarse en el cerebro para mejorar o reparar la función cerebral, con
aplicaciones potenciales en el tratamiento de enfermedades neurodegenerativas y en la mejora de capacidades cognitivas.
¿QUÉ SON LOS NEURODERECHOS?

 Los neuroderechos son un conjunto de principios éticos y legales

propuestos para proteger la integridad mental y la privacidad de
las personas en el contexto de las neurotecnologías avanzadas.
 Estos derechos buscan salvaguardar aspectos como la identidad
personal, la libertad de pensamiento, el libre albedrío, y la
privacidad mental ante tecnologías capaces de leer o influir en la
actividad cerebral. Surge como una respuesta a los desafíos éticos
y sociales planteados por el desarrollo de tecnologías que
interactúan con el cerebro humano.
IDENTIDAD PERSONAL

 Se refiere a la protección contra alteraciones o manipulaciones no

consentidas de los estados mentales que constituyen la identidad de
una persona.
 Este derecho surge debido a que tecnologías como la estimulación
cerebral profunda (DBS) y ciertos tratamientos farmacológicos
pueden modificar aspectos centrales de la personalidad de un
individuo, afectando su identidad y continuidad psicológica.
 Por ejemplo, el uso de DBS para tratar la depresión podría inhibir
reacciones emocionales esenciales para la identidad de una
persona.
LIBRE ALBEDRÍO

 El libre albedrío, en el contexto de los neuroderechos, se refiere a

la protección de la autonomía y la capacidad de decisión personal
ante tecnologías como el DBS de bucle cerrado y las interfaces
cerebro-computadora (BCI).
 Estas tecnologías, al ajustar automáticamente los niveles de
estimulación o modificar comandos mentales basados en
algoritmos, pueden afectar la libertad individual y la agencia,
poniendo en riesgo la autonomía y diluyendo el sentido de
responsabilidad sobre las propias acciones.
PROTECCIÓN DE LOS SESGOS

 La protección de los sesgos en neuroderechos busca limitar efectos

negativos de prejuicios en decisiones científicas o tecnológicas,
abordando la exclusión de perspectivas de grupos minoritarios o
vulnerables en investigaciones y tratamientos.
 Se cuestionan las preconcepciones de normalidad cerebral, con
ejemplos en neurodiversidad y percepciones de condiciones como
autismo o sordera.
 Además, se consideran preocupaciones éticas sobre el aumento
cognitivo y moral, incluyendo el uso de tecnologías como la
estimulación de corriente directa y avances en inteligencia artificial
e interfaces cerebro-computadora para mejorar funciones más allá
de lo necesario para mantener la salud.
DESIGUALDAD Y COERCIÓN

 Las preocupaciones éticas en torno a la desigualdad y la coerción

en el uso de neurotecnologías incluyen el riesgo de que estas
tecnologías, más accesibles para las clases socioeconómicas altas,
puedan exacerbar las desigualdades existentes.
 Además, existe el temor de que los individuos se sientan obligados
a adoptar neurotecnologías en contextos laborales o educativos, lo
que plantea problemas de coerción.
 Las neurotecnologías no invasivas, al no estar reguladas por
marcos médicos tradicionales, representan un desafío particular, ya
que permiten un mayor grado de libertad para la industria.
PRIVACIDAD MENTAL

 La privacidad mental, en el contexto de los neuroderechos, se refiere al control

sobre el acceso a información relacionada con nuestros procesos cerebrales y
mentales.
 Tecnologías como la resonancia magnética funcional (fMRI) pueden revelar
intenciones, pensamientos y características personales.
 La preocupación surge al considerar la posibilidad de que estas tecnologías sean
usadas en contextos sociales, educativos o laborales, como en el caso de una
escuela en China que usó dispositivos para monitorear la atención de los
alumnos.
 La protección de la información mental y neuronal se considera crítica, ya que
está íntimamente ligada a la esencia de la privacidad y la identidad personal.
 ¿Una ley sobre IA a la chilena?
Cómo busca el país regular esta
tecnología ([Link])