INTELIGENCIA ARTIFICIAL

Ciencia para
las Políticas
Públicas

Inteligencia artificial
Transformando la gestión de políticas
y bienes públicos en la era digital
Coordinado por:
Carles Sierra · Lissette Lemus del Cueto · Txetxu Ausín · Jorge Hernández Moreno
Jesús Cerquides Bueno · Ángela Ribeiro Seijas

SCIENCE POLICY 1
Ciencia para
las Políticas
Públicas

Informe de transferencia
de conocimiento

SCIENCE POLICY
Este es un libro de acceso abierto distribuido bajo los términos de la licencia de uso y
distribución Creative Commons Reconocimiento 4.0 Internacional (CC BY 4.0).
Más información sobre esta licencia en [Link]

Las noticias, los asertos y las opiniones contenidos en esta obra son de la exclusiva
responsabilidad del autor o autores. La editorial, por su parte, solo se hace responsable
del interés científico de sus publicaciones.

Catálogo de publicaciones de la Administración General del Estado:

[Link]

EDITORIAL CSIC: [Link] (correo: editorialcsic@[Link])

Departamento En el marco de la Conexión Coordinadores de la colección

de Comunicación Inteligencia Artificial, Ciencia para las Políticas
Gabinete de Presidencia coordinado por: Públicas:
CSIC, Calle Serrano 117 Carles Sierra Jorge Hernández-Moreno
28006 Madrid Lissette Lemus del Cueto Cindy Matos Ramos
Email: comunicacion@[Link] Txetxu Ausín
Jorge Hernández Moreno Edición:
NIPO: 155-25-003-6 Jesús Cerquides Bueno Marta García
e-NIPO: 155-25-004-1 Ángela Ribeiro Seijas Caja Alta Edición y Comunicación
Depósito legal: M-640-2025
Colaboradores: Ilustraciones:
Edición no venal Nardine Osman Freepress Coop
Jordi Sabater-Mir
Carme Torras Diseño y maquetación:
Eva Armengol David Pamplona Roche
Hannes Mueller
David Arroyo
Juan Antonio Rodríguez
Filippo Bistaffa
Raúl Mario del Toro Matamoros
José Javier Ramasco Sukia
Jorge Villagrá Serrano

Cómo citar este informe: Sierra, C., Lemus del Cueto, L., Ausín, T., Hernández Moreno, J. Cerquides Bueno, J.,
& Ribeiro Seijas A. (Coords.). (2024). Inteligencia Artificial: transformando la gestión de políticas y bienes
públicos en la era digital. CSIC.

Impreso en España. Printed in Spain

En esta edición se ha utilizado papel ecológico sometido a un proceso de blanqueado ECF, cuya fibra
procede de bosques gestionados de forma sostenible.

Esta obra está bajo una Licencia Creative

BY Commons
BY Atribución
NC SA 4.0 Internacional.

BY SA BY ND
E
l CSIC tiene entre sus funciones las de informar,
asistir y asesorar en materia de ciencia y tecnología
a entidades públicas y privadas, según recoge el
artículo 5 de su estatuto. Enmarcado en esta función,
el informe Inteligencia artificial: transformando la gestión
de políticas y bienes públicos en la era digital se presenta
como un documento dirigido a Administraciones y a la
sociedad en general. En él, se explica cómo la evolución y el
potencial impacto en nuestra sociedad de esta tecnología
permiten considerarla una herramienta integrable de
manera efectiva en la formulación de políticas públicas.
Asimismo, recoge algunas de las líneas de innovación más
destacadas que está llevando a cabo el CSIC en cuanto al
potencial uso de la inteligencia artificial en la gestión
de políticas de diversos ámbitos como la educación, el
bienestar, la acción social y la sostenibilidad.
Índice
uno

La inteligencia artificial y su papel

en la gestión de políticas públicas
1.1. La inteligencia artificial: aproximación
conceptual y marco regulatorio
1.2. La inteligencia artificial y el proceso de
elaboración de políticas en sociedades complejas
1.3. Capacidades de la inteligencia artificial (como
tecnología) para la solución de problemas públicos

dos

Cómo el CSIC impulsa y desarrolla la utilización

de tecnología de inteligencia artificial en
distintos sectores de actividad pública
2.1. La inteligencia artificial y la ética
2.2. La inteligencia artificial y las políticas educativas
2.3. La inteligencia artificial y el estado de bienestar
2.4. La inteligencia artificial para las ciencias sociales
y la participación ciudadana
2.5. La inteligencia artificial para la sostenibilidad

tres

Conclusiones y recomendaciones

cuatro

Listado de centros

cinco

Para saber más

 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

uno

La inteligencia artificial
y su papel en la gestión
de políticas públicas

8
 INTELIGENCIA ARTIFICIAL

11 A
unque la tecnología ha sido parte intrínseca de las cul-
turas humanas desde la aparición de nuestra especie

. .
hace más de 2,5 millones de años, en los últimos 500 he-
mos entrado en una era de desarrollo tecnológico ace-
lerado, especialmente notoria en los 2 últimos siglos. A lo largo
de la historia, la introducción de nuevas tecnologías ha generado
La inteligencia recelos, debido principalmente a sus efectos en la desaparición

artificial: de empleos y a los cambios sociales que conllevan. Un ejemplo

emblemático fue el caso de los luditas en la Gran Bretaña del si-
aproximación glo XIX, que destruyeron máquinas de las fábricas como forma
de protesta. En general, estos temores suelen estar vinculados al
conceptual miedo al cambio y a la pérdida de relevancia en el tejido social.
y marco Para contrarrestar estos miedos, resulta imprescindible redefinir
regulatorio el marco económico en el que operan nuestras sociedades, pre-
dominantemente capitalistas. Es cada vez más urgente adoptar
modelos económicos alternativos que promuevan una redistri-
bución más equitativa de la riqueza y garanticen recursos para
todos los ciudadanos. Medidas como el incremento de impuestos
a las grandes corporaciones, una renta mínima garantizada, im-
puestos sobre robots y tecnología, así como la educación conti-
nua a lo largo de la vida, son esenciales para que las personas
puedan sentirse útiles en todas sus etapas vitales. De este modo,
la visión pesimista frente al progreso encuentra soluciones que
en lugar de pasar por frenar el avance tecnológico, fortalecen los
derechos sociales. La respuesta, en última instancia, es política,
no tecnológica.

Hoy nos enfrentamos a una nueva ola de transformaciones pro-

fundas, impulsada por el uso generalizado de herramientas de
inteligencia artificial. La capacidad de esta tecnología para re-
estructurar nuestras sociedades es fuente tanto de optimismo
como de preocupación. Por ello, la finalidad de este informe es
fomentar el debate sobre cómo la inteligencia artificial puede
contribuir a la definición de políticas públicas que mejoren la
vida de las personas.

SCIENCE POLICY 9
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Gráfico 1 La inteligencia artificial: brújula estratégica para la gestión

de políticas públicas

10
 INTELIGENCIA ARTIFICIAL

Históricamente, la inteligencia artificial surgió en la década de

los años cincuenta del siglo XX. En un inicio, se definió como el
estudio y diseño de máquinas capaces de resolver problemas que,
hasta entonces, requerían la inteligencia humana. Durante déca-
das, la investigación en el ámbito de esta tecnología se mantuvo
sobre todo en el ámbito académico. Hubo periodos dorados con
una financiación generosa para estos grupos de investigación,
así como épocas de menor apoyo financiero, conocidas como los
inviernos de la inteligencia artificial.

A lo largo de todos estos periodos, el progreso de la inteligencia

artificial continuó de manera constante, especialmente en torno
a dos grandes enfoques: el primero, la aproximación simbólica,
concibe los sistemas inteligentes como manipuladores de sím-
bolos, dotándolos de la capacidad de razonar, planificar y repre-
sentar el mundo; el segundo, de representaciones no simbólicas
o subsimbólicas, se basa en sistemas en los que los conceptos
del lenguaje no son identificables en un punto concreto, sino que
emergen de forma distribuida.

Recientemente, las aplicaciones basadas en la segunda aproxi-

mación, en particular la inteligencia artificial generativa, han te-
nido un impacto social considerable. Esta rama de la inteligencia
artificial permite que los sistemas generen textos que parecen
escritos por seres humanos, imágenes a partir de descripciones
lingüísticas o vídeos basados en narrativas, entre otras capaci-
dades. No obstante, los riesgos que estas tecnologías presentan
para nuestras sociedades, en especial para la democracia, han
suscitado la intervención de los poderes públicos.

SCIENCE POLICY 11
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

La Unión Europea (UE), en respuesta a estos desafíos, ha aproba-

do una ley para regular la inteligencia artificial. En ella se prohí-
ben ciertas prácticas, se categorizan otras como de alto riesgo y
se establecen diversos mecanismos de salvaguarda para evitar
un impacto negativo de esta tecnología en nuestras vidas, espe-
cialmente en áreas de aplicación críticas. Bajo esta legislación
europea, la inteligencia artificial ya no se definiría solo como la
creación de sistemas que resuelven problemas complejos, sino
de una manera más pragmática: un sistema inteligente es aquel
que utiliza una técnica específica de una lista proporcionada por
la ley. En resumen, la ley europea establece que cualquier soft-
ware con capacidades de razonamiento, aprendizaje o modeliza-
ción será considerado un sistema de inteligencia artificial.

En este informe, exploramos mediante diversos ejemplos cómo

la inteligencia artificial, tanto simbólica como subsimbólica, pue-
de ayudarnos a diseñar políticas públicas eficaces. Creemos que
los objetivos de desarrollo sostenibles que plantea la Organiza-
ción de las Naciones Unidas son retos para cuya solución esta
tecnología resultará clave.

12
Los distintos ejemplos de este informe se desgranan a lo largo
de una serie de áreas de interés de suficiente relevancia como
para que el lector se haga una idea clara de la potencialidad de la
inteligencia artificial en todo el ámbito de las políticas públicas.
A continuación, describimos brevemente las ideas clave de esas
áreas.

Con este panorama general sobre la evolución de esta tecnología

y su potencial impacto en nuestras sociedades, surge la nece-
sidad de considerar cómo puede integrarse de manera efectiva
en la formulación de políticas públicas. La promesa de la inteli-
gencia artificial no está exenta de desafíos: desde las implicacio-
nes éticas que conlleva hasta la infraestructura necesaria para
implementar estas tecnologías de forma inclusiva y segura. En
la siguiente sección exploramos cómo los Gobiernos y las ins-
tituciones públicas pueden aprovecharla para enfrentar retos
complejos que abarcan desde la planificación económica hasta
la mejora de la calidad de vida en contextos urbanos y rurales,
sin perder de vista los principios de transparencia y equidad.
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

12 L
as sociedades complejas, desde el ámbito de las ciencias
sociales, se caracterizan por ser plurales, fragmentadas

. .
(institucional y territorialmente), tecnificadas, determi-
nadas por la coexistencia de lo global y lo local, con nue-
vos y numerosos problemas sociales (de todo tipo) y demandas
ciudadanas que cada vez más desbordan las capacidades de los
La inteligencia actores y las Administraciones públicas (aunque no exclusiva-

artificial y el mente) para darles solución. En estas sociedades complejas, la

elaboración de políticas se enfrenta a importantes retos, y la inte-
proceso de ligencia artificial puede desempeñar un papel de apoyo para los
actores encargados de dar respuesta a estos.
elaboración
de políticas { Reto 1: Basar las políticas en datos sólidos, pruebas empíri-
cas e investigación rigurosa para comprender los problemas
en sociedades y los patrones de necesidad social.

complejas En este contexto, la inteligencia artificial juega un rol clave,

ya que facilita la adquisición, el análisis y la evaluación de
grandes volúmenes de datos, incluyendo su clasificación, el
reconocimiento de patrones y la identificación de tendencias
que pueden informar y fortalecer la toma de decisiones.

{ Reto 2: Identificar propuestas basadas en la evidencia cientí-

fica y predecir resultados suficientemente adecuados.

El estudio de posibles soluciones debe considerar múltiples

escenarios, evaluados mediante un análisis exhaustivo de
costes y beneficios, que incluya no solo si la solución satis-
face el problema, sino también evaluaciones del impacto
medioambiental y social. En este proceso, la inteligencia
artificial se configura como una herramienta que facilita el
análisis de escenarios y la simulación de alternativas («¿Qué
pasaría si…?»), permitiendo explorar diversas opciones y vi-
sualizar el impacto de cada propuesta optimizando de este
modo el diseño de estrategias sostenibles y equilibradas en
diferentes contextos.

14
 INTELIGENCIA ARTIFICIAL

{ Reto 3: Responder a la rápida evolución tecnológica de nues-

tra sociedad.

La dinámica de nuestra sociedad, con su veloz evolución tec-

nológica, impone un reto al proceso de formulación de polí-
ticas, ya que dificulta de forma considerable la capacidad de
anticipación y respuesta rápida a las demandas emergentes
y cambiantes. En este contexto, la inteligencia artificial per-
mite crear modelos predictivos computacionales eficientes
para detectar tendencias futuras con mayor precisión que los
modelos tradicionales.

{ Reto 4: Comprender cómo operan las políticas dentro de sis-

temas complejos.

Considerar las interdependencias y los posibles efectos domi-

nó de las decisiones políticas, y seleccionar las mejores op-
ciones para aplicarlas basándose en un enfoque multicriterio
y multivariable, constituye un reto significativo para la acción
política moderna. Al respecto, la inteligencia artificial aporta
algoritmos de optimización que permiten analizar grandes
volúmenes de datos y resolver problemas complejos con ma-
yor eficacia, sirviendo como herramienta para explorar solu-
ciones adecuadas entre numerosas alternativas.

SCIENCE POLICY 15
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

13 E
ste informe pertenece a la colección de informes Cien-
cia para las Políticas Públicas y pone el foco en cómo la

. .
inteligencia artificial puede contribuir de manera trans-
versal al desarrollo de políticas públicas, en general, y,
en particular, en algunas de las temáticas ya desarrolladas con
anterioridad en la colección. Al respecto, la formulación de políti-
Capacidades de cas públicas se puede ver como un proceso compuesto por varias

la inteligencia fases que incluyen: la identificación de necesidades, la formula-

ción de hipótesis, la búsqueda de posibles soluciones, la toma de
artificial (como decisiones sobre la adopción de algunas de las propuestas, su
puesta en marcha y su posterior evaluación. Los fundamentos
tecnología) de este proceso parten de la detección de patrones de necesidad,
para la solución el desarrollo de programas basados en evidencias, la predicción
de resultados y el análisis de la eficacia de las políticas, aspectos
de problemas todos ellos que se correlacionan claramente con las capacidades

públicos que ofrece la inteligencia artificial (véase el gráfico 2).

A continuación, presentamos tres ejemplos de las oportunida-

des que brinda aplicar la inteligencia artificial a las diferentes
fases del proceso de formulación de políticas (policy making).

{ Identificación de necesidades: Los sistemas de inteligencia

artificial son capaces de sintetizar grandes conjuntos de da-
tos para detectar patrones. Esta capacidad de análisis inteli-
gente permite identificar rápidamente temas de interés emer-
gentes y resulta de gran utilidad en la fase de identificación,
en la que recabar y analizar la opinión pública es de vital im-
portancia para los políticos de cara a orientar su actuación
hacia las cuestiones sociales y políticas más acuciantes para
la ciudadanía. A diferencia de las encuestas tradicionales de
opinión pública, la inteligencia artificial y la ciencia de datos
combinadas facilitan la recopilación, síntesis y clasificación
de grandes cantidades de datos procedentes de redes socia-
les, blogs y foros, y proporcionan análisis de sentimiento, pa-
trones y resúmenes de la opinión pública casi en tiempo real.
La plataforma Brandwatch, herramienta para el análisis de
opinión pública, se utilizó durante la crisis de la COVID-19 y
permitió obtener un enfoque muy ágil basado en evidencias
sobre las preocupaciones más relevantes de la ciudadanía.

16
ADOBE STOCK
 INTELIGENCIA ARTIFICIAL

Gráfico 2 El papel de la IA en el proceso de elaboración de políticas públicas

Fuente: A partir de Patel, J., Manetti, M., Mendelsohn, M., Mills, S., Felden, F., Littig, L., & Rocha, M. (2021, marzo 24). AI Brings Science
to the Art of Policymaking. BCG Global. [Link]

SCIENCE POLICY 17
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

{ Análisis de escenarios complejos: Los sistemas multiagen-

te de inteligencia artificial proporcionan una forma flexible
y descentralizada de simular y analizar problemas difíciles.
Al permitir que los agentes computacionales interactúen y se
adapten, pueden modelar escenarios de naturaleza distribui-
da en la que intervienen diversas entidades e interacciones
entre ellas y probar una amplia gama de escenarios «¿Qué
pasaría si…?». De este modo, pueden ayudar a los responsa-
bles a entender las consecuencias de diferentes estrategias y
a tomar decisiones informadas en sistemas complejos como
el transporte urbano, la logística y la gestión energética. Un
trabajo desarrollado en 2012 en la Universidad de Southamp-
ton (Inglaterra) argumenta cómo los MAS pueden resultar
cruciales para desarrollar una red eléctrica inteligente. Dado
que la red eléctrica existente requiere un rediseño para sa-
tisfacer la mayor demanda del vehículo eléctrico y el mayor
uso de fuentes de energía renovables, se proponen modelos
multiagente con agentes autónomos, dotados de diferentes
algoritmos de inteligencia artificial, que representan a los
consumidores, a los vehículos eléctricos, a los generadores de
energía y a la infraestructura de la red eléctrica, cuyo objetivo
será optimizar el consumo de energía en los hogares, gestio-
nar la carga de los vehículos eléctricos y coordinar la genera-
ción distribuida. De este modo, se aseguraría que los flujos de
energía fuesen eficientes y respetasen las limitaciones de la
red. Un modelo así haría posible llevar a cabo simulaciones
de comportamiento de la red o implementaciones directas en
las que los agentes puedan tomar decisiones autónomas y op-
timizar la gestión de la energía en tiempo real.

{ Validación de soluciones basadas en evidencia: Es de vital

importancia, en la fase de adopción e implementación, de-
mostrar mediante evidencias científicas cómo funcionan las
acciones que ejecutan determinadas políticas. Una vez pues-
ta en marcha una norma que implemente una determinada
política, la inteligencia artificial, de nuevo, permite hacer un
análisis más exhaustivo de sus resultados para demostrar su
validez empírica y experimental ante los decisores y actores
interesados. Un ejemplo de ello es su uso para validar la efec-

18
 INTELIGENCIA ARTIFICIAL

tividad de guías o intervenciones de salud. Al utilizar datos de

pacientes a gran escala, esta tecnología posibilitaría validar
los resultados de análisis clínicos o comparar la eficacia de
diferentes métodos de diagnóstico existentes.

Tal como ya se ha comentado, la inteligencia artificial puede fa-

cilitar un enfoque más exhaustivo, rápido y riguroso del análisis
requerido en cada etapa de la elaboración de políticas, reforzan-
do de este modo el proceso con una toma de decisiones basada
en datos y evidencia.

Dado que ya nos configuramos como sistemas socio-técnicos,

donde mantenemos una interacción física, cognitiva y hasta
emocional con la inteligencia artificial, la ética aplicada a esta
tecnología constituye un ejercicio ineludible que trasciende la
mera apreciación sobre lo que debe estar prohibido o permiti-
do; constituye una reflexión sobre nuestra forma de vida, sobre
nuestros hábitos, costumbres y relaciones (laborales, educativas,
afectivas...). Además, la ética de la inteligencia artificial no es un
fin en sí misma, sino el medio privilegiado para generar confian-
za y alinear con los valores sociales el desarrollo de aplicaciones,
programas y servicios basados en ella, con el objetivo de generar
confianza pública y apropiación social de la tecnología. Con ese
fin, diferentes grupos de investigación e institutos del CSIC pro-
mueven diversos instrumentos para una inteligencia artificial
ética y socialmente responsable desde un enfoque propositivo y
no reactivo con relación a esta tecnología, tal como veremos en
la siguiente sección.

SCIENCE POLICY 19
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

dos

Cómo el CSIC impulsa y desarrolla

la utilización de tecnología de
inteligencia artificial en distintos
sectores de actividad pública

20
 INTELIGENCIA ARTIFICIAL

D
espués de explorar cómo la inteligencia artificial puede
apoyar a las sociedades complejas en el diseño de polí-
ticas informadas, surge la necesidad de examinar más a
fondo cómo estas capacidades tecnológicas se traducen
en herramientas concretas a lo largo del proceso de formulación
de políticas. En un contexto donde los retos son diversos —desde
la recolección y el análisis de datos hasta la predicción y valida-
ción de los resultados—, esta tecnología permite no solo agilizar
estos procesos, sino también aportar rigor y precisión en cada
fase, desde la identificación de necesidades hasta la evaluación
de impactos.

Esta sección aborda la producción científica generada por el CSIC

en torno a la inteligencia artificial y la resolución de desafíos re-
lacionados con la ética, la educación y el Estado de bienestar, y
cómo diferentes herramientas de esta tecnología pueden apoyar
el desarrollo de políticas sociales y económicas, así como brindar
soporte a una gestión más activa de la democracia participativa,
la ciencia ciudadana y la sostenibilidad.

SCIENCE POLICY 21
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

21 D
esde el CSIC planteamos una reflexión ética sobre la
inteligencia artificial a partir de tres cuestiones funda-

. .
mentales: por qué, para qué y cómo. En este contexto, es
preciso hacer dos consideraciones importantes:

1. Los artefactos tecnológicos tienen moralidad, no son neutra-

La inteligencia les. Las tecnologías, y más aún las digitales, tan imbricadas

artificial y la en nuestras vidas, no solo contribuyen a la eficiencia y la pro-

ductividad, sino que configuran formas de poder y autoridad,
ética y modifican profundamente hábitos, costumbres o relaciones
(laborales, afectivas, educativas…). En consecuencia, la ética
de la inteligencia artificial trasciende la mera apreciación so-
bre lo que debería estar prohibido o permitido y va más lejos,
constituyendo una verdadera reflexión sobre nuestro modo o
forma de vida.

2. Mantenemos una profunda interdependencia no solo con

respecto a los otros seres humanos, sino también en relación
con la tecnología, con la que construimos nuestra identidad.
Y esta relación interdependiente abre la posibilidad de situa-
ciones de vulnerabilidad, de riesgos de daño. Nuestra relación
con las tecnologías digitales es no solo muy estrecha, sino
tremendamente asimétrica, donde las empresas e institucio-
nes que diseñan y controlan estos dispositivos, aplicaciones
y programas detentan todo el poder y son prácticamente in-
munes al control ciudadano y público. A ello hay que añadir
la creciente autonomía de los propios sistemas de inteligen-
cia artificial. Pensemos, por ejemplo, en la industria de la vida
digital después de la muerte (griefbots, deadbots o avatares
post-mortem) que, impulsada por el despliegue de la inteli-
gencia artificial generativa, permite ya la creación de perso-
nas digitales muy realistas e interactivas.

La inteligencia artificial debe ser segura en su interacción con

los humanos, estableciendo un procedimiento claro para medir,
probar y certificar su funcionalidad. No dañar física y mental-
mente supone la obligación ética básica y primordial. Se trata
del principio de no-maleficencia: lo primero y fundamental es no
dañar (primum non nocere); es decir, el deber de no hacer daño,

22
 INTELIGENCIA ARTIFICIAL

que abarca no solo las acciones intencionadas, sino también a la

imposición de riesgos de daño.

Así pues, se considera tanto el posible daño relativo a los indi-

viduos como a los colectivos, con especial atención a los indivi-
duos y grupos sometidos a otras situaciones de vulnerabilidad,
por razón de la edad (menores y ancianos), de género, de origen
(migrantes), estatus laboral (trabajadores precarios), enfermedad
o diversidad funcional.

Con el fin –entre otros– de proteger a esos individuos y colecti-

vos, el CSIC ha desarrollado varias líneas de investigación enfo-
cadas en el alineamiento de los valores sociales con el desarrollo
de tecnologías de inteligencia artificial en el marco de lo que se
conoce en la Unión Europea como investigación e innovación
responsables (RRI):

VAE: Value-Awareness Engineering. Orientada a la incorpora-

ción de valores morales, epistémicos, técnicos y estéticos en los
sistemas de inteligencia artificial, así como al análisis de las po-
sibilidades que brindan las aplicaciones digitales para el bienes-
tar personal.

VALAWAI: Value-Aware Artificial Intelligence. Enfocada en in-

tegrar la ética en los sistemas de inteligencia artificial, en par-
ticular, en el desarrollo de sistemas capaces de comprender y
atenerse a un sistema de valores humanos (inteligencia artificial
consciente de los valores).

INBOTS: Inclusive Robotics for a Better Society. Analiza la inte-

racción humano-máquina con especial atención a la robótica
social y de cuidados desde la perspectiva de los estudios sociales
de la ciencia, la filosofía de la tecnología y la democratización de
la tecnociencia (diseño participativo, ciencia ciudadana y diseño
sensible a valores).

SCIENCE POLICY 23
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Principales acciones llevadas a cabo por el CSIC

para el desarrollo de una inteligencia artificial ética

Siguiendo las recomendaciones establecidas en documentos y

foros especializados (grupo de expertos de alto nivel sobre la in-
teligencia artificial de la Comisión Europea, Unesco, IEEE, Carta
de Derechos Digitales de España, el libro blanco del CSIC sobre
inteligencia artificial, ciencia de datos y robótica), hemos defini-
do cinco deberes éticos básicos en el desarrollo y despliegue de
sistemas de inteligencia artificial tanto públicos como privados:

Minimizar los daños. El deber ético básico en el desarrollo y des-

pliegue de sistemas de inteligencia artificial es no dañar. Este
principio implica la idea de seguridad (ciberseguridad), entendi-
da como un valor social que debe destacarse cuando los seres
humanos interactúan con sistemas de decisión delegada, como
los de inteligencia artificial. Esta seguridad incluye la defensa
del usuario y consumidor frente a las grandes corporaciones
tecnológicas, protección laboral, prevención de fallos, hackeos
o brechas e, incluso, amparo con relación al poder digital de la
Administración (checks & balances), para lo que resultan indis-
pensables elementos de buena gobernanza digital como la parti-
cipación, la transparencia, la apertura o la rendición de cuentas
(elementos ligados a la explicabilidad de los sistemas de inteli-
gencia artificial que comentaremos más adelante).

También se prestará especial atención en evitar los sesgos, tanto

en la recopilación de los datos como en su manejo y en el entre-
namiento de algoritmos e instrumentos de inteligencia artificial,
poniendo especial cuidado en no reproducir o incrementar los
sesgos y desigualdades sociales ya existentes. La introducción
de sesgos en esta tecnología da lugar a discriminación (por razón
de género, raza, estatus económico…) y puede consolidar prejui-
cios y estereotipos existentes, así como reforzar la exclusión so-
cial y la estratificación. Es lo que se conoce como injusticia algo-
rítmica, que daña y perjudica a individuos y grupos.

Maximizar los beneficios. Los beneficios potenciales deben

superar el posible riesgo para los sujetos, las comunidades y el
medioambiente. Esto se relaciona con la promoción del bienes-
tar, el bien común y los Objetivos de Desarrollo Sostenible. Los

24
 INTELIGENCIA ARTIFICIAL

tratamientos de datos a través de la inteligencia artificial han de Gráfico 3 Discriminación.

acreditar su necesidad, efectividad y orientación al bien común, Injusticia algorítmica
acotando un propósito bien definido y determinado (proporcio-
nalidad).

Este principio de beneficencia incluye la protección del medioam-

biente y de las generaciones futuras. A estos efectos, para perse-
guir la sostenibilidad medioambiental y el compromiso con las
generaciones futuras, el desarrollo de las infraestructuras vin-
culadas a la inteligencia artificial (nubes, centros de datos y de
cálculo) promoverá la eficiencia energética y de materias primas,
favoreciendo la minimización del consumo de energía y mate-
rias, su extracción justa, el reciclado y la utilización de energía
renovable y limpia (véase el capítulo sobre sostenibilidad).

Autonomía. Los procesos de inteligencia artificial han de estar

centrados en las personas y amparar el derecho de estas a con-
servar la facultad de decidir qué decisiones tomar y a ejercer la
libertad de elegir cuando sea necesario. Los seres humanos han
de preservar el poder de decidir en última instancia qué decisio- ELABORACIÓN PROPIA
nes tomar y cuáles delegar en sistemas de inteligencia artificial.

Se debe impedir la vigilancia de los individuos y la modificación

del cerebro, que afecta al propio sentido de autonomía e identi-
dad de las personas. En consecuencia, por un lado, se cuidarán
los datos de carácter personal (privacidad), evitándose la reiden-
tificación, la fuga de datos y la falta de transparencia en la recogi-
da de datos. A este respecto, desde el CSIC se asesora a la Agencia
Española de Protección de Datos (AEPD) sobre el despliegue ético
de la inteligencia artificial.

Asimismo, el CSIC forma parte de iniciativas internacionales

como el Instituto de Neurotecnología y Derecho (Institute of Neu-
rotechnology and Law), centrado en el análisis y desarrollo de
los neuroderechos humanos: el derecho a la privacidad mental,
el derecho a la integridad mental y el derecho a la continuidad
psicológica.

Justicia. Implica, por un lado, el reconocimiento (inclusividad),

tomando en cuenta a todos los interesados (la diversidad de
agentes y valores) en el proceso. Asimismo, quienes por libre de-

SCIENCE POLICY 25
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

seo no accedan al entorno digital no pueden ser excluidos del

uso y desarrollo de bienes y servicios (principio de no exclusión).

Por otro lado, se requiere la búsqueda de la igualdad y la accesibi-

lidad (equidad). Se ha de evitar una nueva brecha de desigualdad
a causa de la inteligencia artificial, sobre la ya existente brecha
digital. El acceso a esta tecnología no puede estar condicionado
por la complejidad tecnológica ni por la falta de recursos, ni tam-
poco por opciones que obliguen a las personas a convertirse en
usuarios de empresas concretas.

Explicabilidad. Se debe impedir la opacidad y falta de transpa-

rencia de los procesos de inteligencia artificial. Esto significa
que se puede comprender su funcionamiento (inteligibilidad) e
identificar el proceso de decisión, a las personas implicadas y las
consecuencias que se deriven (rendición de cuentas). En conse-
cuencia, se facilitará la comprensión e interpretabilidad de los
sistemas de inteligencia artificial, evitando en lo posible la arbi-
trariedad de las conocidas como cajas negras (de las que no se
conoce su funcionamiento interno) y actuando de forma proacti-
va para ofrecer información a la ciudadanía.

En este sentido, el proyecto AI-CONTROL, liderado por el CSIC,

aspira a desarrollar un modelo de gobernanza de los sistemas de
inteligencia artificial desde las ciencias de la complejidad, con
un enfoque holístico que no separe los aspectos sociales de los
técnicos, integrando filosofía, política e ingeniería como discipli-
nas complementarias.

Igualmente, el proyecto del CSIC DesafIA2030 está desarrollando

una estrategia colaborativa para la formulación de guías éticas
de la inteligencia artificial, promoviendo instrumentos de con-
cienciación y educación acerca de los desafíos que plantea esta
tecnología disruptiva.

Finalmente, cabe señalar que el Comité de Ética del CSIC impul-

sa el proyecto científico-técnico ETHICAI, dentro del Programa
Momentum de atracción y retención del talento digital, sobre la
evaluación ética de los proyectos de inteligencia artificial.

26
 INTELIGENCIA ARTIFICIAL

Gráfico 4 Ética y sociedad

DISCRIMINICACIÓN VIGILANCIA CONTAMINACIÓN DESHUMANIZACIÓN

• Sesgos: prejuicios • Hackeo de datos • Enorme consumo • Manipulación, engaño,
y estereotipos • Perfilado energético: CO² falsas relaciones
• Políticas predictivas: • Usos coercitivos • Extracción masiva • Merma del contacto
dictadura de datos de materias primas
• Objetualización de los
• Brecha digital • Basura tecnológica individuos

Generar confianza.
La IA configura
Apropiación social
formas de vida.
de la tecnología.

DELIBERACIÓN
ÉTICA
REGULACIÓN

AUTONOMÍA PROPORCIONALIDAD JUSTICIA EXPLICABILIDAD

• Preservar el poder Y SEGURIDAD • Igual accesibilidad • Comprender el
de decidir • Acotar el propósito • Inclusividad funcionamiento
• Proteger la privacidad de los sistemas de IA (inteligibilidad)
• Solidaridad
mental (neuroderechos • Análisis costo-beneficio. • Identificar agentes
humanos) Conveniencia y procesos (rendición
de cuentas)
• Ciberseguridad

ELABORACIÓN PROPIA

SCIENCE POLICY 27
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

22 S
iempre es difícil hacer predicciones sobre el impacto de
una tecnología en un sector económico o social. Sin em-

. .
bargo, todos los análisis recientes dejan claro que las ta-
reas repetitivas, o con poco valor añadido por parte de los
seres humanos que las realizan, se van a rediseñar para facilitar
su automatización mediante el uso de técnicas de inteligencia
La inteligencia artificial. La banca y el comercio son ejemplos de sectores que

artificial y están sufriendo una profunda transformación, en parte facilita-

da por técnicas de esta tecnología como los chatbots o los siste-
las políticas mas de personalización, que conduce a una reducción notable de
puestos de trabajo. Por el contrario, el sector educativo va a seguir
educativas necesitando el componente humano, y de manera permanente,
ya que la escuela cumple una función socializadora básica para
el desarrollo de las personas. Sin embargo, esto no quiere decir
que la inteligencia artificial no vaya a impactar en los procesos
educativos, pues ya lo ha hecho, lo hace y lo seguirá haciendo.

El diseño de políticas educativas que tengan en cuenta la in-

teligencia artificial viene de lejos. En mayo de 2019 alrededor
de cien Estados miembros de la Unesco hicieron una serie de
recomendaciones que marcan el camino a seguir en los próxi-
mos años. El primero y más relevante es que esta tecnología
debe integrarse en el sistema educativo. Hay que enseñarla y,
al mismo tiempo, utilizarla para fortalecer el aprendizaje de
los estudiantes. Esta integración y este uso deben basarse en
un respeto escrupuloso de los derechos humanos y servir para
formar estudiantes con espíritu crítico respecto al uso de esta
tecnología, para que puedan entender los riesgos y aprovechar
las oportunidades que ofrece.

Seguir las recomendaciones de la Unesco e integrar la inteligen-

cia artificial en las políticas educativas es ya perfectamente fac-
tible. Hoy en día tenemos numerosas aplicaciones de inteligen-
cia artificial, si bien no todas desarrolladas de forma específica
para la educación, aunque son de gran utilidad en este ámbito.
Por ejemplo, el subtitulado automático de vídeos, los sistemas
de tutoría que interactúan en lenguaje natural, la conversión re-

28
 INTELIGENCIA ARTIFICIAL

Gráfico 5 Aprendizaje adaptativo

ELABORACIÓN PROPIA

alista de texto a voz humana, la preparación de situaciones de

aprendizaje o la evaluación de alumnos, entre muchas otras.
La reciente eclosión de la inteligencia artificial con sistemas
como ChatGPT se configura como una oportunidad para mejo-
rar la interacción entre alumnos y tutores inteligentes, a la vez
que supone un riesgo por su potencial mal uso, al que se debe-
rán enfrentar los educadores. En este punto es importante ha-
cer una pequeña reflexión sobre la reciente ley de regulación de
la inteligencia artificial. En particular, el caso de la evaluación
de alumnos mediante técnicas de inteligencia artificial o el de
la asignación de alumnados a escuelas son actividades de alto
riesgo y, por lo tanto, requieren de una supervisión especial por
parte de las autoridades. Es preciso tener esto en cuenta a la hora
de diseñar políticas educativas basadas en esta tecnología.

SCIENCE POLICY 29
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

La inteligencia artificial, en sus orígenes, ya se aplicó a la educa-

ción, en particular, a la personalizada. Adaptar los contenidos a
cada alumno es un imperativo pedagógico difícil de conseguir
por el profesorado cuando los grupos son grandes o los recur-
sos económicos dedicados son limitados. En los años sesenta
se desarrollaron sistemas simples de educación personalizada
que han alcanzado un nivel de sofisticación notable. Por ejemplo,
durante los últimos quince años el sistema ALEKS ([Link]),
desarrollado en Estados Unidos, ha mejorado el rendimiento de
millones de estudiantes en el área de las matemáticas. Este siste-
ma plantea problemas con respuesta abierta, analiza la respuesta
y, gracias a un sistema de aprendizaje automático, identifica los
errores y las competencias no adquiridas para poder explicar el
error al alumno y recomendar nuevos problemas que ayuden a
adquirir las competencias necesarias. Este tipo de sistemas se
siguen desarrollando en diferentes países. En concreto, cabe
destacar el desarrollado por Squirrel AI Learning en Shanghái,
con más de tres millones de alumnos, que logra una gran mejora
del rendimiento individual ([Link]
Sin duda, veremos estos sistemas con más frecuencia durante
la próxima década y cubriendo áreas cada vez más alejadas de
las disciplinas STEM (acrónimo en inglés de Ciencia, Tecnología,
Ingeniería y Matemáticas), en las que se centran hoy en día. Asi-
mismo, en el Instituto de Investigación en Inteligencia Artificial
(IIIA, CSIC) también se ha trabajado en educación personalizada
a través de herramientas de inteligencia artificial. En particular,
se ha desarrollado un sistema de personalización del contenido
para una plataforma de aprendizaje en línea orientada a cursos
de corta duración.

El uso de inteligencia artificial por parte del profesorado se está

extendiendo a la mayoría de las tareas. Por ejemplo, en el IIIA
se ha desarrollado un sistema recomendador que da soporte al
profesor a la hora de planificar un curso en el contexto de la
educación reglada. Este sistema, realizado junto con una em-
presa del sector, se adapta a las necesidades de las nuevas me-

30
 INTELIGENCIA ARTIFICIAL

Gráfico 6 Equipos humanos. Aprendizaje colaborativo

ELABORACIÓN PROPIA

todologías educativas (el desarrollo de competencias, en con-

traposición a la adquisición únicamente de conocimientos) y,
en concreto, a la nueva ley de educación (LOMLOE). En una pri-
mera fase, previa al inicio del curso, el sistema ayuda al profe-
sor a confeccionar una secuencia de unidades didácticas que se
adaptan tanto a los objetivos del curso a nivel de las competen-
cias y los saberes que se quieren trabajar como a un conjunto
de preferencias del profesor. Una vez iniciado el curso, el sis-
tema realiza un seguimiento de la clase y propone alternativas
cuando el plan inicial no se ajusta a la evolución del alumnado
(por ejemplo, si las competencias que se supone que se habrían
adquirido al llegar a ese punto del curso no se han asimilado en
el grado esperado).

SCIENCE POLICY 31
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Dentro de la educación colaborativa, y con base en las tareas, uno

de los problemas recurrentes es cómo formar equipos de alum-
nos. La inteligencia artificial permite analizar multitud de factores
(sociológicos, competenciales, psicológicos, etc.) para explorar el
enorme espacio de posibles combinaciones y encontrar los equi-
pos óptimos de alumnos. Un sistema como Eduteams (eduteams.
[Link]), desarrollado en el IIIA, distribuye los alumnos de un
aula en equipos de un determinado tamaño, obteniendo un ba-
lance adecuado de personalidades e intentando que al menos
un alumno en cada equipo posea cada una de las competencias
requeridas por la tarea a realizar. La evaluación realizada de los
resultados de dichos equipos es significativamente mejor que la
de los formados por los tutores. Por otra parte, el CSIC participa en
la actualidad en la aplicación de estas técnicas para la educación
de equipos de jóvenes en diversos países africanos de la mano de
Unicef. Trabajos desarrollados recientemente permiten predecir
cuál será la dedicación de los alumnos en función del equipo al
que pertenecen y el método de evaluación. Estos nuevos mode-
los permitirán un diseño de equipos y tareas mucho más efectivo
para la mejora competencial de los alumnos.

Gráfico 7 Evaluación de alumnos

ELABORACIÓN PROPIA

32
 INTELIGENCIA ARTIFICIAL

Otra área donde la inteligencia artificial incidirá de forma nota-

ble es en los procesos de evaluación. Se avanzará en procesos
de evaluación automática y por iguales, lo que permitirá demo-
cratizar aún más la educación online y a lo largo de la vida. Los
avances en el procesamiento del lenguaje natural y la visión
por ordenador, combinados con técnicas de explicabilidad, fa-
cilitarán que la autoevaluación que los sistemas proporcionen
a los alumnos sea mucho más informativa y útil. Asimismo, la
evaluación entre iguales combinada con técnicas de inteligen-
cia artificial permitirá que la evaluación de grupos numerosos
de educación online sea aceptable para el profesorado. Así, por
ejemplo, en el caso de un curso en línea abierto y masivo con
miles de estudiantes matriculados, la evaluación de una gran
cantidad de ejercicios puede ser simplemente inviable para el
profesor y, muy a menudo, es necesario confiar en las opiniones
de los propios alumnos. Al respecto, en el CSIC se ha desarrolla-
do un modelo que utiliza evaluaciones por pares (realizadas por
los propios alumnos) para aproximar las que el profesor haría si
tuviera la ocasión. Además, el modelo es prudente y proporciona
una medida de la incertidumbre de las evaluaciones calculadas
y una recomendación sobre cuáles son los mejores ejercicios que
evaluar a continuación para reducir esa incertidumbre.

La inteligencia artificial va a impactar en todos los aspectos de

las políticas educativas, incluidos los métodos de evaluación, el
aprendizaje personalizado y colaborativo, la gestión de los cen-
tros y los diseños curriculares. Para todos ellos, esta tecnología
será útil en todos los pasos del ciclo de la gestión de políticas
mencionado en la introducción de este informe, en particular, en
la identificación de necesidades expresadas por los colectivos de
padres, madres y alumnos; en el análisis del impacto mediante
simulación multiagente (una de las técnicas más empleadas en
los trabajos en desarrollo actualmente); y en la generación de evi-
dencias científicas.

Si integramos la inteligencia artificial en el mundo educativo con

prudencia, los resultados pueden ser extraordinarios.

SCIENCE POLICY 33
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

23 E
l estado de bienestar, como institución, es uno de los lo-
gros más significativos de las sociedades contemporá-

. .
neas. Surgido en Europa en el último cuarto del siglo XIX,
ha demostrado durante décadas su capacidad para pro-
teger a la gran mayoría de la población a través del desarrollo de
programas y políticas fundamentales (véase el gráfico 8), com-
La inteligencia batiendo distintas situaciones de riesgo como la enfermedad, el

artificial y desempleo, el progresivo aumento del número de personas ma-

yores o la carestía de bienes y recursos básicos para poder vivir
el estado de con dignidad.

bienestar Sin embargo, los estados de bienestar y las políticas sociales

están en constante proceso de reforma para continuar siendo
útiles a las sociedades. Ciertas megatendencias, como el ritmo
acelerado del cambio tecnológico, la globalización financiera y
cultural, las migraciones masivas, las implicaciones del género
o los nuevos riesgos vinculados al cambio climático y la conta-
minación del planeta están presionando y afectando profunda-
mente a la naturaleza, sostenibilidad y funcionamiento de los es-
tados de bienestar (véase el gráfico 9). En un informe de 2019, el
relator especial para la extrema pobreza y los derechos humanos
de la Organización de las Naciones Unidas abordaba por primera
vez (de manera institucional) la noción de estado de bienestar
digital, en una clara referencia a aquellos países que han optado
por intentar mejorar la eficiencia y eficacia de sus sistemas de
protección social a través del uso y el desarrollo del big data y, en
especial, de la tecnología de inteligencia artificial.

Bajo esta realidad social, tecnológica y regulatoria, el CSIC, a tra-

vés de varios de sus centros e institutos de investigación, lleva
a cabo una amplia actividad científica de producción de conoci-
miento y evidencia, que tiene una gran utilidad para informar al
proceso de elaboración de políticas públicas e incidir en el día a
día de varios de los sectores que conforman el estado de bienes-
tar en la actualidad.

34
 INTELIGENCIA ARTIFICIAL

Gráfico 8 Instituciones y programas básicos del estado

de bienestar (siglos XIX y XX)

ELABORACIÓN PROPIA

Gráfico 9 Megatendencias que presionan

al estado de bienestar digital

ELABORACIÓN PROPIA

SCIENCE POLICY 35
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Salud y servicios sociales: investigación y mejora

en la prestación de servicios

En el ámbito de la salud, desde el CSIC se trabaja intensamente

en el desarrollo de nuevas técnicas, programas y tratamientos
sanitarios. Investigadores de esta entidad están aportando in-
formación clave para mejorar la atención y el cuidado de niños
afectados por los trastornos del espectro autista (TEA). En con-
creto, varios equipos están centrados en la investigación para
prevenir y anticiparse a posibles crisis relacionadas con la forma
en que las personas interactúan con los demás, se comunican,
aprenden y se comportan. Para ello, han llevado a cabo una mo-
nitorización de un conjunto de señales y, después, mediante un
análisis con series temporales y algoritmos de clasificación, se
pudieron caracterizar diez comportamientos que podían condu-
cir a crisis. El CSIC también está desarrollando investigaciones
cuyo objetivo es personalizar los programas de estimulación
cognitiva y rehabilitación en pacientes que han sufrido un ac-
cidente cerebral. Estos estudios se centran especialmente en la
información causal relativa a los perfiles de afectación funcio-
nal o estructural y las relaciones temporales, así como los ma-
pas de procesos de rehabilitación cognitiva. El objetivo de estos
programas es determinar con exactitud las relaciones existentes
entre los perfiles de afectación cognitiva y los planes terapéuti-
cos. La inteligencia artificial constituye la tecnología base sobre
la que se diseñan las herramientas de generación personaliza-
da de propuestas terapéuticas. El CSIC también participa en la
creación de nuevos dispositivos y técnicas de seguimiento y
monitorización de determinados tipos de pacientes y dolencias.
Por ejemplo, varios investigadores de esta institución han desa-
rrollado, junto con varios socios, un sistema holter de registro
de electroencefalograma (EEG) extrahospitalario mediante dis-
positivos portables, discretos y no invasivos. Estos permiten, de
una manera más fácil y cómoda, que el paciente pueda realizar
actividades de la vida cotidiana al mismo tiempo que se registra
su actividad eléctrica cerebral. El papel concreto de los equipos
del CSIC se centra en el análisis de la señal producida por este
sistema mediante algoritmos de inteligencia artificial.

El CSIC, como institución, también forma parte de importantes

redes internacionales y actúa de coordinador activo y dinamiza-

36
 INTELIGENCIA ARTIFICIAL

dor de proyectos multidisciplinares. Por ejemplo, forma parte de

la red europea Eurova (European Oocyte Biology Research Inno-
vation Training Network), fundada por la Comisión Europea. A
través de esta red, el CSIC persigue la mejora de la eficiencia de
las técnicas de reproducción asistida. Los objetivos principales
son predecir las tasas de éxito de estas técnicas, identificar los
gametos y embriones con más posibilidades de desarrollo y me-
jorar las capacidades de diagnóstico y pronóstico de los métodos
actuales. El CSIC también actúa como coordinador de diferentes
actores (tanto públicos como privados) en el ámbito europeo. El
fin de estos proyectos es determinar los efectos que la calidad
del aire en interiores puede tener sobre la salud de las personas.
Para ello, el trabajo se centra en la realización de una extensa
campaña de monitorización de los contaminantes químicos y
biológicos en distintos países de la UE, así como en el análisis de
las fuentes de contaminación y las interacciones y principales
correlaciones con determinados problemas de salud.

Cocreación y despliegue de robótica asistencial

En la actualidad, las personas viven más tiempo que antes en

todo el mundo. Se prevé que el número de personas de 80 años o
más se triplique entre 2020 y 2050, hasta alcanzar los 426 millo-
nes. Según el Instituto Nacional de Estadística (INE) y Eurostat,
la tasa de dependencia a los 67 años (cociente de la población
mayor de 67 años y la población de 16 a 66 años, en tanto por
ciento) va a aumentar de forma continuada, alcanzando sus va-
lores máximos alrededor de 2050. España sería el cuarto país
con mayor tasa de dependencia (en torno al 60 %), por detrás de
Portugal, Grecia e Italia. En términos de aumento de dicha tasa,
nuestro país presentaría la mayor diferencia respecto a 2019. Se-
gún la Organización Mundial de la Salud (OMS), este cambio en la
distribución de la población hacia edades más avanzadas supo-
ne uno de los retos más importantes para la sostenibilidad de los
sistemas de salud y servicios sociales de todo el mundo: desde
un punto de vista del gasto asociado al envejecimiento, así como
en relación con los recursos humanos necesarios para atender
las fuertes y crecientes demandas de trabajo de cuidados (véase
el gráfico 10). Al respecto, desde el CSIC se están estudiando y
desarrollando soluciones que disminuyan esta carga y amorti-
güen este impacto en los próximos años. Para ello, gran parte de

SCIENCE POLICY 37
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Gráfico 10 Trabajadores del cuidado en el estado de

bienestar digital

Fuente: Adaptación a partir de Sánchez Rosado, J. C., & Díez Parra, M. (2022). Impacto
de la inteligencia artificial en la transformación de la sanidad: Beneficios y retos.
Economía industrial, 423, 129-144.

los proyectos se centran en el campo de la robótica asistencial y

el codiseño de la interacción persona-robot, aplicable, tal como
decíamos, tanto al ámbito de la salud como al de los servicios
sociales.

38
 INTELIGENCIA ARTIFICIAL

La robótica asistencial se configura como una tecnología de- Prototipo de sistema robótico para dar
de comer, codiseñado por el Instituto de
cisiva de ayuda a los cuidadores en hospitales, centros de re- Robótica e Informática Industrial
habilitación, residencias de ancianos y ayuda a domicilio, para (IRII, CSIC-UPC) y el Parc Sanitari
liberarse de tareas rutinarias con poco valor humano añadido. Pere Virgili de Barcelona.
El objetivo de esta tecnología es aumentar la calidad de vida y la
autonomía de las personas mayores o con limitaciones físicas
o cognitivas.

Investigadores del CSIC participan de forma decisiva en el desa-

rrollo y la elaboración de prototipos de robots de asistencia física
y cognitiva, con capacidad para manipular objetos en proximidad
o en contacto con personas (esto es, ayudar a vestirse, afeitarse,
comer, ponerse de pie o trasladarse, así como hacer rehabilita-
ción y proporcionar entrenamiento cognitivo) (véase la imagen
superior). Este proyecto se ha desarrollado en colaboración con
instituciones sanitarias, personal facultativo, terapeutas, tra-
bajadores sociales, cuidadores y pacientes. Entre las lecciones
aprendidas destacan la importancia de la interdisciplinariedad,
el despliegue centrado en el ser humano, la personalización y

SCIENCE POLICY 39
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Prototipo de sistema robótico para

proporcionar entrenamiento cognitivo,
codiseñado por el Instituto de Robótica
la formación en tecnoética. A través de un proceso interactivo,
e Informática Industrial (IRII, CSIC-UPC) los prototipos han sido mejorados con nuevas funcionalidades
y el Ace Alzheimer Center Barcelona. que amplían su usabilidad, haciéndolos más susceptibles de ser
adoptados por las instituciones, aumentando así su rentabilidad
y haciendo más atractiva su comercialización. Estos prototipos
de investigación pueden adaptarse a las necesidades de una
entidad o de un tipo de pacientes para proporcionarles autono-
mía, al tiempo que son de gran ayuda para los cuidadores. En el
ámbito de la salud y los servicios sociales, el despliegue ético de
esta tecnología es primordial. Bajo el paraguas de las directrices
éticas para una inteligencia artificial fiable del grupo de expertos

40
 INTELIGENCIA ARTIFICIAL

de alto nivel sobre inteligencia artificial de la Comisión Europea

y el informe Ethically Aligned Design A Vision for Prioritizing
Human Well-being with Autonomous and Intelligent Systems
(Diseño alineado éticamente: priorizar el bienestar humano con
sistemas autónomos e inteligentes) de la Standards Association
del Instituto de Ingenieros Eléctricos y Electrónicos (Institute of
Electrical and Electronics Engineers, IEEE), investigadores del
CSIC también desarrollan materiales y actividades de formación
sobre ética en robótica social e inteligencia artificial.

Empleo y rentas básicas universales: la utilidad

de la inteligencia artificial en otros sectores
de política social

La influencia de las herramientas de inteligencia artificial en la

configuración de los mercados laborales y las políticas de em-
pleo es un tema complejo y multifacético que está generando
un intenso debate en la sociedad actual. Investigadores del CSIC
están trabajando de forma activa en el desarrollo de esta línea
de investigación, analizando especialmente los desafíos que
presenta en la desigualdad laboral y la posible ampliación de la
brecha salarial entre trabajadores con y sin habilidades tecnoló-
gicas, así como en la necesidad de adaptación continua (adqui-
sición de nuevas capacidades para trabajar junto con sistemas
de inteligencia artificial). También están prestando atención a
las oportunidades y los desafíos que se abren para los mercados
laborales en relación con el aumento de la productividad, la crea-
ción de nuevos empleos y las potencialidades de esta tecnología
para mejorar las condiciones de trabajo, ligadas a la mayor fle-
xibilidad y la instauración del trabajo en remoto. Investigadores
del CSIC están trabajando activamente en el análisis de las va-
riables que determinarían el éxito en esta transición a través del
desarrollo de políticas y estrategias concretas. Estos estudios se
centran sobre todo en las implicaciones y el alcance de la co-
laboración efectiva entre actores tales como los propios Gobier-
nos, instituciones y organizaciones internacionales claves en el
sector (como la Organización Internacional del Trabajo), el papel
del sector empresarial, las organizaciones sindicales y las insti-
tuciones educativas (en todos los niveles y escalas).

SCIENCE POLICY 41
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Las herramientas de inteligencia artificial también tienen el

potencial de influir de forma significativa en el desarrollo y la
gestión de las rentas básicas universales (RBU) o salarios básicos
universales. En el caso de España, el Plan de Digitalización de las
Administraciones Públicas 2021-2025 (que vertebra la actuación
institucional y organizativa de prácticamente todos los departa-
mentos del Gobierno central) contempla (y, en algunos casos, ha
adoptado) servicios de automatización inteligente y aprendiza-
je automático (machine learning), por ejemplo, en el despliegue
del ingreso mínimo vital (IMV). Asimismo, los investigadores
del CSIC están tratando de potenciar la producción de evidencia
científica que vincule la inteligencia artificial a los procesos de
implementación de estas asignaciones monetarias, en relación
con su distribución eficiente, la personalización y los procesos
de evaluación continua. El CSIC también trabaja intensamente
para ampliar el conocimiento y la comprensión de los desafíos
éticos y de privacidad, fundamentales para garantizar que la in-
tegración de esta tecnología en la gestión de estos instrumentos
sea justa y equitativa. Por último, también se investiga sobre la
necesidad de un enfoque colaborativo (que incluya a la propia
sociedad) e institucionalizado, destinado a maximizar los bene-
ficios de esta herramienta tecnológica y minimizar sus riesgos
potenciales.

42
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

24 E
n esta sección se revisan algunas de las contribuciones
realizadas desde el CSIC para reducir la desinformación,

. .
mejorar la participación ciudadana y elaborar herra-
mientas basadas en inteligencia artificial para la gestión
de políticas.

La inteligencia La inteligencia artificial y el desorden de la información

artificial para
Según la Unesco, el desorden de la información se clasifica en
las ciencias tres tipos:
sociales y la
1. Desinformación: información falsa difundida intencionada-
participación mente por personas que saben que es falsa.
ciudadana
2. Información errónea: información falsa que se difunde cre-
yendo que es verdadera.

3. Información maliciosa: información basada en hechos rea-

les, pero utilizada para dañar a otros.

El Foro contra las Campañas de Desinformación en el ámbito de

la seguridad nacional de España ha analizado estos tipos de in-
formación manipulada, destacando tanto sus efectos como ame-
nazas potenciales como su uso estratégico como herramienta de
protección.

La metodología MsW (misinformation widget)

contra la ciencia encubierta

Una importante forma de desinformación es la ciencia encu-

bierta, donde se usa un enfoque científico falso para promover
intereses ocultos. Casos notables de esta naturaleza ocurrieron
durante la pandemia de la COVID-19, como la promoción de teo-
rías conspirativas sobre el origen del virus y el uso temprano de
hidroxicloroquina sin evidencia suficiente, lo cual afectó tanto a
la salud pública como a la confianza en la ciencia.

44
 INTELIGENCIA ARTIFICIAL

Gráfico 11 Tipologías de desinformación

DESINFORMACIÓN INTENCIÓN
FALSO
DE HACER DAÑO
Información errónea Desinformación Intención maliciosa

Conexión Falsa Contexto Falso [Algunas] Filtraciones

Contenido Engañoso Contenido del Impostor [Algún] Acoso
Contenido Manipulado [Algún] Discurso de odio
Contenido Fabricado

ELABORACIÓN PROPIA

Para combatir la ciencia encubierta, el CSIC propone la metodo-

logía MsW (misinformation widget), que se centra en verificar
la precisión de las afirmaciones y la credibilidad de las fuentes
mediante un proceso en tres etapas: evaluar la credibilidad de
la fuente, verificar la veracidad de la afirmación y estimar el im-
pacto potencial de la información.

La metodología MsW y sus herramientas buscan proporcionar

un marco estructurado para evaluar y manejar la desinforma-
ción de manera efectiva. En la actualidad, y en el marco de los
proyectos XAI-Disinfodemics y SafeHorizon, esta metodología
extendiéndose a través de las plataformas Atenea e IQi.

SCIENCE POLICY 45
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Factores sociales asociados con la creencia en teorías

de la conspiración

Una teoría de la conspiración es una creencia o explicación que

sugiere que un evento o situación importante es el resultado de
una conspiración secreta, generalmente llevada a cabo por un
grupo poderoso o influyente. Este tipo de teorías, a menudo, im-
plican que el grupo en cuestión está actuando en secreto para
lograr objetivos ilegales, inmorales o perjudiciales para el resto
de la sociedad.

Las teorías de la conspiración resultan de suma importancia

para la investigación académica, dado el amplio impacto que
han tenido en la salud pública, la confianza en las instituciones
y el discurso político y social. Así, por ejemplo, diversos estudios
ilustran una correlación positiva entre la aceptación de teorías
conspirativas y la reticencia a recibir vacunas. En consecuen-
cia, examinar los factores psicológicos, culturales y políticos que
contribuyen a la formación y propagación de teorías de la conspi-
ración es fundamental para desarrollar estrategias efectivas que
contrarresten la desinformación y promuevan el conocimiento
basado en la evidencia, la toma de decisiones racionales y la sa-
lud pública. Entre otros trabajos desarrollados alrededor de las
teorías de la conspiración, el Instituto de Políticas y Bienes Pú-
blicos (IPP) del CSIC ha explorado los factores sociales asociados
con la creencia en teorías de la conspiración en España durante
la pandemia de la COVID-19, ayudando a comprender los predic-
tores sociales de este fenómeno y generando conocimientos que
pueden informar políticas, prácticas y conocimiento público.

Los principales hallazgos del estudio muestran que las creencias

en teorías conspirativas tienen se caracterizan por:

a. estar asociadas con comportamientos de vacunación signifi-

cativamente peores, incluso entre los hijos menores de edad
de quienes sostienen estas creencias;

b. no estar asociadas o estarlo muy débilmente con demogra-

fías estándar como la edad y el sexo; lo mismo ocurre con la
educación y las ocupaciones en el ámbito de la salud;

46
 INTELIGENCIA ARTIFICIAL

c. estar relacionadas con consideraciones de racionalidad ins-

trumental;

d. estar débilmente relacionadas con indicadores de racionali-

dad de valores, como afiliaciones ideológicas y religiosas.

Escucha social para el control de la infodemia

La OMS define la infodemia como un «exceso de información,

incluida información falsa o engañosa, en entornos digitales y fí-
sicos durante un brote de enfermedad». Su gestión busca reducir
su impacto en la salud pública mediante el análisis y enfoques
basados en la evidencia, promoviendo buenas prácticas a través
de la escucha a la comunidad, la mejora de la comprensión del
riesgo, la construcción de resiliencia frente a la desinformación
y el empoderamiento a las comunidades. La escucha social, que
implica analizar conversaciones en plataformas digitales para
entender las percepciones y emociones del público, es clave para
tomar decisiones informadas y manejar la infodemia.

La escucha social puede ser útil en la gestión de la infodemia

y ayuda a capturar las preocupaciones y preguntas de la comu-
nidad. Tradicionalmente, las plataformas de análisis de redes
sociales han sido diseñadas para su uso por parte de marcas co-
merciales, con fines de marketing y ventas, y se han utilizado
poco para un entendimiento más amplio de las dinámicas so-
ciales en áreas como la salud pública. Por ello, y atendiendo a
una petición de la OMS, la tecnología del IIIA ha servido como
base para la creación de la plataforma EARS (Early Artificial In-
telligence-Supported Response with Social Listening) con el fin
de abordar las necesidades cambiantes de los analistas de salud
pública durante la pandemia de la COVID-19.

Los datos para la plataforma EARS se recopilaron a diario a partir

de conversaciones en línea en fuentes públicas disponibles en
nueve idiomas. Diversos expertos en salud pública y redes so-
ciales desarrollaron una taxonomía para categorizar narrativas
sobre la COVID-19 en cinco categorías principales y 41 subcatego-
rías. Se puso en marcha un algoritmo de aprendizaje automático
semisupervisado para categorizar las publicaciones en redes so-
ciales en diversas categorías y según diversos filtros. En total, se

SCIENCE POLICY 47
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

recopilaron 215 469 045 publicaciones sociales para su procesa-

miento entre diciembre de 2020 y febrero de 2022. Con el objetivo
de evaluar la categorización basada en aprendizaje automático,
se la comparó con el método utilizado con anterioridad (filtros de
búsqueda booleanos). Dicha comparativa demostró una mejora
estadísticamente significativa de la precisión. Además, la plata-
forma construida es escalable, lo cual permite incorporar de for-
ma sencilla nuevos países e idiomas.

La aplicación de una taxonomía de salud pública y la tecnología

de inteligencia artificial en una plataforma accesible y fácil de
usar para la escucha social, a la que los analistas pueden acceder
directamente, es un paso significativo para comprender mejor
las narrativas globales. EARS se ha convertido en un caso de éxi-
to que avala las capacidades de las tecnologías de escucha social
para obtener información actual sobre los temas de interés para
la ciudadanía.

Inteligencia artificial y democracia

La inteligencia artificial va a tener, sin duda, impactos relevantes

en nuestro sistema democrático. Estos van a ser negativos en
algunos casos (por ejemplo, la generativa facilita la desinforma-
ción) y positivos en otros. En particular, uno de estos últimos es la
mejora de la participación ciudadana a través de la optimización
de las herramientas de democracia digital. Específicamente, el
IIIA ha trabajado en mejorar la democracia participativa median-
te el uso de técnicas de inteligencia artificial que incorporan los
valores humanos en los presupuestos participativos (PP) como
caso de estudio.

Los presupuestos participativos tienen dos principales deficien-

cias. En primer lugar, requieren la participación activa de los ciu-
dadanos, y lo habitual es que no participen. Por ejemplo, el presu-
puesto participativo de París, considerado uno de los más grandes
del mundo, involucró a 137 622 participantes en 2023, lo que repre-
senta, aproximadamente, el 6,5 % de los más de 2,1 millones de sus
ciudadanos. La baja participación puede no ser representativa de
la población y generar sesgos en las decisiones. En segundo lugar,
los presupuestos participativos tradicionalmente han gestionado
porciones pequeñas del presupuesto gubernamental. Continuan-

48
 INTELIGENCIA ARTIFICIAL

do con el caso de París, su presupuesto participativo es de 100 mi-

llones de euros cada año, lo que representa el 1,25 % de los más de
8000 millones de euros del gasto municipal. La subfinanciación
de los presupuestos participativos permite a los Gobiernos alegar
su interés en la democracia participativa, mientras mantienen el
control total sobre la mayoría de las decisiones presupuestarias.
Se podría argumentar al respecto que los Ejecutivos no destinan
más dinero a los presupuestos participativos para evitar la posibi-
lidad de que un pequeño porcentaje de la población impulse pro-
puestas en contra de sus intereses.

Para resolver estos problemas, proponemos adoptar una nueva

perspectiva sobre los presupuestos participativos basada en en-
contrar una asignación presupuestaria consensuada con el fin
de satisfacer tanto a los participantes como al Gobierno. Nuestra
visión es que, si consideramos a ambas partes al asignar el pre-
supuesto, cumplimos con estos puntos clave:

{ Evitamos que la baja participación sesgue la decisión y da-

mos voz a los ciudadanos que no participan (representados
por el Gobierno).

{ Dado que los Ejecutivos se aseguran de que la baja participa-

ción no sesgará la decisión en su contra, se inclinarán a in-
vertir más dinero en el proceso.

{ Si se invierte más dinero en el proceso, los ciudadanos serán

más propensos a participar, proporcionando sus preferencias
personalizadas de propuestas.

En este punto, es importante destacar que la mayoría de los pre-

supuestos participativos suelen utilizar técnicas no óptimas para
su asignación. Por lo tanto, la aplicación de la inteligencia arti-
ficial en ellos no solo trae los beneficios mencionados, sino que
optimiza los votos y los recursos mejor que las técnicas común-
mente utilizadas. El enfoque se basa en la teoría de juegos para
considerar tanto las preferencias de los participantes como las
del Gobierno (en representación parcial de los no participantes).
Para tener en cuenta las preferencias del Ejecutivo, el enfoque
propuesto tiene en cuenta los valores que este pretende promo-
ver y aquellos con los que se asocia cada propuesta.

SCIENCE POLICY 49
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Los experimentos realizados muestran resultados prometedores

que validan este enfoque. Considerando datos de 29 presupues-
tos participativos recientes en diferentes distritos de Barcelona
y Varsovia (Polonia), se observó que la selección de propuestas
que incorporan la alineación de valores con las preferencias del
Gobierno reduce menos de un 5 % el apoyo de los participantes
con respecto a la selección de propuestas que solo consideran
a los participantes. Esto demuestra que agregar nuevos actores
a la decisión no tiene que ser necesariamente en detrimento de
otros. Así pues, adoptar esta solución de compromiso satisface
tanto a los participantes como al Ejecutivo y es, posiblemente,
una mejor solución para los ciudadanos que no participan de for-
ma activa en el proceso.

Inteligencia artificial para la gestión de políticas

públicas

La inteligencia artificial puede contribuir a todas y cada una de

las etapas del proceso de elaboración y gestión de políticas públi-
cas. Al respecto, un aspecto clave de esta tecnología es su capa-
cidad novedosa capacidad para predecir. Una forma de integrar
esa fortaleza es mediante la formulación e implementación de
políticas preventivas más eficaces. Estas políticas, que a menudo
son difíciles de enfocar, tienden a ser ineficaces. La integración
de pronósticos basados en inteligencia artificial puede transfor-
mar por completo el espacio de posibilidades para dichas políti-
cas. Un ejemplo de ello es la predicción de crisis internacionales
negativas, como el estallido de conflictos armados, golpes de
Estado o la represión. Las investigaciones realizadas al respec-
to han demostrado que estos eventos se pueden predecir con
una precisión cada vez mayor. Plataformas como PACE, VIEWS
y Conflict Forecast ya están realizando estas predicciones. Esta
última utiliza seis millones de artículos de noticias de todo el
mundo para entrenar un algoritmo capaz de prever el estallido
y la intensificación de la violencia armada antes de que ocurra.

50
 INTELIGENCIA ARTIFICIAL

El Instituto de Análisis Económico del CSIC investiga la integra-

ción de algoritmos de predicción basados en inteligencia artifi-
cial para políticas de prevención de conflictos armados. Aunque
estas herramientas, como el Dynamic Early Warning and Action
Model (DEWAM), actualmente se usan más con fines analíticos,
su aplicación en la prevención presenta desafíos, ya que requie-
re integrar pronósticos cuantitativos en el diseño de políticas.
DEWAM combina un módulo de pronóstico que evalúa el riesgo
de conflicto y su intensidad y un módulo de toma de decisiones
dinámico, que simula políticas y cuantifica su impacto potencial.
Este modelo clasifica el riesgo de conflicto en 12 etapas, desde la
paz estable (etapas 1 a 4) hasta el conflicto intenso (etapas 11 y 12),
sugiriendo que las intervenciones más rentables se encuentran
en las etapas preventivas (de la 5 a la 10), donde el riesgo de esca-
lada es alto, pero los costes aún son manejables.

DEWAM representa un primer paso hacia políticas informadas

por inteligencia artificial, con el potencial de extenderse a otros
ámbitos políticos. Sin embargo, todavía persisten desafíos técni-
cos y éticos, ya que el aprendizaje automático predice tendencias,
pero los formuladores de políticas requieren pronósticos condi-
cionados a opciones políticas específicas, lo cual es complejo.
Esta capacidad demanda la colaboración entre disciplinas cuan-
titativas como la informática, la economía y la ciencia política.

Además, la relevancia de DEWAM va más allá de la prevención

de conflictos armados, aplicándose también en la gestión de
riesgos de amenazas híbridas, como la manipulación en redes
sociales que desencadena conflictos en el mundo físico. Aquí, el
desafío es entender la relación entre el discurso de odio en redes,
la polarización política y la movilización social. En línea con el
Reglamento Europeo de Libertad de Medios de Comunicación, la
gestión de la desinformación debe armonizarse con la libertad
de prensa, lo que implica desarrollar sistemas avanzados de mo-
nitorización, tal como se propone en el documento de trabajo del
Foro contra las Campañas de Desinformación en el Ámbito de la
Seguridad Nacional.

SCIENCE POLICY 51
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

25 C
uando se habla de sostenibilidad nos estamos refiriendo
a la capacidad de satisfacer las necesidades presentes

. .
sin comprometer la capacidad para satisfacer las de las
futuras generaciones. Así, el término queda intrínseca-
mente unido al uso de recursos naturales, económicos y socia-
les de una manera equilibrada y responsable, de modo que el
La inteligencia desarrollo humano sea viable a largo plazo y en armonía con el
artificial para la medioambiente.

sostenibilidad La sostenibilidad, en el contexto económico y social, busca mo-

delos que promuevan la equidad, el bienestar y la estabilidad
económica sin agotar los recursos del planeta. En el entorno am-
biental, implica proteger los ecosistemas, reducir la contamina-
ción y preservar los recursos naturales.

Algunos ejemplos notables de sostenibilidad que hacen impres-

cindible el uso de la inteligencia artificial los podemos encontrar
en los ámbitos de la energía, la movilidad o la industria.

Gestión energética inteligente

El aumento de las emisiones de gases de efecto invernadero

derivadas de la actividad humana de los últimos siglos (véase
el gráfico 12) ha provocado un calentamiento global rápido sin
precedentes. Limitar el aumento de la temperatura global a 1,5
°C y alcanzar los objetivos del Acuerdo de París requiere que se
produzca una profunda transformación sistémica del sistema
energético mundial en los próximos 30 años. El éxito de esta
transición energética implica una transformación de un sector
basado en combustibles fósiles a otro basado en cero emisiones
de carbono o en energía generada a partir de fuentes renova-
bles. En este sentido, el informe Perspectiva global de las transi-
ciones energéticas 2023 de la International Renewable Energy
Agency (IRENA) señala la electrificación y la eficiencia como
motores clave de la transición energética, impulsados por las
energías renovables, el hidrógeno limpio y la biomasa sosteni-
ble.

52
 INTELIGENCIA ARTIFICIAL

Gráfico 12 Actividad industrial y su impacto ambiental

CONSUMO CONSUMO
DE AGUA ENERGÉTICO

EMISIONES
DE CARBONO

ELABORACIÓN PROPIA

En el contexto español, la Ley 7/2021 de Cambio Climático y Tran-

sición Energética, más conocida como Ley del Cambio Climático,
establece unos objetivos mínimos nacionales para el año 2030
relacionados con la reducción de emisiones de gases de efecto
invernadero, consumo y generación de energía de fuentes reno-
vables y mejora de la eficiencia energética.

Los avances logrados en los sistemas embebidos de captura de

datos y en las tecnologías de las comunicaciones han facilitado
el desarrollo de nuevas soluciones basadas en técnicas de inte-
ligencia artificial aplicadas a diferentes áreas y con un enfoque
en la sostenibilidad energética. Algunos ejemplos de estas apli-
caciones son:

SCIENCE POLICY 53
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

{ Mejora de la previsión de producción de energía renovable

en sistemas de generación. En investigaciones en las que ha
participado el Instituto de Geociencias (IGEO, CSIC-UCM), se
ha demostrado que los algoritmos de inteligencia artificial
alimentados con datos meteorológicos pueden mejorar sig-
nificativamente la predicción de la producción de energía en
tiempo real, lo que facilita la integración de una mayor canti-
dad de energía renovable en el sistema eléctrico.

{ Mantenimiento de la estabilidad y confiabilidad de la red

en los sistemas de transmisión y distribución. Las técnicas
de inteligencia artificial pueden emplearse para optimizar la
gestión energética en redes y microrredes descentralizadas,
con el fin tanto de mantener el balance entre la demanda y
el suministro de energía como de garantizar la calidad de los
parámetros eléctricos (nivel de voltaje, frecuencia, etc.). En
estas investigaciones ha participado el Instituto de Física In-
terdisciplinar y Sistemas Complejos (IFISC, CSIC-UIB).

{ Optimización de la previsión de la demanda y su gestión

eficiente. A partir de datos de consumo energético, las técni-
cas de inteligencia artificial pueden utilizarse para predecir
y generar hábitos y patrones de consumo individualizados
para cada consumidor. Esta información resulta de utilidad
tanto para la predicción de la demanda como para mejorar la
eficiencia energética de las edificaciones, según investigacio-
nes realizadas en el Centro de Automática y Robótica (CAR,
CSIC-UPM). Mediante inteligencia artificial generativa es po-
sible analizar los datos históricos y las condiciones actuales
para predecir la demanda energética.

{ Mejora de la eficiencia energética en procesos industriales.

A partir de modelos de consumo energético y de recursos de
máquinas y procesos industriales se pueden desarrollar solu-
ciones para su monitorización y optimización (investigacio-
nes realizadas en el CAR), con el fin de ser utilizadas en siste-
mas de mantenimiento predictivo o para la optimización del
consumo energético y de materiales, entre otras aplicaciones
(investigación realizada en el nstituto de Robótica e Informá-
tica Industrial [IRII], CSIC-UPC).

54
 INTELIGENCIA ARTIFICIAL

Movilidad inteligente

La movilidad urbana se encuentra en un proceso de profundo

cambio estructural, donde los medios de transporte más soste-
nibles (el peatón, la bicicleta, el transporte público y la movilidad
compartida) reemplazan cada vez más el modelo de movilidad
clásico basado en vehículos privados. Es más, la generalización
de vehículos conectados tiene la capacidad de crear un nuevo
ecosistema donde existe una gran cantidad de información que
llega en tiempo real para ser procesada con la ayuda de sistemas
de inteligencia artificial. En este contexto, se hace imperativo
para los gestores de la movilidad contar con sistemas de esta na-
turaleza, como los llamados gemelos digitales, para poder inter-
pretar los posibles cambios y estudiar el impacto de las medidas
que se implementen en simulaciones computacionales antes de
pasarlas al terreno real.

Construir estos modelos requiere disponer de una gran cantidad

de información sobre las necesidades de movilidad o el estado
de las infraestructuras y su capacidad, así como cuestiones más
delicadas que involucran a las personas, como la toma de deci-
siones sobre las rutas a tomar, los modos de transporte que usar
y la reacción frente a los cambios, según se arroja de los resul-
tados de investigaciones del IFISC. En definitiva, las soluciones
basadas en inteligencia artificial pueden cuantificar el impacto
de las políticas de movilidad y permiten definir planes de acción
orientados a lograr ciertos objetivos (IIIA). Por ejemplo, algunas
herramientas basadas en esta tecnología analizan políticas de
adopción de movilidad compartida (IIIA), priorizando los aspec-
tos medioambientales o la calidad del servicio para los usuarios.
Las nuevas soluciones mejoran la movilidad de vehículos y el
desplazamiento de peatones o de ciclistas dentro de un entorno
urbano, recomendando rutas que no solo minimizan la distan-
cia, sino también la exposición a contaminantes atmosféricos
(IIIA). Asimismo, con el uso de inteligencia artificial generativa
se pueden diseñar sistemas de transporte que optimicen el flujo
del tráfico, minimizando los atascos y reduciendo las emisiones
de gases contaminantes.

SCIENCE POLICY 55
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Gráfico 13 Transición hacia una movilidad

más sostenible guiada por la inteligencia artificial

ELABORACIÓN PROPIA

Dentro de la movilidad inteligente merece especial atención el

vehículo autónomo (investigación realizada en el CAR) porque,
aunque surge con la intención de mejorar la seguridad en las ca-
rreteras, hoy se percibe como una pieza clave para transformar la
movilidad urbana, haciéndola más sostenible, inclusiva y acce-
sible. La navegación autónoma asistida por inteligencia artificial
tiene que dar respuesta a varios desafíos que articulan gran parte
de la investigación en este ámbito:

56
 INTELIGENCIA ARTIFICIAL

{ Garantizar la confianza en la toma de decisiones, identifican-

do con precisión el entorno operacional (como el tráfico, el
terreno y el clima) y ajustando el comportamiento del coche
en consecuencia. Esto requiere aprendizaje continuo, a largo
plazo, que permita responder de manera efectiva a diversas
circunstancias complejas.

{ Predecir de manera explicable, transparente y robusta el

mundo que los rodea para tomar mejores decisiones.

{ Intercambiar sensores embarcados y actualizar con seguri-

dad funciones software que permitan comprender, de la ma-
nera más precisa y fiable posible, el entorno del vehículo. Al
respecto, el proyecto HAL4SDV, que agrupa a la industria auto-
movilística europea y en el que participa el CSIC, aspira a sen-
tar las bases de una infraestructura de software abierta que
permita a Europa seguir siendo competitiva en este sector.

Industria inteligente

La inteligencia artificial juega un papel crucial a la hora de de-

sarrollar una actividad industrial más sostenible. Con métodos
pertenecientes a esta tecnología se puede optimizar el consumo
de agua, energía y materias primas mediante un análisis del flu-
jo de producción, generando recomendaciones en tiempo real
orientadas a reducir el gasto de estos recursos (CAR) o es posible
reducir las emisiones de CO2 u otros contaminantes en plantas
industriales, identificando puntos críticos y proponiendo solu-
ciones, mediante inteligencia artificial generativa, que optimicen
los patrones de producción.

Asimismo, la inteligencia artificial facilita la economía circular

mediante la identificación de oportunidades para reducir, reuti-
lizar o reciclar materiales en los procesos de producción. Por su
parte, la generativa permite diseñar y explorar sistemas de re-
ciclaje más eficientes. La inteligencia artificial también permite
llevar a cabo un mantenimiento predictivo que anticipe fallas
en equipos antes de que ocurran (CAR), evitando reparaciones
costosas y reduciendo el consumo energético y los residuos aso-
ciados a la fabricación y el reemplazo de piezas, mientras que la
generativa puede ayudar en el diseño de nuevos productos más

SCIENCE POLICY 57
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

eficientes y sostenibles, asistiendo en la realización de simula-

ciones para evaluar el impacto ambiental de un producto antes
de su fabricación.

La industria del transporte también puede beneficiarse de las

técnicas de inteligencia artificial para optimizar rutas de distri-
bución, reduciendo el consumo de combustible y, con ello, las
emisiones, o para lograr una gestión más sostenible de la cadena
de suministro, ayudando a prevenir la demanda y optimizando
la logística para reducir la huella de carbono.

La agricultura es otra actividad industrial donde encontramos

prácticas de sostenibilidad (como la agricultura de precisión)
que promueven una gestión del cultivo que considere su va-
riabilidad, con la finalidad de reducir los insumos y el impacto
medioambiental. En investigaciones realizadas en el CAR, se ha
comprobado que esta tecnología permite analizar datos del suelo,
el clima y los cultivos para optimizar el uso de agua y de agroquí-
micos que contaminan esta y el suelo.

A su vez, la inteligencia artificial también permitirá la detección

temprana de plagas a través de sistemas de inspección que re-
cogen la información en el campo con un conjunto de sensores,
que pueden ir embarcados en robots autónomos tanto aéreos
como terrestres (investigaciones del CAR) o ser parte de una red
fija instalada a pie de campo. Por su parte, la generativa facilita
el análisis de datos climáticos, del suelo y del agua para sugerir
cultivos y patrones de siembra que maximicen la productividad
y minimicen el uso de recursos.

Finalmente, la inteligencia artificial permite lograr entornos de

trabajo inclusivos en los que colaboran con éxito operarios y má-
quinas inteligentes (cobots), integrando la inteligencia humana y
la tecnología de una manera equilibrada, orientada al bienestar,
la personalización y el impacto social positivo. Un ejemplo de es-
tos cobots lo encontramos en la recogida manual de fruta, donde
el robot se coordina con el operario para realizar las tareas que
requieren fuerza, como el transporte de cajas pesadas, mientras
el operario realiza las que requieren destreza, como la recogida
de racimos de uva para vino con denominación de origen (inves-
tigaciones del CAR).

58
 INTELIGENCIA ARTIFICIAL

Gráfico 14 Industria 5.0. Los robots no reemplazan

a las personas, sino que complementan sus habilidades

Más velocidad
de recogida.

20Kg

Las cajas llegan

Se puede disponer
a pesar 20 Kg.
de un mapa muy preciso
de la cosecha.

El trabajo de vendimia Mayor calidad en el vino

se vuelve inclusivo. porque la uva llega al punto
No es necesario tener una de recogida una vez cortada
gran fortaleza física para sin largas esperas en el campo.
realizarlo.

El robot pone Menos lesiones

la fuerza y el operario de espalda y menor
la destreza. cansancio durante la
jornada de trabajo.

ELABORACIÓN PROPIA

SCIENCE POLICY 59
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

tres

Conclusiones y
recomendaciones

60
 INTELIGENCIA ARTIFICIAL

Conclusiones
como el aprendizaje colaborativo y la evalua-
Tal como se ha puesto de manifiesto en este ción. Las políticas educativas deben integrar
informe, la inteligencia artificial está transfor- esta tecnología en este ámbito de manera ética,
mando ya radicalmente nuestro entorno social, siguiendo recomendaciones como las de la
laboral, educativo, afectivo… Ello exige una pro- Unesco para equilibrar riesgos y beneficios. No
funda reflexión ética sobre su carácter disrupti- cabe duda de que, si se implementa con cui-
vo y la necesidad de protección y seguridad en dado, puede revolucionar la educación de una
nuestra interacción con esta tecnología. Desde forma enriquecedora y sostenible.
el CSIC promovemos el estudio y el análisis
ético del desarrollo de sistemas de inteligencia
artificial con el fin de generar confianza pública Asimismo, la inteligencia artificial tiene el
y alinear este despliegue de programas, aplica- potencial de transformar los sistemas de pro-
ciones y servicios con los valores sociales, en el tección social. Organizaciones internacionales
marco de una investigación e innovación res- e instituciones supranacionales han señalado
ponsables. La satisfacción de valores y la con- la importancia de esta tecnología para mejorar
fianza son condiciones básicas para la inno- la eficacia y la eficiencia de los sistemas sanita-
vación y la apropiación de esta tecnología por rios y sus dispositivos, así como para potenciar
parte de la sociedad. Por ello, la ética de la inte- los conocimientos, las habilidades y las compe-
ligencia artificial constituye una herramienta tencias de los profesionales del cuidado. Dife-
proactiva indispensable para favorecer su desa- rentes actuaciones y medidas implementadas
rrollo y su uso socialmente responsables. por el Gobierno de España, como la Estrategia
Nacional de Inteligencia Artificial (ENIA) o el
Proyecto Estratégico para la Recuperación y
Su impacto en el ámbito de la educación es Transformación Económica (PERTE) para la
profundo y multifacético, con una transforma- Salud de Vanguardia, se sitúan en esta línea,
ción que abarca desde la personalización del haciendo especial hincapié en la importancia
aprendizaje hasta la evaluación. Frente a sec- de desarrollar la medicina de precisión y la
tores como la banca y el comercio, que están ciencia de datos.
experimentando una automatización masiva,
la educación seguirá necesitando la interac-
ción humana, por su función socializadora.
No obstante, la inteligencia artificial ya realiza
una contribución significativa en este área, con
avances que van desde sistemas de tutoría y
subtitulado automático hasta plataformas de
personalización de contenido. Al respecto, el
CSIC se muestra activo en diversas áreas de
aplicación de técnicas de inteligencia artificial,

SCIENCE POLICY 61
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

se sitúa en primera línea con iniciativas como

En el ámbito social, diversos foros científicos y la metodología MsW y la plataforma EARS, que
de profesionales del sector han puesto de ma- han demostrado ser eficaces para combatir
nifiesto la importancia de introducir la inteli- la desinformación. Además, ha contribuido a
gencia artificial para abordar el enorme desafío facilitar procesos democráticos a través de pre-
que plantean el envejecimiento de la población, supuestos participativos optimizados mediante
la escasez de personal de cuidado y la creciente esta tecnología y permite el diseño de políticas
carga que esto implica para los sistemas (de sa- preventivas a través de algoritmos predictivos
lud y de servicios sociales) y para las familias. como DEWAM.
También existe un amplio consenso en torno
al amplio potencial de esta tecnología para fa-
vorecer la inclusión digital y empoderar a las Asimismo, la inteligencia artificial está des-
comunidades, sus trabajadores y los usuarios empeñando un papel crucial en la promoción
finales de gran parte de los sectores que inte- de la sostenibilidad y la lucha contra el cambio
gran el estado de bienestar. climático gracias a su capacidad de generar
técnicas que permiten optimizar procesos, re-
ducir el uso de recursos y mejorar la toma de
La influencia de las herramientas de inteli- decisiones. Múltiples grupos de investigación
gencia artificial en los mercados laborales, las en el CSIC trabajan en el desarrollo de solucio-
políticas de empleo y las condiciones de trabajo nes basadas en esta tecnología para problemas
son profundas y multifacéticas. Si bien esta complejos en el ámbito de la sostenibilidad,
tecnología presenta desafíos significativos, como los relacionados con la energía, la movi-
como el desplazamiento laboral y la necesidad lidad y la industria. A través de estos trabajos
de adaptación continua, también ofrece oportu- se constata que resulta crítico equilibrar el
nidades para aumentar la productividad y crear uso de la inteligencia artificial con estrategias
nuevas coyunturas laborales en nuevos cam- que minimicen el impacto medioambiental,
pos (como la gobernanza de datos o la interpre- asegurando que su implementación se alinea
tación y la toma de decisiones basadas en aná- con los objetivos de desarrollo sostenible. En
lisis de inteligencia artificial). También tiene el pocas palabras, la sociedad puede aprovecharla
potencial de incidir en el desarrollo y la gestión como un aliado en sostenibilidad y cambio cli-
de asignaciones monetarias pagadas por el mático, si los poderes públicos y las empresas
Estado o una Administración pública, como las la impulsan de manera responsable y ética en
rentas básicas universales, mejorando signifi- sectores clave como la energía, la movilidad y
cativamente su implementación efectiva. la industria. A través de decisiones informadas,
con el apoyo de políticas responsables y la im-
plementación de hábitos sostenibles, todos po-
A su vez, en la lucha contra la desinforma- demos contribuir a que esta tecnología impulse
ción, en el diseño y optimización de políticas un futuro más equilibrado y sostenible para las
sociales y en la mejora de la participación ciu- personas y el planeta.
dadana, la inteligencia artificial se configura
como una piedra angular. Al respecto, el CSIC

62
 INTELIGENCIA ARTIFICIAL

Recomendaciones
Recomendaciones para los decisores públicos:

ÉTICA EDUCACIÓN

Desde el punto de vista de la ética, se debe va- Para abordar la integración de la inteligencia
lorar la necesidad y conveniencia de desarro- artificial en el sistema educativo se recomien-
llar una aplicación de inteligencia artificial de da que una parte del profesorado, en cada cen-
forma previa. Se ha de justificar de una manera tro formativo, realice tareas de investigación y
convincente la verdadera exigencia y perti- se encargue de la recogida de evidencias sobre
nencia de utilizar un sistema de esa naturaleza el impacto que el uso de esta tecnología tiene
para el objetivo propuesto. Para ello, se debe en el aula.
realizar un análisis coste-beneficio que incluya
la posibilidad de alternativas a través de me-
dios tradicionales y la conveniencia o no de Esta recogida de evidencias se deberá realizar a
delegar un determinado proceso o actividad en partir de experimentos con el alumnado, razón
un sistema de esa naturaleza, en función de su por la que es imprescindible que algún miem-
especial relación con derechos fundamentales bro del profesorado disponga de la formación
de la persona, definiendo y documentando cla- adecuada para realizar correctamente dichos
ramente los objetivos y el alcance del sistema o experimentos. Esto podría articularse mediante
aplicación (para qué), así como quién ha decidi- la reducción horaria de miembros del profeso-
do su desarrollo (legitimidad). rado o a través de la contratación de personal
especializado.

También es necesario desarrollar espacios con-

trolados de pruebas (sandboxes) para la inteli- Un aspecto clave en la validación del uso de la
gencia artificial que faciliten el desarrollo y el inteligencia artificial en el aula es la recogida
testeo de los sistemas innovadores bajo una es- de datos. De hecho, esta debe ser una prioridad
tricta vigilancia regulatoria antes de su puesta del sistema educativo en general. El profesora-
en servicio. En este sentido, también se antoja do, las direcciones de los centros y la Adminis-
decisiva la formulación de un plan de medidas tración tienen que encargarse de que el conjun-
para la mitigación de riesgos y de compensa- to de datos recogidos sea lo más rico posible y
ción de daños. Las personas o los colectivos cuente con la calidad necesaria. A su vez, estos
dañados como consecuencia de un mal funcio- datos deben ponerse a disposición de manera
namiento del sistema deben recibir tratamiento libre y abierta, y de forma anónima.
y asistencia, así como compensación.

SCIENCE POLICY 63
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

BIENESTAR
Dado que el conflicto entre la toma de decisio-
nes a partir de la inteligencia artificial y la pre-
La integración de la inteligencia artificial en servación de la libertad y la dignidad humanas
los estados de bienestar trae consigo una serie emerge como un tema central, se recomienda
de desafíos en diversas áreas críticas. Los ha- adoptar un enfoque cauteloso y bien regulado
llazgos y la evidencia más reciente subrayan la que priorice la seguridad de los usuarios de
necesidad de implementar medidas de control los servicios del estado de bienestar en todos
y de regulación robustas y opciones políti- los sectores, así como la equidad en el acceso
cas efectivas para minimizar ciertos riesgos a ellos. En suma, resulta crucial fomentar un
vinculados al aumento de las desigualdades diálogo continuo entre los desarrolladores de
sociales, la falta de transparencia y confianza y la tecnología de inteligencia artificial, los pro-
la vulnerabilidad a la piratería informática. Ello fesionales, los legisladores y la sociedad en
permitiría maximizar los beneficios que puede general para garantizar que su desarrollo e im-
brindar esta tecnología para el conjunto de po- plementación se realicen de una manera ética
líticas sociales. y responsable.

SOCIEDAD
Al mismo tiempo, para abordar estos desafíos
se recomienda la adopción de un enfoque cen-
trado en el diseño y el desarrollo conjuntos, que En este plano, la inteligencia artificial puede
incluya la participación de las múltiples partes resultar de utilidad para implementar sistemas
interesadas a lo largo del ciclo de vida de pro- de verificación de información en la Admi-
ducción de la inteligencia artificial (por ejem- nistración pública. Al respecto, para combatir
plo, en el caso de los servicios sociales, grupos el desorden de la información y proteger a la
de investigación, empresas de asistencia domi- ciudadanía contra la desinformación, los Go-
ciliaria o de tecnología, centros sociosanitarios, biernos deberían adoptar metodologías de veri-
Administraciones y asociaciones de pacientes) ficación como MsW (misinformation widget).
y el aumento de la transparencia y la forma- Este sistema ayuda a evaluar la veracidad de la
ción y educación en esta tecnología tanto de información que circula en la esfera pública y
los profesionales de los sectores ligados al esta- a reducir el impacto de teorías conspirativas o
do de bienestar como de la propia ciudadanía. información maliciosa en sectores claves como
la salud y la seguridad.

64
 INTELIGENCIA ARTIFICIAL

SOSTENIBILIDAD
La inteligencia artificial también puede promo-
ver la transparencia y la participación en pro-
cesos democráticos. El fomento de su inclusión En relación con las implicaciones de la inteli-
en los procesos de participación ciudadana, gencia artificial para la sostenibilidad, es nece-
como los presupuestos participativos, para sario impulsar la creación de grandes espacios
asegurar que las decisiones reflejen tanto la de datos que faciliten el desarrollo de esta
voluntad de los ciudadanos como los intereses tecnología en este ámbito. Es preciso poner en
de las instituciones, ayudaría a mejorar la re- marcha políticas y proyectos que promuevan
presentatividad y efectividad de la democracia la utilización de datos abiertos para el desarro-
digital, creando mecanismos de asignación de llo de soluciones de inteligencia artificial que
recursos que considerasen las preferencias de aborden problemas críticos, como la gestión de
ambas partes y redujeran los sesgos de la baja recursos o el cambio climático. Esto se relacio-
participación. na directamente con la necesidad de facilitar el
acceso a información fiable sobre las infraes-
tructuras, las capacidades, las frecuencias, la
Asimismo, es posible utilizar la inteligencia localización de los puntos de interés y la atrac-
artificial para políticas preventivas en materia ción, los flujos peatonales, las medidas para
de seguridad y salud pública e integrar herra- afrontar de forma adecuada eventos especiales,
mientas de inteligencia artificial predictiva, grandes catástrofes, etc.
como DEWAM, en la formulación de políticas
públicas para anticipar crisis, tales como las
sanitarias o los conflictos sociales. Estas he- Las autoridades públicas tienen que definir una
rramientas pueden ayudar a los Gobiernos a regulación sobre la privacidad de los datos para
implementar intervenciones tempranas y a los consumidores y aprobar incentivos para
reducir los costes asociados a la gestión de participar en proyectos piloto como proveedores
crisis, promoviendo de este modo un enfoque de datos. También deben liderar y promover la
proactivo en cuanto a la seguridad y el bienes- creación de centros de datos y servicios de inte-
tar de la ciudadanía. ligencia artificial sostenibles o de cero energías
netas, con el objetivo de minimizar su impac-
to ambiental, por ejemplo, garantizando que
consuman energía renovable certificada o que
integren sistemas de aprovechamiento del calor
residual generado y de recirculación del agua
empleada en los sistemas de refrigeración.

SCIENCE POLICY 65
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Los diferentes niveles de gobierno, a través de Por último, también se requiere la creación y el
una coordinación y cooperación y gestión in- desarrollo de sistema de incentivos de empren-
tegrada de capacidades y recursos, han de per- dimiento verde, respaldando a emprendedores
seguir el desarrollo de una red de comunicacio- y startups que desarrollen soluciones de inteli-
nes 5G robusta con cobertura total para todo el gencia artificial orientadas a la sostenibilidad
territorio, impulsando una digitalización plena en los sectores de energía, movilidad e indus-
que permita diseñar conjuntamente soluciones tria, impulsando con ello una economía más
de inteligencia artificial a problemas intergu- verde.
bernamental e intersectorialmente complejos,
como las migraciones masivas, los derivados
del cambio climático, la pobreza o el envejeci-
miento de la población.

Es necesario que se permita y se implemente

la creación de entornos controlados y seguros
para experimentar (sandboxes), con un mayor
alcance y complejidad; es decir, no solo para la
prueba de nuevos vehículos y nuevas estrate-
gias de movilidad, sino también para testear
nuevos sistemas de sensorización y la valida-
ción de predicciones de modelización basadas
en inteligencia artificial.

66
 INTELIGENCIA ARTIFICIAL

Recomendaciones para las empresas:

Desde el campo de la ética, el sector empresa- Dada la influencia de la inteligencia artificial

rial debe establecer mecanismos robustos de en la creación y propagación de desinforma-
ciberseguridad que permitan proteger la inte- ción, las empresas tendrían que implementar
gridad de las bases de datos evitando las fugas herramientas de verificación de información y
de estos o el hackeo. Al mismo tiempo, tienen escucha social, como el sistema MsW (misin-
que tratar de garantizar que una representación formation widget), para proteger su reputación.
de los interesados y usuarios participa en las Estas herramientas ayudan a identificar y
distintas fases del ciclo de vida del proyecto gestionar posibles riesgos de desinformación
(del diseño a la implantación) mediante me- que puedan impactar en la percepción de sus
todologías específicas: grupos de discusión, bienes y servicios. Las empresas deben priori-
cocreación, metodología DELPHI, etc. El sector zar la transparencia en la recolección y el uso
privado ha de documentar todos los pasos de de datos personales, asegurando que los con-
diseño y evaluación para facilitar la auditoría sumidores entiendan cómo se emplea la inte-
de los sistemas, de modo que se puedan de- ligencia artificial en sus productos. Asimismo,
tectar con mayor facilidad los sesgos que se es posible utilizar herramientas de inteligencia
hayan podido introducir y facilitar la rendición artificial predictiva para anticipar cambios en
de cuentas. el mercado o gestionar riesgos, gracias a la
funcionalidad de estos modelos para ayudar a
las empresas a tomar decisiones estratégicas
En el ámbito de la educación, el sector indus- basadas en tendencias futuras, optimizando así
trial debe construir herramientas de aprendiza- los recursos y mejorando la resiliencia.
je adaptativo y colaborativo de bajo coste y alta
calidad. El retorno económico de estas herra-
mientas podría producirse a partir de su uso en En relación con la sostenibilidad, el sector em-
entornos empresariales en los que se requiera presarial debe establecer fines alineados con
formación continua para sus trabajadores o el los Objetivos de Desarrollo Sostenible y evaluar
ámbito de la educación a lo largo de la vida. El el impacto de la integración de soluciones de
uso de estas herramientas en el sector de la inteligencia artificial en aspectos como, por
educación obligatoria debería beneficiarse de ejemplo, la eficiencia energética, la reducción
una reducción del precio en su suscripción, o de residuos, la gestión responsable de recursos,
ser gratuita, para que su uso fuera asumible por etc. También ha de considerar el impacto de la
parte de las Administraciones públicas. integración de esta tecnología en la automa-
tización de los procesos y la repercusión en el
empleo, buscando formas de capacitación y

SCIENCE POLICY 67
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

reubicación de los empleados. El objetivo tiene tal y social de las soluciones de inteligencia
que ser integrar los principios de la industria artificial y publicar informes de sostenibilidad
5.0, que se centran en la colaboración estrecha, que muestren el compromiso de la compañía,
cotidiana y eficiente entre las personas y la fomentando con ello la confianza y el respal-
inteligencia artificial, incluyendo máquinas/ do de los consumidores y socios comerciales.
robots inteligentes. Por último, las empresas Finalmente, el etiquetado de los productos de-
deben perseguir la creación de servicios de mo- bería incluir información sobre las estrategias
nitorización que fomenten el consumo respon- de sostenibilidad empleadas, lo cual construiría
sable. Para ello, hay que implementar métricas una imagen de marca responsable.
específicas de evaluación del impacto ambien-

Recomendaciones a la sociedad:

La ética es un elemento central en el desarrollo En relación con la educación y el sistema

de las herramientas de inteligencia artificial. educativo, es conveniente preparar materiales
Es necesario promover la formación y sensi- informativos sobre el uso de la inteligencia
bilización de la sociedad sobre el potencial de artificial que se pongan a disposición de los
los datos y esta tecnología para generar valor padres y las madres de los alumnos. Estos ma-
económico y social, destacando los ejemplos teriales deberán dar una visión ponderada de
de éxito en este sentido y comunicando interna los posibles beneficios y riesgos que el uso de
y externamente los principios y buenas prác- esta tecnología en las aulas y en casa pueda
ticas que aquí se recogen. También es preciso representar.
favorecer el uso de hardware y software soste-
nibles y eficientes energéticamente (algoritmos
verdes), así como la reutilización de materiales
y dispositivos electrónicos, una cultura de
reparación y la priorización de las energías
renovables en los procesos de digitalización
(economía digital circular).

68
 INTELIGENCIA ARTIFICIAL

De cara a la sociedad en su conjunto, han de de- Por último, la sociedad también debe tener un
sarrollarse habilidades de alfabetización digital. papel activo y de movilización, alzando la voz y
Es fundamental que los ciudadanos aprendan exigiendo a todos los actores la integración de
a identificar información falsa o manipulada, soluciones de inteligencia artificial que gestio-
entendiendo los riesgos del desorden de la in- nen redes inteligentes para aprovechar mejor
formación. Ello implica capacitarse en el uso la energía renovable, los servicios públicos o
de herramientas básicas de verificación de la movilidad. En el ámbito de los hogares y co-
datos y en técnicas de evaluación de fuentes, munitario, es preciso fomentar el autoconsumo
especialmente en temas críticos como salud inteligente a través de una gestión eficiente con
pública y la seguridad; la educación en estas este tipo de soluciones. En el ámbito de la mo-
competencias ayudará a reducir el impacto de vilidad, es necesario apostar por el transporte
la desinformación en la sociedad. Asimismo, público inteligente, así como por el uso de vehí-
es necesario participar activamente en pro- culos eléctricos y compartidos o el transporte
cesos de democracia digital. La sociedad debe multimodal sostenible, apoyando políticas y
aprovechar las plataformas de participación servicios que fomenten y faciliten el uso de
ciudadana habilitadas por la inteligencia artifi- estas modalidades de movilidad.
cial, como los presupuestos participativos, para
expresar sus opiniones y contribuir a la toma
de decisiones en temas de interés público. Una
mayor participación fortalecerá la represen-
tatividad en las decisiones gubernamentales
y fomentará la adopción de tecnologías que
respeten los valores y las preferencias de la
comunidad.

SCIENCE POLICY 69
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

cuatro

Listado de centros

70
 INTELIGENCIA ARTIFICIAL

CENTRO PÁGINA WEB CORREO ELECTRÓNICO

Centro de Automática
[Link]/ [Link]@[Link]
y Robótica (CAR, UPM-CSIC)

Centro ce Ciencias Humanas

[Link]/ [Link]@[Link]
y Sociales (CCHS, CSIC)

Instituto de Análisis Económico

[Link]/ [Link]@[Link]
(IAE, CSIC)

Instituto de Filosofía (IFS, CSIC) [Link]/ [Link]@[Link]

Instituto de Física Interdisciplinar

y Sistemas Complejos [Link]/ [Link]@[Link]
(IFISC, UIB-CSIC)

Instituto de Geociencias
[Link]/ [Link]@[Link]
(IGEO, UCM-CSIC)

Instituto de Investigación en
[Link]/ [Link]@[Link]
Inteligencia Artificial (IIIA, CSIC)

Instituto de Políticas y Bienes

[Link]/ [Link]@[Link]
Públicos (IPP, CSIC)

Instituto de Robótica e Informática

Industrial [Link]/ [Link]@[Link]
(IRII, CSIC-UPC)
Instituto de Tecnologías Físicas y
de la Información Leonardo Torres [Link]/es [Link]@[Link]
Quevedo (ITEFI, CSIC)

SCIENCE POLICY 71
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

cinco

Para saber más

72
 INTELIGENCIA ARTIFICIAL

A/74/493: Digital welfare states and human rights - Report of the Special
Rapporteur on extreme poverty and human rights. (s. f.). OHCHR. Recuperado
17 de diciembre de 2024, de [Link]
reports/a74493-digital-welfare-states-and-human-rights-report-special-
rapporteur

UNESCO, & International Conference on Artificial Intelligence and Education,

P. E. in the A. E. L. the L. (2019). Beijing Consensus on Artificial Intelligence and
Education. [Link]

CSIC Comunicación (Director). (2023, octubre 30). CSIC Cicerón 6.6 Robótica
e inteligencia artificial sostenibles [Video]. [Link]
watch?v=p0tGxOUESqQ

Esteban, A. B., Ramasco, J. J., Mazzoli, M., & Colet, P. (2019, octubre 7). ¿Cómo
gravita usted al trabajo? The Conversation. [Link]
gravita-usted-al-trabajo-123427

Foro contra las campañas de desinformación en al ámbito de la Seguridad

Nacional | Sitio oficial del Departamento de Seguridad Nacional. (s. f.).
Recuperado 17 de diciembre de 2024, de [Link]

Matti, C., Jensen, K., Bontoux, L., Goran, P., Pistocchi, A., & Salvi, M. (2023). Towards
a fair and sustainable Europe 2050: Social and economic choices in sustainability
transitions. JRC Publications Repository. [Link]

Villagrá, J. Hacia un sistema de decisión intuitivo en los vehículos

automatizados. Revista Técnica de la Asociación Española de Carretera. (s.
f.). Recuperado 17 de diciembre de 2024, de [Link]
com/2019/03/05/hacia-un-sistema-de-decision-intuitivo-en-los-vehiculos-
automatizados-jorge-villagra/

SCIENCE POLICY 73
 CIENCIA PARA LAS POLÍTICAS PÚBLICAS

Ciencia para
las Políticas
Públicas

Informe de transferencia
de conocimiento

74