La inteligencia artificial (IA) es una expresión técnica referida a

artefactos empleados para detectar contextos o llevar a cabo

acciones en respuesta a contextos detectados. Nuestra
capacidad de construir dichos artefactos ha aumentado y, con
ello, el impacto que tienen en nuestra sociedad. Este capítulo
empieza documentando los cambios sociales y económicos
propiciados por nuestro uso de la IA en particular, pero no
exclusivamente en la década transcurrida desde la aparición de
los teléfonos inteligentes (2007), que contribuyen de manera
sustancial a los macrodatos y, por tanto, a la eficacia del
aprendizaje de las máquinas. A continuación esboza los desafíos
políticos, económicos y personales que esperan a la humanidad
en el futuro inmediato y propone políticas regulatorias. En
líneas generales, la IA no es una tecnología tan inusual como se
esperaba, y precisamente por esa razón los desafíos que plantea
pueden ser más apremiantes. En concreto, la identidad y la
autonomía tanto de individuos como de naciones están
amenazadas por el creciente acceso al conocimiento.
INTRODUCCIÓN

En la última década, y en especial en los últimos años, la inteligencia artificial (IA)

se ha transformado; no tanto respecto a lo que podemos hacer con ella sino en lo
que hacemos. Para algunos, esta fase se inició en 2007 con la llegada de los
teléfonos inteligentes. Como explicaré a continuación, en realidad la inteligencia
es solo inteligencia, ya sea animal o artificial. Se trata de una forma de
computación y, como tal, de transformación de la información. La abundancia de
información personal, resultado de la vinculación voluntaria de una parte ingente
de la sociedad a internet, nos ha permitido trasladar un gran caudal de
conocimiento explícito e implícito de la cultura humana obtenido por medio de
cerebros humanos a formato digital. Una vez ahí, podemos utilizarlo no solo para
funcionar con una competencia propia de humanos, también para generar más
conocimiento y acciones mediante la computación automatizada.
Durante décadas, incluso antes de la creación del término, la IA suscitó tanto
miedo como interés, cuando la humanidad contemplaba la posibilidad de crear
máquinas a su imagen y semejanza. La expectativa de que los
artefactos inteligentes tenían que ser, necesariamente, humanoides nos ha
distraído de un hecho importante: hace ya algún tiempo que hemos logrado la IA.
Los avances de la IA a la hora de superar la capacidad humana en actividades
como el ajedrez (Hsu, 2002), el juego del Go (Silver et al., 2016) y la traducción
(Wu et al., 2016) llegan ahora a los titulares, pero la IA está presente en la
industria desde, al menos, la década de 1980. Por entonces los sistemas de
normas de producción o sistemas «expertos» se convirtieron en la tecnología
estándar para comprobar circuitos impresos y detectar el fraude con tarjetas de
créditos (Liao, 2005). De modo similar, hace tiempo que se emplean estrategias
de aprendizaje automático (AA), como los algoritmos genéticos, para problemas
computacionales de muy difícil resolución, como la planificación de sistemas
operativos informáticos y redes neuronales, para modelizar y comprender el
aprendizaje humano, pero también para tareas básicas de control y supervisión
básicos en la industria (Widrow et al., 1994). Durante la década de 1990, los
métodos probabilísticos y bayesianos revolucionaron el AA y sentaron las bases
de algunas de las tecnologías de IA predominantes hoy: por ejemplo, la búsqueda
a través de grandes masas de datos (Bishop, 1995). Esta capacidad de búsqueda
incluía la posibilidad de hacer análisis semánticos de textos en bruto que
permiten a los usuarios de la red encontrar los documentos que buscan entre
billones de páginas web con solo escribir unas cuantas palabras (Lowe, 2001;
Bullinaria y Levy, 2007).

Los avances de la IA a la hora de superar la

capacidad humana en ciertas actividades llegan
ahora a los titulares, pero la IA está presente en la
industria desde, al menos, la década de 1980
Esta capacidad de descubrimiento de la IA se ha ampliado no solo por el
incremento masivo de los datos digitales y la capacidad de computación, también
por las innovaciones en los algoritmos de IA y AA. Hoy buscamos fotografías,
vídeos y audio (Barrett et al., 2016; Wu et al., 2016). Podemos traducir, trascribir,
leer labios, interpretar emociones (incluidas las mentiras), falsificar firmas y
otros tipos de escritura manual y manipular vídeos (Assael et al., 2016; Eyben et
al., 2013; Deng et al., 2017; Haines et al., 2016; Reed et al., 2016; Vincent, 2016;
Hancock et al., 2007; Chung y Zisserman, 2017; Schuller et al., 2016; Sartori et al.,
2016; Thies et al., 2016). Podemos —y esto es crucial—falsificar audios o vídeos
durante retransmisiones en directo, lo que nos permite elegir las palabras de las
que serán «testigos» millones de personas, sobre todo en el caso de famosos,
como los políticos, sobre los que ya existe gran cantidad de datos para componer
modelos precisos (Thies et al., 2016; Suwajanakorn et al., 2017). Mientras
escribía este capítulo se acumulaban pruebas crecientes de que los resultados
tanto de las elecciones presidenciales estadounidenses de 2016 y el referéndum
sobre la salida de la Unión Europea de Reino Unido (el famoso Brexit) habían
sido alterados por la detección mediante IA y el direccionamiento de mensajes
hacia votantes indecisos a través de las redes sociales (Cadwalladr, 2017a,
2017b; ICO, 2018), por no mencionar las herramientas mejoradas mediante IA
que se emplean en ciberataques (Brundage et al., 2018). La IA ya está aquí, a
nuestra disposición y nos beneficia a todos. Sin embargo, sus consecuencias para
nuestro orden social no se entienden y, además, hasta hace poco apenas eran
objeto de estudio (Bryson, 2015). Pero también hoy, gracias a los avances en la
robótica, la IA está entrando en nuestro espacio físico en forma de vehículos,
armas, drones y dispositivos domésticos autónomos, incluidos los «altavoces
inteligentes» (micrófonos en realidad) e incluso consolas de videojuegos (Jia et
al., 2016). Cada vez estamos más rodeados —integrados incluso— de
percepciones, análisis y (cada vez más) acciones automatizadas generalizadas.

Un
hombre observa un software que analiza los movimientos humanos en el estand de la
compañia de IA Horizon Robotics durante la feria Scurity China, en Pekin, octubre de 2018
¿Cuáles han sido y serán los efectos de la IA generalizada? ¿Cómo puede una
sociedad regular la influencia de la tecnología en nuestras vidas? En este capítulo
empiezo presentando un conjunto claro y conciso de definiciones de los términos
relevantes. Acto seguido, analizo las preocupaciones que suscita la tecnología y
algunas soluciones propuestas. Por último, formulo varias recomendaciones
resultado de mis estudios —cuya eficacia está por probar— sobre el valor de las
vidas humanas individuales en un contexto en que las capacidades individuales
humanas corren un riesgo cada vez mayor de verse desplazadas por la
automatización.

DEFINICIONES

Las definiciones siguientes no son de uso universal, pero proceden de un texto

clásico sobre IA (Winston, 1984), así como del estudio de la inteligencia biológica
(Barrows, 2000, atribuido a Romanes, 1883). Su elección se basa en su claridad
expositiva, al menos en relación con este capítulo, sobre los efectos actuales y
potenciales de la inteligencia, en especial en las máquinas. La inteligencia es la
capacidad de hacer lo correcto en el momento correcto, en un contexto en que no
hacer nada (no cambiar de comportamiento) sería peor. Por lo tanto, la
inteligencia requiere:

—capacidad de percibir contextos de acción,

—capacidad de actuar y

—capacidad de asociar determinados contextos a determinadas acciones.

De acuerdo con esta definición, las plantas son inteligentes (Trewavas, 2005), y
también un termostato (McCarthy, 1983; Touretzky, 1988). Todos ellos pueden
percibir el contexto y responder a él, por ejemplo, las plantas reaccionan a la
dirección de la luz y los termostatos a la temperatura. A continuación
clasificamos un sistema como cognitivo si es capaz de modificar su inteligencia,
cosa que las plantas y los termostatos (al menos, los mecánicos) no pueden hacer.
Los sistemas cognitivos pueden aprender nuevos contextos y acciones y/o
asociaciones entre los primeros y las segundas. Ya estamos más cerca de la
definición convencional de «inteligente».
Presentación del dispositivo de GoPro durante el congreso de desarrolladores I/O en San
Francisco, en mayo de 2015. Este dispositivo incorpora 16 cámaras y usado con el software
Jump, de Google, proporciona visión de 360 grados
La inteligencia, tal como defino aquí, es un subconjunto estricto de
la computación, es decir, de transformación de la información. Hay que tener en
cuenta que la computación es un proceso físico, no matemático: requiere tiempo,
espacio y energía. La inteligencia es el subconjunto de la computación que
transforma un contexto en acción.

Inteligencia artificial (IA), por convención, es un término empleado para

describir artefactos (normalmente digitales) que amplían alguna de las
capacidades relacionadas con la inteligencia natural. Así, los sistemas
automáticos de visión, el reconocimiento de voz, el reconocimiento de patrones y
los sistemas de producción fija (es decir, que no aprenden) se consideran
ejemplos de IA y sus algoritmos están explicados en los libros de texto sobre esta
materia (Russell y Norvig, 2009). En todos los casos, también se pueden
considerar formas de computación, aunque lo que produzcan no constituya una
acción en un sentido convencional. Con todo, si aceptamos el concepto de
robótica aplicada al cuerpo (ver más adelante), podríamos ampliar esta
definición hasta considerar IA cualquier artefacto que amplíe nuestras
capacidades de percepción y acción. Sería una definición inusual, pero nos
facilitaría entender mejor la naturaleza de los cambios que la IA trae a nuestra
sociedad, al permitirnos examinar un historial de intervenciones tecnológicas
más dilatado.
El término aprendizaje automático (AA) designa cualquier medio de
programación de IA que requiera no solo una codificación manual, también un
componente de generalización automatizada de los datos presentados por medio
de la acumulación de estadísticas sobre ellos (Murphy, 2012; Erickson et al.,
2017). A menudo, aunque no siempre, el AA se limita a buscar regularidades en
los datos asociadas a categorías de interés, lo que incluye oportunidades
apropiadas para determinadas acciones. Asimismo, el AA se usa con frecuencia
para deducir asociaciones y también para adquirir nuevas competencias de
acción; por ejemplo, a partir de la demostración (Huang et al., 2016).

La inteligencia es un subconjunto estricto de

la computación, es decir, de transformación de la
información. Hay que tener en cuenta que la
computación es un proceso físico, no matemático:
requiere tiempo, espacio y energía. La inteligencia
es el subconjunto de la computación que
transforma un contexto en acción
Debemos tener en cuenta que todo AA implica un componente programado
manualmente. La mera conceptualización o descubrimiento de un algoritmo
nunca conduce a la aparición espontánea de una máquina capaz de sentir o
actuar. Por definición, toda IA es un artefacto, resultado de acciones humanas
deliberadas. Para que haya aprendizaje, se debe construir primero algo diseñado
para conectar una fuente de datos a una representación. Todos los sistemas
inteligentes tienen una arquitectura, una configuración del flujo de energía e
información, y casi todos incluyen emplazamientos donde se retiene la
información llamados memoria. El diseño de esta arquitectura se
denomina ingeniería de sistemas; esta es la fase en que se debe comprobar la
seguridad y la validez de un sistema. En contra de algunas afirmaciones
estrafalarias, pero inquietantemente frecuentes, la seguridad de la IA no es un
campo de estudio nuevo. De hecho, la ingeniería de sistemas es anterior a los
ordenadores (Schlager, 1956) y siempre ha sido un componente principal de la
enseñanza de ciencias informáticas. La integración de la IA en el software se
remonta mucho tiempo atrás, tal como he documentado en la introducción, de
modo que cuenta con una larga trayectoria de seguridad en su diseño (por
ejemplo, Bryson, 2003; Chessell y Smith, 2013).
Los robots son artefactos que sienten y actúan en el mundo físico y en tiempo
real. De acuerdo con esta definición, un teléfono inteligente es un robot
(doméstico). Además de micrófonos, cuenta con varios tipos de sensores
propioceptivos que le permiten saber cuándo su orientación está cambiando o
desapareciendo. Su rango de tareas abarca la interacción con su usuario y la
transmisión de información, instrucciones incluidas, a otros dispositivos. Lo
mismo se puede decir de algunas consolas de videojuegos y de los asistentes
digitales domésticos: los «altavoces inteligentes» o micrófonos, como Google
Home; Echo, de Amazon (Alexa), o Cortana, de Microsoft.

La seguridad de la IA no es un campo de estudio

nuevo. De hecho, la ingeniería de sistemas es
anterior a los ordenadores y siempre ha sido un
componente principal de la enseñanza de ciencias
informáticas
En términos técnicos, la autonomía es la capacidad de actuar como un individuo
(Armstrong y Read, 1995; Cooke, 1999). Por ejemplo, un país pierde su
autonomía bien si sus instituciones se desmoronan de manera que solo las
acciones individuales de sus ciudadanos son eficaces, bien si sus instituciones
están tan influidas por otros actores o gobiernos que no pueden determinar el
rumbo del país por sí solas. Huelga decir que ambos extremos son muy inusuales.
De hecho, entre animales sociales como los humanos, la autonomía nunca es
absoluta (Gilbert et al., 2012). Nuestra inteligencia individual determina muchas
de nuestras acciones, pero algunas células pueden volverse cancerosas y atender
a sus propios objetivos en detrimento de nuestro bienestar general (Hanahan y
Weinberg, 2011). De un modo similar, entendemos que una familia, un lugar de
trabajo o un gobierno influyan en nuestras acciones. También estamos sujetos a
una influencia social muy superior de la que llegamos a ser conscientes (Devos y
Banaji, 2003). Sin embargo se nos considera autónomos porque, en cierta
medida, nuestra inteligencia individual también influye en nuestro
comportamiento. Por consiguiente, un sistema técnico capaz de sentir el mundo y
seleccionar una acción específica para el contexto en que se encuentre se
denomina «autónomo» pese a que, en última instancia, sus acciones estén
determinadas por los diseñadores que desarrollaron su inteligencia y los que lo
operan. Los operarios pueden influir en la IA en directo y lo harán, de hecho, de
antemano, al configurar los parámetros de su funcionamiento, lo que incluye
cuándo y dónde funciona, si es que lo hace. Así pues, los diseñadores crean el
sistema y determinan sus capacidades; en especial, a qué información puede
acceder y qué acciones puede efectuar. E incluso si un diseñador decide
introducir un componente de azar en sistema de IA, como la dependencia del
entorno en que se encuentre o un generador de números aleatorios, dicha
inclusión no deja de ser una elección deliberada.

PREOCUPACIONES SOBRE LA IA Y LA SOCIEDAD

La IA es fundamental para algunas de las empresas con más éxito de la historia

en términos de capitalización del mercado: Apple, Alphabet, Microsoft y Amazon.
Junto a la tecnología de la información y la comunicación (TIC) en general, la IA
ha revolucionado el acceso de personas de todo el mundo al conocimiento, el
crédito y otras ventajas de la sociedad global contemporánea. Dicho acceso ha
contribuido a una reducción masiva de la desigualdad mundial y la pobreza
extrema, por ejemplo, al permitir que los granjeros conozcan los precios justos y
los cultivos más rentables y darles acceso a predicciones meteorológicas precisas
(Aker y Mbiti, 2010).

La IA se beneficia de décadas de política regulatoria: hasta ahora su despliegue e

investigación ha sido en gran medida objeto de una regulación creciente y de una
inversión masiva por parte del gobierno y otros inversores de capital (Brundage
y Bryson, 2017; Miguel y Casado, 2016; Technology Council Committee on
Technology, 2016). Pese a que buena parte de la atención de apartados
posteriores del presente capítulo se centra en los posibles motivos o mecanismos
de la restricción normativa de la IA, hay que subrayar que:

1. Cualquier política de IA debería ser desarrollada e implementada teniendo

en cuenta la importancia de respetar también los impactos positivos de la
tecnología.2
2. Nadie habla de introducir nueva regulación para la IA, puesto que la IA ya
se integra en un marco regulatorio (Brundage y Bryson, 2017; O’Reilly,
2017). Lo que se debate es si se debe optimizar dicho marco.
3. Hasta el momento y en su mayor parte, la regulación ha sido constructiva,
de modo que los gobiernos proporcionaban enormes recursos a las
empresas y universidades que desarrollaban la IA. Incluso unas
restricciones regulatorias fundamentadas y bien diseñadas pueden
conducir a un crecimiento más sostenible e, incluso, más rápido.

Dicho esto, académicos, tecnólogos y el público en general han planteado varias

preocupaciones que podrían apuntar a una necesidad de subregulación o
restricciones específicas. Smith (2018), presidente de Microsoft, afirmaba hace
poco:
La tecnología [inteligente]3 plantea cuestiones que apelan a la protección de
derechos humanos fundamentales, como el derecho a la privacidad o a la libertad
de expresión. Estas cuestiones aumentan la responsabilidad de las empresas
tecnológicas que crean dichos productos. En mi opinión, también reclaman una
regulación gubernamental razonada y el desarrollo de normas sobre los usos
aceptables. En una república democrática, nada puede reemplazar la toma de
decisiones por parte de nuestros representantes electos ante las cuestiones que
requieran de encontrar un equilibrio entre la seguridad pública y la esencia de
nuestras libertades democráticas.

En este apartado clasifico los riesgos percibidos en función de los

requererimientos de políticas que pueden generar. Asimismo, analizo si se trata
de falsos problemas, problemas de TIC o de la tecnología más generales o
problemas específicos de la IA y, en cada caso, propongo un posible remedio.

La inteligencia artificial general y la superinteligencia

Empezaré analizando algunas de las afirmaciones más sensacionalistas: «Cuando
la inteligencia artificial se desarrolle hasta el punto de superar las capacidades
humanas, podría llegar a tomar el control de nuestros recursos y superar a
nuestra especie, lo que conduciría a la extinción de la humanidad». Como he
mencionado en el apartado 1, la IA es ya sobrehumana en muchos ámbitos. Las
máquinas ya nos permiten calcular mejor, jugar mejor al ajedrez y al Go,
transcribir mejor el habla, leer mejor los labios, recordar más cosas y durante
más tiempo e, incluso, ser más rápidos y más fuertes. Pese a que dichas
capacidades han sido disruptivas para las vidas humanas en facetas como el
mercado laboral (ver a continuación), en ningún caso han dotado a las máquinas
de ambición.

Para algunos, la falta de ambición de las máquinas o su incapacidad de

dominarnos se deben a que las formas de IA producidas hasta ahora no son lo
bastante generales. La expresión inteligencia artificial general (IAG) se emplea
para designar dos cosas distintas: (a) una IA capaz de aprenderlo todo y sin
límites y (b) una IA parecida a la humana. Estos dos significados de la IAG suelen
mezclarse, lo cual es incoherente, dado que la inteligencia humana adolece de
limitaciones importantes. Comprender las limitaciones de la inteligencia humana
es instructivo, puesto que también están relacionadas con los límites de la IA.

Las limitaciones de la inteligencia humana tienen dos causas: la combinatoria y el

sesgo. La primera, la combinatoria, es un problema universal que afecta a toda la
computación y, por lo tanto, a toda la inteligencia natural y artificial (Sipser,
2005). Si un agente es capaz de llevar a cabo 100 acciones, entonces es capaz de
preparar 10.000 planes de dos fases. Dado que los humanos tienen capacidad de
llevar a cabo más de 100 acciones diferentes y efectúan más de dos incluso en un
solo día, queda claro que el espacio de las estrategias posibles es de una
enormidad inabarcable y de difícil conquista, con independencia de la magnitud
de la inteligencia que lo intente (Wolpert, 1996b).

No obstante, la ciencia informática ha demostrado que algunas formas de

explorar estos espacios inabarcables son más eficaces que otras; al menos, con
determinados objetivos (Wolpert, 1996a). En lo relativo a la inteligencia, la
búsqueda concurrente y simultánea por muchos procesadores puede resultar
eficaz siempre que se pueda dividir el espacio del problema y la solución, una vez
encontrada, se pueda reconocer y también comunicar (Grama, 2003). La razón
por la cual la tecnología humana es mucho más avanzada que la de otras especies
radica en que somos mucho más eficaces en esta estrategia de búsqueda
concurrente, gracias a nuestra capacidad única para compartir avances o
«trucos» mediante el lenguaje (Dennett, 2013; Bryson, 2008, 2015; Van Schaik et
al., 2017). El creciente ritmo de transformación de nuestra cultura se debe, en
parte, a la abundancia sin precedentes de personas con buen nivel educativo y de
salud y conectadas mediante TIC, pero también a la mejora de nuestras
búsquedas gracias a la computación automática. Nuestras crecientes capacidades
en IA y en computación más general incrementan nuestro potencial de
exploración; la computación cuántica podría acelerar todavía más este proceso
(Williams, 2010). Sin embargo, estas ventajas no son gratuitas. Efectuar dos
cómputos a la vez puede duplicar la velocidad de computación si la tarea es
perfectamente divisible, pero sin duda duplica también la cantidad de espacio y
energía necesarios. La computación cuántica es concurrente en el espacio y
también en el tiempo, pero sus costes en energía son todavía desconocidos y,
muy probablemente, desorbitados.

El creciente ritmo de transformación de nuestra

cultura se debe a la abundancia de personas con
buen nivel educativo y de salud y conectadas
mediante TIC, pero también a la mejora de nuestras
búsquedas gracias a la computación automática
Gran parte del inmenso crecimiento de la IA en los últimos tiempos se ha debido
a la mejora en «minería» de datos mediante AA de los descubrimientos ya
existentes, tanto de la humanidad como de la naturaleza en general (Caliskan et
al., 2017; Moeslund y Granum, 2001; Calinon et al., 2010). Los resultados de
parte de nuestra computación anterior se almacenan en nuestra cultura y la
evolución biológica también se puede interpretar como una búsqueda paralela
masiva cuyos resultados se acumulan de un modo muy ineficiente, con una
velocidad limitada a la capacidad de reproducción de los mejores genes. Cabe
esperar que esta estrategia de minería de soluciones pasadas no tarde en
estancarse, cuando la inteligencia artificial y la natural lleguen a compartir la
frontera (la misma, pero todavía en expansión) del conocimiento existente.

La segunda fuente de limitaciones para la inteligencia humana, que antes

denominé «sesgo», es específica de nuestra especie. Dados los problemas de
combinatoria, cada especie explora solo un pequeño subconjunto de soluciones
posibles, una especialización que en AA se denomina sesgo. La naturaleza precisa
de cualquier inteligencia biológica forma parte de su nicho evolutivo, que rara
vez será compartido con otras especies biológicas, más allá de que tengan
necesidades y estrategias de supervivencia similares (Laland et al., 2000). Por lo
tanto, compartimos muchos de nuestros atributos cognitivos, como la capacidad
de percepción y acción y, lo que es muy importante, las motivaciones, con otros
simios. Pero también tenemos motivaciones y capacidades específicas que
reflejan nuestra naturaleza altamente social (Stoddart, 1990). No hay
inteligencia, de la magnitud que sea, que lleve consigo una necesidad intrínseca
de competitividad social ni que imponga el deseo de ser aceptado por el grupo al
que pertenece, dominar un grupo ajeno o lograr el reconocimiento dentro del
propio. Estas son motivaciones subyacentes en la cooperación y la competición
humanas resultado de nuestra historia evolutiva (Mace, 1998; Lamba y Mace,
2012; Jordan et al., 2016; Bryson et al., 2017); además, incluso cambian de una
persona a otra (Herrmann et al., 2008; Van Lange et al., 1997; Sylwester et al.,
2017). Para los humanos, las organizaciones sociales que varían como respuesta
a a un contexto político y económico constituyen un mecanismo de supervivencia
importante (Stewart et al., 2018).

Desde la perspectiva de un artefacto, nada de esto es necesario; es más, puede

resultar hasta incoherente. Los artefactos los diseñan los humanos, no son
producto de la evolución. Estos actos intencionados de creación con autoría
humana4 no solo comportan una responsabilidad humana, también un paisaje
por entero distinto de recompensas potenciales y limitaciones de diseño
(Bryson et al., 2017; Bryson, 2018).

Teniendo en cuenta todo lo anterior, la IAG es, obviamente, un mito; de hecho,

dos mitos ortogonales:
 1. Por vasta que sea, ninguna inteligencia natural o artificial será capaz de
resolver todos los problemas.
2. Es muy poco probable que, incluso si es extremadamente potente, una IA
se parezca demasiado a la inteligencia humana, porque encarnará un
conjunto por completo distinto de motivaciones y funciones de
recompensa.

Estos razonamientos no nos protegen de otro problema

relacionado. Superinteligencia es un término que describe la situación en que un
sistema cognitivo no solo aprende, sino que aprende cómo aprender. Una vez
más, surgen dos cuestiones. En primer lugar, una inteligencia debería ser capaz
de crecer rápidamente, a modo de bola de nieve, hasta dejar de ser
comprehensible para el análisis humano convencional. En segundo, aunque dicha
inteligencia fuera diseñada de modo que tuviera objetivos que coincidieran con
las necesidades humanas, podría desarrollar por sí misma unos objetivos
imprevistos incompatibles con estas. Por ejemplo, un robot que juega al ajedrez
podría aprender a disparar a unas personas que lo privan de los recursos
suficientes para mejorar su juego porque lo apagan de noche; o un robot
archivador podría convertir el planeta entero en clips para asegurarse de que
todos los papeles potencialmente existentes se puedan ordenar de forma
adecuada (Bostrom, 2012).

Estos dos ejemplos resultan ridículos si recordamos que todos los sistemas de IA
están diseñados bajo la responsabilidad humana. Nadie ha creado nunca un
programa de ajedrez con información sobre recursos ajenos al tablero de juego
(con la posible excepción del tiempo), ni con la capacidad de disparar un arma de
fuego. La elección de la capacidad y los componentes de un sistema informático
también forma parte de su arquitectura. Como ya he dicho, la ingeniería de
sistemas de una arquitectura constituye un componente importante para la
seguridad de la IA existente y, como explicaré más adelante (apartado 4.3),
también puede ser un medio importante de regular la IA.

Pero el concepto de superinteligencia no es ridículo en sí mismo: no hay duda de

que los sistemas que aprenden a aprender pueden tener un crecimiento
exponencial y, de hecho, lo hacen. El error que cometen los agoreros de la
superinteligencia radica en pensar que esta situación es solo uno de los futuros
posibles. De hecho, se trata de una excelente descripción de la cultura humana de
los últimos 10.000 años, desde la invención de la escritura (Barnosky, 2008;
Haberl et al., 2007). La potenciación de la inteligencia humana mediante la
tecnología ha desembocado, en realidad, en un sistema que no se ha diseñado con
cuidado y que genera efectos no deseados. Algunos de dichos efectos son muy
peligrosos, como el calentamiento del planeta y la reducción de la diversidad de
las especies. List y Pettit (2011) exponen un argumento similar cuando califican
de «IA» organizaciones humanas como las grandes corporaciones o los
gobiernos.

Retomaré la cuestión de la importancia de la arquitectura y el diseño, pero vale la

pena resaltar una vez más la necesidad de que existan sesgos y límites. Los
robots hacen especialmente evidente que el comportamiento no solo depende de
la capacidad de computación, también de otros atributos del sistema, como las
capacidades físicas. La manipulación digital, como la mecanografía o tocar la
flauta, está fuera del alcance tanto de un teléfono inteligente como de una
serpiente, por inteligentes que sean. Con las motivaciones sucede lo mismo: a
menos que diseñemos un sistema con objetivos antropomórficos, percepción
social y capacidades de comportamiento social, no aprenderá a producir un
comportamiento social antropomórfico, como el intento de dominar la
conversación, una empresa o un país. Si hay grandes corporaciones que
demuestran estas características, son la expresión de las personas que la
integran y también la manera indisciplinada y descontrolada en la que han
crecido y adquirido poder. De modo que es posible que un sistema de IA (por lo
menos según la definición de List y Pettit [2011]) manifieste superinteligencia, y
habría que desarrollar por tanto regulaciones que lo eviten.

A partir de lo expuesto concluyo que el problema de la superinteligencia es real

pero no específico de la IA; por el contrario, es un problema al que ya se
enfrentan nuestras culturas. La IA es hoy un factor que contribuye a nuestra
capacidad de sobresalir, pero también podría conducirnos a aprender cómo
autorregularnos mejor (es decir, gobernarnos), como ha hecho varias veces en el
pasado (Milanovic, 2016; Scheidel, 2017). Por otra parte, aunque la IAG fuera una
realidad y la metáfora biológica de la IA y la selección natural tuviera
fundamentos sólidos, no habría razones para creer que la IA vaya a provocar
nuestra extinción. Nosotros no hemos provocado la extinción de las múltiples
especies (en especial, microbianas) de las que dependemos directamente.
Reflexionar sobre las consecuencias no deseadas de un crecimiento exponencial
de la inteligencia de todo nuestro sistema sociotécnico (en lugar de solo de la IA),
sin embargo, suscita preocupaciones más sustanciales.

Desigualdad y empleo
Durante siglos, la sustitución de los trabajadores por medio de la tecnología ha
suscitado temores de gran relevancia (Autor, 2015). No cabe duda de que las
nuevas tecnologías cambian las sociedades, las familias y las vidas, pero tampoco
de que, históricamente, la mayor parte de ese cambio ha sido positivo (Pinker,
2012). En general, la esperanza de vida es mayor y la mortalidad infantil es más
baja que nunca; se trata de buenos indicadores de la satisfacción de los humanos,
dado que la baja mortalidad infantil está muy relacionada con la estabilidad
política (King y Zeng, 2001).

No obstante hay disrupciones que conducen al conflicto político y, según algunas

hipótesis recientes, podrían estar relacionadas con el auge de la IA. La
desigualdad de renta (y, cabe presumir, de riqueza) muestra una correlación muy
elevada con la polarización política (McCarty et al., 2016). La polarización política
se define como la incapacidad de los partidos políticos de cooperar en un sistema
de gobierno democrático, pero los periodos de polarización se caracterizan
también por un incremento de políticas identitarias y extremismos. La
polarización política y la desigualdad de renta están correlacionadas, pero se
desconoce cuál es la causa y cuál la consecuencia, puesto que no se compreden
bien los factores subyacentes (Stewart et al., 2018). Lo que sí se sabe es que la
última vez que estos indicadores fueron tan altos como ahora (al menos en la
OCDE) fue inmediatamente antes y después de la Primera Guerra Mundial. Por
desgracia, fueron necesarias décadas de innovación de las políticas, una crisis
financiera mundial y la Segunda Guerra Mundial para que la desigualdad y la
polarización se redujeran radicalmente y se estabilizarán durante el periodo
comprendido entre 1945 y 1978 (Scheidel, 2017), sin olvidar que en algunos
países, como Estados Unidos y Reino Unido, bastó la crisis financiera.

Robots soldando componentes para vehículos en la planta de ensamblaje de Bayerische

Motoren Werke AG (BMW) en Greer, Carolina del Sur, mayo de 2018
Por fortuna hoy sabemos cómo responder ante esta situación: la redistribución
reduce la desigualdad. Después de la Segunda Guerra Mundial, los tipos
impositivos rondaban el 50%, se desarrollaron o consolidaron los estados del
bienestar modernos, se bloqueó la extracción transnacional de riqueza (Bullough,
2018) y tanto la desigualdad de renta como la polarización política se
mantuvieron bajas durante más de veinte años. En aquella época, además, los
salarios crecían al ritmo de la productividad (Mishel, 2012). Sin embargo, hacia
1978, los salarios se estancaron y tanto la desigualdad como la polarización
política empezaron a crecer, de nuevo, en la OCDE.5 ¿Cuál fue la causa? Hay
muchas teorías al respecto, pero dada la crudeza del cambio según muchos
indicadores, parece que se debió más a las políticas que a la tecnología. Podría
resultar de los cambios geopolíticos del momento; por ejemplo, podría señalar el
punto en que los miembros económicamente influyentes de la OCDE detectaron
el fin de la Guerra Fría y dejaron de lado las políticas diseñadas para combatir la
amenaza comunista.

En lo que respecta a la IA y con independencia de sus causas, el hecho de que a

finales del siglo XIX se dieran unas tendencias políticas y económicas similares
significa que no es un fenómeno relacionado con una tecnología concreta.
Aunque, como ya he dicho, todavía no hay consenso sobre las causas, mi
investigación en curso junto a otros autores6 analiza el argumento de que algunas
tecnologías reducen costes que tradicionalmente habían mantenido la diversidad
del sistema económico. Por ejemplo, unos costes de transporte elevados pueden
inducir a una persona a que busque un bien determinado en un proveedor
cercano en lugar de encontrar el mejor proveedor del mundo. De un modo
similar, la falta de transparencia en la información o de escalabilidad de la
capacidad puede conducir a un uso más diverso de los proveedores. Las
innovaciones técnicas (también en el proceso empresarial) pueden superar estos
costes y permitir el predominio de un número relativamente pequeño de
empresas. Los ejemplos de finales del siglo XIX podrían incluir el uso del
petróleo, el ferrocarril y el telégrafo, así como la mejora del transporte de
mercancías y la distribución de periódicos.

Cuando unos pocos proveedores acaparan el negocio, también acaparan la

riqueza. La gobernanza es uno de los principales mecanismos de redistribución
(Landau, 2016), de modo que las revoluciones tecnológicas podrían requerir
revoluciones en la gobernanza para recuperar un equilibrio (Stewart et al.,
2018). El Estado del bienestar podría ser un ejemplo (Scheidel, 2017). Más
adelante volveré a analizar la posible necesidad de innovaciones en la
gobernanza (apartado 4).

Volviendo a la IA o, más concretamente, a las TIC, aunque no son las únicas

tecnologías que contribuyen a la desigualdad y la polarización política, sí podrían
ser las que más lo hacen. Por otra parte, la atención que tanto el público como los
estamentos políticos están dedicando a la IA puede brindarnos oportunidades de
estudiar y abordar las principales causas de la desigualdad y la polarización, en
especial si la IA se interpreta como una crisis (Tepperman, 2016). Merece la pena
que nos detengamos en una hipotética consecuencia de la polarización. Un
incremento de políticas identitarias podría conducir a un uso aumentado de las
creencias para señalar el estatus o la afiliación de endogrupos (Iyengar et al.,
2012; Newman et al., 2014), lo que, por desgracia, reduciría proporcionalmente
su utilidad a la hora de predecir o describir el mundo; es decir, para reflejar los
hechos. Por lo tanto, la era de la información podría no ser una era universal de
conocimiento, sino una era de desinformación.7

Este uso de las creencias como indicador de endogrupos podría influir en otra
característica preocupante de la política contemporánea: la pérdida de la
confianza en los expertos. Pese a que este fenómeno esté en ocasiones
alimentado por expertos que hacen un uso irresponsable (e incluso abusivo) de
su posición, en general perder el acceso a las opiniones de los expertos es
catastrófico. La explosión combinatoria de conocimientos mencionada en el
apartado 3.1 también significa que nadie, por inteligente que sea, puede llegar a
dominar todo el conocimiento humano en una vida. Si la sociedad ignora los
depósitos de conocimiento especializado que ha construido (mediante la
financiación de la educación superior con el dinero del contribuyente), estará en
considerable desventaja. La preocupación por la naturaleza y las causas de la
«verdad alternativa» nos lleva al siguiente conjunto de problemas, relativos al
uso de la información personal.

Privacidad, libertad personal y autonomía

Al reflexionar sobre el impacto de la IA en el comportamiento individual, nos
adentramos en un territorio donde es más claro el impacto único de las TIC.
Hemos vivido largos periodos de espionaje doméstico, que se ha vinculado con
todo tipo de cosas, desde un sesgo en el acceso a las oportunidades basado en
prejuicios hasta los pogromos. Sin embargo, hoy las TIC nos permiten mantener
registros de larga duración de cualquier individuo que produzca datos
almacenables; por ejemplo, cualquiera con facturas, contratos, dispositivos
digitales o un historial de crédito, por no mencionar cualquier escrito publicado o
el uso de redes sociales. Esto incluye, básicamente, a todo el mundo.

No es solo el almacenamiento y la accesibilidad de los registros digitales lo que

cambia nuestra sociedad; es también el hecho de que dichos registros se puedan
escrutar mediante algoritmos de reconocimiento de patrones. Hemos perdido la
premisa por defecto del anonimato por opacidad (Selinger y Hartzog, 2017).
Hasta cierto punto, hoy todos somos famosos: a cualquiera nos puede identificar
un desconocido, ya sea mediante un programa de reconocimiento facial, por los
datos de nuestras compras o por nuestros hábitos en las redes sociales
(Pasquale, 2015). Estos pueden indicar, además de nuestra identidad, nuestras
predisposiciones políticas o económicas y qué estrategias podrían ser eficaces
para modificarlas (Cadwalladr, 2017a, b). El AA nos permite descubrir nuevos
patrones y periodicidades hasta ahora inconcebibles; por ejemplo, que la elección
de unas determinadas palabras o, incluso, la presión al escribir a mano con un
lápiz digital pueden indicar un estado emocional, incluido si alguien miente
(Bandyopadhyay y Hazra, 2017; Hancock et al., 2007), o que un patrón de uso de
redes sociales predice categorías de personalidad, preferencias políticas e,
incluso, los logros en la vida (Youyou et al., 2015).

Chistopher Wylie, exdirector de investigación del grupo de investigación del grupo SCL,
matriz de Cambridge Analytica (CA), en la gala TIME 100 celebrada en Nueva York en abril
de 2018. Un mes antes Wylie dio la alerta del robo de información de millones de usuarios de
Facebook por parte de CA para usarlos con fines políticos.
El aprendizaje automático ha abierto las puertas a unas capacidades casi
humanas e incluso sobrehumanas en la transcripción del habla a partir de la voz
y el reconocimiento de emociones a partir de la grabación de audio o vídeo,
además de la falsificación caligráfica o la manipulación de imágenes (Valstar y
Pantic, 2012; Griffin et al., 2013; Eyben et al., 2013; Kleinsmith y Bianchi-
Berthouze, 2013; Hofmann et al., 2014; Haines et al., 2016; Reed et al., 2016;
Vincent, 2016; Thies et al., 2016; Deng et al., 2017). Por otra parte, cuanto mejor
sea el modelo de que disponemos sobre la probabilidad de que alguien haga algo,
menos información necesitaremos para deducir cuál será su paso siguiente
(Bishop, 2006; Youyou et al., 2015). Este principio permite la falsificación a partir
de la elaboración de un modelo sobre la escritura o la voz de una persona,
combinarlo con un texto y producir una «predicción» o transcripción de cómo es
probable que dicha persona escriba o pronuncie el texto (Haines et al., 2016;
Reed et al., 2016). Ese mismo principio podría permitir a estrategas políticos
identificar qué votantes son susceptibles, si no de cambiar de partido preferido,
al menos sí de incrementar o reducir su probabilidad de ir a votar y, por
consiguiente, dedicar recursos a convencerlos de que lo hagan. Se supone que
una estrategia así ha sido determinante en las recientes elecciones en Reino
Unido y Estados Unidos (Cadwalladr, 2017a, b; ICO, 2018); de ser cierto, lo más
probable es que estos métodos hayan sido probados en otras elecciones
anteriores sometidas a una vigilancia menos rigurosa.

Por lo tanto, en nuestra sociedad sería razonable que las personas temieran la
difusión de sus acciones o sus creencias por dos razones: en primer lugar, porque
facilita hacer predicciones sobre ellas y, en consecuencia, manipularlas; y, en
segundo, porque las expone a la persecución por parte de aquellos que
desaprueban sus creencias. Esta persecución podría ir desde el acoso hasta el
fracaso profesional o pérdida de oportunidades organizativas o empresariales e
incluso, en sociedades inestables (o inmorales, al menos) el encarcelamiento o la
muerte a manos del Estado. El problema de estos temores no se limita a la
tensión que supone para quien los experimenta, también que, al inhibir la
libertad personal y de expresión, reducen el número de ideas que se difunden en
una sociedad en conjunto y, de este modo, limitan nuestra capacidad de innovar
(Mill, 1859; Price, 1972). Responder tanto a las oportunidades como a los
desafíos requiere creatividad y librepensamiento en todos los ámbitos de la
sociedad.

Autonomía empresarial, ingresos y responsabilidad

Estas reflexiones sobre la autonomía personal nos conducen directamente al
último conjunto de problemas que presento aquí y que rara vez se menciona. La
biología teórica nos explica que, cuando aumenta la comunicación, la
probabilidad de cooperación es superior (Roughgarden et al., 2006). Por otra
parte, pese a que la cooperación a menudo es maravillosa, también se puede ver
como la transferencia de una parte de la autonomía de la persona hacia un grupo
(Bryson, 2015). Podemos recuperar las definiciones del apartado 2, según las
cuales el grado de autonomía de una entidad equivale al grado en que determina
sus acciones. Lograr autonomía individual requiere sacrificar la autonomía
grupal, y viceversa, si bien es cierto que hay maneras de organizar los grupos que
proporcionan un grado mayor o menor de libertad a sus integrantes. Por tanto,
quizá los límites a la libertad personal que acabo de describir sean el resultado
natural de una capacidad de comunicación mayor. Una vez más estoy hablando
de las TIC en su conjunto, pero la IA y el AA, gracias a su capacidad para acelerar
la búsqueda tanto de soluciones como de colaboradores, son sin duda un
componente significativo de esta tendencia, hasta el punto, posiblemente, de
cambiar las reglas del juego.

Lo irónico es que muchas personas consideran que, a cuantos más datos, mejor,
pero ¿mejor para qué? La estadística básica nos enseña que el número de
observaciones que necesitamos para hacer una predicción está limitado por el
grado de variación en dichos datos, siempre suponiendo que sean una verdadera
muestra aleatoria de su población.8 La cantidad de datos que necesitamos en
ciencia o medicina podría limitarse a una fracción minúscula de una determinada
población. Sin embargo, si queremos dirigirnos a algunas personas en particular,
controlarlas, disuadirlas o, incluso, promoverlas, necesitamos «saberlo todo» de
ellas.

Con todo, a nivel de grupo, modificar los costes y beneficios de la inversión puede
tener consecuencias más allá de la privacidad y la libertad. Las TIC pueden
desdibujar las distinciones entre el cliente y la empresa o, incluso, la definición
de una transacción económica, algo que hasta ahora había pasado en gran
medida desapercibido (ver Perzanowski y Schultz, 2016; Frischmann y Selinger,
2016). Hoy los clientes trabajan en beneficio de las empresas cuyos servicios o
productos adquieren: buscan el precio de los alimentos que compran y los
embolsan, introducen datos en los cajeros automáticos de los bancos, rellenan
formularios para las aerolíneas, etcétera (Bryson, 2015). El valor de este trabajo
no se remunera directamente, sino que damos por supuesto que repercute en
una reducción implícita del precio de los productos, de modo que nuestra cesión
de trabajo en beneficio de estas corporaciones se podría considerar una especie
de trueque. Asimismo, este trabajo no está cuantificado, por lo que
desconocemos el valor del ahorro que genera. En este sentido, las TIC propician
un mercado negro o, cuando menos, opaco, que reduce la renta media y, por
consiguiente, los ingresos fiscales cuando los impuestos se basan en los
beneficios o ingresos declarados. Este problema es aplicable a cualquier persona
que utilice servicios e interfaces de internet, aunque pasemos por alto las
problemáticas definiciones de empleo que plantean las plataformas en línea (ver,
sin embargo, O’Reilly, 2017). Por otra parte, nuestra creciente capacidad de
obtener valor y poder al tiempo que evitamos que se reflejen en los impuestos
podría ayudar a explicar el misterio del supuesto estancamiento de nuestra
productividad (Brynjolfsson et al., 2017).
Esta dinámica alcanza su máxima crudeza en el caso de los servicios «gratuitos»
en red. Está claro que recibimos información o entretenimiento a cambio de
datos o atención. Si consumimos un contenido que va acompañado de publicidad,
ofrecemos a los que nos lo suministran la oportunidad de influir en nuestro
comportamiento. Lo mismo se puede decir de modos menos convencionales de
presión sutil, como las hipotéticas intervenciones políticas mencionadas en el
apartado 3.3. No obstante, estos intercambios solo se cuantifican (cuando se
cuantifican) de forma agregada y cuando la empresa que presta el servicio es
evaluada económicamente. Gran parte de los datos se recogen incluso de un
modo especulativo y pueden tener escaso valor hasta que se les encuentra un uso
innovador años más tarde.

Las TIC pueden desdibujar las distinciones entre el

cliente y la empresa o, incluso, la definición de una
transacción económica, algo que hasta ahora había
pasado en gran medida desapercibido
Nuestra creciente incapacidad a la hora de cuantificar los ingresos ahí donde se
hacía tradicionalmente (sobre los ingresos o durante el intercambio) podría ser
otra causa del aumento de la desigualdad de la riqueza, dado que se reduce la
parte de la economía que es reconocida, gravada y redistribuida. Una solución
obvia sería gravar la riqueza misma (por ejemplo, el valor de mercado de una
empresa), en lugar de los ingresos. La era de la información puede facilitar el
seguimiento de la distribución de la riqueza y hacer más viable esta estrategia
que en el pasado, en especial dada la dificultad de monitorizar los ingresos, que
se agrava incluso mientras escribo este texto. Claro que no sirve si la riqueza se
grava solo en el país en que la empresa tiene su domicilio social (a menudo, un
paraíso fiscal). Puesto que podemos ver la transferencia internacional de datos y
el flujo de servicios, en teoría deberíamos poder divulgar la consiguiente
redistribución en proporción al volumen y el valor de los datos transmitidos.
Imponer un sistema como este a escala internacional requeriría innovaciones
considerables, dado que los impuestos convencionales son gestionados por los
gobiernos y apenas existen gobiernos transnacionales. Sin embargo, sí existen
tratados internacionales y zonas económicas organizadas. Los países grandes o
las economías coordinadas como el Área Económica Europea pueden tener
capacidad para exigir una redistribución equitativa para sus ciudadanos a cambio
del privilegio del acceso a ellos. China ha demostrado con éxito que este acceso
no es algo que deba darse por supuesto; y, de hecho, bloquear el acceso puede
facilitar el desarrollo de competencia local. Ciudades y estados norteamericanos
están usando estrategias similares contra plataformas como Uber y Airbnb.
Cualquier política de IA debería ser desarrollada e implementada teniendo en
cuenta la importancia de respetar también los impactos positivos de la tecnología

Miembros del Parlamento Europeo durante una votación de la Eurocámara en la sede de

Estrasburgo, Francia, marzo de 2018
Por otra parte, la idea de que trasladar una mente humana a la tecnología digital
(si esto fuera posible siquiera) daría a esta una mayor longevidad o, incluso, la
inmortalidad es ridícula. Los formatos digitales tienen una vida útil media no
superior a los cinco años (Lawrence et al., 2000; Marshall et al., 2006). En este
caso, la falacia consiste en confundir la computación con una modalidad
matemática. La matemática es pura, eterna y cierta, pero ello se debe a que no es
real: no se manifiesta en el mundo físico y no puede actuar. Por el contrario, la
computación sí es real. Como se ha dicho, la computación necesita tiempo,
espacio y energía (Sipser, 2005). Se requiere espacio para almacenar estados
(memoria) y no hay una manera permanente de conseguir un almacenamiento
de este tipo (Krauss y Starkman, 2000).

Gravar a los robots con impuestos y pensar que podemos alargar la vida humana
mediante la IA goza de un atractivo populista, pero son ideas que parten de la
ignorancia sobre la naturaleza de la inteligencia

Volviendo a la idea, en apariencia más práctica de gravar con impuestos las

entidades de IA, una vez más pasa por alto su falta de humanidad. En concreto, la
IA no es contable, como lo son las personas. La misma crítica es aplicable al
apoyo de Bill Gates a los impuestos sobre los robots, aunque no defendiera que se
les otorgue una personalidad jurídica (The Economist, 2017). No existe un
equivalente a los «caballos de potencia» para medir el número de humanos a los
que sustituye un algoritmo. Como ya he dicho, frente a una innovación acelerada,
no podemos monitorizar ni siquiera el valor de las transacciones con
participantes humanos. Cuando llega una tecnología nueva, durante un breve
periodo podríamos ver a cuántos humanos deja sin trabajo, pero incluso este
cálculo parece reflejar más el estado de la economía actual que el valor real del
trabajo reemplazado (Autor, 2015; Ford, 2015). Es decir, en épocas de bonanza,
una empresa mantendrá y seguirá formando a sus empleados experimentados,
pero en épocas de crisis las corporaciones usarán la coyuntura de excusa para
reducir sus plantillas. Aunque el cambio inicial en el empleo fuera un indicador
de la «potencia humana» reemplazada, las tecnologías cambian rápidamente las
economías en las que se integran y el valor del trabajo humano también varía a
gran velocidad.

Es esencial recordar que los artefactos son, por definición, fruto del diseño.
Dentro de los límites de las leyes de la física y la computación, gozamos de plena
autoría sobre la IA y la robótica. Por consiguiente, los desarrolladores podrán
evadir los impuestos de modos inconcebibles para los legisladores
acostumbrados al valor fruto del trabajo humano. El proceso de descomponer
una corporación en «personas electrónicas» automatizadas magnificaría los
actuales problemas derivados del abuso de la personalidad jurídica, como las
empresas fantasma que se emplean para blanquear dinero. La consideración, ya
restringida, de las grandes empresas como personas jurídicas perdería sentido si
no emplearan a ningún trabajador humano (Solaiman, 2016; Bryson et al., 2017).

LOS PRÓXIMOS DIEZ AÑOS: SOLUCIONES Y FUTUROS

Me gustaría reiterar que, como explicaba al principio del apartado 3, la IA ha sido

y es un factor asombroso de crecimiento económico y empoderamiento
individual. Nos permite conocer, aprender, descubrir y hacer cosas que habrían
sido inconcebibles hace cincuenta años. Podemos pasear por una ciudad
desconocida, cuyo idioma desconocemos, orientarnos y comunicarnos. Podemos
beneficiarnos de la educación que nos brindan las mejores universidades del
mundo en nuestra casa, aunque vivamos con un salario reducido en una
economía en desarrollo (Breslow et al., 2013). También en el mundo en
desarrollo, podemos utilizar el teléfono inteligente local para consultar los
precios justos de varios productos agrícolas y otra información útil, como las
predicciones meteorológicas, de modo que incluso los agricultores de
subsistencia pueden escapar de la pobreza extrema gracias a las TIC. El increíble
ritmo al que avanza el Proyecto del Genoma Humano no es más que un ejemplo
más de cómo toda la humanidad puede beneficiarse de esta tecnología (Adams et
al., 1991; Schena et al., 1996).
Con todo, hay que abordar los problemas antes citados. A continuación expondré
mis propuestas respecto a cada uno, empezando por los últimos que he sacado a
colación. Seré breve, puesto que conocer las soluciones exige primero identificar
los problemas y los problemas identificados aquí son solo propuestas sin
consensuar. Además, ya se han sugerido enfoques distintos de enfrentar estos
problemas, algo que explico y detallo a continuación.

Empleo y estabilidad social

En el apartado 3.4 descarté la idea de que considerar a la IA como personas
jurídicas pueda solucionar las disrupciones en el mercado laboral y la
desigualdad de la riqueza que ya sufrimos. De hecho, la creación de personas
electrónicas jurídicas incrementaría la desigualdad, al permitir a las empresas y a
los ricos eludir su responsabilidad a expensas de la población común. Ahora
contamos con indicios sólidos de que los donantes ricos pueden empujar a los
políticos a adoptar posturas extravagantes y extremistas (Barber, 2016), con
unos resultados potenciales desastrosos si se combinan con una creciente
presión en favor de la polarización política y las políticas identitarias. Asimismo,
es importante tener en cuenta que no siempre los muy ricos revelan su riqueza.

Un
teleprónter muestra a una estudiante que hace de «alumna virtual» en una clase del MIT
grabada para cursos en línea en abril de 2013 en Cambridge, Massachusetts
En las democracias, otro desencadenante de periodos de marcada desigualdad y
alta polarización son los resultados electorales ajustados, con candidatos que no
se habría esperado que empataran. Esto por supuesto abre la puerta a (o al
menos reduce el coste de) manipular resultados electorales, también por parte
de poderes externos. Person (2018) sugiere que los países débiles pueden estar
practicando un «equilibrio por intrusión negativa» contra los más fuertes,
influyendo en elecciones y, por ende, en las capacidades de gobernanza y de
autonomía, en un intento por reducir desequilibrios de poder a favor de la nación
más débil.

Si hay personas o coaliciones de personas lo bastante ricas para reducir la

eficacia de los gobiernos, entonces también los Estados perderán su autonomía,
incluida la estabilidad de sus fronteras. La guerra, la anarquía y la inestabilidad
que traen consigo no son deseables para nadie, con la posible excepción de
quienes se benefician de actividades ilegales. Una estabilidad que permita
planificar negocios y familias beneficia a todos. La llegada de las corporaciones
trasnacionales ha estado acompañada de un aumento sustancial del número y
poder de otras organizaciones de carácter supranacional. Esto puede ser una
buena noticia si ayudan a coordinar la cooperación en asuntos de interés
transnacional, pero no hay que olvidar que la geografía siempre será un factor
determinate de muchos asuntos de gobierno. Cómo está protegida la casa de
nuestros vecinos contra incendios o si sus hijos están vacunados y bien educados
son cosas que siempre afectarán nuestra calidad de vida. Agua potable,
alcantarillado, seguridad individual, acceso a opciones de transportes… Los
gobiernos locales seguirán teniendo un papel de extrema importancia en el
futuro indefinido, incluso si algunas de esas funciones pasan a ser
responsabilidad de corporaciones o de gobiernos transnacionales. Por tanto,
necesitan contar con los recursos adecuados.

En el apartado 3.4 recomendaba, como posible solución al impacto de las TIC en

la desigualdad, un cambio de prioridades, pasando de documentar y gravar los
ingresos o beneficios a hacer lo propio con la riqueza. El mayor problema de esta
propuesta es que podría requerir una redistribución internacional, no solo
nacional, dado que las corporaciones más ricas de internet9 están concentradas
en un solo país, pese a que no hay duda de que las que trabajan fuera de China (y
cada vez más también las que operan en ese país) derivan su riqueza de su
actividad en todo el mundo. Gestionar esta situación exigirá innovaciones
importantes en las políticas. Por suerte, casi todas las partes implicadas, incluidas
las principales corporaciones, tienen interés en evitar la guerra y otras formas de
inestabilidad social y económica. Las guerras mundiales y las crisis financieras
del siglo XX mostraron que este argumento era especialmente aplicable a los muy
ricos, que, al menos desde el punto de vista económico, son los que más tienen
que perder (Milanovic, 2016; Scheidel, 2017), aunque rara vez pierden la vida.
En especial me parecen admirables las soluciones flexibles ante la crisis
económica aplicadas por Alemania durante la última recesión, con políticas que
permitían a las empresas hacer despidos parciales de sus trabajadores, que a
cambio obtenían prestaciones parciales y tiempo libre (Eichhorst y Marx, 2011, p.
80). Esto les permitía reciclar su formación al tiempo que mantenían, durante un
periodo prolongado, un nivel de vida cercano al acostumbrado. También permitía
a las empresas conservar a sus empleados más valiosos mientras cambiaba el
rumbo de su negocio o, sencillamente, buscaban liquidez. Habría que fomentar
este tipo de flexibilidad, de modo que tanto los gobiernos como las personas
conservaran su capacidad económica en largos periodos de crisis. De hecho, una
flexibilidad suficiente puede evitar que los periodos de cambio intenso se
conviertan en crisis.

En mi opinión, si podemos reducir la desigualdad también se reducirán los

problemas de empleo, con independencia de que el cambio se acelere o no.
Vivimos en una sociedad de una abundancia fastuosa y podemos permitirnos
mantener, aunque sea parcialmente, a los individuos mientras vuelven a
formarse. Y nuestra capacidad de innovación es fantástica. Si el dinero circula por
la sociedad, las personas encontrarán la manera de emplearse y prestarse
servicios entre sí (Hunter et al., 2001; Autor, 2015). Una vez más, es posible que
esto ya ocurra; desde luego explicaría la reducción en el ritmo de cambio en la
sociedad que algunos autores afirman haber detectado (por ejemplo, Cowen,
2011). Es posible que muchas personas sigan encontrando vías para el
autoempleo y, si tienen éxito, contraten a terceros produciendo servicios dentro
de sus propias comunidades. Estos servicios pueden ser desde sociales, como la
docencia, las labores policiales o el periodismo, familiares y domésticos, hasta
estéticos, como el paisajismo, la restauración, la música, el deporte y otras
actividades comunitarias.

Permitir o no a dichas personas vivir bien y disfrutar de las ventajas de su

sociedad es una decisión de política económica. Por ejemplo, a todos nos gustaría
que una familia pudiera permitirse una semana de vacaciones en una gran ciudad
vecina o que sus hijos disfrutarán de movilidad social, por ejemplo con un acceso
a las mejores universidades de elite de la zona de su elección basado en criterios
puramente meritocráticos. Por supuesto, en este siglo esperamos un acceso
universal y gratuito a la atención sanitaria y a la educación primaria y secundaria.
Las personas deberían poder vivir con sus familias y no tener que perder gran
parte del día desplazándose a y desde el lugar de trabajo; para ello hacen falta
tanto una distribución determinada de las oportunidades laborales como una
infraestructura de transporte excelente y ampliable (y, en consecuencia,
probablemente pública).
Si podemos reducir la desigualdad, también se
reducirán los problemas de empleo. Vivimos en
una sociedad de una abundancia fastuosa y
podemos permitirnos mantener, aunque sea
parcialmente, a los individuos mientras vuelven a
formarse
El nivel de inversión en una infraestructura de este tipo depende, en parte, de la
inversión pública y privada en impuestos y también de cómo se gasta dicha
riqueza. En el pasado, en ocasiones hemos dedicado gran parte de nuestros
recursos a la destrucción de las infraestructuras de los demás y a la reparación
de las propias, a causa de la guerra. Hoy, aunque evitemos los enfrentamientos
armados abiertos, debemos abordar la necesidad de abandonar las viejas
infraestructuras que ya no son viables a causa del cambio climático e invertir en
otras nuevas. No hay duda de que ello plantea una oportunidad considerable de
redistribución, en particular en ciudades ahora mismo deprimidas, como
demostró el New Deal de Roosevelt, con políticas que redujeron la desigualdad
en Estados Unidos mucho antes de la Segunda Guerra Mundial (McCarty et al.,
2016; Wright, 1974).

Coincido con quienes no creen que la renta básica universal sea un gran
mecanismo de redistribución, por varias razones. En primer lugar, muchos
esperan financiarla mediante el recorte de los servicios públicos, pero es posible
que estos, a su vez, sean cada vez más necesarios a medida que números
crecientes de personas queden relegadas por su incapacidad para responder a las
complejidades técnicas y económicas de un mundo en rápida transformación. En
segundo lugar, he visto a demasiados individuos que ante las cámaras evitaban
comprometerse, con el argumento de que «el gobierno nunca ha hecho nada por
mí», sin tener en cuenta la enorme inversión en su educación y seguridad y en
infraestructuras. Creo que una renta básica no tardaría en volverse invisible y a
darse por supuesta, como parece suceder con la recogida de basuras y los
servicios de urgencias.

Pero, sobre todo, preferiría que la redistribución restituyera su importancia a las

comunidades cívicas locales; es decir, que circulara a través del empleo, ya fuera
directo o a través de trabajadores autónomos y clientes. La IA y las TIC facilitan
los vínculos con personas de todo el mundo; favorecen incluso fantasías de
entretenimiento con tecnología de IA que no son humanas. Sin embargo, el
bienestar de nuestros vecinos tiene un impacto gigantesco en el nuestro y, en
muchos sentidos, ambos están ligados a través de la calidad del aire y el agua, la
educación, los servicios de bomberos y urgencias y, por supuesto, la seguridad.
Los mejores vecindarios están conectados por el conocimiento y la preocupación
por las personas; es decir, por la amistad.

Un mecanismo efectivo de incrementar la redistribución consiste, simplemente,

en subir los salarios mínimos (Lee, 1999; Schmitt, 2013). Aunque solo se aplique
a los empleados del sector público, sus efectos se transmiten al resto de
empresas, puesto que el sector público compite por los mejores trabajadores y,
por supuesto, los mayores salarios también tienen la ventaja de incentivar a los
buenos trabajadores a contribuir a la sociedad mediante el servicio público. Pese
a que este mecanismo ha sido criticado por varias razones (ver, por ejemplo,
Meyer, 201٦), parecen existir pruebas sólidas de su impacto positivo general.

Privacidad, libertad e innovación

Volviendo a los problemas relacionados de la privacidad y la autonomía
individual, abordaré un área sobre la cual es más difícil hacer predicciones o
estas son más dispares. No hay duda de que la era de la privacidad propiciada
por la opacidad se ha terminado, dado que ahora tenemos más información y
más medios para filtrarla y comprenderla que nunca antes; es muy improbable
que esto cambie, a menos que un desastre de alcance mundial acabe con nuestra
capacidad digital. No obstante, durante mucho tiempo hemos vivido en espacios
donde nuestros gobiernos y nuestros vecinos podían, en teoría, arrebatarnos
nuestra propiedad privada, pero rara vez lo hacían, excepto mediante un acuerdo
previo, como los impuestos (Christians, 2009). ¿Podremos alcanzar un nivel de
control similar sobre nuestros datos personales? ¿Podremos disfrutar de una
privacidad y autonomía efectivas en la era de la información? De no ser así,
¿cuáles serían las consecuencias?

Para empezar, hay que decir que cualquier enfoque de la defensa de los datos
personales y la protección de los ciudadanos ante la predicción, la manipulación
o, simplemente, el control por medio de sus datos personales pasa por unos
sólidos mecanismos de encriptado y ciberseguridad, sin puertas traseras. En la
ciberseguridad, todas las puertas traseras han sido aprovechadas por actores
malintencionados (Abelson et al., 2015). La falta de ciberseguridad debería
considerarse un riesgo significativo para la IA y para la economía digital, en
especial en el internet de las cosas. Si no podemos confiar en los dispositivos
inteligentes, o ni siquiera en los conectados, no deberían ser bienvenidos ni en
casa ni en los lugares de trabajo (Singh et al., 2016; Weber, 2010).
Analistas de la privacidad y su dimensión tecnológica han sugerido que los datos
sobre una persona no deberían considerarse un activo, sino una parte de esa
persona, es decir, una prolongación de su identidad individual. Como tales, los
datos personales no pueden ser propiedad de nadie más que de la persona a la
que se refieren; cualquier otro uso sería por cesión o por contrato y no puede
traspasarse ni cederse a terceros sin consentimiento (Crabtree y Mortier, 2015;
Gates y Matthews, 2014). De este modo los datos personales se asemejarían más
a la persona misma y, si fueran vulnerados, la persona afectada tendrá la
protección de la ley. En este momento se están desarrollando varias innovaciones
tecnológicas y jurídicas en consonancia con este modelo, aunque, dada la
facilidad de acceso a los datos y la dificultad de demostrar dicho acceso, es
posible que los datos sean mucho más difíciles de defender que la propiedad
física de una persona (Rosner, 2014; Jentzsch, 2014). Por fortuna, ya hay al
menos algunos gobiernos que han asumido la tarea de defender los intereses de
sus ciudadanos en materia de datos (por ejemplo, con el Reglamento General de
Protección de Datos de la Unión Europea [RGPD]; ver Albrecht, 201٦, y Danezis et
al., 2014). Hay razones excelentes para hacerlo, porque, como ya he dicho, la
extracción no deseada de datos masivos y la manipulación de las preferencias
políticas individuales y de otros comportamientos personales a partir de los
perfiles individuales de las redes sociales tienen consecuencias tanto políticas
como económicas.

Las entidades mejor situadas para defender nuestra privacidad son los
gobiernos, en principio mediante demandas judiciales colectivas contra, como
mínimo, los ejemplos más indignantes de violación de los datos personales. Claro
que dichas estrategias podrían requerir innovaciones importantes en el derecho
internacional o los tratados internacionales, dado que algunas de las acusaciones
de manipulación más famosas tienen que ver con los resultados electorales de
países enteros. Sin ir más lejos, el referéndum sobre el Brexit, en Reino Unido, ha
costado al país, en los dos años desde la votación (sin que se haya producido aún
la salida efectiva de la Unión Europea), 23.000 millones de libras esterlinas en
recaudación fiscal perdida al año, es decir, 440 millones de libras a la semana
(Morales, 2018). Como ya mencioné, el referéndum sobre el Brexit estuvo al
parecer influido por conocidos algoritmos de IA financiados, como se ha
demostrado, por inversión extranjera (ICO, 2018). La paradoja es que reparar un
perjuicio semejante requeriría, casi con total seguridad, colaboración
internacional.

Por desgracia los gobiernos no siempre tienen como prioridad los intereses de
sus ciudadanos o, al menos, no siempre y no todos sus intereses. De hecho,
durante el siglo XX y en términos globales, un individuo tenía muchas más
probabilidades de morir a manos de su propio gobierno que de alguien
extranjero (Valentino, 2004). Más recientemente, China ha estado utilizando un
sistema de vigilancia supuestamente dedicado a la seguridad de sus ciudadanos
para destruir las vidas y las familias de más de un millón de habitantes, a los que
ha encerrado en campamentos de reeducación por haberse declarado
musulmanes (Human Rights Watch, 2018; Editorial, 2018). En términos más
generales, cuando los gobiernos tienen miedo de que haya informantes o
disidentes, o incluso eluden su responsabilidad de garantizar la dignidad y la
prosperidad de todos los habitantes de su territorio, pueden recurrir a la
represión y al asesinato, cosa que hacen a menudo. Es muy peligroso que un
gobierno considere que gobernar a un grupo de personas dentro de sus fronteras
entraña un coste o un problema superior a su valor colectivo potencial en
términos de trabajo, seguridad e innovación. Esta grave amenaza se ve
intensificada por la promesa y el auge de la automatización inteligente como
fuente nueva y controlable y apropiable tanto de trabajo como de innovación. La
exageración en el discurso sobre la IA incrementa el riesgo de que un gobierno
minusvalore erróneamente vidas humanas y considere que su valor es inferior al
coste percibido de mantenerlas.

No podemos saber con seguridad dónde desembocarán las tendencias actuales,

pero es de esperar que, cuando se ejerza algún tipo de represión, la IA y las TIC
serán los medios empleados para predecir esos díscolos potenciales y
monitorizarlos. Se dice que China está usando sistemas de reconocimiento facial
no solo para identificar a personas, también para interpretar su estado de ánimo
y concentración, tanto en los campos de reeducación como en las escuelas. Los
estudiantes y, quizá, los profesores pueden ser castigados si no aparentan estar
contentos con su educación (o reeducación). Los sistemas de TIC capaces de
detectar el grado de comprensión y atención de los estudiantes y de informar a
los profesores, a fin de que adapten su docencia y sus materiales, también se
están promoviendo en Occidente y constituyen una parte esencial de la
formación personalizada con IA fuera de las aulas convencionales. Cabe suponer
que se están desarrollando y, probablemente, aplicando sistemas similares en
otros sectores profesionales (por ejemplo, Levy, 2015).

Si permitimos que esta tendencia se mantenga, podemos esperar que nuestras

sociedades ganen en seguridad (o, al menos, que haya más paz en las calles) y
homogeneidad, pero pierdan capacidad de innovación y diversidad. Más
personas que nunca cuentan con los medios y los recursos económicos para
viajar de un país a otro, de modo que cabe esperar que los países que ofrezcan
mayor calidad de vida, también en términos de gobernanza y protección
individual, atraerán a personas preocupadas por la libertad personal. Podemos
esperar también que, gracias al poder combinado del trabajo y la innovación de
dichos inmigrantes y de la población existente, estos países puedan llegar a
protegerse e, incluso, a proteger a otros. Ya hemos visto que la Unión Europea
ejercía una protección de este tipo con regulaciones éticas para la IA, como el
RGPD. Y Naciones Unidas trabaja con instrumentos, como el Acuerdo de París, a
fin de protegernos a todos del cambio climático. En unas sociedades tan
prósperas y bien gobernadas, sería de esperar un incremento de los niveles de
libertad, no un descenso, a medida que aumente la concienciación sobre los
problemas derivados de la vigilancia que ya practicamos; por ejemplo, en la
microgestión del tiempo personal de nuestros hijos (Lee et al., 2010; Bryson,
2015).

La exageración en el discurso sobre la IA

incrementa el riesgo de que un gobierno
minusvalore erróneamente vidas humanas y
considere que su valor es inferior al coste percibido
de mantenerlas
Por desgracia para esta visión optimista de los remansos de bienestar en que se
convertirían los países bien gobernados, en la práctica la tecnología se utiliza,
cada vez más, para frustrar toda la migración transfronteriza que no sea de élite
(Miller, 2017). Además de los genocidios y las matanzas masivas, otra tendencia
histórica observada a menudo en las guerras y las revoluciones políticas (por
ejemplo, la Polonia ocupada por los nazis, la Checoslovaquia de la Guerra Fría, el
Irán de la revolución, la Unión Soviética de Stalin, la Camboya de los jemeres
rojos, la China de la Revolución Cultural y la actual Arabia Saudí) es el traslado
forzoso o, incluso la ejecución no solo de disidentes, también de intelectuales. A
menudo, se considera que mantener el control pasa por eliminar cualquier
liderazgo potencial de signo innovador, aunque sea dicho liderazgo lo que se
precisa para garantizar una ciudadanía sana y una sociedad estable (King y Zeng,
2001), por no hablar de un progreso tecnológico que otorge ventaja en una
carrera armamentística (Yan, 2006). Estos movimientos tienden a desmoronarse
solo después de años de sufrimiento prolongado, a menudo después de haber
durado lo suficiente para dejar claro que sus políticas dañaban la competitividad
internacional del país. La IA facilita de manera asombrosa la identificación y el
aislamiento de cualquier grupo a reprimir (o incluso de los individuos que
muestran determinadas actitudes). Solo la innovación en los mecanismos de
protección contra gobiernos corruptos, ególatras o peligrosos en general nos
permitirá proteger la diversidad y la libertad en nuestras sociedades y, con ella,
nuestra seguridad.

Una vez más, la capacidad de la IA al servicio del buen gobierno y sociedades más
justas y sólidas es muy real y se está desarrollando ampliamente. Así, la IA se
utiliza contra los delitos financieros, el fraude y el blanqueo de dinero y para la
protección de personas, empresas y gobiernos frente a influencias ilícitas e
ilegales (Ngai et al., 2011). Se trata de algo razonable y parte de las obligaciones
contractuales convencionales de los prestatarios de servicios financieros y, por
supuesto, de los gobiernos. También puede ser ético que, cuando un ciudadano
ha elegido un determinado comportamiento mediante un deseo expreso, sus
dispositivos inteligentes u otros organismos le propinen «un empujoncito» para
ayudarlo a cumplir con sus propósitos; por ejemplo, en relación con el ejercicio
físico o los hábitos de sueño. Sin embargo, es importante reconocer los peligros
crecientes tanto de la coerción explícita como de la desorientación implícita que
acompañan el incremento masivo del conocimiento y el consiguiente poder
derivado de la IA. Por lo tanto, la IA hace más urgente invertir en la investigación
y el desarrollo de las humanidades y las ciencias sociales; en especial en ciencias
políticas y sociología. A continuación abordo el problema de regular la IA.

La responsabilidad individual, empresarial y regulatoria por la IA

Como punto de partida del debate sobre la responsabilidad en la era de la IA, me
gustaría volver a poner el acento, con brevedad, en el papel del diseño y las
arquitecturas en la IA. Quizá una vez más por la confusión de lo inteligente con
lo humano, en ocasiones he oído decir que tal o cual característica de la IA es
inevitable; lo he escuchado incluso de boca de expertos en este campo
pertenecientes a organizaciones influyentes. No hay ningún aspecto de la IA que
sea más inevitable que la esclavitud o el derecho hereditario a la monarquía. Por
supuesto, ambos fenómenos siguen existiendo en algunos lugares, pero, pese a
los beneficios económicos que representaban para los que ocupaban el poder, en
gran medida han sido erradicados. De un modo similar, podemos regular como
mínimo los productos comerciales legales para exigir arquitecturas seguras o, al
menos, transparentes (Boden et al., 2011). Podemos exigir (como ha hecho hace
poco la Comisión Europea) que las decisiones que toman las máquinas sean
identificables y explicables (Goodman y Flaxman, 2016).

Insistir en la responsabilidad humana de los sistemas de IA no significa que

debamos (o podamos) responder del valor de cada peso en una red neuronal ni
del impacto de cada dato individual empleado en su aprendizaje. No solo sería
poco práctico, sino que no corresponde ni al criterio ni al medio por los cuales
tienen que rendir cuentas las organizaciones hoy día. Una empresa no es
responsable de la organización sináptica del cerebro de sus cuentas; es
responsable del estado de estas. A decir verdad, la introducción de la IA en un
proceso empresarial o de gobierno no supone demasiados cambios en cuanto a
responsabilidad. Debemos ser capaces de caracterizar nuestros sistemas lo
bastante bien para detectar si se están comportando de acuerdo con lo esperado
(Liu et al., 2017). Es algo factible y se debe fomentar (Bryson y Theodorou, 2019).
Promover la responsabilidad comporta garantizar la rendición de cuentas
(Santoni de Sio y Van den Hoven, 2018). Un modo fácil de conseguirlo es hacer
entender a gobiernos y fiscales que los sistemas de software tienen, en buena
parte, los mismos problemas de responsabilidad que cualquier otro artefacto
fabricado: si se les da un uso inadecuado, es culpa del propietario; si generan
daños cuando se utilizan adecuadamente, están defectuosos y es probable que el
fabricante sea el responsable, a menos que pueda demostrar que ha respetado la
diligencia debida y que han concurrido circunstancias excepcionales. El mero
hecho de que parte del sistema sea autónomo no invalida este argumento, del
mismo modo que se puede atribuir al banco aquellos errores generados por sus
contables o sus clientes cuando los sistemas del banco deberían haberlos
limitado o alertado sobre ellos. Sin duda, esta cuestión nos plantea problemas; en
especial porque son muchas las aplicaciones de la tecnología de IA en contextos
internacionales, pero organizaciones como la Unión Europea, Naciones Unidas y
la OCDE se están esforzando para coordinar esfuerzos con los que proteger a sus
ciudadanos.

Por supuesto los sistemas de IA no son exactamente como los sistemas más
deterministas, pero exagerar las consecuencias de dichas diferencias es
problemático. Las malas ideas pueden esconderse detrás de los «artificios» de la
confusión que genera la IA sobre cuestiones de identidad y libertad de acción
(Bryson, 2018). Una tendencia preocupante en la gobernanza de la IA es la
tendencia a adoptar el alineamiento de valores como solución a problemas de la
ciencia en general y de ética de la IA en particular. La idea es que se debe
garantizar que la sociedad dirige y aprueba el rumbo que adoptan la ciencia y la
tecnología (Soares y Fallenstein, 2014). Por muy seguro y democrático que suene
esto, quizá sería mejor considerarlo un argumento populista. Empecemos por la
ciencia: la ciencia es un mecanismo basado en principios que permite a la
sociedad percibir su contexto con precisión. Por el contrario, la gobernanza es
cómo elige una sociedad entre diferentes vías de acción posibles. El sentimiento
popular no puede decidir qué es cierto sobre la naturaleza; solo determinar qué
políticas son más fáciles de aplicar. Limitar la capacidad de una sociedad a
percibir solo lo que quiere saber equivaldría a cegarla (Caliskan et al., 2017; ver
análisis final). De un modo similar, el sentir popular influye en gran medida en las
políticas aplicadas, pero desde luego no las determina. Por lo tanto, preguntar a
la población qué espera de la IA es como preguntarle qué película de ciencia
ficción preferiría ver hecha realidad: no hay garantía alguna de que elijan algo
factible (por no hablar de deseable). Los ciudadanos deben determinar, a través
del gobierno, sus prioridades económicas y políticas, pero el verdadero progreso
casi nunca se consigue mediante referéndum. Por el contrario, la gobernanza
suele consistir en negociaciones informadas entre un número limitado de
negociadores expertos, con el apoyo de un número mayor, aunque también
limitado, de conocedores de la materia.
Una tendencia preocupante en la gobernanza de la
IA es la tendencia a adoptar el alineamiento de
valores como solución a problemas de la ciencia en
general y de ética de la IA en particular
Asimismo, a pesar de los enormes recursos que la explotación de la computación
y la IA hacen posibles, es probable que los negociadores humanos sigan siendo
siempre la mejor elección a la hora de determinar políticas. En parte porque, en
calidad de ciudadanos, podemos identificarnos con quienes representamos y
establecer con ellos una relación de confianza y compromiso para gestionar las
decisiones negociadas. Pero, sobre todo, los representantes humanos pueden ser
responsabilizados y convencidos de maneras que siempre estarán vetadas a un
sistema de IA. No podemos diseñar sistemas para que se impliquen en las
decisiones sociales como lo hace la inteligencia humana (o, de hecho, la
inteligencia de cualquier animal social) tras siglos de evolución. No podemos
hacerlo mediante el diseño, porque, por su naturaleza, es un proceso que se
puede descomponer, mientras que la evolución ha descubierto repetidamente
que la preocupación por la posición social debe ser un elemento inextricable de
la inteligencia de los individuos de cualquier especie que dependa de estrategias
sociales para su supervivencia. Así, nuestro sistema de justicia se basa en la
disuasión so pena de aislamiento, pérdida de poder o de posición social. No
podemos aplicar estos criterios de justicia a las máquinas que diseñamos y no
podemos exigir responsabilidades mediante máquinas que no diseñamos
cuidadosamente (Bryson et al., 2017; Bryson y Theodorou, 2019).

Por último, hay quienes han manifestado su preocupación por la potencial

imposibilidad de regular la IA, dado su rápido ritmo de cambio. Es cierto que las
capacidades humanas, incluida la de respuesta, son limitadas. Además, solo se
pueden legislar a un ritmo determinado. De hecho, se introducen plazos y
demoras en el proceso legislativo para garantizar que el ritmo de cambio no sea
excesivo para la planificación tanto de las empresas como de las personas
(Holmes, 1988; Cowen, 1992; Ginsburg, 2005; Roithmayr et al., 2015). Por
consiguiente no es de esperar que la legislación siga el ritmo de cambio cada vez
más acelerado que generan la IA y las TIC. Ya he sugerido que un mecanismo
para forjar políticas sensatas puede ser contar con expertos que trabajen a través
de organizaciones profesionales describiendo estándares (Bryson y Winfield,
2017). En tal caso, el papel del gobierno se reduciría a supervisar esta labor y
aplicar sus resultados. Los argumentos que he expuesto aquí (y en Bryson y
Theodorou, 2019) podrían interpretarse como una generalización de este
principio. Me refiero a que no necesitamos cambiar la legislación, basta
asegurarnos de que las organizaciones que desarrollan o explotan la IA se
responsabilizan de las consecuencias de las acciones de sus sistemas usando los
mecanismos de control tradicionales. Solo entonces estas organizaciones se
verán obligadas a innovar en transparencia tanto como en el resto de apartados,
a fin de poder demostrar que siempre han seguido la diligencia debida en sus
sistemas.

CONCLUSIONES

La IA ya está cambiando la sociedad a un ritmo más rápido de lo que pensamos,

pero no es una experiencia tan inédita ni única como a menudo nos hacen creer.
Otros avances, como el lenguaje y la escritura, las corporaciones y los gobiernos,
las telecomunicaciones y el petróleo, ya ampliaron antes nuestras capacidades,
alteraron nuestras economías y trastocaron nuestro orden social; en general,
aunque no siempre y no para todos, para mejor. La prueba de que, de media,
estamos mejor gracias al progreso es, irónicamente, quizá, la mayor amenaza a
que nos enfrentamos hoy: debemos conseguir una vida sostenible y evitar la
desaparición de la biodiversidad.

No obstante, la IA en particular y las TIC en general podrían requerir

innovaciones radicales en nuestro modo de gobernar y, en especial, de recaudar
dinero para la redistribución de riqueza. Nos enfrentamos a transferencias de
riqueza transnacionales propiciadas por innovaciones empresariales que nos han
arrebatado la capacidad de medir o identificar siquiera el nivel de ingresos
generado. Además, esta nueva moneda de valor incognoscible consiste a menudo
en datos personales y los datos personales dan a quienes los poseen un inmenso
poder de predicción.

Sin embargo, más allá de los problemas económicos y de gobernanza, debemos

recordar que la IA amplía y mejora lo que significa ser humano; en particular,
nuestra capacidad de resolución de problemas. Frente a los desafíos globales de
seguridad y sostenibilidad, estas mejoras prometen seguir aportando una ayuda
significativa, siempre que desarrollemos mecanismos adecuados para regularlas.
Con un catálogo sensato de políticas y organismos de regulación, deberíamos
seguir ampliando y, también, limitando cuando corresponda, el potencial de
aplicación de la IA.
La Inteligencia Artificial en la medicina: importancia, objetivos y ejemplos

13 / 10 / 2021

La inteligencia artificial en medicina permite ofrecer diagnósticos más precisos, mejorar el control
de pacientes crónicos o reducir tiempos para crear vacunas.

La Inteligencia Artificial en la medicina ha repercutido en el bienestar de la humanidad: desde

agilizar la lenta y costosa creación de nuevos fármacos, hasta analizar el genoma de un paciente o
ofrecer diagnósticos más precisos, las aplicaciones en salud de esta tecnología son numerosas. El
futuro se presenta mucho más esperanzador.

Para analizar este tema más en profundidad, lo primero que se debe saber es que la IA es una
tecnología basada en el modelo de la red neuronal del cerebro, la cual emplea múltiples capas de
información, que incluyen algoritmos, coincidencia de patrones, reglas, deep learning –aprendizaje
profundo– y computación cognitiva, para aprender a comprender grupos de datos.

Lo anterior significa que al utilizar supercomputadoras con Inteligencia Artificial se pueden

identificar relaciones significativas entre datos sin procesar. Esto tiene el potencial de aplicarse en la
medicina, ya sea para el desarrollo de fármacos, el tratamiento y el cuidado del paciente o las
decisiones financieras y operativas.

Con la aplicación de esta tecnología, los profesionales del cuidado de la salud pueden resolver
problemas complejos en un mínimo de tiempo, mientras que sin ella, su abordaje sería lento,
difícil y mucho más ineficaz.

Aunque hablar de este tipo de tecnologías pareciera algo futurista es importante recordar que está
en plena utilización. Por ejemplo, Watson Health es un sistema de Inteligencia Artificial desarrollado
por IBM que puede aprovechar los millones de informes médicos, los registros de pacientes, los
ensayos y las revistas publicadas en la materia para descubrir insights de datos.

Particularmente en México, esta supercomputadora es usada desde el año 2017 en el combate

contra el cáncer. El Centro de Tecnología Cognitiva de los Hospitales Ángeles fue el primero en
América Latina que empleó la herramienta tecnológica mencionada para hacer más precisos los
tratamientos contra esta enfermedad, arrojando excelentes resultados.

Importancia de la IA en medicina

Antes de que comenzara a aplicarse la Inteligencia Artificial en la medicina, los modelos predictivos
en el cuidado de la salud solamente eran capaces de considerar variables limitadas de datos,
siempre y cuando estuvieran limpios y bien organizados. Sin embargo, en la actualidad se ha
demostrado que las herramientas sofisticadas de aprendizaje de las máquinas o las tecnologías
de deep learning respaldan las capacidades humanas para realizar estas tareas.

Gracias a esta nueva tecnología ya se puede:

• Ofrecer diagnósticos precisos más rápidamente.

• Mejorar el control y el seguimiento de pacientes crónicos mediante dispositivos

electrónicos.

• Aliviar la carga de trabajo a profesionales médicos.

• Reducir los tiempos de investigación para el desarrollo de nuevos fármacos y sobre el

tratamiento de determinadas enfermedades.

Particularmente este último punto se ha puesto a prueba durante la pandemia de la COVID-19, ya

que gracias a la IA y al compromiso de los investigadores alrededor del mundo, se han podido
reducir los tiempos de creación de nuevos tratamientos médicos, así como de las vacunas.

Ejemplos de uso de la IA en salud

La Inteligencia Artificial ha resultado fundamental para el desarrollo de la medicina y ya se está

aplicando en diversas áreas, entre ellas las siguientes:

• Análisis médicos y de imágenes. Una de las ventajas más importantes es la rapidez con la
que pueden procesar elevadas cantidades de datos, lo que es relevante al analizar diferentes
pruebas médicas como resonancias o estudios genéticos.
 • Diagnósticos. Su utilidad en este aspecto está fuera de duda, sobre todo para enfermedades
que se desarrollan muy rápido, como algunas patologías degenerativas o ciertos tipos de
cáncer. Al identificarse a tiempo una enfermedad, el tratamiento puede comenzar antes e
intentar frenar su progresión.

• Tratamientos. En el campo de la farmacología, la Inteligencia Artificial facilita el trabajo de

los investigadores a la hora de analizar las secuencias genéticas para hallar las vacunas o
crear las medicinas adecuadas. Pero además, como ha probado Proyecto Hanover de
Microsoft, los investigadores biomédicos pueden adoptar la Inteligencia Artificial para
implementar tratamientos de cáncer dirigidos a los perfiles genómicos específicos de los
pacientes. Esta medicina de precisión ha probado ser en algunos casos más efectiva que la
quimioterapia tradicional y tiene menos efectos secundarios.

• Genética. El análisis del genoma humano no es un secreto para la IA, pero en la actualidad
ya existe hasta una aplicación móvil que, por medio de un sistema de reconocimiento facial,
permite detectar enfermedades raras y trastornos genéticos. Con solamente una
fotografía, Face2Gene es capaz de emitir un diagnóstico preciso, gracias a la comparativa de
la imagen con su creciente base de datos.

• Embarazos. El uso de la Inteligencia Artificial ofrece una mejor visión del feto. Ello, junto a
un análisis pormenorizado de los datos disponibles, propicia conocer el estado del embarazo
en tiempo real, lo que posibilita el disfrutar de gestaciones más seguras y prescindir de
procedimientos invasivos para identificar malformaciones.

• Prótesis inteligentes. Estas pueden ser controladas con una aplicación y tienen la capacidad
de aprender los patrones de movimiento de su usuario, de manera que se adaptan
considerablemente mejor a sus necesidades.

Por qué triunfarás con una Maestría en Inteligencia Artificial

¿Cuáles son los objetivos del uso de la IA en la medicina?

Como ya se vio, el objetivo principal del uso de la Inteligencia Artificial en el campo de la salud
es analizar las relaciones entre métodos de prevención o tratamiento y sus resultados en el
paciente. Conforme se vaya desarrollando esta tecnología es de esperar que cada vez más doctores
y pacientes tengan acceso a sus beneficios.

Para 2025, se prevé que haya sistemas que puedan responder a cuestiones concretas de los
pacientes y facilitar la gestión de la salud en la población mediante el uso de avatares digitales. En la
actualidad su empleo está restringido al ámbito académico, pero probará ser muy útil con la
aplicación de la realidad aumentada.

En el futuro, también habrá una mayor presencia de la IA combinada con la asistencia robótica en
ámbitos médicos como la cirugía, aunque en la actualidad el factor humano todavía es
imprescindible.

Opciones de trabajo que genera la IA

La Inteligencia Artificial es una de las profesiones que presentan más demanda en el mercado laboral
actual y proyecta seguir siéndolo en las próximas décadas. En el sector de la medicina la IA llegó
para quedarse, por eso aquellos que estudien una Maestría en IA, como la que ofrece UNIR México,
adquirirán las habilidades necesarias para dotar a las computadoras con comportamientos
inteligentes y estarán preparándose para el futuro, con una maestría que además incluye un curso
de programación en Python.

Al elegir esta especialidad, los alumnos podrán decidir si se involucran en la investigación o en la

aplicación de estas tecnologías dentro del combate permanente para garantizar la salud de las
personas, puesto que la IA forma parte del porvenir de la medicina.

Inteligencia artificial en
medicina
Inteligencia Artificial en medicina, una nueva tendencia que se
encuentra en auge y que va a ser muy importante en los próximos
años. Vamos a ver por qué.

Volver a Insights

Inteligencia Artificial en medicina, una nueva tendencia que se encuentra en auge y

que va a ser muy importante en los próximos años. Vamos a ver por qué.

La Inteligencia Artificial (IA) es una ciencia tecnológica e informática que utiliza

algoritmos, heurística, coincidencia de patrones, reglas, aprendizaje profundo y
computación cognitiva. Su finalidad es la de aproximar conclusiones sin
intervención humana directa.

Al usar la IA, los investigadores pueden enfrentarse aproblemas complejos que

serían difíciles, o casi imposibles, de resolverpara el ser humano. Debido a que la IA
puede identificar relacionessignificativas en los datos sin procesar, puede usarse para
respaldar eldiagnóstico, el tratamiento y la predicción de resultados en muchas
situacionesmédicas.

La IA tiene el potencial de aplicarse en casi todos loscampos de la medicina,

incluido el desarrollo de medicamentos, el monitoreodel paciente y los planes
personalizados de tratamiento del enfermo.

¿En qué se basa la inteligencia artificial?

La IA se basa en las redes neuronales del [Link] múltiples capas de
unidades de procesamiento no lineales para""enseñarse"" a sí misma cómo entender
los datos, clasificando registrosy haciendo predicciones.

La IA puede sintetizar datos de registros de salud electrónicos y datos no

estructurados para hacer predicciones sobre la salud del paciente. Por ejemplo, el
software de IA puede leer rápidamente una imagen de la retina o marcar casos para
realizar un seguimiento cuando múltiples revisiones manuales serían demasiado
engorrosas. Los médicos se benefician de tener más tiempo y datos concisos para
tomar mejores decisiones en la práctica.

Ejemplos del uso de inteligencia artificial en medicina

La IA se puede usar de varias maneras en medicina. Veamos algunos ejemplos que

nos permitirán formarnos una idea más aproximada de lo que significa utilizar esta
tecnología.

• Clasificación de datos clí[Link] del 80% de la información de

atención médica no está estructurada. Lainteligencia artificial puede leer y
comprender datos no estructurados. Lacapacidad de IA para procesar el
lenguaje natural le permite leer textosclínicos de cualquier fuente e
identificar, categorizar y codificar conceptosmédicos y sociales.
• Gestión de la información clínica de lospacientes. La inteligencia artificial
puede identificar los problemascontenidos en el historial clínico de los
enfermos, tanto en el textoestructurado como no estructurado. Resume la
información en torno a esosproblemas y puede proporcionar un resumen
cognitivo de estos registros.
• Paciente similitud. La IA puedeidentificar una medida de similitud clínica
entre pacientes. Esto permite a losinvestigadores crear redes dinámicas de
pacientes, en lugar de datos estáticosde los mismos. También ofrece
protocolos de atención, indicando cual tienemejores resultados para un
grupo determinado de pacientes.
• Perspectivas médicas. Esta tecnologíaofrece a los investigadores datos de
interés de la literatura médica noestructurada para respaldar hipótesis, lo
que les ayuda a descubrir nuevasideas.

Inteligencia artificial en medicina, ¿por qué es importante?

El papel de la inteligencia artificial en el campo de lamedicina es bastante significativo.
El hecho de que permita la optimización delos historiales médicos con las
enfermedades crónicas, sugiera terapias deprecisión para casos complejos y mejore
los ensayos clínicos con pacientes laconvierten en una tecnología imprescindible.

Otras razones por las cuales la IA en medicina juega unimportante papel

incluyen:

• Gestionar cantidades ingentes de información. Se espera que los datos

médicos se dupliquen cada 73 días para 2020. La IA puede dar sentido a la
abrumadora cantidad de datos clínicos, genómicos y determinantes
sociales para ofrecer el mejor tratamiento para cada paciente.
• Proporcionar relevancia contextual. La IA empodera a los médicos de una
visualización global de la información. Así, pueden interpretar rápidamente
miles de millones de entradas, tanto de texto como de imagen, para
identificar información contextual relevante.
• Mejorar de la fiabilidad clínica. La inteligencia artificial ayuda a estos
profesionales a reconocer de manera fiable las soluciones médicas
oportunas, impidiendo que se pasen por alto datos relevantes.
• Facilitar una comunicación objetiva entre médico y paciente.
• Reducir el porcentaje de error relacionado con la fatiga humana. El error
humano es costoso y la fatiga humana puede desencadenarlos. Las
herramientas de inteligencia artificial no sufren fatiga, distracciones ni
estados de ánimo. Pueden procesar grandes cantidades de datos a una
velocidad increíble y superar a los humanos en términos de precisión.
• Reducir las tasas de mortalidad. La IA puede ayudar a reducir las tasas de
mortalidad al priorizar a los pacientes con necesidades más urgentes.
También puede ayudar recomendando tratamientos individualizados.
• Disminuir los costes médicos. La IA tiene el potencial de mejorar los
resultados en un 30-40% y reducir los costes del tratamiento hasta en un
50%. Además, el desarrollo de nuevos medicamentos y las vacunas
requieren mucho tiempo y son bastante caros. La IA se puede utilizar para
procesar los 30 millones de informes de laboratorio y datos estimados.
• Identificar enfermedades más fácilmente. La inteligencia artificial puede
detectar signos de enfermedad de manera más rápida y precisa en
imágenes médicas (resonancias magnéticas, tomografías computarizadas,
ultrasonidos y radiografías). Los pacientes pueden ser diagnosticados más
rápido y pueden comenzar el tratamiento antes.
• Incrementar el compromiso médico/paciente. En la actualidad, los
médicos dedican más tiempo al registro de datos y al trabajo de escritorio
que a relacionarse con los pacientes. La IA puede automatizar el papeleo y
liberar el tiempo de un médico para realmente tratar a sus pacientes.

Nuevo despegue en la innovación médica

Los investigadores de life sciencie están bajopresión para innovar más rápido que
nunca. El Big Data ofrece lapromesa de desbloquear nuevos conocimientos y
acelerar avances. Irónicamente,aunque hay más datos disponibles que nunca, solo
una fracción se estáintegrando, entendiendo y analizando. El desafío radica en
aprovechar losvolúmenes de datos, integrar la información de cientos de fuentes y
comprendersus diversos formatos.

Las nuevas tecnologías como la inteligencia artificialofrecen una promesa para

abordar este desafío. El motivo es claro, lassoluciones cognitivas están
específicamente diseñadas para integrar y analizargrandes conjuntos de información.

El software de inteligencia artificial puede comprenderdiferentes tipos de datos, como

los valores de laboratorio en una base de datosestructurada o el texto de una
publicación científica. Estas soluciones desoftware están capacitadas para
comprender contenido técnico específico de laindustria y utilizan técnicas avanzadas
de razonamiento, modelado predictivo yaprendizaje automático para avanzar en la
investigación mucho más rápido.

En las últimas dos décadas, con la aparición de la World Wide Web y millones
de sitios web sobre cuestiones de salud, tenemos una explosión de
información. Como resultado, los consumidores de información sanitaria se
enfrentan al reto de distinguir entre hechos objetivos y opiniones. En esta
atmósfera de sobrecarga de información (infodemia), los hechos objetivos
son menos influyentes en la configuración de la opinión pública que las
apelaciones a la emoción y las creencias personales. Por ejemplo, un relato
personal de la batalla contra el cáncer usando terapias alternativas podría
haber funcionado para un individuo, pero esta narrativa personal se utiliza
para promover terapias no validadas de cuestionables resultados.

Posverdad es una palabra que está cada vez más presente en los medios de
comunicación, particularmente los digitales. Este neologismo fue elegida
palabra del año en 2016 por el diccionario de Oxford, y describe la distorsión
deliberada de una realidad en la que los hechos objetivos tienen menos
influencia que el llamado a las emociones y creencias personales, buscando
modelar la opinión pública e influir en las actitudes sociales, y logrando crear
una mentira emotiva que deja fuera el análisis de los hechos objetivos que
pasan así a desempeñar un papel totalmente secundario.

El ser humano moderno tiende a preferir “verdades” de rápida fabricación

que nos mantengan en un relativo confort intelectual, en falsas seguridades.
Las redes sociales, como lo expresa el filósofo coreano Byung-Chul Han,
transformaron a la colectividad en una masa de individuos hiperconectados
pero aislados, llena de ruido y confusión que impide el sosiego que requiere
el alma para reflexionar y sentir.

¿Cuál es la importancia de la ciencia

en la era de la posverdad?

Los mexicanos
confían más en la fe, en la magia y en la suerte que en la ciencia. La mitad
de los ciudadanos aseveran que, debido a sus conocimientos, los
investigadores son peligrosos, y afirman que el desarrollo científico genera
una vida artificial y deshumanizada. Muchos creen en los poderes síquicos, y
una inmensa mayoría considera que las limpias y prácticas médicas no
validadas son opciones para aliviar de enfermedades que la ciencia no
reconoce.

Los datos de la encuesta sobre la Percepción Pública de la Ciencia y la

Tecnología en México 2011 (Enpecyt), elaborada por el Consejo Nacional de
Ciencia y Tecnología (CONACYT) y el Instituto Nacional de Estadística y
Geografía (INEGI), asientan que 72.59 por ciento de las personas
consultadas confía demasiado en la fe y muy poco en la ciencia.

La ciencia y su percepción pública también se ven comprometidas por el

fraude científico y las revistas depredadoras, pero sobre todo por la erosión
general del significado de la verdad en la llamada era posverdad. Estos
acontecimientos tienen una influencia significativa en la medicina científica y
su impacto en el discurso público. La ciencia falsa, y también la difusión
acrítica de resultados comprometidos en las redes públicas y sociales,
amenaza la medicina científica, pero sobre todo la salud de la población.

CIRCULACIÓN VIRULENTA DE FAKE NEWS,

DESINFORMACIÓN Y ATAQUES DE TROLLS
DIRIGIDOS A SOCAVAR LA AUTORIDAD
CIENTÍFICA REPRESENTAN UN RIESGO
PARA LA SALUD
A medida que las redes sociales se han convertido en la fuente preferida de
información de segmentos cada vez más grandes de las sociedades
modernas, la difusión de resultados científicos falsificados dentro de las
comunidades es casi imparable. Con un número creciente de revistas
depredadoras y casos repetitivos de ciencia falsa, aumenta el riesgo de
publicación de resultados falsos. Debido a los mecanismos subyacentes de la
era posverdad y las redes sociales, estos resultados falsos encuentran su
camino al discurso público y continúan difundiéndose. En las ciencias
médicas, la difusión de resultados falsificados amenaza directamente la salud
y la vida de los pacientes.

En un estudio del 2018, publicado en la revista Health policy and technology,

sobre la difusión de las noticias falsas médicas en las redes sociales, se
encontró que las noticias de salud falsas, engañosas y malinterpretadas en
las redes sociales son la amenaza potencial para la salud pública. Los
principales vínculos relacionados con enfermedades comunes en el 40% de
los casos contenían desinformación y se compartieron 451,272 veces en el
período 2012-2017. El análisis de las redes sociales podría contribuir a la
identificación y tomar medidas en las principales páginas web que
contaminan la información médica.
La desinformación de la salud es un gran problema a últimas fechas. Ante la
presión de legisladores, médicos y defensores de la salud, las plataformas de
redes sociales realizaron cambios radicales en las políticas para prohibir o
limitar la difusión de información de salud falsa que había quedado sin
control durante más de una década.

En el mundo digital actual, es difícil funcionar de manera integral, dada

nuestra creciente dependencia de Internet, que ha tocado todos los aspectos
de nuestras vidas, incluida la atención sanitaria. Por lo tanto, existe una
necesidad cada vez mayor de verificar y evaluar las fuentes de datos, en
particular las noticias relacionadas con la salud y las enfermedades. Es
imperativo que las comunidades en línea en las plataformas de redes
sociales, como Facebook, YouTube y Twitter, sean conscientes de la
autenticidad de los materiales publicados.

Cámaras de eco y filtros burbuja

En principio, las fake news no son más que desinformación vertida en redes
sociales con la intención de causar incertidumbre, distorsionar la visión de la
realidad y vender ideologías o productos. Lo nuevo está en el diseño de las
plataformas a través de las cuales se difunden y que asegura su proliferación
mediante algoritmos que producen efectos como cámaras de eco y filtros de
burbujas. Su propagación masiva contribuye a confundir los límites entre lo
real y lo virtual, entre la realidad y su interpretación, entre verdad y mentira.

Está surgiendo una retórica basada en estrategias escépticas y relativistas

que juega con miedos y prejuicios propiciando una cultura donde la opinión
pública está dominada por referentes sociales, los denominados influencers,
que dependen de emocionales likes, dando pie a la manipulación social.

LA CIENCIA MEDICA ENFRENTA UNA

CRISIS PÚBLICA DE CONFIANZA. ¿CÓMO
 HACER FRENTE A ESTA CRISIS DESDE LA
CIENCIA?
En la era posverdad, la publicación de resultados falsos en revistas
depredadoras y por autores fraudulentos se vuelve aún más peligrosa para la
salud y la vida de los pacientes, ya que su difusión a través de nuevas redes
sociales es casi imparable y en la percepción pública la verdad está
perdiendo su significado. La comunidad científica ha implementado
contramedidas específicas para minimizar las posibilidades de que se
publiquen resultados falsos. Sin embargo, es aún más importante que cada
participante en el proceso científico asuma la responsabilidad de acuerdo con
su papel. Una orientación hacia los valores que han constituido y formado la
ciencia es útil para cumplir con esta responsabilidad.

El primer objetivo debe ser reconstruir una sólida reputación para las
Ciencias Médicas. En segundo lugar, éstas deben ser una fuente visiblemente
clara y reconocible de conocimiento confiable. Y en tercer lugar, los actores
de la ciencia (médicos, profesionales de la salud, científicos e instituciones)
deben involucrarse en la comunicación del conocimiento científico a la
sociedad, asumiendo la responsabilidad y autoridad de ser expertos en un
campo particular, adaptando su lenguaje para que pueda ser entendido por
el público. Con este fin, debemos estar presentes donde están los debates y
donde se informa a la gente; es decir, deberíamos difundir la Ciencia
utilizando tecnologías modernas de la información (desde wikimedia hasta
redes sociales). Las ciencias de la salud han sido un actor prominente de la
era tecnológica, debemos seguir usándola para mejorar la condición de la
humanidad.

La globalización y los alcances del

neocolonialismo. Ensayo
• J José Luis Tadeo Hernández Culebro
• 11 minutos de lectura
•
 o

Introducción
Hoy en día se puede apreciar cómo los sucesos en la historia moderna han
cambiado la percepción del mundo actual, uno de estos sucesos sin duda alguna es
el de “la globalización” que hoy por hoy vivimos y que ha transformado la
apreciación de factores como: distancia, costos, productos, servicios, cultura y
valores.

Esto se debe a que la globalización acompañada de tecnología ha revolucionado el

mercado y a los sujetos que operan en él, a ciencia cierta sabemos que la
necesidad es la madre de toda creación, posiblemente el uso de nuevas tecnologías
se deba a la necesidad de operaciones que el abrir los mercados trajo consigo.

Es así como con tecnología en un mundo globalizado las distancias se acortaron,

los costos de operación se reducen por la especialización de los países y las
sociedades se ven beneficiadas por la diversidad de productos y la competencia que
estos mantienen, por ejemplo antes una ama de casa que deseaba cocinar una
receta de comida típica, tenía que ir al mercado y conseguir directamente con los
productores los ingredientes para dicha receta, en la actualidad esa ama de casa se
enfrentaría con que ahora se va al supermercado y tiene que elegir de una gran
gama de productos y variedades de los ingredientes que desea para la receta de la
comida típica.

Por ello nace el análisis del presente trabajo con la finalidad de estudiar a fondo los
cambios culturales que el liberismo económico trae consigo, analizando el mismo
ejemplo: Tendríamos que cuestionarnos el por qué ya no se cocina con la misma
frecuencia esa comida típica, la relación que tenía el ama de casa con los
comerciantes de ese mercado, que sin duda alguna llegaba a ser más que un
simple lugar de venta de productos, sino que también eran un lugar social en donde
se dialogaba, planeaba y se intercambiaba cosas propias de la cultura, como
tradiciones, etc.
Otro factor a analizar seria el como el consumismo y posicionamiento de una marca
se adaptó a la cultura, entre otros factores que se analizaran más profundamente.
En primer instancia nos daríamos cuenta que la influencia de una cultura sobre otra
transforma y se fusiona para crear una cultura que no es la original ni la que está
influyendo, si hablamos de una tercer cultura que no es más que una adaptación de
una cultura sobre otra.

Si bien se desea en este escrito hacer el análisis de los cambios en la cultura a

partir de la liberalización del comercio, hay que empezar desde antes del origen de
este suceso, en México se apertura el comercio exterior como tal con el Tratado de
Libre Comercio de América del Norte (TLCAN) que entró en vigor en el mes de
enero de 1994.

Antes de la década de los 90’s si el mexicano promedio quería comprar una

televisión, tenía que conformarse con comprar una marca mexicana, que le ofrecía
una pobre calidad y la tenía que adquirir al precio que la empresa quería, porque la
única competencia tenia restricciones arancelarias y no arancelarias en el país, lo
que elevaba los costos de operación de las marcas extranjeras, y aun que contaban
con una mejor calidad eran mucho más caras, esto dejaba el total control para los
monopolios mexicanos.

Entonces entendemos que un punto positivo de la globalización es la creciente

competencia de marcas y productos que buscan posicionarse con más y mejor
calidad así como con los mejores precios, trayendo al consumidor final un mayor
beneficio. Así como a las economías inversiones extranjeras por tener mano de obra
barata, y recursos primarios al alcance.

Esos y otros factores marcaron a toda una generación y esa generación heredo una
cultura que se está perdiendo con las nuevas generaciones que tienen influencia por
los medios y comunicaciones de otras culturas de diferentes partes geográficas del
globo terrestre.

La globalización no solo impacta a las economías y la forma de gobierno de los

países, si no que se puede ver como una serie de tópicos que envuelven los efectos
de la globalización, si bien podemos interpretar a la globalización como una
máquina, y el objetivo de esa máquina es una mejora en el desarrollo económico de
un país, por ejemplo por la teoría de especialización en la cual un país se dedica a
producir el bien que le sea más rentable para luego comercializarlo.

Uno de esos engranes seria la cultura en las regiones que movería a la producción,
que esta a su vez tiene que mover a las políticas comerciales para adquirir insumos
o comercializar el producto, pero también así necesita de un financiamiento. Por lo
que vemos que entran otros factores como cultura, y la adaptación en respuesta de
la globalización de una cultura.

Un ejemplo de esto es que en ciertas regiones remotas, donde aún no hay tanto
acceso a la comunicación, han empezado a cambiar su vestimenta, y poco a poco
están empezando a modificar sus creencias y la forma de pensar y relacionarse.
ⓘ

Otra ejemplo seria el cómo se adoptan costumbres anglosajonas a su cultura como

lo es Halloween, o la visita de Santa Claus entre otras. ¿Qué tanto afectara la fusión
de culturas?, ¿Sera buena esta fusión?, ¿Cómo podría contrarrestarse la
contaminación de la globalización? Estas y más incógnitas serán tratadas de
contestarse en dicho análisis.

Conociendo al adversario

Cuando el hombre se volvió sedentario y empezó a producir y comercializar,

también se desarrolló y cada vez se fue mejorando la manera en que resguardaban
su estado. En algún momento de la historia un estado descubrió que para sus
intereses se podía apropiar por la fuerza de territorios, como referencia vemos la
época de la conquista, sin embargo esta acción se remonta desde el auge de los
imperios griegos, imperios persas, etc.

El nacimiento del ejercito es un término contemporáneo, y hasta hace poco (con

esto no se busca, dar a entender que ya no sea así.) nos hemos dado cuenta que
una nación ya no hace guerra a otra por únicamente limitarse a ciertas kilómetros de
tierra, si no que el interés de cada estado moderno son los mercados, un país ya no
hace guerra a otro para tener territorio, sino que lo hace para conquistar nuevos
mercados.

Un efecto negativo del liberalismo de los mercados, es la guerra continua para los
mercados, pero para entender mejor este último punto, se tiene que definir primero
¿qué es la globalización? La globalización como tal es un fenómeno contemporáneo
de finales del siglo XIX que se estructura en una mundialización, en otras palabras
un mundo interdependiente, donde cada economía interactúa abiertamente con una
o más economías, ya sea económicamente (tratado, negociaciones, convenios,
compra, venta etc.), culturalmente, políticamente e informáticamente.

Cada uno de estos engranes de la globalización tiene su característica, por ejemplo

la globalización política se enfoca en la interacción y desarrollo de instituciones y
mecanismos a escala mundial, que con la finalidad de velar por temas de relevancia
actual, para buscar la solución que mejor convenga a los habitantes del globo
terráqueo.

Temas como recursos naturales y su agotamiento, medidas de salva guardar la

integridad de los derechos internacionales de todo ser humana, etc.

En cuanto a la globalización informática, se enfoca en el acceso a medios de

comunicación así como la creciente aportación de los avances tecnológicos, los
medios de comunicación llegan a tener una gran influencia en la opinión pública, el
avance de estos medios tecnológicos de comunicación, ha hecho posible que
podamos decir que ya es una minoría las personas incomunicadas.
 La globalización y los alcances del neocolonialismo

En la figura 1.0 se puede apreciar como el uso de internet ha incrementado en los

últimos años, se considera que el internet es el acceso por completo al mundo, la
ventana al mundo intercomunicado e interrelacionado.

Finalmente y no menos importante esta la globalización de la cultura, esta es en la

que prácticamente se basa el ensayo, y tiene que ver con la adaptación de usos,
costumbres y tradiciones sobre él una cultura, desde la perspectiva del autor:

“la adaptación de una cultura no es más que el nacimiento de una cultura diferente a
la original, ya que la influencia de otra cultura hizo que naciera una especie de
mestizaje cultural”.

La interrogantes son, ¿qué tan bueno es este mestizaje cultural?, ¿A dónde llevara
esta fusión? Para responder esas interrogantes hay que tener en cuenta que al
estar interconectados todo esto sucede en cada país, es decir en todos los países la
cultura se está adaptando drásticamente. Esto desde la perspectiva personal del
escritor puede provocar que cada cultura pierda su identidad, para ser una cultura
uniforme con ligeros vestigios de lo que antes eran propias tradiciones, costumbres,
que provocaban sellos de origen de una persona.

Neocolonialismo, la herramienta del capitalismo para

vender
En el trabajo también se menciona, que hoy en día la guerra de los países no es por
territorio si no por mercados. La corona de la globalización se llama capitalismo, el
capitalismo para algunas personas tiene una muy dudosa ética, para otras es la
justa remuneración por las acciones que realizaron, en la opinión del que escribe,
habría que ver de qué lado del cristal están, y como pensarían si estuvieran del lado
opuesto, ¿seguirían condenando o alabando al capitalismo?

Como se hacía mención el capitalismo es la máxima expresión de la globalización, a

tal punto que los estados que se mantienen al margen del capitalismo, son países
que no están tan interconectados, como lo es Venezuela, Cuba, Corea del Norte
entre otros países. Pero habría primero que analizar la definición de capitalismo:
Sistema de organización económica caracterizado por la propiedad privada de los
medios de producción y la utilización del trabajo asalariado.
Por otro lado el capitalismo vuelve a los mercados consumistas para vender mejor el
producto que las empresas e industrias de estas producen. Una herramienta para
esto es el marketing que emplea el crear un deseo que empezó con una necesidad,
por lo que si abonamos la globalización de los medios, la plataforma donde
bombardea a las sociedades para tener influencia en la opinión pública, para así
finalmente posicionarse en la mente de las personas como una opción.

Otra definición para entender la influencia de la globalización es el neocolonialismo,

se basa en la práctica geopolítica que se encarga de utilizar el mercantilismo,
clientelismo político, la globalización económica y el imperialismo cultural de influir
en un país en el que grupos de oligarcas que hablan el mismo idioma y tienen la
misma ciudadanía que los neo colonizados, establecen una elite para dirigir las
poblaciones y apropiarse de las tierras y recursos que poseen.

Mientras que el colonialismo, se caracteriza por un control directo. Así, se emplea la

fuerza militar para la ocupación del país y se establecen colonos procedentes de la
metrópolis en el territorio sujeto a la dominación. (Definiciones extraídas de la
enciclopedia libre).

En el posicionamiento de los nuevos mercados las tecnologías avanzadas juegan

un roll muy importante. Quienes pueden monopolizar las tecnologías de punta no
necesitan recurrir a conquistas coloniales tradicionales, y cuando hablamos de estas
tecnologías nos referimos a las de comunicación principalmente.

El capitalismo, es el medio para neo-colonizar a culturas enteras, ya que impone un

modelo de vida, un modelo de consumo para incrementar sus utilidades. Algunos
especialistas inclusive han concluido con que vivimos una nueva forma de
colonialismo dirigido ahora por las firmas trasnacionales que puede desposeer,
empobrecer y marginar a más gente, destruir más culturas y causar mayores
desastres ecológicos que el colonialismo de antes impuesto por los sistemas
clásicos de dominación colonial.

Desde afectando las tradiciones, costumbres, hasta implementando nuevas que no

eran propias como el Halloween, Santa Claus, pero el claro ejemplo de la imposición
de un modelo de consumo y vida es el día de san Valentín. Una fecha que para
nada existía y figuraba dentro de culturas, ahora se ha visto adaptada a esas
culturas, por el consumismo que se desea establecer, ventas y ventas!, es lo que las
transnacionales desean, mayores utilidades reduciendo costos con la mano de obra
barata y finalmente creando deseos y transformando la manera de satisfacer las
necesidades para incrementar las ventas.

Otra claro ejemplo es la persona que nació en una comunidad incomunicada,

pensando con el sueño americano cambiara su vida(alguien implanto un
pensamiento, ya sea por una charla o comercial, o mensaje en la televisión) se va al
país más globalizado y sumamente capitalista, radica tanto tiempo allá, regresa y la
forma de pensar ya no será propia a su cultura, si no que ya hubo una pérdida de
identidad, esta persona a su vez cambiara el pensamiento de otra, y esa otra de otra
y así sucesivamente. Vemos estos estragos en el norte del país de México, donde
hay pueblos donde casi no hay hombres, y estas personas con tradiciones y cultura
auténticas, se dedicaban a producir la tierra.
Ese es el panorama del México de Hoy, se presumía de ser un país productor, sin
embargo la agricultura está en su peor momento, en donde el productor emigro,
envía remesas y provoca que otros deseen emigrar, terminan vendiendo sus tierras
a extranjeros que compran grandes terrenos y empiezan a producir, finalmente el
que antes era productor vuelve derrotado, y empieza a trabajar para un extranjero
en la tierra que alguna vez le perteneció al productor mexicano.

Conclusión
Sin duda alguna muchos piensan que la globalización es lo mejor que le ha pasado
al mundo contemporáneo, y el que escribe este ensayo, concuerda con ellos. Sin
embargo pienso que debería a ver una fuerte campaña masiva para enseñar a la
sociedad, la importancia que tiene su cultura, ya que esto le da identidad y valores.

Tal pareciera que con la globalización de la cultura, el mundo se va a transformar a

una sola cultura, en lo personal pienso que este panorama podría no ser del todo
bueno ya que, una sociedad sin valores es una sociedad toxica, nociva para sí
misma. Un ejemplo de esto es Europa que por la facilidad de tránsito y de profesión
del bloque económico, nace de vez en vez un chico, que de nacimiento es
Holandés, su padre es Español, su madre de Francia, sus abuelos Alemanes e
Ingleses, el resultado una mezcla de tantas culturas que no se puede definir en una,
este es el caso de muchos ciudadanos europeos.

Otro caso sería en la sierra de Chiapas, un territorio donde el gobierno es

autónomo, y donde se presume no tener lazos con la globalización, sin embargo las
multas por romper una de las leyes que ellos establecieron, es pagar con rejas de
Coca-Cola, esa empresa transnacional que penetro en ese mercado, que sin duda
los comerciales y manifiestos de la marca puede llegar a ser influyentes en la
opinión de los habitantes de la sierra de Chiapas, México.

Pienso que la influencia de las redes sociales, (que en un futuro puede ser un arma
por lo que se puede hablar de una guerra mundial por las redes ya que es viral) son
determinantes para globalizar e imponer una cultura sobre otra.

Por último la tradición y cultura que se empieza a perder puede ser invaluable,
inclusive puede ser patrimonio de la humanidad, los productos se empiezan a
fabricar en otros lados, hoy podemos ver artesanías mexicanas hechas en China, o
simplemente puede que se haya impuesto una cultura de trabajo distinta a la
conocida.

Web-bliografia