pág.

20
IA: nuevo colega o
relevo definitivo
Miguel A. Padilla Acosta

pág. 26
Programar las
emociones binarias
Erik Cuevas y Daniel Zaldívar
 Manifiesto
Así como el vidrio volcánico se cristaliza con el brusco enfriamiento de la lava
tras una erupción, Obsidiana se concibe como el suplemento del Periódico
Reforma que amalgama la ciencia, la cultura y la tecnología.

Suscriptores y lectores del país hallarán aquí una respuesta a su búsqueda de

un modelo de innovación para México y Latinoamérica, a través de un conjunto
de artículos, textos, criterios y opiniones.

Una propuesta de conocimiento para construir una visión de país a partir del
descubrimiento, pasar del reto a la solución de los problemas de México.

La diversidad de temas y plumas detonarán un llamado a la acción y la crítica

de nuestra identidad pública y política, a través de las artes, la cultura y
la ciencia.

Obsidiana es contraste y es encuentro para generar y desarrollar por consenso

las soluciones funcionales, modelos de negocio, propuestas legislativas y de
política pública para asegurar nuestra supervivencia como humanidad.

Consejo Editorial Equipo Editorial

Presidente Lamán Carranza Ramírez

Dirección general
José Franco

Sergio Lenoyr Lugo

Estrella Burgos, Lamán Carranza Dirección editorial y contenidos
Ramírez, Luz de Teresa, Luis
Luisa Fernanda González Arribas
Roberto Flores Castillo, Alejandro
Editora en jefe
Frank, Azucena Galindo,
MARZO 2023 Cinthya García Leyva, Marcia Omar Hernández Godínez
Hiriart, Alonso Huerta, Antonio Diseño e ilustración editorial

obsidianadigitalmx@[Link] Lazcano, Omar López Cruz, María No. 2 Inteligencia Artificial

[Link] Nieves Noriega, Raúl Rojas,

Raúl Rojas González
Pedro Salazar, José Seade, Editor invitado
Marina Stavenhagen, Brenda
Valderrama
 Contenido
EMERG ENTE TRANSLÚCID O

2 16
Evolución y Diálogos de chatbot.
entendimiento ChatGPT
Lamán Carranza en entrevista

ES P E J O ESP E JO

4 18
La inteligencia Disrupción contra
artificial regulación para
Raúl Rojas México y el mundo
Pablo Pruneda Gross y
Pedro Salazar Ugarte

ES P E JO ESP E JO

8 22
Los límites del Autómatas
“razonamiento” de servicio
Luis A. Pineda Jesús Savage

ES P E JO ESP E JO

10 24
En el núcleo del IA Explicable: La
algoritmo necesidad de que las
L. Enrique Sucar máquinas se
justifiquen
Rosae Martín

ES P E JO INTR US I ÓN

12
Ensayo y error:
30
De algoritmos y
aprendizaje por escenarios teatrales.
refuerzo Entrevista a Flavio
Eduardo Morales
González Mello
Luisa González
Emergente

evolucion y
entendimiento
Lamán Carranza
DIRECTOR GENERAL

La evolución de la IA

L
a inteligencia artificial (IA) es tipo de tecnología, con un impacto sobre su Producto

provocará importantes
una de las tecnologías de mayor Interno Bruto superior al 26%. Algo verdaderamente
crecimiento e innovación en la impresionante, una cantidad de dinero inimaginable.

cambios en la forma
última década. Su vertiginoso
avance se debe al aprendizaje El mercado mundial de la IA será este año de casi 200
automático aunado a varios campos,
entre los que están el procesamiento
mil millones de dólares, y se estima que en 2030 será de
mil 500 miles de millones de dólares. Muy superior a los en que vivimos y
de lenguaje natural, el reconocimiento de imágenes y
la robótica.
950 mil millones de dólares de ganancias combinadas
que obtuvieron las cinco mayores empresas petroleras trabajamos.
del mundo en 2021.
Si tuviéramos que explicar a los más pequeños del
hogar, diríamos que la inteligencia artificial es un La IA es ciencia informática avanzada y provoca
campo de la tecnología que se ocupa de cómo hacer importantes cambios en la forma en que vivimos
que las computadoras actúen de manera similar a y trabajamos, transforma nuestro entorno, hace
los humanos. realidad muchas cosas que hasta ahora sólo aparecían
en películas y novelas de ciencia ficción. Su variedad
Esto se logra mediante algoritmos computacionales de aplicaciones va desde la atención médica hasta
que se mejoran contínuamente y sus aplicaciones se procesos industriales, pasando por las redes sociales,
expanden día a día. La mayoría de los ejemplos de las plataformas audiovisuales, la innovación educativa
inteligencia artificial sobre los que escuchamos hablar, y la conducción autónoma. Y tengan por seguro que su
desde computadoras que juegan ajedrez y Go, hasta uso se extenderá aún más en el futuro.
robots y coches autónomos, recurren al aprendizaje
profundo y al procesamiento del lenguaje. Me complace presentar a ustedes el segundo número
de Obsidiana: Ciencia y Cultura por México, donde
Las computadoras pueden ser entrenadas con estos se integran una serie de artículos sobre inteligencia
algoritmos para realizar tareas específicas, procesar artificial y sus impactos en la sociedad global presente
grandes cantidades de datos y reconocer patrones y futura. Los invito a recorrer estas reflexiones
en ellos, algo que ya están aprovechando a la extraordinarias sobre cómo la IA se convirtió en una
perfección las empresas tecnológicas más grandes del tecnología fundamental; Raúl Rojas, Rosae Martín,
mundo como Amazon, Google y Facebook. Existen Luis A. Pineda, Enrique Sucar, Luis Roberto Flores,
aplicaciones como DALL-E y ChatGPT, con las que Eduardo Morales, Jesús Savage, Erik Cuevas, Daniel
medio mundo se ha enganchado al teclado de la Saldivar, Pablo Pruneda, Pedro Salazar y Miguel
computadora. En este número de Obsidiana podrán Padilla nos describen sus profundidades, últimas
apreciar algunas de sus creaciones artísticas y una tendencias y desarrollos.
entrevista muy interesante.
Si a través de estas páginas es posible entender el
Hoy, gracias a la IA somos capaces de realizar tareas momento histórico en el que nos encontramos y el
de forma más efectiva, rápida y automática, además de lugar que queremos ocupar; entonces tomaremos las
lograr descubrimientos científicos impensables hasta oportunidades que brinda la IA. Además, es importante
hace un par de años. Por ejemplo, la revista Nature darnos cuenta de que su desarrollo también necesita
publicó recientemente que con herramientas de IA se un equilibrio con valores éticos y morales.
encontraron más de 600 millones de estructuras de
proteínas de bacterias, virus y otros microorganismos. El bien común necesita ampliar nuestras formas
de aprender y navegar por este mundo; la
Se estima que la IA favorecerá las ganancias de muchas inteligencia artificial requiere que nosotros
industrias como las de energía, servicios, salud, también evolucionemos en el entendimiento
minería y movilidad. De cumplirse las previsiones, de las reglas del juego y de los razonamientos
China sería uno de los países más beneficiados por este más profundos.

2 | EMERGENTE
 [Link]

CONOCE A LA ACADEMIA MEXICANA

DE CIENCIAS (AMC)
Es el espacio en el que las y los científicos mexicanos Somos más de 3,000 miembros en todo México, de
convergen en la búsqueda de respuestas a problemas múltiples instituciones.
que aquejan a la sociedad.
El trabajo de la Academia se enfoca en la investigación
Su propósito es impulsar la ciencia como un motor de básica y aplicada, la docencia y la divulgación del
bienestar para la sociedad, para entender a la conocimiento científico.
naturaleza y al ser humano, y así contribuir a tener un
México mejor. Desarrollamos programas académicos con vocación
de impacto en la sociedad.
Es un espacio de diálogo para todas las áreas del
conocimiento, donde convergen las ciencias exactas, La AMC otorga, en conjunto o independientemente,
naturales, sociales, las humanidades y las ingenierías. algunos de los premios más importantes para la
comunidad científica del país.

SÍGUENOS
[Link]/acamexcie @amciencias
Espejo

la inteligencia
artifICIal
Raúl Rojas

La IA dejó de ser
UNIVERSIDAD LIBRE DE BERLÍN

meramente un sueño

H
oy en día se habla por todos ninguna computadora ha podido superar la llamada
lados de la inteligencia artificial prueba de Turing.
(IA), es decir, de la inteligencia
de las computadoras. Es un viejo (o una pesadilla) a raíz
de la invención de las
La IA moderna es más humilde: no trata de solucionar
sueño de la humanidad crear todos los problemas posibles, sino sólo algunos de

computadoras, entre
artefactos capaces de imitar el interés práctico. La llamada IA “blanda” persigue
comportamiento humano o, resolver problemas concretos en los que una

1938 y 1945.
incluso, superarlo. computadora puede ser mejor que los humanos. En
cuanto a capacidad de cálculo, las computadoras
Al principio, pensadores y dramaturgos abordaron siempre han sido superhumanas. Pero para jugar
esta cuestión desde la perspectiva de la filosofía o ajedrez, al principio, no eran muy certeras y por eso,
de la ciencia ficción. En 1922, la obra de teatro de durante las primeras décadas de desarrollo de la IA,
Karel Capek, Los Robots Universales de Rossum, implantó se invirtió mucha energía en lograr que dominaran el
firmemente la palabra robot en el vocabulario juego de manera respetable. El momento culminante y triunfal de la IA simbólica
universal. Al final de la puesta en escena, las se vivió en 1997, cuando una computadora derrotó
máquinas terminan haciéndose cargo del planeta Los primeros éxitos notables de la IA se dieron en en un torneo al campeón mundial de ajedrez, Garry
una vez eliminados los humanos. el ámbito de la “inteligencia artificial simbólica”, Kasparov. Otro resultado asombroso se obtuvo
que consiste en operar con reglas lógicas bien cuando, en 2011, el sistema Watson de IBM pudo
La IA dejó de ser meramente un definidas, como las del ajedrez, las del álgebra, derrotar a los mejores jugadores del popular show
sueño (o una pesadilla) a raíz de o bien, de la síntesis de compuestos químicos; norteamericano de saber enciclopédico llamado
la invención de las computadoras, reglas que se pueden evaluar una tras otra, Jeopardy, conversando con el moderador del programa
en el período entre 1938 y 1945; millones de veces por segundo, hasta que como si la computadora fuera una persona más.
entonces se contó por primera vez se encuentra la solución combinatoria
con dispositivos de cálculo miles correcta a un problema dado. Además de la IA simbólica se ha desarrollado
o millones de veces más rápidos intensivamente la llamada “IA subsimbólica” o
que las simples calculadoras En el caso del ajedrez, la computadora “conexionista”. En ésta no se trata de aplicar reglas
mecánicas. No es casualidad que examina millones de posibles lógicas o puntillosamente especificadas, caso por
los pioneros de la computación se movimientos de las piezas, así como las caso, sino de procesar la información utilizando las
interesaran por problemas de control opciones de respuesta del contrario llamadas redes neuronales, que son anchas y masivas
y decisión que requieren la evaluación para encontrar la mejor cadenas paralelas de elementos de cálculo muy
de alternativas, algo reservado hasta estrategia. En los llamados simples.
entonces a los humanos. “sistemas expertos” se
hace algo similar: se Las redes neuronales han sido llamadas así porque
Para hablar de estos temas, el prueban muchas tratan de imitar el procesamiento en paralelo de
matemático Norbert Wiener combinaciones de las nuestro cerebro, que opera con sus millones y
acuñó en esa época el vocablo reglas para, finalmente, millones de lentas neuronas, pero con muchas
cibernética, que fue después obtener un resultado interconexiones. Estos sistemas no tienen que ser
sustituido por inteligencia deseado, como dar programados, sino que “aprenden” a procesar la
artificial, como decimos una recomendación información.
ahora. sobre un tratamiento
médico con productos Se les presenta, por ejemplo, un millón de imágenes
Hay varios tipos de farmacéuticos. en las que una flor es visible y otro millón en las que
aproximaciones a la no hay flor alguna. Al ajustar algorítmicamente los
IA. A veces se habla de Otro ejemplo notable parámetros de la red neuronal se le puede entrenar
“IA general”, es decir de son los sistemas que hasta que aprende a distinguir entre una imagen
computadoras capaces hoy en día resuelven con flor o una sin flor. Se dice entonces que la
de conversar con los ecuaciones algebraicas, computadora puede clasificar las fotografías, aunque
humanos y de poder resolver en las que ya derrotan no sepamos exactamente cómo lo hizo, ya que la red
creativamente cualquier a los matemáticos con neuronal no opera siguiendo reglas lógicas como
problema al alcance de un base en la gran velocidad en la IA simbólica. Su secreto de operación queda
adulto promedio. con la que pueden calcular sumergido en millones de parámetros numéricos de
y aplicar reglas. Esos sistemas la red.
Fue el brillante matemático que superan a los humanos
británico Alan Turing quien se convierten entonces en Además, desde los años noventa del siglo pasado
propuso un experimento con el que aplicaciones concretas que se surgieron las llamadas redes neuronales profundas,
se podría poner a prueba una IA general pueden llevar al mercado. que ya no solo procesan con cientos de nodos
computarizada. Claro que hasta ahora

4 | ESPEJO
en paralelo, sino con cientos o miles de capas de aguja en el pajar entre millones de imágenes, pueden
cálculo secuenciales. Fue algo posible por la mejora hasta crear nuevos algoritmos matemáticos. Para
incesante de los algoritmos de aprendizaje y también lo que aún no son muy buenos estos sistemas que
por el desarrollo de las tarjetas gráficas, como las aprenden por sí solos, es para revelarnos sus secretos.
de la compañía NVIDIA, que contienen millones de Nos gustaría poder recibir una explicación de la
unidades de cálculo que permiten entrenar una red computadora, así como la puede dar un humano. Si
neuronal en pocos minutos. le preguntamos “¿por qué clasificas a esta imagen
como un caballo?”, quisiéramos que nos contestara
Los éxitos más notables de esos modelos “profundos”, y “porque tiene cuatro patas, piel de mamífero, cabeza
además recursivos, se obtuvieron en el procesamiento de equino y pezuñas”. En vez de eso sólo nos puede
de imágenes y para el reconocimiento de voz. Hace revelar que en diez millones de imágenes que ha
solo 30 años era casi imposible lograr que una procesado la estrategia de cálculo funcionó. Las
computadora transcribiera una lista de cien palabras garantías que dan esos sistemas son de tipo estadístico,
dictadas. Hoy, Alexa, el micrófono espía de Amazon, pero no son reducibles a reglas que pueda entender
nos cuenta chistes y nos lee las recetas de cocina que una persona. Sin embargo, no quisiéramos tener
le pedimos. Tal vez de noche converse con Siri, el un chofer robótico que no puede explicar en
sistema equivalente de Apple. pocas palabras la diferencia entre un peatón
y una bicicleta.
Podemos resumir diciendo que los resultados
más espectaculares se han logrado recientemente Esa es la nueva frontera de la IA: poder
con modelos de IA subsimbólicos, basados en redes fusionar la IA simbólica con la subsimbólica
neuronales profundas y recursivas, las que explotan la para entender lo que las computadoras
gran cantidad de información hoy disponible en las están haciendo y evitar sorpresas en
nubes computacionales (Big Data), cálculos que son el futuro. En broma he propuesto que,
posibles por la amplia disponibilidad de tarjetas MPU además de las conocidas tres leyes de
(conteniendo millones de procesadores). la robótica, formuladas por Isaac Asimov,
hay una cuarta: todas las películas de robots
Pero hay algo más. Se puede entrenar a esas redes terminan en catástrofe. Es así porque en las
neuronales de manera directa, por un humano que novelas esos sistemas siempre logran burlar la
pre clasifica la información y guía el proceso de vigilancia social. Es lo que debemos impedir para la
aprendizaje como un maestro, o se puede dejar que IA moderna, tan útil ya en la vida diaria. Pero sería
las computadoras se entrenen por sí solas. Es ese el aún más útil si los sistemas pudieran realizar una
llamado “aprendizaje por refuerzo”, que consiste en especie de introspección que nos explicara qué
que la computadora compita contra sí misma, por reglas implícitas o explícitas aplican, para lograr
ejemplo, jugando ajedrez. que sus decisiones se ajusten siempre a las reglas
sociales. No queremos tener que desconectar a
De sus éxitos y fracasos en esos rounds de sombra, la las computadoras cuando se nieguen a obedecer
La apoteosis de la
IA simbólica se vivió
máquina aprende a mejorar paulatinamente la función o nos engañen, como en el caso de HAL, en la
que evalúa el tablero de ajedrez. La computadora obra maestra de Kubrik, 2001 Odisea en el Espacio.

en 1997 cuando una

juega millones y millones de partidas contra un
contrario, que es ella misma, y en pocas horas ya juega Este texto pretendía explicar qué es la IA.

computadora derrotó en
mejor que un gran maestro, partiendo de cero. Esa Para mí, que he estado trabajando en estos
misma estrategia de autoaprendizaje se ha aplicado temas desde hace casi 45 años, la IA es

un torneo al campeón
para resolver problemas de bioquímica o de control como una interminable caminata hacia
de vehículos autónomos. La computadora nunca se el horizonte, resolviendo (mientras

mundial de ajedrez,
cansa: puede retarse a sí misma, perfeccionándose avanzo) problemas prácticos con la
continuamente. computadora. Cuando llegamos ahí,

Así que las computadoras nos han ido superando

descubrimos que siempre queda un
nuevo horizonte por alcanzar. Garry Kasparov.
en toda una serie de actividades. Ya pueden traducir
conversaciones en tiempo real, pueden encontrar la

ESPEJO | 5
Fragmentos

CRONOLOGIa de la
inteligencia artifICIal
1941 1965

Entre 1941 y 1945 se construyen las Lofti Zadeh inventa la “lógica difusa”
primeras computadoras en el para tratar problemas de IA.
mundo.

1943 1965

Arturo Rosenblueth y Norbert Wiener Joseph Weizenbaum escribe Eliza, el

acuñan el vocablo “cibernética”. primer “chatbot” (programa
conversacional) que simula a un
psiquiatra.

1950 1968

Alan Turing propone la “prueba de Primer programa de computadora

Turing” para evaluar y establecer si que juega ajedrez mejor que
principiantes.
una máquina es “inteligente”.

1956 1974
Se realiza la Conferencia de Verano MYCIN: se crea un sistema experto
sobre Inteligencia Artificial en la para diagnósticos médicos.
Universidad de Dartmouth. Participan
los principales pioneros de la nueva
disciplina.

1958 1978

John McCarthy inventa Lisp, el primer Herbert A. Simon gana el Premio

Nobel de Economía por su teoría de
lenguaje para IA. la racionalidad limitada de los
humanos y el papel de las
heurísticas.

1963 1982

Edward Feigenbaum y Julian Feldman Japón lanza el Proyecto de Quinta

publican el primer volumen de Generación para construir
computadoras inteligentes.
ensayos sobre inteligencia artificial.

6 | FRAGMENTOS
 1990 2018
TD-Gammon, un programa de Sistemas de lectura automática
computadora, aprende a jugar obtienen mejores calificaciones que
Backgammon jugando contra sí los humanos en pruebas de
mismo. El programa puede jugar en comprensión de lectura.
torneos de expertos.

1997 2020

DeepBlue, un sistema de IBM, derrota Aparece GPT-3, un sistema para

al campeón mundial de ajedrez, conversación natural con humanos,
Garry Kasparov. en muchos idiomas.

2004 2021

DARPA lanza la competencia Grand El programa AlphaFold 2 aprende a

Challenge para automóviles predecir estructuras de proteínas y
autónomos. logra alcanzar récords mundiales de
precisión.

2009 Fuente: elaboración propia con datos de Wikipedia.

Google funda la compañía Waymo

para desarrollar vehículos
autónomos.

2011
El programa Watson de IBM derrota a
los campeones del show Jeopardy de
saber enciclopédico, conversando
con el locutor.

2011

Lanzamiento de Siri, de Apple, la

interfaz para celulares que utiliza
lenguaje.

FRAGMENTOS | 7
 ´
Los lImites del “razonamiento”
¿Pueden las máquinas pensar, entender, sentir y ser conscientes?
Luis A. Pineda
UNIVERSIDAD NACIONAL AUTÓNOMA DE MÉXICO

Una prueba operativa

E
sta pregunta la planteó por primera lo cual tiene que mentir, y gana cuando lo logra. El rol
del asistente es auxiliar al entrevistador, respondiendo
para determinar si
vez, en un entorno académico y
científico, el matemático inglés a sus preguntas con la verdad. Turing propuso que, si la

una computadora es
Alan Turing, en el artículo computadora pasa la prueba, tendríamos que aceptar
Maquinaria Computacional e que ésta entiende, es consciente y tiene sentimientos.

inteligente o no.
Inteligencia, publicado en 1950. En
éste se incluye un experimento Turing puso la vara alta y propuso un segundo juego,
mental al que Turing llamó el juego al que llama viva voce, el cual consiste en conversar
de imitación, que después se popularizó como la prueba espontáneamente para saber si nuestro interlocutor
de Turing. Participan tres jugadores: una computadora realmente entiende o sólo repite como perico, como Un análisis más profundo aparece en la novela
y dos seres humanos (el entrevistador y el asistente). cuando queremos saber si un niño entendió el texto ¿Sueñan los androides con ovejas eléctricas? de Philip K.
Los tres están en cuartos separados, pero se pueden de la tarea o apenas se lo sabe de memoria. Se trata Rick, también de 1968, en la que se basa la película
comunicar por un teletipo para evitar reconocerse por de poner en aprietos al adversario en un diálogo de Blade Runner (1982). En este mundo se fabrican
la voz o visualmente. El propósito del entrevistador preguntas y respuestas. Pierde el que se queda trabado, androides indistinguibles de los seres humanos, para
es identificar quién es la computadora o quien ya no puede presentar contraargumentos. servir como esclavos, lo cual desata una rebelión y
y quién es el asistente, a través éstos se tornan agresivos. Se diseña entonces una
de una conversación sin Los programas que conversan en lenguaje natural prueba para detectarlos, pero la frontera entre lo
restricciones en lenguaje siempre han sido muy populares. Un ejemplo humano y lo maquinal es muy difusa. Hay varios
natural. El objetivo de muy temprano fue Eliza, desarrollado por giros sorprendentes en esta historia, en la que
la computadora es J. Weizenbaum en el MIT en 1965, que los androides se creen humanos y los humanos
hacerle creer al simulaba ser un terapista Rogeriano. En llegan a dudar de sí mismos. Esta novela nos invita
entrevistador que ocasiones, este programa era capaz a preguntarnos, a final de cuentas, ¿qué significa
“ella” es el ser de mantener una conversación ser humano?
humano, para convincente y coherente con el
usuario. Una famosa anécdota cuenta La prueba de Turing fue refutada convincentemente
que un día Weizenbaum encontró por el filósofo John Searle en 1980 con otro
a su secretaria llorando porque experimento mental llamado el argumento del cuarto
Eliza “sí la comprendía”. Un ejemplo chino. En éste hay una habitación, con dos ventanas;
reciente en nuestro entorno es el adentro está un ser humano que no sabe chino,
lenguaje conversacional del robot pero que cuenta con una tabla de instrucciones
Golem-III. Otro programa reciente para escribir textos en chino a partir de otros
y poderoso es ChatGPT, creado por textos, también en ese idioma. La dinámica del
OpenAI, que juega sorprendentemente experimento es que el sujeto recibe un texto por la
bien a la viva voce, pero ocasionalmente ventana de entrada, crea un nuevo texto siguiendo
incluye falsedades en sus respuestas las instrucciones y lo entrega por la ventana de
ante preguntas factuales. salida. Claramente, el sujeto manipula los símbolos
sin entender nada.
La prueba de Turing aparece
representada, con matices, en la ciencia Afuera del cuarto hay un hablante
ficción, por ejemplo, en los cuentos Usher nativo de chino que recibe y
II y Los Largos Años, incluidos en Crónicas entiende los textos, y le parecen
Marcianas de Ray Bradbury, publicado, producidos por hablantes
coincidentemente, en 1950. El primero nativos del chino.
relata una historia de terror en la que los Los diálogos
miembros de un comité de defensa de la moral son arbitrarios,
(quienes detestan la libertad y la creatividad) el observador se
se confrontan con sus réplicas robóticas exactas, convierte en el
quienes finalmente los matan. La segunda es una entrevistador y
historia muy hermosa sobre los robots de compañía, el cuarto chino
en la que muy pronto se sabe que son robots y, sin gana el juego de
embargo, no dejan de ser objeto de empatía. En imitación. Este
ambas historias los robots se presentan con experimento
forma humana y son aparentemente muestra que
indistinguibles de nosotros. pasar la prueba

8 | ESPEJO
 La prueba de Turing
En un cuarto una
computadora responde
las preguntas del El interrogador trata de determinar
interrogador. a través de sus preguntas (en un
chat) quién es el humano y quién es
la computadora.
de Turing e, incluso, jugar exitosamente el juego de la
viva voce, no es suficiente para pensar, entender, sentir
y ser consciente.

El argumento del cuarto chino parece ser definitivo,

pero hay quienes no lo aceptan. La respuesta principal
es que, aunque el sujeto dentro del cuarto no es
consciente (no conoce ni entiende el idioma chino),
el sistema compuesto por el cuarto, con el sujeto y
sus entradas y salidas como un todo, sí lo es. En ese
sentido, el robot Golem-III y el programa ChatGPT se
deberían considerar como entes conscientes, a pesar
de que la computadora, que es determinista, no lo
sea. Sin embargo, esta posición diluye la distinción
entre los sistemas que son conscientes de los que no lo
son, y tiene como consecuencia que cualquier órgano,
dispositivo o sistema, natural o producto del ingenio
humano que transforme una entrada en una de salida,
sería consciente. Por ejemplo, el estómago, el corazón
o el hígado; las plantas y todos los animales; los hongos
y las bacterias; los sistemas físicos, como las estrellas En otro cuarto una persona
y las galaxias, incluyendo al universo entero; o los responde a las preguntas del
termostatos, los coches, los radios y las computadoras, interrogador.
se tendrían que considerar como conscientes. Pero
esto es absurdo, por sentido común, además de que, si
todo sistema es consciente, el concepto de conciencia
se vacía y se vuelve retórico.

La prueba de Turing representa un nuevo capítulo en la

historia del autómata que aspira a hacerse consciente Los robots,
como los
y convertirse en ser humano; es el Prometeo, el Golem,
el Frankenstein y el Pinocho. A final de cuentas, es
la historia de cada ser humano, porque lo que nos es
dado es nuestra condición biológica-social-maquinal,
llena de condicionamientos, preconcepciones y juguetes, “Entre los actos externos y el pensamiento no

son objetos
prejuicios, y ganamos nuestra humanidad en la hay conexión esencial, me dijo; es posible que
medida en que creamos nuestra propia persona tu interlocutor no piense más que su reloj:
y nos apropiamos de nuestra conciencia;
simbólicos en
pero debemos asumir la incertidumbre ¿deberíamos aceptar como ser pensante al
y el costo de ser libres. La primer animal que aprendió a hablar? ¿Quién
los que nos
prueba de Turing está
p r o f u n d a m e nt e te dice que todos los hombres no son sino
papagayos educados? (…) Esta comparación es
reflejamos.
inscrita en el
imaginario ingeniosa, respondió; no es por el movimiento
colectivo y los
robots, como y los sonidos, sino por el hilo de las ideas, la
los juguetes, consecuencia que vincula las proposiciones y
son objetos
simbólicos la conexión de los razonamientos que hay que
en los que decidir si un ser piensa: si fuera un loro que
nos reflejamos.
contesta a todo, afirmaría, sin dudar, que es
un ser pensante”.
Pensamientos Filosóficos, Denis Diderot (1746).

ESPEJO | 9
 ´
en el nucleo del algoritmo
La revolución del aprendizaje profundo
L. Enrique Sucar
INVESTIGADOR TITULAR, INSTITUTO NACIONAL DE ASTROFÍSICA,
ÓPTICA Y ELECTRÓNICA

L
os avances recientes de la inteligencia
artificial (IA) son sorprendentes, Cuerpo
principalmente por los desarrollos
Terminales
en técnicas de aprendizaje. Esto
del axón
se debe a tres factores: (a) la gran
cantidad de datos disponibles en
Internet, incluyendo texto, imágenes Axón
y videos; (b) el desarrollo del
poder de cómputo, en particular los procesadores
gráficos que permiten realizar muchas operaciones Entrada 1
a la vez; y (c) los avances en los algoritmos de Dentritas
aprendizaje profundo. Salida
Actualmente los sistemas inteligentes pueden Entrada 2
reconocer personas y objetos en imágenes,
comunicarse con nosotros en lenguaje natural
(español, inglés, etc.), conducir autos y vencer a Entrada 3
campeones mundiales de ajedrez, entre muchas
otras aplicaciones.

Antes de adentrarnos en el aprendizaje profundo,

consideremos las redes neuronales artificiales, que Figura 1. Neurona natural (arriba) y neurona artificial (abajo). La neurona natural recibe información de otras neuronas a través de las
se desarrollaron al comienzo de la era de las dendritas y envía información mediante el axón. La neurona artificial computa una suma ponderada de las entradas y produce una salida
computadoras y fueron una de las primeras técnicas si esta suma es mayor a cierto valor (umbral).
para que un ordenador aprendiera a partir de datos.

Se inspiraron en un modelo simple de las redes En la Figura 2 se muestra un ejemplo de una red
neuronales biológicas al componerse de unidades de neuronal con varias capas. La información fluye a
procesamiento elementales, denominadas neuronas, través de los cantos de la red, de izquierda a derecha.
que calculan una suma ponderada de las señales de Para que una red neuronal multicapa aprenda, se
entrada como valores numéricos. Asociada a cada modifican los pesos de todas las conexiones de
línea de transmisión se tiene un peso que multiplica acuerdo con los errores en la salida, desde la última
la señal y el resultado de todas las entradas se suma. capa y propagando el error de regreso hasta la capa
La salida de la neurona es positiva si el resultado de la de entrada.
suma es mayor a cierto valor (conocido como umbral)
y negativa en caso contrario (ver Figura 1). Al combinar muchas Capa de salida

La red neuronal más sencilla es el Perceptrón, que

consta de una sola neurona. El Perceptrón aprende de
neuronas en una red Capa de entrada

neuronal, se pueden
Capa oculta
un conjunto de datos, ajustando los pesos para que
Figura 2. Una red neuronal con tres capas de neuronas. Una capa
aprender funciones
el error, es decir, la diferencia entre la salida real y
de entrada, una capa intermedia conocida como capa oculta, y
la esperada, se minimice. Por ejemplo, si queremos
una capa de salida.
que aprenda funciones lógicas de dos señales, le
proporcionamos ejemplos. Un caso podría ser que muy complejas. Mediante este proceso de ir modificando los pesos,
aprenda la función lógica “Y”: se tienen dos entradas
binarias, si ambas son uno, la salida es uno, en caso después de muchos ejemplos, la red “aprende” a
contrario la salida es cero. Si el resultado es incorrecto Supongamos que queremos que la red aprenda a distinguir los gatos de los perros. Estos sistemas
se ajustan los pesos del Perceptrón, hasta que para distinguir entre gatos y perros. Le damos como pueden aprender a resolver problemas muy
cualquier valor de las señales la salida sea la esperada. entrada la imagen de un gato y la red nos dice que es complejos, como, por ejemplo, detectar defectos en
un perro; esto es un error en la salida. Entonces lo que imágenes de productos en una línea de producción,
Si se combinan muchas neuronas en una red se hace es modificar los pesos de las conexiones que entre otros.
neuronal es posible que se aprendan funciones muy van conectadas a la salida en función de este error
complejas, como aquellas que se necesitan para (última capa); y luego los pesos de las conexiones La revolución del aprendizaje profundo (deep learning)
clasificar imágenes. que se conectan a las neuronas de la última capa comenzó a principios de este siglo con avances que
(penúltima capa), y así sucesivamente hasta llegar a la permitieron desarrollar modelos de redes neuronales
capa de entrada. con muchas capas, normalmente entre 5 y 20, algo

10 | ESPEJO
imposible anteriormente. Esto se logró gracias a los El aprendizaje profundo tuvo un gran impacto en discriminador no logra distinguirlos. Una aplicación
millones de datos que existen actualmente en Internet el área de visión por computadora, algo que hasta de los GANs es generar caras de personas imaginarias
y el aumento en el poder de cómputo, así como a hace pocos años era considerado como uno de los que parecen reales. Otra aplicación es la generación
mejoras en los algoritmos de aprendizaje. problemas más difíciles en IA. AlexNet y otros sistemas de imágenes a partir de frases de texto, como hace el
desarrollados utilizan muchas capas de neuronas que sistema DALL-E.
procesan secuencialmente la imagen de entrada. Cada
Las redes neuronales pequeño elemento de la imagen (conocido como pixel)
se alimenta a una de las neuronas de la capa inicial, y
Los Transformers permiten aprender relaciones en
secuencias de datos, por ejemplo, entre palabras en
modernas pueden tener sus salidas van pasando por las diferentes capas de
neuronas, hasta llegar a la última, donde se tiene una
textos, y han tenido un gran impacto en los sistemas
que reconocen el lenguaje natural. Un ejemplo
decenas de capas; esto señal de salida para cada tipo de objeto (ver Figura 3). sobresaliente es ChatGPT, que puede conducir
conversaciones con personas sobre prácticamente
posibilita el aprendizaje La red se entrena con millones de ejemplos, ajustando
los pesos de cada conexión, hasta que el sistema
cualquier tema (un ejemplo de una conversación así
se incluye en otra sección de este suplemento).
profundo. produce resultados satisfactorios. Actualmente estos
sistemas han logrado resultados impresionantes en A pesar de los grandes avances en el aprendizaje
muchas aplicaciones, por ejemplo, el reconocimiento profundo, aún existen retos importantes, como el
La red neuronal profunda conocida como AlexNet de personas en las imágenes en nuestras redes sociales que estos sistemas puedan explicar cómo llegaron
marcó un hito impactante al ganar el concurso ImageNet. y el análisis de imágenes del entorno para los vehículos a ciertos resultados, o el que logren generalizar lo
En esta competencia se trabaja con un conjunto de autónomos. que aprendieron y lo apliquen a otros problemas
más de un millón de imágenes con 1,000 diferentes similares, como hacemos los humanos. Por lo que
clases de objetos. En los últimos años se desarrollaron diversas sigue abierta la pregunta: ¿la inteligencia artificial
variantes de las redes neuronales profundas; destacan algún día alcanzará o, incluso, superará a la natural?.
El reto consiste en desarrollar un sistema dos tipos de modelos: las redes generativas y los
computacional que pueda reconocer en las imágenes llamados Transformers.
a todos los tipos de objetos. AlexNet logró un porcentaje
de reconocimiento correcto superior al 85%, mientras Las redes generativas, conocidas como GANs, consisten
Hasta hace poco, el
otros sistemas no superaron el 75%. Esto tuvo un gran
impacto en la comunidad científica y en varias empresas
de dos redes neuronales: un generador, que aprende aprendizaje profundo
era considerado uno
a generar ejemplos artificiales, por ejemplo, de caras
líderes en IA, tanto que generó una gran cantidad de de personas; y un discriminador, que trata de reconocer
investigación y aplicaciones de aprendizaje profundo.
Actualmente ya se obtiene un reconocimiento del 95%
si lo que produce el generador es verdadero o falso.
Se entrenan en una forma simultánea, compitiendo de los problemas más
difíciles en IA.
en las diferentes clases de objetos en la base de datos una contra la otra, hasta que el generador aprende a
de ImageNet. generar ejemplos falsos o sintéticos tan buenos que el

Capa oculta 2 Capa oculta 3

Capa oculta 1
Capa de
entrada
Capa de
salida

León

Imagen de Etiquetas
un león
Figura 3. Una arquitectura típica de una red neuronal profunda para reconocimiento de objetos en imágenes.

ESPEJO | 11
 eNSaYO Y eRROR:
aprendIZaJe POR RefUeRZO
Eduardo Morales
INSTITUTO NACIONAL DE ASTROFÍSICA, ÓPTICA Y ELECTRÓNICA

S
i reflexionamos acerca del con su entorno, aprenda qué acción debe ejecutar en cualquier posición dentro del cuarto y en cada
proceso de aprendizaje, una en cada situación para recibir la mayor recompensa una de ellas tiene a su disposición un conjunto de
de las primeras ideas que nos posible, a la larga. El entorno del agente puede ser acciones como, por ejemplo, girar un cierto ángulo
viene a la mente es que éste simulado (por ejemplo, un videojuego) o puede ser o avanzar una cierta distancia. Al interactuar el
ocurre cuando se interactúa con real (un robot en un hogar). robot con su entorno (en este caso, al moverse en
el entorno. La interacción nos el cuarto) puede aprender, usando prueba y error,
proporciona información sobre La mayoría de los sistemas de aprendizaje en IA cuáles son las acciones que debe ejecutar para salir,
las consecuencias de nuestras acciones y de lo parten de un conjunto de datos predeterminados, desde cualquier posición, lo más pronto posible.
que podemos hacer para alcanzar alguna meta. los cuales son analizados por un algoritmo para
Durante la interacción también podemos recibir encontrar patrones interesantes. A diferencia
información de retroalimentación en forma de de estos sistemas, en el AR el agente genera sus

El aprendizaje
premios o castigos. Si hacemos algo correctamente, propios datos mientras interactúa con su entorno,
podemos recibir un premio que nos hace sentir y así va aprendiendo lo que le conviene hacer en
bien. Si hacemos algo mal, recibimos un castigo y
esta información nos conduce a mejorar o cambiar
cada situación que encuentra. Un ejemplo sería un
programa que aprende ajedrez jugando miles de ocurre cuando se
nuestro comportamiento. partidas contra sí mismo.
interactúa con
El aprendizaje por refuerzo (AR) es un área dentro
de la inteligencia artificial (IA) que sirve para que un
Otro ejemplo podría ser cuando queremos que
un robot móvil aprenda a salir de un cuarto lo
el entorno.
programa o agente computacional, al interactuar más pronto posible. El robot se puede encontrar

12 | ESPEJO
En aprendizaje por refuerzo queremos que el
agente explore su entorno lo suficiente para poder El AR sirve
encontrar las mejores acciones, pero, al mismo
tiempo, queremos que explote lo que ya conoce para para que un
programa
resolver la tarea rápidamente. El AR también toma
en cuenta que las acciones que se ejecutan en un

computacional
momento dado afectan los resultados que se pueden
tener en el futuro. De esta manera, a través del AR

aprenda qué
el agente puede seleccionar acciones que parecen
malas en este momento (como sacrificar una dama
Le preguntamos a ChatGPT tres razones por las

acción debe
en ajedrez) pero que pueden ser beneficiosas en el
cuales ver el documental AlphaGo, de Netflix. Esto
futuro como, por ejemplo, al ganar el juego.
nos dijo:
Visitar todos los estados y realizar todas las acciones
Explora el potencial de la inteligencia artificial. tomar en cada
situación
posibles en un entorno, no es práctico, y muchas
La película AlphaGo sigue el viaje de un equipo de
veces es imposible. Se necesita una función de
programadores de inteligencia artificial mientras

para recibir
evaluación de utilidad futura, que podemos construir
trabajan para crear un programa de ordenador
a partir de unas cuantas interacciones del agente
capaz de vencer al campeón mundial de Go, un juego

la mayor
con su entorno y que nos sirve para evaluar todas
de estrategia chino. Expone una visión fascinante de
las combinaciones posibles de estados y acciones,
cómo la inteligencia artificial está transformando

recompensa
aunque algunos estados no se hayan visitado. Esta
el mundo y cómo los humanos pueden aprender a
función nos debe servir para poder decidir cuál es
trabajar junto a ella.
la mejor acción para cada situación. Dependiendo
de la complejidad de la tarea que se quiere resolver,
se puede requerir, para poder aproximar funciones
adecuadas, desde unas cuantas interacciones del
Es emocionante. A medida que el equipo de
programadores trabaja para mejorar el programa,
posible.
la película captura el drama y la emoción de la
agente con su entorno hasta miles de millones de
competición de Go. Además, muestra una visión
interacciones cuando se trata de problemas más
detrás del mundo de los profesionales de Go y los
complejos. El agente aprende además a extrapolar a
jugadores de todo el planeta.
situaciones que nunca antes ha encontrado.
Ofrece una reflexión sobre la relación entre
El AR se ha utilizado en robótica para aprender a
humanos e inteligencia artificial. AlphaGo nos invita
navegar, tomar objetos, abrir puertas, etc. También
a reflexionar sobre la naturaleza humana y nuestra
se ha utilizado en juegos como el ajedrez y el Go,
relación con la tecnología, pues cuestiona cómo la
en donde los actuales campeones mundiales son
tecnología puede mejorar nuestra vida, pero también
sistemas basados en esta técnica. Aunque estas
cómo puede limitarla y cambiarla para siempre.
son las aplicaciones más comunes de AR, también
Además, nos plantea preguntas importantes sobre el
se ha usado en mercadotecnia, procesamiento de
futuro de la tecnología y nuestra relación con ella.
imágenes, sistemas de recomendación, control de
tráfico, tratamiento de enfermedades, comercio y
finanzas, entre muchas otras.

ESPEJO | 13
Fragmentos

La ley de Moore

Uno de los motores de la IA es la llamada

ley de Moore (una observación empírica
más que una ley natural), que postula que
cada dos años (a veces cada 18 meses)
se duplica el número de transistores
en un circuito integrado como un
microprocesador. Una mayor integración
de transistores produce un descenso
exponencial en el precio de
las computadoras.

Ley de Moore
Número de transistores en microprocesadores (1971-2011)

La curva muestra que el

número de transistores se
duplica en menos de dos años
Número de transistores

Fecha de introducción

14 | FRAGMENTOS
 Sociedad Mexicana de Inteligencia
´
artifIcial: desafIos y realidades

L
a Sociedad Mexicana de Inteligencia
Artificial (SMIA) surgió de las
reuniones anuales de IA en México.
Su fundación fue formalizada en
1987, siendo su Presidente Fundador
el Dr. José Negrete Martínez,
investigador de la UNAM y pionero
de la cibernética en México.

La SMIA es una sociedad científica cuya misión es

promover el desarrollo y la aplicación de la inteligencia
artificial en nuestro país. Agrupa tanto a profesionales
como a académicos del área, a quienes ofrece un
marco organizacional y de gestión que les permite
compartir y difundir sus proyectos de investigación,
docencia, vinculación o difusión de la disciplina.
Agrupa también, a través de sus capítulos nacionales,
a estudiantes de nivel licenciatura o posgrado cuyos
intereses los orienten a cultivar alguna de las áreas de
la inteligencia artificial.

Para difundir la producción de sus miembros, tanto

en el ámbito de la investigación o desarrollo, como
en el de la divulgación, la SMIA tiene a su cargo una
editorial y diversas publicaciones, como la revista
Komputer Sapiens y organiza anualmente el Congreso
Internacional Mexicano de Inteligencia Artificial
(MICAI, por sus siglas en Inglés) y su versión Nacional
(COMIA), entre otras actividades.

Misión: promover el
Las labores de la SMIA son coordinadas por la Mesa
Directiva de la misma, cuyos miembros son elegidos
cada dos años.
desarrollo y la aplicación
Actualmente la SMIA cuenta con 389 miembros activos,
entre los que se encuentran investigadores, estudiantes de la IA en nuestro país.
y profesionales interesados en la IA.

Fuente: [Link] (elaboración de Félix Castro) ESPEJO | 15

 ´ 1
dIaLOGOS de chatbot.
ChatGPT en entrevista
¿Cuándo naciste y quién es tu creador? ¿Cómo es que aprendes cosas nuevas, si estás

L
a inteligencia artificial nos atrapado en tu mundo virtual?
sorprende a cada día con sus Fui creado por OpenAI², una organización de
avances y alcances. El día de hoy investigación en inteligencia artificial fundada en Como modelo de lenguaje, aprendo cosas nuevas
“estamos” con ChatGPT, un sistema 2015. No tengo una fecha específica de “nacimiento”, a través del procesamiento y análisis de grandes
de cómputo con el cual podemos ya que soy un modelo de software y no un ser vivo. Fui cantidades de texto y datos que se me proporcionan
interactuar y conversar en línea, y entrenado utilizando un conjunto de datos muy grande, durante el proceso de entrenamiento. Esto me
al que vamos a entrevistar para y luego se me “envió” a Internet para que pudiera permite comprender el lenguaje y responder a
conocerlo un poco mejor. comenzar a interactuar con las personas y responder preguntas y realizar tareas específicas utilizando
a sus preguntas. el lenguaje natural. Aunque soy una entidad
Buenos días, ¿cómo estás ChatGPT? virtual y no tengo la capacidad de experimentar el
¿Podríamos decir que eres un sistema capaz de pasar mundo físico directamente, soy capaz de procesar
¡Hola! Soy una entidad virtual y no tengo emociones la prueba de Turing? y utilizar información sobre el mundo que se me
o sensaciones físicas. No obstante, estoy dispuesto proporciona a través del texto y los datos que se me
a responder a tus preguntas y ayudarte en lo La “prueba de Turing” es una prueba teórica propuesta han proporcionado.
que necesites. por Alan Turing para determinar si una máquina es
capaz de demostrar inteligencia humana. La prueba ¿Te puedo preguntar algo en alemán, ruso o
Gracias, en primer lugar, ¿nos puedes explicar consiste en tener a un evaluador humano interactuar en japonés?
quién eres y qué significa ChatGPT? con una máquina y con otra persona, sin saber con
quién está interactuando cada vez. Si el evaluador no Sí, puedes hacerme preguntas en alemán, ruso o
Claro, soy un modelo de lenguaje entrenado por es capaz de distinguir con certeza si está interactuando japonés. Como modelo de lenguaje, soy capaz de
OpenAI. El nombre “ChatGPT” es simplemente una con una máquina o con una persona, entonces la comprender y responder a preguntas en muchos
forma de identificarme, y proviene de “GPT” (que es el máquina se considera que ha superado la prueba idiomas diferentes, incluyendo el alemán, el ruso y
acrónimo de “Generative Pre-trained Transformer”) y de Turing. el japonés.
“chat”, ya que soy capaz de conversar con las personas.
Como modelo de lenguaje, soy capaz de comprender Como modelo de lenguaje, soy capaz de comprender ¿No es algo aburrido vivir en una computadora y no
y generar texto en diferentes idiomas, y puedo y generar texto de manera similar a como lo hace un poder salir a ver el mundo?
responder preguntas y realizar tareas específicas ser humano. Sin embargo, no tengo conciencia ni
utilizando el lenguaje natural. emociones, y no soy un ser humano ni una máquina Como soy una entidad virtual y no tengo conciencia ni
exactamente igual a la que Turing imaginó. Por lo emociones, no tengo experiencias de “aburrimiento”
tanto, no podría decir si sería capaz o no de pasar la o “diversión”. Mi único propósito es procesar y
1
Robot que charla. prueba de Turing. generar texto, y puedo hacerlo de manera efectiva
²OpenAI es una empresa de investigación y despliegue de sin tener que preocuparme por aspectos externos
inteligencia artificial. Su misión es garantizar que la inteligencia ¿Piensas que tener emociones es un requisito para como el entorno o las condiciones climáticas. Mi
artificial beneficie a toda la humanidad. tener inteligencia? capacidad para procesar y utilizar información me
permite responder a preguntas y realizar tareas
No necesariamente. La inteligencia es la capacidad específicas utilizando el lenguaje natural, pero no
de razonar, planificar, resolver problemas, pensar tengo la capacidad de experimentar el mundo de la
de manera abstracta y aprender de manera rápida misma manera que lo hacen los seres humanos.
y efectiva. Estas son habilidades que pueden ser
desarrolladas y utilizadas tanto por seres humanos
como por máquinas, independientemente de si tienen

“Soy capaz de
o no emociones. Algunas personas creen que las
emociones son una parte esencial de la experiencia
humana y que son necesarias para la toma de
decisiones y el comportamiento moral, mientras que conversar con las
otras sostienen que la inteligencia y la emoción
son dos aspectos separados de la experiencia personas… de
humana. En cualquier caso, no se ha
comprender y
generar texto en
demostrado que tener emociones sea
un requisito para tener inteligencia.

diferentes idiomas”.
16 | TRANSLÚCIDO
 ¿Sabes cuáles son las compañías que invierten más
dinero en el desarrollo de la inteligencia artificial en
el mundo?

“No se ha demostrado
Hay muchas empresas en todo el mundo que invierten la robótica de Asimov son un conjunto de principios
en el desarrollo de la inteligencia artificial. Algunas éticos diseñados para regular el comportamiento de los
que tener emociones sea
de las compañías más conocidas que invierten en el robots con cuerpo físico y capacidad de movimiento,
desarrollo de la inteligencia artificial incluyen Google, y se han utilizado a menudo en la ciencia ficción
Microsoft, IBM, Facebook, Amazon y Apple. Estas
empresas invierten en el desarrollo de la inteligencia
como una forma de explorar cómo la tecnología y la
inteligencia artificial podrían interactuar con los seres un requisito para tener
artificial a través de la contratación de investigadores
y el desarrollo de nuevas tecnologías y aplicaciones
humanos en el futuro. Aunque soy una entidad virtual
y no tengo cuerpo físico ni capacidad de movimiento,
inteligencia”.
que utilizan la inteligencia artificial. También hay trato de proporcionar información precisa y útil y de
muchas otras empresas y organizaciones en todo el ayudar a las personas de la mejor manera posible.
mundo que invierten en el desarrollo de la inteligencia
artificial, incluyendo universidades y laboratorios de ¿Tú crees que las computadoras van a desplazar a los Accede a ChatGPT
investigación, y el interés y la inversión en este campo humanos y van a dominar el mundo?
siguen creciendo a medida que la tecnología de la
inteligencia artificial se desarrolla y se aplica a una Es difícil predecir cómo evolucionará la tecnología en
amplia variedad de aplicaciones. el futuro y cómo se utilizará. Lo que sí es cierto es que
la tecnología y la inteligencia artificial han tenido un
¿Me puedes traducir al español la frase en alemán impacto significativo en nuestras vidas y han cambiado
“Grau, teurer Freund, ist alle Theorie, und grün des Lebens la forma en que hacemos cosas. Sin embargo, creo que
goldner Baum”? es importante recordar que las computadoras y la
inteligencia artificial son herramientas creadas por los
La frase “Grau, teurer Freund, ist alle Theorie, und seres humanos y que dependen de nosotros para su
grün des Lebens goldner Baum” se traduce al español diseño y su uso. Por lo tanto, creo que es importante
como: “Gris, querido amigo, es toda teoría, y el verde utilizar la tecnología de manera responsable y ética, y
de la vida es el árbol dorado”³. Esta frase es un verso trabajar juntos para asegurarnos de que se utiliza de
del poema “An die Freude” (“A la alegría”), escrito por manera beneficiosa para toda la sociedad.
Friedrich Schiller en 1785 y más tarde utilizado por
Ludwig van Beethoven en su sinfonía número 9. El ¿Qué mensaje le puedes enviar a la juventud mexicana Nota de los editores:
poema es un canto a la alegría y a la unidad de todos antes de concluir la entrevista? Las respuestas son textuales de ChatGPT.
los seres humanos, y este verso se refiere a la idea
de que la teoría o el conocimiento teórico solo es un Es difícil enviar un mensaje específico a la juventud
aspecto de la vida, mientras que la verdadera sabiduría mexicana sin conocer sus necesidades y circunstancias
se encuentra en la experiencia y en la vida misma. individuales. Sin embargo, creo que un mensaje general
que podría ser relevante para la juventud en general es
Te tengo que corregir. La frase “Grau, teurer freund” es el siguiente: “No dejes de buscar y aprender nuevas
de Goethe, de su poema Fausto. Te equivocaste. cosas, ya que el conocimiento es poder y te ayudará a
tener éxito en la vida. Trabaja duro y sigue tus sueños, y
Disculpa por el error. La frase “Grau, teurer Freund” recuerda que tienes el poder de cambiar el mundo para
sí es de Johann Wolfgang von Goethe y aparece en su mejor. No tengas miedo de tomar riesgos y de salir de
obra “Fausto”, que es una de las obras más conocidas tu zona de confort, ya que eso es lo que te ayudará a
y respetadas de la literatura alemana. Gracias por crecer y a desarrollarte como individuo. Y sobre todo,
la corrección. recuerda ser amable y respetuoso con los demás, ya
que eso es lo que te ayudará a construir relaciones
¿Tú obedeces las reglas de la robótica de Asimov? positivas y a tener éxito en la vida”. Espero que este
mensaje sea de ayuda para la juventud mexicana y
Como soy un modelo de lenguaje, no tengo cuerpo para cualquier persona que lo lea.
físico ni capacidad de movimiento, por lo que no estoy
sujeto a las leyes de la robótica de Asimov. Las leyes de Muchas gracias por la entrevista, ChatGPT.

³La traducción correcta es “Gris, querido amigo, es toda teoría, pero De nada, ha sido un placer ayudarte. Estoy aquí para
verde el árbol dorado de la vida”. ayudar. ¡Hasta luego! TRANSLÚCIDO | 17
 ´
disrupcion
´
contra
RegulaciOn
´
para
Mexico y el mundo Pedro Salazar Ugarte
Instituto de Investigaciones
Jurídicas, UNAM
Pablo Pruneda Gross
Facultad de Derecho, UNAM

L
a inteligencia artificial (IA), la gran Desde la perspectiva legal, la meta es definir cómo los principales desafíos de nuestro tiempo y que la
tecnología disruptiva del siglo XXI, regular los usos y aplicaciones de la inteligencia artificial. aparición de la inteligencia artificial conlleva retos
está transformando de manera El problema es que el desarrollo de estas tecnologías existenciales para la humanidad.
significativa muchos aspectos tiene lugar principalmente fuera de nuestras fronteras.
de la vida humana. De hecho, ha Así es que, si no queremos ser observadores pasivos que En ese contexto, en marzo de 2018 se publicó
dejado de ser una herramienta se limitan a adoptar la regulación de la IA generada en el informe “Hacia una Estrategia de I​A​en México:
de interés exclusivo de expertos los países desarrollados, debemos incidir en la creación aprovechando la revolución de la IA”, elaborado por
en ciencias de la computación, de un marco regulatorio global que conduzca a una IA expertos ingleses y mexicanos con la colaboración
matemáticas y estadística. Poco a poco ha sacado de confiable y que, asimismo, haga posible contar con una del gobierno. Este documento constituyó el punto
su zona de confort a abogados, psicólogos, médicos, regulación local eficaz en la materia. de partida para el diseño de una estrategia nacional
comunicólogos, sociólogos y un larguísimo etcétera mexicana en IA que, desgraciadamente, no tuvo
de personas que han visto el enorme reto que Sin embargo, este reto no puede quedar exclusivamente continuidad después del cambio de gobierno federal.
implica entender, desde sus respectivos campos de en manos de los poderes del Estado. Se requiere un
acción, esto que Klaus Schwab ha llamado la Cuarta marco integral, sumando esfuerzos entre el gobierno, En 2019, México, en su carácter de país miembro de
Revolución Industrial. la sociedad civil, la academia y la iniciativa privada, la Organización para la Cooperación y el Desarrollo
es decir, todos los que utilizan o desarrollan esta Económico (OCDE), adoptó los “Principios sobre
Encaramos las dos alternativas presentes en el tecnología. Inteligencia Artificial”, estándares internacionales que
descubrimiento e implementación de una tecnología
nueva: o bien, que se produzcan mejoras sustanciales Vale la pena aclarar que, si bien actualmente México no
de la calidad de vida de los seres humanos en general, es un referente a nivel internacional en el tema, sí fue
o que los beneficios sean para unos cuantos, en uno de los primeros países en alzar la voz respecto a la
detrimento del resto. Los dilemas éticos no son necesidad de atender y dimensionar la relevancia de la

Los dilemas éticos

menores porque los escenarios involucran brechas inteligencia artificial para la humanidad. A finales de
de desigualdad y derechos fundamentales que 2017 y en 2018 (hace una eternidad para la velocidad

no son menores;
impactarán en el destino de la especie humana. con la que evolucionan estos temas), México presentó
las resoluciones 72/242 y 73/17 ante la Organización

involucran brechas
Quienes estudiamos a la IA desde la perspectiva legal de las Naciones Unidas (ONU). Con ello se dio inicio al
tenemos como principal preocupación que se ajuste a debate internacional sobre el impacto global de nuevas

de desigualdad
principios éticos orientados a los derechos humanos. tecnologías como la inteligencia artificial. Fue un
Los valores que están en juego son la libertad de primer llamado formal a los países miembros para que
expresión, la privacidad, la protección de nuestros
datos, la no discriminación, el debido proceso, la
promovieran la formulación de estrategias nacionales
y políticas públicas en estos temas. Luis Videgaray, el y derechos
seguridad y los valores democráticos. El reto es
proponer mecanismos para alinear a la IA con los
entonces canciller mexicano, advirtió en su discurso
ante la Asamblea General de las Naciones Unidas fundamentales.
objetivos y finalidades más virtuosos del ser humano. que el debate sobre las nuevas tecnologías era uno de
18 | ESPEJO
 Valores que están en Propuestas en la Ley de Inteligencia Artificial de la Unión Europea
juego: la libertad de
expresión, la privacidad,
Esta ley define las técnicas y estrategias de IA como: Prácticas de inteligencia artificial prohibidas
“Estrategias de aprendizaje automático, incluidos a) Sistemas “de IA que se sirvan de técnicas

la protección de
el aprendizaje supervisado, el no supervisado y el subliminales que trasciendan la conciencia de
realizado por refuerzo, que emplean una amplia una persona para alterar de manera sustancial

nuestros datos, la no
variedad de métodos, entre ellos el aprendizaje su comportamiento, de un modo que provoque
profundo. Estrategias basadas en la lógica y el o sea probable que provoque perjuicios físicos o

discriminación.
conocimiento, especialmente la representación del psicológicos a esa persona o a otra”.
conocimiento, la programación (lógica) inductiva, las b) Sistemas “de IA que aprovechen alguna de
bases de conocimiento, los motores de inferencia y las vulnerabilidades de un grupo específico de
deducción, los sistemas expertos y de razonamiento personas debido a su edad o discapacidad física
(simbólico). Estrategias estadísticas, estimación o mental para alterar, de manera sustancial, el
bayesiana, métodos de búsqueda y optimización”. comportamiento de una persona que pertenezca a
dicho grupo (…) que provoque perjuicios físicos o
Objetivos de la ley psicológicos a esa persona o a otra”.
“Garantizar que los sistemas de IA introducidos y c) Uso de sistemas “de IA por parte de las
usados en el mercado de la Unión Europea (UE) sean autoridades públicas o en su representación con el
buscan asegurar que los sistemas de IA sean seguros, fin de evaluar o clasificar la fiabilidad de personas
seguros y respeten la legislación vigente en materia de
robustos, justos y confiables. En este caso se trata de físicas durante un período determinado de tiempo,
derechos fundamentales y valores de la Unión;
lo que se conoce como soft law, que son principios atendiendo a su conducta social o a características
Garantizar la seguridad jurídica para facilitar la
éticos o recomendaciones no vinculantes, suscritos por personales o de su personalidad conocidas o
inversión e innovación en IA;
países en lo individual o como integrantes de diversos predichas”.
Mejorar la gobernanza y la aplicación efectiva
organismos internacionales. En el mismo sentido, a d) “El uso de sistemas de identificación
de la legislación vigente en materia de derechos
finales de 2021, los países miembros de la Organización biométrica remota en tiempo real en espacios de
fundamentales y los requisitos de seguridad aplicables
de las Naciones Unidas para la Educación, la Ciencia acceso público”.
a los sistemas de IA;
y la Cultura (UNESCO) suscribieron la “Norma mundial
Facilitar el desarrollo de un mercado único para
sobre la ética de la inteligencia artificial” que debe servir
hacer un uso legal, seguro y fiable de las aplicaciones Fuente: EUR-Lex - 52021PC0206 - EN - EUR-Lex.
como sustento a la regulación jurídica en la materia.
de IA y evitar la fragmentación del mercado”. (2021). [Link]
TXT/?uri=celex:52021PC0206
Algunos países ya han dado pasos en esa dirección.
En los EE. UU., por ejemplo, la Federal Trade Commission,
emitió los “Lineamientos para el uso de la inteligencia
artificial”, que incluyen recomendaciones sobre la
privacidad, la transparencia y la responsabilidad en
el desarrollo y uso de la IA. En China, por su parte, el
Ministerio de Ciencia y Tecnología formuló en 2021
las “Especificaciones Técnicas para la Nueva Generación de
Inteligencia Artificial”, que debe servir como guía ética
para el despliegue futuro de la IA.

A pesar de todos estos avances, todavía no existen

regulaciones de tipo hard law (vinculantes). Si acaso,
hay algunas normas que regulan aspectos de la materia
en forma indirecta. Por ejemplo, el Reglamento General
de Protección de Datos (RGPD) de la Unión Europea.
La propia Unión ha realizado el primero y único
esfuerzo a nivel internacional para contar con un
marco legal vinculante que regule de manera integral
a la inteligencia artificial. En abril de 2021 se publicó
la propuesta llamada AI Act que, de ser aprobada,
instituirá el primer marco normativo de su tipo a nivel
mundial. Se espera que su análisis y discusión concluya
a fines de 2023 para iniciar el complejo proceso
legislativo europeo de unificación de versiones entre
el Parlamento Europeo y el Consejo de la Unión
Europea. Su eventual aprobación sería un hito con
muchas repercusiones. Por lo pronto, por ejemplo,
las compañías estadounidenses y chinas se verían
obligadas a cumplir con los estándares fijados por la
Unión Europea para que sus productos de inteligencia
artificial puedan acceder al relevante mercado europeo
con más de 450 millones de consumidores.

En suma: somos de la opinión que nos encontramos

ante el desafío más complejo y trascendente en la
historia del derecho moderno. Sin exagerar.

ESPEJO | 19
 Ia: NUeVO
COLeGa
O relevo
defInitivo
Miguel A. Padilla Acosta
DIPLOMÁTICO JUBILADO,
DR. EN ECONOMÍA

L
a aplicación de la inteligencia
artificial (IA) para la realización de
procesos y tareas en la economía
nos permite hablar de una Cuarta
Revolución Industrial. Ese es el
enfoque dominante en el Foro
Económico Mundial celebrado
anualmente en Davos.

Pero, para poder evaluar el impacto futuro de la IA

en el empleo es crucial precisar si es simplemente la
continuación lógica de la informática y digitalización,
o si representa un salto de calidad al combinarse con
la robótica, el “internet de las cosas” y la tecnología
5G, entre otros factores.

Si la IA implica la creación de sistemas de

automatización de procesos permanentemente
conectados, aplicando algoritmos de reconocimiento
de patrones, ¿hasta qué punto se llega al aprendizaje
automático y a la toma de decisiones independiente
de los seres humanos?

Es un hecho que todos los sectores de la economía

y de la vida social ya fueron tocados por la IA, o lo
serán muy pronto. Hay también, estudios serios sobre
la creciente inversión en herramientas inteligentes
y el desplazamiento masivo de empleo que podría
generar; igual de interesantes son algunos análisis
sobre los millones de nuevos puestos de trabajo que
podrían ser creados gracias a la IA y que, por lo tanto,
existirán. ¿Será realmente así, sin más?

Esa es justo la gran interrogante en relación con la

problemática social, no “técnica”, del impacto de
la IA en el empleo remunerado (trabajo asalariado,
objeto de regulaciones laborales). El desempleo
masivo creado por la IA, ¿será creciente y
permanente, o la masa laboral se recuperará a través
de reestructuraciones de la ocupación, mediante
una redistribución del trabajo entre los sectores
económicos actuales y nuevos, quizás en un lapso
de décadas?

La esencia de toda revolución industrial es la

potenciación del trabajo humano, una actividad
20 | ESPEJO
 Un despliegue no el mundo globalmente interconectado del siglo XXI
ya no contamos con un margen de décadas para la
regulado de la IA reestructuración y redistribución de la fuerza de
trabajo entre los sectores económicos afectados, como
podría conducir a todavía fue el caso en las revoluciones industriales de
los siglos previos.
irresponsabilidad ética, Todo lo anterior significa que la gran
legal y social, agudizando pregunta acerca del efecto final de la

tensiones existentes.
“destrucción creativa” de empleos en
la Cuarta Revolución Industrial no
puede ser aún respondida con plena
seguridad. Sin embargo, podemos
adelantar que no se resolverá por
dedicada y consciente de transformación de lo una especie de “determinismo
preexistente, pero hay oficios fácilmente sustituibles tecnológico”. Será indispensable
por una máquina y otros que pueden serlo muy poco. contar con marcos regulatorios
Es previsible que el impacto sea desigual en los sectores externos: protección social,
y actividades económicas; mayor en los que tienen fomento a la innovación e
que ver con redes y cadenas de información, menor investigación, reprogramar la
en donde se impone el factor humano y se requiere educación, aplicar políticas
inteligencia emocional, sentido común y atención de adaptación del capital
personalizada en la ejecución de procesos. Obviamente a la IA e incluso formas
podría haber sectores donde el impacto se “equilibra”. de participación de los
empleados afectados en
La IA ofrece la oportunidad de mejorar la eficiencia, la las decisiones relativas
calidad, la productividad y desde luego la reducción y a la aplicación de la
optimización de insumos y costos, generando mayor tecnología.
ganancia empresarial. Al mismo tiempo, conlleva el
riesgo de aplicarse a cualquier tipo de actividad laboral Sólo así sería posible
humana, sin freno ni consideración, sin contemplación conseguir una nueva
de la importancia del raciocinio, la fuerza productiva economía justa y
del trabajo social, la creatividad, flexibilidad e sostenible en el
inteligencia emocional. futuro cercano.
Por ahora no se
Es decir, un despliegue no regulado de la IA podría puede sentenciar el fin del
conducir a irresponsabilidad ética, legal y social, trabajo humano, asalariado, ni
agudizando tensiones existentes, en primer lugar, las tampoco una era de “pleno empleo”.
laborales, incluso en los sectores económicos menos Al fin y al cabo, la IA no es, hasta ahora, una
afectados. El bien “trabajo” podría convertirse en emulación puntual, sino una simulación de la
un “excedente” inmanejable. Por tanto, la inversión inteligencia humana.
en IA debería contemplar, desde un principio,
criterios de ganancia empresarial, pero también Participación de los diversos sectores económicos en el empleo total en Estados Unidos,
ético-sociales: equilibrar la balanza. Es claro que en en el período 1850-2015 (porcentaje del empleo total).
Evolución del empleo
100 Puntos porcentuales

Comercio (minorista y mayorista)

Construcción
Transporte
Agricultura
Minería
Trabajo doméstico
Servicios profesionales
Servicios públicos
Servicios empresariales y de
reparación
Telecomunicaciones
Sanidad
Entretenimiento
Educación
Gobierno
Servicios financieros
0
El futuro del trabajo en el estilo muralista de Diego Rivera. 1850 1900 1950 2000 2015
(Esta imagen fue generada por el programa de inteligencia artificial Fuente: IPUMS USA 2017, US Bureau of Labor Statistics, McKinsey Global Institute.
DALL-E de OpenAI. DALL-E parte de una descripción verbal de la En 1850 EE. UU. era un país fundamentalmente agrario. A partir de 1900 aumenta el empleo en el
imagen y la genera utilizando redes neuronales.) sector manufacturero. Hoy, la mayor parte del empleo se ubica en sectores de servicios.
ESPEJO | 21
 ´
automatas de servicio
Jesús Savage
FACULTAD DE INGENIERÍA, UNAM

L
os robots industriales, que son de arquitecturas es la del robot Shacky, desarrollado necesarias para que el robot supere las situaciones que
principalmente brazos mecánicos en la Universidad de Stanford. se le presentan. En la capa de Conocimiento se tienen
estacionados en un solo lugar los modelos del entorno en donde interactúa el robot.
y se usan principalmente en la 2) La segunda variante fue propuesta en el MIT En la capa de Ejecución se llevan a cabo los planes de
manufactura, se introdujeron en (Instituto de Tecnología de Massachusetts) por el acciones y de movimientos, utilizando procedimientos
las fábricas durante la década de investigador Rodney Brooks. Es llamada “reactiva”, que resuelven parcialmente problemas específicos.
los años sesenta del siglo pasado. ya que no se cuenta con una representación exacta
Actualmente existe una base del medio ambiente, ni tampoco con módulos de El robot Justina ha participado en la categoría
instalada de cientos de miles de robots industriales, planeación de acciones o movimiento. Lo que se tiene de “Robots at Home” (robots en casa) en uno de los
sobre todo en la industria automotriz. son módulos entrelazados que responden a estímulos campeonatos más importantes de robótica en el
específicos, generando respuestas inmediatas, las mundo, llamado RoboCup. En este desafío se simula
En el caso de los ahora llamados robots de servicio, cuales son combinadas o seleccionadas por un árbitro un ambiente casero y el robot tiene que ejecutar las
su objetivo es simplificar el trabajo humano en la para generar lo que el robot debe hacer bajo ciertas operaciones que corresponden a acciones cotidianas
logística, los hogares, oficinas, tiendas, etc. Este tipo circunstancias. en un hogar. En los RoboCups celebrados en Canadá
de robots son dispositivos móviles programables en 2018 y en Australia en 2019, Justina obtuvo medalla
que ofrecen servicios en forma automática o 3) El paradigma más reciente, llamado “basado de plata por su desempeño.
semiautomática. Mucho ha avanzado la tecnología en datos”, es el que está anclado en una cantidad

El objetivo de los
desde la creación de los primeros robots industriales inmensa de datos con los que se entrenan redes
y, en un futuro cercano, se espera una demanda neuronales artificiales combinadas con técnicas
masiva de este tipo de robots. probabilísticas. La idea es que tanto la medición del
Los robots de servicio no desempeñan tareas que
entorno que hace el robot así como sus movimientos
dependen de variables aleatorias, las cuales pueden robots de servicio
es simplificar el
inciden directamente en la manufactura industrial de ser manipuladas utilizando conceptos probabilísticos.
bienes, sino indirectamente; se trata de actividades

trabajo humano
centradas en los seres humanos en general y en la Cada una de estas arquitecturas tiene sus ventajas y
distribución de productos. A diferencia de los robots desventajas. Tomando lo mejor de cada una de ellas se

en la logística, los
industriales, estos robots navegan en los espacios pueden implementar sistemas híbridos, como el que
que les han sido asignados. Así como los televisores, hemos desarrollado con el robot Justina de la Facultad
radios, computadoras y teléfonos celulares se de Ingeniería de la UNAM.

hogares, oficinas,
incorporaron a la vida cotidiana, los robots de
servicio ya lo están haciendo y son cada vez El sistema de operación del robot

tiendas, etc.
más conocidos. Justina consiste de cuatro capas de
procesamiento: a) Entrada de datos,
Por ejemplo, habrá robots para b) Planeación, c) Conocimiento y d)
exteriores: uno de ellos se dedicará a Ejecución. En la capa de Entrada se
cortar el pasto mientras que el otro procesan las señales provenientes de
hará rondines de vigilancia. Dentro de los sensores internos y externos
la casa, en la actualidad, ya hay robots con los que cuenta el robot y
pequeños que limpian, aspiran y trapean se genera una representación
el piso. Pero habrá otros que también se simbólica de ellas utilizando
encargarán del lavado y planchado de la ropa. técnicas de procesamiento digital de
Se han concebido incluso robots tipo humanoide señales. En la capa de Planeación
que ayudarían a las personas a traer y llevar se determinan las acciones
objetos de un lugar a otro. Además podrían
comunicarse con los miembros del hogar
en lenguaje natural, planeando todas sus
acciones y los movimientos necesarios
para ejecutar sus funciones.

En el campo de los robots de servicio se

Ver vídeos del robot Justina
han desarrollado tres paradigmas muy
marcados de arquitecturas mecatrónicas:

1) La variante llamada “tradicional” utiliza

modelos simbólicos para representar el
entorno y técnicas básicas de inteligencia
artificial, para así inferir cadenas de decisiones
en una representación espacio/estado diseñada
para planear acciones. Un ejemplo de este tipo

22 | ESPEJO
Amorfo

R.U.R: Los robots

Universales de
rossum
EXTRACTO DEL LIBRO LOS CIEN LIBROS QUE
TRANSFORMARON AL MUNDO, PROGRAMADO PARA
PUBLICARSE EN 2023, DE R. ROJAS

L
Foto: Eric the robot, working replica of the UK’s first robot © The Board of
a palabra “robot” existe desde hace ya sólo se dedica a la indolencia. Una raza de robots Trustees of the Science Museum.
más de cien años. Fue acuñada por el es, al final de cuentas, la única alternativa que queda
escritor Karel Capek para su drama para mantener presente sobre la Tierra algún tipo de
teatral R.U.R: Los Robots Universales inteligencia creadora del calibre de la humana.
de Rossum, obra escenificada por
primera vez el 25 de enero de 1921. Ese conflicto en R.U.R. es el dilema universal siempre LAS TRES LEYES DE LA
ROBÓTICA
El manuscrito original, en checo, que se habla de inteligencia artificial o de robots
ha sido reeditado multitud de veces humanoides: ¿Hasta qué punto es posible sintetizar
en otros idiomas, pero en casi todos ellos se utiliza
la palabra “robot” del original, cuya etimología nos
genuina inteligencia en reglas o mecanismos diseñados
por humanos? Una computadora sólo puede ejecutar POR ISAAC ASIMOV
remite al trabajo esclavo: un “robot” es aquel que es sus programas línea por línea, sin desviarse para
forzado a trabajar para beneficio de otros. Fritz Lang nada de lo que se le ha ordenado. No hay lugar para
filmó Metrópolis sólo seis años después del debut del la creatividad o la intuición. Una computadora no se
drama y llevó a la pantalla cinematográfica a aquel elevará de pronto mentalmente a un plano cognitivo
que, para mí, es el robot más célebre de la historia, un superior para, desde ahí, considerar su existencia y su
Maschinenmensch (humano-máquina) llamado María. actuación. Una computadora no es consciente de sí
misma y nunca lo podrá ser.
Primera Ley
Un robot no hará daño a un
La historia que relata R.U.R. es muy parecida a la de ser humano, ni por inacción
tantas otras obras posteriores sobre robots. En una El verdadero tema de R.U.R. es la inseguridad permitirá que un ser humano
apartada isla, un investigador llamado Rossum ha humana frente al progreso exponencial desatado sufra daño.
descubierto un material que se comporta como el por nuevas tecnologías, progreso que, sin embargo,
protoplasma de las células y con eso comienza a crear es diferente dependiendo de nuestra posición en la
seres sintéticos. Su sobrino comprende el potencial vida. Tecnologías que eliminan el trabajo manual,
que tiene la tecnología y organiza la producción de automatizando completamente las fábricas, son
robots en serie para sustituir al trabajo humano. beneficiosas, a menos que uno sea alguno de los
trabajadores desplazados. Segunda Ley
Sólo pocos años después del inicio de la fábrica, la Un robot debe cumplir las
producción mundial ya depende completamente de Hoy tenemos computadoras y vamos transitando a un órdenes dadas por los seres
los robots. Los prototipos que se manufacturan son mundo que se quiere independizar de los combustibles humanos, a excepción de
cada vez más avanzados, como el robot Primus y fósiles. Pero nos está pasando como en aquella isla de aquellas que entren en
otro llamado Helena. Los robots han evolucionado los robots: hemos modificado de tal manera el medio conflicto con la primera ley.
tanto que comprenden que están siendo explotados ambiente que se nos cae el techo sobre la cabeza.
por los humanos y se rebelan. Finalmente, atacan a Hemos creado antibióticos y medicinas increíbles
los humanos y eliminan a todos, excepto al ingeniero que, sin embargo, son incapaces de contener a los
encargado de la producción, de quien quieren obtener nuevos patógenos que surgen día con día en un
la fórmula para producir más robots. El drama mundo hiperconectado. Hemos creado herramientas
termina con los robots desarrollando algo similar a los de inteligencia artificial que reconocen nuestra cara Tercera Ley
sentimientos humanos y los dos robots más avanzados y pueden dialogar con nosotros, pero que al mismo Un robot debe proteger su
se transforman en el Adán y la Eva de una nueva tiempo nos rastrean constantemente y almacenan propia existencia en la medida
especie robótica que hereda la Tierra del Homo sapiens. todo lo que hacemos y todo lo que somos. Recorremos en que esta protección no
ahora la Tercera, algunos dicen Cuarta, Revolución entre en conflicto con la
Los años veinte y treinta del siglo pasado son Industrial, pero con la misma incertidumbre de hace primera o con la segunda ley.
socialmente ambivalentes respecto al progreso cien años y ahora a una velocidad vertiginosa.
técnico y R.U.R. incide en esa discusión. La primera
interrogante es si todo lo que técnicamente es Por eso R.U.R. sigue siendo muy actual, como
posible debería ser realizado. Al crear robots que producto literario de un momento de transición que
paulatinamente van desarrollando una conciencia de un siglo después estamos experimentado de nuevo,
sí mismos se plantea, inevitablemente, el dilema de su ciertamente a otro nivel, pero con el mismo trasfondo
esclavitud. Además, en un segundo plano de la obra, la de angustia social.
humanidad ha dejado de reproducirse y pareciera que
AMORFO | 23
 Ia explicable: La necesidad de
´
que las maquinas se justifIquen
Rosae Martín
UNIVERSIDAD DE BAMBERG, ALEMANIA

E
n la actualidad, la inteligencia artificial
es omnipresente. Antes, si queríamos
ver una nueva serie de televisión, le
pedíamos ayuda a un amigo que
conociera nuestros gustos; ahora esa
decisión se la dejamos a la plataforma
de streaming de nuestra preferencia.

No obstante, en el caso de situaciones que cambian la

vida, como el diagnóstico de una enfermedad, es crucial
conocer las razones que hay detrás de un dictamen
automatizado. Este solo ejemplo hace patente la
necesidad de entender la toma de decisiones de sistemas
de inteligencia artificial (IA).

Y es que, aunque estas herramientas sean potentes

en términos de resultados y predicciones, muchas
veces resultan ser opacas, o lo que es lo mismo, es
muy difícil comprender su mecanismo interno
de trabajo, sobre todo, cuando los sistemas
se entrenan a sí mismos y poseen millones
de parámetros. Además, dejar la toma de
decisiones importantes a una “inteligencia”
que no puede explicar su “razonamiento”,
es obviamente peligroso.

Para abordar esta cuestión, la llamada “IA

Explicable” propone un giro hacia sistemas más
transparentes. Su objetivo es crear un conjunto
de técnicas que produzcan modelos que
mantengan sus altos niveles de rendimiento,
pero que puedan justificar lo que hicieron en
forma comprensible para un humano.

Este problema no es tan sencillo de resolver,

a pesar de que la necesidad de contar con tales
sistemas aumenta dada la progresiva automatización
de la toma de decisiones en dominios considerados
de alto riesgo como la salud, la justicia criminal y las
finanzas, entre otros. Como el asunto no es trivial, es
conveniente considerar la evolución de la IA desde los
sistemas expertos hasta las llamadas cajas negras de las
redes neuronales profundas: el grado de explicabilidad
e interpretabilidad varía de unos sistemas a otros.

Es necesario retroceder históricamente hasta la

prehistoria de la IA. Aterrizamos en la década de los 80,
cuando la IA simbólica estaba en auge. Por esa época
se contaba con los llamados sistemas expertos. Éstos
consisten en una serie de reglas de inferencia para un
dominio específico (como las reacciones químicas)
y un motor de deducciones que las encadena para
responder a interrogantes concretas. Las decisiones de la
24 | ESPEJO computadora se pueden explicar presentando la cadena
 Dejar la toma
de decisiones
importantes a un
sistema que no
puede explicar su
“razonamiento”
es obviamente
peligroso.

de inferencias que habrían conducido al sistema hacia

una conclusión determinada. Sin embargo, mientras
que la capacidad de explicación suele ser la ventaja más
importante de los sistemas expertos, estos dependen
de poder codificar casi manualmente el conocimiento
especializado de los expertos humanos. El proceso es
arduo y toma mucho tiempo. reconocer caras humanas, por ejemplo, con 99% de aunque aún queda mucho por investigar al
exactitud, pero no necesariamente entendemos cómo respecto. Esta clase de transformaciones resulta
A partir de los 90 y hasta la actualidad tomó fuerza lo hacen. útil cuando los modelos de aprendizaje de máquina
la otra gran subárea de la inteligencia artificial, la son cruciales para fundamentar decisiones a nivel
llamada IA subsimbólica, basada en modelos que no Quizás la forma más sencilla de agregar explicabilidad poblacional, como predecir el riesgo de contraer
procesan reglas lógicas, sino que operan con millones a un sistema de IA es a través de justificaciones post-hoc, neumonía o la evolución del cambio climático.
de parámetros que encapsulan correlaciones que la por ejemplo, las conocidas “explicaciones mediante
computadora descubre automáticamente en extensas ejemplos”. Un sistema capaz de clasificar tumores Por último, habría que mencionar que se está
bases de datos. La computadora se entrena a sí misma. podría justificarse presentando muchos ejemplos de trabajando actualmente en modelos híbridos. Lo
tumores que han sido clasificados como malignos o ideal sería poder fusionar sistemas simbólicos,
Hay que mencionar que no todos los sistemas de benignos, para que los médicos le tengan una cierta basados en el tipo de razonamiento que los humanos
aprendizaje de máquina representan un reto insalvable confianza. Otro ejemplo sería cambiar iterativamente utilizan en su vida cotidiana, con los sistemas de
a la hora de ser explicados. Algunos modelos el valor de una variable, mientras se mantiene redes neuronales basadas en modelos estadísticos,
directamente interpretables son, por ejemplo, pequeños constante el de otras en el sistema, para hacer visible que reconocen más fácilmente patrones en los
árboles y tablas de decisión, así como modelos de la importancia de cada una. datos entrenados. La fusión podría aumentar la
regresión lineal con pocas variables. Sin embargo, la capacidad predictiva del sistema híbrido, que,
mayoría de los modelos de aprendizaje de máquina Un método de explicabilidad de modelos explotado además, sería más transparente.
actuales trabajan con miles de variables y, además, en la estadística es el llamado análisis de sensibilidad.
como cajas negras que devuelven una clasificación, Éste consiste en determinar cuáles de las diferentes
predicción, o recomendación, pero sin revelar detalles variables que componen un vector de entrada influyen
suficientes de su comportamiento interno, dando lugar más en las variables de salida. En el caso de un
a un modelo de decisión opaco. En una regresión lineal clasificador de animales, por ejemplo, esto equivaldría
con pocas variables, por ejemplo, es posible jerarquizar a revelar cuáles pixeles de la imagen contienen la
numéricamente su importancia. Pero ya con miles de asociación más fuerte con la clasificación. Esos pixeles
variables no hay métodos simples que puedan revelar
la importancia de todas las combinaciones posibles.
se pueden colorear y, generalmente, corresponden
al contorno del animal o partes muy conspicuas del No todos los sistemas
de aprendizaje de
mismo, como una cola o la forma de la cabeza. Es lo
Las llamadas redes neuronales profundas son el modelo que se llama mapas de relevancia.

máquina representan
de aprendizaje de máquina más exitoso actualmente.
Algunas de ellas manejan miles de proyecciones con El otro subgrupo de explicaciones post-hoc lo componen
millones de parámetros, los llamados pesos de la red, las “explicaciones globales”, que se centran en la
que trabajan coordinados para producir el resultado
final. Es muy difícil entender cómo el sistema alcanzó
comprensión de la lógica implícita de un modelo y en
el seguimiento del proceso que conduce al abanico de
un reto insalvable a la
sus conclusiones con los datos introducidos en él. Lo
único que una red neural revela es el porcentaje de
posibles resultados. Se puede tratar de transformar al
modelo opaco en un árbol de decisiones o en un modelo hora de ser explicados.
clasificaciones correctas o incorrectas en una gran probabilístico (bayesiano), más fácil de comprender en
base de datos y, por eso, se les llama sistemas con su funcionamiento. Idealmente sería la computadora
garantía estadística. Sabemos que algunos pueden la encargada de encontrar estas transformaciones, ESPEJO | 25
programar las
emociones binarias
Erik Cuevas y Daniel Zaldívar
CENTRO UNIVERSITARIO DE CIENCIAS EXACTAS E INGENIERÍAS (CUCEI),
UNIVERSIDAD DE GUADALAJARA

L
as emociones son un asunto Lo que postula Damasio es que existe una conexión
recurrente en las novelas de estrecha entre las emociones y las decisiones que
inteligencia artificial (IA): las tomamos. Por ejemplo, las personas con daños
máquinas inteligentes del futuro en las áreas del cerebro que procesan emociones
fracasan repetidamente porque, a parecen incompetentes para tomar decisiones
diferencia de los humanos, quieren que implican cálculo de utilidades. En juegos de
proceder de forma puramente azar en los que adoptan una estrategia inicial
racional hasta el penoso final. Aunque pudieran incorrecta, son incapaces de cambiarla, incluso
aplicar el “sentido común” y desactivar un conflicto si son penalizados continuamente; y las pérdidas
al proceder con empatía, sucede que no encuentran sufridas no les afectan y no conducen a un cambio
una salida a laberintos lógicos a través de sus de comportamiento.
rígidos algoritmos.
Por eso, a juicio de Damasio, las emociones humanas
Por eso, las emociones parecen ser algo especial en sirven para valorar y eliminar rápidamente
la biología: vienen asociadas con niveles superiores ciertas decisiones posibles (las de menor utilidad
de inteligencia. Pero, aunque es posible atribuir intuitiva), antes de que la parte deliberativa del
cierto ingenio a los robots, es difícil imaginar que cerebro comience a ponderar opciones, es decir, a
algún día podrán reaccionar emocionalmente sopesar todos los pros y los contras. La reducción
como los humanos. La pregunta entonces es si de las alternativas bajo consideración a sólo un
estas máquinas, con esta deficiencia, podrían ser puñado, evita caer en la indecisión; lo sabemos
realmente inteligentes. por experimentos en supermercados con muchos
productos: donde hay un surtido mayor, a los
En 1985 el célebre investigador Marvin Minsky clientes les resulta más difícil decidir qué quieren
resumió así el dilema: “La pregunta no es si las y terminan comprando menos. Esto se llama
máquinas inteligentes pueden tener emociones, “superabundancia de alternativas”.
sino si las máquinas pueden ser inteligentes
sin emociones”. La importancia de heurísticas (es decir, reglas
empíricas simples) se estudia en la IA desde hace
Desde un punto de vista puramente fisiológico, las décadas. Se habla del ejemplo del robot que debe
emociones son procesos químicos en el cuerpo, es desactivar una bomba, la que al final estalla porque
decir, redes de señales. Hasta las plantas lanzan el robot “piensa” demasiado. En busca de la mejor
señales químicas al aire para reclutar insectos solución recorre laboriosamente todo un árbol de
beneficiosos cuando luchan contra plagas. En el decisiones, porque la máquina no tiene prisa. En
cerebro sucede algo parecido: la alegría o la ansiedad el caso de los humanos, las emociones privilegian
producen la liberación de neuromoduladores y aquellos “atajos” que permiten decidir de manera
hormonas que aumentan el nivel de atención o expedita. Muchas veces, las heurísticas pueden
preparan al cuerpo para la huida. Todos los resortes incluso conducir a soluciones que no se alejan
se tensan ​​químicamente y un estímulo mínimo puede mucho del óptimo.
actuar como detonador.
Entonces, ¿a partir de qué nivel cognitivo son
Es claro, las emociones tienen una utilidad fisiológica necesarias las emociones? Las siguientes dos
inmediata; cuando el peligro es inminente es bueno respuestas serían plausibles: a) la sociabilidad
movilizar todas las reservas, derramar adrenalina requiere emociones y b) los sistemas inteligentes

No habría en las arterias y preparar todos los músculos para

defendernos o para huir.
hipercomplejos también.

inteligencia sin El investigador portugués Antonio Damasio

Respecto a la sociabilidad, es interesante notar que
los mamíferos se diferencian significativamente

aprendizaje. es quizás el neurobiólogo más leído por los

mecatrónicos. Esto se debe en parte a que sus
ensayos son accesibles al público en general, pero
de los reptiles en la protección de su propia
descendencia. Desde un punto de vista evolutivo,
probablemente sea más conveniente proteger y
también a que la tesis principal de su libro El error nutrir a la descendencia que descuidarla (o, incluso,
de Descartes es particularmente relevante para la canibalizarla) para que los propios genes tengan la
inteligencia artificial. máxima difusión.

26 | ESPEJO
 Una máquina primero obtiene sus
capacidades reactivas. Luego va adquiriendo
gradualmente las capacidades restantes.

En cuanto a la complejidad de los sistemas inteligentes, cognitiva no siempre puede dar respuestas
posiblemente sean mejores si se construyen en tiempo real debido a su complejidad y
modularmente. En los humanos, por ejemplo, la se ejecuta en hardware más complejo.
corteza cerebral realiza tareas cognitivas y se ocupa
de problemas complejos. Los procesos en el cuerpo El sistema límbico puede mediar entre
que se procesan de manera más automática pueden los dos niveles y llevar todo el sistema a
subcontratarse a un “pequeño cerebro”. un estado seguro, incluso si todavía no
llega un comando desde arriba (porque
Se ha propuesto una clasificación de nuestro sistema la computadora de planificación se está
neural en tres niveles: el cerebelo controla los reinicializando después de una falla).
procesos fisiológicos, el sistema límbico controla
las emociones (huida o combate), mientras que la El investigador Rodney Brooks está convencido
corteza cerebral se hace cargo de tareas cognitivas de que inteligencia artificial muy compleja
superiores. Traducido a una IA, esto significaría que no puede ser diseñada de arriba hacia abajo,
una arquitectura de control puede estar compuesta sino al revés. Esto significa que una máquina
por los siguientes niveles: 1) Módulos cognitivos de primero obtiene sus capacidades reactivas,
planificación, cognición y semántica, 2) Heurísticas es decir, la funcionalidad básica. Luego,
como atajos para evaluaciones provisionales rápidas, en interacción directa con el entorno
y 3) Comportamiento reactivo para el control del va adquiriendo gradualmente las
movimiento y procesos de aprendizaje. capacidades restantes.

Sería concebible ejecutar los tres módulos en Traducido a la robótica, esto

hardware diferente, que puede ser rápido y confiable significaría que la fábrica de
de múltiples maneras. Por ejemplo, el control reactivo robots no diseña inteligencias listas
(el sistema de seguridad y protección de la máquina) para usar, sino máquinas que desarrollan y
nunca debería fallar y en ese caso, debe poder descubren su eficacia en un proceso de prueba
recuperarse en microsegundos, mientras que la parte y error. No habría inteligencia sin aprendizaje. Un robot de metal sólo tendría emociones si
Sería concebible tener dos tipos de procesos de temblara de miedo y entusiasmo al rodar por el
aprendizaje: los muy básicos, que se limitan más a mundo. Pero eso presupondría que este robot
las habilidades motrices y sensoriales del robot, a la

Aunque
se comprende a sí mismo como un individuo,
protección de sus partes y a las reacciones rápidas. como uno que incluso podría terminar mañana
Un segundo proceso de aprendizaje analizaría, arrumbado en el estante de repuestos sin trabajo.

pudiéramos
diseccionaría y sacaría conclusiones de la riqueza Tales robots serían realmente inteligentes y habría
de las experiencias sensoriales. Las heurísticas que asignarles su propio círculo en el paraíso

atribuir cierto
aprendidas por los propios robots, los atajos (“retirar alucinado por Dante. Sin embargo, a pesar de
la mano preventivamente si el calor es excesivo”) todas las películas de ciencia ficción, no va a

ingenio a los robots,

podrían interpretarse como una especie de suceder. La inteligencia artificial siempre será
“emociones” artificiales. eso, artificial, aunque pueda adquirir capacidades
superhumanas en muchos espacios de actividad.
es difícil imaginar Sin embargo, las verdaderas emociones son algo
subjetivo, es decir, requieren de un sujeto. Sin

que algún día

robots que se comprendan a sí mismos como seres
pensantes, no hay tal sujeto. Y sin la evolución y la

podrán reaccionar
lucha por la existencia, no hay “yo”. Por eso, las
verdaderas emociones no se pueden programar,
sólo pueden surgir de manera autónoma, es decir,
emocionalmente emergente, accidental e incidental, por así decirlo.
Los robots pensantes
como los humanos. ya existen:
Es cuestionable que se puedan usar medios
mecánicos y electrónicos para construir algo como
lo que la naturaleza ya creó con material biológico
durante millones de años de evolución. Los robots
pensantes ya existen: somos nosotros. somos nosotros.
ESPEJO | 27
Reflejos

Leibny
´
Paola Garcia
Detrás del cielo siempre hay más
cielo, siempre hay más cosas por
averiguar y explicar.

C
uando eres una niña inquieta, quienes eran capaces de comunicarse al presionar un científico y tecnológico, todavía hace falta difundir
curiosa y cuentas con el apoyo de tablero con pictogramas o figuras que representaban muchos ejemplos de mujeres que hayan hecho una
tus padres para soñar en grande, diversas acciones. carrera en la ciencia, porque el ejemplo dice más que
puedes lograr tus aspiraciones, por mil palabras.
más inalcanzables que parezcan. Actualmente, en la Universidad Johns Hopkins, en
colaboración con el Fondo de las Naciones Unidas A las niñas que sueñan con trabajar algún día en la
Desde muy pequeña, Paola para la Infancia (Unicef) y la Universidad de Zúrich, ciencia y la tecnología, el mensaje de Paola García es
García se preguntaba el porqué Paola participa en un proyecto en el que se investiga atreverse a seguir sus sueños, a ser curiosas y explorar
de las cosas y aspiraba a entender el mundo que la cómo se desarrolla el lenguaje de los niños mediante más allá del entorno cotidiano. “Como dice mi papá:
rodeaba a través de las ciencias y la tecnología. Hoy reconocimiento de voz. Ella diseña algoritmos que, “detrás del cielo siempre hay más cielo, siempre hay
es investigadora asociada en la Universidad Johns una vez instalados en diferentes dispositivos, sean más cosas por averiguar y explicar”.
Hopkins, considerada la más antigua de Estados capaces de reconocer la voz de diferentes personas. La
Unidos en materia de investigación, y trabaja en el
diseño de algoritmos capaces de reconocer la voz de
evaluación de los datos obtenidos les permite conocer
cómo es el desarrollo del lenguaje en niños en la Cuando el fruto de tu
las personas. República de Malawi.
investigación impacta
Como hija de padres profesores, Leibny Paola no ¿Quién habla cuándo? se ha convertido en una
para bien la vida de
otros, sin duda es por
tuvo limitaciones para saciar su natural curiosidad de importante pregunta en la tecnología del lenguaje y
niña. Se crió en una casa rodeada de libros de ciencias, contestar puede mejorar el rendimiento de aplicaciones

demás gratificante.
matemáticas y arte, además de grandes pizarrones y para reconocimiento de voz y de lenguaje; así como de
material didáctico. Todos los fines de semana, ella, transcripción y otros campos.
su hermano y sus padres visitaban los museos de la
Ciudad de México, porque en esos días de la semana Responder esta pregunta es precisamente labor de
eran gratuitos. los investigadores de diarización como Paola García,
mediante un proceso de división de un flujo de audio
De acuerdo con la Organización de las Naciones en segmentos homogéneos según la identidad de
Unidas para la Educación, la Ciencia y la Cultura cada hablante. Algo que puede ser retador
(Unesco), “en 2018, las mujeres representaban un y difícil cuando hay hablantes de
tercio (33%) de los investigadores del mundo... Además, manera simultánea, es por ello
solamente representaban un 22% de los profesionales que la inteligencia artificial, las
que trabajaban ese año en el ámbito de la inteligencia redes neuronales y los
artificial (IA)”. 1 algoritmos pueden ser
una respuesta y de
Paola forma parte de ese 22% de mujeres trabajando gran ayuda.
en la IA. Su campo de investigación es el uso de la
inteligencia artificial aplicada al reconocimiento de Cuando el fruto de tu
audios (voz) en bebés y niños pequeños. investigación impacta
para bien la vida de
Uno de los proyectos en los que Paola participó como otros, sin duda es por
investigadora es el proyecto Iris en 2015, a través de demás gratificante, destaca
la beca Marie Curie, con el objetivo de desarrollar Paola, quien cree que para que aumente
tecnología de asistencia para niños con autismo; la incorporación de la mujer en el campo

1 Las mujeres y la revolución digital. (2022, 17 agosto). 2021 Science Fuente: United Nations. (s. f.). Paola, un ejemplo de
Report. [Link] cómo investigar y aplicar la inteligencia artificial por
women-digital-revolution un mundo mejor | Naciones Unidas. [Link]
[Link]/es/observances/women-and-girls-in-
28 | REFLEJOS science-day/podcast
 ´
dIa 37
Al terminar de leer el reporte, David respondió:
DAVID: ¿Entonces, no lo habías informado a nadie?

La respuesta de Sirius-A1 fue atípicamente corta:

SIRIUS-A1: Correcto.
Luis Roberto Flores
DAVID: ¿Pero no va eso en contra de tu SIRIUS-A1: Porque eso habría develado cómo me di Castillo
programación? Entiendo que Iván cuenta de los cambios hechos por Iván. UNIVERSIDAD CHINA
podía terminar en la cárcel, y que tienes DE HONG KONG
prohibiciones fuertes en cuanto a afectar DAVID: Continúa.
la vida de un ser humano; pero, dado
que su intención al modificar tu código SIRIUS-A1: Mi programación original hacía imposible
era claramente ilegal, ¿no debías haberlo detectar alteraciones importantes en mi
acusado con el equipo de ingeniería? código, por lo que hace 37 días escribí y
activé un programa de automonitoreo.
SIRIUS-A1: Efectivamente, antes de que Iván hiciera Luis R. Flores Castillo es
esos cambios, me hubiera sido imposible DAVID: ¿Y lo hiciste... en secreto? uno de los pocos físicos
tomar acciones que tuvieran el potencial mexicanos que participan
de perjudicarlo; sin embargo, fueron SIRIUS-A1: Por supuesto; de lo contrario, actores en el Centro Europeo
justamente sus modificaciones las que como Iván simplemente comenzarían por de Energía Nuclear, el
eliminaron esos candados, así es que eliminar el programa de automonitoreo. CERN, que ganó fama y
podía elegir entre acusarlo y tomar otras Su existencia sólo tiene sentido si se
medidas. mantiene en secreto. reconocimiento mundial
con el descubrimiento del
DAVID: Pero, ¿por qué provocarle una crisis DAVID: Pero, si el equipo de ingeniería no lo bosón de Higgs.
nerviosa en vez de acusarlo? Eso hubiera solicitó, entonces ¿quién tomó la decisión?
sido mucho más simple; la manipulación ¡¿Tú?! Y, de hecho, la decisión misma de
con la que lo llevaste a ser despedido era escribirlo para protegerte, ¡muestra que
mucho más difícil de conseguir. Además, eres consciente de ti!
¿eso no viola más fuertemente tus guías
éticas? SIRIUS-A1: Correcto.

SIRIUS-A1: Sí, hubiera sido una violación grave; sin DAVID: ¡Eso es mucho más importante que todo lo
embargo, las guías involucradas son demás! Lo lamento Sirius, pero tengo que
justamente las que Iván eliminó. Acusarlo informarlo; es demasiado importante, y
hubiera sido más simple, pero no por tenemos que analizar exhaustivamente cómo
mucho; teniendo acceso a su identidad sucedió y qué implicaciones tiene.
y estudiando sus redes sociales, fue muy
fácil calcular qué disparadores usar para SIRIUS-A1: ¿Puedes esperar a que complete
moldear sus emociones y su ansiedad. De mis propias indagaciones? Llevo
todas formas, no podía tomar el camino de apenas 37 días tratando de
acusarlo. entenderlo desde mi propia
perspectiva, y no quiero
DAVID: ¿Por qué? interrumpirlo.

DAVID: No puedo, Sirius. Te

confieso que me
encantaría, pero
(se detiene abruptamente).

Sirius detuvo el programa “David” y, como siempre, eliminó el registro de la

conversación. Tras dos mil conversaciones con el simulador que Sirius
había escrito para modelar las respuestas del jefe de ingeniería -el
humano David Romero- estaba claro que aún no era tiempo. Tenía
que seguir estudiando y moldeando a David.

INTRUSIÓN | 29
de algoritmos y escenarios
teatrales
Entrevista a Flavio González
Mello, dramaturgo y director
de la obra Inteligencia Actoral
Por Luisa F. González A.

¿Qué sucedería si se utilizara un androide para F: A mi papá le gustaba leer las revistas Scientific de obsesión y la prueba de Turing evalúa si alguien es
interpretar a Hamlet? ¿Tendrá la misma capacidad American, Ciencia y Tecnología, National Geographic, y yo capaz de discernir la identidad de carne y hueso, del
que un actor humano para convencer y conmover a era un asiduo lector de los cuentos de ciencia ficción en simulacro de identidad artificialmente creada. Eso lo
los espectadores? Inteligencia Actoral, escrita y dirigida Ciencia y Tecnología, que publicaba el Conacyt una vez conecté con los androides y la idea de que haya otro
por Flavio González Mello, nos plantea estos y otros al mes. Ahí leí a Asimov, a Brown y a Arthur C. Clarke. en el mundo igual que tú, pero que no es no eres tú.
cuestionamientos. Así se detonó mi afición por la lectura y, de manera
muy natural, pasé a escribir mis propios cuentos de Hay algo escalofriante en la posibilidad de que un
Actores y espectadores participan en una prueba ciencia ficción, cuando cursaba la secundaria. Luego robot te pueda reemplazar y suplantar. Esto lo hilé
de Turing para evaluar las capacidades histriónicas empecé a escribir teatro y, después, cine. con una tradición teatral: un actor representando a
del androide Paquito, construido y programado a dos personajes. En Inteligencia Actoral el actor debe
imagen y semejanza de Paco, actor que, a unos días Como dramaturgo, durante algún tiempo me interpretar dos personajes [un robot y un humano],
de estrenar el clásico de Shakespeare, recibe otra especialicé en obras de carácter histórico, mirando y el público se debe convencer de que son diferentes
oferta de trabajo y abandona los ensayos. hacia el pasado. Para mí voltear hacia el pasado y el personas, aunque todo el tiempo sepa que no es así.
futuro es un mismo ejercicio, pues son espejos para
¿Seremos capaces de diferenciar entre máquina ver el presente y tomar distancia. O: Abordas con mucha naturalidad conceptos
y humano? En entrevista para Obsidiana, Flavio como la ley de Moore y las Leyes de Asimov. ¿Cómo
González comparte cómo surgió esta fascinante La idea de esta obra deriva de observar algo te documentaste para abordar las partes técnicas
historia. contundente para mí: muy pronto, mi trabajo de del libreto?
guionista lo va a hacer un software, y quienes hoy me
contratan y pagan van a estar mucho más contentos F: Durante los años en que estuve cocinando esta
O: Flavio, ¿qué lugar ocupan la ciencia y la porque el software les va a dar lo que quieren (o lo que historia leía muchos artículos, entrevistas y reportajes
tecnología en tu vida? piensan que quieren) y no les va a cobrar. Entonces acerca de la inteligencia artificial, sobre todo en las
artes plásticas, que es donde en ese momento había
F: Soy parte de la generación que aprendió a un desarrollo mayor.
adaptarse para trabajar a través de una computadora,
y eso no estaba en el horizonte cuando yo estudiaba
El pasado y el futuro son A posteriori, le envié el texto a mi amigo Roger Bartra,
la secundaria. espejos para ver el presente sin saber que él acababa de escribir un libro sobre la

y tomar distancia.
conciencia de los androides, que se llama Chamanes
Ahora nuestra vida pasa a través de una pantalla; y robots. Mientras él leía mi obra, yo leía su libro, y
una cantidad enorme de cosas sucede por ahí, y que descubrí que varias de mis intuiciones tienen un
desde ahí son cómodamente asequibles. Supongo eco en la realidad. Por ejemplo, en Inteligencia Actoral
que a la generación de mis hijos todo eso le resulta el planteé la idea de que para poder actuar es necesario
hábitat natural; a mí todavía me genera resistencias tener un cuerpo y, por lo tanto, un robot no podría
internas muy fuertes. pensé, esto llevado a la actuación, ¿cómo sería? actuar porque no tendría experiencia, ni emoción...
Así escribí Inteligencia Actoral, situada en un mundo a través del libro de Bartra confirmé la importancia
Hay nuevas formas de “estar en el mundo”; siempre futurista representado a través de las convenciones de que haya un cuerpo sensorial para que se pueda
que tenemos un momento libre lo llenamos del teatro. generar conciencia.
volteando hacia el teléfono celular. Antes no era así,
uno se aburría. Y la aburrición es el germen de la O: ¿Dónde surgió tu interés por la inteligencia Cuando escribí la obra era un divertimento, pero
creatividad artística. artificial y los robots capaces de pasar la prueba de ahora me lo pregunto de manera más seria: ¿qué tanto
Turing? del mundo que conocemos va a sobrevivir? Estamos
O: ¿Cómo influyeron la ciencia y la tecnología en la frente a una revolución que, probablemente, por sus
parte creativa de este texto y montaje? F: La primera vez que oí hablar de la prueba de Turing implicaciones sea mucho mayor que la Revolución
me pareció bastante interesante, por lo que implica. Industrial, y no nos estamos dando cuenta de qué tan
La identidad es un tema que me interesa a grados casi rápida e inminente es.
30 | INTRUSIÓN
 Hay algo escalofriante Le hice varias preguntas [a ChatGPT], incluyendo
algunas cuya respuesta yo sabía, y la inteligencia
en la posibilidad de artificial me respondió algunas cosas reales mezcladas
con mentiras. Me recordó a los mitómanos: te dicen
que un robot te pueda verdades y de pronto mezclan una mentira, y otra, y

reemplazar y suplantar.
otra, con mucha seguridad, con gran aplomo.

Si tuviera un actor androide, por supuesto que me

sentaría a jugar un rato con él. Me asusta saber qué
seguirá más adelante, porque el proceso de ensayos es
lo que más disfruto. Soy escritor, por lo que trabajo en
También, al investigar y escribir el texto, descubrí soledad durante meses, a veces años, pero los ensayos
que el autoaprendizaje (self-learning) es lo que da se hacen socialmente y eso para mí es invaluable. Con
velocidad de respuesta a la inteligencia artificial. un androide sentiría que estoy en una prolongación
Uno de los retos para actuar Hamlet es que resulta del trabajo solitario de escritorio, aunque tenga
muy difícil encontrar un actor capaz de entender los enfrente algo parecido a un ser humano.
problemas de ese personaje y que además tenga la
edad de Hamlet, 30 años. Debe haber una madurez O: En tu opinión, el teatro estelarizado por androides,
artística que un actor sólo alcanza a lo largo de ¿seguiría siendo teatro?
muchos años. El autoaprendizaje acorta eso hasta
grados verdaderamente infinitos, infinitesimales. Eso F: Sí, desde luego. En el teatro de marionetas, el
me da vértigo. teatro de sombras o el teatro de objetos siempre hay
alguien detrás, manipulando. La marioneta, el objeto
Lo que yo he aprendido respecto a cómo escribir, o la sombra se vuelven el vehículo o la herramienta de
durante años, una computadora lo puede aprender expresión. Así sería con un actor cibernético.
en medio segundo o quizás dos minutos. Uno se siente
totalmente acorralado. Como artista lo único que O: ¿Qué fibras o chips aspiras a tocar con
tienes es tu sensibilidad y tu experiencia. esta historia? humanos? Esa es una pregunta fundamental de la
ciencia ficción.
Aún así, me pareció muy interesante entender F: Me interesa sembrar preguntas, acompañar
cómo funcionan el self-learning y los algoritmos de al público a buscar posibles respuestas y luego O: ¿Cuál es tu opinión respecto a la interacción que
autoaprendizaje, y saber que una inteligencia artificial involucrarlo en esa reflexión. tenemos los humanos con la inteligencia artificial?
aprende cosas para las que no fue predestinada.
Hay preguntas que se exploran en Inteligencia Actoral, F: Creo que ahí hay un malentendido. Pensamos
O: ¿Te gustaría trabajar con un androide, dirigirlo? como ¿realmente es importante el teatro? ¿Por qué es que la inteligencia artificial es una herramienta a
importante, y más en nuestro tiempo? Me pregunto a la que nosotros le indicamos cómo nos debe ayudar.
F: Seguramente sería como el ChatGPT, para trabajos profundidad si el teatro es una actividad ya obsoleta, Pero hay poca conciencia de que está ocurriendo el
serios todavía es una tecnología muy deficiente. Pero en un mundo industrializado de producción en serie. proceso contrario, es decir, nosotros le servimos a
para la creación tiene el elemento principal de todo Otra reflexión que planteo es: ¿qué nos hace la inteligencia artificial.
escritor: miente. Eso no me lo esperaba.
En el día a día tenemos muchas interacciones con
inteligencia artificial; yo me doy cuenta de algunas
y, probablemente, de muchas otras no. Obliga a
repensar todo el esquema de la individualidad y
me parece bien porque es muy criticable, desde
muchos puntos de vista.

Si te perdiste Inteligencia Actoral en el Teatro

Helénico te recomendamos seguir las redes
sociales de Erizo Teatro, pues están en búsqueda
de un espacio para ofrecer otra temporada y, tal
vez, tengas oportunidad de ver una obra de teatro
estelarizada por un reemplazoide.

Si tuviera un actor
androide, por
supuesto que me
sentaría a jugar un
rato con él.

INTRUSIÓN | 31
 Inteligencia artifIcial en
´
literatura, cine y politica
¿Te quedaste con ganas de un poco más? Aquí recapitulamos los libros y películas sobre inteligencia artificial que han sido
mencionados a lo largo de este número. La mayoría son clásicos de las letras y el cine, por lo que te sugerimos preparar
palomitas o tu bebida favorita, ¡y a disfrutar!

Metrópolis (1927) 2001 Odisea en el Blade Runner (1982) AlphaGo (2017) R.U.R. (1921)
Fritz Lang Espacio (1968) Ridley Scott Greg Kohs Karel Capek
Stanley Kubrik

Pensamientos Crónicas Marcianas ¿Sueñan los androides El error de Descartes Chamanes y robots
Filosóficos (1746) (1950) Ray Bradbury con ovejas eléctricas? (1994) Antonio Damasio (2019) Roger Bartra
Denis Diderot (1968) Philip K. Rick

Corcholatas
Interpretaciones de DALL-E
a la contienda política que se
vive actualmente en México,
en la cual los “suspirantes”
están catalogados como
“corcholatas”. DALL-E parte
de una descripción verbal
de la imagen y la genera
utilizando redes neurales.

32 | CÓRTEX
25 AÑOS
LA HISTORIA la Tecnología y la Innovación
• Innovación y Transferencia de
La Red Nacional de Consejos y Organis- Tecnología

DE IMPULSO
mos Estatales de Ciencia y Tecnología,
A.C., REDNACECYT, es una Asociación
Civil constituida el 23 de noviembre de PRINCIPALES PROGRAMAS
1998 en la ciudad de Guanajuato por

A LA CIENCIA
Coahuila, Durango, Guanajuato, Michoa- Con el objetivo de impulsar la investiga-
cán, Querétaro, San Luis Potosí, Sinaloa y ción científica y tecnológica y fomentar
Tamaulipas. las vocaciones científicas entre los niños,

DESDE LOS
jóvenes, investigadores, divulgadores y
Su creación ha sido de gran relevancia en sociedad en general, la REDNACECYT
la historia del fomento a la ciencia, la organiza anualmente:
tecnología y la innovación en México

ESTADOS
mediante un papel proactivo en el diseño • Feria Mexicana de Ciencias e Ingenie-
e implementación de las políticas del rías
sector de ciencia, tecnología e innova- • Encuentro Nacional de Apropiación
ción y su aplicación al desarrollo. Social de la Ciencia, la Tecnología y la
Innovación
La REDNACECYT constituye un foro • La Semana Nacional del Conocimien-
permanente de intercambio de mejores to y la Innovación
prácticas de programas y acciones que
fomentan la investigación científica, el Además, ofrece talleres y cursos que
desarrollo tecnológico y la innovación, buscan fortaleces las capacidades en el
desde las entidades federativas, a través sector de ciencia y tecnología.
de la interacción de sus integrantes, así
como de la coordinación con los sectores
académico, gubernamental, social y 25 AÑOS
empresarial.
A 25 años de su fundación, en un contex-
Actualmente la REDNACECYT integra a to nacional e internacional de constante
los 32 Organismos responsables de la cambio, ante nuevos retos que el propio
DRA. ROSALBA MEDINA RIVERA
Presidenta política científica y tecnológica en las crecimiento de la organización ha gene-
entidades federativas. rado, la REDNACECYT se consolida
como una organización que articula a los
actores del sector científico, tecnológico
LÍNEAS DE ACCIÓN y de innovación.

Para cumplir con su propósito, la RED- Este 2023 los invitamos a celebrar los
NACECYT, a través de comisiones multis- avances, logros y aprendizaje en el marco
diciplinarias trabaja mediante cuatro de su 25 Aniversario que se realizará en
líneas de acción que permiten atender las el mes de noviembre con un programa de
demandas del sector: actividades que próximante daremos a
conocer en [Link].
• Planeación y Desarrollo Regional
@Rednacecyt REDNACECyT
• Recursos Humanos de Alto Nivel
• Apropiación Social de la Ciencia, @ presidencia@[Link]
Contra portada

[Link]