Revista Desiderata / Nº.

22 / 2023 / Artículo

Artículo
ChatGPT: La creación automática de contenidos con
Inteligencia Artificial y su impacto en la comunicación
académica y educativa

Julio Alonso Arévalo / Universidad de Salamanca (España) / alar@[Link]

Pocos temas han generado más tinta en los últimos meses que la aparición de los
sistemas de respuesta Generative Pre-trained Transformer (GPT) basados en Inte-
ligencia Artificial (IA) que, a través de modelos de aprendizaje automático, están
revolucionando la capacidad de crear textos. Especialmente, desde la aparición a
finales de año de ChatGPT, de la empresa OpenAI, un chatbot de código abierto
lanzado en noviembre de 2022 que utiliza el modelo de lenguaje GPT-3 para ge-
nerar respuestas a las entradas del usuario. Puede utilizarse para crear chatbots de
atención al cliente, marketing u otras aplicaciones. Pero también sirve para generar
textos por inteligencia artificial a partir de datos estructurados (Carpenter, 2023).

136
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
¿Cómo funcionan? El aprendi- depurar código, y responder con- positivos, las consecuencias pro-
zaje automático y los chatbots sultas. Lo que hace la aplicación bablemente devienen de cómo se
es recoger información y datos de utilicen. Por ello los investigadores
El aprendizaje automático se pro- millones de sitios web a partir de deben de ser transparentes recono-
duce cuando una aplicación pue- textos estructurados para generar ciendo que el uso de herramientas
de aprender y mejorar a partir de nuevos contenidos aparentemente como chatGPT sean coherentes
los datos y la experiencia, sin es- tan coherentes como si hubiesen con las normas de la comunidad
tar programada para ello y con un sido escritos por una persona. Lo investigadora (Lund et al., 2023).
contacto humano mínimo o nulo. cual está suscitando la consecuen- De manera que, si se utiliza una
Estos sistemas, aunque empeza- te preocupación de que herramien- herramienta de este tipo, por ejem-
ron a funcionar hace más de una tas basadas en IA como ChatGPT plo para analizar datos, los inves-
década, han avanzado vertiginosa- puedan ser utilizadas por personas tigadores reconozcan la atribución
mente en los últimos años. Como o empresas sin escrúpulos. Desde o mérito correspondiente. Lo que
un buen ejemplo de todo ello tene- estudiantes que la utilicen para implica que los comités científicos
mos las capacidades que tienen ac- crear un trabajo académico, hasta también tengan constancia de las
tualmente los traductores en línea investigadores que a partir de una capacidades de estas herramientas
como DeepL. serie de palabras logren generar para poder detectar malos usos de
textos que puedan ser admitidos estas.
Los sistemas chatbot de IA se ba- como originales por los comités de
san en grandes modelos lingüísti- revisión científica o pares. De hecho, en la actualidad ya po-
cos. Un modelo lingüístico es una demos encontrar más de 200 títu-
técnica de aprendizaje automático Chatbot, educación e impacto los en Amazon que han sido ge-
que utiliza una gran cantidad de académico nerados por ChatGPT, en muchos
textos disponibles, como artícu- de los casos la edición digital de
los de Wikipedia y PubMed, para En palabras del consultor y acadé- estos es gratuita, y sí cobran en la
aprender patrones y generar nue- mico Alex Grech «A primera vista, edición en papel a través de Kind-
vos textos a partir de ellos. En ChatGPT de OpenAI cambia las le Direct Publishing, algunos tam-
palabras fáciles de entender, estos reglas del juego de la educación. bién cobran la edición digital. Pero
modelos calculan qué palabra es Los vaticinadores vociferan que el número real de libros escritos
probable que vaya a continuación, representa el fin de la redacción y por el chatbot podría ser mucho
en relación con un conjunto de pa- las evaluaciones, y que la escritura mayor. Sin embargo, las políticas
labras o una frase. De este modo, asistida por IA marcará el comien- de Amazon no obligan a los usua-
son capaces de generar frases, pá- zo de una nueva era de trampas y rios a revelar el uso de la IA. Si
rrafos e incluso páginas enteras plagios que no podrán ser detecta- se busca en el sitio Amazon pode-
que corresponden a una consulta dos por programas como Turnitin. mos encontrar libros cuyo autor es
de un usuario (Shah, 2023). La tentación es prohibir el acceso ChatGPT.
a ChatGPT a través de redes esco-
Los chatbot, en principio, se utili- lares propias o incluso volver a los Sin embargo, aunque pueda ser re-
zaron para mantener conversacio- exámenes de lápiz y papel». («We conocido como herramienta para
nes con un usuario como si fuera un used ChatGPT to write an article analizar datos, no es un autor, ni
humano, pero ChatGPT va mucho about ChatGPT» 2023). puede ser un autor de nada, ya que
más allá de mantener conversacio- lo que hace es recopilar contenidos,
nes virtuales. Puede generar con- Es necesario decir que estas herra- reordenarlos y darles una aparien-
tenidos como poemas o trabajos, mientas tienen múltiples aspectos cia de escritura humana. Por otro

137
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
lado, tampoco se puede conside- ciones sobre su origen basándose en el mundo (Leonard, 2021). De
rar que el texto, aunque coherente, en estas formas y patrones. hecho, el repositorio de preprints
pueda ser confiable, ya que lo que Frontiers ha desarrollado un asis-
hace es utilizar cualquier texto que - Dispersión lingüística na- tente de revisión por pares basado
responda a la demanda del usuario tural. Esta táctica comprende el en Inteligencia Artificial, llamado
que puede o no haber sido objeto consumo de procedimientos como Artificial Intelligence Review As-
de una revisión científica. El hecho el escrutinio del sentimiento, de- sistant (AIRA) , que pretende eli-
de la autoría es sólo posible cuan- nominado identificación de obje- minar gran parte del trabajo pesado
do el texto ha sido realizado por tos y la clasificación lingüística, asociado con la revisión por pares.
una persona (Tombs, 2023). para extraer datos evocadores del Desde principios de junio de 2020,
contenido. cada uno de los más de 11.000 artí-
Con la llegada de estas herramien- culos recibidos por Frontiers se ha
tas que son capaces de generar Con respecto a las limitaciones de analizado a través de AIRA, que
textos que aparentemente pueden la herramienta. AI Classifier no es está integrada en su plataforma
pasar por haber sido escritos por fiable al 100%, por cuanto no pue- colaborativa de revisión por pares
personas, se hace necesario gene- de detectar contenidos con total (Dhar 2020). A este respecto Mike
rar otras herramientas que sean ca- precisión. ya que es posible que Thelwall (Thelwall, 2019) habla
paces de detectar si un documento después de que una herramienta sobre los desafíos para adoptar
fue escrito por un humano o por de IA genere el texto, una perso- una revisión por pares automati-
un chatbot. Los propios creadores na pueda editarlo manualmente y zada y su potencial para causar un
de ChatGPT han desarrollado una retocarlo para que parezca escrito sesgo no deseado, argumentando
herramienta de detección, AI Text por un humano, lo que es difícil de que cualquier tipo de inteligencia
Classifier que es capaz de distin- detectar por la herramienta. artificial utilizado para evaluar la
guir si una persona ha generado un calidad general de un artículo o
texto a través de una aplicación o También se están desarrollan- del impacto futuro podría generar
lo ha escrito manualmente. do otras herramientas basadas en sesgos internacionales contra los
“marcas de agua”. Estas son invi- autores en países que no hablan
Para detectar si los contenidos son sibles al ojo humano, pero permi- inglés, incluida la mayoría de los
escritos por un humano o un chat- ten a los ordenadores detectar que países más pobres. Esencialmente,
bot, la herramienta trabaja a partir el texto se generó a partir de un este sesgo ocurriría porque un sis-
de: sistema de IA como ChatGTP. tema de IA aprendería característi-
cas que se asocian con autores de
- Análisis aritmético. En este Dando la vuelta al argumento, y países de alto impacto, como los
enfoque, se calculan varias cifras, para no destacar solamente los as- EE. UU., Reino Unido y Australia,
como la regularidad de los térmi- pectos negativos de la tecnología como marcadores de alta calidad,
nos, la extensión de las frases y la IA, algunos autores se han plan- que penalizan artículos de países
construcción lingüística, a partir teado la posibilidad de utilizar la de bajo impacto general, indepen-
de una enorme cantidad de texto Inteligencia Artificial para ayudar dientemente de la calidad de los
generado por la IA y de contenido en los procesos de revisión por pa- artículos enviados.
escrito por humanos. res frente a la presión que tienen
los autores ante la excesiva carga Respecto a la posición editorial,
- Aprendizaje profundo. El de trabajo a la hora de aceptar re- Cambridge University Press, una
sistema aprende a detectar formas visiones científicas con el aumento de las más importantes y de más
en el contenido y a hacer predic- de las publicaciones de este tipo reconocido prestigio en el entor-

138
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
no de la edición científica se ha vestigación, incluido cualquier uso zación de motores de búsqueda.
adelantado publicando unos prin- de la IA. Seo. Riesgo de sustitución: 2/10.
cipios de política de ética en la
investigación con IA. Las normas Ciberdelincuencia e Impacto so- - Escritores. Riesgo de susti-
recogen la posición de la editorial cio-económico sobre el mercado tución: 2/10.
respecto al uso de la IA en publi- de trabajo
caciones de Cambridge University - Especialistas en pago por
Press y se aplican a artículos de in- Más allá del contexto académico clic (PPC) Riesgo de sustitución:
vestigación, libros y otros trabajos la nueva herramienta también tiene 2/10.
académicos. implicaciones diversas en relación
con el impacto social y el mal uso - Profesionales de ventas.
Los principios de Cambridge para que se haga de la misma. Algunos Riesgo de sustitución: 1/10.
la IA generativa en la publicación analistas han manifestado su preo-
de investigaciones incluyen que: cupación en cuanto a la capacidad - Educadores Riesgo de sus-
de este tipo de herramientas para titución: 1/10
- La utilización de IA debe sustituir algunas tareas desarrolla-
declararse y explicarse claramente das por humanos. Un estudio (pre- - Abogados. Riesgo de sus-
en publicaciones como los trabajos print) en relación a esta cuestión titución: 1/10.
de investigación. indica que aproximadamente el
80% de la mano de obra estadou- También, los especialistas en de-
- La IA no cumple los requi- nidense podría verse afectada en al litos cibernéticos predicen que se
sitos de Cambridge sobre autoría, menos el 10% de sus tareas labora- avecinan usos maliciosos de Chat-
dada la necesidad de rendir cuen- les por la introducción de los siste- GPT (Brewster 2023). De hecho,
tas. mas GPT, mientras que alrededor los ciberdelincuentes ya están uti-
del 19% de los trabajadores podría lizando sistemas de IA para come-
- Las herramientas de IA y ver afectado al menos el 50% de ter delitos, tales como:
LLM no pueden figurar como au- sus tareas (Eloundou et al., 2023).
tor en ningún trabajo académico Además, curiosamente afecta a to- • Herramientas de pirateo
publicado por Cambridge. dos los niveles salariales, pero es- informático.
pecialmente a aquellos empleos de
- Cualquier uso de la IA no mayores ingresos, potencialmente • Construir otros chatbots
debe infringir la política de plagio más expuestos a los efectos de la diseñados para estafar, puesto que
de Cambridge. nueva tecnología. Un estudio de permite crear sistemas conversa-
Brian Frederick analiza cómo im- cionales convincentes.
- Los trabajos académicos pactarán los sistemas generativos
deben ser propios del autor y no en los diferentes ámbitos profesio- • Codificar software mali-
presentar ideas, datos, palabras u nales, apuntando el nivel de susti- cioso capaz de espiar las pulsacio-
otro material de otros sin una ci- tución (Frederick, 2023). nes del teclado de los usuarios.
tación adecuada y una referencia-
ción transparente. - Programadores su capaci- • Crear Ransomware o se-
dad para escribir código. Riesgo cuestro de servidores (bloquear los
- Los autores son responsa- de sustitución: 4/10. archivos o dispositivos del usuario
bles de la exactitud, integridad y y luego reclamar un pago online
originalidad de sus trabajos de in- - Profesionales de la optimi- anónimo para restaurar el acceso).

139
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
• Crear sitios web y bots que - Baidu, el principal motor Literacy for Higher Education”
engañen a los usuarios para que de búsqueda de China, está traba- (Marco de referencia para la al-
compartan su información, phi- jando en un bot en chino similar a fabetización informacional en la
shing de apariencia legítima. ChatGPT. educación superior) de ACRL, y
esta sería la postura de la organi-
Alternativas y competidores También se está trabajando en zación respecto a ello (Papini, 23):
a ChatGPT, la invasión de las otras alternativas de código abier-
máquinas to. PaLM + RLHF, es un modelo - La investigación como in-
de generación de texto que se com- dagación. ChatGPT es bueno para
Por otra parte, el impacto que está porta de forma similar a ChatGPT. responder a preguntas de conoci-
causando ChatGPT está haciendo El sistema combina PaLM, un gran miento general que también po-
que las grandes compañías del sec- modelo lingüístico de Google, y drían encontrarse en una búsqueda
tor quieran disponer de su propio una técnica llamada Aprendizaje rápida en Google. No siempre es
sistema de generación de textos por Refuerzo con Retroalimenta- perfecto, y uno de los problemas
que podría cambiar por siempre ción Humana (RLHF, por sus si- es que en el momento de escribir
la forma en que operamos con los glas en inglés) pero tiene una gran este artículo el «conocimiento» del
motores de búsqueda e incluso de- limitación, que PaLM + RLHF no programa termina en 2021.
jar a alguno de ellos fuera del mer- está pre entrenado. Es decir, el sis-
cado, porque los chatbots pueden tema no ha sido preparado con los - La investigación como
ofrecer respuestas complejas y so- datos de ejemplo de la web nece- conversación. Este marco significa
fisticadas a preguntas sintetizando sarios para que realmente funcio- que para aprender son necesarias
la información de miles de millo- ne. Recopilar los datos de entrena- diferentes opiniones y perspecti-
nes de palabras extraídas de Inter- miento es un proceso costoso. Y el vas. En realidad, ChatGPT no pue-
net y otras fuentes que utilizan para entrenamiento en sí no es barato de ofrecer opiniones y no es exper-
entrenar sus algoritmos. («The (Wiggers, 2022). to en nada.
Race to Build a ChatGPT-Powered
Search Engine | WIRED» 2023), Para Will Knight, aquí no termi- - La búsqueda como ex-
produciéndose en este momento na todo, ya que esta tecnología ploración estratégica. Pregunta a
una verdadera carrera competiti- que utilizan los chatbots como cualquier bibliotecario o amante
va para disponer de la manera más ChatGPT, podría replicarse exten- de las bibliotecas y te dirá que los
inmediata posible de un motor de samente provocando una oleada mejores resultados se obtienen ela-
búsqueda basado en un sistema ge- viral de sistemas bots con todas borando un plan antes de empezar
nerativo de Inteligencia Artificial. las consecuencias y peligros que a investigar.
conlleva, lo que hará cada vez más
- Microsoft, que ha invertido complicado controlar todos los - La creación de información
unos 10.000 millones de dólares efectos adversos de esta tecnolo- como proceso. Si se quiere sacar el
en OpenAI, creador de ChatGPT, gía. (Knight, 2023). máximo partido a un trabajo, nun-
está a punto de incorporar la tecno- ca entregarías el primer borrador
logía subyacente a Bing. Chatbots y Bibliotecas del mismo.

- Google, que lleva tiempo En un artículo de Allison Papini - ChatGPT es sólo una he-
trabajando en un chatbot similar se analiza en qué medida concurre rramienta de IA.
llamado LaMDA. Acaba de pre- ChatGPT con alguno de los puntos
sentar Bard. del “Framework for Information

140
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
Conclusiones En cuanto a las consecuencias ne- [Link]
gativas, que las herramientas de IA
A pesar de esta preocupación que causen daños depende mucho de FREDERICK, B., 2023. Will
suscita entre investigadores y edu- cómo las utilicemos y los mecanis- ChatGPT Take Your Job? Search
cadores, la capacidad de la tecno- mos de control que se establezcan. Engine Journal [en línea]. [Con-
logía de utilizar consultas y co- sulta: 18 enero 2023]. Disponible
mandos en lenguaje normal para Bibliografía en: [Link]
producir resultados aparentemente [Link]/will-chatgpt-take-your-
personalizados la convierte en una BREWSTER, T., 2023. Armed job/476189/.
herramienta valiosa para la educa- With ChatGPT, Cybercriminals
ción y la investigación. Este tipo de Build Malware And Plot Fake Girl KNIGHT, W., 2023. Get Ready to
herramientas son muy prometedo- Bots. Forbes [en línea]. [Consul- Meet the ChatGPT Clones. Wired
ras para reducir o incluso eliminar ta: 27 enero 2023]. Disponible [en línea], [Consulta: 15 marzo
muchas de las tareas cotidianas. en: [Link] 2023]. ISSN 1059-1028. Dispo-
thomasbrewster/2023/01/06/chat- nible en: [Link]
Sí es importante destacar, que gpt-cybercriminal-malware-fema- story/get-ready-to-meet-the-chat-
ChatGPT, aunque potente, no sus- le-chatbots/. gpt-clones/.
tituye a la comprensión y el pensa-
miento crítico humanos. Su uso en CARPENTER, T.A., 2023. @ LEONARD, C., 2021. Can AI be
el sistema educativo debe evaluar- TAC_NISO questions ChatGPT used ethically to assist peer re-
se cuidadosamente para garantizar on scholarly communications. The view? Impact of Social Sciences
que no se utiliza para sustituir estas Scholarly Kitchen [en línea]. [Con- [en línea]. [Consulta: 22 mar-
importantes habilidades. sulta: 12 enero 2023]. Disponible zo 2023]. Disponible en: https://
en: [Link] [Link]/impactofsocial-
La limitación hace que los grandes [Link]/2023/01/11/chatgpt-thou- sciences/2021/05/17/can-ai-be-
sistemas de modelos lingüísticos ghts-on-ais-impact-on-scholar- used-ethically-to-assist-peer-re-
sean susceptibles de inventarse o ly-communications/. view/.
«deducir» respuestas, pues estos
sistemas tampoco son lo suficien- DHAR, P., 2020. Peer Review of LUND, B.D., WANG, T., MAN-
temente inteligentes como para Scholarly Research Gets an AI NURU, N.R., NIE, B., SHIMRAY,
entender la premisa incorrecta de Boost - IEEE Spectrum. [en línea]. S. y WANG, Z., 2023. ChatGPT
una pregunta y responder de todos [Consulta: 22 marzo 2023]. Dis- and a new academic reality: Arti-
modos a preguntas erróneas. Un ponible en: [Link] ficial Intelligence-written research
ejemplo a este respecto lo pone org/peer-review-of-scholarly-re- papers and the ethics of the large
Chirag Shah, al decir que cuando search-gets-an-ai-boost. language models in scholarly pu-
se le pregunta qué rostro de presi- blishing. Journal of the Associa-
dente de [Link]. aparece en el bi- ELOUNDOU, T., MANNING, S., tion for Information Science and
llete de 100 dólares, ChatGPT res- MISHKIN, P. y ROCK, D., 2023. Technology [en línea], vol. n/a, no.
ponde Benjamin Franklin sin darse GPTs are GPTs: An Early Look at n/a. [Consulta: 20 marzo 2023].
cuenta de que Franklin nunca fue the Labor Market Impact Potential ISSN 2330-1643. DOI 10.1002/
presidente y de que la premisa de of Large Language Models [en lí- asi.24750. Disponible en: ht-
que el billete de 100 dólares tiene nea]. 19 marzo 2023. S.l.: arXiv. tps://[Link]/doi/
la foto de un presidente de [Link]. [Consulta: 21 marzo 2023]. ar- abs/10.1002/asi.24750.
es incorrecta. Xiv:2303.10130. Disponible en:

141
 Revista Desiderata / Nº. 22 / 2023 / Artículo

Artículo
PAPINI, A., 23. ChatGPT: A Li- 9 febrero 2023]. Disponible en: We used ChatGPT to write an ar-
brary Perspective | Krupp Library. [Link] ticle about ChatGPT. MaltaToday.
[en línea]. [Consulta: 27 febre- race-to-build-a-chatgpt-powered- [Link] [en línea], 2023. [Consul-
ro 2023]. Disponible en: https:// search-engine/. ta: 2 marzo 2023]. Disponible en:
[Link]/chatgpt-li- [Link]
brary-perspective. THELWALL, M., 2019. Artificial news/national/120906/we_used_
Intelligence, Automation and Peer chatgpt_to_write_an_article_
SHAH, C., 2023. Is ChatGPT Clo- Review. JISC, about_chatgpt.
ser to a Human Librarian Than It
Is to Google? Gizmodo [en línea]. TOMBS, 2023. ‘Are you a real WIGGERS, K., 2022. There’s now
[Consulta: 20 marzo 2023]. Dis- person?’: AI chatbots no substitu- an open source alternative to Chat-
ponible en: [Link] te for human authorship. thestar. GPT, but good luck running it.
chatgpt-ai-openai-like-a-librarian-
com [en línea]. [Consulta: 25 ene- TechCrunch [en línea]. [Consulta:
search-google-1850238908. ro 2023]. Disponible en: https:// 18 enero 2023]. Disponible en: ht-
[Link]/opinion/contri- tps://[Link]/2022/12/30/
The Race to Build a Chat- butors/2023/01/06/are-you-a-real- theres-now-an-open-source-alter-
GPT-Powered Search Engine | WI- person-ai-chatbots-no-substitute- native-to-chatgpt-but-good-luck-
RED. [en línea], 2023. [Consulta: [Link]. running-it/.

142