El sistema de chat desarrollado por Open IA, ChatGPT surge como una innovadora tecnología en el campo de
la Inteligencia Artificial Conversacional, que se centra en la creación e implementación de sistemas capaces
de comunicarse de manera natural y efectiva con los seres humanos utilizando el lenguaje natural (Chen et al.,
2017). Siendo capaz de procesar, comprender y generar respuestas en lenguaje natural a las solicitudes de los
usuarios, utilizando una interfaz basada en texto. Siendo una de sus características más notables la
incorporación de técnica de Aprendizaje Profundo tomando como fundamento las redes neuronales
artificiales, en estas un algoritmo aprende a través de su propio procesamiento de datos y confiere una notable
capacidad para crear información de manera coherente y con un orden.
Esta herramienta posibilita la realización de una amplia gama de tareas. Entre ellas las cuales vale la pena
mencionar: la generación de contenido en diferentes idiomas y estilos, la respuesta a preguntas, la provisión
de información sobre diversos temas, la elaboración de resúmenes de contenido, la redacción de notas, cartas,
ensayos, artículos, así como la de contratos, correos electrónicos, invitaciones y mensajes en función de
palabras clave o contenido suministrado por las personas. Además, puede participar en la creación de guiones
de películas, traducción y corrección de textos, generación de código, diseño de videojuegos, resolución de
problemas matemáticos y muchas otras acciones (OpenAI, 2023a, 2023b, 2023c).
Así también se hace relevante mencionar que para su funcionamiento ChatGPT usa una base de datos estática
y su capacidad para producir respuestas se basa en patrones y relaciones estadísticas. Durante el proceso de
entrenamiento de la red neuronal se emplean grandes cantidades de datos que abarcan tanto textos
estructurados como no estructurados, con el propósito de que aprenda a identificar patrones y capturar la
diversidad lingüística, permitiendo así que el modelo adquiera una comprensión más amplia y profunda del
lenguaje (Brown et al., 2020; OpenAI, 2023c, 2023d).
Los últimos años, el uso de IA ha emergido como una tecnología cada vez más presente en la educación, y
“como ha sucedido con las sucesivas oleadas de desarrollos tecnológicos, la Inteligencia Artificial ha
despertado nuevas expectativas como «solución» a los problemas educativos” (Giró Gràcia y Sancho-Gil,
2021). Ante el auge de ésta herramienta tecnológica y la clara incorporación de la Inteligencia Artificial
Generativa a las aulas de clases, se compara éste momento histórico con la aparición de la calculadora, en
donde ambas tecnologías transformadoras cambian profundamente las capacidades del lugar de trabajo y de la
cultura en general tanto así que los objetivos dentro del aula deben de cambiar; no por ello las personas hemos
dejado de aprender cómo se realizan las operaciones matemáticas, sin embargo, se actualizaron los métodos
del cálculo bruto. En este sentido, la medida a seguir sería que las instituciones educativas busquen adaptarse
a un entorno cambiante y aprovechar las ventajas de las tecnologías.
Es de radical importancia resaltar, que como se ha mencionado anteriormente ChatGPT usa una base de datos
estática lo que genera sesgos, errores y limitaciones las cuales tienen que ser consideradas para su uso. En este
sentido, OpenAI explica que sus modelos de IAC pueden generar información errónea en algunas ocasiones
(OpenAi, 2023e, 2023h) debido a las limitaciones del algoritmo o bien, por la información que se le ha
proporcionado. Este tipo de error se puede caracterizar como un sesgo de datos. Sin embargo, no es el único
tipo de error que existe, al colocarlo en práctica se ha evidenciado que no siempre es capaz de responder a
todas las preguntas o situaciones de manera precisa, aunque se visibilicen como razonables por falta de
conocimiento específico, cambios en la información, dificultades de entendimiento y saturación del algoritmo.
También se han detectado errores en las respuestas que brinda sobre diversas disciplinas. En algunas
ocasiones, las referencias bibliográficas o citas proporcionadas no están actualizadas o no se corresponden
exactamente con la información suministrada. Además, esta clase de inconsistencias puede deberse a que el
ChatGPT utiliza fuentes académicas y no académicas, no diferenciando el tipo de información según su nivel
de evidencia. Se hace relevante mencionar que otro sesgo que presenta es el de género, y se evidencian
porque la herramienta refleja prejuicios y estereotipos en los datos utilizados para entrenarlo.
Señalando entonces las ventajas y los errores que surgen al utilizar dicho modelo, nos queda finalmente el
planteamiento ético sobre el uso de éste. El cual, ha generado distintos debates sobre que se centran en la
legitimidad. Algunos autores argumentan que su uso puede ayudar a producir trabajos de alta calidad de
manera más eficiente, su contraparte sostiene que no reemplaza el pensamiento crítico y la creatividad
humana, y que fomenta el plagio y la falta de originalidad, lo mismo se concentra en problemas éticos.
La principal problemática planteada es, la confianza plena de la información sin cuestionar la validez de la
misma, lo que repercute en las habilidades para la resolución de problemas y el pensamiento crítico; para
evadir ésta situación se podría trabajar con técnicas de exploración de información y corroboración de datos.
Ya que si se utiliza ChatGPT sin ninguna limitación y confiando plenamente en éste, se estará delegando
completamente el estudio y el pensamiento a la herramienta; y como hemos planteado, al ser un modelo
creado por humanos y utilizado por humanos, siempre va a presentar inconsistencias.
En este contexto, investigadores, educadores y estudiantes deben ser conscientes de estas limitaciones y no
depender exclusivamente de las respuestas que brinde el ChatGPT como fuente de información, porque por el
momento no constituye una tecnología que brinde soluciones precisas y requiere de un análisis detallado y
contextual de los datos que proporciona. Si bien puede ser una herramienta útil se debería a aprender a usarla
en vez de evitarla, siendo trascendente abordar su uso responsable. En este sentido, se adhiere a la propuesta
de la UNESCO-IESALC (2023) vinculada con la creación de espacios de debate acerca del impacto de
ChatGPT en las instituciones, además de brindar orientaciones claras sobre cómo, dónde y cuándo puede
utilizarse, tal que se co-construyan estrategias para adaptarse a los cambios que promueve la IA.
Siendo necesaria la promoción de la alfabetización en Inteligencia Artificial entre docentes y estudiantes, con
la finalidad de desarrollar habilidades críticas y competencias tecnológicas que les permitan afrontar sus
tareas y evaluar la calidad, veracidad y validez de la información proporcionada por los modelos. En
conclusión, su uso puede ampliar las oportunidades de aprendizaje y mejorar la eficiencia en ciertas tareas,
pero se debe hacer un uso crítico y responsable del modelo para abordar sus limitaciones. Haciéndose
importante destacar que la herramienta no debe ser percibida como una única solución mágica a las tareas que
enfrenta quien lo utiliza y que no reemplaza ni suple al rol que cada agente cumple durante el proceso de
enseñanza, de aprendizaje o de investigación.
Referencias Bibliográficas
Brown, T., Mann, B., Ryder, N., Subbiah, M., Kaplan, J. D., Dhariwal, P. y Amodei, D. (2020).
Language models are few-shot learners. Advances in Neural Information Processing Systems, 33,
1877-1901. https://doi.org/10.48550/arXiv.2005.14165
Chen, C., Li, S., Liu, W. y Zhao, L. (2017). A survey of dialogue systems: Recent advances and new
frontiers. ACM Transactions on Interactive Intelligent Systems (TiiS), 7(4), 1-46.
https://doi.org/10.1145/3166054.3166058
Giró Gràcia, X. y Sancho-Gil,J. (2021). Artificial Intelligence in Education: Big Data, Black
Boxes,andTechnological Solutionism. Seminar.net, 17(2). https://doi.org/10.7577/seminar.4281
OpenAi (2023a). Models. GPT-3. https://bit.ly/3BYuISG
OpenAi (2023b). Models. GPT-3.5. https://bit.ly/3WUzTNf
OpenAi (2023c). Models. GPT-4. https://bit.ly/3WBlMw5
OpenAi (2023e). GPT-4. https://bit.ly/3OG8FaZ
OpenAi (2023h). Harmful content, biases and stereotypes. https://bit.ly/43tvkvh
