Reactivos Constructivos en EXHCOBA
Reactivos Constructivos en EXHCOBA
1
Instituto de Investigación y Desarrollo Educativo, Universidad Autónoma de Baja California
1
1. INTRODUCCIÓN
Las bases documentales que soportan este examen son el conocimiento acumulado
durante más de 100 años de la psicometría, así como en la experiencia de
aproximadamente 45 años de la aplicación de evaluaciones internacionales de ingreso
a la enseñanza media superior y superior, especialmente en España y Estados Unidos
de América (Backhoff, Sánchez, Peón, Monroy y Tamachi, 2006).
2
El marco teórico del EXHCOBA está definido básicamente por los principios de la
Teoría Clásica de la Medida y de la Teoría de Respuestas al ítem (Backhoff, 2003).
Respecto de la primera se adoptan los principios para la construcción y validación de
pruebas; sobre la segunda, los principios básicos para la calibración y el escalamiento
de pruebas educativas.
Este examen tiene como objetivo principal: seleccionar a los mejores estudiantes a
ingresar al nivel medio superior y superior. Está diseñado para evaluar conocimientos
y habilidades básicos (con énfasis en la interpretación y la aplicación), indispensables
para que el estudiante pueda cursar con éxito el nivel de estudios al cual ingresa. Es
decir, se trata de una prueba normativa, con el propósito de ordenar y seleccionar
individuos.
La Tabla I presenta las seis fases y 11 etapas del desarrollo del EXHCOBA, en
general (tanto para ingreso a la educación superior como a la media superior). En
cada etapa se utilizan diversos procedimientos, entre los cuales destacan: 1) la
documentación de procesos similares de construcción de pruebas normativas de gran
escala, realizados por instituciones de reconocida calidad internacional; 2) la
capacitación dirigida a los comités de especialistas y docentes que participan en el
proceso; 3) la elaboración de materiales para el trabajo de los comités; y 4) el trabajo
colegiado, donde se toman las decisiones de mayor importancia. En el apartado 4, se
explica la etapa 5 de la fase III: Especificaciones de Reactivos y Reactivos (región
3
sombreada en la tabla). No se describen, en detalle, cada una de las fases y etapas
del modelo, ya que escapan al tamaño y propósito de este trabajo (para mayor
información, consultar: INEE, 2005a).
1. Documentación
8. Manual Técnico para el
II. Estructuración 2. Capacitación
4. Diseño de los • Comité Técnico Diseño de los EXHCOBA
de los 3. Preparación de
EXHCOBA • Comités Académicos 9. Tabla de Contenidos
EXHCOBA materiales
de cada examen
4. Trabajo colegiado
4
21. Manual Técnico para la
Administración de los
exámenes y de los
Cuestionarios de
Contexto
8. Administración • Comité Técnico 22. Base de datos con
1. Documentación
IV. Administración de los • Investigador asociado resultados de las
2. Administración de
de los exámenes y de especialista en evaluaciones
los exámenes y de
EXHCOBA las bases de tecnología y procesos 23. Base de datos con los
las bases de datos
datos de evaluación resultados de los
Cuestionarios de
Contexto
24. informes electrónicos
para las instituciones
usuarias
25. Manual Técnico sobre
1. Seminarios Análisis de Reactivos
9. Análisis iniciales • Comité Técnico 2. Análisis estadísticos 26. Informe Técnico sobre
de resultados • Asesores en medición de resultados el Comportamiento
V. Análisis e 3. Documentación Psicométrico de los
interpretación reactivos
de resultados 27. Manual Técnico para el
de los 10. Elaboración de informe de resultados
EXHCOBA informes • Comité Técnico 1. Documentación 28. Informe Técnico sobre
técnicos para • Asesores en medición 2. Capacitación los resultados de la
el Consejo y validación 3. Trabajo colegiado evaluación asociados
Consultivo con las variables de
contexto
29. Marco de Referencia de
11. Estudios de • Comité Técnico
VI. Validación de 1. Documentación los Estudios de Validez
validez de los • Asesores en
los EXHCOBA 2. Investigación 30. Reportes Técnicos de
EXHCOBA validación
Estudios de Validez
Figura 1. Estructura conceptual de los EXHCOBA (Backhoff, 2003, con modificaciones del
Comité Técnico del EXHCOBA).
5
4. ESPECIFICACIONES DE REACTIVOS Y REACTIVOS (FASE III, ETAPA 5)
Una vez concluida la fase II, donde se determinan los 120 contenidos a ser evaluados
por el EXHCOBA/MS; inicia la tercera fase, en la que se conforma el examen en sí,
con las especificaciones y los reactivos correspondientes.
6
2) Descripción general del contenido a evaluar (datos de identificación del contenido a
evaluar y características de dicho contenido) y 3) Conformación de un conjunto de
reactivos (donde se incluya la bibliografía consultada).
En este apartado se recuperan los datos elaborados por el Comité Académico acerca
de cada contenido y se incorpora el análisis realizado de la lectura de estos datos.
1
Los contenidos, especificaciones y reactivos que se incluyen en el presente documento sólo están a
afectos de ilustración, no necesariamente se incluyen en el EXHCOBA/MS.
7
Tabla 4. Datos de un contenido a evaluar correspondiente al área de matemáticas
Área Nivel educativo
Matemáticas Educación Primaria
Clave Eje temático Tema Subtema
Las operaciones
HC02 Los números Divisibilidad
básicas
Nombre Múltiplos y divisores.
Contenido
Definición Cálculo de múltiplos de números dados.
• Importancia del contenido. Son los argumentos que justifican la selección del
contenido a evaluar para los propósitos que persigue el examen. El Comité
Académico aporta esta justificación cuando realiza la selección de contenidos;
cada CEER la transcribe y, si lo considera necesario, la amplía.
• Delimitación del contenido. Aquí se indica, con precisión, con cuánta profundidad
se evaluará el contenido (es decir, se precisa, se acota). Por ejemplo, en aritmética
se deben aclarar las características de los números involucrados (naturales,
enteros, decimales, fraccionarios, etc.), el rango de dichos números, si son
fracciones se especifica qué clase, las operaciones a realizar y sus características,
cuántos números se utilizarán, si se incluirán problemas y de qué tipo, el estilo de
la redacción, las fórmulas necesarias, las magnitudes y las unidades, etc. Todo
esto con el fin de fijar la extensión del contenido y, por lo tanto, el grado de
dificultad del reactivo.
8
Tabla 5. Características de un contenido del área de lenguaje (continuación de Tabla 3)
Importancia (justificación) del contenido a evaluar
Es un contenido básico de la ortografía.
Es un recurso esencial para la comprensión de los textos.
Habilita al alumno para utilizar las reglas básicas de ortografía y para hacer correcciones,
especialmente en palabras de uso frecuente.
Delimitación del contenido
• Se utilizarán las siguientes palabras de uso frecuente: qué, que, cuál, cual, cuándo, cuando,
cómo, como, dónde, donde, cuánto, cuanto, él, el, té, te, dé, de, más, mas, sí, si, mí, mi, sé, se,
tú, tu.
• Se analizará su uso dentro del contexto de un diálogo breve de dos personas (máximo de 40
palabras).
• Se evaluarán las palabras de a pares (es decir, la misma grafía con y sin tilde; por ejemplo:
mas, más, como, cómo, tu, tú, etc.).
• Se evaluarán no más de seis palabras por reactivo.
• En el reactivo deberá aparecer, al menos, un monosílabo y una palabra con valor interrogativo
o exclamativo.
Conocimientos y habilidades involucrados en la respuesta
Los sustentantes deberán:
• conocer las reglas de acentuación de monosílabos de uso frecuente.
• conocer las reglas de acentuación de palabras con valor interrogativo o exclamativo.
• tener habilidades de lectura comprensiva para identificar los significados diferentes de las
palabras a acentuar, según el contexto.
Los niveles taxonómicos que se esperan del sustentante son de comprensión y aplicación.
9
4.2.3. CONFORMACIÓN DE REACTIVOS
La meta principal es asegurar que cada ítem represente el contenido tal cual se
especificó. Por ello, es necesario garantizar que, a partir de las especificaciones, cada
miembro de los CEER desarrolle el conjunto de ítems que le corresponda, de
conformidad con las normas técnicas estipuladas para asegurar su validez.
10
Debe considerarse que el programador no tiene por qué ser experto en los contenidos
a evaluar; por lo tanto, la información debe ser lo más precisa posible, cuidar que esté
completa y clara, con el fin de obtener reactivos válidos y confiables.
“El estudiante aprende más, se cualifica más, crece más, en la medida en la cual
participa en la construcción de su conocimiento. Y la evaluación es una forma de
construir el conocimiento” (Torres-Zambrano, 2007, p.224). Por lo tanto, un examen
debería poner en juego esta actividad constructiva de quien lo resuelve.
También es cierto que en exámenes a gran escala es difícil obtener un número muy
alto de variabilidad de respuestas debido a la dificultad que ocasiona en la calificación
de los evaluados. Es mucho más fácil tener una plantilla de respuesta correcta única
por ítem y compararla con las respuestas de los sustentantes.
Otra característica de este tipo de exámenes es que al abarcar una cantidad muy
vasta de contenidos, se necesita un gran número de reactivos que los evalúen y, por lo
tanto, el tiempo destinado a cada respuesta no puede ser mucho. En el caso del
EXHCOBA, se estima de 1 a 2 minutos por contestación.
11
En el caso de tener que optar por elementos para construir la respuesta, puede
haber algunos factibles de ser seleccionados más de una vez y otros que queden
sin elegir.
Existen reactivos en los cuales, para otorgar un punto no se solicita la respuesta
exacta; sino que esté dentro de un margen de error aceptable.
Reactivos de arrastre
Los reactivos de respuesta construida, como el término lo indica, son aquellos donde
el sustentante debe completar con la respuesta apropiada, un espacio que se le deja
en blanco. Esa respuesta debe ser muy breve, por ejemplo: un número o una palabra.
Este tipo de reactivos se ajustan muy bien a las matemáticas y las ciencias naturales,
general. A continuación, se presenta un ejemplo (ver Tabla 7).
Respuesta:
Respuesta (del ejemplo)
Calcula un número que sea múltiplo 2, 3 y 5 (simultáneamente), y que esté comprendido
entre 75 y 100.
Escribe la respuesta en el espacio en blanco.
Respuesta: 90
12
Datos para el programador
Para construir el reactivo:
o De manera aleatoria el sistema debe elegir, de la tabla, un par de elementos A y B de la
misma fila.
o Reemplazar A y B en la base del reactivo.
o Presentar el reactivo.
Para responder el reactivo:
o Se debe dejar un espacio de captura del resultado.
o El espacio debe permitir escribir solamente números naturales de uno, dos o tres dígitos
(es decir, desde 0 a 999).
o La respuesta dada por el sustentante se debe comparar con la R de la fila donde se
construyó el reactivo.
o Se otorgará un punto cuando la respuesta del sustentante sea igual a la R
correspondiente.
Tabla para la elaboración del reactivo
A B R
2, 3 y 5 75 y 100 90
2, 3 y 5 100 y 125 120
2, 3 y 5 130 y 155 150
2, 3 y 9 60 y 85 72
2, 3 y 9 80 y 105 90
2, 3 y 9 95 y 120 108
2, 4 y 9 60 y 85 72
2, 4 y 9 95 y 120 108
2, 4 y 9 130 y 155 144
2, 5 y 6 100 y 125 120
2, 5 y 6 130 y 155 150
6, 8 y 9 60 y 85 72
6, 8 y 9 130 y 150 144
En este tipo de reactivos el sustentante deberá arrastrar una palabra, frase, oración,
logo, etc. (según sea el caso) a una categoría definida, a un texto dado, a un mapa,
entre otras posibilidades; de modo que el ajuste o acople quede correcto, según la
instrucción dada.
13
Tabla 8. Reactivo de Arrastre del área de lenguaje (continuación de Tabla 5)
Estrategia de evaluación
Se presenta un diálogo con 6 espacios en blanco y una lista de 6 palabras (3 con tilde
diacrítica y 3 sin tilde). Se pide al sustentante que elija palabras de la lista y las inserte en los
espacios, de modo que el texto tenga sentido.
Base del reactivo
A continuación, se presentan: una lista de palabras y un diálogo con espacios en blanco. Elige
las palabras que completan el diálogo, de manera que el texto tenga sentido.
Arrastra las palabras que elijas al espacio correspondiente. Considera que una palabra puede
ir a más de un lugar y pueden quedar otras sin utilizar.
Ilustración (a modo de ejemplo)
como cómo que qué si sí
14
Tabla para la elaboración del reactivo
Lista de
Diálogo Respuesta
palabras
Ana – va María, ¿tú irás a la Opción 1
fiesta?
como
Ana – Si va María, ¿tú irás a la
Berta – , voy todos cómo fiesta?
mis amigos. que Berta – Sí, voy como todos mis
Ana – ¡ creerlo! ¡Está muy amigos.
chica para vaya a esa
qué
Ana – ¡ Cómo creerlo! ¡Está muy
fiesta! si
chica para que vaya a esa fiesta!
Berta – ¿ dijo su mamá? sí
¿Le dio permiso? Berta – ¿Qué dijo su mamá? ¿Le
dio permiso?
Opción 2
Ana – Como va María, ¿tú irás a la
fiesta?
Berta – Sí, voy como todos mis
amigos.
Ana – ¡ Cómo creerlo! ¡Está muy
chica para que vaya a esa fiesta!
Berta – ¿Qué dijo su mamá? ¿Le dio
permiso?
Diálogo 2 Lista 2 Respuesta 2
Diálogo 3 Lista 3 Respuesta 3
Diálogo 4 Lista 4 Respuesta 4
Diálogo 5 Lista 5 Respuesta 5
Diálogo 6 Lista 6 Respuesta 6
Diálogo 7 Lista 7 Respuesta 7
Diálogo 8 Lista 8 Respuesta 8
Diálogo 9 Lista 9 Respuesta 9
Diálogo 10 Lista 10 Respuesta 10
Los reactivos de iluminación son muy dúctiles para señalar y sombrear secciones o
regiones. En geografía son adecuados para marcar ciudades, estados, países,
accidentes geográficos, entre otros. En lenguaje son útiles para iluminar palabras
dentro de un texto (para indicar que requieren corrección ortográfica, para solicitar su
definición o para señalar ideas principales). En matemáticas pueden emplearse para
resolver problemas con figuras geométricas.
15
sustentante la lectura de ese apoyo (además de la base del reactivo). A continuación,
se presenta un ejemplo (ver Tabla 9)
Tabla 9. Reactivo de Iluminación o Sombreado del área de matemáticas
Contenido: Gráfica de fracción.
Representación gráfica de fracciones propias.
Estrategia de evaluación:
Se presenta una fracción propia y se pide colorear su equivalente en una cuadrícula.
Base del reactivo:
A continuación se presentan: una fracción, y una figura dividida en partes iguales. Sombrea
en la figura las partes que indica la fracción.
Haz clic en cada parte que desees sombrear (si lo necesitas, puedes desmarcar cada parte
con otro clic).
Ilustración
16
Tabla para la elaboración del reactivo
R
Figura Fracción
(número de porciones a pintar)
1 2 3 4
, , ,
5 5 5 5
2 4 6 8
Observación: cada una de las , , ,
10 10 10 10
partes debe ser un cuadrado.
Todos los cuadrados deben tener 3 6 9 12
, , ,
el mismo tamaño. Debe haber un 15 15 15 15
total de 25 cuadrados colocados
en la posición como indica la
figura.
Figura 2
Fracciones 2 Respuesta 2
Observación:
Figura 3
Fracciones 3 Respuesta 3
Observación:
Figura 4
Fracciones 4 Respuesta 4
Observación:
Figura 5
Fracciones 5 Respuesta 5
Observación:
5. CONCLUSIONES
17
Este nuevo proyecto de examen genera, por sus características, estudios que deberán
enfocarse desde otras perspectivas. Por un lado, la estructura permite una variedad
mayor que 12,000 versiones de pruebas, por lo cual deberá determinarse qué criterios
se seguirán para el posterior análisis de datos. Por otro lado, dada la naturaleza de
los reactivos, su complejidad y la novedad de sus características, tendrán que
analizarse diferentes métodos estadísticos para la validación del examen.
REFERENCIAS BIBLIOGRÁFICAS
Backhoff, E., Sánchez, A., Peón, M., Monroy, L., y Tamachi, M.L. Diseño y desarrollo
de los exámenes de la calidad y el logro educativo. Revista Mexicana de Investigación
Educativa. COMIE. México, 2006, Vol. 11, N° 029, pp. 617-638.
Heubert, J. P. y Hauser, R. M. (ed.). High stakes: testing for tracking, promotion and
graduation. National Academy of Sciences – National Research Council. Washington,
1999.
18
Keller, G., Deneen, J. R. y Magallán, R. J. (ed.) Assessment and Access: Hispanics in
higher education. State University of New York. Albany, 1991.
19