Archivo AZEducaciónInvestigación

LOS RESULTADOS DE PISA 2012 ENTRE LO ESPERADO Y LO ESPERABLE

Durante el mes de diciembre pasado se dieron a la luz los resultados de la evaluación internacional del rendimiento educativo Programa para la Evaluación Internacional de Estudiantes (PISA, por sus siglas en inglés) de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), quizá el ejercicio evaluativo más conocido y de mayor cobertura que se realiza en el mundo y que cada tres años vuelve a poner en el centro del debate nacional e internacional uno de los temas más redundantes y a la vez menos efectivos de la política educativa de las últimas tres décadas: la evaluación educativa. Nuevamente los dos únicos países de Latinoamérica que forman parte de la OCDE —la entidad que realiza el estudio—, ocupan los dos últimos lugares — México, en específico, el último—, y con ello no se dejaron esperar las expresiones de nuestras más altas autoridades declarando que los resultados de México no eran “los esperados”, motivo por el cual me parece oportuno reflexionar un poco sobre los mismos y lo que debe entenderse por esperado y esperable.

En las últimas tres décadas hemos asistido a la aparición de evaluaciones realizadas por la International Association for the Evaluation of Educational Achievement (IEA),1 la OCDE, la Organización de las Naciones Unidos para la Educación, la Ciencia y la Cultura (UNESCO),2 etcétera; en México, como en casi todos los países de la región, hemos visto un boom de este tipo de ejercicios promovidos inicialmente a partir de los empréstitos del Banco Mundial (BM) o del Banco Interamericano de Desarrollo (BID) en la década de los noventa, pero lamentablemente no existe evidencia empírica que pueda relacionar unívocamente dichas iniciativas evaluativas con alguna mejora en los niveles educativos de ningún país, lo cual pone en tela de juicio su validez como apoyo a la educación.

Es más, ejercicios simples de estimación aritmética de los resultados posibles de México y los países de la región a partir de los resultados obtenidos en los primeros esfuerzos de evaluación educativa internacionales (1998), ya hacían prever que ésta, por sí misma, no traería avances importantes respecto a la mejora educativa.

Prueba de lo anterior fue la interpolación y posterior extrapolación de los resultados de TIMSS 1995 combinados con los del LLECE de 1997, calculadas por el autor de este artículo en 1998 para un documento interno de la UNESCO,3 que a continuación se presentan en una sola escala, la cual se construyó a partir de la transformación de las escalas originales en la disciplina de Matemáticas a unidades de desviación estándar, utilizando la posición relativa de Colombia en la nueva escala (único país latinoamericano que participó en los dos estudios y publicó sus resultados)4 para integrar las dos evaluaciones, obteniendo el siguiente cuadro:

Cuado 1 Interpolación de Resultados

En términos generales, en el cuadro anterior puede observarse que:

  1. Fue posible visualizar la probable ubicación de los distintos países latinoamericanos que no participaron en el estudio del TIMSS, a partir de los resultados obtenidos por Colombia en ambos estudios;
  2. La gran diferencia observada por Cuba en el estudio del LLECE con relación al resto de los países latinoamericanos, ubicaría a este país en el estudio del TIMSS dentro de los 10 mejores (en cuarto lugar);
  3. En esta nueva escala, el resto de los países latinoamericanos conformarían —junto con la República Islámica de Irán, Kuwait y Sudáfrica— el grupo de menor rendimiento educativo;
  4. Partiendo de esta interpolación y aun cuando ocultó sus resultados en el estudio de TIMSS, a México se le pudo ubicar sólo por encima del antepenúltimo lugar de dicho estudio (lugar 38 de 42), y
  5. Esta interpolación, elaborada en 1998, constituyó un pronóstico de los resultados de los países latinoamericanos en posteriores estudios de carácter internacional, pronóstico que se ha confirmado invariablemente en todos los estudios realizados hasta la fecha.

Como apoyo a lo mencionado en el párrafo previo, en el cuadro superior se sintetizan los resultados de los estudios internacionales más importantes realizados hasta hoy.

Considerando lo anterior, conviene insistir en algunas precisiones que ya he mencionado en otros textos, mismas que de no hacerse, podrían generar conclusiones sobre o sub dimensionadas.

  1. En primer término, es necesario acotar el ámbito de estas investigaciones en su representatividad real; para ello, tomaremos como ejemplo el caso de pisa 2012, el último examen de gran cobertura internacional. Puede observarse que sólo participan 65 países de los cerca de 220 que existen en el mundo; ello indica que cerca de 70% de los países no participa en estos estudios, hecho que pone en tela de juicio aseveraciones tales como: “La calidad educativa de los países latinoamericanos o México ocupa los últimos lugares del mundo”, tan presentes en los encendidos discursos de los artificiosos críticos educativos tan comunes en los medios masivos de comunicación;
  2. Continuando con el mismo ejemplo, el perfil de los países que sí participan en pisa es en su mayoría de alto o medio desarrollo humano, conforme al índice generado por las Naciones Unidas a este respecto, mientras que la mayor parte de los países que no participan son de desarrollo humano medio o bajo. Si consideramos que un porcentaje importante de las variaciones de los puntajes del rendimiento educativo está fuertemente asociado al nivel socioeconómico de los alumnos, es entonces de prever que estos países —los que no participan en este tipo de evaluaciones internacionales—, obtendrían puntajes similares o menores que los conseguidos por los países latinoamericanos;
  3. En otro orden de ideas, es prudente llamar la atención de investigadores y planificadores de la educación a la verdadera importancia de los resultados de estos estudios: no sólo deben servir para ubicar la posición relativa de nuestros países respecto a los demás, ya que mediante la instrumentación de procedimientos estadísticos relativamente simples —ya mencionados—, puede preverse con cierto margen de precisión dicha ubicación, con lo que resultaría entonces sumamente oneroso para el país hacer las inversiones que estudios como éste exigen para su realización (aproximadamente 1 millón de dólares por ejercicio), y
  4. Como resultado de aquello, resulta de vital interés que ante lo predecible de los resultados generales de este tipo de estudios, se ponga especial atención a la profundización y democratización de los hallazgos explicativos de dichos resultados, con objeto de instrumentar estrategias que permitan revertirlos. De esta manera, se evitará que queden circunscritos únicamente a los rankings o para el conocimiento y uso casi exclusivo de las cúpulas responsables de la investigación educativa, instancias que lamentablemente poco o nada inciden en el quehacer educativo cotidiano. Debe buscarse permear la estructura operativa del sistema educativo, llegando hasta maestros y directivos escolares, en quienes radica la verdadera capacidad de transformar los actuales estándares de la calidad de la educación y, de ser posible, también a padres de familia, alumnos y la comunidad en general, para que todos los estamentos sociales conozcan lo que está sucediendo, sus explicaciones y cómo obrar en consecuencia.

Grafico-1 - Resultados PISA-2012 Matématicas

Dicho lo anterior, quisiera expresar algunas breves reflexiones sobre la diferencia entre lo esperable y lo esperado, que parecen estar detrás de las declaraciones de nuestros políticos responsables de la educación. Esperable es aquello que, a partir de las condiciones y características de un fenómeno dado, puede preverse del mismo; en cambio, lo esperado más bien es aquello que el observador desearía que sucediera, basado no necesariamente en evidencia alguna, sino más bien en sus propias expectativas o sentimientos.

Lo primero es algo que deriva de evidencias científicas o empíricas concretas, mientras que lo segundo es un sentimiento que depende de la perspectiva entendida, o no, de quien observa el fenómeno. En el primer caso se plantea una tendencia y en el segundo un deseo. El primero tiene altas probabilidades de suceder, en tanto que en el segundo caso nada garantiza que acontezca. El primero es relativamente complicado y riguroso determinarlo, pero encierra menor riesgo de fallar; el segundo es comparativamente fácil de establecer, pero implica un alto riesgo de no suceder en los hechos.

Grafico-1.2 - Resultados PISA-2012 Matématicas

Ahora bien, volviendo al análisis de las evidencias duras, partamos entonces del resultado “bruto” del informe pisa 2012 recientemente publicado y presentado en el gráfico de arriba, en el que los países de la OCDE están representados en azul, el promedio de la OCDE en negro y los países invitados en verde (el tono más oscuro corresponde a los países latinoamericanos), indicando los puntajes promedio sólo para los países que se consideran emblemáticos para un posterior análisis contextualizado.

En el Gráfico 1 se evidencia visualmente la predicción hecha en 1998: los países latinoamericanos (sean parte o no de la OCDE) ocupan el último cuarto de la distribución, con los puntajes promedio más bajos; Chile a la cabeza de ellos con 423 puntos, seguido inmediatamente por México 10 puntos más abajo, los demás posteriormente, hasta encontrar a Perú en el último lugar de todo el ejercicio con 368 puntos.

Igualmente, en el gráfico se destacan por sus características algunos otros casos. Shanghái-China, con el puntaje promedio más alto (613), seguido de Singapur (573), Finlandia (519), Vietnam (511), Noruega (489), Estados Unidos (481), Israel (466) y Qatar — último lugar no latinoamericano— (376).

A partir de la información anterior conviene volver al tema de lo esperable y lo esperado. Lo esperable del comportamiento de la calidad educativa de México —y por extensión, de los países latinoamericanos en ejercicios similares a pisa, ahora y en los susiguientes años— será siempre en el último cuarto de la distribución (en el grupo de los últimos lugares), si y sólo si, se continúa con la misma mezcla de países que participan en estos ejercicios y, concomitante con lo anterior, no cambian las demás variables del desarrollo social de nuestros países.

Ahora bien, dado lo previsible de estos resultados y lo contundente de esta predicción —como ya se vio en el Cuadro 2 y en el Gráfico 1—, es conveniente ahondar un poco más en los mismos, a efecto de aislar las demás condiciones sociales que afectan a nuestra educación, que no necesariamente son del resorte de los sistemas educativos, pero que sí son determinantes en los rendimientos observados por investigaciones como pisa, con el objetivo de tener una mejor y más objetiva perspectiva de nuestros sistemas educativos. Para ello repetiré un ejercicio de contextualización que ya he publicado en otros textos de mi autoría,6 pero ahora actualizado con los datos de PISA 2012 7 y del Índice de Desarrollo Humano (IDH) que elabora la ONU para 2013,8 en el cual se determina la línea de regresión o predicción de puntajes de pisa en función del IDH y la distancia que cada país se aleja positiva o negativamente de dicha predicción (residuos). En el gráfico siguiente se destacan los mismos países que en el anterior, para mejor seguimiento de lo que quiere ejemplificarse.

De la anterior regresión, se observa en general que:

  1. Existe una correlación destacable entre ambas variables (0,4896), lo cual justifica su utilización para efectos de contextualización de los resultados de PISA;
  2. Ser país con un alto o un bajo IDH noes condición sine qua non para estar por encima o por debajo de los puntajes esperables (línea de regresión o predicción),
  3. Tampoco pertenecer, o no, a la ocde es condición para estar por encima o por debajo de los puntajes esperables (línea de regresión o predicción);
  4. Todos los países de Asia Oriental que participan en el estudio, sin importar si pertenecen o no a la OCDE, obtienen puntajes por encima de lo esperable (línea de regresión o predicción)
  5. Por el contrario, todos los países latinoamericanos incluidos en el estudio están por debajo de lo esperable (línea de regresión o predicción), dicho de otra forma, los puntajes promedio de pisa de todos los países de la región, sin excepción, están por debajo de lo esperable en función de su IDH.

De lo anterior se deriva un nuevo ordenamiento de los países en función de la distancia que guardan entre los resultados promedio realmente obtenidos en pisa y lo esperable (línea de regresión o predicción), distancia que he dado en llamar Índice de Esfuerzo Escolar (IEE) en distintas publicaciones, detalle presentado en el siguiente cuadro.

Del cuadro 3 pueden obtenerse pistas interesantes para comprender a cabalidad el fenómeno de la calidad educativa, más allá de los factores de contexto que lo condicionan.

  1. El país con el mejor rendimiento o iee es con mucho Vietnam, país que está por encima de su puntaje esperable en función de su idh, 142,08 puntos. Vietnam pasa del lugar 14, con los puntajes brutos sin contextualizar (originales), al primero en función del iee;
  2. En el extremo contrario, igualmente hay cambios en el país con el peor comportamiento: Qatar pasa a ser el último por iee, con una distancia en relación a lo esperable según su idh de -92,82, Argentina el penúltimo con -70,23 y Perú, que era el último general, ahora es el antepenúltimo con -58,03 puntos;
  3. Enelplanonolatinoamericanoconviene llamar la atención al caso finlandés, en virtud de la connotación que se le atribuyó como el mejor sistema educativo a partir de los resultados de pisa 2009, pero que en este ejercicio pasó al 9o lugar y si se considera a partir del iee, baja aún más, quedando finalmente en el 15;
  4. Si bien México ascendió dos lugares en pisa —del 50 original al 48— por iee, de todas formas tiene un comportamiento deficitario en función de su idh, al obtener 28,67 puntos por debajo de lo esperable. A pesar de que México se pone a la cabeza de los países latinoamericanos y por encima de países de la ocde (como Estados Unidos, Israel y Noruega), si se considera que en el ejercicio anterior correspondiente a 20099 sus resultados fueron tan sólo de 9,03 puntos por debajo de lo esperable, supone un deterioro sustantivo en el periodo, y
  5. Asimismo, esta situación es aún más alarmante si se considera que en 2009 México ocupó el puesto 39 iee, y el lugar 50 que ocupa en pisa 2012, con casi igual número de países participantes (65), 90% de los cuales son los mismos, claro indicio de una baja sustantiva de los rendimientos observados en el país en los últimos años.

En conclusión y sin pretender pontificar en este tema, la evidencia aportada por una lectura rápida de los resultados de pisa 2012, más allá de las sesudas interpretaciones que los “gurús” de la educación seguramente darán en el futuro próximo, indica que la diferencia entre lo esperable y lo logrado se hace más profunda cada día, que los resultados de pisa 2012, aunque parciales, homogeneizadores y limitados, dan cuenta de una situación verdaderamente complicada para el país, como también para la región. Es evidente que el mundo avanza, que los países evolucionan, pero que México y Latinoamérica no lo hacen al mismo ritmo y en sentido positivo; no sólo eso, sino que la situación educativa, más allá del contexto de inequidad y pobreza que nos caracteriza, se agrava, mengua y apunta al precipicio.

Queda entonces el reto para las autoridades mexicanas actuales de revertir este comportamiento, pues a ellas les asignan dicha responsabilidad la Ley Orgánica de la Administración Pública y la Ley General de Educación: al Ejecutivo Federal, la Secretaría de Educación Pública y sus homólogas estatales; más aún cuando han sido removidos los obstáculos estructurales que en el pasado reciente se esgrimían como los causantes de la “mala” situación educativa nacional, la Reforma Educativa ha sido aprobada constitucionalmente y se han publicado las leyes secundarias que la reglamentan. Corresponde a ellos la responsabilidad de coordinar el esfuerzo nacional, convocar a la sociedad en su conjunto e instrumentar las políticas y estrategias necesarias para mejorar estos resultados y su tendencia negativa.

Asimismo, surgen algunas preguntas: ¿Es la educación un fenómeno aislado o uno estructural? ¿Sólo la aprobación de la llamada Reforma Educativa y de sus leyes secundarias detendrá el deterioro educativo? ¿Es esperable que estos resultados cambien si no se acompaña la Reforma Educativa de modificaciones en las demás variables del desarrollo social? Si no se dan cambios en las demás variables del desarrollo y los resultados educativos continúan su caída, ¿cuáles serán entonces los argumentos para explicarlo?

Por último, es necesario que las máximas autoridades responsables de la educación mexicana y sus homólogas latinoamericanas se olviden del subjetivo esperado, y al menos logren lo esperable, de no hacerlo, la brecha que nos separa del desarrollo se nos hará cada día más inalcanzable, condenando a las nuevas generaciones a la mediocridad y el rezago social.

BIBlIogRAfÍA

Casassus, Juan, “La escuela y la (des)igualdad”, lom Ediciones, Santiago de Chile, 2003.

——— et al. en coautoría con unesco-orealc, Primer estudio internacional comparativo sobre lenguaje, matemática y factores asociados en tercero y cuatro grado.

IEA, Third International Mathematics and Science Study (timss) 1995.

Ina V.S. Mullis et al., International Results in Mathe- matics timss 2011.

Ina V.S. Mullis et al., International Results in Rea- ding pirls 2011.

OCDE-PISA 2009, http://www.oecd.org/pisa/46643496.pdf.

Palafox, Juan Carlos, “Los extremos de un sub- continente. La educación mexicana y chilena, un ejercicio de análisis comparado y un primer acercamiento a una línea de base”, az. Revista de Educación y Cultura, No. 67, mar. de 2013, pp. 6-29, http://www.educacionyculturaaz.com/articulos-az/los-extremos-de-un-sub-continente-la-educacion-mexicana-y-la-chilena-un-ejercicio-de-analisis-comparado-y-un-primer-acercamiento-a-una-linea-de-base/.

Palafox, Juan Carlos et al., “Primary School Quali- ty in Mexico”, Views from lathr, No. 33, 1992 y Comparative Education Review, vol. 38, No. 2, 1994, pp. 167- 180.

“pisa 2012 Results in Focus. What 15-year-olds know and what they can do with what they know”, http://www.oecd.org/pisa/keyfindings/pisa-2012-results-overview.pdf.

100 Artículos
Recursos abiertos de información enfocados a la difusión y contrucción del conocimiento en las diferentes disciplinas de la educación.

UNESCO: “LA EDUCACIÓN CUBANA ES UN EJEMPLO PARA EL MUNDO”

Artículo anterior

GEOGRAFÍA DEL ANALFABETISMO EN MÉXICO Y SUS IMPLICACIONES

Siguiente artículo

Más en Archivo AZ

También te puede interesar