Professional Documents
Culture Documents
RESUMEN
SUMMARY
Three questions are analyzated in this study: the origins and the model of
institutional evaluation of University in Spain and in Europe, a proposal of eva-
luation of quality of the university teaching, and the quality assessment of the
scientific productivity of the university teachers. The study responds to a systemic
approach of the quality in higher education. It proposes to connect the quality
criteria with the innovation, and the management of quality inside of the univer-
sity institution.
1. Que esta cuestin sea propiamente pedaggica o que nos encontremos ante un mero injer-
to mecnico en el rbol universitario de enfoques propios de otros mbitos (por decirlo en palabras
de GARCA DEL DUJO, 1995, p. 3) es una de las cuestiones de fondo en este problema.
2. La propuesta de Ortega y Gasset en Misin de la Universidad sigue teniendo vigencia; a ella
se refieren los trabajos actuales sobre la institucin universitaria.
3- Ver VZQUEZ, G. (ed.) (1998): Madrid: espacio universitario abierto. Fundacin Universidad-
Empresa. Madrid..
Diplomas de Prctica profesional...) son otros agentes, actores, que estn deman-
dando un papel en la acreditacin de las competencias, ms que de los ttulos.
Estas prcticas y otras muestran que, ni hay una sola forma de concebir los
estudios postsecundarios, ni las competencias profesionales se adquieren slo en
las aulas universitarias. Por fin, las enseanzas que conducen a los ttulos propios
otorgados por las universidades, actuando por s solas o mediante aventuras con-
juntas con organizaciones de diversa naturaleza, prueban que la educacin supe-
rior forma hoy parte de un concepto, sumamente amplio pero real, de educacin
bsica de tal forma que los estudios de hoy habrn de volver ulteriormente a
aulas, reales o virtuales, de educacin superior para adquirir nuevas cualificacio-
nes y competencias. En sntesis, las diversas organizaciones de educacin superior
han de situarse dentro de la Sociedad post-industrial o de la Informacin4.
En segundo lugar, es menester examinar las dos dimensiones de la universidad.
Una, pblica o funcin de inters general, de servicio a la colectividad, basada
en la creencia de que su inclusin dentro de los servicios del Estado del bienes-
tar se justifica por su contribucin, siquiera sea a medio plazo, para el manteni-
miento de ese mismo estado de cosas. Otra, privada o privatizable, en el senti-
do que le reconoce Sez de Miera, esto es, que genera actividades que tienen un
valor de mercado y sobre las cuales existe una demanda solvente (1997, p. 11).
Aunque por razones jurdicas sigue teniendo su valor de uso la distincin entre
Centros de Educacin Superior de rgimen pblico y privado (y a pesar de que, en
muchos casos, se pueden reconocer diferencias importantes de calidad entre unos
y otros), lo cierto es que, en un plano simplemente terico, la distincin es pro-
blemtica. Sobre todo, dentro del enfoque del cada vez, cuando menos por ahora,
ms difcilmente sostenible Estado del bienestar. Progresivamente, se est privati-
zando la discusin pblica sobre la educacin; parece como si todos los servicios
que presta la universidad huvieran de tener un inmediato valor de mercado. Esto
rige para la investigacin bsica igual que para la aplicada, por no hablar del esca-
so o nulo valor aadido que se reconoce a la docencia de calidad.
Es menester situar la cuestin de la calidad universitaria en la perspectiva de
la sostenibilidad del Estado del bienestar. En efecto, y conforme con la realidad
actual, [una vez] asegurada la convergencia nominal [con Europa], Espaa se
enfrenta a dos importantes retos, ya como miembro de la Unin Monetaria. El pri-
mero viene representado por el logro de la convergencia real, en tanto que el
segundo se basa en el aseguramiento de un crecimiento sostenido que permita
consolidar la situacin econmica y social conseguida por la sociedad espaola5.
Dentro de este marco, se hace necesario alcanzar la armona entre el creci-
miento estable, sostenido y justo de nuestra economa con el mantenimiento y la
mejora de la prestacin de los servicios de inters pblico entre los cuales se
incluye, adems de las polticas activas a favor del empleo, el mantenimiento de
las pensiones y del sistema de salud, la calidad de la educacin en todos los nive-
les de la educacin bsica, en el sentido que aqu se ha dado a esta expresin.
No es posible extenderse mucho en este punto, pero es cuestin muy perti-
nente para el examen de la calidad de la educacin en la universidad. En efecto,
los datos actuales sobre la universidad espaola nos muestran que, aunque a nues-
tra manera, Espaa ha alcanzado unas cotas de participacin universitaria muy dif-
ciles de superar por nuestro propio pas, as como por otros pases del entorno
europeo. Situados, slo tras Holanda, a la cabeza de % de alumnos matriculados
en la educacin superior respecto del total de alumnos entre 18 y 24 aos, el creci-
miento demogrfico de la poblacin universitaria bien merece el nombre de explo-
sin y masificacin. Sin embargo, el anlisis prospectivo de la demanda educativa
en esos mismos niveles de edad nos arrojan resultados exponentes de un fuerte
cambio de tendencia pues en los veinte aos que van desde 1991 al ao 2010 se
estima que se perder un 37,9% de la poblacin en Espaa (en los niveles citados).
Esta previsin ha contribuido a desacelerar la preocupacin poltica y la adopcin
de medidas sobre la cuestin del acceso a la universidad y se est teniendo en cuen-
ta a la hora de hacer el clculo de plantillas de profesorado universitario6.
En suma, se puede sealar que la evaluacin de la calidad de la educacin
universitaria, ms que un problema textual, es una cuestin pretextual para reexa-
minar qu entendemos y qu queremos hacer con las enseanzas universitarias
en el escenario de los cambios sociales, econmicos, tecnolgicos y demogrficos.
Como se ha dicho antes, la discusin sobre la calidad de la educacin universita-
ria debe situarse en el terreno de la publicidad y de la autonoma que convenga
dar a un asunto aparentemente slo de ndole tcnica.
Para qu se evala cada universidad?7. La cuestin de la evaluacin de la uni-
versidad se sita en la encrucijada de dos caminos: el de la autonoma y la pres-
tacin de un servicio de inters para la construccin de la ciudadana, por un lado,
y el de la tensin entre el presente y el futuro, por el otro.
La institucin universitaria siempre ha estado sujeta a un sistema de evalua-
cin por parte de la sociedad y de la administracin. Lo que hay de nuevo en este
momento no es tanto la funcin evaluativa, cuanto que es la propia organizacin
quien asume ahora la responsabilidad de su autoevaluacin. De esta forma se eva-
6. Las cifras no son menos extremas en los niveles correspondientes a las edades de la secunda-
ria obligatoria, con un 40,5% de decremento, y de la secundaria no obligatoria, con un 42,7%. A dife-
rencia de lo que pueda ocurrir con los niveles de las enseanzas preuniversitarias, en los que las migra-
ciones pueden suavizar ligeramente estos decrementos, no cabe esperar apenas influjo alguno todava
sobre la educacin superior. Ver: PUYOL, R. Y OTROS (1998): El reto de la sostenibilidad del Estado del
bienestar en educacin y universidad, cap. III. En FERNNDEZ-MIRANDA, E. (dir.): Espacio Euro:
Sostenibilidad del Estado del bienestar en Espaa. Price Waterhouse. Madrid.
7. Este punto puede verse ms desarrollado en VZQUEZ, G. (1998): Evaluacin de la calidad
de las universidades [evaluacin e innovacin de la comunidad universitaria]. Gaceta Complutense
(26), 26 de mayo, p. 2. Confrntese, tambin, el parecer de autores como de Luxn, Mora, Rodrguez
Espinar, en sus respectivos trabajos sobre la evaluacin institucional de la universidad, en Revista de
Educacin (315), enero-abril 1998. Desde una perspectiva institucional concreta, la de las doce uni-
versidades radicadas en Madrid, puede verse esta cuestin tratada en VZQUEZ, G. (ed.) (1998): Madrid:
espacio universitario abierto. Fundacin Universidad-Empresa. Madrid.
de las Ciencias de la Educacin, es desde donde mejor se puede denotar esta afloracin mltiple de
intereses por la universidad que poco a poco va formando un elenco de lo que podramos denominar
Pedagoga Universitaria. Vase, como evidencia de lo afirmado y para la cuestin metodolgica, los
trabajos, citados en la bibliografa, de Romn (1980) y Bernad (1990). Para la cuestin del fracaso/xito
escolar, ver: Prieto (1979), Gonzlez (1985 y 1989), J. Tourn (1984), Herrero e Infestas (1980),
Escudero (1981), Salvador y Valcrcel (1989), Celorio (1983), Demanda y rendimiento acadmico en
educacin superior (1991). En referencia a la cuestin de la orientacin y el empleo, consltese: Sanz
(1982), Gonzlez (1976), Martn y De Miguel (1979), Subirats (1981), Consejo de Universidades (1989).
En relacin con el tema de la investigacin: Bach (1990), Lafourcade (1974), Revista Espaola de
Pedagoga (1990). En referencia a las empresas: Azofra, Hernndez y Rojo (1988), Contreras (1990),
Mayor (1996). En relacin con los aspectos psicolgicos de la enseanza universitaria: Hernndez
(1986). Por ltimo y como muestra general de este inters diversificado por mltiples aspectos de la
educacin universitaria vase: Universidad Politcnica de Madrid (1991), Consejo de Universidades
(199O), Universidad de Cdiz (1991), Universidad de Zaragoza (1984), Benedito, Ferrer y Ferreres
(1995).
Ha sido en los Pases Bajos, tras notables esfuerzos llevados a cabo por
Finlandia y Noruega principalmente, en donde se ha aportado el que se considera
mejor modelo europeo de evaluacin de las universidades y que salvo pequeas
modificaciones ha sido recomendado en la UE. Se trata de un modelo autorregula-
do, organizado y controlado fundamentalmente por las propias instituciones de
enseanza superior, superando el control de supervisin centralizado de las prime-
ras experiencias. Se trata de un proceso evaluador asentado en la autoevaluacin y
por tanto participado e impregnado de los principios de la evaluacin como mejo-
ra o evaluacin formativa. Ms adelante lo analizaremos detalladamente.
NIVEL I
Enseanza: Metas, objetivos y planificacin de la universidad.
Alumnos (indicadores de demanda y de rendimiento).
Profesorado y personal investigador.
Investigacin: Produccin cientfica (nmero y peso cuantitativo).
Calidad (impacto esperado).
Productividad (produccin/profesor).
Colaboracin.
Organizacin: Recursos (econmicos y fsicos).
Servicios horizontales (informacin, biblioteca, servicios asis-
tenciales...).
Organizacin general.
NIVEL II
Enseanza: Metas, objetivos y planificacin de la titulacin.
Plan docente.
Desarrollo de la enseanza.
Profesorado.
Investigacin: Recursos cientficos (humanos, econmicos, infraestructura).
Produccin cientfica.
Estructura cientfica (lneas de investigacin, movilidad, pro-
yeccin).
Organizacin: Anlisis del proceso de la toma de decisiones.
NIVEL III
Enseanza: Recopilacin de la informacin mediante tcnicas cuantitativas.
Investigacin: Incorporacin del anlisis cualitativo externo mediante revi-
sin por pares.
Organizacin: Recopilacin de informacin mediante tcnicas cualitativas.
10. De estas 46 universidades siete solicitaron evaluar todas sus titulaciones, 26 aceptaron eva-
luar alguna de sus titulaciones (en total se han evaluado 32 ttulos). Trece universidades se han eva-
luado en el segundo ao (1997), aunque nos consta que debido a cierto retraso del plan algunas de
estas universidades han sido evaluadas en los primeros meses de 1998.
mejor o peor que las restantes de su especie. Es decir, calidad, en un sentido com-
parativo, y por tanto, encerrando en su propio significado el requerimiento eva-
luativo.
En el mundo empresarial que es desde donde se ha difundido el concepto de
calidad, el nivel de exigencia que encierra es tal, que difcilmente puede ser apli-
cable de manera automtica a los procesos y productos universitarios. As, se ha
definido como conjunto de propiedades y caractersticas de un producto o servi-
cio que le confieren su aptitud para satisfacer unas necesidades expresas o impl-
citas11. Asimismo, Panera (1991, p. 388) define la calidad afirmando que es el con-
junto de las caractersticas fundamentales de un bien o servicio que lo distinguen
y lo hacen til para la aplicacin para la que ha sido producido. Por su parte,
Sebastin y colaboradores (1991, p. 472) afirman que realizar una accin con cali-
dad es disear, producir y servir un producto o servicio que sea til, lo ms eco-
nmico posible y siempre satisfactorio para el usuario. Todo ello, excsese la
insistencia, es difcil de ser trasladado completamente a la universidad.
Aplicado al mundo empresarial, la calidad total se aleja de los objetivos de
la evaluacin universitaria porque supone el control sobre las funciones, el tiem-
po, el personal, los medios, las relaciones, los clientes e incluso el grado de
satisfaccin de los sujetos implicados, pues tambin se debe lograr la satisfac-
cin total. Cabe aqu, para ilustrar tal requisito, plantear el cambio de paradig-
ma que supone la calidad total en el contexto de la empresa; hasta ahora se
deca que el objetivo de una empresa era el accionariado, o sea, el aporte de
beneficios, que se consegua a travs de los clientes y mediante los empleados,
por lo que los niveles de importancia se establecan as: accionistas, en primer
lugar, clientes y por ltimo, los empleados. En cambio, la calidad total supone
incidir en el empleado, como elemento ms importante de la empresa -el fac-
tor o capital humano- ya que slo as sern capaces de elaborar buenos pro-
ductos -por lo tanto, se ampliar la clientela- que posibilitar la generacin de
beneficios para el accionariado.
La introduccin de planes en pro de la calidad est, como se ve, lejos de las
posibilidades universitarias, mxime cuando supone adems cambiar el estilo de
direccin y organizacin, abrir canales internos de comunicacin, desarrollar sis-
temas de revisin para ver si se cumplen las expectativas y desarrollar, funda-
mentalmente, programas de formacin, ya que la calidad es antes que nada cali-
dad humana (Juran y Gryna, 1995). Formar para la calidad es un factor motivador
hacia la autonoma personal, hacia la perfeccin del sujeto implicando incluso un
verdadero rearme moral. De ah que se hable de la pedagoga de empresa como
sinnimo de formacin empresarial (Colom, Sarramona y Vzquez, 1994) porque
hoy en da la calidad se basa en el logro de altos niveles morales de las personas
11. Tal es la definicin que aporta la Norma UNE 66-001/88. Vase Calidad-Vocabulario.
AENOR, Madrid, 1988. AENOR es la institucin espaola competente en la cuestin de calidad, por lo
que es la encargada de certificar los niveles de calidad asumidos por las empresas espaolas. En el
plano europeo opera la Fundacin Europea para la Gestin de la Calidad que se cre en 1988 y que
lanz su modelo evaluativo de calidad empresarial en 1991-
Por otra parte, los indicadores deben estar referidos tambin a los objetivos y
metas con que definimos la calidad lo que hace ms compleja an, si cabe, la difi-
cultad de concebir la posibilidad de evaluar la calidad total de las universidades12.
En todo caso debemos hablar de calidad universitaria como una estrategia de
aproximacin a la evaluacin, y no en el justo sentido del trmino, o al menos en
su acepcin empresarial; de hecho as lo han entendido, por lo general, los auto-
res que han tratado la cuestin. En este sentido, Panera (1991, p. 386), habla de
la calidad universitaria como una propuesta de mejora continuada; por su parte,
Rodrguez (1991, p. LVI), afirma que la calidad universitaria es un concepto rela-
tivo y multidimensional en relacin a los objetivos y actores del sistema educati-
vo y que en el contexto universitario slo sera posible aplicarla a los recursos o
inputs, (profesores, alumnos, instalaciones...), a los productos (rendimiento aca-
dmico, abandonos, investigacin...), a la oferta de los estudios y al desarrollo del
potencial del alumno y del profesorado.
Concretando en el modelo espaol y europeo de evaluacin de las universi-
dades, el tema de la calidad universitaria se ve de forma muy relativa y de algu-
na manera en el sentido que hemos ido indicando. Se defiende sin gnero de
dudas la calidad como un enfoque comprensivo de los niveles de mejora de la
universidad, alejndose entonces de las definiciones a travs de criterios o indica-
dores, propios de las empresas.
De todas formas y desde una perspectiva multidimensional, se concibe la
posibilidad de analizar la calidad - o aspectos de mejora- de la universidad espa-
ola con proyeccin en las siguientes dimensiones (Consejo de Universidades,
1997a, p. 9-11):
- Disciplina, asociada al establecimiento de estndares de las reas especfi-
cas. Son en todo caso los expertos a travs de organizaciones cientficas y profe-
sionales los que determinan los niveles de excelencia.
- Reputacin, u opinin de las diferentes audiencias sociales sobre la calidad
de una institucin o de una titulacin.
- Perfeccin o consistencia, entendida como idea, pues es la realizacin de
acciones y productos con o sin defecto alguno. Para ello deben plantearse espe-
cificaciones de tiempos de realizacin as como las cualidades o caractersticas que
debe contemplar la accin.
- Econmica o de resultados, que contempla la calidad en cuanto a dispo-
nibilidad de recursos y en cuanto al logro de objetivos. Busca por tanto la calidad
del producto -eficacia- y la economa de la produccin -eficiencia-. A nivel eva-
luativo ello supondra analizar la tasa de ingreso/egreso y el coste por graduado.
- Satisfaccin de los usuarios, concebido como uno de los componentes de
calidad ms importantes por su alto grado de definicin del rendimiento de una
institucin. Su capacidad de anlisis reside en la relevancia profesional alcanzada
en los distintos campos profesionales por parte de los alumnos egresados, y en
12. BENSIMON (1995) expresa las implicaciones negativas que el enfoque del TQM {Total Quality
Mangemeni) supone para la evaluacin de las instituciones acadmicas.
5. LA EVALUACIN UNIVERSITARIA
14. El modelo que nos aporta M. A. ESCOTET controla mltiples aspectos de los siguientes
captulos: Organizacin y estructura de extensin, recursos humanos, interaccin de la institucin
con el sistema regional de educacin superior y por ltimo, la articulacin entre la educacin supe-
rior y los dems niveles educativos. Este modelo fue aplicado en la regin centro occidental de
Venezuela.
15. Emilio LAMO DE ESPINOSA (1989, pp- 87-94) nos ofrece los siguientes parmetros objeto de
evaluacin bajo el ttulo Modelo estructural de las variables de las instituciones universitarias y su
influencia sobre la calidad de la enseanza y del aprendizaje: Variables de infraestructura del centro:
tamao del centro, nmero de alumnos y evaluacin en los ltimos tres aos, ratio profesor/alumnos,
nmero de despachos, medios de apoyo para la docencia e investigacin (laboratorios, medios infor-
mticos, bibliotecas...), apoyo exterior (convenios...), presupuestos y su distribucin, personal de
apoyo, tamao de los grupos en promedio (por ciclos), distancia del centro urbano, antigedad de la
institucin, otros servicios (deportivos, recreativos...). Variables del profesorado: satisfaccin, clima aca-
dmico, seleccin, formacin y promocin, percepcin de los estudiantes, edad, sexo, rango, antige-
dad, clase social, dedicacin, investigacin, docencia y servicios, formacin acadmica y profesional,
publicaciones, otras variables curriculares. Variables intracentro y del departamento y clima: nmero
de departamentos, nmero de profesores por departamento y por estamento, presupuesto y sistema
de retribucin, nmero de asignaturas, alumnos por departamento, apoyos personales (administrativos,
laborales...), apoyos materiales (despachos, bibliotecas, laboratorios, medios informticos), profesores
extranjeros, reuniones y periodicidad, reuniones cientficas, congresos, conexin intradepartamental,
relaciones externas (otros departamentos, centros universitarios, otros centros), investigacin (bsica,
aplicada, etc.), publicaciones, programacin docente, participacin, toma de decisiones del profesora-
do, participacin, toma de decisiones del alumnado. Variables de los estudiantes: expectativas, eva-
luacin de la docencia, actitudes hacia la enseanza, clase social, edad, sexo, etc., horas de trabajo adi-
cional a la clase, sistemas y formas de enseanza. Rendimiento: rendimiento acadmico, abandonos,
satisfaccin.
16. Este modelo es de carcter autoevaluativo y se fundamenta en la evaluacin de los siguien-
tes aspectos: objetivos institucionales, gobierno y funcionamiento, gestin econmica y financiera,
infraestructura fsica, actividades educativas, personal docente, alumnos, personal de administracin y
servicios, recursos didcticos, relaciones externas de la universidad. Para cada uno de los puntos que
engloban los grandes captulos aqu mencionados se debe desarrollar un anlisis descriptivo, evalua-
tivo y de previsiones o tendencias futuras.
17. La propuesta de M. DE MIGUEL comprendera la evaluacin de los objetivos de la titulacin,
las caractersticas de los alumnos, el perfil del profesorado, el plan docente, los medios materiales y
humanos de apoyo, el rendimiento acadmico, la calidad de la investigacin as como sus resultados,
los recursos cientficos, la produccin cientfica, la estructura cientfica de la universidad, cada uno de
los servicios y unidades administrativas y en general los recursos humanos.
valoracin
informacin autoinforme
rendicin de cuentas
mejora
A
y
informe informacin
valoracin
18. Todo el proceso de la evaluacin de la universidad espaola est tomado, a modo de resumen,
de la informacin que se aporta en las obras, citadas en la bibliografa, del CONSEJO DE UNIVERSIDADES (1997a
y 1997b).
ner acciones de mejora. Es decir, analizar cmo una institucin gestiona la calidad
de su oferta educativa. De este macro objetivo se desprenden, segn la misma
fuente, los siguientes objetivos especficos:
- establecer criterios en relacin con la evaluacin de la calidad,
- analizar el contenido del autoinforme con relacin a los requisitos tcnicos
de la gua de autoevaluacin.
- analizar el proceso de autoevaluacin.
- cotejar el contenido del autoinforme con lo manifestado por las diferentes
audiencias, lo observado en la visita y la documentacin adicional,.
- elaborar una opinin sobre los recursos disponibles, su organizacin, el
funcionamiento y los resultados de la unidad evaluada,
- proporcionar a los miembros de la unidad evaluada la adecuada regla-
mentacin para que pueda reflexionar sobre su realidad desde la perspectiva de
los agentes externos,
- reflexionar y aportar propuestas de mejora,
- elaborar un informe claro, equilibrado y constructivo acerca de la calidad
de la institucin, de su gestin y del proceso de autoevaluacin seguido.
De hecho, la lectura del listado de objetivos especficos es una buena manifesta-
cin de las tareas a desarrollar por el comit de expertos, ya que, en funcin del
autoinforme -que tendr que ser cotejado con la gua de autoevaluacin utilizada para
su realizacin- la consulta de material e informacin adicional que solicite, junto con
las visitas y observacin de los distintos servicios y aspectos de la titulacin y el
encuentro y reunin con los distintos estamentos implicados, sern las fuentes que le
aportarn material e informacin para evaluar el autoinforme, propiciar nuevos crite-
rios evaluativos y en definitiva, redactar su propio informe de evaluacin.
Claro est que no pueden obviarse las observaciones personales in situ que
debe realizar tambin el comit evaluador; observaciones que pueden incluir el
recabar informacin adicional tanto oral como escrita o ver en funcionamiento
normal cualquier servicio o actividad docente, educativa, investigadora, etc., que
en aquellos momentos se lleve a cabo en la titulacin objeto de evaluacin. En
este sentido, cabe destacar la necesidad de observar la organizacin y la planifi-
cacin del trabajo, la observacin de servicios e instalaciones, as como el clima
interno de la institucin.
La primera reflexin que cabe hacer es que la evaluacin del profesorado uni-
versitario no se podr acometer al margen de su formacin y promocin, si real-
mente se pretende que su aplicacin resulte til y coherente.
20. Esta propuesta se basa en el trabajo elaborado por Sarramona y Vzquez en la Universidad
de Santiago en un Seminario especfico sobre este tema, organizado por la Direccin General de
Universidades e Investigacin de la Xunta de Galicia, en el que participaron, tambin, la profesora
Prez Vera y algunos investigadores universitarios de los campos fsico y de la neurobiologia de la
Universidad de Santiago.
21. En este sentido se pronuncian APODARA, ARBIZU, GRAO, HORNILLA Y OLALDE (1990) en su trabajo
Experiencias evaluativas en la Universidad del Pas Vasco: consideraciones en torno a la puesta en marcha
de un proceso. Revista Espaola de Pedagoga, 48 (186), p. 328; tambin, en el mismo nmero de esta revis-
ta, Tejedor propone que la evaluacin del profesorado pueda vincularse a su perfeccionamiento y promo-
cin. Ms recientemente, R. S. WINTER (1998) manifiesta el carcter diagnstico, que habr de vincularse al
de tratamiento, en Formar en calidad en la Universidad. Organizacin y Gestin Educativa (3), p. 36.
ESTRUCTURA
ADMINISTRACIN
INTERNA
INVESTIGACIN
SISTEMA
RECURSOS
ORGANIZATIVO
TUTORA
EVALUACIN DEL
PROFESORADO
PRACTICA
DOCENTE
IDONEIDAD
RESULTADOS
CURRICULAR
PARTICIPACIN
INSTITUCIONAL
CONTEXTO EFICACIA
SOCIAL SOCIAL
cin conforme a este modelo; como tampoco que existen otras vas de financiacin
y de evaluacin de la investigacin, cual es el caso de la evaluacin de los pro-
yectos presentados, por los propios profesores universitarios, a la Agencia Nacio-
nal de Evaluacin y Prospectiva (ANEP) o como el caso especfico de la evalua-
cin de la investigacin educativa conforme a la convocatoria anual del Centro de
Investigacin y Documentaicn Educativa (CIDE). De forma casi exclusiva, por su
mayor incidencia sobre la poltica universitaria, nos referiremos al proceso en rela-
cin con el proceso de la CNEAI; posteriormente, haremos algunas precisiones
acerca de la evaluacin de los proyectos de investigacin en las convocatorias de
la ANEP y del CIDE.
Uno de los primeros problemas que afecta a la evaluacin de la investigacin,
en nuestro modelo, es su propia consideracin como actividad relacionada con la
productividad. En primer lugar, habra que delimitar si la investigacin consiste en
una funcin que desarrollan las instituciones (universidades, centros de generacin
y aplicacin de conocimiento...) ms bien que una actividad de los profesores o
investigadores. Tomar uno u otro camino lleva, como consecuencia, adoptar un
enfoque metodolgico u otro. Qu es lo que debe someterse a control, los pro-
cesos y resultados investigadores de las instituciones, de los grupos o de las per-
sonas en concreto? La consideracin de la investigacin como funcin obligara a
considerar los recursos disponibles para la investigacin, variable muy sensible a
las condiciones del contexto propio de cada grupo y de cada investigador. Resulta
evidente la dificultad de armonizar la evaluacin de la productividad de cada pro-
fesor con la realimentacin de los resultados hacia la comunidad investigadora.
En segundo lugar, es menester decidir qu finalidad se persigue con la eva-
luacin de la actividad investigadora. El R.D. 1086/89, de 28 de agosto, presenta
el modelo dentro de un enfoque de retribuciones del profesorado universitario,
enfoque que ha impregnado la percepcin social de los efectos de la evaluacin.
Evidentemente, la situacin es sumamente grave en el caso de la evaluacin de la
actividad docente, mbito en el que no existe la menor relacin entre calidad de
la actividad realizada, la evaluacin y la toma de decisiones sobre ella.
El caso de la actividad investigadora es ciertamente distinto; al ser una inves-
tigacin por pares interuniversitarios y, en cierta medida, interdisciplinares, se con-
sigue un efecto que trasciende la mera gratificacin (en el sentido comportamental
del trmino) a la persona. Se generan otros efectos inducidos que se orientan a los
grupos acadmicos e investigadores, efectos que merecera la pena someter a an-
lisis22. Igualmente, merecera la pena trascender el nivel de opinin en percepcin
de la valoracin y el impacto del sistema y someter a evaluacin sistemtica las
creencias, comportamientos y expectativas de los profesores evaluados tras cono-
22. Por ejemplo, qu efecto tienen las evaluaciones, negativas o positivas, sobre las peticiones
de los mismos profesores y sobre la calidad de su investigacin en los futuros perodos de evaluacin?
Se tienen algunos indicios al respecto, referidos a grupos, pero no a personas. Ciertamente, en aque-
llos casos en los que, tras una evaluacin negativa, un sujeto no se presenta de nuevo e inmediata-
mente a la evaluacin, no cabe analizar el efecto sobre la calidad, aunque la falta de participacin en
el sistema pueda resultar elocuente desde otra perspectiva.
cer sus resultados23. Nada se opone, sino todo lo contrario, a que se realice un estu-
dio riguroso sobre los efectos que las decisiones sobre la evaluacin investigadora
tienen sobre la conducta acadmica, y no slo administrativa, de los profesores.
Queda aqu apuntada, poco ms que aludida, la cuestin de la relacin entre
el resultado de cada evaluacin y la construccin del autoconcepto acadmico pro-
pio de cada profesor. Pero en los ltimos aos est emergiendo un nuevo efecto,
quiz no deseado y extrnseco al sistema, pero, al parecer, no por ello poco efecti-
vo. Nos referimos al hecho de que alguna universidad se ha planteado la cuestin
de considerar el nmero de tramos de investigacin positiva como variable de un
modelo de toma de decisiones para participar en la ordenacin y participacin de
los profesores (sobre todo, de los Profesores Titulares de Universidad) en los llama-
dos planes de promocin interna. Es obvio que, por mandato legal, constitucional y
de la Ley de Reforma Universitaria, la participacin en los concursos a ctedras no
requiere la superacin previa de ningn tramo de investigacin, pero se trata de un
criterio que est comenzando a contar en este escenario. Evidentemente, sta no es
una finalidad del sistema, por no decir una carga ms a aadir a las diversas que
tienen que asumir los miembros de los comits asesores: algo as como hacer de
jueces previos de los candidatos, cuando no de los colegas (o de s mismos) que
previa o posteriormente hayan juzgado o vayan a juzgar la idoneidad como pro-
fesores universitarios, a catedrticos o a otros cuerpos acadmicos24.
Hasta ahora hemos examinado un problema conceptual y otro funcional.
Dando un pequeo paso ms, podemos situar el problema en los lmites de lo
funcional-contextual. El mismo decreto citado establece que la finalidad que se
busca con este proceso es la de fomentar la productividad del trabajo investiga-
dor del profesor universitario y su mejor difusin tanto nacional como internacio-
nal. Esto significa que el sentido de esta evaluacin se orienta en un camino ms
ambicioso y, al parecer, coherente: impulsar y evaluar la generacin de conoci-
miento, tratando de evaluar la calidad de acuerdo con parmetros internacionales
y nacionales. Tal cosa es usual en el campo de la evaluacin cientfica pero intro-
duce algunos problemas. Por de pronto, es posible que haya alguna disonancia
entre la manifestacin normativa (por ejemplo, de la exposicin de motivos de la
Orden de 5 de febrero de 1990) cuando se refiere a que [no] haya lmites cuanti-
tativos apriorsticos en la posibilidad de concesin de evaluaciones positivas y la
aspiracin a conseguir una cierta homologacin y difusin del conocimiento a un
nivel, no slo nacional, sino internacional.
La pretensin, como se dice, no es nueva, ni nicamente nuestra. As, por ejem-
plo, en el caso del Reino Unido, la evaluacin de la investigacin se realiza tenien-
23. Se tratara de dar una respuesta armnica a los criterios sptimo (satisfaccin del personal)
y octavo (-impacto en la sociedad) del modelo de evaluacin de la calidad de la E.F.Q.M.; ver:
E.F.Q.M. (1996): Autoevaluacin. Directrices para empresas, pp. 27 y 29.
24. En algn caso puede darse la disonancia, quiz estridente, de que profesores universitarios
no doctores presenten su candidatura a las evaluaciones internas de su universidad argumentando
haber sido evaluados positivamente por la CNEAI. Ms an, la normativa no impide a un profesor uni-
versitario sin ttulo de licenciado o de ingeniero o arquitecto superiores presentarse a la evaluacin de
su actividad investigadora.
25. En la experiencia de 1992 se analizaron los resultados de investigacin de tres tipos (bsica,
estratgica y aplicada) conforme a doce categoras (desde monografas a artculos, conferencias, artcu-
los en revistas cientficas y de divulgacin, revisiones, etc.) y calificados conforme a una escala de cinco
puntos (desde los excelente, tanto a nivel internacional como nacional, hasta la calidad de la investiga-
cin que no alcanza el nivel de excelencia en ninguna o en casi ninguna de las subreas de actividad).
26. Ntese que decimos campos (y no reas) de conocimiento, que hasta ah no resultara
extrao que llegaran las percepciones gremiales. La confusin puede llegar hasta el lmite de que, por
va administrativa, se puede argir, por la parte interesada, que los miembros de un Comit asesor no
estn capacitados para evaluar la productividad investigadora si no pertenecen a la misma rea de
conocimiento (lo que no obsta que pueda resultar aconsejable que dentro de estos comits haya gene-
ralistas familiarizados con diversos enfoques conceptuales y metodolgicos). La falta de coincidencia
en el enfoque evaluador de la actividad investigadora y el adoptado por la comisin que juzga el con-
curso a plazas de profesor universitario no tiene por qu considerarse en s misma negativa; tal como
han sealado Prez Yruela y Fernndez Esquinal, lo verdaderamente perverso en el proceso de selec-
cin de recursos humanos en la universidad vendra constituido por aquella seleccin de recursos que
no se realizara en funcin de ninguno de los tres mercados (de investigacin pblica, de investigacin
privada y mercado educacional, de estrategia orientada hacia la competencia docente).
27. De nuevo habra que tener presente el efecto de la mortalidad por seleccin en la autopre-
sentacin, as como el tipo de investigacin (bsica, aplicada o tecnolgica) propio o predominante en
cada campo o lnea de investigacin.
y Ciencia, en 1996, para las seis primeras evaluaciones, permiten precisar esas
referencias globales28:
01 Mat./Fis. 3.482 2.005 258 162 281 231 350 268 336 266 468 395 5.175 3-327
02 Qumica 3.939 2.515 305 217 294 224 422 342 387 321 509 378 5.856 3.997
03 Biologa 1.990 1.553 190 157 169 135 203 156 160 142 293 242 3.005 2.385
04 C. Biomd. 3.965 2.150 342 205 276 197 480 333 509 330 603 395 6.175 3.610
05 C. Natural 3.039 1.733 306 173 279 194 331 235 334 248 502 339 4.791 2.922
06 Ing./Arquit. 3.558 1.636 195 107 279 178 378 192 317 150 491 272 5.218 2.535
07 C. Soc, Pol, 2.547 1.387 308 143 315 151 400 217 394 277 586 323 4.550 2.498
Comp. y Educ.
08 C. Econm. 1.770 957 182 86 130 87 187 107 187 112 359 227 2.815 1.576
09 Derecho 1.837 1.361 98 68 168 131 234 177 245 202 364 285 2.946 2.224
10 Historia y Arte 2.708 1.681 228 144 264 173 351 237 313 231 405 286 4.269 2.752
11 Filos./Filol./ 3.093 2.137 259 158 275 142 345 202 311 182 584 453 4.867 3.274
Lingstica
Total 31.928 19.115 2.671 1.620 2.730 1.843 3.681 2.466 3.493 2.461 5.164 3.595 49.667 31.100
28. MINISTERIO DE EDUCACIN Y CIENCIA (1996): Seis aos de evaluaciones. [Madrid]: editor-Comisin
Nacional Evaluadora de la Actividad Investigadora. A finales de 1998 estos datos han experimentado algu-
nas variaciones probablemente debido a los resultados de recursos, fallos de sentencias firmes, etc.
Como puede observarse, existen tres grupos diferenciados en los campos: uno
primero, conformado por la Biologa, la Matemtica y la Fsica, y la Qumica, con
porcentajes de xito entre el noventa y el ochenta por ciento; uno segundo com-
puesto por las Ciencias de la Naturaleza, las Ingenieras y Arquitectura y las
Humanidades con tasas del orden del setenta y del ochenta por ciento; finalmente,
se encuentran las Ciencias Sociales con niveles cercanos al sesenta por ciento29.
Los datos nos sealan otros datos significativos. As, por ejemplo, la evolu-
cin de los porcentajes de xito total intercampos:
29. Dentro de este campo hay una gran variabilidad intragrupo, con tasas que varan, de mayor
a menor nivel de xito, desde las obtenidas por los investigadores de la Psicobiologa hasta los de las
de Didcticas especficas en general, pasando por valores promedios en las reas terico-histrica y
metodolgica en Pedagoga (reas cuyos valores vienen a coincidir con las psicolgicas ms prxi-
mas a la educacin, pero que quedan claramente por debajo de otras psicolgicas ms duras y de
las de orientacin sociolgica). A juicio de los autores de este trabajo, la publicacin de datos refe-
rentes a las reas especficas e, incluso, a comunidades de investigadores permitira dibujar mejor el
mapa del sistema espaol de ciencia y tecnologa, tal como hacen publicaciones del tipo de la cita-
da en la nota 32.
Habida cuenta de la asimetra de los resultados segn los campos del saber
habra que preguntarse si debe adoptarse la misma matriz de criterios en todos los
casos y si deben predominar los propios de la ciencia dura sobre los de otras
ciencias. De hecho, los procesos de productividad son diversos en unos casos y
otros, como lo son los grados de colaboraciones jurdicas...) empleados para la
publicacin del avance del conocimiento. Casos aparte son los procesos de crea-
cin y difusin artstica (musical, plstica, etc.).
Este enfoque analtico habra que llevarlo, no slo al de la variabilidad entre los
distintos campos, sino a la medida de la variabilidad intracampo; es posible que no
sea idntica la variacin interna dentro del citado campo de la Biologa Celular y
Molecular que en el de la Historia y Arte o que en el de las Ciencias Sociales, Polticas,
del Comportamiento y de la Educacin. Por otro lado, las viejas universidades tien-
den a tener una cultura de investigacin ms arraigada y genrica que las universida-
des nuevas que tienden a centrarse ms en la calidad de la docencia y que pueden
destacar en algn campo especfico como resultado de la incorporacin a su claustro
acadmico de algn investigador o equipo investigador excelente30. Tambin ha de
tenerse encuenta que la produccin cientfica es mayor en los departamentos de las
universidades de algunas comunidades autnomas; as, por ejemplo, y segn un estu-
dio del CINDOC, Madrid produjo el 30,69% de la investigacin cientfica durante el
trienio 1994-96, seguido de Catalua con el 23,57% y de Andaluca con el 13,33%31.
Puede identificarse, en fin, otra fuente de variacin contextual si se comparan los ins-
titutos de investigacin del CSIC y los departamentos universitarios, con las escasas
excepciones de las agencias mixtas Universidad-CSIC32.
Un problema especfico del actual modelo de evaluacin (y decimos modelo,
y no ya sistema, en cuanto nos referimos a cuestiones de criterio y de mtodo) es
el relativo a los grados de libertad que deja al evaluador-asesor. ste es un criterio
que afecta a la evaluacin de la investigacin en general. No es lo mismo que los
paneles de expertos tengan acceso al producto entero de la investigacin, que slo
a los autoinformes; que sus propuestas, y las decisiones administrativas consi-
guientes, sean recurribles, como sean definitivas (Patrick y Stanley, 1996, p. 25).
Adems, la determinacin del medio (revista; en su caso, editorial) en el que se
publica un trabajo como criterio para determinar el rigor del producto de la inves-
tigacin genera un nuevo mecanismo de endeudamiento en la decisin, desde los
evaluadores-asesores, retroactivamente, hacia los consejos asesores, los jueces (ms
o menos ambliopes, pues no siempre llegan a la total ceguera), los editores de los
medios en los que se publican los trabajos de los investigadores. Es obvio que no
todos los campos de conocimiento tienen las mismas posibilidades para situar sus
trabajos dentro de los SSCI Journal Citation Reporta y, precisamente, en lugares
destacados dentro de los medios con ms alto nivel de impacto34.
La dificultad no reside nicamente en los centros de decisin, sino en las
lneas de inters para quien decide. A ttulo de autorreferencia, si el conjunto de
trabajos que comparecen en el presente nmero de esta Revista se publicara en la
revista ms especfica sobre educacin superior {Res. High. Educ?), no alcanzara
a situarse en el tercio superior de las revistas de mayor impacto en el campo de
Educacin e Investigacin educativa segn la citada clasificacin del JCR del SSCI
de 1996. De las noventa y cuatro revistas citadas en ese campo, la Res. High. Educ.
aparece en el lugar 41 y la siguiente, siempre de carcter especfico, a la que
podramos enviar un trabajo sobre educacin superior aparece ya en el lugar 55,
esto es, al final del segundo tercio. Quiz, a la reserva de los resultados de posi-
bles estudios a realizar por el CINDOC u otras Agencias, sus recomendaciones y
la asuncin por la Coordinacin General de la CNEAI, fuera ms importante apli-
car los mismos criterios respecto de revistas regionales o ms domsticas que
esperar a que nuestros trabajos puedan entrar de forma regular en las revistas de
impacto segn el JCR. Los propios equipos asesores de las revistas ms locales
deberan asumir estos criterios y la direccin de las revistas la responsabilidad de
acometer la evaluacin ms sistemtica de los impactos de sus trabajos. Ha de
tenerse presente que no siempre resulta fcil delimitar qu entendemos por revis-
tas espaolas (ICYT) y qu por revistas internacionales (SCI); adems, tal como
se comprueba con los datos de una reciente investigacin documental sobre pro-
ductividad cientfica en la Comunidad de Madrid, existe una gran variabilidad
33- Ver: ISI (1996): Social Sciences Citation Index. Journal Citation Reports. A Bibliometric
Analysis of Social Science Journal in the ISI Database. Printed Guide to the Microfiche Edition. ISI
[Institute for Scientific Information]. Como se sabe, los criterios fundamentales que se emplean para
entender y usar las clasificaciones de las revistas son las revistas de mayor impacto relativo al nmero
de sus trabajos, las ms citadas, las de mayor impacto absoluto, la inmediacin de las citas respecto
de la fecha de aparicin del trabajo, la permanencia de las citas, etc. Pueden verse crticas al factor de
impacto en: VIDAL, J. (1993): El Science Citation Index y la evaluacin de la investigacin de las uni-
versidades. Poltica Cientfica, 37, pp. 37-59 y en MALTRS, B., QUINTANILLA, M. A. Y VIDAL, J. (1998):
Indicadores bibliomtricos en la evaluacin de la investigacin. Revista de Educacin (315), enero-
abril 1998, pp. 141-151. Tales crticas se suelen centrar en que, como reconoce el propio JCR (1996:
p. 10), hay ms de una forma de calcular el factor de impacto, ver, con este propsito: GARFIELD, E.
(1972): Citation analysis as a tool in journal evaluation. Science, 178, pp. 471-479, y en que, en lti-
ma instancia, el factor de impacto se refiere a una revista y nunca a un artculo concreto publicado en
ella. El Science Citation Index no ha estado exento de otras crticas tales como no ser sensible al segun-
do y ulteriores nombres de un trabajo conjunto y respecto de aquellos [autores] con apellidos cuyas ini-
ciales pertenecan a la segunda mitad del alfabeto (Lpez Pinero, 1972, pp. 55-56) en el caso de que
se tome como criterio absoluto el de la ordenacin de los autores por la inicial de su primer apellido.
34. En su defecto, puede decirse lo mismo respecto de las tenidas como revistas de excelencia
a nivel nacional. En buena lgica, debera contarse con los anlisis de impacto documental a realizar
por una Agencia nacional, como el CINDOC. A partir de la publicacin de este organismo en 1998
sobre las revistas cientficas espaolas, la CNEAI ha acometido un proyecto invitando a los editores de
las publicaciones catalogadas a que acrediten sus publicaciones de acuerdo con los estndares docu-
mentales al uso.
caso, es posible que la variabilidad intragrupo, dentro de las citadas ciencias, sea
muy elevada en perjuicio, quiz, de las ciencias donde el rigor del mtodo ha de
ser, por fuerza, menos acentuado. A esto habra que aadirse el peso que impo-
nen algunas corrientes dominantes de pensamiento que generan cascadas de tra-
bajos que apenas hacen avanzar el conocimiento38, aunque se publiquen en
medios cientficamente aceptables.
Al margen del examen de este modelo, ha de hacerse alguna referencia a la
evaluacin de la investigacin en otros marcos, como los de la Agencia Nacional
de Evaluacin y Prospectiva (ANEP) y, para el caso de las Ciencias de la
Educacin, del CIDE. El modelo de la Agencia evala proyectos de investigacin
sobre la base de los siguientes criterios: calidad de las contribuciones cientfico-
tcnicas del investigador principal y del equipo investigador, inters del proyecto,
efectos previstos, objetivos, metodologa, plan de trabajo y presupuesto. La espe-
riencia de los investigadores y la calidad del proyecto se evala en distintos nive-
les: regional, nacional, europeo e internacional no europeo. Tales criterios no
resultan difciles de aplicar, aunque, en ocasiones, pueden resultar algo forzados,
por su impronta tecnologa, respecto de proyectos propios del campo humansti-
co. La dimensin ms importante es la de la competencia investigadora y forma-
tiva del investigador responsable39.
La convocatoria del CIDE est abierta a profesores de distintos niveles del sis-
tema educativo, incluido el nivel universitario, y se centra en los proyectos pre-
sentados a la convocatoria pblica. Los criterios de evaluacin consisten, particu-
larmente, en su adecuacin a los intereses del sistema educativo expresados en la
convocatoria, en su carcter innovador y en el rigor de la metodologa de traba-
jo40. El sistema de evaluacin utilizado en este caso ganara, bien por la va del
mejor conocimiento pblico de los jueces, bien por la mejora de la competencia
y coherencia interna de los miembros juzgadores.
El anlisis de estos programas de evaluacin pone de manifiesto la conve-
niencia de profundizar la experiencia y de mejorar el modelo y sus criterios tc-
38. Es posible que ocurra esto en algunos -ismos de estudios locales, a-hipotticos y cualitati-
vos (en el sentido dbil del trmino). En ciertas reas de intereses educacionales supone un grava-
men la fijacin de los intereses por los trabajos excesivamente localizados, muchos de ellos inspirados
por las exigencias de la reforma educativa, hasta el punto de que resulta dudosa su contribucin al
avance del conocimiento cientfico. Por otra parte, ha de tenerse la existencia de diversas tradiciones
en las diversas reas de conocimiento, unas ms acadmicas, y otras ms profesionales; esto se advier-
te en ciertos campos como el identificado como 07 por la CNEAI. Pero no siempre las cosas deben ser
as: los estudios etnogrficos, los de Antropologa social..., pueden dejar de ser sensibles al contexto?;
dnde ha de publicarse un buen trabajo en estos campos, en una revista local o en una de prestigio
alejada del contexto en el que se centra el estudio?
39- Al cierre de este trabajo, y por parte de la direccin de la ANEP, se est preparando un infor-
me de evaluacin sobre los resultados de las convocatorias con el propsito de darlo a conocer a los
rganos de decisin sobre la poltica de investigacin universitaria, informe que los autores de este tra-
bajo podrn conocer antes de la publicacin del presente estudio (comunicacin oral de la direccin
de la Agencia).
40. Los criterios pueden verse en la convocatoria; por ej.: O.M. de 23-09-97 (BOE de 10-10-97),
pp. 29.564-29.567.
41. PATRICK Y STANLEY (1996, p. 35) proponen imprimirle este enfoque a la evaluacin de la
investigacin; a ttulo de ejemplo, citan, como una de las medidas posibles la de estimular a los miem-
bros ms antiguos y menos productivos a que adelanten su retiro de la vida activa. No obstante, es
posible (tal como sealan BRENNAN, WILLIAMS, HARRIS Y MCNAMARA, 1997, p. 181) que los enfoques dico-
tmicos, del tipo control/mejora, que han dominado la discusin sobre la mejora de la calidad de la
educacin superior, no sean los ms adecuados, y que convenga utilizar, en su lugar, los de enfoques
cclicos de disposiciones tpicas, auditora clnica y mejora del cliente.
42. TOURIN, J. M. (s.f.) ha afirmado, en su trabajo Desarrollo del sistema universitario y de la
comunidad cientfica como instrumento de innovacin en Galicia, la existencia de una relacin ine-
quvoca entre ambas estimaciones (p. 3), as como la capacidad de contributiva de la enseanza supe-
rior al desarrollo de la innovacin tecnolgica.
43. Dado que est prevista la convergencia en este medio, con este trabajo, de otro especfico
sobre la innovacin universitaria, no se profundizar en este punto. Sin embargo, no es posible con-
cluir la referencia a la evaluacin si no se la relaciona con estas dos funciones (evaluacin y formacin)
propias de la institucin universitaria. Este punto se desarrolla en VZQUEZ (1998): Programa de
Innovacin Educativa. Planteamiento general. 11Jornada de Innovacin Educativa. Universidad Com-
plutense de Madrid. Madrid, p. 7.
BIBLIOGRAFA
PANERA, F. (1991): Calidad de la educacin universitaria. Propuesta para una mejora conti-
nua. En UNIVERSIDAD DE CDIZ: Actas. L Congreso Internacional sobre calidad de la
enseanza universitaria. ICE de la Universidad de Cdiz. Cdiz, pp. 386-395.
PREZ ALONSO-GETA, P. M. (1985): Los Congresos Nacionales de Pedagoga. au Llibres.
Valencia.
PREZ YRUELA, M. Y FERNNDEZ ESQUINAL, M. (1997): Endogamia universitaria? El problema
de la seleccin de recursos humanos en la ciencia pblica espaola. Documento mul-
ticopiado (comunicacin personal del primer autor), 23 p.
PRICE, D. J. S. (1965): Networks of scientific papers. Science (49), pp. 510-515-
(1973): Hacia una ciencia de la ciencia. Ariel. Barcelona.
PRIETO, G. (1979): Anlisis de los rasgos y caractersticas psicopedaggicas de los alumnos
con xito en la Universidad de Salamanca. ICE de la Universidad de Salamanca.
Salamanca.
PSACHAROPOULOS, G. (ed.) (1987): Economies of education. Research and studies. Pergamon
Press. Oxford.
QUINTANILLA, M. A. (1996): Nuevas ideas para la Universidad. En La universidad del siglo XXL
y su impacto social. Universidad de Las Palmas. Las Palmas de Gran Canaria, pp. 35-48.
Revista Espaola de Pedagogia, 46 (186). 1990.
RODRGUEZ, S. (1991): Dimensiones de la calidad universitaria. En UNIVERSIDAD DE CDIZ: Actas.
L Congreso Lnternacional sobre calidad de la enseanza universitaria. ICE de la
Universidad de Cdiz. Cdiz, pp. LU a LXXXIII.
ROMN, J. Y OTROS (1980): Mtodos activos para enseanzas medias y universitarias. Cincel-
Kapelusz. Madrid.
SALVADOR, L. Y VALCRCEL, A. M. (1989): El rendimiento acadmico en la Universidad de Canta-
bria: Abandono y retraso en los estudios. Ministerio de Educacin y Ciencia. Madrid.
SANZ, R. (1982): Orientacin profesional y empleo en la Universidad. ICE de la Universidad
de La Laguna. Tenerife.
SEBASTIN, M. A. (1991): Propuesta de metodologa para la implantacin de la calidad en la
educacin universitaria. En UNIVERSIDAD DE CDIZ: Actas. I Congreso Lnternacional
sobre calidad de la enseanza universitaria. ICE de la Universidad de Cdiz. Cdiz,
pp. 470-479.
SUBIRATS, M. (1981): El empleo de los licenciados. Fontanella. Barcelona.
TAPSCOTT, D. Y CASTON, A. (1995): Cambio de paradigmas empresariales. Me. Graw Hill.
Mxico, D.F.
TOTAL QUALITY MANAGEMENT (1993): Higher Education, 25 (3)- Special issue on...
TOURN, J. (1984): Factores de rendimiento acadmico en la Universidad. EUNSA. Pamplona.
UNIVERSIDAD (1996): La ... del siglo XXL y su impacto social. Universidad de Las Palmas. Las
Palmas de Gran Canaria.
UNIVERSIDAD DE CDIZ (1991): Actas. L Congreso Lnternacional sobre calidad de la ensean-
za universitaria. ICE de la Universidad de Cdiz. Cdiz.
UNIVERSIDAD DE MURCIA (1979): Libro blanco sobre la Universidad de Murcia. Servicio de
Publicaciones de la Universidad de Murcia. Murcia.
UNIVERSIDAD DE ZARAGOZA (1984): Sobre pedagoga en la Universidad. Secretara de Publica-
ciones de la Universidad de Zaragoza. Zaragoza.
VZQUEZ, G. (ed.) (1998): Madrid: espacio universitario abierto. Fundacin Universidad-
Empresa. Madrid.
VOUGHT, F. VAN (1991): Cmo evaluar la calidad en la enseanza superior en Europa occi-
dental. En UNIVERSIDAD DE CDIZ: Actas. L Congreso Lnternacional sobre calidad de la
enseanza universitaria. ICE de la Universidad de Cdiz. Cdiz.