Antonia Martínez consultora en gestión educativa y adaptación digital pedagógica expone la intervención liderada en varias universidades para gobernar la IA generativa. Partió de un censo del profesorado que cruzó tipo de evaluación, uso de IA y madurez digital, y desembocó en una Matriz de Riesgo e Integridad Académica. Siguieron mesas de trabajo por facultad, un protocolo de declaración transparente de uso, un reglamento marco elaborado de abajo arriba, un comité de ética y talleres con el profesorado. Cada universidad eligió entre tres opciones de protección de datos. Concluye que la gobernanza de la IA debe ser integral y participativa, no mera regulación, y revisarse semestralmente.
Dentro de la evolución del uso de la IA generativa, he identificado en las Universidades Latinoamericanas 4 riesgos transversales, pues no sólo afectan el área académica sino también a la Universidad en su conjunto.
A continuación, despliego los 4 riesgos transversales:
| 1ER CUADRANTE Vulnerabilidad de la Integridad académica y colapso de la evaluación tradicional Falta de un marco regulatorio claro sobre el uso autorizado vs. no autorizado de herramientas generativas de acuerdo al tipo de evaluaciones, materias y carreras (exámenes, tesis, tareas, etc.). Lo anterior desencadena en: Vacíos legales al sancionar el fraude académico. Obsolescencia evaluativa, alejada de la generación de pensamiento crítico en los estudiantesIneficacia de los detectores de uso de IAFalta de madurez digital del claustro docente Pérdida de rigor en la titulación y exposición pública ante la pérdida de calidad de los graduados | 3ER CUADRANTE Desalineación con estándares internacionales de acreditación y calidad Se opera sin comités de ética de uso IA ni lineamientos claros para la docencia y la investigación. Lo anterior desencadena en: Pérdida de competitividad y observaciones negativas en auditorías de acreditación internacional, donde ya se exige que la universidad cuente con políticas formales de gobernanza tecnológica y transformación digital responsableEgresados que no pueden resolver las problemáticas de sus respectivas áreas profesionales |
| 2DO CUADRANTE Falta de resguardo de la Propiedad intelectual y autoría institucional Docentes e investigadores introduciendo investigaciones o datos no publicados todavía, en modelos de IA públicos. Lo anterior desencadena en: Pérdida de la propiedad intelectual de la universidad, pues sin una política de uso de datos, el conocimiento generado por la institución pasa a entrenar modelos de terceros sin compensación ni resguardo de derechos.Desincentivo de continuar con investigaciones por parte de los docentes | 4TO CUADRANTE Vulnerabilidad de datos personales y confidencialidad estudiantil (Gobierno de Datos) El Uso de plataformas de IA no corporativas que almacenan historial de calificaciones, expedientes o datos sensibles de alumnos y personal. Lo anterior desencadena en: Incumplimiento de las leyes de protección de datos personales |
Para solucionar los riesgos identificados arriba, tuve la oportunidad de liderar una serie de acciones que se aplicaron con mucho éxito, en algunas Universidades de la región.
Como consultora en Gestión Educativa y en Adaptación digital pedagógica, me concentré en los cuadrantes 1 y 3, que corresponden al corazón del quehacer académico institucional. A continuación, detallo los pasos que se aplicaron, y que les permitieron a las Universidades un manejo asertivo de la IA generativa.
Diagnóstico de la situación, para realizar una delimitación del riesgo e Integridad Académica por facultad, con el cruce de las variables: tipo de evaluación, tipo de uso de IA generativa y madurez digital del docente.
Para tener una mirada completa e integral se efectuó un censo aplicado a todos los docentes de la Universidad, lo que permitió:
Identificar los tipos de evaluación más usados por facultad – tanto evaluaciones intermedias como finales-, y detectar las brechas donde la IA suplanta el pensamiento del estudiante
El ranqueo de las estrategias de enseñanza de los docentes
El cruce entre, el tipo de evaluaciones y tipo de materias, en especial aquellas con impacto reputacional en la formación profesional del estudiante (especialización del área profesional)
Categorizar al docente en resistencia al uso, uso ingenuo, adopción de uso normada, o uso ético avanzado (tanto en la confección de evaluaciones, material de la materia y para orientaciones de aprendizaje al estudiante). Las evidencias mostraron que la adopción de uso normada y el uso ético avanzado por parte del docente, lo llevaba a confeccionar evaluaciones con uso de pensamiento crítico del estudiante (casos de estudio y proyectos entre otros, con desenvolvimiento oral y ejecución de soluciones por parte del estudiante, demostrando de manera observable la competencia lograda para la vida).
Fruto del anterior diagnóstico, se confeccionó la Matriz de Riesgo e Integridad Académica (Matriz 3×3), en donde se clasificaron las asignaturas según impacto reputacional, probabilidad de uso masivo de IA debido al tipo de evaluaciones, y la madurez de uso de IA por parte del claustro docente. El mapeo obtenido, permitió identificar por facultad/carrera, las materias con más riesgos de que no se estuviera midiendo realmente el pensamiento del estudiante.
Los resultados fueron compartidos por facultad con las autoridades y claustro docente, lo que llevó a mesas de trabajo por facultad, para reestructurar los estándares de evaluación por área académica, estableciendo una matriz de integración de IA generativa, de acuerdo a los niveles pedagógicos.
Como fruto de las mesas de trabajo por facultad, también se estableció el Protocolo de Verificación y Declaración de Transparencia de uso de IA generativa, a ser usado tanto por estudiantes como por docentes, indicando el porcentaje de uso, qué IA fue utilizada, y los prompts respectivos.
Este protocolo se desarrolló conjuntamente con el Reglamento Marco de Uso Responsable de IA para académicos y estudiantes realizado con enfoque down – up, pues se tomaron los aportes realizados por los implicados en las mesas de trabajos, y también se realizó un focus group con estudiantes por facultad, en especial en las materias consideradas sensibles para la reputación institucional.
También se estableció un Comité de Ética de uso de IA, como última instancia para dirimir los casos de fraude digital, en caso de no haberse resuelto en las instancias previas consideradas en el Reglamento.
Como cierre del proceso, se volvió al trabajo directo con los docentes, con Talleres integrativos por facultad para adoptar la Nueva Guía metodológica, con eje central en las estrategias de enseñanza, en las rubricas/tipo de evaluación, casos de aplicación, detección de alucinaciones y reafirmación del uso del protocolo y del Reglamento de uso responsable.
En el diagnóstico realizado en los cuadrantes 1 y 3, se evidenció la necesidad de un paraguas institucional, que les permitiera tanto a docentes como estudiantes, no sólo usar herramientas pagas, sino también que se pudiera proteger la información. De ahí, que para los cuadrantes 2 y 4, mi contribución consistió en dejar bien sentadas las necesidades del área académica en su conjunto. Surgieron 3 opciones, y para la toma de decisiones primó bastante el criterio del equipo de IT y los costos asociados a cada una de ellas, de ahí que las Universidades eligieron una de las 3 de acuerdo a sus respectivas circunstancias.
Suscripción Entreprise Saas con una de las empresas que impulsa la IA generativa, y además con incorporación de la cláusula de No training Guarantee,para que no se utilicen los datos de la Universidad para entrenar ni mejorar sus modelos de inteligencia artificial. Como así también la clausula de Zero Data Retention – ZDR para que no se almacenen los datos una vez completada la solicitud.
Suscripción de un modelo de IA con ejecución dentro del propio perímetro de red de la Universidad en la nube, siendo toda la comunicación a través de redes privadas, sin transitar por el internet público.
Instalación de Open Source en Servidores Locales, en donde todo el procesamiento, almacenamiento y consulta ocurre físicamente dentro de las instalaciones de la Universidad, operando con aislamiento absoluto del exterior, sin requerir conexión a internet.
De acuerdo a las vivencias que he estado teniendo con directivos universitarios, docentes y estudiantes, puedo concluir que para que la Universidad preserve sus estándares de calidad; es imperativo que la Gobernanza de la IA, se asuma como un proceso integral y participativo de los principales actores de la educación universitaria, y no sólo como la mera regulación de uso. En efecto, la Gobernanza de la IA bien entendida necesita, una nueva forma de enseñar y de evaluar, del uso consensuado de la IA, y de claridad en los parámetros de lo permitido y no permitido, de acuerdo al nivel pedagógico de la materia dentro de la formación profesional del estudiante.
También es necesario realizar cortes de retroalimentación de manera semestral, para poder corregir o reencauzar aspectos que vayan surgiendo en el camino, pues como las versiones de la IA generativa van mejorando de manera paulatina, la Universidad debe permanecer en la ola de cambio constante,
