Quienes hoy se forman en nuestras aulas tendrán que convivir con decisiones tecnológicas que ya estamos tomando, por lo que debemos proporcionarles conocimientos y capacidad de juicio suficientes para cuestionarlas, corregirlas y participar en ellas, conservando la libertad de decidir cómo quieren vivir
ANTONIO SERRANO ACITORES
Cuando quienes desarrollan los sistemas de inteligencia artificial más avanzados piden reducir la velocidad, debemos escucharlos con atención y examinar tanto los riesgos que describen como los intereses económicos que pueden influir en sus propuestas, sin concederles por ello la última palabra.
En efecto, Dario Amodei ha planteado ralentizar el avance de los modelos más potentes, con evaluadores externos y acuerdos entre empresas y gobiernos. Su propuesta advierte que el desarrollo puede superar nuestra capacidad para comprender y controlar estos sistemas.
Tras este planteamiento, Sam Altman, Elon Musk y Demis Hassabis han respaldado públicamente su orientación, aunque con distintos matices y compromisos. Esta coincidencia exige examinar independientemente sus propuestas.
En nuestra opinión, las universidades deberían ocupar una posición más visible en el debate, aportando conocimiento independiente y formando a quienes tendrán que decidir qué riesgos podemos asumir, qué beneficios debemos perseguir y bajo qué condiciones debemos hacerlo.
las universidades deberían ocupar una posición más visible en el debate, aportando conocimiento independiente y formando a quienes tendrán que decidir qué riesgos podemos asumir,
Su contribución ya existe y conviene reconocerla, pues sería injusto presentar a la universidad como una institución ajena al problema. El centro de inteligencia artificial compatible con los seres humanos de Berkeley investiga cómo construir sistemas beneficiosos, con aportaciones de las ciencias sociales.
Por su parte, Stanford aporta mediante su informe anual sobre inteligencia artificial información para comprender el desarrollo tecnológico y sus efectos sociales, especialmente necesaria cuando promesas comerciales y anuncios alarmantes compiten por nuestra atención.
Ahora bien, el balance resulta desigual: según ese mismo informe de 2026, la industria produjo más del 90 % de los modelos destacados de frontera en 2025. A mi juicio, esta concentración limita la capacidad universitaria para contrastar desde fuera lo que sucede en los laboratorios privados.
la industria produjo más del 90 % de los modelos destacados de frontera en 2025. A mi juicio, esta concentración limita la capacidad universitaria para contrastar desde fuera lo que sucede en los laboratorios privados.
¿Qué deberían hacer, entonces, las universidades ante las advertencias sobre una posible extinción de la humanidad?
Lo cierto es que debemos estudiar seriamente esos escenarios, distinguiendo las evidencias disponibles de las hipótesis sobre capacidades futuras. El informe internacional sobre seguridad de la IA de 2026 recoge un desacuerdo considerable entre expertos acerca de la probabilidad de perder el control de estos sistemas.
Una estimación personal de un investigador exige explicar sus supuestos y su método antes de presentarse como una probabilidad científicamente establecida, máxime cuando hablamos de acontecimientos sin precedentes comparables y consecuencias potencialmente irreversibles.
La incertidumbre exige investigar y adoptar precauciones proporcionadas, a partir de indicios verificables sin esperar a que ocurra una catástrofe para intervenir. También exige revisar las decisiones cuando cambien las pruebas, pues cualquier pronóstico debe permanecer abierto a la crítica y a su rectificación.
Estudiar los escenarios extremos debe acompañarse del examen de los daños presentes, desde la discriminación hasta la desinformación, porque la investigación también debe atender a quienes ya sufren las consecuencias de esta tecnología.
De este modo, las universidades deberían reforzar su capacidad para realizar evaluaciones independientes, reproduciendo resultados y sometiendo los sistemas a pruebas que permitan descubrir fallos antes de extender su utilización, con metodologías públicas que otros equipos puedan discutir y mejorar
Defendemos, por ello, que el desarrollo continúe con controles exigentes y pausas concretas cuando existan riesgos acreditados, con una definición de qué actividad se limita, quién comprueba el peligro y qué condiciones permitirán reanudarla, porque una suspensión indefinida también tiene costes para la sociedad.
Retrasar una aplicación útil para investigar enfermedades o mejorar la accesibilidad puede privarnos de beneficios relevantes, mientras que autorizar sistemas insuficientemente evaluados en infraestructuras críticas puede generar daños graves, de manera que debemos juzgar cada decisión según sus circunstancias y consecuencias.
El problema se complica con la rivalidad entre Estados Unidos y China, porque una ralentización unilateral puede percibirse como una cesión de ventaja económica y militar, mientras que el temor a quedarse atrás puede alimentar una carrera que relegue la seguridad.
El propio Amodei vincula su propuesta a preservar la ventaja estadounidense, lo que permite entender la dificultad del acuerdo: cada potencia necesita garantías de que la otra cumplirá sus compromisos, toda vez que unas reglas imposibles de verificar pueden incentivar que se siga avanzando a escondidas.
necesitamos una colaboración efectiva entre disciplinas, con especialistas en informática, juristas, economistas, filósofos y profesionales de los ámbitos donde se aplicará la tecnología, desde el diseño de cada investigación
De este modo, las universidades deberían reforzar su capacidad para realizar evaluaciones independientes, reproduciendo resultados y sometiendo los sistemas a pruebas que permitan descubrir fallos antes de extender su utilización, con metodologías públicas que otros equipos puedan discutir y mejorar.
Esta función requiere financiación pública estable e infraestructuras compartidas, así como acuerdos de acceso que protejan la libertad de publicar resultados desfavorables. La colaboración empresarial puede resultar valiosa, siempre que sus condiciones y los posibles conflictos de interés sean transparentes.
La preocupación por la seguridad merece respeto, aunque debemos examinar si las medidas propuestas favorecen indebidamente a quienes dominan el mercado, al encarecer la entrada de competidores y dificultar la investigación abierta sin aportar una protección equivalente frente a los riesgos identificados.
Asimismo, y precisamente por la amplitud del problema, necesitamos una colaboración efectiva entre disciplinas, con especialistas en informática, juristas, economistas, filósofos y profesionales de los ámbitos donde se aplicará la tecnología, desde el diseño de cada investigación.
Determinar si un sistema funciona técnicamente constituye una parte del trabajo, pues también debemos resolver quién responde de sus daños, cómo se reparten sus beneficios y qué decisiones estamos dispuestos a delegar, cuestiones que requieren argumentos sometidos a discusión pública.
Las universidades pueden organizar espacios de deliberación ciudadana, explicando los desacuerdos científicos y acercando sus resultados a las instituciones democráticas, a las que corresponde adoptar las decisiones colectivas y responder por ellas
La propia enseñanza universitaria debe reflejar esta exigencia, preparando a los estudiantes para utilizar la IA con criterio y comprobar sus respuestas. Si concentramos nuestra atención en detectar trabajos generados automáticamente, dejaremos sin atender cómo se aprende y cómo se acredita lo aprendido.
Por otra parte, debemos ofrecer formación a quienes necesitan actualizarse profesionalmente, prestando especial atención a las personas con menos recursos, porque la incorporación de una tecnología también puede ampliar desigualdades.
Las universidades pueden organizar espacios de deliberación ciudadana, explicando los desacuerdos científicos y acercando sus resultados a las instituciones democráticas, a las que corresponde adoptar las decisiones colectivas y responder por ellas.
La cooperación entre universidades estadounidenses, chinas y europeas debería facilitar pruebas comparables e intercambio de información sobre incidentes, contribuyendo a verificar compromisos internacionales sin ignorar las restricciones de seguridad ni confundir la cooperación científica con la confianza incondicional.
Quienes hoy se forman en nuestras aulas tendrán que convivir con decisiones tecnológicas que ya estamos tomando, por lo que debemos proporcionarles conocimientos y capacidad de juicio suficientes para cuestionarlas, corregirlas y participar en ellas, conservando la libertad de decidir cómo quieren vivir.
Si quieres conocer lo que no se ve de la educación superior sigue el canal de Espacios de educación superior en WhatsApp: https://whatsapp.com/channel/0029VbDK8OGIt5rvxYwRCG0j
Antonio Serrano Acitores. Profesor Titular de Derecho Mercantil de la Universidad Rey Juan Carlos.
