La inteligencia artificial generativa ya forma parte del trabajo cotidiano de muchos investigadores. Se utiliza para resumir literatura científica, redactar textos, programar código, traducir contenidos o explorar nuevas hipótesis. Sin embargo, a medida que estas herramientas se integran en los procesos científicos, el debate empieza a desplazarse desde la productividad hacia cuestiones más estructurales: gobernanza, transparencia, protección del conocimiento y confianza.
Las nuevas Living guidelines on the responsible use of generative AI in research, publicadas por la Comisión Europea y el ERA Forum, reflejan precisamente ese cambio de enfoque. El documento no se centra tanto en impulsar la adopción tecnológica como en definir las condiciones organizativas, éticas y regulatorias necesarias para integrar la IA generativa en el sistema científico europeo.
¿Por qué Europa publica nuevas guías sobre IA en investigación?
Las directrices europeas parten de una idea clara: la IA generativa puede acelerar descubrimientos y aumentar la productividad investigadora, pero también amplifica riesgos relacionados con fiabilidad, sesgos, privacidad, propiedad intelectual o malas prácticas. El problema ya no es únicamente tecnológico. Es institucional.
Por eso la Comisión Europea insiste repetidamente en un principio central: la responsabilidad última sigue siendo humana. Los investigadores continúan siendo responsables de los resultados científicos, incluso cuando utilizan herramientas generativas para producir contenidos, interpretar información o apoyar análisis. La IA no puede considerarse autora ni coautora, porque la autoría implica responsabilidad, supervisión y capacidad de rendición de cuentas.
En el fondo, las directrices reflejan una preocupación creciente sobre cómo preservar la integridad y la legitimidad del sistema científico en un contexto de automatización creciente de tareas cognitivas. La cuestión ya no es únicamente cuánto puede acelerar la IA la investigación, sino cómo evitar que erosione la fiabilidad, la trazabilidad y la confianza sobre las que se basa la producción de conocimiento científico.
El documento también incorpora recomendaciones específicas para agencias financiadoras y organizaciones científicas e introduce una idea importante: la IA puede apoyar procesos administrativos internos, pero no debería participar de forma sustancial en la evaluación científica de proyectos o revisiones por pares. La razón es doble. Por un lado, evitar sesgos o decisiones opacas; por otro, impedir que propuestas científicas confidenciales alimenten sistemas externos de IA.
Incluso aparece un riesgo emergente poco habitual en debates regulatorios: los llamados hidden prompts, instrucciones ocultas dentro de documentos destinadas a manipular herramientas generativas durante procesos automáticos de evaluación.
La IA deja de verse únicamente como herramienta de productividad para convertirse también en un asunto de seguridad científica y control estratégico del conocimiento.
La IA científica empieza a convertirse en una infraestructura estratégica
Las directrices también reflejan una preocupación creciente por la soberanía tecnológica científica. Muchas de las herramientas generativas utilizadas hoy por investigadores europeos pertenecen a grandes compañías tecnológicas estadounidenses. Esto introduce dependencias relacionadas con privacidad, reutilización de datos, acceso a modelos o transferencia indirecta de conocimiento científico sensible.
Por eso se recomienda que universidades y organizaciones de investigación desarrollen políticas internas, formación específica, sistemas de supervisión y entornos tecnológicos seguros para integrar estas herramientas. Incluso se plantea desplegar modelos locales o infraestructuras propias de IA cuando sea posible, con el objetivo de proteger datos sensibles, propiedad intelectual y conocimiento estratégico.
No se plantea explícitamente una estrategia de autonomía tecnológica, pero sí refleja una creciente preocupación europea por la gobernanza de infraestructuras científicas críticas. La IA deja de verse únicamente como herramienta de productividad para convertirse también en un asunto de seguridad científica y control estratégico del conocimiento.
El documento incorpora además una dimensión medioambiental cada vez más presente en la conversación europea sobre IA. Se recomienda evaluar el impacto energético y ambiental de estas herramientas y fomentar prácticas de uso más eficientes. La cuestión resulta especialmente relevante porque los modelos fundacionales requieren enormes capacidades computacionales y consumos crecientes de energía y agua.
El uso responsable de IA ya no depende solo de decisiones individuales de los investigadores, sino de nuevas capacidades institucionales.
¿Qué cambia para los sistemas de ciencia, tecnología e innovación?
La integración de IA generativa empieza a plantear nuevos desafíos organizativos para universidades, centros tecnológicos, agencias financiadoras y sistemas de CTI en general. El reto ya no consiste únicamente en adoptar herramientas de IA, sino en construir capacidades institucionales para utilizarlas de forma segura, trazable y confiable.
Eso implica desarrollar nuevas competencias relacionadas con integridad científica, gobernanza de datos, supervisión algorítmica, protección del conocimiento sensible o evaluación de riesgos asociados al uso de IA en investigación. También obliga a revisar procesos internos, sistemas de evaluación, infraestructuras digitales y políticas de formación.
Ese debate conecta directamente con el sistema vasco de ciencia, tecnología e innovación. Euskadi lleva años impulsando capacidades en inteligencia artificial, computación avanzada, ciberseguridad y digitalización industrial. Al mismo tiempo, los agentes de científico-tecnológicos incorporan ya herramientas generativas en actividades de investigación, transferencia y gestión del conocimiento.
En este contexto, la creciente demanda europea de entornos seguros, auditables y transparentes para IA científica podría abrir nuevas oportunidades para desarrollar infraestructuras tecnológicas especializadas, plataformas soberanas o servicios avanzados ligados a gobernanza y validación de IA en investigación.
La cuestión principal será cómo rediseñar las instituciones científicas para integrar sistemas generativos sin debilitar la confianza, la autonomía y la integridad sobre las que se basa la producción de conocimiento.
Europa empieza a desplazar el debate sobre IA científica desde la adopción tecnológica hacia la gobernanza, la confianza y la soberanía tecnológica.
