Un estudio internacional encendió las alarmas sobre una nueva vulnerabilidad en el uso de la inteligencia artificial aplicada a la investigación científica. Los investigadores concluyeron que actores malintencionados podrían manipular bases de datos públicas para inducir a sistemas de IA a producir información falsa, que posteriormente podría ser utilizada por científicos sin detectar la alteración.
“El riesgo no está en hackear la inteligencia artificial, sino en contaminar las fuentes de información que consulta”, advierte el estudio, que evaluó el comportamiento de tres de los modelos de IA más avanzados de la actualidad: Claude Opus 4.7, GPT-5.5 y Gemini 3.1 Pro.
Durante la investigación se realizaron 450 experimentos sobre temas sensibles como discriminación laboral, seguridad de vehículos autónomos y otras áreas de interés público. Los resultados mostraron que el ataque tuvo éxito en el 49,56 % de las pruebas, mientras que los modelos solo detectaron la manipulación en el seis por ciento de los casos.
Los investigadores explican que la estrategia no consiste en vulnerar directamente los modelos de inteligencia artificial, sino en alterar información alojada en bases de datos abiertas, de manera que los asistentes de IA la interpreten como contenido confiable y la incorporen en sus respuestas o análisis.
“A medida que la inteligencia artificial asume un papel más importante en la producción científica, también aumenta el riesgo de que información manipulada se propague dentro de la literatura académica”, señala el informe.
La verificación de datos reduce el riesgo
Pese a los resultados, el estudio identificó una medida eficaz para contrarrestar este tipo de ataques. Cuando los sistemas de inteligencia artificial fueron obligados a verificar el origen de los datos, contrastar publicaciones científicas, identificar anomalías estadísticas y comprobar la procedencia de la información, los intentos de manipulación dejaron de ser efectivos.
Los autores concluyen que “el futuro de la investigación científica dependerá no solo de modelos de inteligencia artificial más avanzados, sino también de mecanismos rigurosos que garanticen la autenticidad y trazabilidad de los datos antes de convertirlos en evidencia científica”.
El estudio plantea un nuevo desafío para universidades, centros de investigación y desarrolladores de inteligencia artificial: fortalecer los procesos de validación de información para evitar que contenidos alterados se conviertan en conocimiento científico aparentemente legítimo.