ИИ-плагиат в науке: Google Scholar наводнён фальшивыми исследованиями. ChatGPT проникает в академические журналы: из GPT-сфабрикованных статей 14,5% - здравоохранение, 19,5% - экология, 23% - IT

Анализ выборки научных статей в Google Scholar показал, что две трети изученных работ были как минимум частично созданы с помощью GPT без указания этого факта. Из GPT-сфабрикованных статей 14,5% касались здравоохранения, 19,5% - окружающей среды, а 23% - вычислительной техники.

"Риск того, что мы называем "манипулированием доказательствами", значительно возрастает, когда исследования, сгенерированные ИИ, распространяются в поисковых системах", - отметил Бьёрн Экстрём, соавтор исследования из Шведской школы библиотечных и информационных наук.

Исследователи выделили два основных риска. Во-первых, обилие сфабрикованных "исследований" угрожает целостности научных данных. Во-вторых, возрастает вероятность того, что убедительно выглядящий научный контент на самом деле был создан с помощью ИИ и оптимизирован для поиска в общедоступных академических поисковых системах.

"Если мы не можем доверять подлинности исследований, которые читаем, то мы рискуем принимать решения на основе неверной информации", - подчеркнула Ютта Хайдер, соавтор исследования.

Проблема усугубляется тем, что ИИ-сгенерированные тексты были обнаружены как в рецензируемых работах, так и в менее проверенных материалах, что указывает на загрязнение всей онлайн-системы академической информации.

Эксперты призывают к созданию защитных механизмов в рецензируемых журналах и поисковых системах академических работ, чтобы технологии ИИ служили научным открытиям, а не противодействовали им.

22 января 2025 в 11:39

Автор: Darth Sahara