Почему искусственный интеллект выдумывает факты и источники, и как спасти список литературы с помощью «Неопоиска»

Представьте классическую картину: майская ночь, до предзащиты выпускной квалификационной работы (ВКР) остаются считанные дни. Основной текст написан, но список литературы для ВКР выглядит сиротливо — не хватает авторитетных источников, свежих публикаций за последние три года и зарубежных исследований.

На помощь приходит популярный ИИ-помощник. Вы отправляете запрос: «Напиши список из 30 актуальных научных статей с DOI по теме цифровизации высшего образования». Через 10 секунд перед вами красивый, структурированный перечень со звучными именами авторов, авторитетными журналами и аккуратными ссылками. Вы облегченно копируете его в ВКР, оформляете библиографию по ГОСТу и отправляете работу научному руководителю.

А через два дня получаете разгромный отзыв. Выясняется, что статьи профессора Иванова от 2023 года в журнале «Вопросы образования» никогда не существовало, указанный DOI ведет на публикацию по молекулярной биологии, а половина ссылок зарубежных авторов — чистая выдумка нейросети.

Почему так происходит, чем вы рискуете и как использовать технологии во благо, не превращая подготовку ВКР в катастрофу? Давайте разбираться.

Популярные большие языковые модели (LLM), такие как ChatGPT, Claude или YandexGPT — это генераторы текста, обученные предсказывать наиболее вероятное следующее слово на основе огромных массивов данных. Они не имеют постоянного прямого доступа к реальной и актуальной базе академических знаний «в режиме реального времени» (если не использовать специализированные поисковые плагины и тонкие настройки промптов) и не понимают концепцию «абсолютной истины».

Когда вы просите ИИ составить список литературы, включается механизм, который в профессиональной среде называют ИИ-галлюцинациями/конфабуляциями.

Как это работает: ИИ знает структуру типичной научной ссылки. Он понимает, что сначала идет фамилия (например, Petrov, I.), затем название статьи, содержащее ключевые слова («Digital transformation in higher education»), название журнала («Journal of Educational Technology»), год, том и идентификатор DOI.

Что делает ИИ: Вместо поиска реального документа в базах данных, он буквально конструирует наиболее правдоподобно выглядящую ссылку. Он берет реального автора, пишущего по этой теме, соединяет его фамилию с выдуманным названием статьи, приписывает реально существующий журнал и генерирует случайный набор цифр в качестве DOI.

Например, глобальное исследование журнала Nature выявило критическое загрязнение научной литературы. Аналитики обнаружили, что десятки тысяч опубликованных научных статей, книг и трудов конференций содержат как минимум одну фейковую ИИ-ссылку. Общее число подобных публикаций оценивается более чем в 110 000 трудов.

Согласно свежему исследованию журнала Lancet, частота ложных библиографических упоминаний, вызванных галлюцинациями ИИ, в научных работах увеличилась в 12 раз с 2023 по 2026 г.

В работе профессора П. В. Сысоева и Е. М. Филатова «ChatGPT в исследовательской работе студентов: запрещать или обучать» подробно разбираются риски ИИ в высшей школе. Исследователи подчеркивают, что нейросети часто выполняют за студентов рутинный обзор литературы, но из-за языковой специфики генерируют убедительные, но абсолютно вымышленные источники.

Это не только техническая проблема. Ситуация угрожает базовому принципу науки: верифицируемости знания. Подробнее о библиографических галлюцинациях (конфабуляциях) генеративных ИИ-моделей можно узнать из доклада С.А. Морозовой «Библиографические конфабуляции генеративных моделей ИИ». В докладе рассказывается об особенностях терминологии, масштабе проблемы, о том, как распознавать фантомные ссылки и что они говорят о качестве научного текста в целом.

Научные издательства, включая Elsevier и Springer Nature, уже обновили свои редакционные политики: использование ИИ для генерации гипотез допускается, но генерация списков литературы с его помощью строго запрещена без ручной верификации каждого источника.

Использование непроверенной литературы, сгенерированной ИИ, несет в себе критические угрозы для выпускника:

Означает ли это, что от ИИ нужно полностью отказаться? Вовсе нет. Нейросеть помогает в процессе генерации идей, создании черновиков, написании планов и т.д.

Но когда дело доходит до поиска доказательной базы, верификации фактов и подбора реальных публикаций, в игру должен вступать специализированный инструмент.

«Неопоиск» специально разработан для интеллектуального поиска по верифицированным научным знаниям. В его поисковом индексе находится более 145+ млн документов: научные статьи из рецензируемых журналов, книги, материалы конференций, патенты и диссертации.

«Неопоиск» не придумывает данные. Он агрегирует их из официальных издательских платформ, репозиториев и библиотечных систем, предоставляя только реальные научные источники.

Одной из самых мощных функций «Неопоиска» является «Поиск тематически похожих документов». Если вы уже написали абзац текста (или сгенерировали его с помощью ИИ как черновик) и хотите подкрепить его авторитетными источниками, вам не нужно вручную подбирать ключевые слова.

Шаг 1. На главной странице «Неопоиска» под основной строкой поиска нажмите на кнопку «Поиск тематически похожих документов».

Шаг 2. Загрузите или вставьте ваш текст.

В открывшемся окне перейдите на вкладку «Поиск по тексту» (или «Поиск похожих документов»). Сервис предложит вам два удобных варианта:

Что происходит под капотом? Система использует алгоритмы искусственного интеллекта и машинного обучения (но не для генерации, а для анализа). Она извлекает семантическое ядро вашего текста, понимает его контекст, ключевые концепты и взаимосвязи терминов.

Шаг 3. Настройте порог сходства и запустите поиск.

Вы можете отрегулировать порог сходства (чувствительность семантического поиска) с помощью специального бегунка.

Высокий порог покажет документы, максимально близкие к вашему тексту терминологически.

Низкий порог расширит выдачу, предлагая смежные темы для глубокого анализа исследования.

Нажмите кнопку «Найти».

Шаг 4. Отфильтруйте релевантные источники.

«Неопоиск» выдаст список реальных документов. При необходимости, чтобы сузить выборку, используйте панель фасетных фильтров слева:

Тип публикации: например, выберите только «Статьи в журналах» или «Книги»

Год публикации: укажите последние 3 года, чтобы удовлетворить требования комиссии к актуальности литературы.

Категория ВАК / Квартиль: отфильтруйте статьи из авторитетных журналов (например, К1/К2 или входящих в Белый список).

Доступ: выберите «Open Access» (ресурсы открытого доступа) и «В доступных» (доступные в рамках подписок вашего вуза), если нужно сразу скачать полный текст статьи.

Шаг 5. Экспортируйте библиографию по ГОСТ.

Выделите нужные публикации галочками или нажмите «Выгрузить весь запрос» и нажмите кнопку «Экспорт».

Выберите формат выгрузки ГОСТ. Сервис мгновенно сформирует готовые, академически корректные библиографические записи с реальными DOI, названиями журналов и авторами. Вам останется только вставить их в файл ВКРили диссертации.

Кроме этого, нужные статьи можно добавить в свою персональную подборку (папку проекта в вашем личном кабинете «Неопоиска»).

Посмотрим, как этот сценарий работает на практике.

Задача: Студентка магистратуры Анна пишет ВКР по теме «Применение генеративного искусственного интеллекта в адаптивном обучении студентов вузов».

Проблема: Анна сформулировала отличную гипотезу о том, что чат-боты помогают персонализировать траекторию обучения, но ее научный руководитель требует подкрепить это тезисами из рецензируемых научных статей ВАК за последние 3 года.

ChatGPT выдал ей список из 5 зарубежных статей, 3 из которых оказались «призраками» (с несуществующими номерами страниц и ложными ссылками).

Анна берет абзац из своей главы, где описывается методика адаптивного тестирования. Вставляет его в поле «Поиск похожих документов» в «Неопоиске».

Сервис анализирует текст и выдает ей реальную статью из журнала «Образование и наука» (входит в категорию К1 ВАК) под названием «Персонализированное обучение в цифровую эпоху...» с действующим DOI и ссылкой на полный текст в Elibrary.

Анна добавляет документ в свою подборку «ВКР_ИИ», нажимает «Экспорт» и получает идеальную ссылку по ГОСТ для своего списка литературы.

Результат: Время сэкономлено, база данных проверена, научный руководитель доволен академической точностью работы.

Искусственный интеллект — катализатор для ваших мыслей и помощник в создании структуры работы. Но когда дело касается фактов, точности и академической репутации, доверяйте профессионалам. Совмещайте креативность генеративного ИИ со строгой точностью дискавери-сервиса «Неопоиска».

Дополнительную информацию о работе и администрировании нашего сервиса смотрите в разделе Справка. В случае возникновения вопросов, или предложений по улучшению работы «Неопоиска», пишите на почту support@neopoisk.ru.