Как искусственный интеллект придумывает книги: мифы о сокрытии библиотек

Разбор мифов о том, что библиотеки скрывают книги, которые якобы рекомендует чат-бот. В статье — реальные примеры, объяснения механизмов ИИ и советы по проверке информации.

В информационном шуме вокруг книг в США вновь всплыли слухи: будто бы библиотеки намеренно скрывают издания, которые якобы рекомендует современный чат-бот. Социальные сети подхватывают истории, но факты куда сложнее. Разберёмся, откуда берутся такие мифы и как на самом деле работают современные генеративные ИИ.

Почему возникают подобные мифы

Генеративный искусственный интеллект (ИИ) умеет создавать правдоподобные тексты и описания на основе огромного объёма данных. Иногда он выдаёт ссылки и аннотации к книгам, которых не существует, что называют «галлюцинациями» машины.

По данным научно-популярного журнала Scientific American (научно-популярный журнал), примерно 15% справочных запросов в онлайн-ресурсах формируются именно такими чат-ботами, и нередко речь идёт о неверных источниках.

Эксперты отмечают, что многие люди доверяют ответам ИИ больше, чем профессионалам по поиску достоверной информации, что ускоряет распространение ложных материалов, если источники не проверяются должным образом.

Конкретные примеры и пояснения

Обвинения в сокрытии архивов и материалов тоже не редкость. Например, Международный комитет Красного Креста (ICRC) получил обвинения в том, что он прячет документы, и выпустил пояснение: отсутствие конкретной ссылки ещё не означает сокрытие. Причины могут быть разными: цитаты выходят из контекста, архивы лежат в других учреждениях или нейросеть просто «галлюцинирует».

Если ссылку найти не удаётся, это не означает, что организация скрывает информацию. Причины могут быть различны: от вырванных из контекста цитат до документов, находящихся в архивах других учреждений, и, порой, галлюцинаций нейросетей.

Другие примеры: несуществующие списки книг

Независимая публикация Chicago Sun-Times включила в летний обзор список из 15 книг, из которых оказалось, что десять названий вымышлены. Такой эпизод демонстрирует, как легко создать «идеальный» перечень с помощью ИИ, не сверяя данные с реальной базой.

Что можно сделать, чтобы не попасть в ловушку

Эксперты рекомендуют тщательно проверять источники и опираться на проверяемые каталоги и базы данных. Библиотеки и образовательные учреждения работают над повышением цифровой грамотности пользователей и обучением навыкам критического анализа информации.

Комментарий эксперта

Эксперт: Генеративный ИИ может выдавать правдоподобные, но несуществующие ссылки и цитаты. Важно сочетать автоматические подсказки с проверкой источников в надёжных базах данных.

Для пользователей критически важно перепроверять результаты и пользоваться проверенными каталогами и справочниками.

Краткое резюме

Генеративный ИИ способен придумывать книги и цитаты, что порождает мифы о сокрытии материалов. Распространение таких историй объясняется доверием к технологиям и недостаточной проверкой источников. Библиотеки работают над повышением цифровой грамотности и точной верификацией сведений.