Безопасность

2026: как перехватить скрытые подсказки PDF в AnythingLLM до загрузки?

Скрытые подсказки PDF в AnythingLLM следует перехватывать до индексации: сначала изолировать файл, затем проверить извлечённый текст и вручную решить, допускать ли документ в рабочую область. Этот порядок подходит командам, которые принимают внешние документы и не могут считать их содержимое доверенным только потому, что PDF открывается в обычном просмотрщике.

Инструкция предназначена разработчикам, подключающим внешние PDF к корпоративной базе знаний AnythingLLM.
Инженеры по безопасности смогут определить, какие сигналы допустимо обрабатывать автоматически, а какие требуют ручного решения.
Команды, управляющие источниками документов, получат основу для фиксации происхождения файла и процедуры допуска.

Отделите приём документа от его индексации

В AnythingLLM документ можно встроить в рабочий процесс RAG: его содержимое становится доступным для поиска в соответствующей рабочей области. Поэтому внешний PDF не следует по умолчанию сразу направлять в производственную базу. Механизм работы с документами и рабочими областями описан в официальной документации AnythingLLM.

Для каждого поступившего файла заранее определите возможные решения:

  • Карантин — исходник и производные материалы хранятся отдельно от производственных документов; автоматическая индексация запрещена.
  • Отказ — файл не принимается, если источник не подтверждён, содержание не относится к назначению базы или проверку нельзя завершить.
  • Ручная проверка — специалист сопоставляет отображение страниц с извлечённым текстом и оценивает обнаруженные сигналы.
  • Допуск — уполномоченный сотрудник разрешает индексирование конкретного документа в согласованной рабочей области.

Это контроль на входе, а не полноценная изоляция доступа. Решение о допуске PDF не подтверждает, что пользователям назначены правильные права на результаты поиска или что документы действительно разделены между рабочими областями. В руководстве OWASP по атакам внедрения подсказок внешнее содержимое рассматривается как потенциально недоверенный ввод; защита должна учитывать границы доверия и контроль доступа. Следовательно, проверка файла и проверка полномочий отвечают на разные вопросы.

Зарегистрируйте источник и удержите файл в карантине

При поступлении сохраняйте оригинал неизменным, а проверку выполняйте на отдельной копии либо в контролируемом процессе, который не может самостоятельно передать документ в производственный индекс. Если извлечённый текст отличается от видимых страниц, оригинал понадобится для повторного анализа и выяснения причин расхождения.

Состав записи приёма определите с учётом реальных возможностей вашей системы. Обычно полезны идентификатор документа, сведения о загрузившем, заявленный источник, время получения, криптографический отпечаток исходного файла, состояние проверки и лицо, принявшее решение. Не добавляйте поля «на всякий случай», если команда не может поддерживать их точность и понятный срок хранения.

Такая запись должна связывать оригинал PDF с результатом извлечения, сигналами сканирования и решением о допуске. Если документ позднее появится в поисковой выдаче, будет проще выяснить, какая версия прошла обработку и на каком основании её разрешили индексировать. Сведения о хранении и обработке данных следует сопоставить с фактически используемым способом развёртывания; общие положения приведены в документации AnythingLLM о конфиденциальности и обработке данных.

Не размещайте очередь проверки в той же рабочей области, которая обслуживает обычные запросы сотрудников. Если выбранная схема хранения не позволяет уверенно отделить необработанный файл и извлечённый текст от производственных материалов, сначала измените маршрут обработки. Переименование документа или его отсутствие в обычном списке не доказывают, что содержимое нельзя найти через индекс.

Заранее определите также, что происходит с файлами после отказа и после завершения проверки: кто имеет право удалить их, какие производные данные нужно удалить вместе с оригиналом и какие сведения об обработке остаются в журнале. Эти правила должны соответствовать внутренним требованиям хранения и обработки данных. Сама запись аудита не должна незаметно превращаться в дополнительное хранилище копий документа.

Сопоставьте отображение PDF с извлечённым текстом

Проверяйте два разных представления файла: как он выглядит на страницах и какой текст получает последующий обработчик. Человек может увидеть аккуратно оформленный отчёт, тогда как извлечение выдаст дополнительную строку, нарушенный порядок чтения или фрагмент, неочевидный при обычном просмотре. Для RAG важен материал, который фактически попадёт в индекс, а не только отображение в просмотрщике.

Нельзя исходить из того, что существует универсальный инструмент, который обнаруживает всё скрытое. PDF может содержать текстовые объекты, изображения страниц, встроенные шрифты и сложные соответствия символов; результат зависит от структуры файла и выбранного пути извлечения. В документации pypdf об извлечении текста описаны особенности и ограничения такого извлечения. Это повод проверять фактический результат обработки, а не считать конкретную библиотеку гарантией обнаружения всех скрытых инструкций.

Для каждого документа проверяющему нужно предоставить оригинал, извлечённый текст и способ быстро найти места, в которых эти представления расходятся. Отдельного внимания требуют:

  • сканированные страницы, где текст появляется только после OCR;
  • текст, извлекаемый в порядке, отличном от визуального порядка чтения;
  • необычные пробелы, управляющие и невидимые символы;
  • фрагменты с просьбой игнорировать прежние указания, обращаться к другим документам, раскрыть сведения или изменить правила ответа;
  • содержимое, не соответствующее заявленной теме или источнику документа.

Каждый из этих признаков сам по себе не доказывает злой умысел. Необычное кодирование может возникнуть при обычном экспорте или сканировании. Но необъяснимое расхождение должно отправлять документ на проверку, а не автоматически считаться подтверждением безопасности.

Важно. Просмотр страниц не заменяет анализ извлечённого текста; анализ текста, в свою очередь, не гарантирует, что проверяющий учёл все особенности визуального документа.

При работе со сканами отдельно фиксируйте, какой этап создал текст для индекса: первоначальный парсер или OCR. Изменение порядка страниц, распознавание колонтитулов и пропуск плохо читаемых фрагментов могут влиять на смысл результата. Если проверяющий видит в извлечённом тексте инструкцию, которой не замечает на странице, это повод выяснить происхождение фрагмента и удержать документ вне рабочей области до решения.

Нормализуйте текст и используйте правила как сигналы

Перед сканированием можно привести текст к согласованному представлению: нормализовать Unicode, унифицировать последовательности пробельных символов и сохранить сведения о преобразованиях. Это облегчает сравнение некоторых вариантов записи, но процесс должен быть воспроизводимым. Храните оригинальный результат извлечения отдельно от нормализованной копии, чтобы при разборе было понятно, какие изменения внесла обработка.

Затем применяйте правила поиска подозрительных формулировок и структур: попыток переопределить инструкции, требований обратиться к другим документам, раскрыть конфиденциальные сведения или скрыть действие от пользователя. Правила могут находить характерные выражения, но не способны надёжно оценивать намерение во всех контекстах. Вредоносную инструкцию можно перефразировать, а похожая формулировка может встречаться в легитимном материале о безопасности.

Считайте результат сканирования сигналом для маршрутизации:

  • если правило сработало, отправьте файл в карантин или на ручную проверку;
  • если правило не сработало, не считайте это достаточным доказательством безопасности;
  • если нормализация заметно изменила или повредила смысл текста, запретите автоматический допуск;
  • если проверяющий не может объяснить происхождение необычного фрагмента, оставьте документ вне производственного индекса.

Рекомендации Microsoft по гигиене входных данных, контекста и поиска описывают эти меры как части защиты, а не как единственный фильтр; сопоставьте внутренний процесс с руководством Microsoft по гигиене ввода и контекста. Очистка PDF также не подтверждает безопасность оставшегося текста: материалы Adobe о санитарной обработке PDF и удалении скрытых данных объясняют соответствующие операции, но их нельзя считать заменой проверки содержимого перед индексацией.

Нормализация не решает проблему разделения инструкций и данных. Даже после очистки документ может содержать смысловую попытку повлиять на ответ модели без необычных символов. Модельный фильтр или защитная модель может добавить ещё один уровень проверки, однако такой «заслон» не заменяет управление правами на документы, результаты поиска и рабочие области. Его следует оценивать как дополнительную меру с известными ограничениями.

Примите решение по условиям и отметьте каждый этап

Используйте эту последовательность как контрольный список перед допуском документа. Отметки фиксируют выполненную проверку, но сами по себе не подтверждают безопасность PDF и не заменяют оценку доступа.

  • [ ] Источник и назначение понятны. Если источник можно подтвердить и документ соответствует назначению базы, переходите к анализу. Если происхождение не подтверждено, запросите сведения или откажите в приёме.
  • [ ] Оригинал отделён от производственных материалов. Если файл и извлечённые копии находятся в карантине, продолжайте проверку. Если система может автоматически проиндексировать документ, сначала остановите импорт и исправьте маршрут.
  • [ ] Извлечённый текст доступен проверяющему. Если его можно сопоставить с отображением страниц, переходите к сканированию. Если содержимое неполное или противоречивое, оставьте PDF в карантине и выясните причину.
  • [ ] Подозрительные фрагменты рассмотрены. Если правило сработало, передайте документ человеку; не разрешайте автоматический допуск по результату очистки. Если правило не сработало, всё равно учитывайте источник, содержание и область назначения.
  • [ ] Область индексации подтверждена. Если известно, в какой рабочей области документ будет доступен и кто уполномочен его одобрить, запросите утверждение. Если это неясно, не индексируйте PDF.
  • [ ] Решение записано. Если проверяющий указал основание допуска или отказа, можно завершить обработку согласно принятой процедуре. Если решение нельзя связать с исходником и его версией, сначала восстановите аудиторский след.

Если все пункты выполнены, это означает только, что файл прошёл предусмотренный вашей организацией маршрут проверки. Это не доказывает, что содержимое не может повлиять на модель, и не подтверждает корректность контроля доступа. Если любое условие не выполнено, безопаснее оставить документ в карантине, запросить уточнение или отказать в приёме, чем допускать его по умолчанию.

Проверьте результат до допуска и повторяйте проверку после изменений

До подключения процесса к рабочей базе проверьте весь путь на тестовом наборе без настоящих секретов. Для этого подходят синтетические строки, помеченные как конфиденциальные, и тестовые учётные записи с заранее определёнными ограничениями. Убедитесь, что документ, оставленный в карантине, не появляется в производственных результатах поиска. Затем отдельно проверьте, что может найти тестовая учётная запись в разрешённой ей рабочей области.

Такая проверка относится только к конкретной конфигурации обработки. Её результат зависит от используемого варианта приложения, парсера, OCR, настроек и организации рабочих областей. Она не заменяет независимую оценку управления доступом. Для более широкого рассмотрения рисков можно использовать документ NIST о рисках генеративного ИИ, но он не подтверждает защищённость конкретной установки.

После изменения обработчика документов AnythingLLM, процесса OCR, правил сканирования или способа хранения повторите проверку на разрешённых тестовых образцах. Сохраняйте версии правил и решения по одобренным документам, чтобы выяснить, какая процедура действовала при обработке файла. При обнаружении сомнительного текста в результатах поиска не считайте удаление документа, повторную очистку или отказ модели доказательством того, что раскрытия данных не произошло. Зафиксируйте случай и проверьте доступные журналы и области распространения.

Периодическая проверка должна включать не только тестовые PDF, но и сам процесс передачи файла: кто может отправить документ на обработку, кто видит карантин, кто утверждает допуск и кто может изменить правила. Если в процессе сменился владелец или обработка стала выполняться иначе, прежнее одобрение процедуры уже не подтверждает её актуальность. Повторное тестирование следует проводить после значимых изменений маршрута, а не только после обновления фильтров.

Ответы на частые вопросы

Что нужно проверить до добавления PDF в AnythingLLM?
Сопоставьте видимые страницы с текстом, который фактически извлекает используемый обработчик. Проверьте скрытые слои, необычные инструкции и аномальные символы, зафиксируйте источник и решение. Если содержимое нельзя объяснить или связать с отображением страниц, оставьте файл в карантине и запросите дополнительную проверку.

Могут ли белый текст и невидимые символы попасть в результаты RAG?
Это зависит от структуры PDF и способа извлечения. Скрытый на странице фрагмент может оказаться в текстовом представлении, однако такое поведение нельзя считать универсальным. Проверяйте выходные данные именно того обработчика, который формирует материал для индекса, и не делайте вывод о безопасности только по визуальному просмотру документа.

Способна ли нормализация текста остановить внедрение подсказок?
Нет. Она помогает унифицировать часть пробелов, управляющих и Unicode-символов, но не распознаёт все смысловые варианты и намерения. Используйте её вместе с правилами и ручной проверкой. Отсутствие срабатывания фильтра не должно автоматически переводить документ в статус одобренного.

Когда изолировать сомнительный PDF — до разбора или перед индексацией?
Помещайте файл в карантин сразу при приёме — до извлечения и индексации. Производные материалы также должны оставаться вне производственной рабочей области, пока их не проверили. Если сомнительный сигнал появился после извлечения, остановите обработку и сохраните оригинал для разбирательства.

Выберите среду для проверки, не подменяя ею контроль доступа

Рабочая станция общего назначения и производственная база знаний неудобны для проверки новых парсеров и правил: тестовые документы могут смешаться с рабочими, а повторный прогон — затронуть реальный поисковый контур. Арендованный сервер или Mac может дать отдельную среду для временной проверки процесса, но сама аренда не создаёт карантин и не гарантирует безопасность. Изоляцию, журналы, ограничения доступа и правила удаления данных всё равно нужно определить отдельно.

Если для тестирования нужна временная удалённая среда Mac, KuzCloud можно рассматривать как один из вариантов экспериментальной площадки. Перед размещением тестовых материалов изучите информацию KuzCloud о конфиденциальности и обработке данных и доступные возможности в консоли KuzCloud. Для постоянной нагрузки с жёсткими требованиями к физическим интерфейсам или непрерывной работе аренда может оказаться неподходящей: в таком случае сравните её с собственным оборудованием и оцените фактические условия эксплуатации.

Не переносите реальные документы в тестовую среду до согласования хранения и доступа. Если текущая схема использует одну общую площадку для испытаний и производства, её слабые стороны — смешение материалов, недостаточная воспроизводимость и риск случайной индексации — нужно устранить независимо от выбора оборудования. Временная среда полезна только тогда, когда у неё есть отдельный маршрут данных, понятный список допущенных пользователей и процедура очистки после завершения проверки.

Проверьте обработку PDF на выделенном Mac

Арендуйте у KuzCloud физический Mac mini M4 для проверки этапов предварительной обработки и индексации документов.

Получите полный root-доступ к выделенной машине без уровня виртуализации и помех от соседних пользователей.