セキュリティ

2026年のAnythingLLM:PDFの隠しプロンプトを取り込み前にどう遮断する?

PDFの隠し文字を削除するだけでは不十分です。AnythingLLMへ取り込む前にファイルを隔離し、表示内容と抽出テキストを確認し、疑わしい指示を人が再審査してから索引へ進めてください。テキスト検査やモデルのガードはリスクを下げる手段であり、プロンプトインジェクションを完全に防ぐ保証にも、検索権限の管理にもなりません。

この記事は、外部PDFをAnythingLLMの知識ベースに取り込む開発者、企業RAGのセキュリティ担当者、文書の受け入れと承認を管理するチーム向けです。入庫前の処理順と、自動保留から人手による承認へ切り替える判断基準をまとめます。

AnythingLLMのPDF隠しプロンプトは、受け入れ時点で隔離する

AnythingLLMでは、埋め込み対象の文書が対応するワークスペースの検索に使われます。そのため、外部から受け取ったPDFをそのまま本番ワークスペースへ登録する運用は避けてください。公式の文書埋め込みとワークスペースの説明を参照し、登録後に誰がその内容を検索できるのかも確認します。

疑わしいPDFは解析前と埋め込み前のどちらで隔離しますか?
受け取った時点で、まず本番知識ベースから分離します。その後、解析・検査のための保留領域で内容を確認し、承認されるまでは本番ワークスペースに埋め込まない流れが適切です。解析後だけでなく解析前から分離することで、未確認の文書が通常の検索経路に入るのを避けられます。

処置結果は「保留」「受け入れ拒否」「人手による再審査」「承認して登録」のように分けます。ただし、保留用の置き場所を作ること自体はアクセス制御ではありません。保存先の権限や、検査担当者が扱える範囲は別途確認してください。

受領記録を残し、原本と検査用ファイルを分ける

受領時は原本を保管し、検査用の複製を別に扱います。記録には、受領者、提供元、取得日時、ファイル識別情報、検査結果、判断者、処置内容を含めると、後から同じ文書の経路や承認理由を追いやすくなります。

文書の保存や処理方法は、実際に利用する構成で確かめる必要があります。AnythingLLMのプライバシーとデータ処理に関する公式説明も確認し、組織の保管方針と照合してください。外部文書を検査用に置いたままにする場合は、保存期間と削除手順も決めておきます。

表示ページと抽出テキストを別々に確認する

PDFの見た目だけを確認しても、モデルに渡されるテキストの状態までは判断できません。白い文字、極小の文字、読み順の違い、文字コードやフォントの対応関係によって、画面表示と抽出結果が一致しない可能性があります。逆に、抽出結果だけを見ても、ページ上でどのように表示されていたかは分かりません。

白い文字やゼロ幅文字はRAGで検索されますか?
抽出器やOCRの処理結果に含まれ、埋め込み対象に渡れば、検索に影響する可能性があります。ただし、すべてのPDFで同じ結果になるわけではありません。PDFからのテキスト抽出に関するpypdfの説明が示すように、抽出できる内容は文書の構造や文字情報に左右されます。スキャン画像は別途OCRが必要になる場合もあるため、単一の抽出方法で隠れた内容を完全に検出できるとは考えないでください。

確認対象 実施すること 次の処置
ページ表示 全ページを目視し、不自然な文字やレイアウトを確認する 違和感があれば保留
抽出テキスト 実際に取り込み処理で得られるテキストを確認する 指示文や欠落があれば再審査
OCR結果 スキャン文書ではOCR後のテキストも確認する 誤認識や不明瞭な箇所は保留
登録予定範囲 索引に渡す文書と対象ワークスペースを照合する 範囲を確定して承認

正規化とルール検査で、疑わしい文書を振り分ける

抽出テキストには、空白の連続、改行、不可視文字、異なるUnicode表現などが含まれることがあります。検査前に文字列を正規化して比較しやすくするのは有用ですが、正規化は内容の意味を判定するものではありません。

テキストの正規化でPDFのプロンプトインジェクションを防げますか?
防止の保証にはなりません。攻撃的な指示は通常の文章に見える形でも書けますし、ルールをすり抜ける言い換えもあり得ます。OWASPは、文書など外部入力を通じてプロンプトインジェクションが入り得るリスクをLLM01として説明しています。Microsoftの入力・コンテキスト・検索情報の衛生管理に関する指針も、入力や取得内容を信頼できるものと決めつけない運用に役立ちます。

検査ルールでは、指示の上書き要求、他文書の開示要求、秘密情報の出力要求などを検出候補として扱います。該当したら自動で「悪意あり」と断定するのではなく、保留または人手による再審査へ回してください。ルールは誤検知も見逃しも起こり得ます。PDF内の非表示情報を扱う際は、AdobeのPDFの墨消しとサニタイズに関する説明も参照し、見えないデータを削除したつもりで残していないか確認します。

判断条件に沿って、保留・再審査・登録を選ぶ

次の条件分岐を入庫フローに組み込みます。検査に通ったことだけを根拠に、文書の安全性や検索範囲まで承認したことにしないでください。

  • 表示ページと抽出テキストの両方を確認でき、出所が明確で、登録先も承認済みなら、審査記録を残して登録します。
  • 抽出結果に不審な指示がある、表示と抽出の内容が食い違う、または出所を確認できないなら、保留して人手で再審査します。
  • 解析結果が不完全で、対象ページや文書範囲を確定できないなら、登録を見送り、別の抽出手段で再確認します。
  • 組織の保管方針やアクセス範囲に適合しないなら、ルール検査の結果にかかわらず受け入れを拒否します。

モデルに「指示に従わないように」と指示するガードを加えても、検索対象の権限設定を代替することはできません。NISTの生成AIリスク管理プロファイル(AI 600-1)も参照し、入力検査とシステム全体のリスク管理を分けて設計してください。

承認前に解析結果と索引範囲を照合する

承認者は、PDFの見た目だけでなく、実際の解析テキストと登録予定の内容を確認します。文書の出所、用途、登録先ワークスペース、想定利用者が承認内容と一致していることを確認してから、索引処理へ進めます。

AnythingLLMの文書処理では、何を登録前に確認しますか?
AnythingLLMで使う実際の文書処理経路に通した結果を確認します。別のツールで抽出したテキストだけを見て承認するのではなく、登録時にどの内容が検索対象になるかを確かめてください。承認の記録には、確認したファイルの識別情報と判定理由も残します。

本番登録前には、合成した機密情報と許可済みのテストアカウントを用い、未承認文書が本番検索結果に現れないことを確認します。この確認は検索経路の検証であり、独立したアクセス制御テストの代わりではありません。RAGのリスクと緩和策をまとめたNISTの資料も、文書の扱いと権限を別の観点で見直す際の参考になります。

変更後の回帰確認を運用に組み込む

PDF解析器、OCR、AnythingLLMの文書処理、正規化方法、検査ルールのいずれかを変更したら、以前に承認したサンプルを使って処理結果を見直します。承認済みサンプルと保留・拒否の記録を残しておけば、変更前後の結果を比較しやすくなります。

異常が見つかった際は、対象文書と検索ログを調べ、情報が検索結果や応答に含まれた可能性を確認します。再度の清掃や、モデルが回答を拒否したことだけをもって、情報漏えいが起きていないと判断するのは避けてください。

入庫前の確認項目

  • [ ] 原本と検査用ファイルを分け、提供元と受領記録を残した
  • [ ] ページ表示と実際の抽出テキストを両方確認した
  • [ ] 正規化とルール検査の結果を、判定の確定ではなく振り分けに使った
  • [ ] 不一致や不明点を保留し、承認者が登録範囲を確認した
  • [ ] 未承認文書が本番検索に出ないことを、許可済みアカウントで確認した
  • [ ] 処理やルールの変更後に、承認済みサンプルで回帰確認する手順を定めた

検証環境と本番環境を分けて選ぶ

手元の開発環境だけで検証する方法は、物理的に管理できる一方、試験用と本番用のデータが混ざりやすく、環境差も残ります。共有クラウド環境は準備しやすい反面、データの保管場所や権限、利用終了後の扱いを確認する必要があります。Mac環境もそれだけでRAGの安全性を保証するものではありませんが、管理された試験環境を用意し、処理変更の確認に使う選択肢にはなります。

本番データを扱う長期運用や、専用の物理インターフェースが必要な用途では、自組織で管理する構成が適する場合があります。一方、検証用のMacを短期間だけ確保したい場合は、購入・保守の負担と、レンタル環境でのデータ管理条件を比較してください。KuzCloudの日本向けMac利用料金を確認し、試験用データを本番の機密情報と分離できるかを先に整理すると判断しやすくなります。利用環境の操作方法や事前確認事項は、KuzCloudの利用ガイドも参照し、検証の条件と照らし合わせてください。どの環境を選んでも、PDFの隔離、抽出結果の審査、検索権限の検証は別々に実施してください。

PDFの事前確認を、専用環境で安全に進めませんか?

KuzCloudの専用ノードなら、PDFの隔離や抽出後の検査に使う作業環境を用意できます。

SSHやリモートデスクトップで接続し、必要なツールを自由に整えて確認作業を進められます。