資安

2026 年 AnythingLLM:PDF 隱藏提示詞入庫前怎麼攔截?

建議做法:先隔離外部 PDF,檢查實際解析結果,再由人工決定是否索引;不要把刪除白色文字或零寬字元當成完整防線。這套流程適用於將外部文件匯入 AnythingLLM 的團隊;文字掃描與模型圍欄只能降低風險,不能保證消除提示詞注入,也不能取代檢索權限控制。

正在為 AnythingLLM 知識庫接入外部 PDF 的應用開發者,可依此安排入庫前處理。
負責企業 RAG 安全的工程師,可據此劃分自動分流與人工複核的界線。
管理內部知識庫文件來源的團隊,可用這套流程建立審批與留痕要求。

文件接收:原件隔離並保留來源紀錄

AnythingLLM 的文件嵌入會使文件進入檢索流程;官方說明亦指出,嵌入文件可供相應工作區使用者查詢。因此,外部 PDF 不應在上傳後直接進入正式工作區。隔離應在解析或嵌入之前開始,而不只是掃描完成後才移走文件。AnythingLLM 文件嵌入與工作區說明

接收時保留原始檔案,並記錄上傳人、來源說明、取得時間、檔案摘要、審核狀態及處置理由。這些紀錄可協助追查文件來自何處、何時被批准,以及其後是否被重新處理;摘要也能用來識別原件是否更換。未檢查文件與正式知識庫應分開存放,避免待審內容被正式檢索流程讀取。

下列處置結果可作為作業規則,而不是對文件惡意程度的技術判定:

  • 隔離:尚未完成檢查,暫不解析或嵌入正式工作區。
  • 拒收:來源無法核實、檔案損壞,或違反機構文件政策。
  • 人工複核:規則命中、解析差異明顯,或文件包含高敏感資料。
  • 批准入庫:審核人確認來源、解析內容與預定索引範圍後,才進入正式流程。

內容提取:同步核對 PDF 頁面與解析文字

AnythingLLM 導入 PDF 前的隱藏指令檢查,不能只靠人眼查看頁面。審核人應同時查看 PDF 的可見呈現與系統實際取得的文字,因為兩者可能不一致:白色或極小字元在頁面上不易察覺,文字層卻仍可能被抽取;掃描頁面則可能先經 OCR 轉成文字,結果亦受辨識與字元映射影響。

pypdf 文件說明其文字提取面對不同 PDF 內容時會有差異,且文字提取與 OCR 並非同一處理方式;因此,單一提取工具不能被當作完整的隱藏內容偵測器。pypdf 3.12.2 文字提取說明 PDF 清理文件亦涵蓋隱藏資訊的處理,但這不代表任何一種清理操作都能證明文件沒有提示詞注入。Adobe PDF 隱藏資料清理說明

建議在隔離環境保留兩份審核材料:原始頁面預覽,以及使用實際入庫流程產生的解析文字。遇到掃描件、文字層與頁面呈現不符、異常字型或亂碼時,應標記人工複核,不要因為抽取結果「看起來正常」就直接放行。

注意:檢查 OCR 結果時,應以正式環境實際使用的辨識與解析流程為準。換用另一個工具抽取出的文字,未必等於 AnythingLLM 後續收到的內容。

規則掃描:正規化後分流,不把命中當成定論

PDF 提示詞注入可能將指令藏在文件內容中,誘導模型忽略原有要求或索取不應回傳的資料。OWASP 將提示詞注入列為 LLM01:2025,並提醒外部來源的內容可能影響模型行為;這類風險不會因為文件放在本地端就自動消失。OWASP 提示詞注入說明

在規則掃描前,可先對抽取文字做一致化處理,例如合併異常空白、檢查不可見字元,並標記可疑的 Unicode 表示或不尋常的字元序列。接著掃描要求忽略先前指令、取得其他文件、洩露資料或改變系統行為等內容。這些規則的用途是把文件送往隔離或人工複核,不是判定文件必然惡意。

文本規範化不能防止所有 PDF 提示詞注入。它可以處理部分格式差異,卻無法涵蓋所有語義變體;規則可能誤報正常文字,也可能漏掉改寫、拆分或上下文依賴的指令。OWASP 對提示詞注入的說明,以及 Microsoft 的輸入、上下文與檢索衛生指南,都將防護視為多層控制,而不是一個清洗步驟。Microsoft 輸入與檢索衛生指南

若文件只有可疑但未能確認的內容,應保留原件與掃描結果,交由複核人決定拒收或批准;不建議以「掃描未命中」作為自動放行條件。生成式 AI 風險管理也需要把風險識別與後續管理納入流程,而非只檢查單一輸入環節。NIST AI 600-1 生成式 AI 風險管理框架

放行審核:確認實際解析結果與索引範圍

批准入庫前,審核人應查看將被索引的實際文字,核對文件來源、敏感內容、預定工作區及其使用者範圍。只查看 PDF 頁面或只查看清洗後的文字,都不足以確認實際檢索內容與預期相符。

AnythingLLM 的工作區文件說明了嵌入內容與工作區使用範圍的關係;但這項功能說明本身不是獨立的權限安全驗收結果。OWASP 亦建議建立信任邊界並配合權限控制,因此,入庫前的檢查不能替代對檢索授權與資料存取路徑的測試。AnythingLLM 工作區與文件說明 OWASP 提示詞注入與信任邊界說明

決策條件:按檢查結果選擇放行或退回

  • 若來源可追溯、頁面與解析文字可供審核、掃描結果沒有未處理項目,且工作區範圍已確認,則由指定審核人批准索引;否則回到隔離狀態。
  • 若文字抽取結果與頁面呈現不一致,或文件依賴 OCR 才能讀取,則先人工複核解析內容;若仍無法判斷實際入庫文字,拒絕放行。
  • 若掃描規則命中可疑指令或資料外洩要求,則送交人工複核,不把命中直接等同惡意,也不因為未命中就認定安全。
  • 若工作區範圍、存取角色或未批准文件是否會出現在檢索結果中尚未確認,則暫停正式索引,先以合成敏感資料和授權測試帳號驗證;這項檢查仍不能替代獨立的存取控制測試。

上線回歸:流程變更後重新檢查

AnythingLLM 文件處理邏輯、解析器、OCR 或掃描規則發生變更時,應重新檢查從接收至放行的完整流程。保留已批准的測試樣本、處置紀錄與預期解析結果,再由授權人員定期確認:未批准文件不會進入正式索引,已批准文件的解析內容也沒有因流程變更而偏離審核結果。

發現異常時,應先暫停相關索引並查核檢索紀錄、工作區範圍及可能受影響的資料;重新清洗文件或讓模型拒答,不能單獨證明資料沒有外洩。AnythingLLM 的資料處理說明可協助團隊了解其文件與資料處理範圍,但仍應依實際部署方式核對留存與存取流程。AnythingLLM 隱私與資料處理說明

處理狀況 建議處置 放行前的必要確認
來源清楚,解析文字與頁面相符 進入人工批准流程 文件來源、索引內容與工作區範圍已核對
有隱藏文字疑慮或規則命中 隔離並人工複核 確認疑慮內容及其對檢索的影響
掃描件或抽取結果不完整 暫不索引,核對 OCR 結果 審核人能檢視實際入庫文字
來源不明或無法判斷解析結果 拒收或維持隔離 不以模型拒答或清洗成功替代審查

若只靠員工電腦直接測試,常見限制是環境與文件流程不易重現、設備維護由團隊自行承擔,而且測試環境的檢索範圍仍須另行確認;短期驗證若需要 Mac 環境,租用 KuzCloud Mac 可減少先行採購及閒置硬體的負擔,但不會自動替代文件隔離、權限測試或安全審核。若工作負載長期且穩定,或必須接駁實體設備,自購設備可能更合適;若只需短期、經授權的測試環境,可先查看 KuzCloud Mac 租用方案,並透過 服務說明 與 管理介面 核對實際使用方式。

先在專屬遠端 Mac 驗證,再讓文件進入正式流程

KuzCloud 提供 Apple Silicon M4 專屬實體 Mac,可用來測試 PDF 提取、規則掃描與人工放行流程。

透過 SSH 或 VNC 遠端操作,並以完整 root 權限依需求安裝工具、調整測試環境。