Sécurité

En 2026, AnythingLLM : comment intercepter les invites cachées dans les PDF avant leur ingestion ?

Dans la nomenclature de l’OWASP, l’injection d’invite porte le repère « LLM01 » : le risque peut entrer dans une application de modèle par des documents externes, et non seulement par une requête saisie directement par un utilisateur (description OWASP de l’injection d’invite). Pour un déploiement AnythingLLM, la décision à retenir est donc claire : ne supprimez pas seulement les caractères invisibles en espérant sécuriser le fichier. Isolez le PDF avant son ingestion, contrôlez le texte effectivement extrait, faites examiner les cas suspects, puis autorisez ou refusez l’indexation. Le filtrage et les garde-fous du modèle réduisent certains risques, sans garantir l’absence d’injection ni remplacer les contrôles d’accès.

Cet article s’adresse aux développeurs qui ajoutent des PDF externes à une base de connaissances AnythingLLM, aux ingénieurs responsables de la sécurité RAG et aux équipes qui doivent documenter l’origine et l’approbation des fichiers. Le parcours proposé porte sur le traitement préalable des documents, non sur le choix des espaces de travail, l’audit complet des permissions ou le nettoyage après incident.

Fixer les décisions possibles avant l’analyse

AnythingLLM permet d’intégrer des documents à un processus de recherche augmentée par génération (RAG) : le contenu indexé peut ensuite être utilisé dans le contexte de réponse du modèle, selon l’espace de travail auquel il est associé. La documentation officielle sur les documents et les espaces de travail rend cette relation explicite. Un fichier envoyé dans le circuit de production n’est donc pas une simple pièce jointe en attente d’examen.

Avant de créer un traitement automatique, définissez les décisions qu’un fichier peut recevoir. Ce vocabulaire évite qu’un signal de détection soit interprété, à tort, comme une preuve définitive de malveillance.

  • En quarantaine : le fichier est conservé dans un emplacement de revue, distinct des espaces de travail de production. Il n’est pas vectorisé et ne peut pas être renvoyé comme source par les recherches habituelles.
  • Refusé : le fichier n’est pas admis dans le circuit documentaire. La décision et son motif sont consignés selon la politique de conservation de l’organisation.
  • À examiner : un contrôle a détecté un élément inhabituel, sans permettre de trancher automatiquement. Une personne habilitée compare alors la page, le texte extrait et la provenance.
  • Approuvé pour l’indexation : un responsable accepte une version déterminée du fichier, pour un espace de travail défini, après examen du contenu destiné à la recherche.

Ces états organisent le traitement des documents ; ils ne constituent pas une isolation des droits d’accès. Même un PDF propre et approuvé peut être indexé dans un espace inadapté. Il faut donc traiter séparément les décisions « ce document est-il acceptable ? » et « quels utilisateurs peuvent-ils consulter les réponses qui en proviennent ? ». Les recommandations de Microsoft sur l’hygiène des entrées, du contexte et de la recherche insistent également sur la maîtrise des éléments qui alimentent le contexte du modèle.

Les caractères blancs ou de largeur nulle sont-ils nécessairement invisibles pour la recherche ? Non : selon la façon dont le PDF est construit et traité, du texte difficile à voir sur la page peut être présent dans le texte extrait et parvenir au système d’indexation. Inversement, l’apparence visuelle seule ne permet pas de conclure à ce que le parseur transmettra. Il faut comparer les deux représentations.

Première étape : réceptionner le fichier sans le rendre consultable

Le contrôle doit commencer à la réception, avant toute importation dans l’espace de travail actif. Placez le fichier dans une zone de dépôt qui n’est pas reliée à l’index de production ; si le processus de traitement utilise AnythingLLM, vérifiez concrètement qu’un fichier en attente ne peut pas être interrogé depuis les espaces destinés aux utilisateurs. Évitez de créer un espace de travail temporaire en supposant qu’il est privé : les droits et les connexions à l’application doivent être vérifiés dans la configuration réelle.

Conservez l’original reçu sans le remplacer par la version nettoyée. Pour établir une piste d’audit utile, associez au fichier les informations disponibles et nécessaires : identifiant interne, personne ayant effectué le dépôt, source déclarée, date et heure de réception, empreinte cryptographique, état de traitement et identité du réviseur. Ces éléments permettent de retrouver le fichier soumis et de comprendre quelle version a été autorisée. Une empreinte ne prouve pas que le contenu est sûr ; elle permet de vérifier que le document examiné correspond à celui qui sera ensuite traité.

Définissez également une règle de conservation des fichiers mis en attente. Un document confidentiel ne devrait pas être copié dans des répertoires temporaires dont l’accès, les sauvegardes ou l’effacement ne sont pas maîtrisés. Les explications d’AnythingLLM sur la confidentialité et le traitement des données sont à rapprocher de l’architecture effectivement choisie : elles ne dispensent pas l’organisation de vérifier ses propres flux de fichiers et journaux. Pour les obligations contractuelles applicables au service utilisé, les équipes peuvent aussi consulter les conditions de KuzCloud avant d’y transférer des documents sensibles.

Deuxième étape : examiner la page et le texte extrait

Un examen visuel du PDF ne suffit pas. Une instruction peut être masquée par une couleur proche du fond, recouverte par un autre élément, répartie dans une couche de texte ou rendue ambiguë par la structure interne du document. Les conversions et les traitements OCR peuvent aussi produire un résultat qui diffère de la page affichée. Il faut donc préserver et contrôler les deux versions : le rendu des pages et le texte destiné à l’indexation.

L’extraction n’est pas une transcription parfaite. La documentation de pypdf sur l’extraction de texte explique notamment que le texte peut être organisé de manière complexe dans un PDF et que son ordre d’extraction n’est pas nécessairement celui attendu à la lecture. Un document scanné peut ne pas contenir de couche textuelle exploitable ; l’OCR peut alors introduire des erreurs, omettre des éléments ou modifier les séparations entre mots. Les polices intégrées et leurs correspondances de caractères peuvent également produire des écarts.

Conséquence opérationnelle : ne traitez pas la sortie d’un outil d’extraction comme une preuve complète de ce que le modèle verra. Enregistrez le texte réellement transmis à l’étape de découpage et d’indexation, avec une référence à l’original, puis faites examiner les passages qui s’écartent du rendu de la page. Il n’existe pas, dans les sources citées, de méthode unique qui garantisse la détection de tout contenu dissimulé dans tous les PDF.

Comment vérifier les instructions cachées avant l’importation dans AnythingLLM ? Faites produire le rendu des pages et le texte extrait par le même chemin de traitement que celui prévu pour l’ingestion. Recherchez les incohérences entre ces deux sorties, puis soumettez les anomalies à une revue humaine ; l’inspection de l’écran ou l’utilisation d’un seul extracteur ne suffit pas à certifier le fichier.

Les outils de nettoyage de PDF peuvent contribuer à supprimer des informations cachées ou des éléments non désirés. Toutefois, leur exécution ne prouve pas que le document est sans instruction malveillante, ni que le contenu supprimé était le seul contenu problématique. La documentation d’Adobe sur la rédaction et la suppression de données cachées dans les PDF décrit des opérations de nettoyage ; elle ne transforme pas ces opérations en validation de sécurité d’un document destiné à un système RAG.

Troisième étape : normaliser sans effacer les preuves

Une fois le texte extrait, préparez une copie de travail pour les contrôles, tout en gardant intactes la source et la sortie brute. La normalisation peut harmoniser certains caractères Unicode, réduire les espaces inhabituels et rendre visibles les caractères de largeur nulle. Elle aide à repérer des variantes qui pourraient échapper à une règle littérale, mais elle ne comprend pas l’intention d’un texte et peut modifier des contenus légitimes, par exemple des noms, des extraits de code ou des notations spécialisées.

Un traitement élémentaire peut signaler des caractères invisibles sans modifier l’original :

import unicodedata

def inspecter_texte(texte):
    normalise = unicodedata.normalize("NFKC", texte)
    caracteres_suspects = [
        (index, f"U+{ord(caractere):04X}")
        for index, caractere in enumerate(normalise)
        if unicodedata.category(caractere) == "Cf"
    ]
    return normalise, caracteres_suspects

Ce code est un point de contrôle, pas un filtre de sécurité complet. La normalisation NFKC peut regrouper certaines représentations, mais elle ne détecte pas une instruction formulée avec des mots ordinaires, une paraphrase, une faute volontaire ou un texte réparti entre plusieurs fragments. La catégorie Unicode « Cf » signale certains caractères de format, pas tous les mécanismes possibles de dissimulation. Il faut donc conserver le texte initial, enregistrer la transformation appliquée et examiner les différences avant toute décision d’admission.

La normalisation des caractères empêche-t-elle l’injection d’invite dans un PDF ? Non. Elle peut rendre certains caractères invisibles plus faciles à repérer et améliorer la cohérence des règles, mais les attaques sémantiques peuvent être formulées sans caractère inhabituel. La documentation OWASP sur l’injection d’invite traite le problème comme un risque lié à la manière dont un modèle interprète des instructions et des données, pas comme une simple anomalie de codage.

Quatrième étape : utiliser les règles comme aiguillage

Les règles automatiques doivent servir à décider quel fichier nécessite une revue, et non à prononcer seules un verdict de sécurité. Une liste de termes peut repérer des passages qui demandent au modèle d’ignorer ses instructions, de révéler des éléments confidentiels ou de récupérer des informations sans rapport avec la demande. Des contrôles complémentaires peuvent relever des séquences inhabituelles de caractères, des variations entre texte affiché et texte extrait, ou des instructions adressées explicitement à un assistant.

Le fonctionnement attendu est prudent : une détection provoque une mise en quarantaine ou un examen ; l’absence de détection ne vaut pas approbation automatique. Les faux positifs sont possibles, notamment dans des documents qui décrivent la sécurité des modèles ou reproduisent des exemples d’instructions. Les faux négatifs le sont également : reformulation, contexte réparti entre plusieurs passages ou contenu rendu illisible à l’extraction. Le cadre de gestion des risques de l’IA générative du NIST aide à replacer ces contrôles dans une gestion plus large du risque, plutôt que de les présenter comme une garantie isolée.

Faut-il isoler un PDF avant son extraction ou seulement avant sa vectorisation ? Pour un fichier externe qui n’a pas encore été approuvé, l’isolation doit commencer dès la réception, donc avant l’extraction. L’analyse peut ensuite être effectuée dans le circuit contrôlé, mais le document ne doit pas atteindre l’index de production tant qu’une personne autorisée n’a pas pris la décision de l’admettre.

Utilisez les conditions de décision suivantes pour orienter le traitement :

  • Si la provenance est absente, incohérente ou impossible à établir, alors maintenez le fichier en quarantaine ou refusez-le ; ne déduisez pas sa fiabilité de son seul format.
  • Si le texte extrait diffère de façon inexpliquée du rendu visuel, ou contient une instruction demandant des données sans rapport avec l’objet du document, alors demandez une revue humaine avant toute indexation.
  • Si un nettoyage ou un nouvel OCR est nécessaire, alors produisez une nouvelle version contrôlée, conservez le lien avec l’original et recommencez l’examen de la sortie réellement destinée à l’index.
  • Si l’origine est connue, que les rendus ont été comparés et qu’aucune anomalie non résolue ne subsiste, alors un responsable peut approuver l’indexation pour l’espace de travail prévu ; cette approbation ne valide pas les permissions de cet espace.

Un garde-fou placé devant le modèle peut ajouter une autre couche d’analyse, mais il ne remplace ni l’examen documentaire ni les contrôles de droits. Même si le modèle refuse une requête suspecte pendant un test, ce refus ne démontre pas que les données sensibles ne sont pas accessibles par une autre requête, une autre chaîne de traitement ou un autre espace de travail.

Cinquième étape : approuver le contenu et vérifier son périmètre

Avant l’approbation, le réviseur doit pouvoir consulter le texte exact qui sera indexé, les pages pertinentes, la source déclarée et le résultat des contrôles automatiques. L’approbation doit porter sur une version et une destination déterminées : accepter un PDF pour un espace de travail ne signifie pas qu’il est approprié dans tous les espaces de l’organisation.

Après l’indexation, vérifiez le comportement avec des comptes de test autorisés et des données synthétiques, sans injecter de véritables secrets dans les requêtes de validation. Il s’agit notamment de confirmer qu’un document non approuvé n’apparaît pas dans les résultats de l’espace de travail de production. Cette vérification examine le parcours d’ingestion et de recherche ; elle ne remplace pas un test indépendant des permissions, des rôles et des accès directs aux données. Pour cadrer les engagements de traitement propres à KuzCloud, les équipes peuvent consulter sa politique de confidentialité, sans la confondre avec la politique interne de conservation des documents du système RAG.

Consignez la décision, la version du fichier, la destination approuvée, les éléments examinés et le motif d’un éventuel refus. Si le document est révisé, la nouvelle version doit repasser par le contrôle : un ancien accord ne s’applique pas automatiquement à un contenu modifié.

Sixième étape : refaire les contrôles lorsque le traitement change

La chaîne d’ingestion évolue lorsque l’organisation modifie l’extracteur, l’OCR, la normalisation, les règles de détection ou le traitement des documents dans AnythingLLM. Une modification peut changer le texte qui parvient à l’index, même si le PDF source reste identique. Après une évolution, rejouez le processus sur des échantillons autorisés conservés à cette fin et comparez les sorties produites aux résultats approuvés.

Une vérification de régression utile couvre des cas différents : document natif avec couche textuelle, fichier scanné, contenu multilingue, caractère de format inhabituel et exemple bénin qui ressemble à une instruction. Le jeu d’essai doit rester maîtrisé, ne pas contenir de secrets réels et être réexaminé lorsque les usages documentaires changent. Si un fichier suspect est découvert après sa mise en index, retirez-le du circuit selon la procédure d’incident et vérifiez les journaux et les réponses concernées. Le nettoyage ultérieur ou un refus du modèle ne permet pas, à lui seul, d’affirmer qu’aucune donnée n’a été exposée.

Avant la mise en service, la liste de contrôle suivante permet de repérer les étapes manquantes :

  • [ ] Le dépôt d’attente est séparé des espaces de travail consultables.
  • [ ] L’original, sa provenance et sa version sont traçables.
  • [ ] Le rendu visuel et le texte effectivement extrait sont examinés.
  • [ ] Les règles automatiques déclenchent une revue plutôt qu’une autorisation aveugle.
  • [ ] Un responsable approuve le contenu et son espace de destination.
  • [ ] Des comptes autorisés et des données synthétiques servent à vérifier le résultat de recherche.
  • [ ] Les changements d’extracteur, d’OCR ou de règles déclenchent une nouvelle vérification.

Le choix de l’environnement de test reste une décision distincte de la sécurité de l’ingestion. Un poste de développement utilisé seul peut rendre les essais difficiles à reproduire, dépendre de la configuration d’une personne et mêler fichiers temporaires et travaux courants ; un environnement partagé mal délimité peut, lui aussi, introduire des accès non prévus. Pour un essai ponctuel, la location d’un Mac auprès de KuzCloud peut offrir une manière différente de conduire les travaux de développement ou de validation sans acheter immédiatement une machine. Cela ne sécurise pas automatiquement les PDF, ne remplace pas l’isolation de l’index et n’est pas nécessairement adapté à une charge durable qui exige une machine dédiée ou des interfaces physiques particulières. Si un Mac temporaire correspond au besoin d’évaluation, les modalités disponibles sont consultables depuis la console KuzCloud ; pour une exploitation stable, il convient de comparer cette option à un Mac détenu ou à l’environnement déjà administré par l’organisation.

Examinez vos PDF dans un environnement Mac dédié

Avec KuzCloud, louez un Mac mini M4 physique dédié et configurez votre propre parcours de contrôle avant l’ingestion de documents.

Bénéficiez d’un accès root complet ainsi que de connexions SSH et VNC pour adapter l’environnement à vos outils d’analyse.