Votre assistant local
Brancher le Markdown et le llms.txt du site sur une IA qui tourne sur votre propre ordinateur.
Une IA « locale » tourne sur votre ordinateur : vos questions ne partent pas vers un service en ligne une fois le modèle téléchargé. Cette page explique comment lui donner le contenu de ce site comme contexte, avec les fichiers Markdown du site et rien d'autre.
Avant de commencer, lisez Avant d'utiliser nos prompts. Une réponse d'IA, locale ou non, n'est pas une preuve.
Trois voies
- L'avatar dans le navigateur : l'avatar d'Apatie écoute, réfléchit et répond à voix haute, dans votre navigateur. Il lit la page de votre choix par l'API de lecture. Rien n'est téléchargé sans votre clic (environ 80 Mo pour la transcription, 880 Mo pour le modèle de langage). Les modèles sont lus sur huggingface.co, qui voit alors l'adresse IP de votre connexion ; ni votre voix, ni vos questions, ni les réponses ne quittent votre machine. Il demande Chrome ou Edge récent, sur ordinateur, avec une carte graphique d'environ 2 Go.
- Ollama ou LM Studio : un logiciel d'IA locale que vous installez, alimenté par les fichiers Markdown du site (étapes ci-dessous).
- Le prompt à copier : sur chaque page de la carte, un bouton copie un prompt à coller dans l'IA de votre choix. Pour une IA qui lit directement les pages, voir aussi Brancher Apatie dans votre IA.
Ce dont vous avez besoin
- Un ordinateur avec assez de mémoire vive pour le modèle choisi : plus le modèle est gros, plus il en faut. Les petits modèles tournent sur un ordinateur ordinaire, avec des réponses moins fiables.
- Un logiciel pour faire tourner le modèle : Ollama ou LM Studio sont deux possibilités. Il en existe d'autres, et la procédure est proche.
- Facultatif : Python 3, pour l'assembleur de contexte fourni ci-dessous (il n'utilise que la bibliothèque standard).
Cette page ne charge aucune ressource extérieure. Les logiciels cités se téléchargent depuis leur propre site : vérifiez l'adresse officielle avant de télécharger.
Étape 1. Comprendre ce que le site vous donne
- Chaque page a un fichier Markdown jumeau : ajoutez
index.mdà son adresse. - llms.txt liste toutes les pages avec leur résumé.
- arbre.json donne l'arbre complet pour un programme.
Étape 2. Installer un logiciel d'IA locale
Avec Ollama
- Téléchargez et installez Ollama depuis le site officiel du projet.
- Dans un terminal, téléchargez un modèle :
ollama pull NOM-DU-MODELE. Choisissez dans le catalogue du projet un modèle qui gère bien le français et dont la taille convient à votre mémoire. - Testez :
ollama run NOM-DU-MODELE, puis écrivez une question. Pour quitter :/bye.
Avec LM Studio
- Téléchargez et installez LM Studio depuis le site officiel du projet.
- Utilisez sa recherche de modèles pour en télécharger un qui gère le français.
- Chargez le modèle et ouvrez une conversation. (Les intitulés des menus changent d'une version à l'autre.)
Étape 3. Récupérer le contenu du site
Deux façons :
- À la main : ouvrez la page qui vous intéresse, copiez le prompt avec le bouton « Copier le prompt », collez-le dans la conversation. Le prompt est construit dans cet ordre : le contexte avec l'adresse exacte de la page et celle de son Markdown jumeau, le contenu complet de la page, la consigne, puis les avertissements. Comme le contenu est collé, l'IA répond même sans accès au web. Elle doit citer l'adresse de la page, renvoyer vers la page parente et les branches filles avec leurs adresses, et préparer les corrections à envoyer à l'adresse de correction avec l'adresse de la page concernée.
- Avec l'assembleur : assembler_contexte.py lit arbre.json, télécharge les fichiers Markdown d'une branche et les réunit dans un seul fichier. Ce fichier suit le même ordre : un contexte, chaque page précédée de son adresse exacte, puis la consigne et les avertissements, avec à la fin la ligne « Ma question : » à compléter.
Exemple (remplacez l'adresse du site par celle où il est publié) :
python assembler_contexte.py --site https://www.apatie.fr --branche informatique/agents-ia --sortie contexte.md
Par défaut seules les pages rédigées sont reprises. Ajoutez --tout pour inclure aussi les pages « à déplier ». L'option --liste affiche les branches disponibles.
Étape 4. Interroger l'IA avec ce contexte
Ollama
Avec un petit modèle, la mémoire de la conversation est limitée : agrandissez-la d'abord, dans la session, par /set parameter num_ctx 8192 (valeur à adapter à votre machine). Collez ensuite tout le contenu de contexte.md, puis écrivez votre question à la fin, après « Ma question : ». Vérifiez que la fin du fichier (la consigne et les avertissements) n'a pas été coupée : si le contexte est trop court, le début ou la fin disparaît.
Pour garder ces réglages, créez un fichier Modelfile (modèle fourni) puis :
ollama create assistant-memoire -f Modelfile
ollama run assistant-memoire
LM Studio
Collez le contenu de contexte.md au début de la conversation, puis posez la question. Si le fichier dépasse la longueur de contexte du modèle, chargez le modèle avec une longueur de contexte plus grande, ou prenez une branche plus petite.
Brancher un autre programme
Ollama et LM Studio savent aussi servir le modèle à d'autres programmes de votre ordinateur par une adresse locale (consultez leur documentation officielle pour l'adresse et le port de votre version). Rien ne doit être exposé hors de votre ordinateur.
Étape 5. Vérifier
- Demandez à l'IA de citer ses sources et de signaler ce qui est incertain : c'est ce que fait le prompt de chaque page. Sa réponse doit contenir l'adresse de la page (en
https://www.apatie.fr/…, adresse de référence même si vous avez lu une copie locale), les adresses de la page parente et des branches filles pour continuer à explorer, et, pour chaque erreur, un message de correction prêt à envoyer à corrections@apatie.fr avec l'adresse de la page concernée. - Ouvrez les sources vous-même. Un petit modèle local invente plus facilement des références qu'un grand modèle.
- Si vous trouvez une erreur sur le site, proposez une correction.
Limites
- Une IA locale n'a pas accès à internet par défaut : elle ne peut pas contrôler une référence en ligne.
- Ce qu'elle répond dépend du modèle choisi, de sa taille et du contexte que vous lui donnez.
- Vous restez responsable de ce que vous faites de ses réponses.