Faites tourner l’IA sur votre ordinateur, et le livre y reste.
L’IA de Shiro peut tourner tout entière sur votre ordinateur, avec le llama.cpp fourni, ou par Ollama ou LM Studio. Les requêtes restent sur 127.0.0.1 : vous pouvez écrire au fond du Cantal, sans réseau. Le prix à payer, c’est le matériel. Le catalogue va de 4 à 64 Go de mémoire, les petits modèles sont plus faibles que les gros, et bien plus faibles que les meilleurs modèles hébergés.
Trois façons d’en faire tourner un
Celle de Shiro. L’application de bureau embarque llama.cpp. Ouvrez Vous, puis IA de Shiro, puis Modèles locaux : elle indique votre processeur et votre mémoire, et recommande un modèle pour écrire et un pour les petites tâches. Le téléchargement vient de Hugging Face, se met en pause et se reprend, et le fichier est contrôlé à l’arrivée par une somme de contrôle. Rien ne se télécharge ni ne démarre sans que vous l’ayez demandé.
Ollama ou LM Studio. Si vous utilisez déjà l’un des deux, Shiro trouve leurs modèles tant qu’ils sont ouverts.
Votre propre fichier. Collez le nom ou le lien d’un modèle Hugging Face, ou désignez un fichier sur votre disque.
Ce qui reste sur la machine
Une requête locale va à 127.0.0.1 et en revient. « Ce que Shiro a envoyé » le dit en toutes lettres : « Restée sur cet ordinateur ». Parmi les tests de l’application, un test de navigateur échoue si le client de bureau sort de localhost pendant qu’on parcourt l’accueil, les vues et les réglages. Un projet local avec un modèle local n’a jamais besoin du réseau, et vous pouvez lire le code si notre parole ne vous suffit pas.
Deux choses peuvent défaire cela, toutes deux à votre main. Les modèles se règlent par tâche : une clé sur une tâche envoie le texte de cette tâche au fournisseur. Et un projet cloud vit sur notre serveur, quel que soit le modèle. Le téléchargement, lui, est une requête vers Hugging Face où rien de vous ne part.
Ce que votre matériel permet
La mémoire est celle qu’il faut au modèle dans sa taille par défaut, le téléchargement la place qu’il prend sur le disque.
| Mémoire | Modèle | Téléchargement | Pour quoi faire |
|---|---|---|---|
| 4 Go | Gemma 4 E2B | 2,6 Go | Renommer, titres, étiquettes, résumés |
| 8 Go | Gemma 4 E4B | 4,3 Go | La même chose, et de courtes discussions |
| 24 Go | Gemma 4 26B | 13,6 Go | Premier jet, réécriture, discussion |
| 32 Go | Gemma 4 31B | 16,8 Go | Longues scènes et révision |
| 32 Go | Qwen 3.6 35B | 19 Go | Long contexte et structure |
| 64 Go | Mistral Small 4 | 68 Go | Le meilleur du catalogue en français |
Prenez les deux premières lignes au mot. Un modèle de 4 Go saura nommer vos discussions et résumer un chapitre. Il n’écrira pas de scène à montrer à qui que ce soit. Le 26B est le modèle par défaut pour écrire, et son fichier pèse plus de vingt mille fois le roman qu’il aide : le manuscrit tiendrait sur une disquette, pas lui.
Le français mérite une ligne à part. Dans le catalogue de Shiro, tous les modèles locaux sauf Mistral Small 4 sont moins bien notés en français qu’en anglais. Les guillemets et les espaces, Shiro les rattrape, mais le style reste à la charge du modèle. Si vous écrivez en français, comptez avec cet écart.
Quant à la vitesse, elle dépend de votre machine et nous n’avancerons aucun chiffre. Essayez une courte scène avant d’organiser votre semaine autour.
Ce à quoi vous renoncez
Les modèles à partir de 32 Go travaillent en agents et lisent plus loin dans le livre avec leurs outils. En dessous, le modèle reçoit un contexte fixe : la fiche du projet, vos notes à son intention, 3 entrées du Monde au plus et le texte autour du curseur. Aucun modèle local ne fait tourner le mode Max aujourd’hui, et les images et la vidéo ne se génèrent pas en local.
Si c’est trop peu pour un travail donné, confiez ce seul travail à un modèle hébergé ou à votre clé, et gardez le reste ici. Ou laissez l’IA coupée : c’est gratuit, et d’une discrétion irréprochable.
Les questions qu’on nous pose
Combien de mémoire faut-il pour faire tourner une IA d’écriture ?
Environ 24 Go pour un modèle à qui confier du premier jet et de la réécriture. Avec 4 à 8 Go, vous aurez des titres, des étiquettes, des résumés et de courtes discussions, et une prose que vous ne garderez sans doute pas. Shiro regarde votre ordinateur et recommande ce qui lui convient.
Puis-je utiliser mes modèles Ollama ou LM Studio ?
Oui. Shiro s’en sert tant que l’application est ouverte. Vous pouvez aussi ajouter un modèle depuis Hugging Face ou un fichier sur votre disque.
Quel modèle local pour écrire en français ?
Mistral Small 4 si vous avez 64 Go de mémoire : c’est le seul du catalogue mieux noté en français qu’en anglais. Sinon, Gemma 4 26B à partir de 24 Go, en sachant que le français y est un peu moins sûr.
Est-ce que ça marche hors ligne ?
Oui, une fois le modèle sur votre ordinateur. Seul le téléchargement demande une connexion, et il ne fait que descendre un fichier.
Un modèle local vaut-il un modèle hébergé ?
En général non, et les petits en sont loin. Les modèles locaux ne font pas non plus tourner le mode Max aujourd’hui. En échange, rien ne quitte la machine, et pour certains livres c’est tout ce qui compte.