Inférence auto-hébergée

Ce que coûte, ce que limite et ce que révèle un modèle qu’on opère soi-même, sur du matériel qu’on a acheté.

Cette page rassemble une série commencée en février 2026. La thèse tient en une ligne : la plupart des décisions qu’on prend sur un système d’IA se prennent avant le modèle, et se vérifient après lui.

la page qu’on cite dans un dossier. pas l’accueil.

Trois choses reviennent à chaque épisode. Le plafond réel n’est presque jamais celui qu’on anticipe. Une mesure sans périmètre énoncé se propage plus vite qu’elle ne se corrige. Et l’exhaustivité ne s’obtient pas par une recherche de similarité, quelle que soit sa qualité.

Les notes de cette série

25 août Six mois à faire tourner un modèle sur mon propre serveur
Trois leçons que personne ne m'avait vendues : le coût caché n'est pas le GPU, la métrique de qualité mente jusqu'à preuve du contraire, et la confiance se gagne par les interdits.
27 août Un modèle qui répond mal ne plante pas
Erreurs à zéro, latence à 98 ms, aucune alerte. Et les réponses sont fausses. Toute la supervision classique dit que tout va bien.
1er septembre Six valeurs du même indicateur
Le rappel est passé par six valeurs en une semaine sans que le modèle change. Trois causes. Cette lecture a depuis été corrigée.
2 septembre Pourquoi ces notes commencent au milieu
Le travail a commencé en février. La publication commence aujourd'hui. Ce que contient ce site, ce qu'il ne contient pas, et pourquoi les premières notes portent deux dates.
3 septembre Un tiers de mes échecs n'en étaient pas
J'ai publié six valeurs d'un même indicateur en écrivant que la mesure était fausse. En cherchant pourquoi, j'ai trouvé qu'un tiers des échecs venaient de l'instrument — et deux mesures sans rapport qui tombent sur le même nombre.
8 septembre Ce n'est presque jamais le modèle
Cent neuf énoncés manqués, cinq mécanismes, et le modèle n'est en cause dans aucun. La lacune de vocabulaire, celle que tout le monde suppose dominante, est la plus petite catégorie.