Stratégie & Gouvernance · N° 44
LLM interne : une ETI logistique découvre que son assistant code générait des bibliothèques inexistantes
Hallucinations de packages : un risque peu documenté quand le modèle est branché à un registre privé. Réponse : validation systématique contre un miroir interne et interdiction des pull requests générées sans revue humaine nominative.

Nous avons mesuré le mauvais indicateur pendant trop longtemps. Le mercredi 9 juillet 2025, j'ai changé de question.
J'ai gardé mes notes telles quelles, y compris les passages gênants.
Le point de départ
« Hallucinations de packages : un risque peu documenté quand le modèle est branché à un registre privé. »
Ravi Chandrasekar, Directeur Plateformes IA du groupe Solvantis Services (Inde/France)
Le dossier a été traité dans un contexte très opérationnel, avec Inde/France pour cadre réglementaire et commercial implicite. Dans ce type de situation, l'enjeu était de rendre le service utile sans perdre la maîtrise des sources. La première réunion n'a pas servi à décider : elle a servi à nous mettre d'accord sur les faits.
Ce qui s'est passé, dans l'ordre
- J+00
1. Périmètre documentaire fermé — le point où j'ai compris que le calendrier officiel ne tenait pas.
- J+09
2. Sources datées et versionnées — c'est l'étape qui a pris le plus de temps, et personne ne l'avait vue venir.
- J+18
3. Garde-fous et refus hors domaine. Sur le moment, j'ai trouvé ça superflu ; ça nous a évité deux retours arrière.
- J+27
4. Mesure du taux d'erreur réel : la seule étape qui ait été tenue comme prévu.
- J+36
5. Extension ou arrêt du service. J'en ai gardé une trace écrite prise sur le vif, parce que je savais qu'on me demanderait.
« Réponse : validation systématique contre un miroir interne et interdiction des pull requests générées sans revue humaine nominative. » — cette phrase a été écrite au moment de la revue intermédiaire, avant consolidation des chiffres.
Ce qui a coincé
Les usages non déclarés ont été découverts par la comptabilité des licences, pas par la sécurité. Ce n'était pas un défaut de compétence, c'était un défaut de préparation.
Le référentiel documentaire était à jour dans la forme et faux dans le fond : trois procédures n'avaient jamais été appliquées. Rien de dramatique en soi — mais c'est exactement ce qui fait déborder un planning.
Le modèle n'était pas le problème : c'est la gouvernance des sources qui déterminait tout. Sans propriétaire nommé par domaine, les réponses errées remontaient. Nous l'avons su trop tard, comme presque toujours.
Ce que je fais désormais
- Un cas d'usage qui ne tient pas sa mesure d'erreur est arrêté, et l'arrêt est annoncé.
- Depuis, chaque domaine documentaire a un responsable nommé, avec une date de revue.
- Aujourd'hui, nous publions les erreurs corrigées par les relecteurs autant que les cas réussis.
La suite
Aujourd'hui, il reste de ce dossier une habitude : la revue trimestrielle sur preuves, avec les mêmes personnes dans la pièce. J'ai arrêté de compter sur les procédures seules.
Repères
Avant d'aller plus loin, quelques définitions — celles que nous utilisons en comité.
- LLM
- Grand modèle de langage, entraîné sur de très gros volumes de texte, utilisé en génération ou en assistance.
Cadre de référence
- Législation sur l'IA — Commission européenne. Approche par risques, pratiques interdites, calendrier.
- Règlement (UE) 2024/1689 — règles harmonisées sur l'intelligence artificielle (AI Act) — EUR-Lex. ELI officiel vérifié en navigateur, version française.
- Intelligence artificielle (IA) — CNIL. Dossier protection des données et systèmes d'IA.
- L'analyse d'impact relative à la protection des données (AIPD) — CNIL. Méthode, listes de traitements, outil PIA.
- Licence Ouverte 2.0 — data.gouv.fr (Etalab). Conditions de réutilisation des données publiques.
Ces pages officielles externes sont données comme repères : elles ouvrent un nouvel onglet et n'impliquent aucune validation de la part des organismes cités.