L’intelligence artificielle générative a conquis les entreprises à une vitesse que peu d’observateurs avaient anticipée. Pourtant, derrière les promesses d’agents autonomes et de collaborateurs virtuels infatigables, une faille structurelle continue de résister à tous les efforts d’ingénierie : le non-déterminisme.
🤖 IA générative : la fiabilité au cœur de la confiance
Poser deux fois la même question à un modèle de langage, dans des conditions strictement identiques, ne garantit jamais d’obtenir la même réponse. Ce défaut, longtemps considéré comme un simple détail technique, s’impose aujourd’hui comme l’un des obstacles majeurs à une adoption sereine de l’IA dans les secteurs où la fiabilité ne se négocie pas.
Pour Dominique Rogeau, entrepreneur suisse dont la réflexion sur l’intelligence artificielle s’est construite au fil des années à travers ses différents engagements, ce non-déterminisme n’est pas un simple bug de jeunesse. C’est la plus grande faiblesse de la technologie, celle qui conditionne toute la suite.
Le mot semble technique, presque abstrait, et pourtant il touche à quelque chose de très concret pour les entreprises qui déploient ces outils. Un système qui répond différemment à chaque interrogation, alors même que rien n’a changé dans la question posée, ne peut pas inspirer une confiance totale. Cette instabilité, qui a longtemps été acceptée comme une caractéristique inhérente aux grands modèles de langage, fait aujourd’hui l’objet de travaux de recherche approfondis, et Dominique Rogeau y voit un signal qu’il convient de prendre très au sérieux avant de généraliser l’usage de l’IA dans des contextes sensibles.
Une faille qui résiste même à température zéro
Le phénomène a de quoi surprendre les non-initiés. Même lorsqu’on règle le paramètre de température d’un modèle sur zéro, ce qui devrait en théorie éliminer tout hasard dans la génération de texte, le système continue de produire des résultats différents à chaque exécution. Les équipes de Thinking Machines Lab, le laboratoire fondé par Mira Murati, ancienne directrice technique d’OpenAI, ont documenté ce paradoxe avec une rigueur qui a fait grand bruit dans la communauté technique. Sur une expérience menée avec le modèle Qwen 2.5B, la même requête soumise mille fois a produit quatre-vingts réponses différentes, la plus fréquente n’apparaissant que soixante-dix-huit fois. Un chiffre qui, pour Dominique Rogeau, résume à lui seul l’ampleur du problème : « On demande à ces systèmes une rigueur qu’ils ne peuvent pas offrir dans leur architecture actuelle, et on s’étonne ensuite qu’ils déçoivent dès qu’on leur confie des tâches où la constance est indispensable. »
Les causes de cette instabilité sont désormais mieux comprises. Elles tiennent à la manière dont les ordinateurs traitent les nombres à virgule flottante, ces valeurs décimales qui ne peuvent jamais être stockées avec une précision parfaite. Lorsque des milliards d’opérations s’enchaînent dans un réseau de neurones, ces minuscules arrondis s’accumulent et finissent par influencer le choix du mot suivant généré par le modèle. S’ajoute à cela l’exécution concurrente sur les processeurs graphiques, où des milliers de cœurs travaillent en parallèle sans qu’on sache toujours lequel terminera son calcul en premier. Ce désordre, invisible à l’œil nu, se répercute jusque dans la réponse finale. Les chercheurs de Thinking Machines ont toutefois montré qu’une solution existe : en modifiant la manière dont les calculs sont regroupés en lots, ils ont réussi à obtenir un déterminisme parfait sur leurs mille complétions de test. La preuve, selon Dominique Rogeau, que le problème n’est pas une fatalité gravée dans le marbre de la technologie, mais un défi d’ingénierie qui peut être résolu à condition de s’y attaquer frontalement.
Des agents prometteurs, une confiance qui reste à construire
Ce non-déterminisme prend une tout autre dimension lorsqu’on l’applique aux agents IA, ces systèmes censés agir de manière autonome pour accomplir des tâches complexes au nom des entreprises. De nombreuses organisations ont mené des projets pilotes impressionnants sur le papier, mais peinent ensuite à basculer en production, freinées par le doute sur la fiabilité réelle de ces agents. Un agent qui hallucine grossièrement dans neuf cas sur dix reste plus facile à gérer qu’un agent qui se trompe une fois sur cent, de manière imprévisible, sur une action à conséquence lourde. C’est précisément cette imprévisibilité résiduelle qui inquiète le plus Dominique Rogeau : « Le risque n’est pas que l’agent se trompe souvent, c’est qu’il se trompe rarement, sans qu’on puisse prévoir quand, ni sur quoi. Dans une banque, un virement en apparence légitime peut franchir un seuil de contrôle sans que rien, dans le comportement du système, n’ait laissé présager cette dérive. »
Face à ce constat, une partie de la réflexion se déplace du modèle lui-même vers ce qui l’entoure. Plutôt que d’attendre une prochaine génération de modèles qui réglerait le problème par la seule force du calcul, les architectes de systèmes s’orientent vers des infrastructures de contrôle indépendantes, capables d’évaluer chaque action envisagée par un agent avant qu’elle ne soit exécutée. Certains parlent d’une véritable conscience professionnelle greffée au système, une couche qui synthétise les règles écrites et non écrites d’une organisation pour décider, au cas par cas, si une action peut être exécutée automatiquement, si elle nécessite un contrôle humain préalable, ou si elle doit être purement et simplement bloquée. Cette architecture à trois niveaux change la nature même du risque : d’une solution probabiliste et par nature incertaine, on passe à un fonctionnement que l’on peut qualifier, cette fois, de maîtrisé et d’explicable.
Quand la corruption des données devient silencieuse
Le problème prend une acuité particulière sur les tâches longues, celles qui s’étendent sur de nombreuses interactions successives. Une étude de Microsoft Research a mis en évidence un phénomène préoccupant : sur ce type de missions, les modèles les plus avancés du marché peuvent corrompre silencieusement une proportion significative des documents qu’ils traitent, sans qu’aucune alerte ne se déclenche. Contrairement à un plantage informatique classique, immédiatement visible, cette altération progressive des données passe inaperçue jusqu’à ce que ses conséquences deviennent difficiles à ignorer. Plus la fenêtre de contexte s’allonge, plus le modèle semble perdre le fil, au point d’écraser des lignes de données sans que personne ne s’en aperçoive dans l’immédiat.
Pour Dominique Rogeau, ce constat illustre à quel point l’attente d’un modèle parfait relève d’une impasse stratégique. « On continue de penser que le prochain modèle, plus puissant, plus entraîné, réglera enfin le problème. C’est une erreur de raisonnement. Ajouter des paramètres ne remplace pas la rigueur d’exécution. » Cette conviction le conduit à privilégier une approche où le modèle de langage n’est plus considéré comme un cerveau omniscient à qui l’on délègue tout, mais comme un rouage parmi d’autres, encadré par des procédures de validation strictes. Séparer la génération, confiée au modèle, de la validation, confiée à des mécanismes déterministes et vérifiables, lui semble être la seule voie praticable à court terme. Un agent ne devrait, selon cette logique, jamais disposer d’un accès direct en écriture sur des données critiques sans qu’un superviseur, humain ou algorithmique, n’intervienne dans la boucle.
Pour Dominique Rogeau, construire la confiance est une base non négociable
Ce qui frappe dans le discours de Dominique Rogeau, c’est l’absence de fatalisme technologique. Il ne s’agit pas de rejeter l’intelligence artificielle, ni de céder à un optimisme béat sur ses capacités actuelles. « L’IA reste un moteur d’une puissance rare, mais on l’a adoptée à un rythme qui a souvent distancé les garde-fous nécessaires. La priorité n’est plus de courir après le modèle le plus intelligent, elle est de construire l’infrastructure la plus résiliente autour de lui. » Cette phrase résume assez bien sa position dans le débat plus large qui agite aujourd’hui chercheurs, entrepreneurs et régulateurs sur l’avenir de l’intelligence artificielle générative.
Un entrepreneur qui préfère la constance à l’exposition
Ceux qui ont eu affaire à Dominique Rogeau décrivent souvent la même scène : un rendez-vous fixé, des questions claires et précises, peu de mots inutiles. L’homme a bâti sa réputation loin des estrades et des interviews télévisées, dans les couloirs plus feutrés des comités d’investissement et des salons spécialisés. Installé en Suisse, il partage son temps entre plusieurs projets qui, à première vue, n’ont pas grand-chose en commun : des implants biomimétiques conçus par Eden Spine pour redonner de la mobilité aux patients souffrant de pathologies vertébrales, une école de pilotage de Formule 1 ouverte à Barcelone il y a une dizaine d’années, et une fondation, Enfance et Vie, qui finance depuis 2004 des missions chirurgicales et des formations de soignants au Sénégal. Trois univers, trois métiers, mais un fil qui les relie tous : l’idée que la technique, quelle qu’elle soit, ne vaut que par ce qu’elle apporte concrètement à quelqu’un.
Son entourage professionnel explique qu’il a longtemps refusé de promouvoir sa personne, jugeant plus utile de se concentrer sur le développement de ses activités. Ce n’est que ces dernières années, à mesure que le débat sur l’intelligence artificielle a pris une ampleur qu’il juge disproportionnée par rapport à la compréhension réelle des enjeux, qu’il a accepté de sortir un peu de sa réserve. Pas pour défendre une marque ou vendre un produit : simplement parce qu’il estime qu’un entrepreneur qui a passé vingt ans à mener des projets d’innovation a peut-être quelque chose d’utile à dire sur la manière dont on devrait aborder cette nouvelle vague technologique.
Sa manière de parler d’intelligence artificielle tranche d’ailleurs avec les postures qu’on entend le plus souvent. Il ne s’enthousiasme pas pour la performance brute d’un modèle, et ne cède pas non plus au réflexe inverse qui consisterait à tout rejeter en bloc. Ce qui intéresse Dominique Rogeau, c’est de savoir si un outil, une fois déployé, améliore réellement le travail de quelqu’un ou si, au contraire, il ajoute une couche de risque mal identifiée. Sur le non-déterminisme, sa lecture est presque celle d’un ingénieur qui aurait gardé un œil de gestionnaire : il commence par vouloir comprendre précisément où se situe la faille, avant de chercher comment la contenir dans un cadre opérationnel. Une méthode qui n’a rien de spectaculaire, mais qui doit beaucoup, selon ceux qui le connaissent, à des années passées à monter des structures où l’erreur n’a jamais été une option, qu’il s’agisse d’un implant destiné à un patient ou d’une décision engageant une fondation sur le terrain.
Reste une question que Dominique Rogeau n’élude pas lorsqu’on la lui pose directement : l’intelligence artificielle mérite-t-elle qu’on lui fasse confiance aujourd’hui ? Sa réponse tient davantage à un calendrier qu’à un jugement définitif. Pour lui, la technologie n’est ni mûre ni condamnée : elle traverse une période où ses limites techniques sont en train d’être cartographiées, et où les choix faits maintenant, sur la gouvernance et le contrôle, pèseront longtemps sur ce qu’elle deviendra. Une manière de voir les choses qui ne doit sans doute rien au hasard, chez un homme qui a construit l’essentiel de sa carrière sur des trajectoires longues plutôt que sur des paris rapides.
- CoreView 2016 : la transition vers les passkeys de Microsoft doit s’accompagner d’une vigilance renforcée - 3 septembre 2026
- Audit IA en entreprise : la méthode pour éviter les projets qui n’arrivent jamais en production - 3 septembre 2026
- Dominique Rogeau : le non-déterminisme de l’ia est sa plus grande faiblesse - 3 septembre 2026
