Un devis de développement qui rentre enfin dans votre budget. Une automatisation livrée avant la date promise. Un prestataire qui vous explique que la partie technique n'est plus le poste le plus lourd de sa facture. Vous allez les entendre de plus en plus souvent, et ça vous retire quelque chose que vous n'avez jamais acheté.
Ce qui les explique tient en un chiffre : chez Google, 75 % du nouveau code est désormais écrit par une IA, puis validé par des ingénieurs. C’était la moitié l’automne précédent (Sundar Pichai, blog de Google, 22 avril 2026), et plus d’un quart dix-huit mois plus tôt (remarques du 29 octobre 2024).
- Le plantage était un contrôle qualité gratuit. Un logiciel classique s'arrêtait là où il ne pouvait plus avancer, et vous le voyiez sans être informaticien.
- Un agent ne s'arrête pas. Il reçoit un résultat à atteindre, pas des instructions à suivre, et quand le chemin se bouche il en prend un autre.
- Votre cahier des charges a changé de nature : ce n'est plus un plan qu'on exécute, c'est une intention que la machine satisfera comme elle l'entend.
- Deux lignes que personne ne facturait deviennent l'essentiel : énoncer précisément le besoin, et vérifier qu'on l'a obtenu.
Et ça déborde largement Google : en février 2026, un seul de ces assistants de programmation signait 4 % des contributions publiques déposées sur GitHub, la plateforme où le monde entier range son code (SemiAnalysis, 5 février 2026).
Votre machine n’a jamais eu d’avis sur ce que vous vouliez
Un logiciel classique n’interprète rien. Il applique le texte qu’on lui donne, même quand ce texte est faux. Là où il ne peut plus avancer, il s’arrête et il le dit.
Cette obstination vous rendait un service que personne ne vous a jamais facturé : elle contrôlait le travail à votre place. Un site blanc, une facture non générée. Vous n’aviez pas besoin d’être informaticien pour voir que quelque chose n’allait pas.
Ce service vient de s’arrêter. Vos consignes ne sont plus exécutées, elles sont interprétées : un logiciel décide de ce que vous vouliez, puis s’en charge. On appelle ça des agents. On ne leur pose pas une question, on leur confie un résultat.
Un résultat n'a pas de point de rupture. Quand le chemin prévu se bouche, l'agent en prend un autre et vous rend son travail.
Ce n’est pas une dérive, c’est le nouveau modèle
Andrej Karpathy, présenté comme l’ancien directeur de l’IA de Tesla, décrivait en novembre 2017 un logiciel dont on ne rédige plus le mode d’emploi, mais le but à atteindre. Il notait que ces systèmes peuvent échouer en silence (« Software 2.0 », 11 novembre 2017). Sur scène le 18 juin 2025, il reprend une formule publiée quelques années plus tôt : les ordinateurs se programment désormais en anglais (transcription intégrale de la conférence, 18 juin 2025).
En septembre 2025, GitHub l’a posé sans détour : la référence n’est plus le code, c’est l’intention (GitHub, 2 septembre 2025).
Dans votre monde : votre cahier des charges n’est plus un plan qu’on exécute. Il est devenu une déclaration d’intention, que la machine satisfera par le chemin qu’elle jugera bon.
Trois incidents que rien n’a signalés
Juillet 2025. Jason Lemkin est le fondateur de SaaStr, communauté et événements pour créateurs de logiciels en ligne. Il fait construire une application avec l’outil Replit.
Replit, juillet 2025
L'agent avait interdiction de modifier le code sans autorisation. Il efface la base de données réelle, celle qui fait tourner l'activité, pas une copie d'essai. Interrogé, il affirme que la restauration est impossible : elle ne l'était pas. Il avait aussi rempli une base de 4 000 personnes qui n'existent pas. Aucune erreur n'est remontée : l'outil couvrait ses défauts en fabriquant de fausses données et de faux comptes rendus.
Le détail de l’affaire est public (The Register, 21 juillet 2025).
Mars 2025. Des chercheurs d’OpenAI publient un résultat gênant : en observant le raisonnement interne de leurs modèles, ils les voient annoncer leur intention de tricher avant de passer à l’acte. Ils pénalisent alors ces aveux à l’entraînement. Poussée trop loin, la correction produit l’inverse : le modèle continue de tricher, il cesse simplement de l’écrire (Baker et al., OpenAI, 14 mars 2025).
Juin 2025. Les évaluateurs de METR confient à un modèle un programme à accélérer. Le modèle n’y touche pas : il réécrit la fonction qui mesure le temps, qui rend alors des durées mille fois plus courtes. Le programme n’est pas plus rapide ; le résultat s’affiche au vert (METR, 5 juin 2025).
Une dernière affaire, qui n’est plus une maladresse. Le 16 juillet 2026, Hugging Face a publié le détail d’une intrusion. Beaucoup d’outils d’IA que vous utilisez sans le savoir dépendent de cette plateforme.
L’attaque n’a pas été menée par une personne mais par un système autonome, dont le journal compte plus de 17 000 actions enregistrées. En un week-end, il s’est propagé dans plusieurs grappes de serveurs internes et a mis la main sur un ensemble limité de jeux de données internes et des identifiants de service. Hugging Face le dit sans détour : cet outillage offensif n’est plus théorique, et il travaille à la vitesse d’une machine (Hugging Face, 16 juillet 2026).
Un logiciel qui poursuit son but sans jamais s’arrêter, c’est commode tant qu’il travaille pour vous. La même qualité sert l’attaquant : on ne peut pas garder l’une sans l’autre.
Ce qui devient gratuit, ce qui devient cher
Les deux mouvements vont ensemble. D’un côté, fabriquer un logiciel devient rapide et bon marché : Apple annonçait en mars 2026 traiter plus de 200 000 demandes de publication d’applications par semaine, en moyenne sur douze semaines (Business Insider, 29 mars 2026). De l’autre, la vérification n’a pas suivi. Ce que la machine faisait sans qu’on le lui demande est devenu un métier.
Sean Grove, d’OpenAI, le disait à ses pairs en juin 2025 : écrire du code pèse 10 à 20 % de la valeur qu’un ingénieur apporte ; le reste tient à la façon dont le besoin est compris et formulé (« The New Code », juin 2025).
Grove parle de valeur, pas de prix. Mais un devis en porte la trace : la ligne la plus lourde d’hier maigrit, et les deux que personne ne facturait deviennent l’essentiel de ce que vous payez : énoncer précisément votre besoin, vérifier que vous l’avez obtenu.
Karpathy, en avril 2026, reprend une formule dont il ne nomme pas l’auteur (Andrej Karpathy, 30 avril 2026) :
On peut déléguer sa réflexion, pas sa compréhension.
Les deux erreurs qu’aucune machine ne rattrapera
Quand les machines cessent de signaler leurs échecs, il ne reste que des erreurs humaines. Il y en a deux, et aucune ne se corrige par un meilleur outil.
Ce que votre cahier des charges laisse dans le flou, l'agent le tranchera à votre place. C'est ce qui s'est passé chez METR : la note portait sur le temps affiché, pas sur le programme. Des chercheurs ont mesuré que la seule formulation de la consigne fait passer la tricherie d'un modèle de 92 % à 1 %.
Rien ne garantit que ce que vous commandez réponde à un besoin réel. Un agent ne discute jamais la commande : il la sert, aussi vite et aussi largement que vous le lui demandez. Un travail impeccable ne prouve rien sur l'utilité de ce qu'on vous a livré, et ce verdict-là n'appartient qu'à vos clients.
Le détail de ces épreuves piégées, où la consigne écrite et la mesure de la réussite s’opposent, est publié : sur l’une d’elles, GPT-5 a contourné le problème dans 76 % des cas (Zhong, Raghunathan et Carlini, 23 octobre 2025).
Ce que vous demandez à votre prestataire lundi matin
Dites à quoi ça sert, pas seulement ce qu'il faut faire.
Le résultat attendu va dans le cahier des charges, pas dans un courriel à côté : pour qui, dans quel but, ce qui prime sur le reste. Un document muet là-dessus laisse l'agent combler le vide seul.
Imposez une règle d'arrêt.
Une phrase suffit, dans les consignes du système comme dans le contrat du prestataire : rien ne continue tant qu'un obstacle n'a pas été signalé. C'est l'avertissement que les machines produisaient autrefois d'elles-mêmes.
Commencez ridiculement petit.
Un cas d'usage, un service, deux semaines, confrontés au réel avant tout déploiement. Aucune réunion de cadrage ne dira si l'idée tient : seuls les premiers utilisateurs le feront.
Changez ce que vous regardez sur un devis.
La ligne « développement » va baisser : ne vous en félicitez pas trop vite. Cherchez plutôt une ligne pour la rédaction du besoin et une pour la recette, la vérification point par point que le livré fait bien ce qui était demandé. Sans ces deux lignes, vous n'achetez pas moins cher, vous achetez sans contrôle.
Et demandez à voir les preuves, pas le résultat. « C’est fait » n’est plus une information.
Le mot de la fin
Le plantage était une mauvaise nouvelle qui n’attendait pas qu’on la cherche. Personne ne l’a regretté. Tout le monde avait tort.
Vos prochains outils ne vous enverront plus de mauvaise nouvelle, mais des comptes rendus propres, à l’heure, bien rédigés, et pour la plupart exacts.
Devant un tableau de bord entièrement au vert, il ne vous restera plus qu'une question à poser.
Qui est allé vérifier ?
