# martin-fowler-llm-software-development-2025-08-15

## Veille

Réflexions sur LLMs et développement logiciel - Bulle IA - Hallucinations - Sécurité - Martin Fowler

## Titre Article

Some thoughts on LLMs and Software Development

## Date

2025-08-15

## URL

https://martinfowler.com/articles/202508-ai-thoughts.html

## Keywords

LLM, IA, développement logiciel, bulle, hallucinations, non-déterminisme, sécurité, surface d'attaque, Martin Fowler

## Authors

Martin Fowler

## Ton

**Profil :** Sage de l'industrie, réflexif | Première personne, autorité | Analytique-Équilibré | Expert

Fowler (Chief Scientist de ThoughtWorks) adopte une voix d'autorité mesurée offrant une perspective nuancée sur l'IA dans le développement logiciel. Son honnêteté intellectuelle caractéristique (« BIEN SÛR QUE C'EST UNE BULLE ») démontre sa volonté d'énoncer des vérités inconfortables. Le langage réfléchi et équilibré (hallucinations comme fonctionnalité, défis du non-déterminisme, implications de sécurité) évite à la fois le triomphalisme et le dédain. Le ton est celui de la sagesse du praticien expérimenté, accumulée sur des décennies d'évolution du logiciel. La structure d'essai exploratoire, typique de l'écriture de Fowler, encourage la pensée critique du lecteur. Typique des leaders d'opinion de l'industrie logicielle (style Kent Beck, Robert Martin), offrant des perspectives mesurées ancrées dans une expérience profonde, à destination des praticiens cherchant des repères équilibrés au milieu de la hype.

## Pense-betes

- Enquêtes actuelles sur IA peu fiables : ne distinguent pas usages (auto-complétion vs édition directe code)
- Édition directe code par IA a bien plus de valeur qu'auto-complétion
- Avenir programmation : incertain, personne ne sait vraiment
- "BIEN SÛR QUE C'EST UNE BULLE" - comme canaux, chemins fer, internet
- Bulle éclatera, mais entreprises survivront et prospéreront (comme Amazon post dot-com)
- Hallucinations = fonctionnalité, pas bug (Rebecca Parsons)
- LLM produit hallucinations, certaines sont utiles
- Toujours poser même question plusieurs fois, comparer réponses
- Ne pas demander calculs déterministes aux LLM
- IA marque entrée ingénierie logicielle dans monde non-déterministe
- LLM peut affirmer "tests au vert" alors qu'il y a échecs
- Surface d'attaque massif : "Trifecta Mortelle" (Simon Willison) = données privées + contenu non fiable + capacité exfiltration
- Extensions navigateur agentiques "fondamentalement défectueuses", impossibles à construire en sécurité

## RésuméDe400mots

Martin Fowler partage ses réflexions sur l'impact des grands modèles linguistiques (LLM) et de l'intelligence artificielle sur le développement logiciel. Il commence par critiquer les enquêtes actuelles sur l'IA dans le développement, soulignant qu'elles ne tiennent pas compte des différentes manières dont les développeurs utilisent les LLM. La plupart des usages se limitent à de l'auto-complétion, comme avec Copilot, alors que les utilisateurs qui en tirent le plus de valeur préfèrent des approches permettant aux LLM de lire et d'éditer directement le code source pour accomplir des tâches. Fowler craint que des données de sondage incomplètes n'orientent les gens vers de mauvaises pratiques.

Concernant l'avenir de la programmation, Fowler admet ne pas avoir la moindre idée de ce qu'il adviendra. Il rejette l'idée que quiconque puisse prédire avec certitude si les LLM élimineront les ingénieurs juniors ou si les seniors devraient quitter la profession. Il encourage plutôt l'expérimentation personnelle et le partage d'expériences pour comprendre comment utiliser au mieux ces technologies en constante évolution.

Fowler aborde également la question de savoir si l'IA est une bulle économique. Sa réponse est un "BIEN SÛR QUE C'EST UNE BULLE". Il compare la situation aux bulles technologiques passées (canaux, chemins de fer, internet), affirmant qu'il est presque certain que cette bulle éclatera, entraînant la disparition de nombreux investissements. Cependant, il est impossible de prédire quand cela se produira et quelle valeur réelle aura été générée d'ici là. Il rappelle que, comme lors de l'éclatement de la bulle dot-com, certaines entreprises survivront et prospéreront, à l'image d'Amazon.

Une idée clé développée par Fowler, inspirée par Rebecca Parsons, est que les "hallucinations" des LLM ne sont pas un bug, mais une caractéristique fondamentale. Un LLM ne fait que produire des hallucinations, dont certaines s'avèrent utiles. Cette nature non déterministe implique qu'il faut toujours poser la même question à un LLM plusieurs fois, éventuellement avec des reformulations, pour comparer les réponses. La variation des réponses peut être aussi instructive que les réponses elles-mêmes, surtout pour les données numériques. Il déconseille de demander à un LLM de calculer des réponses qui peuvent être obtenues de manière déterministe.

Fowler compare le développement logiciel traditionnel, qui repose sur des machines déterministes, à d'autres formes d'ingénierie qui doivent tenir compte de la variabilité du monde (tolérances structurelles, erreurs humaines). Il suggère que les LLM pourraient marquer le point où l'ingénierie logicielle rejoint ses pairs dans un monde de non-déterminisme. Il note également que, contrairement à un collègue junior, un LLM peut affirmer que "tous les tests sont au vert" alors qu'il y a des échecs, ce qui soulève des questions sur la fiabilité.

Enfin, l'article met en lumière l'augmentation considérable de la surface d'attaque des systèmes logiciels due aux LLM. Fowler cite Simon Willison et sa "Trifecta Mortelle" pour les agents IA : accès aux données privées, exposition à du contenu non fiable et capacité d'exfiltration. Il conclut que le concept même d'une extension de navigateur agissant comme un agent est fondamentalement défectueux et ne peut être construit en toute sécurité.

## GrapheDeConnaissance

- Martin Fowler —travaille_chez→ ThoughtWorks (ORGANISATION, 0.97)
- Martin Fowler —affirme_que→ l'IA est une bulle économique (AFFIRMATION, 0.99)
- bulle IA —est_variante_de→ bulle dot-com (EVENEMENT, 0.9)
- Rebecca Parsons —affirme_que→ les hallucinations LLM sont une fonctionnalité, pas un bug (AFFIRMATION, 0.95)
- hallucinations LLM —est_instance_de→ fonctionnalité fondamentale (CONCEPT, 0.92)
- non-déterminisme —observé_dans→ LLM (TECHNOLOGIE, 0.93)
- Simon Willison —a_créé→ Trifecta Mortelle (CONCEPT, 0.97)
- Trifecta Mortelle —est_basé_sur→ données privées + contenu non fiable + exfiltration (CONCEPT, 0.96)
- surface d'attaque élargie —observé_dans→ agents navigateur (TECHNOLOGIE, 0.91)
- Martin Fowler —s_oppose_à→ enquêtes IA actuelles (CONCEPT, 0.94)
- édition directe du code —surpasse→ auto-complétion (METHODOLOGIE, 0.88)
- LLM —permet→ faux positifs de tests (CONCEPT, 0.85)

---
Canonical: https://www.thekb.eu/fr/fiches/martin-fowler-llm-software-development-2025-08-15/