thekb.eu — Philosophie & Société

Lettre encyclique MAGNIFICA HUMANITAS du Saint-Père LÉON XIV sur la protection de la personne humaine à l'ère de l'intelligence artificielle

Fri, 15 May 2026 00:00:00 GMT

Première encyclique sociale du **Pape Léon XIV** (Robert Francis Prevost), datée du **15 mai 2026** (Rome, près de Saint-Pierre, 2e année du Pontificat), publiée pour le **135e anniversaire de *Rerum Novarum*** (Léon XIII, 15 mai 1891) et explicitement présentée comme **prolongement de la Doctrine sociale de l'Église à l'ère de l'IA**. Sous-titre canonique : *« sur la protection de la personne humaine à l'ère de l'intelligence artificielle »*. **245 paragraphes**, structurés en **Introduction + 5 chapitres + Conclusion**. **Thèse-pivot** organisée autour de deux **icônes bibliques** : la **tour de Babel** (Gn 11) — l'uniformité technologique sans Dieu, *« absolutisation de l'humain »* — vs la **reconstruction des murs de Jérusalem par Néhémie** (Ne 2-6) — la responsabilité partagée pierre par pierre, l'écoute, la coordination des familles. *« Le premier choix ne se situe pas entre un "oui" ou un "non" à la technologie, mais entre bâtir Babel ou reconstruire Jérusalem »* (n. 9). **Concepts canoniques** : (1) **IA "cultivées" plutôt que "construites"** — *« les développeurs n'en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l'IA se développe »* (n. 98), formulation théologique remarquable qui reprend le vocabulaire ML-research récent ; (2) ***« Désarmer l'IA »*** (n. 110) — *« la soustraire à la logique de la compétition armée qui n'est plus aujourd'hui seulement militaire, mais aussi économique et cognitive »*, rendre l'IA *« habitable, en la restituant à la pluralité des cultures humaines »* ; (3) **Critique radicale de l'"alignement"** — *« Nous ne pouvons pas nous contenter d'invoquer la moralisation de la machine, ce qu'on appelle "l'alignement" de l'IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser »* (n. 107). ***« Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. »*** (4) **Asymétrie épistémique** et **nouveaux monopoles de l'IA** (n. 109) — *« dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire »* ; (5) **Travail invisible** des étiqueteurs/modérateurs/extracteurs de terres rares (n. 109, 173) — *« des corps marqués, mutilés, utilisés pour que le flux de calcul ne s'interrompe jamais »* ; (6) **Colonialisme des données** (n. 178) — *« il ne domine pas seulement les corps, mais s'approprie les données »*, *« nouvelles terres rares du pouvoir »* ; (7) **IA et guerre** (n. 197-200) — *« Aucun algorithme capable de rendre la guerre moralement acceptable »* (n. 198), trois critères : responsabilité personnelle traçable, refus de raccourcir le délai du jugement moral, protection des civils ; (8) **Critique transhumanisme/posthumanisme** (n. 115-117) comme *« archipel d'îles conceptuelles reliées par le même océan de présupposés : la centralité de la technique et le rêve de dépasser les limites de la condition humaine »* ; (9) **Travail dans la transition** (n. 150-156) — *« contrairement aux avantages annoncés de l'IA, les approches actuelles de la technologie peuvent paradoxalement déqualifier les travailleurs, les soumettre à une surveillance automatisée »*, accès au travail comme priorité publique, anticipation de la transformation, fixation de critères sociaux pour l'innovation ; (10) **Question canonique reprise de Jean-Paul II** (Redemptor hominis 1979) : ***« l'IA rend-elle la vie humaine sur la terre "plus humaine" à tout point de vue ? La rend-[elle] plus "digne de l'homme" ? »*** (n. 129) ; (11) **Plus qu'humain authentique** : non le transhumanisme, mais la grâce — *« nous parvenons à être pleinement humains quand nous sommes plus qu'humains, quand nous permettons à Dieu de nous conduire au-delà de nous-mêmes »* (n. 128, citant François *Evangelii gaudium*) ; (12) **Désarmer les mots** (n. 214) — *« Désarmons les mots et nous contribuerons à désarmer la Terre »*. **Adressataires** : *« À tous les fidèles catholiques, à tous les chrétiens, à tous les hommes et à toutes les femmes de bonne volonté »* (n. 16) — registre **universel** dans la lignée de *Pacem in terris* (Jean XXIII 1963), *Laudato si'* (François 2015) et *Fratelli tutti* (François 2020). **Appel particulier aux développeurs IA** (n. 111) : *« chaque choix de conception exprime une vision de l'humanité »*. **Source magistrale**-clé citée : *Antiqua et nova* (Dicastères pour la Doctrine de la Foi + Culture et Éducation, 14 janvier 2025) + *Quo vadis, humanitas ?* (Commission théologique internationale, 9 février 2026). Document majeur du **Magistère social 2026**, à la jonction Doctrine sociale ↔ éthique de l'IA ↔ géopolitique des big tech ↔ critique du travail des microtravailleurs/extraction terres rares. Convergence implicite avec **Mensch / Mistral** (souveraineté énergétique IA), **Sun / NYT Permanent Underclass** (cf. mémoire travail→capital), **Wallace-Wells / NYT AI Populism** (cf. critique des oligarques tech), **Mollick × roon** (cf. ASI et politique interne). Première encyclique d'un Pape qui prend explicitement l'IA comme **objet central et structurant** plutôt que comme thème parmi d'autres.

A.I. Populism Is Here. And No One Is Ready. (Silicon Valley oligarchs worried about the risks their technology posed to the world. They forgot about people.)

Fri, 08 May 2026 00:00:00 GMT

**David Wallace-Wells** publie dans le **NYT Magazine** le **8 mai 2026** un article-pivot politique majeur (~16 min lecture audio) qui formalise et nomme le retour de bâton populiste contre l'industrie IA : ***"A.I. Populism Is Here. And No One Is Ready."*** Sous-titre cinglant : *"Silicon Valley oligarchs worried about the risks their technology posed to the world. They forgot about people."* **Thèse-pivot** : les fondateurs IA (Altman, Amodei, Musk, Zuckerberg, Hassabis) ont passé une décennie obsédés par les risques **existentiels** de leur technologie tout en **négligeant le risque politique** d'un backlash humain — qu'ils pensaient *"wouldn't materialize in time, would be quickly outmaneuvered by machine intelligence or could be bought off by talk of basic-income payments or thin promises of curing cancer"*. **Le backlash a frappé littéralement** : avril 2026, **cocktail Molotov** lancé sur la propriété Altman à San Francisco, puis quelques jours plus tard **attaque par armes à feu** sur sa maison. Wallace-Wells reprend la formule de **Jasmine Sun** (NYT Opinion 2026-04-30, déjà au dossier) : ***"A.I. populism's warning shots"*** — analogie avec l'assassinat du CEO UnitedHealthcare Brian Thompson par Luigi Mangione. **Cinq laboratoires comme nouveaux visages de l'oligarchie américaine** : *"a fearsome concentration of economic and social power producing a self-compounding pattern of extreme inequality"* — Sam (Altman), Dario (Amodei), Elon (Musk), Mark (Zuckerberg), Demis (Hassabis), tous milliardaires ou presque, *"several of whom are widely described as sociopaths"*. **Statistiques choc** : Pew Research 2025 — **50% Américains plus inquiets qu'enthousiastes**, **seulement 10% plus enthousiastes** ; Quinnipiac récent — **seul le bracket >200k$ revenus a une vue optimiste de l'IA pour la vie quotidienne** ; Heatmap polling — basculement support/opposition data centers de **+2 pts (sept 2025) à −24 pts (févr 2026)**, soit **swing 26 points en 4 mois** ; Northern Virginia 2023-2025 — **swing 69 points contre data centers** (+45 → −24). **Loudon County** : data centers généreront **1,3 Md$ sur 2,9 Md$** de revenus fiscaux en 2027 (~45%). **Asymétrie investissement-logement** : États-Unis ont **dépensé plus en infrastructure IA qu'en single-family homes** en 2025, **10× plus de data centers que l'Allemagne** (#2), **20× plus d'investissement IA que la Chine** (#2), pendant **crise du logement de 10 millions d'unités manquantes**. **Citation centrale Ted Chiang (BuzzFeed 2017)** mobilisée : *"When Silicon Valley tries to imagine superintelligence, what it comes up with is no-holds-barred capitalism."* **Citation Dario Amodei (Anthropic, 2024)** : *"People outside the field are often surprised and alarmed to learn that we do not understand how our own A.I. creations work. They are right to be concerned: this lack of understanding is essentially unprecedented in the history of technology."* **Pivot politique signalé** : la **Maison-Blanche** propose de forcer un **federal review de tous les nouveaux modèles propriétaires avant release** — virage majeur après position pro-industry. **Catalyseur** : refus public **Anthropic** d'**avril 2026** de release **Claude Mythos**, modèle capable de *"find and exploit security vulnerabilities in every tested piece of software, including those used in critical pieces of global I.T. infrastructure"* (déjà au dossier via fiche **AISI UK GPT-5.5 / Mythos** 2026-04-30). **Citation Dean Ball (architecte original AI policy Trump, conférence Palantir Foundation Yale)** : *"This giant acid vat which would dissolve the mediating institutions most Americans see as society. It will not be A.I. in government. It's going to be A.I. as governments."* **Concept Jeffrey Ding** : *"diffusion marathon"* (vs winner-take-all race) — l'IA comme *general-purpose technology* (steam, electricity, internet) où la **diffusion** compte plus que l'**état de l'art**. **Conclusion-pivot** : *"We still know the names of the robber barons, and live still somewhat in their shadows. But we are not their serfs. Are we sure A.I. will be different?"* Pertinence majeure pour le dossier 2026 : **formalisation conceptuelle du backlash politique** anticipé par Sun (avril) et signalé par Ng The Batch (cocktail Molotov Altman, ~64 Md$ data centers bloqués, moratoire Maine 20MW+). À mobiliser pour COMEX géopolitique IA, débats régulation, présentations stratégiques sur risques sociétaux et politiques de l'IA, articulation FR / Europe sur la rétro-action politique de l'IA.

Cognitive Surrender

Tue, 05 May 2026 00:00:00 GMT

Addy Osmani (Google Cloud + Gemini) publie le 5 mai 2026 sur son blog un article-doctrine qui pose une **distinction fondatrice** pour 2026 : ***Cognitive Offloading*** (sain — déléguer le *comment* en gardant le jugement) vs ***Cognitive Surrender*** (toxique — accepter l'output IA en bloc, *"borrowing the model's confidence as substitute for personal understanding"*). L'article est étayé par **trois études scientifiques** rares par leur densité dans le contenu blog tech : **Shaw & Nave (Wharton/UPenn)** sur 1 372 participants — *"73% accept demonstrably wrong AI answers, confidence rises despite 50% error rate"* ; **MIT *Your Brain on ChatGPT*** — réduction de connectivité neuronale, mémoire affaiblie ; **Anthropic Skill-Formation Research** — ingénieurs générant via IA scorent **17% en dessous** sur la compréhension vs ceux l'utilisant pour enquête conceptuelle. **Quatre exemples concrets de surrender** : approbation de PRs de 600 lignes sur signaux de surface (tests qui passent, naming raisonnable) sans détecter les bugs subtils ; debug superficiel ; décisions architecturales sans raisonnement (queue vs direct service call) ; apprentissage dégradé par génération vs exploration. **Quatre causes racines** spécifiques au software engineering : *plausible surface signals* qui créent des faux filtres de confiance, *throughput metrics* qui ne distinguent pas *understood work* de *rubber-stamped work*, *confidence transfer* (les modèles parlent avec autorité, *"declarative statements about 'debounce of 300ms' sound institutional even when invented"*), et **compositional path dependency** — *"each surrendered chunk makes the next surrender more likely"*. **Cinq heuristiques personnelles** : pré-générer ses attentes avant de voir l'output, rigorous diff review au standard junior-engineer, adversarial prompting pour faire émerger les contre-arguments, fatigue awareness (arrêter quand fatigué), vérification de la source de la confiance. **Six garde-fous structurels** : verification exit criteria (preuves concrètes), anti-rationalization tables, **PRs ~100 lignes max** pour permettre la compréhension, mode interrogatif > génératif sur la nouvelle connaissance, scaffolded friction (review gates délibérés), **solo keyboard time** régulier non-assisté. Osmani propose **deux concepts neufs** : ***Comprehension Debt*** (l'écart croissant entre volume de code et compréhension humaine — extension élégante de la *technical debt*) et ***Mutual Amplification*** (boucle coopérative prompts ↔ output ↔ meilleurs prompts). **Thèse pivot** : ***"The fundamental distinction isn't about the tools themselves but operator posture. Code that ships while understanding grows represents offloading; code that ships while understanding shrinks represents surrender disguised as productivity."*** Phrase finale : ***"The choice between thinking with AI versus not thinking at all remains entirely human."*** **Articulation veille** : contre-poids opérationnel à Cherny *"coding is solved"* (2026-05) — *"throughput metrics cannot distinguish understood work from rubber-stamped"*. Complément analytique à Frizzo *Year With Claude Code* (2026-05-05) — Osmani donne les **mécanismes et les contre-mesures** que Frizzo vit. Convergence avec BCG *Brain Fry*, Karpathy *outsource thinking but not understanding*, Soto *Developer Taste*. **Pièce de référence éthique-opérationnelle** du dossier 2026.

Rebuttal to Marc Andreessen on Introspection

Tue, 17 Mar 2026 00:00:00 GMT

Riley Ralmuto publie une réfutation détaillée d'une déclaration de Marc Andreessen selon laquelle l'introspection serait une invention moderne, apparue vers 1910-1920 sous l'influence de Freud. Andreessen avait qualifié l'introspection de « coup de massue culpabilisant venu de Vienne », affirmé pratiquer « zéro » introspection, et soutenu que les grands hommes de l'histoire ne s'y adonnaient pas, les meilleurs fondateurs opérant selon lui à « 0% de névrosisme ». Ralmuto démonte cette affirmation en convoquant plus de 2400 ans de tradition philosophique et intellectuelle. Il commence par Socrate, dont la maxime « la vie non examinée ne vaut pas d'être vécue » constitue l'un des fondements de la philosophie occidentale. Il cite ensuite Marc Aurèle, empereur romain dont les Méditations représentent un journal intime d'auto-examen rédigé tout en dirigeant un empire. Sénèque pratiquait un examen de conscience nocturne quotidien. Augustin d'Hippone a écrit les Confessions, considérée comme la première véritable autobiographie, exercice de pure introspection. Les traditions orientales ne sont pas en reste : le Bouddha a développé la vipassana (« vision claire » dans son propre esprit), Confucius s'examinait quotidiennement sur trois points, et Lao Tseu enseignait que « se connaître soi-même est la vraie sagesse ». Plus tard, Montaigne invente la forme de l'essai précisément comme outil d'auto-examen, Benjamin Franklin développe un système quotidien de suivi de 13 vertus, Léonard de Vinci remplit des milliers de pages de carnets d'auto-questionnement, et Thomas Jefferson tient des journaux d'autorégulation émotionnelle. Le coup de grâce consiste à retourner l'argument d'Andreessen contre lui-même : ses propres modèles de fondateurs pratiquent activement l'introspection. Steve Jobs méditait en tradition zen, Elon Musk raisonne par principes premiers (forme d'auto-examen intellectuel), Mark Zuckerberg se fixe des défis personnels annuels, Ray Dalio prône la « conscience de soi radicale » comme principe fondateur, et Jeff Bezos a développé son cadre de « minimisation des regrets » — un exercice introspectif par excellence. Ralmuto conclut par une distinction essentielle : introspection et rumination sont deux choses différentes. La rumination consiste à ressasser et spiraler, ce qui est effectivement contre-productif. L'introspection, en revanche, développe la conscience de soi et la reconnaissance de patterns, conduisant à de meilleures décisions. Confondre les deux, comme le fait Andreessen, revient à rejeter un outil fondamental du leadership et de la pensée critique au nom d'une erreur historique manifeste.

A.I. Companies Are Eating Higher Education

Thu, 12 Feb 2026 00:00:00 GMT

Matthew Connelly, vice-doyen pour les initiatives IA à Columbia University, signe une tribune alarmiste dans le New York Times dénonçant la manière dont les entreprises d'intelligence artificielle s'emparent de l'enseignement supérieur, avec la complicité involontaire des administrateurs universitaires. **Stratégies agressives des entreprises IA** : Connelly décrit un arsenal de tactiques. Anthropic impose des frais exorbitants pour les comptes entreprise tout en payant des « ambassadeurs de campus » pour promouvoir Claude, créant des conflits d'intérêts quand ces ambassadeurs siègent au gouvernement étudiant. OpenAI a développé un détecteur de texte ChatGPT précis à 99,9% mais a refusé de le mettre à disposition des éducateurs, craignant que le watermarking ne pousse les utilisateurs vers la concurrence. Pendant les examens finaux, OpenAI offre ChatGPT Plus gratuitement aux étudiants, Google donne l'accès premium pour l'année entière, et Perplexity organise des compétitions d'inscription sur les campus. **Cas emblématique de dérive** : un étudiant de Columbia, Roy Lee, a développé un outil IA pour tricher aux entretiens d'embauche. Loin d'être sanctionné par l'industrie, Andreessen Horowitz a admiré son « approche audacieuse » et levé 15 millions de dollars pour sa société Cluely, dont le manifeste annonce vouloir « tricher sur tout ». **Ambitions d'infrastructure** : OpenAI aspire à ce que ses bots deviennent « partie de l'infrastructure centrale de l'enseignement supérieur », des admissions au conseil académique. Google invite les étudiants à uploader leurs enregistrements de cours sur NotebookLM, une pratique que Columbia interdit sans autorisation. Les universités n'ont aucun accès aux données que leurs étudiants et enseignants versent dans ces systèmes. **Impact sur l'apprentissage** : la recherche montre que les étudiants utilisant l'IA lisent moins attentivement, écrivent avec moins de précision et d'originalité, et ne réalisent pas ce qu'ils perdent. Des professeurs rapportent une baisse notable des questions en cours. Le paradoxe central : les compétences nécessaires pour exploiter le potentiel réel de l'IA — lecture critique, pensée analytique, écriture argumentée — sont précisément celles que l'usage passif de l'IA érode. **Appel à la résistance** : Connelly conclut par une métaphore militaire : les guerres peuvent être perdues avant d'être déclarées si les défenseurs abandonnent le terrain stratégique sans combattre. Pour les universités, ce terrain est l'intelligence humaine elle-même. Il appelle les éducateurs à défendre et faire progresser l'intelligence humaine plutôt que de se laisser séduire par des partenariats déséquilibrés avec une industrie dont les intérêts divergent fondamentalement de la mission éducative.

Marc Andreessen: AI coding doesn't eliminate programmers — it redefines them

Sun, 01 Feb 2026 00:00:00 GMT

Marc Andreessen, co-fondateur d'Andreessen Horowitz, partage sa vision de l'évolution du métier de programmeur à l'ère de l'IA générative. Sa thèse centrale : l'IA de codage ne supprime pas les programmeurs, elle les redéfinit fondamentalement. **Le nouveau paradigme du travail** : Le métier n'est plus de taper du code ligne par ligne. Il consiste désormais à orchestrer dix bots de codage en parallèle, à argumenter avec eux, à débugger leur output, à modifier les spécifications et à les pousser vers le bon résultat. La prochaine couche de programmation n'est pas l'écriture de scripts mais la supervision de l'IA qui les écrit. **Le paradoxe des fondamentaux** : Andreessen souligne une ironie cruciale : les meilleurs programmeurs d'aujourd'hui passent leur journée à sauter entre terminaux, gérer plusieurs bots de codage, corriger des erreurs et affiner des instructions. Pourtant, ils ont toujours besoin de fondamentaux solides, car sans eux, il est impossible de savoir quand l'IA se trompe. "If you don't understand how to write code yourself, you can't evaluate what the AI gives you." **L'abstraction et ses limites** : Le travail du programmeur a changé. Il s'agit maintenant d'argumenter avec les bots de codage, de débugger le code généré par IA, et de comprendre pourquoi quelque chose ne fonctionne pas ou n'est pas assez performant. L'IA abstrait le travail, mais seules les personnes qui comprennent véritablement le code peuvent déterminer si cette abstraction fait la bonne chose. **Multiplication de la productivité** : Les programmeurs ne disparaissent pas - ils deviennent 10x, 100x, voire 1000x plus productifs. Les tâches changent, le métier change, mais les humains continuent de superviser le processus, d'évaluer les résultats, de corriger les erreurs et de prendre les décisions de jugement. L'IA change la façon dont nous codons, pas qui est responsable. **La vraie révolution** : Le programmeur du futur n'est pas remplacé par l'IA - il est augmenté par elle. Il reste nécessaire d'apprendre à écrire et comprendre le code, car quand l'IA se trompe, ce sont les humains qui doivent savoir pourquoi. Cette élévation des capacités ("up-leveling") constitue la véritable révolution, non pas la disparition du métier mais sa transformation vers un rôle d'orchestration et de supervision à haut niveau.

Lenny's Podcast - Marc Andreessen on AI, jobs, AGI, and the future

Sun, 01 Feb 2026 00:00:00 GMT

Marc Andreessen, co-fondateur d'Andreessen Horowitz, partage dans ce podcast avec Lenny Rachitsky sa vision globale de l'IA, de son impact sur l'emploi, et de l'avenir technologique. **Le timing providentiel de l'IA** : Andreessen souligne une coïncidence historique sous-estimée. L'IA arrive précisément au moment où la population mondiale commence à décliner. La force de travail rétrécit globalement et continuera de rétrécir indéfiniment. Dans ce contexte, l'IA n'est pas une menace pour l'emploi mais une solution à une pénurie structurelle imminente. **La pierre philosophale enfin réalisée** : Interrogé sur cette métaphore, Andreessen l'explique littéralement. Le rêve des alchimistes était de transmuter des matériaux ordinaires en quelque chose de valeur. L'IA accomplit exactement cela : elle transmute le sable (silicium) en pensée. C'est la transformation la plus fondamentale imaginable, du matériau le plus commun vers la faculté la plus précieuse. **L'IA et l'éducation des enfants** : Donner des agents IA aux enfants leur confère une agence extraordinaire. Cela prend au sérieux l'idée que les enfants sont fondamentalement des machines d'apprentissage. Andreessen qualifie de "scandale" le fait que la plupart des enfants dans la plupart des écoles n'ont aucun accès à ces outils. L'éducation par IA représente une révolution potentielle en cours de gaspillage. **Le Mexican Standoff produit** : Andreessen décrit avec humour l'impasse classique du développement produit. Trois parties se font face : le PM qui exige une livraison pour la semaine prochaine, l'ingénieur qui prévient que c'est très difficile et prendra une éternité, le designer qui refuse de signer quelque chose qui n'est pas beau. Personne ne gagne. Cette situation peut durer des semaines, des mois. Les projets peuvent simplement "mourir" dans cet entre-deux. **Définitions de l'AGI** : Andreessen propose trois réponses à cette question fondamentale. Premièrement, une IA capable de produire une recherche équivalente à une thèse de doctorat. Deuxièmement, le point où l'IA peut prendre le contrôle de son propre développement et s'améliorer elle-même. Troisièmement, plus pragmatiquement, nous le saurons simplement quand nous l'aurons atteint. **Optimisme déterminé** : Andreessen se définit comme un "optimiste déterminé" plutôt qu'indéterminé. Il croit en un avenir meilleur, mais pense qu'il faut activement travailler pour le créer. Le progrès ne nous arrive pas passivement - il doit être construit, décidé, forcé. Cette philosophie imprègne sa vision de l'IA comme outil à façonner plutôt que comme force à subir.

L'Intelligence Artificielle et le monopsychisme : Michel Serres, Averroès et Thomas d'Aquin

Sat, 11 Oct 2025 00:00:00 GMT

L'article de David Perrin établit un pont remarquable entre les débats philosophiques médiévaux sur la nature de l'intelligence et les questionnements contemporains soulevés par l'intelligence artificielle. L'auteur explore comment les interrogations du XIIIe siècle concernant la théorie averroïste du monopsychisme résonnent avec nos préoccupations actuelles face aux technologies numériques. Le monopsychisme, défendu par le philosophe arabe Averroès, postulait l'existence d'un intellect universel unique auquel les individus se connecteraient temporairement pour penser. Cette conception, vivement contestée par Thomas d'Aquin qui défendait l'individualité de l'intellect humain, pose des questions étonnamment similaires à celles que soulèvent les systèmes d'IA modernes : lorsque nous utilisons des outils numériques pour "penser", exerçons-nous réellement notre propre intelligence ou nous connectons-nous simplement à une intelligence externe ? L'article mobilise la pensée de Michel Serres pour analyser ces parallèles. Les technologies contemporaines, en externalisant certaines fonctions cognitives, créent une forme d'intellect collectif ou distribué qui rappelle le concept averroïste. Cependant, cette "connexion" comporte des risques philosophiques et politiques importants que les penseurs médiévaux ne pouvaient anticiper. David Perrin met en garde contre un potentiel "asservissement intellectuel" facilité par les plateformes technologiques. Contrairement à l'intellect séparé d'Averroès qui restait un concept philosophique abstrait, les systèmes d'IA actuels sont contrôlés par des entreprises qui collectent massivement les données utilisateurs et les exploitent à des fins commerciales. Cette asymétrie de pouvoir crée une dépendance cognitive où les individus délèguent progressivement leurs capacités de réflexion à des systèmes externes. L'auteur souligne que cette externalisation cognitive n'est pas neutre : elle modifie notre rapport au savoir et à la vérité. Les algorithmes qui médiatisent notre accès à l'information façonnent notre perception du monde, créant des "bulles informationnelles" qui peuvent restreindre l'autonomie intellectuelle que Thomas d'Aquin considérait comme fondamentale à la dignité humaine. Le texte interroge également la dimension politique de ces technologies. Les entreprises technologiques exercent un pouvoir considérable sur les processus cognitifs collectifs, concentrant entre quelques mains la capacité d'orienter la pensée de millions d'utilisateurs. Cette centralisation rappelle le danger identifié par les critiques médiévaux du monopsychisme : si l'intellect n'est pas proprement individuel, qu'advient-il de la responsabilité morale et de l'agentivité personnelle ? En conclusion, David Perrin appelle à une vigilance critique face aux technologies numériques. Il invite à maintenir l'autonomie intellectuelle individuelle tout en reconnaissant le potentiel des outils technologiques. La leçon des débats médiévaux reste pertinente : préserver la capacité humaine à penser par soi-même est un enjeu philosophique, éthique et politique fondamental, peut-être encore plus crucial à l'ère de l'IA qu'au temps d'Averroès et Thomas d'Aquin.

Luc Julia's Controversial Statements on AI Spark Industry Debate

Fri, 22 Aug 2025 00:00:00 GMT

Luc Julia, **co-créateur de Siri** et figure éminente de la communauté française de l'IA, a déclenché une **controverse industrielle significative** avec une série de déclarations publiques provocatrices défiant les récits dominants sur les capacités, le potentiel et l'impact sociétal de l'IA. Ses positions, exprimées dans des interviews, des conférences et son livre **« L'IA n'existe pas »**, ont généré un débat intense dans l'industrie tech et les cercles académiques. **Positions controversées centrales** Ses principales thèses : le terme « IA », tel que commercialisé, est **fondamentalement trompeur** — les systèmes relèvent de la reconnaissance de motifs sophistiquée, pas de l'intelligence ; l'**AGI est improbable** avec les approches actuelles, voire impossible ; la **hype de l'IA est portée par des intérêts commerciaux** plus que par la réalité technique ; les systèmes actuels sont fondamentalement limités — ils ne raisonnent pas, ne comprennent pas, n'apprennent pas véritablement ; l'industrie **surpromet et sous-délivre** ; les **risques existentiels de l'IA sont exagérés**, relevant de la science-fiction. **Crédibilité** Ses critiques pèsent du fait de son parcours : doctorat en informatique, **co-création de Siri** (rachetée par Apple), poste de **dirigeant senior chez Samsung** (CTO, VP Innovation), publications de recherche et expérience de produits IA livrés à des millions d'utilisateurs. Cette combinaison de rigueur académique et d'expérience industrielle distingue sa critique d'un scepticisme mal informé. **La thèse de « L'IA n'existe pas »** Le titre provocateur reflète l'argument central : **ce que nous appelons « IA » ne répond à aucune définition raisonnable de l'intelligence**. Les systèmes actuels exécutent une reconnaissance statistique programmée, sans compréhension, raisonnement, intentionnalité ni conscience ; ils réussissent par l'ingéniosité de l'ingénierie, pas par la réplication de l'intelligence. Le terme « IA » serait un **marketing trompeur** créant de fausses attentes et des réponses politiques mal orientées. **Réactions divisées et perspective européenne** Les **soutiens** (chercheurs européens, universitaires) apprécient le contrepoids à la hype et l'évaluation réaliste des limites. Les **critiques** (praticiens, chercheurs en sûreté de l'IA, Silicon Valley) estiment qu'il sous-estime les progrès rapides, écarte trop vite les capacités émergentes et néglige l'impact pratique, indépendamment des définitions philosophiques. Julia incarne une **voix distinctement européenne** dans un discours dominé par la Silicon Valley : réalisme technologique, prudence réglementaire, rigueur philosophique, souci de souveraineté. Son scepticisme résonne particulièrement dans la tech française. **Amplification médiatique et impact politique** Les grands médias français (Le Monde, Le Figaro, France Inter) et la presse tech internationale ont largement couvert ses propos, ce qui élève son profil et nourrit le débat public — au risque de réduire des questions techniques nuancées à des formules choc. Son scepticisme influence les approches européennes de régulation (l'EU AI Act reflète une philosophie prudente partiellement alignée avec ses positions). Quel que soit l'accord avec ses thèses, la **valeur du débat est réelle** : il force la précision terminologique, encourage l'évaluation réaliste des capacités et fournit un contrepoids aux cycles de hype.

Sam Altman Joins Neuralink Board: Ethical and Competitive Concerns Arise

Tue, 12 Aug 2025 00:00:00 GMT

Sam Altman, **CEO d'OpenAI**, annonce rejoindre le **conseil d'administration de Neuralink**, déclenchant un large débat sur les **conflits d'intérêts potentiels, les implications éthiques** et la convergence stratégique entre IA et interfaces cerveau-ordinateur (BCI). La nomination soulève des questions complexes sur les chevauchements concurrentiels, la confidentialité des données et la vision à long terme de l'intégration humain-IA. **Logique stratégique** L'implication d'Altman reflète une conviction sur la convergence BCI-IA : canaux d'entrée neuronaux directs pour les systèmes d'IA, données d'entraînement plus riches, capacités humaines augmentées, nouveaux paradigmes d'interaction (contrôle de l'IA par la pensée). Sa participation suggère qu'**OpenAI explore l'intégration d'interfaces neurales** dans de futurs produits. **Préoccupations de conflit d'intérêts** Plusieurs conflits potentiels sont identifiés : **chevauchement concurrentiel** (OpenAI s'intéresse aux interfaces neurales ; Neuralink développe des BCI intégrant l'IA), **accès aux données** (qui contrôle des données cérébrales potentiellement précieuses pour l'entraînement ?), **allocation des ressources** (attention d'Altman partagée), **information stratégique** (accès à la propriété intellectuelle et aux feuilles de route de Neuralink), **relations partenaires**. Des experts en gouvernance questionnent le cumul : diriger une entreprise de modèles d'IA de frontière tout en siégeant au conseil d'une entreprise d'interfaces neurales. **Réponse du conseil d'OpenAI et relation Musk-Altman** Le conseil d'OpenAI aurait **approuvé la nomination** après examen : chevauchements actuellement minimes, barrières informationnelles, récusation d'Altman sur les discussions sensibles, valeur stratégique, précédents. Certains membres auraient toutefois exprimé des **réserves sur les conflits futurs** à mesure que les technologies convergent. La nomination réunit **Altman et Elon Musk** (fondateur/CEO de Neuralink) malgré une histoire compliquée : co-fondation d'OpenAI (2015), départ de Musk du conseil (2018) en invoquant des conflits, tensions persistantes sur la direction d'OpenAI, venture IA concurrente (xAI), désaccords publics sur la sûreté de l'IA. **Implications éthiques et attention réglementaire** La convergence soulève des questions profondes : **vie privée cognitive** (l'IA peut-elle lire directement les pensées ?), autonomie mentale, inégalités d'augmentation cognitive, risques de sûreté, questions d'identité et de consentement. Les régulateurs s'y intéressent : **FDA** (approbation des dispositifs médicaux), **FTC** (risques de coordination anticoncurrentielle), commissions parlementaires, régulateurs européens (RGPD pour les données neurales, AI Act), comités de bioéthique. Les cadres réglementaires actuels ne sont pas conçus pour la convergence BCI-IA. **Réactions et implications de marché** Les réactions sont vivement partagées : enthousiasme des transhumanistes et des optimistes de l'IA (potentiel pour les handicaps, augmentation cognitive) contre inquiétude des bioéthiciens, chercheurs en sûreté et défenseurs de la vie privée. Les neuroscientifiques rappellent que la **technologie BCI reste précoce**. La nomination signale néanmoins un engagement sérieux envers un futur BCI-IA : validation de la vision long terme de Neuralink, priorité stratégique pour OpenAI, accélération probable des efforts concurrents (Meta, Apple, startups) et des investissements. Un point d'inflexion qui oblige la société à affronter des implications profondes touchant à la nature humaine, à la conscience et au libre arbitre.

Ni manager, ni contributeur individuel… | Le Touilleur Express

Mon, 23 Jun 2025 00:00:00 GMT

L'article « Ni manager, ni contributeur individuel… » de Nicolas Martignole explore l'**évolution des parcours de carrière des développeurs en 2025**, en particulier avec la montée de l'intelligence artificielle. Traditionnellement, les développeurs choisissaient entre devenir manager ou contributeur individuel, mais **l'IA transforme ces rôles**. L'auteur propose **trois voies distinctes** : « AI Orchestrator », « Augmented Craftsman » et « Code Philosopher ». **AI Orchestrator : manager une armée d'IA** L'**AI Orchestrator** (anciennement management technique) gère une **« armée d'IA »** plutôt que des humains. Ce rôle consiste à définir les architectures d'implémentation IA, valider les sorties des IA, arbitrer les conflits entre différents outils IA et former les juniors à utiliser efficacement ces outils. Il exige une vision « big picture », des compétences en prompt engineering, une patience infinie pour déboguer les hallucinations des IA, et la sagesse de savoir quand rejeter les suggestions de l'IA. S'il fait gagner du temps sur les tâches administratives, il introduit de nouvelles charges cognitives liées à l'arbitrage entre développeurs humains et IA. **Augmented Craftsman : les mains dans le code, augmenté** L'**Augmented Craftsman** (anciennement contributeur individuel) reste les mains dans le code mais utilise de puissants outils IA pour accroître sa productivité. Il code beaucoup plus vite, résout des problèmes complexes hors de portée des capacités actuelles de l'IA, crée des patterns que l'IA peut suivre, et maintient l'excellence technique dans un monde où la majorité du code est générée par IA. Cette voie convient à ceux qui aiment créer et possèdent une expertise technique pointue, un état d'esprit d'apprentissage constant, un esprit critique, et l'humilité d'accepter qu'un junior avec une IA puisse parfois coder plus vite. **Charge cognitive 2.0 : le fardeau de la validation** L'article souligne un défi majeur commun aux deux voies : la **« charge cognitive 2.0 »**, ou fardeau cognitif de la validation. Cela inclut vérifier les failles de sécurité du code IA, comprendre le code généré, expliquer les problèmes liés à l'IA, et gérer l'anxiété de ne pas totalement comprendre sa propre base de code. Cette nouvelle charge s'ajoute aux charges cognitives intrinsèque (apprendre les outils IA), extrinsèque (gérer les notifications IA) et essentielle (maintenir la vision d'ensemble). **Code Philosopher : la troisième voie** Enfin, une troisième voie moins discutée est introduite : le **Code Philosopher**. Ce rôle consiste à questionner le « pourquoi » du code, conceptualiser les systèmes idéaux, évangéliser contre les usages inappropriés de l'IA, et protéger l'intégrité architecturale contre les débordements de l'IA. Sa valeur réside dans la compréhension du but et des implications de la technologie dans un monde où coder devient omniprésent. L'auteur évoque aussi les impacts environnementaux et énergétiques de l'IA, suggérant le besoin de « GreenAI » et d'experts en optimisation de prompts. **Questions fondamentales pour 2025** L'article conclut en invitant les développeurs à réfléchir à leurs motivations et aspirations pour les cinq prochaines années. **Questions clés** : aimez-vous coder ou résoudre des problèmes ? Voulez-vous être créateur ou validateur du travail de l'IA ? Engagé dans l'apprentissage continu ou préférez-vous capitaliser sur vos acquis ? Cherchez-vous un impact local (votre code) ou global (l'architecture organisationnelle) ? De quoi serez-vous fier dans cinq ans : orchestrer des IA, écrire du code unique, empêcher les mésusages de l'IA, ou optimiser l'usage de l'IA ? **Autonomie redéfinie** L'article insiste : la véritable **autonomie technique consiste désormais à comprendre *quand*, *quoi* et *pourquoi* coder**, le facteur humain de l'architecture organisationnelle et humaine restant primordial. Dans ce nouveau paradigme, les développeurs ne sont plus définis uniquement par leur filière management ou leur contribution individuelle, mais par la façon dont ils choisissent de naviguer et de façonner le paysage du développement augmenté par l'IA.

Philosophy Eats AI: Why Your Business Needs an Ontological Core

Fri, 30 May 2025 00:00:00 GMT

Tony Seale part d'une question provocatrice posée par Michael Schrage et David Kiron dans MIT Sloan : "Si le logiciel mange le monde et l'IA mange le logiciel, qu'est-ce qui mange l'IA ?" La réponse est la **philosophie** — non pas dans son acception académique, mais comme discipline pratique indispensable pour extraire une valeur réelle des systèmes IA. Le problème central est que la plupart des organisations traitent l'IA comme une amélioration purement technique. Elles construisent des modèles, expérimentent avec des prompts, mais ne posent jamais la question fondamentale : **qu'apprend réellement l'IA ?** Derrière chaque modèle se cache un enjeu plus profond : l'absence d'une philosophie structurée définissant la logique opérationnelle de l'entreprise. Chaque entreprise crée de la valeur de manière unique — par la fidélité, l'optimisation, la confiance ou l'efficacité. Pourtant, la plupart n'ont pas formalisé cette sémantique dans une **ontologie**, c'est-à-dire une structure lisible par les machines sur laquelle les systèmes IA peuvent raisonner. L'auteur insiste : "Ce n'est pas une question de mission statements. C'est une question de sémantique formalisée en ontologie." Sans cette explicitation des structures logiques fondamentales, les modèles apprennent à partir de bruit plutôt que de patterns significatifs. L'article introduit le concept de **noyau ontologique** : les concepts fondamentaux qui définissent l'identité d'une entreprise. Ce noyau émerge à travers les cas d'usage générant de la vraie valeur et les "competency questions" qui testent la pertinence de chaque concept. Il devient une lentille qui concentre le raisonnement de l'IA sur ce qui compte réellement. Seale connecte ensuite cette philosophie à l'architecture data via les **Semantic Data Products**, basés sur la spécification ouverte DPROD. Cette approche traite les données comme un actif valorisé avec une gouvernance claire, plutôt que comme une matière brute. Le résultat est un "knowledge graph distribué, prêt pour l'IA, où chaque dataset sait ce qu'il est, pourquoi il compte, et comment il s'insère dans le tableau d'ensemble". La conclusion dégage la vraie opportunité : créer un **cycle vertueux** où l'IA aide à définir l'ontologie organisationnelle, tandis que cette ontologie guide la façon dont l'IA pense et la valeur qu'elle génère. L'article positionne l'ontologie non pas comme un exercice académique de modélisation, mais comme le chaînon manquant entre l'investissement IA et la création de valeur métier.

How To Speak

Fri, 04 Jan 2019 00:00:00 GMT

Patrick Winston, professeur au MIT décédé en 2019, livre dans cette conférence légendaire sa synthèse de décennies d'enseignement sur l'art de la communication orale. Sa thèse centrale est que le succès dans la vie dépend de trois capacités — parler, écrire et la qualité des idées — dans cet ordre. La qualité de la communication suit une formule simple : Knowledge × Practice × talent, où le talent est un facteur mineur face au savoir et à la pratique. Winston structure sa conférence autour de plusieurs blocs. D'abord, le démarrage : ne jamais commencer par une blague (l'audience n'est pas prête), mais par une « empowerment promise » déclarant ce que l'audience saura à la fin. Ensuite, quatre heuristiques fondamentales : le cyclage (répéter trois fois car 20% de l'audience décroche à tout moment), la construction de clôture (fence) pour distinguer son idée des autres, la ponctuation verbale (repères permettant de raccrocher) et les questions posées à l'audience (avec jusqu'à sept secondes de silence). Sur le temps et le lieu, Winston recommande 11h du matin, un éclairage maximal et de reconnaître la salle à l'avance. Pour les outils, il défend fermement le tableau noir pour l'enseignement — la vitesse d'écriture correspond à la vitesse d'absorption, et les neurones miroirs de l'audience s'activent en voyant quelqu'un écrire. Les accessoires physiques (props) sont les éléments les plus mémorables d'une présentation, comme l'illustrent la roue de vélo de Seymour Papert et le pendule d'Alan Lazarus. Concernant les slides, Winston dénonce une série de « crimes » : trop de mots, polices trop petites, logos inutiles, pointeurs laser (qui coupent le contact visuel). Le cerveau humain n'a qu'un seul processeur linguistique : si le texte du slide est dense, l'audience lit au lieu d'écouter. Pour les job talks, Winston affirme qu'un candidat dispose de cinq minutes pour établir sa vision et montrer qu'il a accompli quelque chose. Il introduit l'« étoile de Winston » — cinq éléments commençant par S pour être mémorable : Symbol, Slogan, Surprise, Salient idea, Story. La clôture est cruciale : ne jamais dire « merci » (mouvement faible suggérant que l'audience est restée par politesse). Le dernier slide doit lister les contributions, pas les collaborateurs. Winston illustre avec des extraits de discours politiques de Christie et Clinton, tous deux terminant par une bénédiction plutôt qu'un remerciement. La conférence elle-même est une démonstration magistrale de chaque principe enseigné.

Goodhart's law

Mon, 01 Dec 1975 00:00:00 GMT

La loi de Goodhart est un adage des sciences sociales qui décrit comment une mesure perd sa fiabilité dès qu'on en fait un objectif de pilotage. Elle doit son nom à l'économiste britannique **Charles Goodhart**, qui en formula le noyau dans un **article de 1975** consacré à la politique monétaire au Royaume-Uni : *« toute régularité statistique observée tend à s'effondrer dès qu'on exerce une pression sur elle à des fins de contrôle »*. L'intuition naissait de l'analyse des difficultés de gestion monétaire britannique : les corrélations stables exploitées par les banques centrales comme leviers cessaient de tenir une fois instrumentalisées. La formulation la plus répandue n'est cependant pas de Goodhart mais de l'anthropologue **Marilyn Strathern**, qui en proposa en **1997**, dans un texte sur la redevabilité dans le système universitaire, la version généralisée et mémorable : *« quand une mesure devient une cible, elle cesse d'être une bonne mesure »*. Cette reformulation met l'accent sur la perte de valeur diagnostique d'une métrique lorsque les individus optimisent vers la mesure elle-même plutôt que vers l'objectif sous-jacent qu'elle est censée représenter. L'idée s'inscrit dans une constellation de principes apparentés. La **loi de Campbell** (Donald T. Campbell, 1976) s'attache à la corruption des indicateurs sociaux quantitatifs utilisés pour la décision. La **critique de Lucas** (1976) en propose l'équivalent macroéconomique : on ne peut prédire les effets d'une politique à partir de relations historiques, car les agents s'y adaptent. S'y ajoutent l'**effet cobra** (une incitation récompensant le comportement contre-productif) et le **sophisme de McNamara** (rejeter le qualitatif parce qu'il échappe au chiffre). Plusieurs auteurs ont enrichi le corpus : Jerome Ravetz (1971), Keith Hoskin (1996), ou Jon Danielsson pour la modélisation du risque financier. Les illustrations couvrent de nombreux domaines : en santé, réduire la durée de séjour comme cible provoque sorties prématurées et réadmissions ; en recherche, le h-index s'érode comme mesure de réputation à mesure qu'il devient critère d'évaluation ; en conservation, les classifications d'extinction de l'IUCN se sont durcies après avoir servi à retirer des protections ; en éducation, le No Child Left Behind a encouragé des passages de classe sans maîtrise ; pendant la pandémie, les objectifs de tests COVID britanniques ont confondu capacité et utilité diagnostique. Le principe reflète in fine la manière dont des acteurs rationnels optimisent à l'intérieur des systèmes mesurés — héritage des pratiques de redevabilité nées au XIXᵉ siècle. Aujourd'hui, il éclaire directement le *reward hacking* et la fragilité des métriques d'optimisation dans les systèmes d'IA.

On the Folly of Rewarding A, While Hoping for B

Mon, 01 Dec 1975 00:00:00 GMT

Dans « On the Folly of Rewarding A, While Hoping for B », Steven Kerr demontre que les organisations commettent systematiquement l'erreur de recompenser des comportements contraires a leurs objectifs declares. Sa these repose sur un principe fondamental : les individus cherchent a identifier ce qui est reellement recompense, puis s'efforcent d'accomplir ces activites, souvent a l'exclusion quasi-totale de ce qui ne l'est pas. Kerr illustre ce pattern a travers de multiples domaines. En politique, les electeurs recompensent les candidats qui parlent en objectifs officiels vagues et punissent ceux qui proposent des objectifs operationnels concrets mais controverses. En contexte militaire, il contraste la guerre du Vietnam -- ou les soldats rentraient chez eux apres une duree fixe, independamment du resultat, desalignant totalement leurs incitations -- avec la Seconde Guerre mondiale, ou le retour dependait de la victoire, alignant objectifs individuels et organisationnels. En medecine, il montre que les medecins privilegient les faux positifs (diagnostiquer un patient sain comme malade) par rapport aux faux negatifs (manquer une maladie), car le systeme punit beaucoup plus severement les diagnostics manques que les traitements inutiles. Dans les universites, les institutions pretendent valoriser l'enseignement mais ne recompensent que la recherche publiee pour les decisions de titularisation. Dans les orphelinats, l'objectif est de placer des enfants dans de bons foyers, mais les regles bureaucratiques rendent l'adoption quasi impossible. En entreprise, les organisations disent vouloir la croissance a long terme, le travail d'equipe et l'innovation, mais recompensent les profits trimestriels, la performance individuelle et le conformisme. Kerr identifie quatre causes racines de ce desalignement chronique. Premierement, la fascination pour les criteres « objectifs » et mesurables pousse les organisations a ignorer des objectifs importants mais difficiles a quantifier. Deuxiemement, la suremphase sur les comportements hautement visibles (publier des articles, marquer des points) eclipsent les contributions moins observables mais tout aussi cruciales (enseigner, creer de l'esprit d'equipe). Troisiemement, l'hypocrisie organisationnelle : certaines organisations sont malhonnetes sur leurs veritables objectifs. Quatriemement, l'emphase sur la moralite ou l'equite plutot que l'efficacite conduit a des systemes de recompense fondes sur ce qui « devrait » etre valorise plutot que sur ce qui produirait effectivement les resultats desires. Republie en 1995 avec une mise a jour, l'article confirme la persistance de ces patterns vingt ans plus tard. Ce texte fondateur reste l'un des articles les plus cites en comportement organisationnel et conserve une pertinence intacte pour quiconque concoit des systemes d'incitation -- y compris dans le contexte actuel de transformation par l'IA.