Résultats de recherche et apprentissage du travail avec l'IA.
9 fiches · 23 entities · Mis à jour
Que savent réellement faire modèles et agents, et comment apprend-on à travailler avec eux ? La preuve répond à la première question, la pédagogie à la seconde, et les deux se rassemblent ici. Études empiriques, benchmarks et expériences mesurent la capacité — tandis que la conception d'un benchmark décide souvent, discrètement, de son résultat. À côté figurent des analyses de la façon dont les développeurs apprennent à diriger des agents, de l'expertise qui reste essentielle, et de l'adaptation de l'enseignement quand la génération devient bon marché. Des programmes de tutorat et des évaluations pratiques limitées dans le temps y côtoient les études. La compréhension, non le produit, prime : chaque fiche note ce qui a été testé, ce que les chiffres soutiennent, ce qui reste ouvert.
Article pédagogique du **MindStudio Team** (blog de la plateforme MindStudio, orchestration de workflows multi-modèles) expliquant les **modèles de langage par diffusion** (*Diffusion Language Models*) à travers le cas de **Diffusion Gemma**, première implémentation **open weights** de Google (2B paramètres, dérivée de Gemma 2). La thèse : là où les modèles **autorégressifs** (GPT-4, Claude, Gemma standard) génèrent le texte **token par token, de gauche à droite** (attention causale, chaque token figé une fois produit), les modèles par **diffusion** partent d'une séquence **masquée/bruitée** et la **raffinent itérativement** (diffusion masquée / *absorbing diffusion*), avec **attention bidirectionnelle** : le modèle peut **réviser n'importe quelle position à n'importe quelle étape**. Conséquences : **parallélisme** élevé (un texte de 500 tokens nécessiterait 50-100 étapes de débruitage au lieu de 500 passes séquentielles), **infilling** et **génération sous contraintes** naturels (remplissage de templates, complétion de code avec contexte environnant), et capacité de **révision intégrée**. Mais à l'échelle actuelle (2B), Diffusion Gemma **ne rivalise pas** avec les grands autorégressifs (GPT-4o, Gemini 1.5 Pro) sur le raisonnement, le suivi d'instructions et les connaissances générales : l'écart « se referme » sans être comblé. L'inspiration vient de l'image (Stable Diffusion, DALL-E ont quitté l'autorégressif il y a des années) ; reste à savoir si le principe tient pour le texte. Diffusion Gemma est distribuée sur Hugging Face (Google DeepMind), AI Studio et Vertex AI.
#modèles de langage par diffusion#Diffusion Gemma#Google DeepMind
Étude Wharton (Generative AI Labs) : les personas experts n'améliorent pas la précision factuelle des LLM - benchmarks GPQA Diamond et MMLU-Pro - SSRN
#prompting IA#personas#précision des LLM
Savir Basil · Ina Shapiro · Dan Shapiro · Ethan Mollick · Lilach Mollick · Lennart Meincke (Generative AI Labs, The Wharton School, University of Pennsylvania)