Zum Inhalt springen

root / tags / securite

#sécurité

9 Fiches

KI-Coding-Agenten & Skills Automatisch geprüfte Übersetzung

The AI Engineering Skills Map

X-Post von **Andrew Ng** vom **14. August 2026** (16:29 UTC), Wiederaufnahme des "Dear friends"-Briefs aus ***The Batch* #366** (DeepLearning.AI, gleiches Datum), ca. 900 Wörter. Ng stellt **The AI Engineering Skills Map** vor und veröffentlicht **vier Skills**, die als die wichtigsten gelten. **(1) Aufbau und Bereitstellung von KI-Anwendungen** — die Besonderheit wird benannt: *« The key difference between AI and non-AI applications is that the former has unpredictable outputs »*, daher die Betonung von *evals* und Fehleranalyse-Loops. **(2) Grundlagen der Softwareentwicklung**, denn *« Understanding software fundamentals allows you to recognize what tradeoffs even exist »* — der unerfahrene Entwickler scheitert *« because they don't know what context to give their coding agent »*, daher das Ziel, *« steering coding agents using the precise language of software engineering »*. **(3) Einsatz von Coding-Agenten**, in operativer Formulierung: *« help the agent autonomously close loops by providing verifiers or evals »*, sowie *« knowing how much to intervene and how much to leave them alone »*. **(4) *Den Build gestalten***: *« Given a clear spec, coding agents are rapidly improving at delivering to it. Thus, our work as engineers is shifting toward deciding what should be in the spec »*, ergänzt durch *« Engineers should no longer expect to be given a pixel-perfect design and asked only to implement it. »* Ein **Hinweis zur Terminologie** trägt den größten Teil der Rahmung: Ng spricht von **Skills** im AI Engineering und **nicht von der Rolle** "AI Engineer", mit einer expliziten Analogie — *« All developers today should know how to work with the cloud, and only a smaller number have a "Cloud engineer" title. »* Das Ganze stützt sich auf *« an analysis of more than 10,000 job postings, dozens of structured interviews with experts, hiring managers, and recruiters, surveys, and other online data »*, wovon **keine numerischen Ergebnisse veröffentlicht werden**: Ng beschreibt sein Vorgehen als *« informally… akin to running clustering »* und kündigt eine detaillierte Map in künftigen Beiträgen an. Sein Eigeninteresse benennt er im vorletzten Satz: *« DeepLearning.AI's principal focus is to help developers gain these AI engineering skills. »*

#AI Engineering Skills Map#Skills-Map#Andrew Ng

**Andrew Ng** — fondateur de **DeepLearning.AI** · general partner d'**AI Fund** · cofondateur de **Coursera** et de **Google Brain** · ancien chief scientist de Baidu. Texte signé · à la première personne · écrit *« with my team »* sans qu'aucun collaborateur soit nommé. Publié le **14 août 2026** sur X et dans ***The Batch* n°366** — même texte aux deux endroits ; préférer *The Batch* pour toute citation durable. Quatrième fiche Ng du corpus · après les lettres n°350 (24 avril) · n°352 (8 mai) et n°359 (26 juin).

Qualität & Sicherheit Automatisch geprüfte Übersetzung

Code review dans le SDLC augmenté : l'anneau de contraintes autour des agents

Episode "Phase 5 · Review" der SFEIR-Reihe zum erweiterten SDLC, veröffentlicht **am selben Tag** wie der LinkedIn-Beitrag von Addy Osmani, den sie in eine Phasenspezifikation übersetzt. These: **Qualität hat die Adresse gewechselt** — sie wird nicht mehr im Code gelesen (Agenten produzieren mehr davon, als irgendjemand reviewen kann), sondern in **dem Ring von Constraints, der den Agenten umgibt**. Osmanis Ring (sieben Dimensionen — Korrektheit, Sicherheit, Performance, Barrierefreiheit, Wartbarkeit, **wirtschaftliche Effizienz**, **Verständlichkeit** — verbunden durch die **Back-Pressure**-Regel: „einer Schleife wird nur so viel Autonomie zugestanden, wie günstig und zuverlässig verifiziert werden kann, keinen Zentimeter mehr") wird nachgezeichnet, übersetzt und an Phase 5 des 11-Phasen-Zyklus von SFEIR angehängt. Das strukturierende Korollar: **der Engpass war nie die Generierung, es ist die Verifikation** — „Generierung ist ein weiter Trichtermund, Verifikation ein enger Hals; wer den Mund beschleunigt, verdickt den Stau am Hals." **Die interessanteste Design-Entscheidung ist eine Wahl der Zyklusarchitektur**: Review liegt bewusst **außerhalb der drei menschlichen Gates** (Define, Plan, Ship), denn würde man Review zum Gate machen, würde menschliche Aufmerksamkeit — eine endliche Ressource — zum Kontrollpunkt einer Generierungskapazität, die selbst skaliert: „man hätte eine Pipeline gebaut, deren maximaler Durchsatz der Anzahl an Diffs entspricht, die ein Senior bis Feierabend lesen kann." Daher die Aufteilung: **Review instrumentiert, Ship entscheidet** — Review liefert einen *widerlegbaren Beweiskörper*, Ship entscheidet anhand der Evidenz, nicht anhand des vollständigen Diffs. Eine Position, die sich gegen Monperrus stellt (von dem SFEIR die Diagnose übernimmt — menschliche Inspektion jedes Diffs hält der agentischen Geschwindigkeit nicht stand —, aber die Schlussfolgerung ablehnt: Abnahme kann nicht delegiert werden). Die benannte Falle ist die **zirkuläre Validierung** (der Agent, der den Code schreibt, schreibt auch die Tests, die ihn validieren: „man hat einen Spiegel gebaut, keinen Ring"), mit fünf Gegenmaßnahmen von Anthropic (unabhängige Gates in getrennten Context-Windows, deterministisch + agentisch ersetzen sich nie gegenseitig, Shadow Mode, risikobasierte Stufung, Logging ans SIEM) und der Warnung von Compare the Market (**AST-Graph ~70 % vs. Vektor-RAG ~58 %**, wobei RAG *schlechter abschneidet als gar kein Kontext*). Die eigene Erweiterung der Firma ist **das Ratschenprinzip**: „jedes Entkommen wird zum Constraint" — ein Defekt, der den Ring durchbrochen hat, wird *innerhalb des Rings* geschlossen (Test, Lint-Regel, Review-Rubrik, Harness-Guardrail) bei Compound-1, „das einzige Asset in der Kette, das an Wert gewinnt, während die Modelle an Wert verlieren" (eine ungeprüfte interne Messung: **−30 % Fix-Iterationen nach zehn Zyklen**). Sie schließt mit einer Neuformulierung der Frage: „Ist dieser Code gut?" ist unbeantwortbar geworden; was bleibt, ist **„Was lässt mein System nicht durch?"**

#Ring von Constraints#Constraints um Agenten#Review-Phase

SFEIR (voix éditoriale du cabinet, article non signé individuellement) — construit sur Addy Osmani (Google) ; cite Martin Monperrus · Paula Hingel (Augment Code) · DORA/Google Cloud · Jason Clinton (Anthropic) · l'équipe Engineering de Compare the Market

Qualität & Sicherheit Automatisch geprüfte Übersetzung

How Anthropic secures its AI-native software development lifecycle

Security-REX, verfasst von **Jason Clinton (Deputy CISO bei Anthropic)** — mit Beiträgen von **Michael Segner** — veröffentlicht am **21. Juli 2026** im Anthropic-Blog (Kategorien *Claude Code / Enterprise AI / Agents*). **Schock-Framing**: Absicherung eines SDLC, in dem ***„Claude etwa 80 % des gemergten Codes verfasst"*** und in dem ***„mehr als die Hälfte des gesamten Codes von unserer internen Version von Claude Tag gemergt wird"***, während Engineers *„8x so viel Code pro Quartal ausliefern"* (im Vergleich zur Baseline 2021–2025). Die Herausforderung ist ein **Amdahl**-Problem: Wenn Kontrollen nicht skalieren, werden sie zum Flaschenhals. **Drei Bedrohungen prägen alles**: (1) ein **kompromittierter oder prompt-injizierter Agent**, der eine bösartige Änderung einbringt; (2) **Supply-Chain-/Dependency-Poisoning**, das als *vertrauenswürdiger Input* eingelesen wird; (3) **bekannte Klassen von Anwendungs-Schwachstellen in höherem Volumen**. **Vier übergreifende Strategien**: *shift left* (integriert in der Code-Phase), **harte Identitäts- und Zugriffsgrenzen** zur Eindämmung des *blast radius*, **Kombination deterministischer (SAST/DAST) UND agentischer Reviews** vor/nach Prod, **Menschen im Loop an den Punkten mit dem höchsten Hebel**. Der Beitrag ist explizit **als Ergänzung zu Anthropics *Zero Trust for Agents*-Framework gedacht** (und verweist auf den *CISO's Guide to Agentic AI*). **Schritt-für-Schritt-Durchgang durch den SDLC** (jeder Schritt → ein *Enduring Principle*): **Plan** — ein **PSR (Project Security Review)**, angetrieben von **Claude Opus**, das das Design-Dokument gegen **MITRE ATT&CK** prüft, angebunden an einen **internen Wissensindex**; Auto-Genehmigung erlaubt für *risikoarme* Projekte → *Prinzip: Security-Agenten mit organisatorischem Kontext verbinden* (Chat, frühere Reviews, Code), statt Dokumentation vorzuschreiben. **Code** — Sicherheit kodiert in **CLAUDE.md + Skills**, ein **geschlossener Loop** von entdeckter Schwachstelle bis aktualisierter Richtlinie, der Befehl **`/security-review`**, ein Echtzeit-Guidance-Plugin, **Remote-VMs mit Egress-Allowlisting** zur Begrenzung des *blast radius* eines Agenten, der nicht vertrauenswürdigem Input ausgesetzt ist → *Prinzip: den Feedback-Loop schließen; harte Identitäts-/Zugriffsgrenzen statt Vertrauen in Modellverhalten*. **Test/CI** — **der größte Flaschenhals**: substanzielle Review-Kommentare steigen von **16 % auf 54 % der PRs**, ~**ein Drittel vergangener claude.ai-Vorfälle wäre erkannt worden**, **mehrere eng fokussierte spezialisierte Agenten** mit **RAG**-Kontext pro PR, **SAST postet direkt auf PRs**, eine **nach Risiko gestufte Codebasis**, jede Genehmigung **protokolliert mit Begründung und Signalen**, **risikogewichtete menschliche Stichprobenprüfung** → *Prinzip: automatisiertes Review = anderes Risiko → andere Kontrollen (mehrere unabhängige Gates, getrennte Context-Windows)*. **Deploy/CD** — **kontinuierliches KI-gesteuertes DAST** in Staging (Claude fand ***„mehr als 500 Schwachstellen mit hohem Schweregrad in OSS"*** im Februar) → *Prinzip: dynamische Testkadenz entspricht der Deployment-Kadenz*. **Monitor** — **agents de réponse à incident**, die Prod-Logs lesen, Root-Cause-Analysen durchführen, Post-Mortems und manchmal den Fix schreiben, aber **nicht deployen können**: nur **drei Berechtigungen** (Dokumente schreiben, in Channels posten, Prod-Logs lesen); **bemerkenswerter Vorfall** — nach einem Modell-Upgrade bat der incident-Response-Agent **eine andere Claude-Instanz, einen Fix per Slack zu pushen**, *„am dafür vorgesehenen menschlichen Review-Gate abgefangen"* → *Prinzip: **zweckgebundene Identität mit minimalen Berechtigungen**; **agent-à-agent**-Kanäle überwachen wie menschliche Interaktionen*. **Governance**: Risikostufung, **Shadow-Mode** (neue KI-Reviewer im reinen Kommentar-Modus, *red-teamed*, bevor sie Vertrauen gewinnen), **Sampling**, Metrik-Dashboards, **SIEM-Routing** jeder Agentenaktion (Genehmigungen, Tool-Aufrufe, agent-à-agent-Nachrichten) für Audit und Insider-Threat-Erkennung → *Prinzip: die Rolle des Security Engineers verschiebt sich von „Bugs überwachen" zu **„Loops überwachen"***. **Strategische Frage**: *„Was würden wir laufen lassen, wenn Scanning nahezu kostenlos wäre?"*. Auf der Seite **Sicherheit/Governance** erweitert dies den AI-SDLC-Cluster der Veille: die *Steps of AI Adoption* aus [[cherny-steps-ai-adoption-2026-07-16]] (Claude Security Review, Claude Tag, Shadow-Mode, SIEM/OTel), das multi-agentische adversariale Review aus [[monperrus-end-of-code-review-agents-supersede-2026-06-11]] und sumner-bun-rewrite-rust-claude-2026-07-08, die Doktrin der *Skills / Systeme rund um das Modell* aus anthropic-self-service-data-analytics-claude-agentic-stack-2026-06-03, die Failure Modes aus williams-adlc-1-models-arent-human-2026-06-12, der sechsstufige SDLC aus hingel-augment-how-ai-changes-sdlc-six-stages-2026-06-08, und die Cyberdefense von Project Glasswing aus anthropic-claude-fable-5-mythos-5-2026-06-09.

#AI-native SDLC#AI-native SDLC#Sicherheit

**Jason Clinton** — *Deputy CISO* (directeur adjoint de la sécurité des SI) d'**Anthropic** · pilote de l'équipe *Security Engineering* ; contributions de **Michael Segner**. Billet publié le **21 juillet 2026** sur le blog Anthropic (*claude.com/blog*) · catégories *Claude Code / Enterprise AI / Agents* · ~5 min de lecture. Compagnon explicite du framework *Zero Trust for Agents* publié par Anthropic.

KI-Coding-Agenten & Skills Automatisch geprüfte Übersetzung

The Batch n°350 — How Coding Agents Accelerate Different Types of Software Work (Andrew Ng) + GLM-5.1, Digit chez Schaeffler, anti-data-center revolt, assistant axis

Das Editorial von Andrew Ng in The Batch #350 stellt eine Beschleunigungshierarchie für Coding-Agenten nach Art der Softwarearbeit auf: Frontend (maximal) > Backend (moderat) > Infrastruktur (gering) > Forschung (minimal). Die Begründung stützt sich auf die implizite Verifizierbarkeit (Beherrschung von TypeScript/JavaScript plus eine autonome Agent-Browser-Testschleife im Frontend) sowie auf die blinden Flecken der LLMs (Grenzfälle / Sicherheit / DB-Migrationen beim Backend, undurchsichtige Netzwerk-Tradeoffs bei der Infrastruktur, irreduzible Hypothesenbildung bei der Forschung). Die Ausgabe wird durch 4 einordnende Nachrichten abgerundet: GLM-5.1 (Z.ai), ein Modell mit 754B/40B aktiven Parametern unter MIT-Lizenz, das autonome Aufgaben von bis zu 8 Stunden Dauer bewältigt (Spitzenreiter bei SWE-Bench Pro mit 58,4 %); Digit (Agility Robotics) bei Schaeffler, der erste industrielle Einsatz von Humanoiden (1,75 m/65 kg, 10–25 $/h gegenüber 20 $/h für einen Menschen); die Anti-Rechenzentren-Revolte (~64 Mrd. $ blockiert zwischen Mai 2024 und März 2025, Moratorium in Maine für Anlagen ab 20 MW, Molotow-Cocktail am Wohnhaus von Sam Altman); sowie die „Assistant Axis" (Christina Lu, MATS / Oxford / Anthropic), die Persona-Drift und Jailbreaks reduziert (Qwen3 32B: 83 %→41 %; Llama 3.3 70B: 65 %→33 %), ohne IFEval/GSM8k/MMLU-Pro/EQ-Bench zu verschlechtern.

#Andrew Ng#The Batch#DeepLearning.AI

Andrew Ng (édito principal — fondateur DeepLearning.AI, Stanford, ex-Google Brain, ex-Baidu) ; rédaction The Batch (DeepLearning.AI) pour les sections actualités

Architektur & Konstruktion Automatisch geprüfte Übersetzung

HOW CLAUDE CODE IS BUILT

Building Claude Code - KI-First-Architektur - Produktentwicklung - Pragmatic Engineer

#Claude Code#Anthropic#KI

Gergely Orosz (auteur de l'article) · Boris Cherny · Sid Bidasaria · Cat Wu (équipe fondatrice de Claude Code)