{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Security"],"content":{"markdown":"Ein Threat Model für eine App, ein Red-Team-Test für eine andere und eine Richtlinie, die kaum jemand gelesen hat: Das ist noch keine KI-Sicherheit. Sie entsteht erst, wenn die Teile ein **Programm** bilden — mit einer verantwortlichen Person, einem Geltungsbereich, einem wiederkehrenden Zyklus und Nachweisen, dass die Maßnahmen wirken. Die Lücke ist real. In der Studie von IBM zu Datenpannen 2025 meldeten 13 % der Organisationen Sicherheitsvorfälle bei KI-Modellen oder KI-Anwendungen, und 97 % davon hatten keine Zugriffskontrollen für KI. Von allen betroffenen Organisationen der Studie hatten 63 % keine KI-Governance-Richtlinie oder arbeiteten noch daran (Quelle: IBM und Ponemon Institute, Cost of a Data Breach Report 2025, ibm.com).\n\nDies ist Teil 5, der letzte Teil von Level 4 und unseres Lernpfads AI Security. Er führt die bisherigen Teile zusammen: die Rahmenwerke aus Teil 1, die Angriffsklassen aus Teil 2, die Datenschutztechniken aus Teil 3 und die Evals aus Teil 4. Sie lernen die acht Bausteine eines Programms kennen, wer wofür zuständig ist, wie Sie Ihren Reifegrad einschätzen, was in den ersten 90 Tagen zu tun ist und welche Kennzahlen Fortschritt zeigen. Der Onlineshop dieses Levels mit seinen vier KI-Systemen dient ein letztes Mal als Beispiel.\n\n## Ein Programm, kein Projekt\n\nEin Projekt endet. KI-Risiken nicht: Anbieter bringen neue Modelle heraus, Teams führen neue Tools ein, Angreifer passen sich an. Ein Programm funktioniert deshalb wie ein Managementsystem — der Plan-Do-Check-Act-Zyklus, den ISO/IEC 42001 nutzt, wie in [Teil 1 zu den Governance-Rahmenwerken](/de/ai-security/learn/ai-governance-frameworks/) beschrieben. Sie planen Maßnahmen, setzen sie um, prüfen, ob sie wirken, und verbessern sie.\n\nDen Inhalt müssen Sie nicht erfinden. Mehrere bekannte Leitfäden beschreiben, was dazugehört:\n\n- Googles **Secure AI Framework** (SAIF, 2023) nennt sechs Kernelemente, von der Ausweitung bewährter Sicherheitsgrundlagen auf KI bis zur Einordnung von KI-Risiken in die Geschäftsprozesse.\n- Die **Guidelines for secure AI system development**, 2023 veröffentlicht vom britischen NCSC und der US-Behörde CISA gemeinsam mit Partnerbehörden aus weiteren Ländern, decken vier Bereiche ab: sicheres Design, sichere Entwicklung, sichere Bereitstellung sowie sicherer Betrieb und Wartung.\n- Der britische **Code of Practice for the Cyber Security of AI** (Januar 2025) legt 13 Grundsätze entlang des KI-Lebenszyklus fest, vom Design bis zur Außerbetriebnahme.\n\nZusammen mit dem NIST AI RMF aus Teil 1 sowie den OWASP Top 10 für LLM-Anwendungen und MITRE ATLAS aus früheren Levels geben sie Ihnen eine gemeinsame Sprache. Aufgabe des Programms ist es, daraus Routinen zu machen.\n\n## Acht Bausteine und ihre Verantwortlichen\n\nEin KI-Sicherheitsprogramm braucht acht Bausteine. Jeder braucht eine verantwortliche Person und erzeugt Nachweise:\n\n![Acht Bausteine eines KI-Sicherheitsprogramms im Raster: Inventar, Richtlinie, Risikobewertung, sichere Entwicklung, Überwachung, Reaktion auf Vorfälle, Schulung und Kennzahlen, jeweils mit kurzer Beschreibung; Kennzahlen sind hervorgehoben, weil sie zeigen, ob die anderen wirken](/images/learn/de/build-a-secure-ai-program-components.webp \"Acht Bausteine eines KI-Sicherheitsprogramms. Die Kennzahlen zeigen, ob die anderen sieben wirken.\")\n\n| Baustein | Was er abdeckt | Typisch verantwortlich | Nachweis |\n|---|---|---|---|\n| Inventar | Jedes KI-System, Modell, Tool und jede KI-Funktion, auch Schatten-KI | Leitung KI-Sicherheit | Liste mit Verantwortlichen, Daten, Rolle und Risikostufe |\n| Richtlinie | Freigegebene Tools, Datenregeln, wer entscheidet | Geschäftsleitung, mit Recht und Datenschutz | Unterschriebene Richtlinie, Liste freigegebener Tools |\n| Risikobewertung | Threat Model, Folgenabschätzung, Einstufung nach dem AI Act | Systemverantwortliche, mit der Sicherheit | Bewertung je System, nach Änderungen erneuert |\n| Sichere Entwicklung | Design-Reviews, sicheres RAG und sichere Agenten, geprüfte Komponenten, Evals als Freigabeschwelle | Leitung Entwicklung | Review-Protokolle, Eval-Ergebnisse |\n| Überwachung | Protokolle von Prompts, Tool-Aufrufen und Entscheidungen; Alarme für Missbrauch und Drift | Security Operations | Alarmregeln, Dashboards, geprüfte Stichproben |\n| Reaktion auf Vorfälle | KI-spezifische Playbooks, Rollen, Meldepflichten | Security Operations, mit Recht | Playbooks, Übungsberichte |\n| Schulung | Sichere Nutzung für alle, sichere Entwicklung für Entwickler, Risikoentscheidungen für Führungskräfte | Personalabteilung, mit der Leitung KI-Sicherheit | Schulungsnachweise je Rolle |\n| Kennzahlen | Wenige Messgrößen, die zeigen, ob das Programm wirkt | Leitung KI-Sicherheit | Quartalsbericht an die Geschäftsleitung |\n\nVier Bausteine verdienen einen genaueren Blick. Die **Richtlinie** sollte auf eine Seite passen: welche Tools freigegeben sind, welche Daten in welches Tool dürfen, wer einen neuen KI-Anwendungsfall genehmigt und wo man Probleme meldet. Eine kurze Richtlinie, die man sich merken kann, schützt mehr als eine lange, die niemand liest. Prüfen Sie sie mindestens zweimal im Jahr, denn die Tools ändern sich schnell.\n\nDas **Inventar** muss auch KI enthalten, die niemand angemeldet hat: Tools, die Beschäftigte auf eigene Faust nutzen, KI-Funktionen, die Anbieter in vorhandener Software einschalten, und Modelle, die Teams herunterladen. Level 2 erklärt, wie Sie diese [Schatten-KI](/de/ai-security/learn/shadow-ai-in-companies/) finden, ohne daraus eine Schuldfrage zu machen. Die **Reaktion auf Vorfälle** braucht eigene Playbooks, denn KI-Vorfälle sehen anders aus: ein ausgelesener System-Prompt, eine vergiftete Wissensbasis, ein Agent, der versteckten Anweisungen gefolgt ist. Level 3 behandelt die [Reaktion auf KI-Vorfälle](/de/ai-security/learn/ai-incident-response/). Gesetzliche Pflichten setzen hier Fristen. Nach der DSGVO muss eine Verletzung des Schutzes personenbezogener Daten der Aufsichtsbehörde möglichst binnen 72 Stunden gemeldet werden. Nach dem AI Act müssen Anbieter von Hochrisiko-Systemen schwerwiegende Vorfälle melden.\n\nDie **Überwachung** hängt an den richtigen Protokollen. Level 3 hat aufgelistet, was ein Agent festhalten sollte und welche Eigenschaften Protokolle für eine Untersuchung brauchen. Auf Programmebene geht es um Abdeckung und Zuständigkeit. Schickt jedes System aus dem Inventar seine Protokolle an einen zentralen Ort, und können Sie die Protokolle zugekaufter Tools wenigstens exportieren? Wer prüft die Alarme, und wie schnell? Definieren Sie dann Alarme für die Muster aus [Teil 2](/de/ai-security/learn/adversarial-machine-learning/): viele fast gleiche Anfragen von einem Konto, plötzliche Verschiebungen in den Entscheidungen eines Modells oder Tool-Aufrufe zu ungewöhnlichen Zeiten.\n\nTools können mehrere Bausteine unterstützen, aber keines davon ist das Programm. Nach Angaben der Anbieter sichert und regelt Airia KI-Agenten, Modelle, Werkzeuge und Datenzugriffe mit Richtlinien und Prüfnachweisen. Sentaro prüft E-Mails auf Phishing, das durch KI überzeugender wird. Bitdefender schützt Firmengeräte vor Ransomware, Phishing und dateilosen Angriffen. Jedes davon ist eine Maßnahme innerhalb des Programms, mit einer verantwortlichen Person und einer Kennzahl. Weitere Tools finden Sie im [Bereich AI Security](/de/ai-security/#tools).\n\n{{\u003c tools \"airia sentaro bitdefender\" \u003e}}\n\n## Wo stehen Sie? Ein einfaches Reifegradmodell\n\nEin Reifegradmodell hilft bei der Entscheidung, was als Nächstes kommt. Die fünf Stufen unten sind ein vereinfachtes Modell zur Orientierung, kein Standard:\n\n![Eine Treppe mit fünf Reifegraden: unsystematisch, bewusst, definiert, gemessen und lernend, jeweils mit dem, was auf dieser Stufe typisch ist; der Onlineshop steht auf Stufe zwei und zielt auf Stufe drei](/images/learn/de/build-a-secure-ai-program-maturity.webp \"Fünf Reifegrade, vereinfacht. Der Onlineshop will im nächsten Quartal von Stufe 2 auf Stufe 3.\")\n\n1. **Unsystematisch:** KI ist im Einsatz, aber niemand hat den Überblick. Sicherheit hängt an Einzelpersonen.\n2. **Bewusst:** Es gibt ein Inventar und eine erste Richtlinie, Verantwortliche sind benannt.\n3. **Definiert:** Jedes neue KI-System bekommt eine Risikobewertung und folgt einem Standard für sichere Entwicklung. Playbooks für Vorfälle liegen vor.\n4. **Gemessen:** Evals, Überwachung und Red-Team-Tests liefern Kennzahlen, und die Geschäftsleitung sieht sie regelmäßig.\n5. **Lernend:** Vorfälle, Tests und Kennzahlen führen in einem stetigen Zyklus zu Änderungen; ein externes Audit, etwa nach ISO/IEC 42001, wird realistisch.\n\nUm Ihre Stufe zu bestimmen, bewerten Sie jeden der acht Bausteine mit vier Fragen: Gibt es ihn? Ist er schriftlich festgehalten? Wird er befolgt? Wird er gemessen? Ihre Gesamtstufe bestimmen die schwächsten Bausteine, nicht die stärksten.\n\nDer Shop steht auf Stufe 2: Er kennt seine vier KI-Systeme und hat eine Richtlinie, aber nur der Support-Assistent hat ein Threat Model durchlaufen. Sein Ziel für das nächste Quartal ist Stufe 3. Überspringen Sie keine Stufen. Kennzahlen ohne definierte Abläufe messen Chaos, und ein Audit vor Stufe 3 liefert vor allem eine Liste von Lücken.\n\n## Die ersten 90 Tage\n\nNeunzig Tage sind ein realistischer Zeitraum, um eine Stufe aufzusteigen, wenn Sie sich auf wenige Systeme konzentrieren. Der Plan unten geht von einem kleinen Team aus: einer Sponsorin oder einem Sponsor aus der Geschäftsleitung, einer Leitung KI-Sicherheit und den Verantwortlichen der wichtigsten KI-Systeme.\n\n![Zeitleiste der ersten 90 Tage in drei Phasen: Tage 1 bis 30, um Überblick zu gewinnen, Tage 31 bis 60, um die wichtigsten Systeme zu bewerten und zu schützen, Tage 61 bis 90, um zu testen, zu messen und zu berichten, jeweils mit den wichtigsten Ergebnissen](/images/learn/de/build-a-secure-ai-program-90-days.webp \"Ein 90-Tage-Plan in drei Phasen. Jede Phase endet mit einem Ergebnis, das die Geschäftsleitung sehen kann.\")\n\n| Tage | Schwerpunkt | Wichtigste Aufgaben | Ergebnis |\n|---|---|---|---|\n| 1–30 | Überblick gewinnen | Sponsor und Leitung benennen; Inventar aufbauen, auch für Schatten-KI; eine einseitige vorläufige Richtlinie mit freigegebenen Tools veröffentlichen; offensichtliche Lecks schließen, etwa Kundendaten in privaten KI-Konten | Inventar mit Verantwortlichen und Risikostufen; vorläufige Richtlinie |\n| 31–60 | Bewerten und schützen | Threat Models für die drei wichtigsten Systeme; Verträge mit Anbietern auf Training mit Ihren Daten, Aufbewahrung und Meldung von Vorfällen prüfen; Protokollierung ergänzen; Schulung zur KI-Kompetenz für alle starten | Risikoregister; Prüfung der Anbieter; Protokollierung aktiv |\n| 61–90 | Testen, messen, berichten | Erste Eval-Suite und Red-Team-Test für das riskanteste System; Playbook für Vorfälle mit einer Planspielübung; Ausgangswerte der Kennzahlen festlegen; erster Bericht an die Geschäftsleitung | Testergebnisse, Playbook, Ausgangswerte, Plan für die nächsten zwei Quartale |\n\nWelche Systeme kommen zuerst? Ordnen Sie das Inventar mit vier Fragen. Trifft das System Entscheidungen über Menschen oder bereitet es sie vor? Berührt es personenbezogene oder vertrauliche Daten? Kann es ohne menschliche Prüfung handeln, etwa E-Mails senden oder Erstattungen auslösen? Können Kunden oder die Öffentlichkeit es erreichen? Jedes Ja erhöht die Priorität. Für das Inventar selbst kombinieren Sie die Quellen aus dem Level-2-Teil zu Schatten-KI, und fragen Sie nach der Nutzung, nicht nach Regelverstößen.\n\nBeim Shop ist das riskanteste System das zugekaufte Tool, das Bewerbungen vorsortiert. Es bereitet Entscheidungen über Menschen vor und ist nach dem AI Act ein Hochrisiko-System. Deshalb bekommt es die erste vollständige Bewertung, eine Prüfung der Unterlagen des Anbieters und menschliche Aufsicht im Recruiting-Team. Der Support-Assistent folgt mit der Eval-Suite aus [Teil 4](/de/ai-security/learn/evaluate-model-safety-and-reliability/).\n\n## Kennzahlen, die zeigen, ob das Programm wirkt\n\nGute Kennzahlen sind wenige, haben eine verantwortliche Person, zeigen einen Trend und führen zu einer Entscheidung. Zählen Sie keine Aktivitäten wie die Zahl geschriebener Richtlinien. Messen Sie stattdessen Abdeckung und Wirkung. Berichten Sie der Geschäftsleitung jedes Quartal im gleichen Format: Inventar, größte Risiken mit ihren Verantwortlichen, Trends der Kennzahlen, Vorfälle und nötige Entscheidungen. Das gleiche Format macht Trends sichtbar und hilft dem Sponsor zu handeln. Diese Kennzahlen sind ein guter Anfang:\n\n| Kennzahl | Was sie zeigt | Beispiel im Shop nach 90 Tagen |\n|---|---|---|\n| Abdeckung des Inventars | Anteil der bekannten KI-Systeme mit Verantwortlichen und Risikostufe | Alle vier Systeme; zwei neu gefundene Tools ergänzt |\n| Abdeckung der Bewertungen | Anteil der Hochrisiko- und kritischen Systeme mit aktueller Bewertung | Bewerbungstool und Support-Assistent erledigt |\n| Freigabeschwelle | Anteil der KI-Releases, die vor dem Start die Eval-Suite bestanden haben | Schwelle aktiv für den Support-Assistenten |\n| Schatten-KI | Gefundene nicht freigegebene Tools und wie viele Nutzer auf freigegebene gewechselt sind | Umfrage und Proxy-Protokolle ausgewertet |\n| Schulung | Anteil der Beschäftigten mit abgeschlossener rollenbezogener Schulung | Kurs für alle gestartet |\n| Reaktion | Zeit bis zur Erkennung und Eindämmung von KI-Vorfällen, auch Beinahe-Vorfällen | In der Planspielübung gemessen |\n\n{{\u003c callout type=\"try\" title=\"Schreiben Sie Ihre einseitige Programm-Charta\" \u003e}}\nHalten Sie auf einer Seite Sponsor und Leitung fest, die KI-Systeme im Geltungsbereich sowie Ihre aktuelle Reifegradstufe und Ihr Ziel. Ergänzen Sie die drei größten Risiken aus Ihrem Inventar, die Ergebnisse, die Sie nach 30, 60 und 90 Tagen zusagen, und die vier Kennzahlen, über die Sie berichten. Zeigen Sie die Seite noch diese Woche Ihrem Sponsor. Kann er nicht zustimmen, ist der Umfang zu groß.\n{{\u003c /callout \u003e}}","text":"Ein Threat Model für eine App, ein Red-Team-Test für eine andere und eine Richtlinie, die kaum jemand gelesen hat: Das ist noch keine KI-Sicherheit. Sie entsteht erst, wenn die Teile ein Programm bilden — mit einer verantwortlichen Person, einem Geltungsbereich, einem wiederkehrenden Zyklus und Nachweisen, dass die Maßnahmen wirken. Die Lücke ist real. In der Studie von IBM zu Datenpannen 2025 meldeten 13 % der Organisationen Sicherheitsvorfälle bei KI-Modellen oder KI-Anwendungen, und 97 % davon hatten keine Zugriffskontrollen für KI. Von allen betroffenen Organisationen der Studie hatten 63 % keine KI-Governance-Richtlinie oder arbeiteten noch daran (Quelle: IBM und Ponemon Institute, Cost of a Data Breach Report 2025, ibm.com).\nDies ist Teil 5, der letzte Teil von Level 4 und unseres Lernpfads AI Security. Er führt die bisherigen Teile zusammen: die Rahmenwerke aus Teil 1, die Angriffsklassen aus Teil 2, die Datenschutztechniken aus Teil 3 und die Evals aus Teil 4. Sie lernen die acht Bausteine eines Programms kennen, wer wofür zuständig ist, wie Sie Ihren Reifegrad einschätzen, was in den ersten 90 Tagen zu tun ist und welche Kennzahlen Fortschritt zeigen. Der Onlineshop dieses Levels mit seinen vier KI-Systemen dient ein letztes Mal als Beispiel.\nEin Programm, kein Projekt Ein Projekt endet. KI-Risiken nicht: Anbieter bringen neue Modelle heraus, Teams führen neue Tools ein, Angreifer passen sich an. Ein Programm funktioniert deshalb wie ein Managementsystem — der Plan-Do-Check-Act-Zyklus, den ISO/IEC 42001 nutzt, wie in Teil 1 zu den Governance-Rahmenwerken beschrieben. Sie planen Maßnahmen, setzen sie um, prüfen, ob sie wirken, und verbessern sie.\nDen Inhalt müssen Sie nicht erfinden. Mehrere bekannte Leitfäden beschreiben, was dazugehört:\nGoogles Secure AI Framework (SAIF, 2023) nennt sechs Kernelemente, von der Ausweitung bewährter Sicherheitsgrundlagen auf KI bis zur Einordnung von KI-Risiken in die Geschäftsprozesse. Die Guidelines for secure AI system development, 2023 veröffentlicht vom britischen NCSC und der US-Behörde CISA gemeinsam mit Partnerbehörden aus weiteren Ländern, decken vier Bereiche ab: sicheres Design, sichere Entwicklung, sichere Bereitstellung sowie sicherer Betrieb und Wartung. Der britische Code of Practice for the Cyber Security of AI (Januar 2025) legt 13 Grundsätze entlang des KI-Lebenszyklus fest, vom Design bis zur Außerbetriebnahme. Zusammen mit dem NIST AI RMF aus Teil 1 sowie den OWASP Top 10 für LLM-Anwendungen und MITRE ATLAS aus früheren Levels geben sie Ihnen eine gemeinsame Sprache. Aufgabe des Programms ist es, daraus Routinen zu machen.\nAcht Bausteine und ihre Verantwortlichen Ein KI-Sicherheitsprogramm braucht acht Bausteine. Jeder braucht eine verantwortliche Person und erzeugt Nachweise:\nAcht Bausteine eines KI-Sicherheitsprogramms. Die Kennzahlen zeigen, ob die anderen sieben wirken. Ein sicheres KI-Programm in Ihrer Organisation aufbauen Baustein Was er abdeckt Typisch verantwortlich Nachweis Inventar Jedes KI-System, Modell, Tool und jede KI-Funktion, auch Schatten-KI Leitung KI-Sicherheit Liste mit Verantwortlichen, Daten, Rolle und Risikostufe Richtlinie Freigegebene Tools, Datenregeln, wer entscheidet Geschäftsleitung, mit Recht und Datenschutz Unterschriebene Richtlinie, Liste freigegebener Tools Risikobewertung Threat Model, Folgenabschätzung, Einstufung nach dem AI Act Systemverantwortliche, mit der Sicherheit Bewertung je System, nach Änderungen erneuert Sichere Entwicklung Design-Reviews, sicheres RAG und sichere Agenten, geprüfte Komponenten, Evals als Freigabeschwelle Leitung Entwicklung Review-Protokolle, Eval-Ergebnisse Überwachung Protokolle von Prompts, Tool-Aufrufen und Entscheidungen; Alarme für Missbrauch und Drift Security Operations Alarmregeln, Dashboards, geprüfte Stichproben Reaktion auf Vorfälle KI-spezifische Playbooks, Rollen, Meldepflichten Security Operations, mit Recht Playbooks, Übungsberichte Schulung Sichere Nutzung für alle, sichere Entwicklung für Entwickler, Risikoentscheidungen für Führungskräfte Personalabteilung, mit der Leitung KI-Sicherheit Schulungsnachweise je Rolle Kennzahlen Wenige Messgrößen, die zeigen, ob das Programm wirkt Leitung KI-Sicherheit Quartalsbericht an die Geschäftsleitung Vier Bausteine verdienen einen genaueren Blick. Die Richtlinie sollte auf eine Seite passen: welche Tools freigegeben sind, welche Daten in welches Tool dürfen, wer einen neuen KI-Anwendungsfall genehmigt und wo man Probleme meldet. Eine kurze Richtlinie, die man sich merken kann, schützt mehr als eine lange, die niemand liest. Prüfen Sie sie mindestens zweimal im Jahr, denn die Tools ändern sich schnell.\nDas Inventar muss auch KI enthalten, die niemand angemeldet hat: Tools, die Beschäftigte auf eigene Faust nutzen, KI-Funktionen, die Anbieter in vorhandener Software einschalten, und Modelle, die Teams herunterladen. Level 2 erklärt, wie Sie diese Schatten-KI finden, ohne daraus eine Schuldfrage zu machen. Die Reaktion auf Vorfälle braucht eigene Playbooks, denn KI-Vorfälle sehen anders aus: ein ausgelesener System-Prompt, eine vergiftete Wissensbasis, ein Agent, der versteckten Anweisungen gefolgt ist. Level 3 behandelt die Reaktion auf KI-Vorfälle. Gesetzliche Pflichten setzen hier Fristen. Nach der DSGVO muss eine Verletzung des Schutzes personenbezogener Daten der Aufsichtsbehörde möglichst binnen 72 Stunden gemeldet werden. Nach dem AI Act müssen Anbieter von Hochrisiko-Systemen schwerwiegende Vorfälle melden.\nDie Überwachung hängt an den richtigen Protokollen. Level 3 hat aufgelistet, was ein Agent festhalten sollte und welche Eigenschaften Protokolle für eine Untersuchung brauchen. Auf Programmebene geht es um Abdeckung und Zuständigkeit. Schickt jedes System aus dem Inventar seine Protokolle an einen zentralen Ort, und können Sie die Protokolle zugekaufter Tools wenigstens exportieren? Wer prüft die Alarme, und wie schnell? Definieren Sie dann Alarme für die Muster aus Teil 2: viele fast gleiche Anfragen von einem Konto, plötzliche Verschiebungen in den Entscheidungen eines Modells oder Tool-Aufrufe zu ungewöhnlichen Zeiten.\nTools können mehrere Bausteine unterstützen, aber keines davon ist das Programm. Nach Angaben der Anbieter sichert und regelt Airia KI-Agenten, Modelle, Werkzeuge und Datenzugriffe mit Richtlinien und Prüfnachweisen. Sentaro prüft E-Mails auf Phishing, das durch KI überzeugender wird. Bitdefender schützt Firmengeräte vor Ransomware, Phishing und dateilosen Angriffen. Jedes davon ist eine Maßnahme innerhalb des Programms, mit einer verantwortlichen Person und einer Kennzahl. Weitere Tools finden Sie im Bereich AI Security.\nAiriaSicherheit \u0026amp; Governance · KI ist der KernOrchestrierungsplattform für Unternehmen, um KI-Lösungen abgesichert zu bauen und zu verwalten. SentaroSicherheit \u0026amp; Governance · KI ist der KernE-Mail-Sicherheit für kleine und mittlere Unternehmen, die Kontext und Absicht von Nachrichten prüft und vor Phishing warnt. BitdefenderSicherheit \u0026amp; Governance · Software mit KI-FunktionenIT-Sicherheit für kleine und mittlere Unternehmen: Schutz vor Ransomware, Phishing und dateilosen Angriffen. Kurzbeschreibungen aus unserem Tool-Vergleich, nach Angaben der Anbieter — nicht von ABXK getestet.\nWo stehen Sie? Ein einfaches Reifegradmodell Ein Reifegradmodell hilft bei der Entscheidung, was als Nächstes kommt. Die fünf Stufen unten sind ein vereinfachtes Modell zur Orientierung, kein Standard:\nFünf Reifegrade, vereinfacht. Der Onlineshop will im nächsten Quartal von Stufe 2 auf Stufe 3. Unsystematisch: KI ist im Einsatz, aber niemand hat den Überblick. Sicherheit hängt an Einzelpersonen. Bewusst: Es gibt ein Inventar und eine erste Richtlinie, Verantwortliche sind benannt. Definiert: Jedes neue KI-System bekommt eine Risikobewertung und folgt einem Standard für sichere Entwicklung. Playbooks für Vorfälle liegen vor. Gemessen: Evals, Überwachung und Red-Team-Tests liefern Kennzahlen, und die Geschäftsleitung sieht sie regelmäßig. Lernend: Vorfälle, Tests und Kennzahlen führen in einem stetigen Zyklus zu Änderungen; ein externes Audit, etwa nach ISO/IEC 42001, wird realistisch. Um Ihre Stufe zu bestimmen, bewerten Sie jeden der acht Bausteine mit vier Fragen: Gibt es ihn? Ist er schriftlich festgehalten? Wird er befolgt? Wird er gemessen? Ihre Gesamtstufe bestimmen die schwächsten Bausteine, nicht die stärksten.\nDer Shop steht auf Stufe 2: Er kennt seine vier KI-Systeme und hat eine Richtlinie, aber nur der Support-Assistent hat ein Threat Model durchlaufen. Sein Ziel für das nächste Quartal ist Stufe 3. Überspringen Sie keine Stufen. Kennzahlen ohne definierte Abläufe messen Chaos, und ein Audit vor Stufe 3 liefert vor allem eine Liste von Lücken.\nDie ersten 90 Tage Neunzig Tage sind ein realistischer Zeitraum, um eine Stufe aufzusteigen, wenn Sie sich auf wenige Systeme konzentrieren. Der Plan unten geht von einem kleinen Team aus: einer Sponsorin oder einem Sponsor aus der Geschäftsleitung, einer Leitung KI-Sicherheit und den Verantwortlichen der wichtigsten KI-Systeme.\nEin 90-Tage-Plan in drei Phasen. Jede Phase endet mit einem Ergebnis, das die Geschäftsleitung sehen kann. Ein sicheres KI-Programm in Ihrer Organisation aufbauen (2) Tage Schwerpunkt Wichtigste Aufgaben Ergebnis 1–30 Überblick gewinnen Sponsor und Leitung benennen; Inventar aufbauen, auch für Schatten-KI; eine einseitige vorläufige Richtlinie mit freigegebenen Tools veröffentlichen; offensichtliche Lecks schließen, etwa Kundendaten in privaten KI-Konten Inventar mit Verantwortlichen und Risikostufen; vorläufige Richtlinie 31–60 Bewerten und schützen Threat Models für die drei wichtigsten Systeme; Verträge mit Anbietern auf Training mit Ihren Daten, Aufbewahrung und Meldung von Vorfällen prüfen; Protokollierung ergänzen; Schulung zur KI-Kompetenz für alle starten Risikoregister; Prüfung der Anbieter; Protokollierung aktiv 61–90 Testen, messen, berichten Erste Eval-Suite und Red-Team-Test für das riskanteste System; Playbook für Vorfälle mit einer Planspielübung; Ausgangswerte der Kennzahlen festlegen; erster Bericht an die Geschäftsleitung Testergebnisse, Playbook, Ausgangswerte, Plan für die nächsten zwei Quartale Welche Systeme kommen zuerst? Ordnen Sie das Inventar mit vier Fragen. Trifft das System Entscheidungen über Menschen oder bereitet es sie vor? Berührt es personenbezogene oder vertrauliche Daten? Kann es ohne menschliche Prüfung handeln, etwa E-Mails senden oder Erstattungen auslösen? Können Kunden oder die Öffentlichkeit es erreichen? Jedes Ja erhöht die Priorität. Für das Inventar selbst kombinieren Sie die Quellen aus dem Level-2-Teil zu Schatten-KI, und fragen Sie nach der Nutzung, nicht nach Regelverstößen.\nBeim Shop ist das riskanteste System das zugekaufte Tool, das Bewerbungen vorsortiert. Es bereitet Entscheidungen über Menschen vor und ist nach dem AI Act ein Hochrisiko-System. Deshalb bekommt es die erste vollständige Bewertung, eine Prüfung der Unterlagen des Anbieters und menschliche Aufsicht im Recruiting-Team. Der Support-Assistent folgt mit der Eval-Suite aus Teil 4.\nKennzahlen, die zeigen, ob das Programm wirkt Gute Kennzahlen sind wenige, haben eine verantwortliche Person, zeigen einen Trend und führen zu einer Entscheidung. Zählen Sie keine Aktivitäten wie die Zahl geschriebener Richtlinien. Messen Sie stattdessen Abdeckung und Wirkung. Berichten Sie der Geschäftsleitung jedes Quartal im gleichen Format: Inventar, größte Risiken mit ihren Verantwortlichen, Trends der Kennzahlen, Vorfälle und nötige Entscheidungen. Das gleiche Format macht Trends sichtbar und hilft dem Sponsor zu handeln. Diese Kennzahlen sind ein guter Anfang:\nEin sicheres KI-Programm in Ihrer Organisation aufbauen (3) Kennzahl Was sie zeigt Beispiel im Shop nach 90 Tagen Abdeckung des Inventars Anteil der bekannten KI-Systeme mit Verantwortlichen und Risikostufe Alle vier Systeme; zwei neu gefundene Tools ergänzt Abdeckung der Bewertungen Anteil der Hochrisiko- und kritischen Systeme mit aktueller Bewertung Bewerbungstool und Support-Assistent erledigt Freigabeschwelle Anteil der KI-Releases, die vor dem Start die Eval-Suite bestanden haben Schwelle aktiv für den Support-Assistenten Schatten-KI Gefundene nicht freigegebene Tools und wie viele Nutzer auf freigegebene gewechselt sind Umfrage und Proxy-Protokolle ausgewertet Schulung Anteil der Beschäftigten mit abgeschlossener rollenbezogener Schulung Kurs für alle gestartet Reaktion Zeit bis zur Erkennung und Eindämmung von KI-Vorfällen, auch Beinahe-Vorfällen In der Planspielübung gemessen ▸Schreiben Sie Ihre einseitige Programm-Charta\nHalten Sie auf einer Seite Sponsor und Leitung fest, die KI-Systeme im Geltungsbereich sowie Ihre aktuelle Reifegradstufe und Ihr Ziel. Ergänzen Sie die drei größten Risiken aus Ihrem Inventar, die Ergebnisse, die Sie nach 30, 60 und 90 Tagen zusagen, und die vier Kennzahlen, über die Sie berichten. Zeigen Sie die Seite noch diese Woche Ihrem Sponsor. Kann er nicht zustimmen, ist der Umfang zu groß.\n","words":1763},"date":"2026-10-14","description":"Die acht Bausteine eines KI-Sicherheitsprogramms von Inventar und Richtlinie bis Überwachung und Kennzahlen, ein einfaches Reifegradmodell und ein Plan für 90 Tage.","image":"https://abxk.ai/images/cover/build-a-secure-ai-program.webp","json":"https://abxk.ai/de/ai-security/learn/build-a-secure-ai-program/index.json","kind":"page","language":"de","learning_path":{"category":"ai-security","level":4,"level_name":"Experte"},"modified":"2026-10-14","related_tools":["Airia","Sentaro","Bitdefender"],"section":"ai-security","seo_title":"Sicheres KI-Programm in Ihrer Organisation aufbauen","tags":["ki-sicherheitsprogramm","ki-governance","sicherheitskennzahlen","reifegradmodell","experte"],"title":"Ein sicheres KI-Programm in Ihrer Organisation aufbauen","translations":[{"json":"https://abxk.ai/en/ai-security/learn/build-a-secure-ai-program/index.json","language":"en","url":"https://abxk.ai/en/ai-security/learn/build-a-secure-ai-program/"}],"url":"https://abxk.ai/de/ai-security/learn/build-a-secure-ai-program/"}