Lernpfad
AI Security lernen
Vom Erkennen von KI-Betrug bis zur Steuerung von KI im Unternehmen: fünf Level dazu, wie Sie KI-Tools sicher nutzen und KI-Systeme absichern. Die Artikel erklären Bedrohungen und Gegenmaßnahmen in einfachen Worten, mit Grafiken und Checklisten, und verweisen auf die Sicherheits- und Erkennungs-Tools unseres Vergleichs und die Modelle unserer LLM-Datenbank.
25 Artikel in 5 Leveln · Zur Kategorie AI Security
Die fünf Level
- 0 Einstieg Ohne Vorwissen: was KI kann, die wichtigsten Begriffe und die ersten Schritte. 5 Artikel
- 1 Grundlagen Erste echte Aufgaben mit KI-Tools: einfache Techniken, die sofort funktionieren. 5 Artikel
- 2 Fortgeschritten Arbeitsabläufe statt einzelner Prompts: Tools kombinieren und die Qualität prüfen. 5 Artikel
- 3 Profi Automatisieren, integrieren, messen: KI als Teil Ihrer Systeme. 5 Artikel
- 4 Experte Strategie, Architektur und Bewertung auf dem Niveau von Fachleuten. 5 Artikel
Level 0 · Einstieg
Ohne Vorwissen: was KI kann, die wichtigsten Begriffe und die ersten Schritte.
Level 0 · Teil 1
Was KI-Sicherheit bedeutet: drei Seiten eines Themas
KI-Sicherheit hat drei Seiten: Betrug mit KI, Ihre Daten in KI-Tools und die Sicherheit von KI-Systemen. Echte Fälle zu jeder Seite und eine Karte des Lernpfads.
Level 0 · Teil 2
KI-Betrug: Stimmklone, Fake-Nachrichten und Deepfakes
Wie Kriminelle geklonte Stimmen, KI-geschriebene Nachrichten und Deepfakes einsetzen, welche Warnzeichen weiter gelten und welche drei Gewohnheiten schützen.
Level 0 · Teil 3
Was mit Ihren Daten in einem KI-Chat passiert
Wohin Ihre Prompts gehen, wie lange Chats gespeichert werden, wann Menschen sie lesen oder Modelle daraus lernen und was Firmenkonten anders machen.
Level 0 · Teil 4
Sicherheits-Checkliste für den KI-Alltag
Acht Prüfpunkte für sichere KI-Nutzung: Konten und Zwei-Faktor-Anmeldung, Datenschutz, Antworten prüfen, Erweiterungen, geteilte Links, Kinder und verbundene Apps.
Level 0 · Teil 5
Lassen sich KI-erzeugte Inhalte erkennen?
Was Detektoren für KI-Texte, -Bilder, -Audio und -Videos leisten, wie Wasserzeichen und Content Credentials funktionieren und wie Sie Detektoren fair einsetzen.
Level 1 · Grundlagen
Erste echte Aufgaben mit KI-Tools: einfache Techniken, die sofort funktionieren.
Level 1 · Teil 1
Phishing im KI-Zeitalter: Warnzeichen, die bleiben
Wie KI Phishing-Mails, Anrufe und Videocalls überzeugender macht, welche Warnzeichen weiter gelten und welche Gewohnheiten Sie und Ihr Unternehmen schützen.
Level 1 · Teil 2
Prompt Injection einfach erklärt
Was Prompt Injection ist, warum KI-Modelle Daten und Anweisungen nicht sicher trennen, was Angreifer damit erreichen und welche Schutzmaßnahmen wirken.
Level 1 · Teil 3
Halluzinationen als Sicherheitsrisiko
Wenn erfundene KI-Antworten zu Sicherheitsvorfällen werden: falsche Paketnamen, unsichere Lösungen, erfundene Rechtsfakten, was Benchmarks zeigen und wie Sie prüfen.
Level 1 · Teil 4
Was nicht in ein KI-Tool gehört
Sechs Datenklassen, die in KI-Tools Vorsicht brauchen, drei sichere Wege zur gleichen Hilfe, eine Zehn-Sekunden-Regel und was Sie nach einem Versehen tun.
Level 1 · Teil 5
Bilder, Audio und Video Schritt für Schritt prüfen
Eine praktische Routine für verdächtige Fotos, Sprachnachrichten und Videos: Quelle, Rückwärtssuche, Herkunftsdaten, Bild- und Tonhinweise, Kontext und Fachleute.
Level 2 · Fortgeschritten
Arbeitsabläufe statt einzelner Prompts: Tools kombinieren und die Qualität prüfen.
Level 2 · Teil 1
Die OWASP Top 10 für LLM-Anwendungen
Die zehn größten Risiken von LLM-Anwendungen nach der OWASP-Liste 2026, je mit Beispiel und erster Gegenmaßnahme – und wie Sie die Liste im Review nutzen.
Level 2 · Teil 2
Kontrollen gegen Datenabfluss bei KI-Tools
Wie Unternehmen vertrauliche Daten aus falschen KI-Tools heraushalten: freigegebene Konten, Maskierung, DLP, Browser, Zugriffsrechte, Protokolle und Verträge.
Level 2 · Teil 3
Jailbreaks und Guardrails in KI-Anwendungen
Was Jailbreaks sind und warum sie funktionieren, welche Arten von Guardrails sie stoppen und wie Sie Schutzschichten kombinieren und testen – ohne Angriffsrezepte.
Level 2 · Teil 4
Wie KI-Detektoren arbeiten und wo sie versagen
Wie statistische Tests, Klassifikatoren, Wasserzeichen und Content Credentials arbeiten, warum die Basisrate zählt und wie Sie Detektoren fair einsetzen.
Level 2 · Teil 5
Schatten-KI: nicht freigegebene KI-Tools im Unternehmen
Warum Beschäftigte KI-Tools ohne Freigabe nutzen, was schiefgehen kann, wie Sie Schatten-KI finden und mit guten Alternativen statt Strafen reagieren.
Level 3 · Profi
Automatisieren, integrieren, messen: KI als Teil Ihrer Systeme.
Level 3 · Teil 1
Threat Modeling für KI-Systeme
Assets, Datenflüsse und Vertrauensgrenzen einer LLM-App erfassen, STRIDE auf KI anwenden, Angriffsflächen finden und die wichtigsten Risiken zuerst angehen.
Level 3 · Teil 2
RAG und KI-Agenten absichern: Rechte, Tools, Sandboxen
So sichern Sie RAG und KI-Agenten ab: Rechte auf Dokumentebene, minimale Rechte für Tools, Sandboxen, Freigaben, Prüfung der Ausgaben und Audit-Logs.
Level 3 · Teil 3
Red Teaming für LLMs: So testen Teams KI sicher
So arbeiten Red Teams für KI: Ziele, Umfang und Spielregeln, Testkategorien, manuelle und automatisierte Tests, Berichte, Korrekturen und Nachtests.
Level 3 · Teil 4
KI-Lieferkette absichern: Modelle, Daten, Plugins
Heruntergeladene Modelle, vergiftete Daten, schädliche Plugins, riskante Pakete: So prüfen Sie die Teile Ihres KI-Systems mit Model Cards, Signaturen und AI-BOM.
Level 3 · Teil 5
Incident Response für KI: Logs, Monitoring, Playbooks
Was als KI-Vorfall zählt, welche Signale ihn verraten, was Sie protokollieren sollten und ein Playbook zum Eindämmen, Bewerten, Informieren, Beheben und Lernen.
Level 4 · Experte
Strategie, Architektur und Bewertung auf dem Niveau von Fachleuten.
Level 4 · Teil 1
KI-Governance-Rahmenwerke: NIST AI RMF, ISO/IEC 42001, EU AI Act
Was das NIST AI RMF, ISO/IEC 42001 und der EU AI Act jeweils verlangen, wie ihre Teile zusammenpassen und wo ein Sicherheitsteam anfangen sollte.
Level 4 · Teil 2
Adversarial Machine Learning: Umgehung, Vergiftung, Extraktion
Wie Angreifer Modelle täuschen, vergiften und kopieren, wie die NIST-Taxonomie die Angriffe benennt und welche Abwehr hilft — erklärt ohne Angriffscode.
Level 4 · Teil 3
Datenschutzfreundliche KI: Differential Privacy, Federated Learning und mehr
Epsilon, Privacy-Budget, Federated Learning, Enklaven, homomorphe Verschlüsselung und synthetische Daten: was jede Technik schützt, was sie kostet, wann sie passt.
Level 4 · Teil 4
Sicherheit und Zuverlässigkeit von Modellen bewerten
Wie Sie KI auf Faktentreue, Robustheit, Ablehnungen, Bias und Kalibrierung prüfen, was Benchmarks nicht zeigen und wie Sie eine eigene Eval-Suite betreiben.
Level 4 · Teil 5
Ein sicheres KI-Programm in Ihrer Organisation aufbauen
Die acht Bausteine eines KI-Sicherheitsprogramms von Inventar und Richtlinie bis Überwachung und Kennzahlen, ein einfaches Reifegradmodell und ein Plan für 90 Tage.
Werkzeuge und Daten zum Lernpfad
6 Tools in AI Security Alle Tools vergleichen 343 Sprachmodelle in der LLM-Datenbank