{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Security"],"content":{"markdown":"Ein KI-Assistent, der eine Tatsache erfindet, ist beim Schreiben einer E-Mail ärgerlich. Zum Sicherheitsproblem wird es, wenn jemand danach handelt: Software installiert, die es nicht gibt, eine Lösung übernimmt, die einen Schutz abschaltet, oder sich auf ein Urteil stützt, das nie gefällt wurde. Angreifer haben sogar gelernt, von diesen Fehlern zu profitieren.\n\nDieser Artikel ist Teil 3 von Level 1 unseres Lernpfads AI Security. Die [Sicherheits-Checkliste](/de/ai-security/learn/ai-safety-checklist-for-users/) in Level 0 hat Ihnen geraten, KI-Antworten vor dem Handeln zu prüfen; dieser Teil zeigt, was passiert, wenn niemand prüft. Sie lernen, wann eine Halluzination zum Sicherheitsrisiko wird und wie Angreifer erfundene Paketnamen ausnutzen. Außerdem sehen Sie, warum KI-Ratschläge zu Sicherheitseinstellungen einen zweiten Blick brauchen, was Benchmarks über Faktenwissen zeigen, und lernen eine kurze Prüfroutine kennen.\n\n## Wann eine erfundene Antwort zum Risiko wird\n\nEine **Halluzination** ist eine Antwort, die richtig klingt, aber erfunden ist: eine Tatsache, eine Quelle, eine Zahl oder ein Befehl. Ein Sprachmodell sagt wahrscheinliche Wörter voraus. Es hat kein verlässliches Gespür dafür, welche Fakten es sicher kennt. Ein Grund: Training und gängige Tests belohnen eine selbstsichere Vermutung stärker als ein ehrliches „Ich weiß es nicht“ (Quelle: Kalai et al., „Why Language Models Hallucinate“, 2025, arxiv.org).\n\nOWASP zählt das unter dem Namen **Misinformation** (Falschinformation) zu den zehn größten Risiken für KI-Anwendungen. Dazu nennt es ein verwandtes Problem, **Overreliance**: Menschen vertrauen KI-Ausgaben, ohne sie zu prüfen (Quelle: OWASP Top 10 for LLM Applications 2025, LLM09, genai.owasp.org). In der aktuellen Ausgabe von 2026 ist Falschinformation auf Platz 7 vorgerückt.\n\nEine Halluzination allein richtet keinen Schaden an. Zum Vorfall wird sie über eine Kette aus vier Gliedern: Das Modell erfindet etwas, es klingt sicher, niemand prüft, und jemand handelt danach. Reißt ein Glied, hält die Kette nicht. Das Glied, das Sie am besten in der Hand haben, ist die Prüfung.\n\n![Eine Kette aus vier Schritten: Die KI erfindet etwas Plausibles, es klingt sicher, niemand prüft Register, Doku oder Quelle, jemand handelt und der Vorfall beginnt; der dritte Schritt ist als Stelle markiert, an der die Kette reißen sollte](/images/learn/de/hallucinations-as-a-security-risk-chain.webp \"Von der Halluzination zum Sicherheitsvorfall: Die Prüfung ist das Glied, das Sie in der Hand haben.\")\n\n## Erfundene Paketnamen: Slopsquatting\n\nProgrammierer schreiben selten alles selbst. Sie nutzen **Pakete**: fertige Code-Bibliotheken, die sie aus öffentlichen Registern laden, etwa PyPI für Python oder npm für JavaScript. KI-Coding-Assistenten schlagen oft Pakete vor — und manchmal solche, die es gar nicht gibt.\n\nEine Studie, vorgestellt 2025 auf dem USENIX Security Symposium, testete 16 Code-Modelle mit 576.000 Codebeispielen. Im Schnitt existierten mindestens 5,2 Prozent der Pakete nicht, die kommerzielle Modelle vorschlugen. Bei Open-Source-Modellen lag der Anteil bei 21,7 Prozent. Insgesamt zählten die Forschenden 205.474 verschiedene erfundene Paketnamen (Quelle: Spracklen et al., USENIX Security 2025, arxiv.org).\n\nDas öffnet Angreifern eine Tür. Erfinden Modelle denselben Namen immer wieder, kann ein Angreifer ihn registrieren und mit Schadcode füllen. Wer der KI als Nächstes vertraut, installiert das Paket des Angreifers. Diesen Angriff nennt man **Slopsquatting**, eine Mischung aus „AI Slop“ (KI-Ramsch) und **Typosquatting**, dem alten Trick, falsch geschriebene Namen beliebter Pakete zu registrieren. Die OWASP-Liste von 2025 beschreibt genau dieses Szenario als Beispiel für das Risiko der Falschinformation.\n\n![Vier Schritte: Die KI schlägt ein Paket vor, das es nicht gibt, ein Angreifer veröffentlicht Schadcode unter diesem Namen, Sie installieren es, der Schadcode läuft; ein Hinweis nennt die Prüfungen vor jeder Installation](/images/learn/de/hallucinations-as-a-security-risk-slopsquatting.webp \"Slopsquatting, vereinfacht: Ein erfundener Name wird zum echten Paket mit dem Code des Angreifers.\")\n\nWie realistisch ist das? Ein Sicherheitsforscher von Lasso Security lud ein leeres Testpaket unter einem Namen hoch, den KI-Modelle immer wieder erfanden. Innerhalb von drei Monaten wurde es mehr als 30.000-mal heruntergeladen (Quelle: Lasso Security, 2024). Dieses Paket war harmlos. Das Paket eines echten Angreifers wäre es nicht.\n\n## Lösungen, die einen Schutz abschalten\n\nErfundene oder leichtfertige Antworten stecken auch in Ratschlägen, und derselbe OWASP-Eintrag zählt unsichere Code-Vorschläge zu diesem Risiko. Bitten Sie einen KI-Assistenten, einen Fehler zu beheben, schlägt er vielleicht eine schnelle Lösung vor, die einen Schutz entfernt: Zertifikatsprüfung abschalten, einen Firewall-Port für alle öffnen, einem Konto volle Admin-Rechte geben oder ein Passwort im Klartext speichern. Der Fehler verschwindet. Die Sicherheitslücke bleibt.\n\n![Erfundener Chat: Jemand meldet einen Zertifikatsfehler, die KI schlägt vor, die Zertifikatsprüfung abzuschalten; darunter, was dann passiert, und der bessere Weg über die Ursache](/images/learn/de/hallucinations-as-a-security-risk-weak-fix.webp \"Ein erfundenes Beispiel für eine Lösung, die einen Schutz entfernt — und der bessere Weg.\")\n\nDie Forschung zeigt, wie leicht das durchrutscht. In einer Studie an der Stanford University schrieben Teilnehmende mit KI-Assistent deutlich unsichereren Code als jene ohne. Zugleich hielten sie ihren Code häufiger für sicher (Quelle: Perry et al., ACM CCS 2023, arxiv.org). Behandeln Sie jeden KI-Rat, der einen Schutz schwächt, als Warnzeichen, und prüfen Sie ihn anhand der offiziellen Dokumentation des Produkts oder mit Ihrem Sicherheitsteam.\n\n## Erfundene Rechts- und Compliance-Fakten\n\nDasselbe Muster trifft rechtliche Fragen. 2023 verhängte ein US-Bundesgericht Sanktionen gegen zwei Anwälte und ihre Kanzlei, weil ein Schriftsatz Urteile zitierte, die ChatGPT erfunden hatte (Quelle: Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, 2023). In Sicherheits- und Compliance-Fragen sieht das Risiko ähnlich aus: ein erfundener Gesetzesartikel, eine falsche Meldefrist nach einer Datenpanne oder eine ausgedachte Anforderung einer Norm. Eine selbstsichere falsche Antwort kann zu einer Entscheidung führen, die eine Regel bricht oder eine Frist verpasst.\n\nDie Tabelle zeigt, woran Sie die vier Risikoarten erkennen und wie Sie sie prüfen:\n\n| Risiko | Woran Sie es erkennen | So prüfen Sie |\n|---|---|---|\n| Erfundenes Paket | Ein Installationsbefehl für eine Bibliothek, von der Sie nie gehört haben | Im Register nachsehen: Alter, Betreuer, Downloads, Link zum Quellcode; mit der offiziellen Doku vergleichen |\n| Schwächende Lösung | „Prüfung abschalten“, „alles erlauben“, „als Admin ausführen“ | Die Ursache in der offiziellen Dokumentation suchen; nie einen Schutz abschalten, nur damit ein Fehler verschwindet |\n| Erfundener Rechtsfakt | Ein Urteil, Gesetzesartikel oder eine Frist, die Sie nicht finden | Die Primärquelle lesen, etwa den Gesetzestext oder eine Urteilsdatenbank, oder Ihre Rechtsabteilung fragen |\n| Erfundene Referenz | Eine Sicherheitsmeldung, Versionsnummer oder Normklausel, die es zu geben scheint | Auf der Website des Herausgebers suchen; kein Treffer heißt: keine Tatsache |\n\n## Was Benchmarks über Faktenwissen zeigen\n\nWie oft liegen Modelle bei Fakten falsch? Forschende messen das mit **Benchmarks**: standardisierten Tests, die jedes Modell auf dieselbe Weise ablegt. SimpleQA Verified stellt kurze Faktenfragen mit genau einer richtigen Antwort, und die Modelle antworten ohne Websuche. Das sind die aktuellen Spitzenreiter in unseren LLM-Daten:\n\n{{\u003c llm-top bench=\"simpleqa-verified\" n=\"5\" \u003e}}\n\nSelbst die Spitzenreiter verfehlen einen beträchtlichen Teil der Fragen. Die Grafik zeigt jedes Modell unserer Datenbank, das diesen Test abgelegt hat, und viele liegen weit unter den Spitzenreitern:\n\n![Streudiagramm: Ergebnis jedes getesteten Modells in SimpleQA Verified nach Erscheinungsdatum, eingefärbt nach geschlossenen und offenen Gewichten, mit gestrichelten Linien für den Median und die volle Punktzahl](/images/learn/de/hallucinations-as-a-security-risk-simpleqa-models.webp \"SimpleQA Verified, ein Punkt je Modell unserer LLM-Datenbank. Daten: Epoch AI, CC BY 4.0.\")\n\nFür die Sicherheitsarbeit folgen daraus zwei Lehren. Erstens kommt es auf das Modell an: Nutzen Sie für wissenslastige Aufgaben Modelle, die in Faktentests gut abschneiden, und vergleichen Sie sie in unserer [LLM-Datenbank](/de/llm/). Zweitens macht kein Ergebnis die Prüfung überflüssig. Ein Modell, das meistens richtig liegt, liegt manchmal falsch — und klingt dann genauso sicher. Level 2 ordnet Falschinformation in [die OWASP Top 10](/de/ai-security/learn/owasp-top-10-for-llm-applications/) ein, und Level 3 zeigt, wie Sie die ganze [KI-Lieferkette absichern](/de/ai-security/learn/ai-supply-chain-security/), von Modellen bis zu Paketen.\n\n## Prüfen, bevor Sie handeln\n\nNutzen Sie diese kurze Routine immer dann, wenn eine KI-Antwort zu einer Handlung mit Folgen für die Sicherheit führt:\n\n1. **Die Handlung benennen.** Was genau würden Sie aufgrund der Antwort tun: installieren, einstellen, unterschreiben oder senden?\n2. **Die Primärquelle suchen.** Die offizielle Dokumentation, das Paketregister, den Gesetzestext oder die Sicherheitsmeldung des Herstellers.\n3. **Die Details prüfen.** Genauer Name, Version, Nummer und Datum. Ein falscher Buchstabe im Paketnamen genügt.\n4. **Die sichere Voreinstellung wählen.** Schwächt der Rat einen Schutz, suchen Sie einen anderen Weg oder fragen Sie Ihr Sicherheitsteam.\n5. **Notieren, was Sie geprüft haben.** So können andere Ihre Entscheidung nachvollziehen.\n\nDie Routine zählt am meisten, wenn der Assistent zuverlässig wirkt. In einer Umfrage von Microsoft Research und der Carnegie Mellon University unter 319 Wissensarbeitenden von 2025 gaben Menschen mit mehr Vertrauen in generative KI weniger kritisches Denken an, Menschen mit mehr Vertrauen in die eigenen Fähigkeiten dagegen mehr (Quelle: Lee et al., CHI 2025). Eine feste Gewohnheit wie Schritt 5 verhindert, dass die Prüfung mit wachsendem Vertrauen einschläft.\n\nTools können einige dieser Schritte beschleunigen. Nach Angaben der Anbieter antwortet Consensus mit Belegen aus Fachartikeln, Nouswise antwortet aus den Dokumenten, die Sie hochladen, und TestDriver.ai führt Tests für Codeänderungen aus, bevor sie übernommen werden. Keines davon ersetzt Ihre eigene Prüfung.\n\n{{\u003c tools \"consensus nouswise testdriver-ai\" \u003e}}\n\n{{\u003c callout type=\"try\" \u003e}}\nFragen Sie Ihren KI-Assistenten: *„Welches Python-Paket sollte ich nutzen, um Excel-Dateien zu lesen? Bitte mit dem genauen Installationsnamen.“* Installieren Sie noch nichts. Suchen Sie jeden vorgeschlagenen Namen auf pypi.org: Gibt es das Paket? Wann erschien es zuerst? Wer pflegt es? Verwendet die offizielle Dokumentation des Projekts genau diesen Namen? Notieren Sie, welche Vorschläge alle vier Prüfungen bestehen.\n{{\u003c /callout \u003e}}","text":"Ein KI-Assistent, der eine Tatsache erfindet, ist beim Schreiben einer E-Mail ärgerlich. Zum Sicherheitsproblem wird es, wenn jemand danach handelt: Software installiert, die es nicht gibt, eine Lösung übernimmt, die einen Schutz abschaltet, oder sich auf ein Urteil stützt, das nie gefällt wurde. Angreifer haben sogar gelernt, von diesen Fehlern zu profitieren.\nDieser Artikel ist Teil 3 von Level 1 unseres Lernpfads AI Security. Die Sicherheits-Checkliste in Level 0 hat Ihnen geraten, KI-Antworten vor dem Handeln zu prüfen; dieser Teil zeigt, was passiert, wenn niemand prüft. Sie lernen, wann eine Halluzination zum Sicherheitsrisiko wird und wie Angreifer erfundene Paketnamen ausnutzen. Außerdem sehen Sie, warum KI-Ratschläge zu Sicherheitseinstellungen einen zweiten Blick brauchen, was Benchmarks über Faktenwissen zeigen, und lernen eine kurze Prüfroutine kennen.\nWann eine erfundene Antwort zum Risiko wird Eine Halluzination ist eine Antwort, die richtig klingt, aber erfunden ist: eine Tatsache, eine Quelle, eine Zahl oder ein Befehl. Ein Sprachmodell sagt wahrscheinliche Wörter voraus. Es hat kein verlässliches Gespür dafür, welche Fakten es sicher kennt. Ein Grund: Training und gängige Tests belohnen eine selbstsichere Vermutung stärker als ein ehrliches „Ich weiß es nicht“ (Quelle: Kalai et al., „Why Language Models Hallucinate“, 2025, arxiv.org).\nOWASP zählt das unter dem Namen Misinformation (Falschinformation) zu den zehn größten Risiken für KI-Anwendungen. Dazu nennt es ein verwandtes Problem, Overreliance: Menschen vertrauen KI-Ausgaben, ohne sie zu prüfen (Quelle: OWASP Top 10 for LLM Applications 2025, LLM09, genai.owasp.org). In der aktuellen Ausgabe von 2026 ist Falschinformation auf Platz 7 vorgerückt.\nEine Halluzination allein richtet keinen Schaden an. Zum Vorfall wird sie über eine Kette aus vier Gliedern: Das Modell erfindet etwas, es klingt sicher, niemand prüft, und jemand handelt danach. Reißt ein Glied, hält die Kette nicht. Das Glied, das Sie am besten in der Hand haben, ist die Prüfung.\nVon der Halluzination zum Sicherheitsvorfall: Die Prüfung ist das Glied, das Sie in der Hand haben. Erfundene Paketnamen: Slopsquatting Programmierer schreiben selten alles selbst. Sie nutzen Pakete: fertige Code-Bibliotheken, die sie aus öffentlichen Registern laden, etwa PyPI für Python oder npm für JavaScript. KI-Coding-Assistenten schlagen oft Pakete vor — und manchmal solche, die es gar nicht gibt.\nEine Studie, vorgestellt 2025 auf dem USENIX Security Symposium, testete 16 Code-Modelle mit 576.000 Codebeispielen. Im Schnitt existierten mindestens 5,2 Prozent der Pakete nicht, die kommerzielle Modelle vorschlugen. Bei Open-Source-Modellen lag der Anteil bei 21,7 Prozent. Insgesamt zählten die Forschenden 205.474 verschiedene erfundene Paketnamen (Quelle: Spracklen et al., USENIX Security 2025, arxiv.org).\nDas öffnet Angreifern eine Tür. Erfinden Modelle denselben Namen immer wieder, kann ein Angreifer ihn registrieren und mit Schadcode füllen. Wer der KI als Nächstes vertraut, installiert das Paket des Angreifers. Diesen Angriff nennt man Slopsquatting, eine Mischung aus „AI Slop“ (KI-Ramsch) und Typosquatting, dem alten Trick, falsch geschriebene Namen beliebter Pakete zu registrieren. Die OWASP-Liste von 2025 beschreibt genau dieses Szenario als Beispiel für das Risiko der Falschinformation.\nSlopsquatting, vereinfacht: Ein erfundener Name wird zum echten Paket mit dem Code des Angreifers. Wie realistisch ist das? Ein Sicherheitsforscher von Lasso Security lud ein leeres Testpaket unter einem Namen hoch, den KI-Modelle immer wieder erfanden. Innerhalb von drei Monaten wurde es mehr als 30.000-mal heruntergeladen (Quelle: Lasso Security, 2024). Dieses Paket war harmlos. Das Paket eines echten Angreifers wäre es nicht.\nLösungen, die einen Schutz abschalten Erfundene oder leichtfertige Antworten stecken auch in Ratschlägen, und derselbe OWASP-Eintrag zählt unsichere Code-Vorschläge zu diesem Risiko. Bitten Sie einen KI-Assistenten, einen Fehler zu beheben, schlägt er vielleicht eine schnelle Lösung vor, die einen Schutz entfernt: Zertifikatsprüfung abschalten, einen Firewall-Port für alle öffnen, einem Konto volle Admin-Rechte geben oder ein Passwort im Klartext speichern. Der Fehler verschwindet. Die Sicherheitslücke bleibt.\nEin erfundenes Beispiel für eine Lösung, die einen Schutz entfernt — und der bessere Weg. Die Forschung zeigt, wie leicht das durchrutscht. In einer Studie an der Stanford University schrieben Teilnehmende mit KI-Assistent deutlich unsichereren Code als jene ohne. Zugleich hielten sie ihren Code häufiger für sicher (Quelle: Perry et al., ACM CCS 2023, arxiv.org). Behandeln Sie jeden KI-Rat, der einen Schutz schwächt, als Warnzeichen, und prüfen Sie ihn anhand der offiziellen Dokumentation des Produkts oder mit Ihrem Sicherheitsteam.\nErfundene Rechts- und Compliance-Fakten Dasselbe Muster trifft rechtliche Fragen. 2023 verhängte ein US-Bundesgericht Sanktionen gegen zwei Anwälte und ihre Kanzlei, weil ein Schriftsatz Urteile zitierte, die ChatGPT erfunden hatte (Quelle: Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, 2023). In Sicherheits- und Compliance-Fragen sieht das Risiko ähnlich aus: ein erfundener Gesetzesartikel, eine falsche Meldefrist nach einer Datenpanne oder eine ausgedachte Anforderung einer Norm. Eine selbstsichere falsche Antwort kann zu einer Entscheidung führen, die eine Regel bricht oder eine Frist verpasst.\nDie Tabelle zeigt, woran Sie die vier Risikoarten erkennen und wie Sie sie prüfen:\nHalluzinationen als Sicherheitsrisiko Risiko Woran Sie es erkennen So prüfen Sie Erfundenes Paket Ein Installationsbefehl für eine Bibliothek, von der Sie nie gehört haben Im Register nachsehen: Alter, Betreuer, Downloads, Link zum Quellcode; mit der offiziellen Doku vergleichen Schwächende Lösung „Prüfung abschalten“, „alles erlauben“, „als Admin ausführen“ Die Ursache in der offiziellen Dokumentation suchen; nie einen Schutz abschalten, nur damit ein Fehler verschwindet Erfundener Rechtsfakt Ein Urteil, Gesetzesartikel oder eine Frist, die Sie nicht finden Die Primärquelle lesen, etwa den Gesetzestext oder eine Urteilsdatenbank, oder Ihre Rechtsabteilung fragen Erfundene Referenz Eine Sicherheitsmeldung, Versionsnummer oder Normklausel, die es zu geben scheint Auf der Website des Herausgebers suchen; kein Treffer heißt: keine Tatsache Was Benchmarks über Faktenwissen zeigen Wie oft liegen Modelle bei Fakten falsch? Forschende messen das mit Benchmarks: standardisierten Tests, die jedes Modell auf dieselbe Weise ablegt. SimpleQA Verified stellt kurze Faktenfragen mit genau einer richtigen Antwort, und die Modelle antworten ohne Websuche. Das sind die aktuellen Spitzenreiter in unseren LLM-Daten:\nSimpleQA Verified: die 5 besten Modelle #ModellErschienenErgebnis 1Gemini 4 Argon (high) Google DeepMind30.09.202676,0 % 2GPT-6 Astra (max) OpenAI03.09.202675,6 % 3GPT-6.1 Sol (max) OpenAI29.09.202673,9 % 4Gemini 3.1 Pro Preview Google DeepMind19.02.202673,5 % 5Claude Opus 5.5 (max) Anthropic22.09.202672,2 % Kurze Faktenfragen mit genau einer richtigen Antwort, beantwortet ohne Hilfsmittel. Zeigt, wie viel ein Modell wirklich weiß — und wie oft es eine Antwort erfindet, statt Nichtwissen zuzugeben. Daten: Epoch AI, abgerufen am 17.10.2026, Lizenz CC BY 4.0. Alle Modelle: LLM-Datenbank.\nSelbst die Spitzenreiter verfehlen einen beträchtlichen Teil der Fragen. Die Grafik zeigt jedes Modell unserer Datenbank, das diesen Test abgelegt hat, und viele liegen weit unter den Spitzenreitern:\nSimpleQA Verified, ein Punkt je Modell unserer LLM-Datenbank. Daten: Epoch AI, CC BY 4.0. Für die Sicherheitsarbeit folgen daraus zwei Lehren. Erstens kommt es auf das Modell an: Nutzen Sie für wissenslastige Aufgaben Modelle, die in Faktentests gut abschneiden, und vergleichen Sie sie in unserer LLM-Datenbank. Zweitens macht kein Ergebnis die Prüfung überflüssig. Ein Modell, das meistens richtig liegt, liegt manchmal falsch — und klingt dann genauso sicher. Level 2 ordnet Falschinformation in die OWASP Top 10 ein, und Level 3 zeigt, wie Sie die ganze KI-Lieferkette absichern, von Modellen bis zu Paketen.\nPrüfen, bevor Sie handeln Nutzen Sie diese kurze Routine immer dann, wenn eine KI-Antwort zu einer Handlung mit Folgen für die Sicherheit führt:\nDie Handlung benennen. Was genau würden Sie aufgrund der Antwort tun: installieren, einstellen, unterschreiben oder senden? Die Primärquelle suchen. Die offizielle Dokumentation, das Paketregister, den Gesetzestext oder die Sicherheitsmeldung des Herstellers. Die Details prüfen. Genauer Name, Version, Nummer und Datum. Ein falscher Buchstabe im Paketnamen genügt. Die sichere Voreinstellung wählen. Schwächt der Rat einen Schutz, suchen Sie einen anderen Weg oder fragen Sie Ihr Sicherheitsteam. Notieren, was Sie geprüft haben. So können andere Ihre Entscheidung nachvollziehen. Die Routine zählt am meisten, wenn der Assistent zuverlässig wirkt. In einer Umfrage von Microsoft Research und der Carnegie Mellon University unter 319 Wissensarbeitenden von 2025 gaben Menschen mit mehr Vertrauen in generative KI weniger kritisches Denken an, Menschen mit mehr Vertrauen in die eigenen Fähigkeiten dagegen mehr (Quelle: Lee et al., CHI 2025). Eine feste Gewohnheit wie Schritt 5 verhindert, dass die Prüfung mit wachsendem Vertrauen einschläft.\nTools können einige dieser Schritte beschleunigen. Nach Angaben der Anbieter antwortet Consensus mit Belegen aus Fachartikeln, Nouswise antwortet aus den Dokumenten, die Sie hochladen, und TestDriver.ai führt Tests für Codeänderungen aus, bevor sie übernommen werden. Keines davon ersetzt Ihre eigene Prüfung.\nConsensusSchreiben \u0026amp; Recherche · KI ist der KernKI-Suchmaschine für wissenschaftliche Studien, die Ergebnisse aus Fachartikeln zusammenfasst. NouswiseSchreiben \u0026amp; Recherche · KI ist der KernRecherche-Assistent, der Antworten auf die Quellen stützt, die Sie selbst hochladen. TestDriver.aiApp-Bau \u0026amp; Tests · KI ist der KernFührt Pull Requests in einer Desktop-Sandbox aus, sucht Fehler und baut Regressionstests. Kurzbeschreibungen aus unserem Tool-Vergleich, nach Angaben der Anbieter — nicht von ABXK getestet.\n▸Probieren Sie es aus\nFragen Sie Ihren KI-Assistenten: „Welches Python-Paket sollte ich nutzen, um Excel-Dateien zu lesen? Bitte mit dem genauen Installationsnamen.“ Installieren Sie noch nichts. Suchen Sie jeden vorgeschlagenen Namen auf pypi.org: Gibt es das Paket? Wann erschien es zuerst? Wer pflegt es? Verwendet die offizielle Dokumentation des Projekts genau diesen Namen? Notieren Sie, welche Vorschläge alle vier Prüfungen bestehen.\n","words":1474},"date":"2026-10-14","description":"Wenn erfundene KI-Antworten zu Sicherheitsvorfällen werden: falsche Paketnamen, unsichere Lösungen, erfundene Rechtsfakten, was Benchmarks zeigen und wie Sie prüfen.","image":"https://abxk.ai/images/cover/hallucinations-as-a-security-risk.webp","json":"https://abxk.ai/de/ai-security/learn/hallucinations-as-a-security-risk/index.json","kind":"page","language":"de","learning_path":{"category":"ai-security","level":1,"level_name":"Grundlagen"},"modified":"2026-10-14","related_tools":["Consensus","Nouswise","TestDriver.ai"],"section":"ai-security","tags":["halluzinationen","slopsquatting","software-lieferkette","verifizierung"],"title":"Halluzinationen als Sicherheitsrisiko","translations":[{"json":"https://abxk.ai/en/ai-security/learn/hallucinations-as-a-security-risk/index.json","language":"en","url":"https://abxk.ai/en/ai-security/learn/hallucinations-as-a-security-risk/"}],"url":"https://abxk.ai/de/ai-security/learn/hallucinations-as-a-security-risk/"}