KI-Risiken im Kontext verstehen
Das lernen Sie
Geschätzte Zeit: 9 Minuten
Dieser Kurs setzt die in „KI-Grundlagen für die Praxis“ behandelten Konzepte zur KI-Nutzung voraus und baut Governance darauf auf. KI-Risiko ist keine einzelne Kennzahl. Ein Anwendungsfall ist risikoarm, risikomittel oder risikohoch, je nachdem, wie drei Faktoren zusammenwirken: wie sensibel die Daten sind, wie viel bei der Entscheidung auf dem Spiel steht, und wie viel das System tun kann, ohne dass zuvor eine Person prüft.
- Benennen Sie die drei Dimensionen, die KI-Risiko bestimmen.
- Bewerten Sie einen realen Anwendungsfall anhand dieser Dimensionen.
- Ordnen Sie die Prüfanforderung der resultierenden Risikostufe zu.
Videolektion
Die Animation bewertet einen öffentlichen Newsletter-Entwurf und eine unbeaufsichtigte Gehaltsabrechnungsänderung anhand desselben Drei-Fragen-Rasters.
Drei Fragen, keine einzelne Kennzahl
Datensensibilität fragt, was die KI liest: öffentliche Informationen, interne Notizen, vertrauliches Kundenmaterial oder regulierte personenbezogene Daten. Entscheidungstragweite fragt, was passiert, wenn das Ergebnis falsch ist: ein vernachlässigbarer Entwurf oder eine Entscheidung, die Geld, Sicherheit oder die Anstellung einer Person betrifft. Autonomie fragt, ob eine Person das Ergebnis prüft, bevor es wirksam wird, oder ob das System eigenständig handelt.
Es genügt, dass einer dieser drei Werte hoch ist, damit der gesamte Anwendungsfall genauer betrachtet werden muss. Eine vertrauliche Datei, die nur für die interne Prüfung zusammengefasst wird, ist risikoärmer als eine öffentliche Pressemitteilung, die ein Agent (KI, die auf Systemen handelt, nicht nur Entwürfe erstellt) ohne Prüfschritt verfasst und veröffentlicht, weil im zweiten Fall die Autonomie den größten Teil des Gewichts trägt.
Bewerten Sie reale Anwendungsfälle, nicht Kategorien
Allgemeine Bezeichnungen wie „Marketing“ oder „Personalwesen“ verraten nichts über das Risiko; das tut erst die konkrete Aufgabe. Bewerten Sie die tatsächliche Anfrage, die Ihr Team ausführen möchte.
- Daten: öffentlich, intern, vertraulich oder reguliert.
- Tragweite: reversibel und kostengünstig, oder betrifft Geld, Rechte, Sicherheit oder Ansehen.
- Autonomie: nur beratend, erstellt Entwürfe zur Prüfung, oder handelt und schreibt ohne Prüfung.
Durchgerechnetes Beispiel: zwei Anfragen bewerten
Prompt: „Bewerten Sie diesen Anwendungsfall anhand unseres Risikorasters – Daten: interne Personalnotizen; Tragweite: irreversibel, betrifft das Gehalt eines Mitarbeiters; Autonomie: Der Agent aktualisiert das Gehaltsabrechnungssystem direkt, ohne Prüfung. Nennen Sie eine Risikostufe und den einen wichtigsten Treiber.“
Antwort (Auszug): „Risikostufe: hoch. Die Datensensibilität ist nur mittel (intern, nicht reguliert), doch der Treiber ist die Autonomie: Das System schreibt vor einer irreversiblen Gehaltsänderung direkt in die Abrechnung, ohne menschliche Prüfung. Fügen Sie vor der Schreibaktion einen Prüfschritt hinzu, oder beschränken Sie den Agenten auf reine Entwurfserstellung, bis ein solcher existiert.“
Die Risikostufe zur Festlegung der Prüfschwelle nutzen
Die Risikostufe ist nicht das Ende der Übung; sie legt fest, wie viel Prüfung eine Aufgabe vor ihrer Ausführung erhält – genau darauf bauen die nächsten drei Lektionen auf.
Praktisch anwenden
1. Übungsmaterial vorbereiten
Beschreiben Sie in drei bis fünf Sätzen eine reale oder erfundene Situation mit folgendem Ziel: Klassifizieren Sie Anwendungsfälle nach Datensensibilität, Entscheidungstragweite und Autonomiegrad. Nennen Sie den vorgesehenen Nutzer, eine Einschränkung und wie Sie das Ergebnis prüfen werden.
2. Wählen Sie Ihr KI-Werkzeug
Wählen Sie ein Werkzeug für diese Übung. Die weiteren Schritte passen sich daran an.
3. Prompt kopieren
Ihr Übungs-Prompt
Wählen Sie drei reale oder geplante KI-Anwendungsfälle aus Ihrer Organisation. Nennen Sie für jeden die Datensensibilität, die Entscheidungstragweite und den Autonomiegrad, und bitten Sie dann eine KI, eine Risikostufe zuzuweisen und den einen wichtigsten Risikotreiber zu benennen. Akzeptieren Sie keine Risikostufe ohne genannten Treiber.
4. Öffnen ChatGPT · Prompt in einen neuen Chat einfügen
Öffnen Sie einen neuen Chat in ChatGPT und fügen Sie den kopierten Prompt in das Nachrichtenfeld ein.
Öffnen ChatGPT5. Übungsmaterial hinzufügen
Fügen Sie Ihr vorbereitetes Szenario unter dem Prompt ein, getrennt durch eine Überschrift wie „Übungsszenario“.
6. Absenden und Ergebnis prüfen
Beantworten Sie Rückfragen. Prüfen Sie das Ergebnis anhand Ihrer Quelle und der nachstehenden Abschlusskontrolle, bevor Sie es verwenden.
Bevor Sie fortfahren
Die drei Risikodimensionen sind für einen realen Anwendungsfall benannt.
Ein Anwendungsfall wurde bewertet, mit identifiziertem wichtigstem Treiber.
Eine Prüfanforderung wurde der resultierenden Risikostufe zugeordnet.
