Künstliche Intelligenz

Der Begriff KI umfasst sehr unterschiedliche Ansätze. Die ältere, regelbasierte Richtung bildet Wissen in ausdrücklich formulierten Regeln ab — nachvollziehbar, aber aufwendig zu pflegen. Die heute dominierende Richtung ist das maschinelle Lernen: Statt Regeln vorzugeben, leitet ein Verfahren Muster aus Beispieldaten ab.

Innerhalb des maschinellen Lernens unterscheidet man drei Lernarten. Beim überwachten Lernen liegen zu jedem Beispiel die richtigen Antworten vor, etwa als Kategorie oder Zahl. Beim unüberwachten Lernen sucht das Verfahren selbst nach Strukturen, zum Beispiel Gruppen ähnlicher Datenpunkte. Beim bestärkenden Lernen entsteht Können durch Versuch und Rückmeldung: Erwünschtes Verhalten wird belohnt, unerwünschtes bestraft — das Prinzip hinter Steuerungsaufgaben, Robotik und Spielstrategien.

Tiefes Lernen ist kein vierter Weg, sondern eine besonders leistungsfähige Modellklasse innerhalb dieser Lernarten: vielschichtige neuronale Netze, die Merkmale selbst herausarbeiten, statt sie vorgegeben zu bekommen. Sprachmodelle, Bildgeneratoren und Spracherkennung gehören alle dorthin.

Der aufwendigste Teil eines KI-Projekts ist selten das Modell, sondern die Datenarbeit: sammeln, bereinigen, kennzeichnen, in eine geeignete Form bringen. Wer schlechte Daten mit einem besseren Verfahren ausgleichen will, scheitert zuverlässig — Verzerrungen im Trainingsmaterial finden sich unweigerlich in den Ergebnissen wieder.

Zentral ist die saubere Trennung von Trainings- und Testdaten. Ein Modell an denselben Beispielen zu bewerten, an denen es gelernt hat, misst Auswendiglernen statt Können. Genau darin liegt auch das Kernproblem der Überanpassung: Ein Modell, das die Trainingsdaten perfekt trifft, kann bei neuen Fällen erstaunlich schwach sein.

Wichtig ist außerdem ein Gütemaß, das zum Problem passt. Bei stark ungleich verteilten Daten — etwa selten auftretendem Betrug — ist die reine Trefferquote irreführend, weil ein Modell schon durch pauschales Ablehnen sehr gut aussieht. Dann zählen Kennzahlen, die richtig erkannte Fälle und Fehlalarme getrennt betrachten.

Für die meisten Anwendungen ist ein eigenes Modell heute nicht mehr der erste Weg. Vortrainierte Modelle über Schnittstellen abzurufen, ist schneller und günstiger; ein eigenes Training lohnt sich vor allem bei sehr spezifischen Aufgaben, strengen Datenschutzanforderungen oder wenn Daten das eigentliche Alleinstellungsmerkmal sind. Zwischen beidem liegen Zwischenformen: Fachwissen zur Laufzeit als Kontext mitgeben oder ein bestehendes Modell mit eigenen Beispielen nachjustieren.

Unabhängig vom Weg gelten dieselben Grenzen. Sprachmodelle erzeugen plausible, aber nicht zwingend richtige Aussagen; sie kennen keine Wahrheit, sondern Wahrscheinlichkeiten. Für alles, was verbindlich ist — Preise, Rechtsfolgen, medizinische Aussagen — braucht es eine geprüfte Quelle und eine menschliche Kontrollinstanz.

Dazu kommen rechtliche Rahmenbedingungen. Für personenbezogene Daten gilt die DSGVO auch dann, wenn sie an einen externen Dienst gesendet werden. Und mit der KI-Verordnung der EU, die 2024 in Kraft getreten ist und schrittweise anwendbar wird, kommen je nach Risikoklasse zusätzliche Pflichten zu Transparenz und Dokumentation hinzu.

Sobald ein Modell Teil eines Produkts wird, stellen sich Fragen, die klassische Software nicht kennt. Antworten sind nicht deterministisch: Dieselbe Eingabe kann unterschiedliche Ausgaben erzeugen, weshalb sich Ergebnisse nicht gegen einen exakten Sollwert prüfen lassen. Üblich sind stattdessen Sammlungen typischer Fälle mit erwarteten Eigenschaften, gegen die eine neue Modell- oder Anweisungsversion läuft, bevor sie ausgerollt wird.

Auch die Anweisungen an das Modell sind Teil des Systems und gehören versioniert und nachvollziehbar abgelegt, nicht in eine Textdatei am Rand. Dazu kommen praktische Randbedingungen: Antwortzeiten liegen deutlich über denen einer Datenbankabfrage, Kosten entstehen abhängig von der verarbeiteten Textmenge, und ein externer Dienst kann ausfallen — ein Rückfallweg gehört deshalb von Anfang an eingeplant.

Sicherheitsrelevant ist schließlich, dass ein Sprachmodell Anweisung und Inhalt nicht sauber voneinander trennt. Text aus fremden Quellen kann Anweisungen enthalten, die das Modell befolgt. Alles, was ein solches System selbstständig auslösen darf, sollte daher eng begrenzt, mit Rechten versehen und protokolliert sein.