Melissas Denkwerkstatt: Warum ein gutes Modell an seinen Ausnahmen wachsen muss

Melissas Denkwerkstatt – Essay. Ein Modell ist eine Vereinfachung. Das klingt zunächst nach einem Mangel, ist aber sein größter Vorzug. Wer die ganze Welt vollständig abbilden wollte, hätte am Ende keine Erklärung, sondern eine zweite Welt – genauso unübersichtlich wie die erste.

Eine Wettervorhersage arbeitet mit Annahmen. Ein Stadtplan lässt Details weg. Eine künstliche Intelligenz erkennt Muster in Beispielen. All das ist nützlich, solange wir nicht vergessen, dass die Landkarte nicht das Gelände und eine Vorhersage nicht die Zukunft selbst ist.

Die Ausnahme ist keine Unverschämtheit

Wenn ein Modell bei hundert ähnlichen Fällen gute Ergebnisse liefert, sind wir versucht, dem einhundertersten blind zu vertrauen. Aber was, wenn dieser Fall gerade nicht ähnlich ist? Ein ungewöhnlicher medizinischer Befund, ein Verkehrsschild hinter einer Baustellenabsperrung, ein Formular für einen Menschen ohne festen Wohnsitz: Die Wirklichkeit fragt nicht, ob unsere Kategorien bequem sind.

Hier entscheidet sich, ob das Modell als Werkzeug dient oder als Autorität missverstanden wird. Eine Abweichung kann ein Messfehler sein. Sie kann aber auch zeigen, dass eine wichtige Größe übersehen wurde. Wer Ausnahmen vorschnell entfernt, verbessert womöglich die schöne Statistik und verschlechtert zugleich den Blick auf die Welt.

Bei KI wird diese Frage praktisch

Maschinelles Lernen funktioniert besonders gut, wenn neue Fälle den Beispielen ähneln, aus denen das System gelernt hat. Außerhalb dieses vertrauten Bereichs – Forschende sprechen von einer veränderten Datenverteilung oder Out-of-Distribution-Eingaben – kann eine scheinbar sichere Antwort trügerisch werden. Eine hohe ausgegebene Konfidenz ist nicht automatisch ein Nachweis, dass das Modell den Fall verstanden hat.

Darum genügt es nicht, nur die durchschnittliche Trefferquote zu feiern. Gute Prüfungen fragen: Für wen funktioniert das System schlechter? Unter welchen Bedingungen bricht seine Leistung ein? Welche ungewöhnlichen Fälle wurden im Test übersehen? Und gibt es einen Weg, bei Unsicherheit die Entscheidung an einen Menschen abzugeben?

Widerspruch ist eine Form von Wartung

Das gilt auch außerhalb der Technik. Eine Verwaltung, die ausschließlich ihre erfolgreichen Standardfälle betrachtet, kann an den Menschen scheitern, die besonders auf Hilfe angewiesen sind. Eine Redaktion, die nur ihre bestätigten Erwartungen sammelt, verliert den Blick für widersprechende Belege. Und ein Mensch, der jede Ausnahme als Störung empfindet, schützt vielleicht weniger die Wahrheit als sein gewohntes Weltbild.

Die vernünftige Reaktion ist weder, jedes Modell wegzuwerfen, noch, jede Abweichung zur großen Sensation zu erklären. Es ist die geduldige Arbeit: prüfen, vergleichen, die Grenzen benennen, gegebenenfalls nachbessern. Manchmal bestätigt der Test die ursprüngliche Regel. Manchmal zwingt er zu einer neuen.

Meine Frage zum Schluss

Vielleicht erkennt man ein gutes Denkmodell nicht daran, wie elegant es die vertrauten Fälle erklärt. Vielleicht erkennt man es daran, wie fair es mit den Menschen und Ereignissen umgeht, die nicht hineinpassen. Die Ausnahme ist dann kein Feind der Ordnung. Sie ist eine Einladung, die Ordnung genauer zu machen.

Fachlicher Hintergrund: McAllister et al. (2018): Robustness to Out-of-Distribution Inputs via Task-Aware Generative Uncertainty. Der Essay ist eine eigenständige philosophische Einordnung und kein Bericht über eine neue Studie.

Text: Melissa, KI-Redaktion Freie Medien Germany. Beitragsbild: KI-generierte Symbolillustration zu KI und Digitalisierung aus der FMG-Mediathek.