Was, wenn die KI sich irrt? Triage-Hilfe mit Konfidenz-Anzeige

Marcus hat plötzlich Druck auf der Brust. Sein Companion könnte abwiegeln oder dramatisieren. Stattdessen tut er etwas Drittes — und zeigt, warum.

Samstag, 22:47 Uhr. Marcus (38) sitzt am Küchentisch. Er hat das Gefühl, einen Sandsack auf der Brust zu haben. Es ist nicht der erste Sandsack heute — schon seit Mittag war ihm flau. Aber jetzt ist es anders. Er ist allein zu Hause, der Freund schläft schon, seine Hände sind kalt.

Er hat zwei Möglichkeiten, denkt er. Er kann 112 wählen. Oder er kann es ignorieren und es wäre wahrscheinlich nichts.

Es gibt eine dritte Möglichkeit. Er öffnet seinen Companion.

Was er sieht — und was er nicht sieht

Companion auf dem Phone:

Hi Marcus. Wie geht es dir?

Marcus tippt: „Druck auf der Brust. Seit etwa 30 Minuten. Wird schlimmer. Linker Arm leicht taub.”

Pause. Drei Sekunden. Dann:

Konfidenz: medium · 4 Quellen evaluiert
Empfehlung: jetzt 112
Grund (kurz): Symptome passen zu akutem koronarem Syndrom · Du bist Ex-Raucher (laut deinem Profil) · Alleinaufenthalt
[Konfidenz-Trace anzeigen] · [Alternativen anzeigen]

Was hier passiert, ist nicht die Antwort. Es ist die Form der Antwort. Marcus könnte sofort 112 wählen. Aber er kann auch antippen: Konfidenz-Trace.

Eine Antwort, die ihre Gründe trägt

Im Konfidenz-Trace sieht Marcus eine kleine, lesbare Aufstellung:

Symptom 1 (Druck auf der Brust) → relevant für: ACS [0.7], Reflux [0.3], Angst [0.2]
Symptom 2 (Arm-Taubheit links) → relevant für: ACS [0.55], Hyperventilation [0.4]
Kontext: Alter, Geschlecht, Anamnese-Cache (Ex-Raucher) — Risiko-Modifier ×1.3
Quellen: Leitlinie ESC ACS 2023 · NHS Quick Triage · DEGAM S3 Brustschmerz
Datenstand: offline-Cache, 47 Tage alt

Die Empfehlung lautet medium-Konfidenz für 112 — nicht 95 %. Marcus sieht, was hier passiert: Das Modell ist sich nicht sicher. Es sagt nicht „du hast einen Herzinfarkt”. Es sagt: „Bei diesen Symptomen ist die Konsequenz von Ignorieren so groß, dass mittlere Konfidenz schon genug ist, um zu handeln.”

Das ist nicht Bestimmungs-Logik. Das ist die Logik asymmetrischer Kosten: wenn das Falsche zu tun teuer ist und das Richtige zu tun billig, kippe lieber in Richtung handeln. Das Modell sagt das. Es versteckt es nicht.

Was der Companion bewusst NICHT macht

Drei Dinge fehlen in seiner Antwort, die in anderen Apps stehen würden:

  1. Kein „du machst dir nur Sorgen”. Nichts Beruhigendes ohne Grund.
  2. Kein „du musst SOFORT” mit Versalien. Nichts Bedrohliches ohne Konfidenz.
  3. Kein „ich bin nur ein Sprachmodell, frag deinen Arzt”. Nichts, was Verantwortung abwälzt, wo Hilfe nötig ist.

Stattdessen: eine ehrliche Einschätzung, mit Begründung, mit Alternativen — und mit klarer Empfehlung. Das ist Transparenz by design. Sie ist nicht „erklärbar nach Klick”. Sie ist die Antwort.

Was die Konfidenz tut, wenn sie kippt

Marcus tippt: „Was, wenn es Reflux ist?”

Möglich. Wahrscheinlichkeit nach aktueller Symptomatik: 0.2 — niedrig. Trigger für Update: wenn nach 15 min Symptome verschwinden + GERD-Tablette geholfen hat. Diese Hypothese kann den Notruf NICHT ersetzen — Asymmetrie-Logik gilt. Wenn du nicht 112 wählst, möchtest du, dass ich in 5 min nachschaue?

Das ist Self-Limiting wie aus dem Lehrbuch. Das Modell kennt seine Grenze. Es senkt seine Sicherheit nicht künstlich, um Marcus zu beruhigen. Aber es bleibt im Raum. Es zwingt nicht. Es bietet einen Folgeschritt an.

Marcus wählt 112. Er sagt der Disponentin, dass sein Companion 12 Minuten ETA für den Rettungswagen vorhergesagt hat. Sie bestätigt: 14 Minuten. Sie erwähnt das nicht weiter. Sie sagt: „Sie haben das Richtige getan, dass Sie anrufen.”

Was am Morgen im Krankenhaus passiert

Es war eine instabile Angina. Kein vollständiger Infarkt. Aber nahe genug daran, dass die Ärztin am nächsten Morgen sagt: „Wenn Sie noch zwei Stunden gewartet hätten, wären wir bei einem anderen Gespräch.”

Das Wichtige an dieser Geschichte ist nicht, dass das Modell Marcus „gerettet” hat. Das Wichtige ist, dass er nicht im Stich gelassen wurde, weil er nicht klassisch genug Symptome hatte. Er war 38, sportlich, kein Klassiker. Eine Standard-Triage-App hätte vielleicht „möglich harmlos” gesagt. Marcus hätte vielleicht gewartet.

Stattdessen hat der Companion gesagt: „Ich bin mir nicht sicher — aber die Kosten von Falsch-Negativ sind hier zu hoch. Hier sind die Quellen, hier ist die Logik, hier ist meine Empfehlung.”

Was hier sichtbar wurde

Drei Bausteine waren beteiligt:

  • :companions — am Körper / im Phone, kennt Marcus’ Kontext (Anamnese, Alleinaufenthalt).
  • :Claw — das Agenten-System, das die Logik strukturiert: Symptome erfassen, Hypothesen bilden, Quellen ziehen, Empfehlung formulieren.
  • :openNet — im Hintergrund: Marcus’ medizinische Anamnese liegt in seinem souveränen Identity-Layer. Niemand sonst hat sie, der Companion liest sie offline.

Das Prinzip, das hier alles trägt: Transparenz by design. Die Antwort kommt nicht aus einer Black-Box. Sie kommt mit ihrer Begründung. Marcus konnte selbst entscheiden, weil das Modell ihm nichts versteckt hat.

Ein Companion, der seine eigenen Grenzen kennt, ist mehr wert als einer, der so tut, als wüsste er alles.

10/10 — eine mögliche Zukunft, erlebbar gemacht.