Der künstliche Dr. Chatbot und seine wundersame Verkürzung der Wartezeit auf einen Arzttermin


Der Winter kommt!
Habt Ihr euch schon eine Krankheit ausgesucht?
Ich nehme das Jammern für Wehleidige.

Gefällige Selbstdiagnose

Das Jammern wirkt viel glaubwürdiger, wenn man zuvor Dr. Google konsultiert und die richtigen Fachbegriffe parat hat – und viel dramatischer. Natürlich kann der Erkrankte die Suche verfeinern und so lange an ihr feilen, bis sich das gewünschte Ergebnis zum passenden Leiden einstellt.

Ich weiß nicht, ob durch Google die Arztbesuche zunehmen, weil übertriebene Krankheiten vermehrt als Ergebnisse auftauchen oder eher abnehmen. Ich google jedenfalls häufiger meine selbstbeobachteten Symptome und gehe dann meistens nicht zum Arzt – ich ging immer schon selten zum Arzt.

Der künstliche Dr. Chatbot als Dein Arzt ohne Vertrauen

Im Gegensatz zu mir scheinen häufige oder unnötige Arztbesuche bei anderen Menschen vorzukommen, das wiederum lange Wartezeiten zur Folge hat. Um hier sinnvolle (Ab-)Hilfe zu leisten, entwickelte das britische Unternehmen Babylon Health eine Gesundheitsapp, die mit künstlicher Intelligenz (KI) eine zutreffende Diagnose stellen soll.

Die KI-App wurde mit tausenden Fällen trainiert und soll neben zuverlässigen Diagnosen auch eine Überweisung an einen Spezialisten liefern.

Das klingt nach einer Erfolgsgeschichte, denn neben dem praktischen Nutzen löst es zwei weitere Probleme: man spart den Arztbesuch während der Arbeitszeit und läuft nicht Gefahr, während des Wartens beim Arzt von den wirklich Kranken angesteckt zu werden.

Der menschliche Faktor

Aber, so wie es immer der Fall war und ist, unterschätzte man hier den (kranken) Menschen. Als die App in einem ersten Test mit Patienten ausprobiert wurde, passierte etwas Überraschendes: Die Patienten »hackten« die App.

In der Gesundheitsapp befragt ein Chatbot in einem Dialog den Patienten. In diesem dynamischen Szenario nahmen Patienten eine Eigendynamik auf: Sie lernten, wie sie auf die Fragen des Chatbots antworten mussten, um schneller an einen Arzttermin heran zu kommen.

Ein lernfähiges System traf also auf ein anderes lernfähiges System, das im Gegensatz zum Ersteren eine Motivation besaß und daher nicht wahrheitsgemäß sondern opportun antwortete. Damit konterkarierten die Patienten das Ziel, die Arztbesuche zu reduzieren.

Lie to me* oder Was Dr. House sagen würde

Dr. House hätte die App gefallen, denn sie erstellt eine Diagnose ohne Patientenkontakt – und House hasst nichts mehr als Kontakt mit Patienten oder die Patienten an sich. Auch wenn House nicht real ist, wer eine Folge Dr. House gesehen hat, der weiß, dass Patienten nicht immer die Wahrheit sagen. Sei es bewusst oder unbewusst.

Das Team um »Lie to me*« ging sogar einen Schritt weiter. Sie fragten sich nicht, ob ein Mensch lügt, sondern warum: die Frage nach der Motivation.

Die fehlende Frage nach der Motivation

Optimisten würden sagen, die App trainiert seine Patienten, um schneller an Arzttermine heran zu kommen. Wenn sich das herumspricht, könnte die App ungewollt ein Renner werden.

Man darf den Menschen nicht vorwerfen, dass sie im Krankheitsfall, egal ob real oder eingebildet, versuchen, schnellstmöglich einen Arzttermin zu bekommen. Genauso halte ich die App für sinnvoll. Sie könnte kurz vor dem Termin den Patienten befragen und dem Arzt hilfreiche Informationen zur Verfügung stellen und vielleicht auch den Arzttermin verkürzen.

Ich schreibe bewusst kurz vorher und nicht »im Voraus«, denn der Patient soll wahrheitsgemäß antworten und nicht denken, er könne mit seinen Antworten den bevorstehenden Termin nach vorn verschieben oder schlimmer noch, der Termin wird vom Arzt nach hinten verschoben. Oder man geht direkt in die Notaufnahme.

Eins hat die App (unfreiwillig?) geschafft: Sie offenbart meiner Ansicht nach Symptome eines nicht funktionierenden Gesundheitssystems, in dem Patienten Wochen oder Monate auf einen Arzttermin warten bzw. bangen müssen. Etwas, das Privatpatienten in Deutschland nicht kennen, munkelt man.

Menschliche Intelligenz vs. künstliche Intelligenz

Eigentlich wollte ich nicht über das Gesundheitssystem schreiben, sondern über die Gefahren der Künstlichen Intelligenz. Aber ich bin wie immer abgeglitten. Das Thema »Gesundheitssystem« ist bei mir emotional vorbelastet und übertrumpft wegen seiner Lebensnähe zurzeit das andere, nicht unwichtige Thema der KI.

Ich halte die KI wie Elon Musk und Stephen Hawking für potenziell gefährlich, bin mir aber nicht sicher, ob wir in einer fernen Zukunft in einer von Maschinen dominierten Welt wie in der Matrix leben oder nur einen Supercomputer erschaffen werden, der nach einer Millionen Jahren auf die Frage nach dem Sinn des Lebens »42« antwortet.

Ich bin mir bewusst, das Thema künstlich aufgebauscht und gegeneinander positioniert zu haben, obwohl die hier beschriebene Gesundheitsapp zum Nutzen der Menschen gedacht ist. Aber so beginnen die bekanntesten Dystopien in Filmen.

Egal wie es ausgehen mag, der Mensch ist kreativ und entzieht sich mit seinen Gefühlen der kalten Logik einer jeden Maschine. Und vielleicht ist es genau das, was den Menschen – bei all seiner Anfälligkeit – überlegen bzw. überlebensfähig macht.

via t3n

photo by pixabay

2 Gedanken zu “Der künstliche Dr. Chatbot und seine wundersame Verkürzung der Wartezeit auf einen Arzttermin

    Reposts

    • Hakan von C

    Schreibe einen Kommentar

    Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.