Wissenschaftler treiben KI den Hochmut aus

Diese soll sich selbst nicht als allwissend empfinden - insbesondere, wenn die KI zur Unterstützung bei der Diagnose von Krankheiten oder bei Fragen zur Finanzveranlagung zum Einsatz kommt. Wenn sie sich bei einer Entscheidung nicht sicher ist, soll sie das offen zugeben und den Nutzer zum Einholen weiterer Informationen auffordern.

KI als Co-Pilot «degradiert»

«Wir nutzen KI derzeit als Orakel, aber wir können KI auch als Coach einsetzen», sagt MIT-Forscher Leo Anthony Celi, der auch als Arzt am Beth Israel Deaconess Medical Center tätig ist und als ausserordentlicher Professor an der Harvard Medical School lehrt. «Wir wollen KI lieber als Co-Piloten nutzen. Das würde nicht nur unsere Fähigkeit verbessern, Informationen abzurufen, sondern auch unsere Handlungsfähigkeit stärken, um Zusammenhänge herzustellen.»

Celi und seine Kollegen haben ein Rahmenwerk entwickelt, das KI-Entwicklern als Leitfaden dienen soll, um Systeme zu entwerfen, die zur Selbstkritik fähig sind. Das könnte es Ärzten und KI-Systemen ermöglichen, als Partner zusammenzuarbeiten und dazu beitragen, dass KI keinen gefährlich grossen Einfluss auf die Entscheidungen von Ärzten nimmt.

Ärzte nicht überstimmen

Die Vision der Wissenschaftler: Stellt das System fest, dass die Beweise, die für eine Entscheidung herangezogen werden, nicht ausreichen, kennzeichnet es seine Unsicherheit und empfiehlt zusätzliche Tests oder die Konsultation eines Spezialisten. Das Ziel ist daher eine KI, die nicht nur Antworten liefert, sondern auch signalisiert, wann diese womöglich mit Vorsicht zu geniessen sind.

Übermässig selbstbewusste KI-Systeme können laut dem MIT-Team zu Fehlern vor allem im medizinischen Umfeld führen. Frühere Studien haben gezeigt, dass sich beispielsweise Ärzte auf der Intensivstation auf KI-Systeme verlassen, die sie als zuverlässig empfinden - selbst wenn ihre eigene Intuition dem Vorschlag der KI widerspricht. Sowohl Ärzte als auch Patienten neigen dazu, falsche KI-Empfehlungen zu akzeptieren, selbst wenn diese als merkwürdig wahrgenommen werden, heisst es. (pressetext.com)