Vorsicht! KI-Chatbots liefern unzuverlässige Infos zu Medikamenten

Erlangen, Deutschland - Eine alarmierende Studie enthüllt, dass KI-gestützte Suchmaschinen und Chatbots keine verlässlichen Informationen zu Medikamenten bieten. Forscher der Universität Erlangen fanden heraus, dass die Antworten häufig ungenau und unverständlich sind, was die Patientensicherheit gefährdet. Im Fachjournal „BMJ Quality & Safety“ rufen sie zu Vorsicht auf und fordern klare Warnhinweise. Wahram Andrikyan, der Erstautor, merkt an, dass die Qualität der Chatbot-Antworten nicht ausreicht, um den professionellen Rat eines Arztes zu ersetzen.

In der Untersuchung, die im April 2023 durchgeführt wurde, stellte das Team dem Bing-Chatbot zehn häufige Fragen zu den 50 meistverordneten Medikamenten in den USA. Obwohl der Chatbot insgesamt gut abschnitt, gab es bei bestimmten Fragen erhebliche Schwächen. Diese Ungenauigkeiten sind für Laien nicht erkennbar, was ein großes Risiko darstellt. Trotz der jüngsten Fortschritte in der KI-Technologie bleibt ein erhebliches Risiko für die Sicherheit von Patienten. Die Sicherheit und Qualität anderer Chatbots müssen ebenfalls rigoros überprüft werden, so Andrikyan. Weitere Details zur Studie können auf www.abendzeitung-muenchen.de nachgelesen werden.