Vorsicht! Chatbots liefern unzuverlässige Infos zu Medikamenten

Erlangen, Deutschland - Eine neue Studie schlägt Alarm: KI-gestützte Suchmaschinen und Chatbots liefern laut Forschern der Universität Erlangen keine zuverlässigen Informationen zu Medikamenten. Die Antworten seien oft ungenau, unvollständig und schwer verständlich, was potenziell gefährlich für Patienten ist. In einem Test wurden dem Chatbot der Microsoft-Suchmaschine Bing zehn häufige Fragen zu den meist verordneten Medikamenten in den USA gestellt. Während einige Antworten vollzinnig waren, traten gravierende Ungenauigkeiten auf, die Laien nicht erkennen können.

Wahram Andrikyan, Erstautor der Studie, weist darauf hin, dass Nutzer von Chatbots unbedingt gewarnt werden sollten. Er betont, dass die bereitgestellten Informationen niemals professionellen Rat ersetzen können. Auch wenn in den letzten Monaten Fortschritte bei KI-Technologien gemacht wurden, bleibt die Patientensicherheit ein ernstes Risiko. Die Wissenschaftler fordern daher dringend, die Qualität und Sicherheit der verwendeten Systeme weiter zu untersuchen, um die Nutzer besser zu schützen. Weitere Informationen zu den Ergebnissen der Studie finden sich hier.