Chatbots gefährden Patienten: Studie fordert Warnhinweise für Nutzer!

Erlangen, Deutschland - Eine alarmierende Studie der Universität Erlangen enthüllt gravierende Mängel bei den Informationen von Chatbots und KI-Suchmaschinen zu Medikamenten. Laut den Forschern liefern diese digitalen Helfer oft ungenaue und unvollständige Antworten, die für Laien schwer verständlich sind. Um die Nutzer zu schützen, fordern sie dringend deutliche Warnhinweise, dass die von den Chatbots bereitgestellten Informationen keinen professionellen medizinischen Rat ersetzen können. „Die Qualität der Antworten reicht nicht aus, um eine sichere Anwendung zu gewährleisten“, erklärte Wahram Andrikyan, Erstautor der Studie, die im Fachjournal „BMJ Quality & Safety“ veröffentlicht wurde.

Die Forscher konfrontierten den KI-Chatbot von Microsoft mit häufigen Fragen zu den 50 meistverordneten Medikamenten in den USA. Während einige Antworten zufriedenstellend waren, gab es gravierende Ungenauigkeiten, die potenziell riskant für Patienten sind, die selbst nicht in der Lage sind, die Informationen zu validieren. Trotz der bedeutenden Fortschritte in der KI-Technologie sind die Risiken für die Patientensicherheit noch lange nicht beseitigt, so dass eine Evaluation weiterer technischer Systeme dringend empfohlen wird. Für mehr Informationen, siehe den Artikel von www.infranken.de.