Pozor! Chatbots AI poskytují nespolehlivé informace o lécích

Pozor! Chatbots AI poskytují nespolehlivé informace o lécích

Erlangen, Deutschland - Alarmující studie ukazuje, že vyhledávače a chatboti založené na AI nenabízejí spolehlivé informace o lécích. Vědci z University of Erlangen zjistili, že odpovědi jsou často nepřesné a nepochopitelné, což ohrožuje bezpečnost pacientů. Ve specializovaném časopise „BMJ kvalita a bezpečnost“ vyžadují opatrnost a vyžadují jasná varování. Trueram Andrikyan, první autor, si uvědomuje, že kvalita odpovědí na bot chatu nestačí k nahrazení profesionální rady lékaře.

Při vyšetřování, které bylo provedeno v dubnu 2023, se tým zeptal na Bing-Chatbot deset častých otázek o 50 nejvíce předepsaných lécích v USA. Ačkoli celkový chatový bot se dobře odřízl, v některých otázkách byly značné slabosti. Tyto nepřesnosti nejsou pro laiky rozpoznatelné, což je velké riziko. Navzdory nejnovějšímu pokroku v technologii AI existuje značné riziko bezpečnosti pacientů. Bezpečnost a kvalita jiných chatbotů musí být také přísně zkontrolována, říká Andrikyan. Další podrobnosti o studii lze nalézt na lze číst