Atsargiai! AI pokalbių robotai suteikia nepatikimos informacijos apie vaistus

Atsargiai! AI pokalbių robotai suteikia nepatikimos informacijos apie vaistus

Erlangen, Deutschland - Nerimą keliantis tyrimas atskleidžia, kad AI pagrįstos paieškos sistemos ir pokalbių programos nesiūlo patikimos informacijos apie vaistus. Erlangeno universiteto tyrėjai nustatė, kad atsakymai dažnai būna netikslūs ir nesuprantami, o tai kelia pavojų pacientų saugumui. Specializuotame žurnale „BMJ kokybė ir sauga“ jie reikalauja atsargiai ir reikalauja aiškių įspėjimų. Pirmasis autorius Trueramas Andrikyanas supranta, kad pokalbių bot atsakymų kokybė nepakanka norint pakeisti profesionalų gydytojo patarimą.

Tyrimo metu, kuris buvo atliktas 2023 m. Balandžio mėn., Komanda uždavė „Bing-Chatbot“ dešimt dažnų klausimų apie 50 labiausiai paskirtų vaistų JAV. Nors bendras pokalbių robotas gerai nutraukė, tam tikri klausimai turėjo nemažų trūkumų. Šie netikslumai nėra atpažįstami pasauliečiams, o tai yra didelė rizika. Nepaisant naujausios AI technologijos pažangos, kyla didelė pacientų saugumo rizika. Kitų pokalbių programų saugumas ir kokybė taip pat turi būti griežtai tikrinami, sako Andrikyanas. Išsamesnę informaciją apie tyrimą galima rasti Galima perskaityti