Pozor! Chatboty AI poskytujú nespoľahlivé informácie o liekoch

Pozor! Chatboty AI poskytujú nespoľahlivé informácie o liekoch

Erlangen, Deutschland - Alarmujúca štúdia ukazuje, že vyhľadávacie nástroje a chatboty založené na AI neponúkajú spoľahlivé informácie o liekoch. Vedci z University of Erlangen zistili, že odpovede sú často nepresné a nepochopiteľné, čo ohrozuje bezpečnosť pacientov. V špecializovanom časopise „BMJ Kvalita a bezpečnosť“ požadujú opatrnosť a požadujú jasné varovania. Trueram Andrikyan, prvý autor, si uvedomuje, že kvalita odpovedí na chat Bot nie je dostatočná na nahradenie odbornej rady lekára.

Vo vyšetrovaní, ktoré sa uskutočnilo v apríli 2023, tím položil Bing-Chatbot desať častých otázok týkajúcich sa 50 najviac predpísaných liekov v USA. Aj keď celkový chat Bot dobre prerušil, v určitých otázkach boli značné slabosti. Tieto nepresnosti nie sú rozpoznateľné pre laikov, čo je veľké riziko. Napriek najnovšiemu pokroku v technológii AI existuje značné riziko bezpečnosti pacientov. Bezpečnosť a kvalita iných chatbotov sa musí tiež dôkladne skontrolovať, hovorí Andrikyan. Ďalšie podrobnosti o štúdii nájdete na www.abendzeitung-muenchen.de je možné prečítať.