Pozor! AI chatboti zagotavljajo nezanesljive informacije o zdravilih

Pozor! AI chatboti zagotavljajo nezanesljive informacije o zdravilih

Erlangen, Deutschland - Alarmantna študija razkriva, da iskalniki in chatboti, ki temeljijo na AI, ne ponujajo zanesljivih informacij o zdravilih. Raziskovalci z univerze v Erlangenu so ugotovili, da so odgovori pogosto netočni in nerazumljivi, ki ogrožajo varnost pacientov. V reviji Specialist "BMJ kakovost in varnost" pozivajo k previdnosti in zahtevajo jasna opozorila. Trueram Andrikyan, prvi avtor, spozna, da kakovost odgovorov na klepet bot ne zadostuje za nadomestitev strokovnega nasveta zdravnika.

V preiskavi, ki je bila izvedena aprila 2023, je ekipa postavila deset pogostih vprašanj Bing-Chatbot o 50 najbolj predpisanih zdravilih v ZDA. Čeprav se je celoten klepetalni bot dobro odrezal, je bilo v določenih vprašanjih veliko pomanjkljivosti. Te netočnosti niso prepoznavne za laike, kar je veliko tveganje. Kljub najnovejšemu napredku v tehnologiji AI obstaja veliko tveganje za varnost bolnikov. Andrikyan je treba natančno preveriti tudi varnost in kakovost drugih chatbotov. Nadaljnje podrobnosti o študiji najdete na je mogoče brati.