Oprez! AI chatboti pružaju nepouzdane informacije o lijekovima

Oprez! AI chatboti pružaju nepouzdane informacije o lijekovima

Erlangen, Deutschland - Alarmantna studija otkriva da tražilice i chatboti temeljeni na AI ne nude pouzdane informacije o lijekovima. Istraživači sa Sveučilišta u Erlangenu otkrili su da su odgovori često netočni i nerazumljivi, što ugrožava sigurnost pacijenata. U specijalnom časopisu "BMJ kvaliteta i sigurnost" zahtijevaju oprez i zahtijevaju jasna upozorenja. Trueram Andrikyan, prvi autor, shvaća da kvaliteta odgovora za chat bot nije dovoljna za zamjenu profesionalnog savjeta liječnika.

U istrazi, koja je provedena u travnju 2023., tim je postavio Bing-Chatbot Deset čestih pitanja o 50 naj propisanih lijekova u SAD-u. Iako je cjelokupni chat bot odsjekao dobro, bilo je znatnih slabosti u određenim pitanjima. Ove netočnosti nisu prepoznatljive za laike, što je veliki rizik. Unatoč najnovijem napretku u AI tehnologiji, postoji značajan rizik od sigurnosti pacijenata. Sigurnost i kvaliteta drugih chatbota također se moraju strogo provjeriti, kaže Andrikyan. Daljnje pojedinosti o studiji mogu se naći na može se pročitati.