Atenţie! Chatbot -urile AI oferă informații nesigure despre medicamente

Atenţie! Chatbot -urile AI oferă informații nesigure despre medicamente

Erlangen, Deutschland - Un studiu alarmant dezvăluie că motoarele de căutare bazate pe AI și chatbot-urile nu oferă informații fiabile despre medicamente. Cercetătorii de la Universitatea din Erlangen au descoperit că răspunsurile sunt adesea inexacte și de neînțeles, ceea ce pune în pericol siguranța pacientului. În jurnalul de specialitate „Calitatea și siguranța BMJ”, acestea solicită prudență și cer avertismente clare. Trueram Andrikyan, primul autor, își dă seama că calitatea răspunsurilor chat bot nu este suficientă pentru a înlocui sfaturile profesionale ale unui medic.

În anchetă, care a fost realizată în aprilie 2023, echipa a întrebat Bing-Chatbot Zece întrebări frecvente despre cele mai prescrise 50 de medicamente din SUA. Deși bot -ul de chat general a întrerupt bine, au existat slăbiciuni considerabile în anumite întrebări. Aceste inexactități nu sunt recunoscute pentru laici, ceea ce reprezintă un risc mare. În ciuda celor mai recente progrese în tehnologia AI, există un risc considerabil de siguranță a pacienților. Siguranța și calitatea altor chatbots trebuie, de asemenea, verificate riguros, spune Andrikyan. Mai multe detalii despre studiu pot fi găsite pe poate fi citit