Vigyázat! Az AI chatbotok megbízhatatlan információkat nyújtanak a gyógyszeres kezelésről

Vigyázat! Az AI chatbotok megbízhatatlan információkat nyújtanak a gyógyszeres kezelésről

Erlangen, Deutschland - A riasztó tanulmány kimutatja, hogy az AI-alapú keresőmotorok és chatbotok nem nyújtanak megbízható információkat a gyógyszerekről. Az Erlangeni Egyetem kutatói úgy találták, hogy a válaszok gyakran pontatlanok és érthetetlenek, ami veszélyezteti a betegek biztonságát. A "BMJ Minőség és Biztonság" speciális folyóiratban óvatosan felszólítanak és egyértelmű figyelmeztetéseket igényelnek. Trueram Andrikyan, az első szerző rájön, hogy a CHAT bot válaszok minősége nem elegendő az orvos szakmai tanácsának helyettesítéséhez.

A vizsgálat során, amelyet 2023 áprilisában hajtottak végre, a csapat tíz gyakori kérdést tett fel a Bing-Chatbot-nak az USA 50 legelterjedtebb gyógyszerével kapcsolatban. Noha a teljes csevegőbot jól levágott, bizonyos kérdésekben jelentős gyengeségek voltak. Ezek a pontatlanságok nem ismerhetők fel a laikusok számára, ami nagy kockázatot jelent. Az AI technológia legújabb fejlődése ellenére a betegek biztonságának jelentős kockázata van. Más chatbotok biztonságát és minőségét szintén szigorúan ellenőrizni kell - mondja Andrikyan. A tanulmány további részletei a www.abanendzeitung-muenchen.de Olvasható.