Attenzione! I chatbot AI forniscono informazioni inaffidabili sui farmaci

Attenzione! I chatbot AI forniscono informazioni inaffidabili sui farmaci

Erlangen, Deutschland - Uno studio allarmante rivela che i motori di ricerca e i chatbot basati sull'intelligenza artificiale non offrono informazioni affidabili sui farmaci. I ricercatori dell'Università di Erlangen hanno scoperto che le risposte sono spesso inaccurate e incomprensibili, che mette in pericolo la sicurezza dei pazienti. Nel diario specializzato "BMJ Quality & Safety", chiedono cautela e richiedono chiari avvertimenti. Trueram Andrikyan, il primo autore, si rende conto che la qualità delle risposte alla chat bot non è sufficiente per sostituire la consulenza professionale di un medico.

Nell'indagine, che è stata condotta nell'aprile 2023, il team ha posto al Bing-Chatbot dieci frequenti domande sui 50 farmaci più prescritti negli Stati Uniti. Sebbene il bot di chat complessivo abbia tagliato bene, ci sono stati notevoli debolezze in determinate domande. Queste inesattezze non sono riconoscibili per i layperson, il che è un grande rischio. Nonostante gli ultimi progressi nella tecnologia AI, esiste un notevole rischio di sicurezza dei pazienti. La sicurezza e la qualità di altri chatbot devono anche essere rigorosamente controllati, afferma Andrikyan. Ulteriori dettagli sullo studio sono disponibili su www.abendzeitung-muenchen.de può essere letto