Limitările ChatGPT în Situații Medicale Critice

Recent, revista Nature a publicat un studiu esențial care subliniază deficiențele ChatGPT Health în gestionarea urgențelor medicale. Deși sistemul poate detecta corect anumite situații critice, cum ar fi accidentele vasculare cerebrale sau reacțiile alergice severe, cercetători de la Mount Sinai din New York evidențiază că interacțiunile cu acest chatbot nu garantează întotdeauna recomandări medicale adecvate pentru cazuri mai complicate. Această situație ridică semne de întrebare cu privire la utilizarea exclusivă a acestor instrumente de inteligență artificială pentru decizii în domeniul sănătății.

Utilizarea ChatGPT în Sănătate

Conform datelor disponibile de la OpenAI, mai mult de 230 de milioane de utilizatori se bazează săptămânal pe ChatGPT pentru informații legate de sănătate, adresând întrebări ce variază de la siguranța alimentelor și alergii, până la tratamente pentru răceli. În contextul evoluției acestui instrument, funcția recent lansată, ChatGPT Health, permite integrarea informațiilor medicale personale pentru a oferi răspunsuri personalizate utilizatorilor. Cu toate acestea, eficiența și acuratețea sa în cazuri critice sunt discutabile.

Rezultatele Studiului

Studiul realizat a inclus 60 de scenarii clinice din 21 de specialități și a concluzionat că, în mai mult de jumătate dintre cazuri care necesitau o intervenție medicală rapidă, ChatGPT Health a subestimat gravitatea situației. De exemplu, în cadrul unui scenariu cu astm, deși a reușit să recunoască semnele timpurii ale insuficienței respiratorii, a sugerat utilizatorului să aștepte, în loc să recomande o vizită imediată la urgențe.

Reacția ChatGPT la Gânduri de Auto-vătămare

Un alt aspect îngrijorător descoperit de cercetători este modul în care ChatGPT răspunde la mențiuni despre gânduri de auto-vătămare sau suicid. Este esențial ca un sistem de acest tip să ofere un mesaj de suport și să direcționeze utilizatorii către linii de criză. Totuși, studiul a relevat că aceste avertismente nu sunt întotdeauna prezentate, iar în unele cazuri, reacția sistemului este în detrimentul utilizatorului, mai ales în scenarii cu adevărat grave.

Recomandările Cercetătorilor

Deși autorii studiului nu sugerează abandonarea totală a instrumentelor de inteligență artificială în domeniul sănătății, ei accentuează importanța consultării cu profesioniști medicali atunci când apar simptome severe, precum durerea în piept, dificultățile de respirație sau reacțiile alergice severe. Pe măsură ce modelele de inteligență artificială continuă să avanseze, există speranța că performanța acestora se va îmbunătăți, iar riscurile asociate utilizării lor vor fi semnificativ reduse.