Unul din șase adulți americani solicită ChatGPT sfaturi medicale cel puțin o dată pe lună. Spoiler alert: este o idee proastă.
Un nou studiu realizat de Universitatea Oxford confirmă ceea ce medicul de familie spune de luni de zile — chatbot-urile cu Inteligență Artificială sunt extrem de ineficiente în a ajuta oamenii să identifice problemele reale de sănătate. Adică sunt mai ineficiente decât o simplă căutare pe Google a simptomelor.
„În ciuda tuturor așteptărilor, AI nu este încă pregătită să preia rolul medicului”, spune Rebecca Payne, care a condus studiul de la Oxford. „Pacienții trebuie să fie conștienți că a întreba un model lingvistic mare despre simptomele lor poate fi periculos, deoarece poate da diagnostice greșite și nu poate recunoaște când este nevoie de ajutor urgent”.
Cercetătorii au prezentat la aproape 1.300 de persoane scenarii realiste legate de sănătate — dureri de cap cauzate de mahmureală, epuizarea unei mame care t, simptome ale calculilor biliari — apoi le-au lăsat să se descurce singure cu ChatGPT, Meta’s Llama 3, Command R+ sau pur și simplu cu Google.
- Cum ne va modela inteligența artificială existența
- Inteligența Artificială: Aliat sau Adversar?
- ANALIZĂ | Devin bisericile americane păstorite de Inteligența Artificială?
Utilizatorii AI au identificat corect „starea” lor doar în aproximativ o treime din cazuri. Au găsit următorul pas corect (camera de urgență? îngrijiri medicale de urgență? să doarmă până le trece?) în mai puțin de jumătate din cazuri. Utilizatorii Google? La fel de buni.
Iată ce e interesant: aceiași chatboti excelează la examenele de licență medicală. Pot promova teste concepute pentru medici. Dar dacă îi pui să converseze cu un om real, anxios, care caută simptome pe Google la 2 dimineața? Dezastru total.
Problema nu este cu cunoștințele medicale ale AI, ci faptul că oamenii sunt comunicatori needucați. Nu oferim chatbot-urilor toate informațiile relevante. Înțelegem greșit răspunsurile lor. Ignorăm pur și simplu sfaturile lor. Scenariile simulate cu pacienți pe care AI le rezolvă cu brio în teste nu se traduc în panica din lumea reală și informații incomplete.
Și iată care este problema: punem foarte multă încredere într-o tehnologie care, în mod evident, nu este pregătită pentru asta. ChatGPT pare încrezător și autoritar, ceea ce îl face ușor de crezut — chiar și atunci când greșește în mod spectaculos. Dar încrederea nu este același lucru cu competența, iar miza este reală când vorbim despre sănătatea umană.
Dacă AI nu vă poate ajuta în mod real să vă dați seama dacă durerea de cap necesită Advil sau o vizită la urgențe, merită să vă întrebați ce alte decizii importante din viață externalizăm către chatboți.
Sfaturi despre relații? Întrebări despre creșterea copiilor? Dileme etice? Planificare financiară? AI poate fi utilă pentru brainstorming sau organizarea informațiilor, dar tratarea acesteia ca pe un oracol atotștiutor — în special pentru deciziile cu miză mare — este un pariu pe care nu suntem încă pregătiți să îl facem.
„Acesta este un studiu foarte important, deoarece evidențiază riscurile medicale reale pe care le prezintă chatbot-urile pentru public”, spune David Shaw, bioetician la Universitatea din Maastricht, care nu a fost implicat în cercetare.
Traducere: întrebarea adresată ChatGPT „este ciudată această aluniță?” ar putea de fapt să vă facă rău. Botul ar putea omite ceva urgent. Sau v-ar putea speria degeaba.
Sfatul lui Shaw? Rămâneți la surse medicale reale. Sau: sunați-vă medicul.
Pe măsură ce AI devine din ce în ce mai omniprezentă (și, sincer, mai convingătoare), tot mai mulți oameni vor fi tentați să renunțe la asigurările medicale și să-și întrebe telefonul.
Acest studiu ne reamintește faptul că ChatGPT poate părea de încredere, dar asta nu îl face calificat. Sănătatea noastră merită mai mult decât un chatbot care se joacă de-a doctorul.
Sursă articol: Tribuna.us
