Este sigur să ceri sfaturi medicale unui chatbot? Ce ar trebui să știți despre confidențialitate și riscuri

Odată cu popularitatea tot mai mare a chatbotsmai multe companii de tehnologie au dezvoltat programe specifice pentru a răspunde întrebări de sănătatedeși avertizează că nu sunt un substitut al asistenței profesionale.

În luna ianuarie, OpenAI a lansat ChatGPT Healthun chatbot conceput pentru a analiza dosarele medicale, aplicațiile de wellness și datele despre dispozitivele portabile pentru a răspunde întrebărilor medicale și de asistență medicală. În prezent, programul menține o listă de așteptare. La rândul lui, antropică oferă funcții similare prin intermediul său chatbot Claude pentru anumiți utilizatori.

Ambele companii subliniază că acești roboti de chat, cunoscuți ca modele lingvistice extinse, Acestea nu trebuie să înlocuiască îngrijirea profesională sau să fie utilizate pentru a diagnostica boli. Instrumentele, spun ei, pot rezuma rezultatele testelor complexe, pot pregăti pacientul pentru vizitele la medic și pot analiza tendințe importante în domeniul sănătății în dosarele medicale și valorile aplicațiilor.

Unii medici care au lucrat cu ChatGPT Health cred că aceste platforme oferă informații mai personalizate decât o căutare convențională pe internet, deși recunosc că Sistemele nu sunt infailibile și pot genera erori sau „halucinații”.

„Alternativa este adesea să nu faci nimic sau să lași pacientul să improvizeze”, a spus dr. Robert Wachter, expert în tehnologie medicală la Universitatea din California, San Francisco. „De aceea cred că dacă utilizați aceste instrumente în mod responsabil, puteți obține informații utile.”

Un avantaj al chatbot-urilor mai noi este că aceștia răspund luând în considerare contextul istoricului medical al utilizatorului, inclusiv vârsta, prescripțiile și notițele medicului. Deși aceste informații nu sunt partajate, vă recomandăm să furnizați cât mai multe detalii posibil pentru a obține răspunsuri cât mai precise.

Experții avertizează acest lucru chatbot-urile nu trebuie folosite în situații de urgență medicală. Simptome precum dificultăți de respirație, dureri în piept sau dureri de cap severe necesită o atenție profesională imediată.

În situații mai puțin urgente, utilizatorii ar trebui să mențină „un grad de scepticism sănătos”, a spus dr. Lloyd Minor de la Universitatea Stanford. „Dacă vorbești despre o decizie medicală majoră, sau chiar despre o decizie mai mică cu privire la sănătatea ta, nu ar trebui să te bazezi niciodată doar pe ceea ce obții dintr-un model larg de limbaj”, a adăugat Minor.

Chatboții au nevoie de informații personale pentru a oferi răspunsuri detaliate, dar datele partajate nu sunt protejate de legea federală de confidențialitate HIPAAcare reglementează informațiile medicale confidențiale de la spitale, medici și asigurători.

„Când cineva își încarcă istoricul medical pe un model lingvistic lung, este foarte diferit de a-l preda unui nou medic”, a spus Minor. „Consumatorii ar trebui să înțeleagă că se aplică standarde de confidențialitate complet diferite.” OpenAI și Anthropic spun că datele de sănătate ale utilizatorilor sunt păstrate separat de alte tipuri de informații și nu sunt folosite pentru antrenarea modelelor. Utilizatorii pot fi de acord să-și partajeze datele și să se deconecteze în orice moment.

Studiile privind chatbot-urile din domeniul sănătății sunt încă preliminare. O analiză a Universității Oxford a 1.300 de participanți a arătat că persoanele care au consultat chatbot-uri pentru condiții ipotetice nu au luat decizii mai bune decât cei care au folosit căutările online sau propria lor judecată.

Chatbot-ii au identificat corect condiția de bază în 95% dintre scenariile scrise, dar au avut probleme la interacțiunea cu utilizatori reali. „Nu asta a fost problema”, a spus Adam Mahdi de la Oxford Internet Institute. „Unde s-a prăbușit totul a fost în timpul interacțiunii cu participanții reali.”

Printre problemele detectate, de multe ori utilizatorii nu au furnizat suficiente informații, iar chatboții au răspuns amestecând date pozitive și negative, făcând dificilă interpretarea corectă.

Wachter consideră capacitatea chatbot-urilor de a pune întrebări ulterioare și de a obține detalii cheie de la utilizatori ca un domeniu cu spațiu de îmbunătățire. „Cred că se va îmbunătăți cu adevărat atunci când instrumentele vor deveni puțin mai medicale în modul în care interacționează cu pacienții”, a spus el.

O modalitate de a crește încrederea în informațiile pe care le primiți este să consultați diferiți chatbot, similar cu obținerea unei a doua opinie medicale. „Uneori introduc informații în ChatGPT și Gemini”, a spus Wachter. „Și când amândoi sunt de acord, mă simt puțin mai încrezător că este răspunsul corect.”

Agenția AP