Inteligența artificială în medicină: de ce medicii vor continua să fie de neînlocuit, potrivit experților

Un irlandez în vârstă de 37 de ani a decis să consulte ChatGPT pentru o durere persistentă în gât. Sistemul a răspuns că „este foarte puțin probabil să aveți cancer”. Luni mai târziu, un medic a confirmat cancer esofagian avansat.

Cazul lui Warren Tierneypsiholog și tată, a călătorit internațional și a devenit un exemplu al riscurilor folosirii inteligenței artificiale (AI) fără supraveghere medicală.

Tierney a folosit instrumentul pentru a exclude bolile, dar pe măsură ce simptomele s-au agravat, a revenit la el de mai multe ori.

Când în sfârșit a mers la spital, A primit un diagnostic de adenocarcinom avansat cu șanse mici de supraviețuire. Din camera lui a recunoscut că întârzierile datorate încrederii în chatbot „l-au costat probabil câteva luni din viață”.

Utilizarea modelelor de limbaj precum ChatGPT s-a extins rapid, deși aceste sisteme nu au fost concepute pentru a înlocui raționamentul medical. Potrivit lui Hernán Seoane, consultant strategic în inovare în domeniul sănătății și al inteligenței artificiale, “cel mai mare risc este încrederea excesivă. Aceste instrumente pot părea foarte sigure chiar dacă sunt greșite. Pot să halucineze datele, să le lipsească contextul clinic sau să-ți ignore antecedentele. Ele servesc pentru a informa și îndruma, dar nu sunt un substitut pentru un examen medical”.

Seoane avertizează, de asemenea, cu privire la confidențialitate și limitările geografice ale datelor. „Nu orice chat este un mediu potrivit pentru a partaja informații sensibile”, spune el, explicând că modelele sunt de obicei antrenate cu informații din medii diferite. „Ceea ce funcționează într-un spital din Statele Unite poate să nu funcționeze la fel în Salta sau în suburbii.”

Din punct de vedere tehnic, se face distincție între sistemele generale și modelele specializate. “Un model general este un mare conversator instruit cu Internet și cărți, dar nu este conceput pentru a lua decizii clinice. În schimb, un IA medical este alimentat cu date selectate, utilizează standarde de diagnostic și trece prin evaluări de reglementare. În plus, are trasabilitate: știi cu ce date a fost instruit și cum este actualizat.”

Referitor la implicarea inteligenței artificiale în diagnostic, Seoane subliniază: “Da, dar ca suport și în sarcini bine definite. Poate prioritiza imaginile suspecte pentru ca radiologul să le vadă mai întâi sau să rezuma istoriile clinice sau să ajute la triajul telefonic. Acolo unde există dovezi și supraveghere, îmbunătățește timpii și reduce erorile. responsabilitate clinică”.

Specialistul propune o integrare cu „oamenii în centru, inteligența artificială ca copilot”. În această schemă, Asistentul digital colaborează la gestionarea turelor, a rapoartelor clinice sau a alertelor de medicamente, întotdeauna sub supraveghere profesională. „Cheia este siguranța, controlul și transparența: cine a folosit AI, ce au recomandat și cu ce dovezi.”

Pentru a evita tragedii precum cea a lui Tierney, Seoane propune trei niveluri de reglementare: validarea clinică proporțională cu riscul, guvernarea datelor și transparența. „Cu cât impactul asupra sănătății este mai mare, cu atât testarea trebuie să fie mai strictă înainte și după utilizare”, spune el. În plus, el subliniază necesitatea unor modele reprezentative și responsabile: „Nu vrem modele care funcționează bine doar pentru un grup”.

Consultantul amintește că unele sisteme medicale AI sunt deja considerate dispozitive medicale și sunt supuse standardelor internaționale. „Există reguli pentru proiectarea, testarea, actualizarea și monitorizarea acestor instrumente, la fel ca în cazul unui electrocardiograf – doar aici dispozitivul este un algoritm.”

Seoane își rezumă viziunea cu o propoziție care definește direcția pe care ar trebui să o ia asistența medicală digitală: „Inovația responsabilă nu se oprește, merge înainte cu dovezi, reguli clare și cu profesionistul ca garant al deciziei finale”.

La Nación (Argentina) / GDA