Elon Musk îl oprește pe AI Grok de la X să „dezbrace” oamenii adevărați

După mai multe plângeri și acțiuni în justițieElon Musk a cedat: X, fost Twitter, a anunțat restricția inteligenței sale artificiale Grok împiedică crearea și modificarea imaginilor unor persoane reale în situații sexuale compromițătoare, în lenjerie intimă sau goale.

Această decizie vine după o presiune publică și politică intensă, motivată de știri pe această temă generarea nudității neconsensuale și a reprezentărilor sexualizatechiar și minori, cu ajutorul lui Grok și pe scară largă.

Compania a explicat acest lucru în detaliu prin contul său oficial de securitate Restricțiile încearcă să împiedice sistemul să prelucreze cererile de afișare a persoanelor reale în haine precum bikini sau lenjerie intimă.

Limitările tehnice pentru a preveni această funcționalitate se bazează pe modificările aduse modelului de abonament. Printre punctele principale ale acestei actualizări se numără:

• Restricționați accesul la instrumentele de creare și editare a imaginilor exclusiv pentru abonații plătitori.
• Geo-blocarea persoanelor în lenjerie intimă pentru imagini în jurisdicțiile în care acest tip de conținut este ilegal.
• Aplicarea acestor interdicții la toate nivelurile de utilizator, fără excepție pentru conturile Premium.

În ciuda anunțului, implementarea pare să se confrunte cu provocări tehnice. În timp ce compania se asigură că măsurile sunt în vigoare, testele efectuate cu mijloace specializate precum Limita sugerează-l și Este posibil să ocoliți unele filtre folosind aplicații mobile sau versiuni webpermițând ca fotografiile unor persoane publice să fie modificate în contexte sexualizate.

Elon Musk, proprietarul rețelei de socializare, a apărat funcționarea instrumentului său, argumentând că sistemul nu acționează singur.

„Grok nu generează imagini în mod spontan, ci doar pe baza solicitărilor utilizatorilor”a declarat antreprenorul într-un articol pe X, raportat de Forbes.

Musk a subliniat și acest lucru AI este programat să respecte legile locale și că orice eșec se datorează unor încercări externe pentru a manipula comenzile de chat, asigurându-ne că „dacă se întâmplă acest lucru, remediam imediat eroarea”.

Cu toate acestea, autoritățile mențin un ton de supraveghere strictă. În Marea Britanie, prim-ministrul Keir Starmer a confirmat că a fost menținută o comunicare directă cu compania pentru a asigura respectarea reglementărilor din Regatul Unit.

„Am clarificat acest lucru

Situația a degenerat în domeniul judiciar din Statele Unite. Procurorul general din California Rob Bonta a lansat o investigație oficială asupra xAI, compania din spatele lui Grok, pentru că ar fi facilitat producția în masă de „deepfake” intime neconsensuale.

Potrivit Procuraturii, a fost primit un volum considerabil de plângeri care indică modul în care aceste instrumente sunt folosite pentru hărțuirea femeilor și fetelor pe internet. Scopul autorităților este de a determina dacă tehnologia lui Musk a încălcat legile de securitate și confidențialitate, într-un moment în care etica în inteligența artificială a devenit o prioritate pentru autoritățile de reglementare globale.