Se teme OpenAI de ceea ce creează? El propune încetinirea inteligenței artificiale de teama superinteligenței incontrolabile

OpenAI, compania din spatele unora dintre cele mai avansate sisteme de inteligență artificială din lume, a avertizat că riscurile asociate cu dezvoltarea unei posibile „superinteligențe” ar putea fi „„potențial catastrofal”.

Într-un nou raport intitulat Avansuri și recomandări ale AI (AI Progress and Recommendations), compania își propune chiar să ia în considerare o încetinire globală a progresului în sector, pentru a studia mai bine mecanismele de control și aliniere ale acestor sisteme.

Documentul precizează că, deși beneficiile inteligenței artificiale sunt enorme, lipsa controlului asupra sistemelor de înaltă capacitate reprezintă un pericol pe care societatea nu-l poate ignora. „Evident, nimeni nu ar trebui să implementeze sisteme superinteligente fără a le putea alinia și controla robust, iar asta necesită mai multă muncă tehnică”subliniază textul.

Cea mai convingătoare afirmație este sugestia că industria ar putea avea nevoie să „încetinească” AI pentru a-și studia în continuare efectele și riscurile înainte de a atinge niveluri de auto-îmbunătățire recursivă, adică atunci când sistemele în sine pot fi reproiectate fără intervenția umană.

OpenAI avertizează că competiția dintre laboratoare și țări ar putea genera o „cursă” tehnologică cu stimulente contraproductive pentru siguranță.

Prin urmare, propune ca principalii jucători din sector să convină asupra unor principii comune de cercetare și protocoale de siguranță, comparabile cu reglementările istorice care reglementează construcția sau protecția împotriva incendiilor.

Compania sugerează că această cooperare globală include guverne și agenții din diferite țări, pentru a coordona acțiuni în special în zone sensibile, cum să preveniți utilizarea inteligenței artificiale în bioterorism sau manipularea informațiilor pe scară largă.

Raportul identifică două scenarii posibile: unul în care inteligența artificială evoluează similar cu alte inovații – precum tipărirea sau internetul – și altul în care superinteligența apare într-un ritm fără precedent. În acest din urmă caz, avertizează OpenAI, reglementările tradiționale pot fi insuficiente.

În ciuda tonului prudent, compania își reiterează angajamentul față de dezvoltarea responsabilă a tehnologiei și față de ceea ce numește „siguranță”: practica de a permite beneficiile inteligenței artificiale, reducând în același timp efectele sale negative.

„Răspunderea față de instituțiile publice trebuie menținută, indiferent de viteza progresului tehnologic.””conchide raportul.