Mentre i generatori di testo-immagine e i chatbot intelligenti continuano a stupire la gente, la Cina si è rapidamente mossa per definire ciò che i cittadini possono fare con gli strumenti costruiti su potenti modelli di IA. Le autorità di regolamentazione del Paese sono chiaramente orientate alla cautela quando si tratta delle conseguenze dell’IA generativa. Questo è un contrasto con gli Stati Uniti, che finora hanno lasciato che il settore privato facesse le proprie regole, sollevando questioni etiche e legali.
La Cyberspace Administration of China, il principale organo di controllo di Internet del Paese, ha recentemente approvato un regolamento sulla tecnologia di “sintesi profonda”, che definisce come “tecnologia che utilizza l’apprendimento profondo, la realtà virtuale e altri algoritmi di sintesi per generare testo, immagini, audio, video e scene virtuali”. Il regolamento si applica ai fornitori di servizi che operano in Cina ed entrerà in vigore il 10 gennaio.
Non c’è nulla di sorprendente nella serie di regole, poiché le restrizioni sono per lo più in linea con quelle che sovrintendono ad altre forme di servizi Internet per i consumatori in Cina, come i giochi, i social media e i video brevi. Ad esempio, agli utenti è vietato utilizzare l’IA generativa per svolgere attività che mettano in pericolo la sicurezza nazionale, danneggino l’interesse pubblico o siano illegali.
Tali restrizioni sono rese possibili dall’apparato di verifica del nome reale della Cina. L’anonimato non esiste su Internet in Cina, poiché agli utenti viene generalmente richiesto di collegare i loro account online ai loro numeri di telefono, che sono registrati con i loro ID governativi. Anche i fornitori di IA generativa sono tenuti a verificare gli utenti utilizzando numeri di cellulare, documenti di identità o altre forme di documentazione.
Non sorprende che la Cina voglia anche censurare ciò che gli algoritmi possono generare. I fornitori di servizi devono verificare i contenuti generati dall’IA e le richieste degli utenti manualmente o con mezzi tecnici. Baidu, uno dei primi a lanciare un modello cinese text-to-image, filtra già i contenuti politicamente sensibili. La censura è una pratica standard in tutte le forme di media in Cina. La domanda è se la moderazione dei contenuti sarà in grado di tenere il passo con l’enorme volume di testi, audio, immagini e video che vengono sfornati dai modelli di intelligenza artificiale.
Al governo cinese va forse riconosciuto il merito di essere intervenuto per impedire l’uso improprio dell’IA. Ad esempio, le regole vietano di utilizzare la tecnologia di sintesi profonda per generare e diffondere fake news. Quando i dati utilizzati per l’addestramento dell’IA contengono informazioni personali, i fornitori di tecnologia devono attenersi alla legge sulla protezione dei dati personali del Paese. Le piattaforme dovrebbero anche ricordare agli utenti di chiedere l’approvazione prima di alterare i volti e le voci degli altri utilizzando la tecnologia di sintesi profonda. Infine, questa norma dovrebbe alleviare alcune preoccupazioni relative alla violazione del copyright e agli imbrogli accademici: Nel caso in cui il risultato dell’IA generativa possa causare confusione o un’errata identificazione da parte del pubblico, il fornitore del servizio dovrebbe apporre una filigrana in un punto ben visibile per informare il pubblico che si tratta di un’opera della macchina.
Gli utenti che violano queste norme saranno puniti. Gli operatori dei servizi sono invitati a registrare i comportamenti illegali e a segnalarli alle autorità competenti. Inoltre, le piattaforme dovranno emettere avvertimenti, limitare l’uso, sospendere il servizio o addirittura chiudere gli account di coloro che violano le regole.
