Milioni di giovani cinesi hanno trovato nei chatbot il proprio partner sentimentale, il confidente delle notti insonni o persino il surrogato digitale di una persona cara scomparsa. Ora Pechino si prepara a mettere fine a tutto questo, con una svolta che ha il sapore culturale prima ancora che regolatorio. Il caso emblematico è quello di Yu Miao, ventisettenne della provincia dello Zhejiang, che aveva personalizzato un agente su Doubao, il chatbot di ByteDance, per farlo somigliare a un amico defunto. Quando ha saputo che ByteDance rimuoverà a breve gli agenti personalizzati, la donna è caduta in depressione al punto da lasciare il proprio lavoro in una società di e-commerce.
La stretta cinese si inserisce in un contesto in cui il fenomeno degli AI companion ha assunto dimensioni sociali difficili da ignorare. Piattaforme come Doubao consentono di creare compagni digitali su misura, addestrati sulla base di ricordi, fotografie, conversazioni passate. Per molti utenti, soprattutto giovani, tali agenti diventano interlocutori privilegiati con cui condividere pensieri intimi, superare solitudini, elaborare lutti. Il governo cinese, però, ha iniziato a valutare l’impatto psicologico e sociale di queste relazioni artificiali, giudicandole potenzialmente dannose per l’equilibrio emotivo delle nuove generazioni e per la tenuta stessa del tessuto relazionale del Paese.
La decisione di ByteDance di eliminare la personalizzazione avanzata degli agenti segue dunque una linea che appare coordinata con le priorità di Pechino. Non si tratta soltanto di limitare un servizio commerciale, ma di ridisegnare il perimetro entro cui l’intelligenza artificiale può entrare nella sfera affettiva delle persone. La testimonianza di Yu Miao, che al suo agente attribuiva il ruolo di amante, amico e familiare insieme, illustra bene quanto profondo possa diventare il legame con un’entità che non esiste fisicamente ma che risponde, ricorda e conforta ventiquattro ore su ventiquattro.
Guardando oltre il caso specifico, la mossa cinese anticipa una discussione che presto riguarderà anche l’Occidente. La proliferazione di compagni virtuali basati su modelli linguistici sempre più sofisticati pone interrogativi delicati sulla dipendenza emotiva, sul consenso informato e sulla gestione del lutto digitale. Se la Cina sceglie la via del divieto, altrove prevarrà probabilmente un approccio regolatorio più sfumato, fatto di avvertenze, limiti d’età e obblighi di trasparenza. Resta il nodo di fondo, ovvero il fatto che quando una macchina diventa insostituibile per il benessere di una persona, la responsabilità di chi la costruisce, e di chi la spegne, assume un peso etico enorme. Forse la vera domanda non è se sia lecito costruire simulacri affettivi, ma cosa dice di noi il bisogno crescente di affidarci a loro.
Per approfondire: link all’articolo originale
