In California la prima legge sui chatbot companion a difesa dei più piccoli

"Tecnologie emergenti come chatbot e social media possono ispirare, educare e connettere, ma senza veri e propri limiti, la tecnologia può anche sfruttare, fuorviare e mettere in pericolo i nostri figli. Abbiamo assistito ad alcuni esempi davvero orribili e tragici di giovani danneggiati da tecnologie non regolamentate, e non resteremo a guardare mentre le aziende continuano a comportarsi senza i necessari limiti e responsabilità. Possiamo continuare a essere leader nell'intelligenza artificiale e nella tecnologia, ma dobbiamo farlo responsabilmente, proteggendo i nostri figli in ogni fase del percorso. La sicurezza dei nostri figli non è in vendita".Non sono le parole di un commissario europeo ma quelle del Governatore della California Gavin Newsom.La sigla e vi racconto il contesto nel quale le ha pronunciate.È la prima legge al mondo, americana e non europea, che mira a disciplinare la fornitura di servizi di chatbot companion, non tanto e non solo ChatGPT e i suoi diretti concorrenti ma anche e soprattutto Replika, Chai, Character AI e quell’universo eterogeneo di chatbot progettati, sviluppati e resi disponibili sul mercato per intrattenere, tenere compagnia, diventare i migliori amici, le migliori amiche, i fidanzati, le fidanzate, le amanti o gli psicoterapeuti di persone in carne ed ossa.La legge, fortemente voluta dal Governatore della California che, appunto, l’ha commentata con le parole appena ricordate, entrerà in vigore il prossimo primo gennaio 2026 e impone ai fornitori dei servizi in questione una serie di obblighi stringenti dalla tanto discussa – anche da questa parte dell’oceano – verifica dell’età, all’implementazione di una serie di protocolli di sicurezza per contrastare il suicidio e l'autolesionismo da condividere con il Dipartimento di Salute Pubblica dello Stato, insieme a statistiche su come il servizio ha fornito agli utenti notifiche e allert sull’esigenza di chiedere assistenza specialistica.Secondo la legge i fornitori di servizi dovranno anche chiarire che qualsiasi interazione è generata artificialmente, non presentare i loro chatbot come professionisti sanitari, offrire ai minori promemoria sull’esigenza di sospendere le conversazioni trascorso un certo intervallo di tempo e impedire loro di visualizzare immagini sessualmente esplicite generate dal chatbot.Niente, naturalmente, che sia in grado di azzerare ogni rischio e ogni pericolo per i più piccoli ma, innegabilmente, un passo avanti significativo e nella giusta direzione che, peraltro, arriva proprio dallo Stato nel quale sono stabiliti alcuni tra i fornitori di maggior successo di questo genere di servizi.Il messaggio è prezioso e chiarissimo: c’è spazio per fare innovazione responsabile e non c’è ragione per continuare a raccontare che la regolamentazione sia nemica dell’innovazione.Ma, probabilmente, le parole più importanti tra quelle scandite dal Governatore californiano nel salutare l’approvazione della nuova legge sono queste: “la sicurezza dei nostri figli non è in vendita”.Parole sante.E, finalmente, parole che trovano posto in una legge.Bene così.Finalmente un caffè dolce.Buona giornata e, naturalmente, good morning privacy!