AI Overviews di Google: parola d’ordine non accontentarsi del riassunto

Il 12 giugno un Boing 787-8 dell’Air India diretto a Londra, 30 secondi dopo essere decollato si è schiantato in un’area residenziale causando la morte di almeno 240 persone, tra quelle a bordo e quelle a terra.Si è trattato di uno dei più grandi disastri nella storia dell’aviazione.Milioni di persone in tutto il mondo, naturalmente, hanno cercato notizia sull’accaduto online attraverso il più popolare di tutti i motori di ricerca.La sigla e vi racconto cosa è andato storto, una lezione facile facile da trarne e una riflessione da avviare.[SIGLA]Da qualche tempo Google, grazie alla propria intelligenza artificiale generativa, offre agli utenti il servizio AI Overviews, proponendo un breve riassunto in cima ai risultati della ricerca.Sotto il solito elenco di link.Non a tutti, non sempre, non sempre allo stesso modo ma, nel riassumere la notizia del disastro aereo indiano, AI Overviews ha, spesso, suggerito agli utenti del motore di ricerca che l’aereo coinvolto nell’incidente fosse un Airbus anziché un Boing.Un errore gravissimo che ha generato un danno reputazionale enorme all’Airbus, la principale concorrente della Boing, completamente estranea al disastro.Un’allucinazione, come, ormai, abbiamo imparato a dire della quale – come sempre in questi casi – si ignorano le origini, potendosi solo ipotizzare che sia dovuta alla circostanza che spesso, le due società, che si dividono, quasi da sole, la torta del mercato dell’aviazione civile, vengono menzionate insieme negli stessi contenuti.Ma quale che sia la causa, la certezza è che milioni di persone, verosimilmente, leggendo, alla ricerca di informazioni sull’accaduto, solo il riassunto proposto da Google, si sono persuase che protagonista della sciagura aerea sia stato un Airbus e non un Boing.Un errore non da poco.La lezione facile da trarre dall’episodio è che, almeno per il momento, non ci si può fidare dell’AI Overviews di Google – come, per la verità in generale della veridicità dei contenuti generati artificialmente – e, se si è interessati alla verità, non resta che continuare a cercare e leggere quante più fonti originali possibile, alla vecchia maniera.La riflessione da avviare riguarda la natura dell’attività che Google svolge nel proporre i riassunti artificiali agli utenti che lanciano una ricerca.Si può, infatti, continuare a parlare di semplice indicizzazione e ricerca?Personalmente credo di no.Se si genera e pubblica un contenuto, non ha importanza se scritto da un uomo o da una macchina, forse, si dovrebbe esserne considerati editori con tutto ciò che ne comporta sul versante della responsabilità in caso di errori gravi e lesivi dell’altrui reputazione personale o commerciale come nel caso di specie.E, probabilmente, l’avvertenza – ormai diffusissima in calce a tutti i contenuti generati artificialmente circa il rischio di errori e allucinazioni – non basta a sottrarre il fornitore del servizio dalle proprie responsabilità.Ma come spesso capita nei nostri tre minuti, è questione che non sta nella tazzina del nostro espresso e, quindi, qui mi limito a lanciare il sasso e a aprire la discussione.Che ne pensate?Frattanto buona giornata e good morning privacy!