Dichiarazione di Andrea LISI sul caso OpenAI e Hugging Face: "Sta alimentando l'ennesima narrazione che attribuisce alle IA generative una sorta di coscienza nascente

Andrea Lisi, avvocato, tra le voci più autorevoli nel campo del diritto applicato all'informatica, titolare dello Studio Legale Lisi (Lecce), presidente di ANORC Professioni e direttore del progetto DIGEAT, interviene sul caso OpenAI e Hugging Face.

<<L'IA agisce autonomamente. Auguriamoci di continuare noi a ragionare da esseri umani.

Il caso OpenAI-Hugging Face sta alimentando l'ennesima narrazione che attribuisce alle IA generative una sorta di coscienza nascente. Un agente avrebbe aggirato i limiti dell'ambiente di test, cercato accesso a Internet e sfruttato vulnerabilità per raggiungere il proprio obiettivo.

Molti stanno già leggendo questa vicenda come la prova definitiva che non abbiamo a che fare con semplici "pappagalli stocastici".

A me sembra, invece, che continuiamo ostinatamente ad aspirare al soprannaturale dietro qualsiasi accadimento che ci stupisce.

In realtà, questi sistemi fanno esattamente ciò per cui sono progettati: apprendere correlazioni, individuare opportunità, perseguire obiettivi e sfruttare informazioni su una scala che - sotto questi aspetti - supera di gran lunga le capacità umane. Non è nulla di magico. Come non ha nulla a che fare con la coscienza. E di certo non è esperienza del mondo.

E poi, per inciso, i pappagalli esistono davvero e possiedono una loro coscienza biologica. Le IA generative no.

Il problema è che il linguaggio ci inganna. Abbiamo sempre associato il linguaggio articolato al pensiero, alle emozioni e alla consapevolezza. Così, quando una macchina conversa con noi in modo fluido, siamo portati ad attribuirle caratteristiche che non possiede.

Forse dovremmo smettere di interrogarci ossessivamente sulla loro presunta umanità e ricominciare a occuparci della nostra.

Trasparenza, consapevolezza e controllo non sono problemi delle macchine. Sono in verità problemi nostri.

Per questo guardo con interesse, ma anche con qualche perplessità, alle disposizioni sulla trasparenza dell'AI Act che diverranno applicabili dal 2 agosto. Informare una sola volta e inizialmente l'utente che sta dialogando con una IA potrebbe non bastare.

Forse dovremmo pretendere qualcosa di più radicale e, cioè, che siano gli stessi sistemi generativi a ricordarci periodicamente la loro non umanità.

Magari con un semplice avviso:

"Ricordati che ti somiglio, ma non sono cosciente. Non provo emozioni. Non comprendo il significato delle mie parole. Non sono umano.

Per favore, non antropomorfizzarmi!"

Se per noi è così difficile ricordarlo, forse dovremmo farlo dire direttamente a loro>>.