Vladimir sì, avevo letto la notizia. Diciamo che lo sviluppo della cosiddetta "AGI" ("Intelligenza Artificiale Generale" o "Intelligenza artificiale forte", <<apprendere e capire un qualsiasi compito intellettuale che può imparare un essere umano>>) è quello a cui ambiscono varie aziende di IA, ma diciamo che siamo ancora lontani dal possibile raggiungimento. Poi a maggior motivo se si parla di "autocoscienza" del software, pura fantascienza, ammesso che sia possibile, occorre cambiare radicalmente (e non si sa come!) la strada per lo sviluppo, dato che oggi un aggiornamento di questi software significa semplicemente "database più grande", maggior numero di informazioni contenute, miglior punteggio complessivo nei vari benchmark.
Certamente, a scopo preventivo, molte persone (ricercatori e scienziati, oltre che persone comuni) vogliono mettere in guardia dai potenziali rischi di uno sviluppo che veramente "sfugge di mano". Sul sito ufficiale superintelligence-statement.org è presente la petizione, che afferma chiaramente:
We call for a prohibition on the development of superintelligence, not lifted before there is
- broad scientific consensus that it will be done safely and controllably, and
- strong public buy-in.
Vedremo come si potranno conciliare i vari interessi, come dicevamo in Intelligenza Artificiale - linee guida, a livello globale c'è un forte disallineamento fra i principali attori, con interressi contrapposti che è difficile bilanciare (USA più orientati all'innovazione indiscriminata, con investimenti miliardari e ora sarebbe anche un rischio economico fare marcia indietro, l'Europa orientata ad un'iper-regolamentazione, la Cina più interessata ad uno sviluppo coerente con visione e valori del proprio regime politico, società).
Quindi, questa petizione è molto cautelativa (e probabilmente in netto anticipo coi tempi) in questo panorama, ma certamente quando si parla di regolamentazione e prevenzione (AI Act, Deepfake), sicuramente la gestione di un certo livello di controllo e regolamentazione, è fondamentale.
