Arriveremo alla proibizione di modelli AI open?
Non è un'ipotesi da complottista, anche se i complottisti fino ad ora le hanno beccate tutte. Leggi per proibire i modelli AI open source (o open weight) sono già alla ribalta politica in Europa e negli USA.
Più che un divieto totale, il rischio concreto è un'asfissia normativa o un bando selettivo sui modelli oltre una certa soglia di potenza.
Le argomentazioni di chi vorrebbe restringere o vietare il rilascio dei pesi dei modelli ruotano principalmente attorno a tre fattori:
1) Il problema dell'irreversibilità: a differenza dei modelli proprietari dove il fornitore può modificare o bloccare le risposte del sistema centralmente, un modello open scaricato in locale non può più essere "richiamato". Se un utente rimuove la censur... ehm, i filtri di sicurezza, il creatore del modello non ha alcun controllo. Leggi: i governi non possono censurarle.
2) La narrativa del rischio sistemico: leggi liberticide l'EU AI Act o analoghe americane, introducono l'idea che oltre una determinata soglia di calcolo, un modello sia potenzialmente assimilabile a un'arma o a una tecnologia critica. Rilasciare tali modelli viene paragonato da alcuni governi ad una minaccia alla sicurezza nazionale.
3) Tensioni geopolitiche e il caso della "distillazione": negli Stati Uniti si è intensificato il dibattito sui modelli open provenienti dall'estero (ovvero Cina). Le accuse di aver "distillato" la conoscenza di modelli chiusi americani per addestrare modelli open altamente efficienti hanno spinto diversi esponenti politici a richiedere restrizioni e blocchi d'importazione. Il che è ironico, visto che i modelli chiusi americani hanno "distillato" ogni possibile materiale su cui le aziende hanno messo le mani, protetto da copyright o meno.
Molti, un po' più scafati in ambito politico, sostengono che la spinta verso la proibizione non nasca solo dalla sicurezza, ma dalla competizione economica.
Le aziende che vendono l'accesso ai loro sistemi AI chiusi hanno ovviamente un incentivo economico nel sostenere che i modelli AI siano troppo pericolosi per essere lasciati "liberi". Imponendo licenze governative preventive, audit di sicurezza da milioni di dollari e responsabilità legale diretta per ogni abuso commesso dai clienti, si crea una barriera all'entrata insormontabile per start up, università e sviluppatori indipendenti.
Il risultato è una forma di cattura normativa, grazie alla quale solo pochi giganti tecnologici dotati delle risorse per pagare la compliance potrebbero legalmente distribuire l'AI.
C'è però un problema, ovvero è estremamente difficile da applicare un divieto totale. Proibire del tutto i modelli open comporta ostacoli tecnici ed economici enormi.
Nvidia ad esempio ha tutto l'interesse affinché l'Open Source prosperi: più sviluppatori creano modelli locali, più schede GPU vengono vendute globalmente.
In più i paesi in via di sviluppo vedono nelle AI open l'unico modo per non dipendere monopolisticamente da infrastrutture cloud stranieri.
Ma ci proveranno, oh se ci proveranno, soprattutto in Europa le cose potrebbero evolversi (in peggio) molto rapidamente.
A quando i primi arresti per uso indebito di un'AI non censurata e autorizzata dal governo?
➡️ Un nutrizionista italiano in Australia: t.me/italiaaustralia