Tra venerdì e domenica abbiamo assistito a uno degli eventi più assurdi del settore tech, che  - diciamolo  - non si è fatto mai mancare nulla a livello di “drama”, come dicono in inglese, e colpi di scena.
Sam Altman, il Ceo di OpenAI - che con ChatGPT nel novembre 2022 ha lanciato una corsa frenetica globale verso l’AI generativa, raccontata dall’inizio e in dettaglio in questa newsletter - è stato cacciato dal board di OpenAI in malo modo, senza preavviso, senza avvisaglie e senza che nessuno degli addetti ai lavori (tranne il circolo più ristretto) capisse cosa davvero stesse succedendo.

L’annuncio del board

In un post sul blog di venerdì, OpenAI ha dichiarato che il suo consiglio di amministrazione aveva perso fiducia nelle capacità di leadership di Altman dopo un "processo di revisione", concludendo “che Altman non è stato costantemente sincero nelle comunicazioni con il consiglio, ostacolando la capacità dello stesso di esercitare le proprie responsabilità". Come interim Ceo veniva intanto promossa Mira Murati, fino allora la CTO.

Le ipotesi dietro al “drama”

“Sam Altman stava raccogliendo finanziamenti per un nuovo fondo di venture capital incentrato sull'hard tech quando è arrivata la notizia della sua uscita da OpenAI”, scrive The Semafor citando fonti riservate. “I rapporti commerciali di Altman sono stati a lungo oggetto di intrighi nella Silicon Valley. Nelle chat di gruppo e nelle conversazioni private, fondatori e operatori hanno sollevato domande sulla sua rete di investimenti e l'esistenza di connessioni finanziarie non note al pubblico. Non è chiaro se questi investimenti abbiano avuto a che fare con la sua estromissione da OpenAI”.

Ricordiamo che Altman non aveva equity in OpenAI. E che il resto del consiglio di amministrazione comprende il chief scientist di OpenAI Ilya Sutskever (una delle menti più brillanti sul lato tecnico e da alcuni considerato già il manovratore dietro alla defenestrazione), l'amministratore delegato di Quora Adam D'Angelo, l'imprenditrice Tasha McCauley e Helen Toner del Center for Security and Emerging Technology della Georgetown University.

Twitta la giornalista tech Kara Swisher, che ha molti agganci nella Silicon Valley: “Fonti mi hanno riferito di un contrasto tra l'orientamento al profitto dell'azienda sotto Altman e la velocità di sviluppo, che poteva essere vista come troppo rischiosa, e il lato nonprofit dedicato a una maggiore sicurezza e cautela. Una persona vicina a Sam l'ha definito un "colpo di stato", mentre un'altra ha detto che era la mossa giusta”. E ancora: “Fonti mi dicono che il chief scientist Ilya Sutskever sarebbe al centro di questa situazione. Le crescenti tensioni con Sam Altman e Greg Brockman su ruolo e influenza avrebbero portato il consiglio di amministrazione dalla sua parte”.

Sembra però incongruente che una divergenza di opinioni su velocità di sviluppo, o anche uno scontro di potere interno, portino a un ribaltamento improvviso (ricordiamo che fino ai giorni prima Altman incontrava capi di Stato), e motivato con quelle pesanti parole del comunicato.

Intanto, secondo vari report giornalistici, Altman starebbe già lavorando a una startup di AI, anche se non è chiaro se si tratti di un’accelerazione di qualcosa che era già in fieri (il che potrebbe spiegare in parte anche le reazioni del board) o un progetto nato rapidamente solo in conseguenza della sua estromissione.

Abbiamo scherzato….

Ma non è finita qua. Mentre scrivo The Verge e altri riferiscono che il consiglio di amministrazione di OpenAI starebbe discutendo con Sam Altman per farlo tornare in azienda come Ceo. Sì, avete capito bene. Farlo rientrare come Ceo (su pressione di investitori e Microsoft). Ma l’incertezza è massima.

“Secondo una fonte vicina ad Altman, il consiglio di amministrazione aveva concordato in linea di principio di dimettersi e di permettere ad Altman e Brockman di tornare, ma da allora ha tentennato, mancando la scadenza fondamentale delle 17:00 PT entro la quale molti dipendenti di OpenAI avrebbero dovuto dimettersi. Se Altman decidesse di andarsene e di fondare una nuova società, quei dipendenti lo seguirebbero sicuramente”.

A questo punto mi fermo perché la situazione è davvero in sviluppo e più la si osserva in questo momento, più assomiglia a una fervida allucinazione di ChatGPT. L’unica riflessione che vorrei fare è che queste sono le aziende, organizzazioni, interessi e persone che si siedono a negoziare con gli Stati e l’Unione europea per parlare di regolamentazioni, leggi, rischi e diritti. Per modellare quelle regolamentazioni. Per spingere in una direzione invece di un’altra, e fare lobbying. Per parlare di trasparenza. 
Per un identikit di OpenAI vedi questa mia precedente newsletter.

L’approccio multilivello e i criteri

Durante l'ultimo trilogo politico del 24 ottobre, sembrava esserci un consenso sull'introduzione di regole per i modelli di base secondo un approccio basato su livelli diversi, vale a dire introducendo regole più severe per i modelli più potenti destinati ad avere un maggiore impatto sulla società.

Lo scontro si è quindi spostato sui criteri per valutare i modelli considerati ad “alto impatto” e chi dovesse definirli, se il Parlamento o la Commissione. Gli eurodeputati che stanno portando avanti l’AI Act hanno proposto quattro criteri iniziali sui quali dovrebbero essere fissate soglie concrete. I criteri sono la quantità di dati utilizzati per l'addestramento, la dimensione del modello in termini di parametri, la quantità di calcolo utilizzata per l'addestramento e altri parametri legati alla performance ancora da elaborare.

“Questo approccio, che segue una linea simile a quella del Digital Markets Act (DMA) e del Digital Services Act (DSA), è stato visto come una concessione da parte del Parlamento europeo, che avrebbe preferito regole orizzontali per tutti i modelli di base”, nota ancora Euractiv.

Lo scarto di Francia, Germania e Italia

L'obiettivo dell'approccio a più livelli era quindi quello di imporre gli obblighi più severi ai principali fornitori, che attualmente sono aziende non europee. Tuttavia, questa proposta ha incontrato una crescente opposizione anche da parte dei grandi Paesi europei, alcuni dei quali stanno sviluppando modelli di AI che vogliono essere competitivi a livello internazionale.

Infatti, “durante la riunione di giovedì del Gruppo di lavoro sulle telecomunicazioni, un organo tecnico del Consiglio dei ministri dell'UE, i rappresentanti di diversi Stati membri, in particolare Francia, Germania e Italia, si sono opposti a qualsiasi tipo di regolamentazione dei modelli di base”.
A spingere contro qualsiasi regolamentazione dei modelli di base nell’AI Act sarebbe Mistral, una start-up francese sostenuta dall’Eliseo, a cui abbiamo dedicato un approfondimento proprio questa settimana sul sito Guerre di Rete. Ma anche la Germania starebbe facendo pressioni per la sua azienda leader nel settore dell'AI, Aleph Alpha.

L’Italia, dal suo canto, ha annunciato a fine ottobre una intesa di cooperazione con Francia e Germania proprio sull’intelligenza artificiale. Nell’occasione il ministro dell’Economia tedesco Robert Habeck ha dichiarato: “Questo aspetto [il posizionamento dell’Europa sull’intelligenza artificiale] è particolarmente importante in relazione all’AI Act, attualmente in fase di negoziazione a Bruxelles. Sono strettamente allineato con i miei colleghi italiani e francesi sulla necessità di una normativa favorevole all'innovazione in materia di AI, compresa l'AI cosiddetta general purpose [ovvero i modelli di base, ndr]”.

In pratica, secondo l’organizzazione per la trasparenza sulle attività di lobbying Lobbycontrol, ci sarebbe stata una saldatura fra alcuni governi europei (Germania e Francia in testa) che difendono le loro aziende di AI con i rappresentanti delle Big Tech americane per depotenziare le regole previste sui modelli di base.

“Abbiamo assistito a un'intensa attività di lobbying da parte delle Big Tech sulla legge sull'AI, con innumerevoli incontri con i parlamentari europei e accesso ai più alti livelli decisionali. Sebbene pubblicamente queste aziende abbiano chiesto di regolamentare l'AI pericolosa, in realtà stanno spingendo per un approccio laissez-faire in cui le Big Tech decidono le regole", ha dichiarato Bram Vranken di Lobbycontrol a TechCrunch.
"Le aziende europee, tra cui Mistral AI e Aleph Alpha, si sono unite al gruppo. Di recente hanno aperto uffici di lobbying a Bruxelles e hanno trovato ascolto dai governi di Francia e Germania, al fine di ottenere delle deroghe per i modelli di base. Questa spinta sta mettendo a dura prova i negoziati e rischia di far deragliare l'AI Act”.

Cosa dice il Parlamento UeRicapitoliamo. La proposta dell’AI Act sui modelli di base - sintetizza The Verge - prevede che gli sviluppatori di modelli siano tenuti a valutare i rischi potenziali, a sottoporre gli stessi modelli a test durante l'intero processo di sviluppo e dopo il rilascio sul mercato, a esaminare i bias nei dati di addestramento, a convalidare i dati e a pubblicare documenti tecnici prima del rilascio.

O per usare le parole dello stesso Parlamento Ue:
“Il Parlamento intende stabilire un approccio a più livelli nella legge sull'IA per regolamentare i sistemi di IA per finalità generali. Intende imporre ai fornitori di modelli di base l'obbligo di garantire una solida tutela dei diritti fondamentali, della salute, della sicurezza, dell'ambiente, della democrazia e dello Stato di diritto. Essi sarebbero tenuti a valutare e attenuare i rischi comportati dai loro modelli, rispettare taluni requisiti riguardanti la progettazione, la comunicazione e l'ambiente e registrare tali modelli in una banca dati dell'UE. Inoltre i modelli di base di IA generativa (come ChatGPT), che utilizzano grandi modelli linguistici per generare arte, musica e altri contenuti, sarebbero soggetti a obblighi di trasparenza rigorosi. I fornitori di tali modelli e di contenuti generativi sarebbero tenuti a comunicare che i contenuti sono stati generati dall'IA e non da esseri umani, formare e progettare i loro modelli al fine di prevenire la generazione di contenuti illegali e pubblicare informazioni circa l'uso dei dati di addestramento protetti dal diritto d'autore.
Infine, tutti i modelli di base dovrebbero fornire le informazioni necessarie per consentire ai fornitori a valle di ottemperare agli obblighi che incombono loro in virtù dalla legge sull'IA. (..) Oltre a ciò, i deputati intendono rafforzare il diritto dei cittadini di presentare reclami sui sistemi di IA e di ricevere spiegazioni in merito alle decisioni basate su sistemi di IA ad alto rischio che hanno un impatto significativo sui loro diritti”.
Infine, per “sostenere l'innovazione, il Parlamento concorda sul fatto che le attività di ricerca e lo sviluppo di componenti di IA liberi e open source sarebbero in gran parte esentati dalla conformità alle norme previste dalla legge sull'IA”.

Le posizioni delle Ong

La posizione di una buona parte di Ong sui diritti viene riassunta da un comunicato di EDRi, che scrive: “In gioco ci sono questioni vitali, tra cui la misura in cui i modelli per scopi generali/fondamentali sono regolamentati, ma anche, in modo cruciale, fino a che punto la legge sull'AI prevenga efficacemente i danni derivanti dall'uso di questa tecnologia nell’ambito delle attività di polizia, migrazione e sicurezza nazionale.
La società civile chiede da tempo una legge europea sull'AI che metta in primo piano i diritti fondamentali e le persone. Questo deve includere protezioni chiare ed efficaci contro la sorveglianza dannosa e discriminatoria. La legge europea sull'AI deve garantire un quadro di responsabilità e trasparenza per l'uso dell'AI e dare alle persone la possibilità di far valere i propri diritti”.

AI
Macron punta sull’AI nazionale
Mistral, investitori, lobbying: la Francia vuole il suo posto nella corsa all’intelligenza artificiale. Protagonisti e strategie. 
Un approfondimento di Guerre di Rete, firmato da Antonio Piemontese, che cade proprio in un momento critico per l’AI in Europa e non solo.

“Dietro alla rapida ascesa dell’azienda parigina appare chiara la volontà del Governo transalpino di creare un pezzo da novanta con cui prendere parte alla competizione per i Large Language Models (i modelli linguistici di grandi dimensioni). Del piano fa parte anche la difesa della lingua francese, orgoglio nazionale, che rischia di  essere marginalizzata dal fatto che gli LLM più diffusi vengono addestrati da società anglosassoni su dataset in inglese. “
Leggi tutto: Macron punta sull’AI nazionale