A fine ottobre, l’OSI (Open Source Initiative) ha pubblicato i requisiti ufficiali che un sistema d’intelligenza artificiale deve rispettare per essere considerato open-source.

La definizione di open-source, stando a quanto si legge sul sito di OSI, è la seguente: “Un’intelligenza artificiale open source è un sistema di intelligenza artificiale messo a disposizione a condizioni e modalità tali da garantire le libertà di:

• utilizzare il sistema per qualsiasi scopo e senza dover chiedere il permesso;
• studiare il funzionamento del sistema e ispezionare i componenti;
• modificare il sistema per qualsiasi scopo, incluso modificarne l’output;
• condividere il sistema affinché altri lo utilizzino con o senza modifiche, per qualsiasi scopo.

Queste libertà si applicano sia ad un sistema pienamente funzionante sia agli elementi discreti di un sistema. Un prerequisito per l’esercizio di queste libertà è avere accesso alla forma che si preferisce per apportare modifiche al sistema”.

La nuova definizione dell’OSI, detta OSAID (Open Source AI Definition), però, non trova tutti d’accordo.

L’OSAID, infatti, è stata accolta con preoccupazione da larga parte della comunità open-source, che ritiene che i requisiti siano troppo deboli, specialmente riguardo alla disponibilità dei dati di addestramento.

Pur permettendo l’accesso a codice, parametri e architettura del modello, infatti, l’OSAID non impone la pubblicazione dei dati di addestramento, limitando la trasparenza e quindi compromettendo i quattro diritti fondamentali del software open source.

Senza contare che, nel mondo dell’open source, è possibile ricompilare il codice, mentre nei language model, la necessità di hardware, molto costoso, e la presenza di livelli di editing e di sicurezza rendono la replicabilità impossibile.

In pratica, i requisiti elencati dall’OSI fanno pensare a un’operazione di open-washing, perché, mentre strizzano l’occhio al mondo del software a codice aperto, richiamando ai valori di apertura, trasparenza, e modificabilità, non offrono nessuna garanzia di reale ed effettiva apertura.

La parola agli esperti

A pochi giorni dalla pubblicazione dell’OSAID, sono arrivate le critiche autorevoli di Bruce Schneier e Sam Johnston.

Alcuni esperti, come Tom Callaway e Giacomo Tesio, sostengono che senza accesso ai dati il concetto di “open” risulti snaturato, mentre altri, come Stephen O’Grady, vedono nell’approccio dell’OSI una pragmatica ma problematica deviazione dal modello tradizionale, suggerendo di creare invece una nuova definizione su misura per l’IA.

“I valori del free software non potrebbero essere più distanti dall’attuale situazione – sostiene Claudio Agosti di Hermes Center, – e l’ambiguità culturale dell’open source viene sfruttata in modo così strumentale (pensiamo anche al nome “OpenAI”) da aver svuotato la locuzione originale di ogni significato.

Già vent’anni fa il libro di Ippolita Open non è Free spiegava come l’open source sia un prodotto definibile corporate friendly, creato per intercettare le esigenze degli sviluppatori senza riconoscere le vere libertà date dal free software”.

Ecco qualche risorsa consigliata da Claudio sull’argomento:

1. Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI. Questo articolo, uscito nel 2023, identifica il problema della falsa “apertura” (openness).
2. Memorie prodotte da una quarantina di tecnici e accademici statunitensi. Grafici e tassonomie spiegano come l’apertura dell’IA dipenda da una sfumatura. Questa è la prima riflessione che va nella stessa direzione di compromesso della OSAID, cioè una lettura meno binaria di open/closed.
3. Rethinking open source generative AI: open-washing and the EU AI Act. Articolo accademico presentato al FAccT 2024 che introduce un aspetto molto importante, secondo noi di Hermes Center. Nell’AI Act, i software aperti vengono esentati dagli obblighi di conformità. Si tutela la produzione di componenti generici, chiamati anche librerie, o framework. Questi sono “ingredienti grezzi”, che combinando altro lavoro possono divenire un prodotto, e nel rispetto della comunità di sviluppatori che producono conoscenza sotto licenze libere, si è voluto rimuovere ogni possibile onere di conformità legale. Purtroppo il termine “open” è ambiguo, e la OSAID contribuisce a rendere questa ambiguità sfumata. L’articolo spiega l’intersezione problematica che rischia di crearsi.