Gli algoritmi ci obbligheranno a rispettare le regole: ecco le caratteristiche della legge del futuro

Articolo pubblicato su Digital Lobbying Blog

Hans Kelsen nel suo lavoro del 1934 dal titolo Pure Theory of Law definiva la legge come un istituto che non proibisce alle persone di fare le azioni che desiderano, ma semplicemente dispone che al dimostrarsi di determinate condotte, venga applicata una specifica sanzione.

In altre parole, ogni cittadino è libero di infrangere la legge in quanto le forze dell’ordine non sono in grado di prevedere la criminalità né di essere sul luogo di un omicidio prima che esso si compia se non in rarissimi casi. Infatti, il sistema giudiziario e la polizia si attivano per far rispettare la legge solo dopo che una norma è stata infranta.

Il filosofo francese Michel Foucault nel magistrale Sorvegliare e Punire, ha dimostrato quanto la punizione sia una forma di obbligazione che non funziona. Tant’è vero che i tassi di criminalità nelle nazioni di tutto il mondo si limitano a subire delle oscillazioni percentuali ma non si azzerano mai, di qualsiasi tipologia di crimine si tratti. Gli studi attuali ci dicono però che algoritmi e intelligenze artificiali cambieranno le cose.

A tal proposito, si sta verificando un cambio di paradigma che trasforma il concetto di norma: dalla legge scritta si passerà alla digital law. Ciò che sta avvenendo, ci dice Jamie Susskind in Future Politics, libro uscito a settembre 2018, è una progressiva incorporazione della legge nel codice software con conseguenze gigantesche.

La definizione che Susskind dà di digital law non differisce molto da quella di Kelsen anche se ne stravolge completamente il paradigma di riferimento. Afferma Susskind: “non vi è alcuna legge che vieti le infrazioni: esiste solo una legge, sotto forma di codice, che dirige i sistemi digitali ad applicare determinate sanzioni in determinate circostanze a coloro che commettono una violazione”.

La legge digitale, sostiene Susskind, differisce da quella tradizionale su tre punti: è una legge che si auto-applica e non necessita delle forze dell’ordine tradizionali; applicandosi in tempo reale obbliga i cittadini a non infrangere la legge piuttosto che imporre sanzioni a posteriori; in ultimo, è adattiva, ossia si modifica in relazione all’ambiente esterno.

Sotto il regime della digital law, come scrive Tim O’Really in Open Data and Algorithmic Regulation, parcheggiare in divieto di sosta o superare i limiti di velocità diventerà praticamente impossibile perché il sistema di AI incorporato nella vettura impedirà al conducente di superare i limiti consentiti, oppure preleverà una somma di denaro dal conto corrente del guidatore per ogni minuto di eccesso di velocità. Lo stesso accadrebbe se si decidesse di parcheggiare in divieto di sosta.

Queste regole sono incorporate negli oggetti. Si tratta di codificazione della legge. E, per essere chiari, il codice a differenza del linguaggio naturale, non è soggetto a interpretazione ma semplicemente si auto-applica.

Inoltre, Primavera de Filippi e Aaron Wright in Blockchain and the law: the rule of code, sostengono che sarà sempre più possibile implementare leggi adattive capaci di rispondere velocemente e precisamente alle circostanze esterne.

Per riprendere l’esempio relativo al codice della strada, possiamo immaginare che invece di avere dei limiti di velocità statici (130Km/h in autostrada, 50Km/h nei pressi dei centri cittadini), i limiti siano impostati in tempo reale in base alle condizioni climatiche, al traffico e al rating dei conducenti. Se ci sono buone condizioni climatiche e non c’è traffico le autovetture potranno circolare più velocemente ma, in presenza di un conducente che non ha mai avuto incidenti e di uno che ne ha provocati numerosi, il primo potrà viaggiare ad una velocità maggiore del secondo.

Le leggi, come è noto, sono composte da regole e standard. Mentre le regole sono rigide (non è possibile superare i 130Km/h), gli standard sono zone grigie (“in presenza di nebbia guidare con prudenza”) all’interno delle quali sta al buon senso della persona decidere come comportarsi.

Fino allo sviluppo delle intelligenze artificiali, si è pensato che la rigidità del codice potesse essere applicata solo alle regole e non agli standard. Oggi invece, afferma Jamie Susskind, abbiamo a disposizione intelligenze artificiali in grado di consigliarci il miglior comportamento possibile date determinate condizioni. Esistono intelligenze artificiali capaci di prevedere con un grado di probabilità dell’80% i segnali di sviluppo dell’Alzheimer dieci anni prima che si presentino i sintomi veri e propri, oppure sistemi di AI come MedEthEx capaci di consigliare ai medici qual è la miglior condotta etica da perseguire in una data situazione per evitare di essere accusati di negligenza. Anche dal punto di vista giuridico uno studio mostra che su centinaia di casi analizzati, un software ha previsto correttamente le sentenze della Corte Europea dei Diritti Umani il 79% delle volte. Allo stesso tempo in America, una ricerca dimostra che mentre un pool di 83 giuristi esperti ha previsto correttamente le sentenze della Corte Suprema il 60% delle volte, un sistema di AI ci ha azzeccato ben il 15% in più.

In uno scenario di questo tipo, è chiaro come i sistemi di intelligenza artificiale possano consigliare a dottori e giuristi la via da perseguire. Non ascoltare i pareri delle macchine, sarebbe come per un dottore operare un paziente al ginocchio senza aver fatto la risonanza magnetica e pretendere di non subire una causa legale.

La vera portata innovativa però, si legge in Future Politics, è che i dettami delle intelligenze artificiali avranno, in qualche modo, “valore di legge”. Una legge adattiva, in grado di fornire un output in relazione alla situazione che si presenta.

Ecco descritto il profilo e la struttura della legge del futuro: auto-applicante, con una capacità di obbligazione che può raggiungere il 100% e infine in grado di adattarsi alle condizioni esterne.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s