La sfida dell’intelligenza artificiale non è soltanto tecnologica, ma costituzionale: servono istituzioni capaci di controllare il potere, garantire responsabilità effettive e preservare la libertà delle democrazie di scegliere, correggere e, quando necessario, dire no
L’allarme di Max Tegmark, nell’intervista a Riccardo Luna, solleva una questione che riguarda direttamente la qualità delle nostre democrazie. Chi decide quale rischio tecnologico una società debba accettare? Chi può contestare quella decisione? E chi dispone degli strumenti per modificarla prima che produca conseguenze irreversibili? È su questo terreno che il confronto sull’intelligenza artificiale incontra il costituzionalismo: la necessità di rendere il potere riconoscibile, limitabile e responsabile.
Ci siamo abituati a cercare la risposta nelle intenzioni dei protagonisti della rivoluzione digitale. Ci rassicurano le loro promesse, ci inquietano le loro contraddizioni. Ma una democrazia costituzionale non può affidare la protezione delle libertà alla buona disposizione di chi possiede una tecnologia. Le garanzie servono proprio quando le intenzioni cambiano, gli interessi divergono, la pressione competitiva rende conveniente ciò che fino a ieri appariva inaccettabile. La fiducia nelle persone può accompagnare le istituzioni. Non può sostituirle.
Il passaggio decisivo riguarda il rapporto tra capacità tecnica e legittimazione. Saper costruire un sistema sempre più potente non attribuisce il diritto di stabilire, per tutti, a quali condizioni debba essere utilizzato. Eppure questa sovrapposizione rischia di diventare normale: chi progetta definisce le possibilità, chi distribuisce determina le condizioni di accesso, chi controlla l’infrastruttura delimita le alternative. La scelta collettiva arriva quando una parte essenziale delle decisioni è già stata incorporata nella tecnologia.
È qui che la velocità acquista una dimensione costituzionale. Ogni innovazione richiede tempo per essere compresa, discussa, eventualmente corretta. Se la trasformazione corre più rapidamente della capacità di valutarla, il rischio è che il dibattito pubblico si riduca alla ratifica di fatti compiuti. Un servizio entra nelle organizzazioni, diventa indispensabile, rende costosa la sostituzione. A quel punto la libertà formale di rinunciarvi può sopravvivere insieme all’impossibilità pratica di farlo. La dipendenza si costruisce anche così.
Con l’intelligenza artificiale questo problema assume una profondità ulteriore. Il passaggio dall’automazione all’autonomia modifica l’oggetto del controllo. Un sistema che esegue un compito circoscritto pone questioni diverse da uno autorizzato a scegliere passaggi intermedi, utilizzare strumenti e avviare operazioni. Pensiamo a un assistente incaricato di gestire acquisti: suggerire un fornitore, selezionarlo e sottoscrivere un ordine sono azioni differenti. Delegarle richiede confini espliciti, verifiche e responsabilità identificabili.
La formula «supervisione umana», da sola, non risolve nulla. Un controllo è effettivo se chi lo esercita comprende almeno gli elementi necessari della decisione, dispone del tempo per valutarla e ha l’autorità per fermarla. Se deve approvare centinaia di operazioni in pochi minuti, oppure teme conseguenze professionali quando contraddice il sistema, la presenza umana diventa una finzione organizzativa. Possiamo avere una persona dentro il procedimento e aver già espulso il giudizio umano dalla decisione.
Per questo la responsabilità va costruita prima del danno. Occorre chiarire chi autorizza l’impiego, chi stabilisce i limiti, chi verifica il comportamento del sistema e chi interviene quando quei limiti vengono superati. La complessità tecnica non dovrebbe trasformarsi in un meccanismo di dispersione delle responsabilità. Quanto più numerosi sono i soggetti coinvolti, tanto più precisa deve essere la distribuzione dei compiti. Altrimenti, alla fine della catena, ciascuno avrà svolto la propria parte e nessuno risponderà dell’esito.
Anche il ruolo pubblico deve essere ripensato in termini concreti. Scrivere obblighi senza dotare le istituzioni delle competenze necessarie per verificarli produce una sovranità di carta. Servono persone capaci di interrogare i sistemi, accesso alle informazioni rilevanti, risorse per valutazioni indipendenti. E serve la possibilità di apprendere dagli errori e aggiornare le misure. La certezza del diritto deve rendere prevedibili le responsabilità, lasciando spazio alla revisione degli strumenti quando cambiano le capacità tecnologiche.
Per l’Europa, questa è anche una questione di credibilità. La tutela dei diritti richiede investimenti in ricerca, infrastrutture e alternative accessibili. Se un’amministrazione o un’impresa può scegliere soltanto sulla carta, anche il suo potere negoziale si svuota. La sovranità tecnologica dovrebbe misurarsi nella capacità di verificare, sostituire, correggere e, quando necessario, interrompere un servizio. Sono possibilità operative che danno sostanza all’autonomia politica e alla libertà economica.
Il costituzionalismo ha imparato a diffidare del potere che presenta se stesso come inevitabile. Oggi quella lezione impone di tenere aperto lo spazio delle alternative, evitando che l’efficienza diventi una giustificazione sufficiente per ogni delega. Il progresso merita istituzioni capaci di orientarlo e cittadini messi in condizione di discuterne i fini. La domanda decisiva è se conserveremo il potere di cambiare strada. Una democrazia resta tale anche quando sa dire no a ciò che è tecnicamente possibile.