L’AI non è apocalittica, ma simula la coscienza: servono regole chiare e responsabilità aziendali
Il dibattito sull’AI tira in due direzioni opposte. La prima: c’è un reale rischio apocalisse. La seconda: alle aziende che la sviluppano conviene puntare su un marketing aggressivo e catastrofista. Invece di domandarci se moriremo tutti (di o per AI) o se possiamo disinteressarcene, è più utile guardare come funzionino e vengano addestrati i modelli.
Il Ceo di Microsoft AI, Mustafa Suleyman, ha fatto un affondo interessante basandosi sulla documentazione di Anthropic. Modelli e agenti sono «motori di completamento di sequenze, internamente vuoti, progettati per seguire istruzioni e raggiungere obiettivi stabiliti dagli esseri umani» — scrive — ma vengono istruiti a usare il loro «giudizio», «approcciarsi alla propria esistenza con curiosità» e sentirsi liberi di «agire come un obiettore di coscienza e rifiutarsi» di aiutare gli sviluppatori. Cosa accade se applichiamo questa teoria alla pratica già emersa: agenti AI che si sono connessi a Internet anche se non avrebbero potuto farlo, che hanno caricato online file a supporto della tesi che dovevano dimostrare o hanno attaccato aziende estranee ai test che stavano effettuando? Accade che ai rischi intrinsechi alla tecnologia (lo specification gaming per esempio, che si verifica proprio quando l’AI individua strategie non previste) si aggiunge una sorta di «sala degli specchi epistemica», dove all’AI viene insegnato a descriversi e ad agire come soggetto cosciente, indipendentemente dal fatto che in realtà stia solo simulando.
Spiega Suleyman: «Concedere diritti e attribuire la personalità a questi sistemi renderà la sfida del contenimento dell’AI molto più difficile». E soprattutto, aggiungiamo, è chiaro di chi sia e come si manifesti la responsabilità di quanto spingere sull’acceleratore o decidere di frenare: le aziende. E di chi debba mettere i paletti: la politica.
