«Ho più paura della stupidità naturale che dell'intelligenza artificiale. Ci sono problemi ma cadere vittime di narrazioni apocalittiche o integrate non è la soluzione. La domanda si sposta sull'uso che possiamo fare dell'intelligenza artificiale» dice padre Paolo Benanti in consiglio comunale, ospite e interlocutore sul tema. L'occasione è ghiotta perché il docente di etica della Pontificia Università Gregoriana è anche presidente della Commissione italiana per l'intelligenza artificiale nonché uno dei membri dell'organismo che si occupa di questi temi presso le Nazioni Unite.
Massimi sistemi e scenari futuri, non futuribili, così anche indicazioni concrete ai consiglieri comunali e al sindaco, Giuseppe Sala, sul ruolo a cui la città non può sottrarsi: «Il Comune di Milano può far nascere qualcosa di frontiera», che a sua volta può indirizzare «qualcosa che impatti a livello europeo». Insomma, se il tema è globale, ciò non vuol dire che le iniziative non possono essere locali, soprattutto se si parla di Milano, capitale dei data center e luogo dove si propone di far condurre all'IA la 90 e la 91. A proposito: «Accettereste stando su una macchina che in caso di incidente cerchi di minimizzare i danni?». Un esempio concreto dei problemi etici riguarda le ambizioni di Milano smart city: «Una smart city che sensorizzi tutto è il miglior modo di controllare tutto, ma anche il modo migliore di aiutare gli anziani ad aderire al proprio protocollo di cure». Può sembrare incredibile, spiega Benanti, ma la predittività dell'AI arriva al punto da poter anticipare la rottura di un femore di due settimane, a patto però di vivere in una condizione più vigilata del Grande Fratello.
Secondo il professore non servono autorità garanti diverse da quelle democraticamente elette, che come tali rispondono agli elettori. Ma attenzione a non cedere alla «tentazione di lasciare a un'entità astratta come il mercato di definire che cosa è conveniente e che cosa no». Uno dei temi più caldi, come è noto, è che le piattaforme digitali non sono ritenute giuridicamente responsabili di quel che trasmettono. E ancora: «Sono discorsi che richiedono la politica con la P maiuscola», perché il professore è convinto che non esistano «spazi alternativi». Onori e oneri.
«Il tema della sostenibilità, anche energetica, di questi sistemi di intelligenza artificiale, è il vero tema del futuro» ricorda Benanti, perché se mantenere un chat bot costa già duecento dollari al mese anche a causa del consumo di energia, in un futuro non troppo lontano bisognerà scegliere se considerare quest'«infrastruttura» al pari delle infrastrutture materiali, perché «bisogna passare a uno sviluppo attento ai territori e alle generazioni». E anche alle «marginalità», dal momento che tante persone rischiano di essere escluse non solo dalla fruizione dei vantaggi dell'AI, ma persino dalla fase di rilevazione dei dati che la indirizzano. In conclusione: è urgente «un nuovo codice della strada per questa macchina così potente».
Un momento interessante del confronto è stato lo scambio di opinioni con il sindaco, che ha chiesto un parere su come cambierà il concetto di merito. La risposta è stata concreta: «Il merito è qualcosa che segue i fatti», il problema sorge quando L'AI è utilizzata «in modo predittivo, così che voglio predeterminare quale sarà il tuo merito e decidere su di te». E allora «un merito che diventa un premerito è la negazione del merito stesso, perché l'efficienza diventa una sostituzione della giustizia.
Pensiamo alla funzione riabilitativa del carcere», che non può essere valutata sulla base di quel che la persona ha fatto fino a quel momento della vita. Una cosa è certa: da settembre scorso ogni device è infuso di AI.
