La celebre massima della Silicon Valley, «muoviti velocemente e rompi le cose», ha favorito per anni lo sviluppo di applicazioni, reti digitali e prodotti tecnologici. Ma quando l’intelligenza artificiale entra nel mondo fisico e prende il controllo di veicoli da due tonnellate che circolano accanto a pedoni e ciclisti, questa filosofia diventa semplicemente inaccettabile.

Il tragico incidente del 18 marzo 2018 a Tempe, in Arizona, rappresentò un punto di svolta. Un veicolo sperimentale di Uber investì mortalmente Elaine Herzberg mentre attraversava la strada. Quell’episodio dimostrò che la guida automatizzata non può essere trattata come una normale corsa all’innovazione software: è una sfida tecnologica, etica e operativa nella quale ogni errore può avere conseguenze irreversibili.

L’indagine del National Transportation Safety Board (NTSB) rivelò inoltre che il problema non fu esclusivamente tecnico. Anche la cultura aziendale della sicurezza giocò un ruolo decisivo. Uber aveva ridotto alcune misure precauzionali e aveva eliminato il secondo operatore di sicurezza dal veicolo, affidando la supervisione a una sola persona. La conducente finì per distrarsi con il telefono cellulare.

Il caso mise in evidenza un problema noto come «compiacenza verso l’automazione»: quando una macchina funziona correttamente quasi sempre, l’essere umano tende progressivamente ad abbassare il livello di attenzione. Il paradosso è evidente: più affidabile appare il sistema, più difficile può diventare mantenere una supervisione umana costante.

Anche l’intelligenza artificiale del veicolo mostrò limiti preoccupanti. Il sistema rilevò Herzberg circa 5,6 secondi prima dell’impatto, ma ebbe difficoltà a interpretare correttamente ciò che stava osservando. Il software la classificò alternativamente come veicolo, bicicletta e oggetto sconosciuto. Ogni nuova classificazione interrompeva la continuità dell’analisi della sua traiettoria. Inoltre, i sistemi automatici di frenata installati di serie erano stati disattivati per evitare interferenze con il software sperimentale.

Da allora l’industria ha progressivamente adottato un approccio molto più rigoroso, sintetizzato da Hitachi nell’espressione «muoversi velocemente senza rompere nulla». Un principio particolarmente importante è la simulazione su vasta scala: prima di affrontare situazioni reali, i veicoli autonomi vengono sottoposti a milioni di scenari virtuali, compresi eventi estremamente rari o pericolosi.

Waymo, per esempio, utilizza sistemi di simulazione come Carcraft per accumulare enormi quantità di esperienza virtuale. I risultati reali sembrano indicare che questo approccio può produrre importanti benefici. Uno studio della compagnia assicurativa Swiss Re, basato su 25,3 milioni di miglia percorse autonomamente dai veicoli Waymo, ha rilevato una riduzione dell’88% delle richieste per danni materiali e del 92% di quelle relative a lesioni personali rispetto ai conducenti umani.

Altri studi hanno osservato riduzioni significative anche negli incidenti che coinvolgono pedoni, ciclisti e motociclisti. La prospettiva è quindi promettente: un sistema autonomo non si stanca, non beve alcol, non utilizza il telefono e può reagire molto più rapidamente di una persona.

Ciò non significa, però, che il problema sia risolto. I robotaxi di Waymo sono ancora oggetto di indagini e controlli dopo alcuni episodi controversi, tra cui manovre irregolari vicino a scuolabus e collisioni minori in aree scolastiche. I cosiddetti «casi limite», situazioni rare e imprevedibili, continuano a rappresentare una delle maggiori difficoltà dell’intelligenza artificiale applicata alla guida.

Per ottenere la fiducia della società non basta quindi dimostrare che, statisticamente, le automobili autonome possono essere più sicure degli esseri umani. Servono norme comuni, trasparenza dei dati, test indipendenti, simulazioni exhaustive e una supervisione regolatoria rigorosa.

La guida autonoma può trasformare radicalmente la sicurezza stradale e salvare migliaia di vite. Ma per realizzare questa promessa deve abbandonare definitivamente la cultura del «tentativo ed errore». Quando sono in gioco vite umane, innovare velocemente è importante; non rompere nulla lo è molto di più.