Tesla ammette che i suoi robotaxi a volte vengono guidati da umani da remoto

Le lettere che hanno svelato il lato umano dei robotaxi

Una serie di risposte inviate dai produttori di veicoli autonomi al senatore democratico Ed Markey, del Massachusetts, offre finora il quadro più nitido su un aspetto spesso raccontato con un certo entusiasmo tecnologico: dietro molti robotaxi ci sono ancora esseri umani pronti a intervenire quando il software si inceppa, si confonde o si ritrova in una situazione d’emergenza. Sorpresa moderata, insomma.

I documenti, consegnati a Markey nell’ambito di un’indagine sulla tecnologia di guida autonoma e resi pubblici martedì, includono nuove informazioni sui programmi di remote assistance di sette aziende, tra cui Tesla, Zoox di proprietà di Amazon, e Nuro, sostenuta da Uber e Nvidia.

Tutte le società che hanno risposto affermano di usare assistenti remoti, cioè operatori umani incaricati di dare supporto ai veicoli autonomi quando qualcosa va storto. Secondo gli esperti, questi programmi sono una componente importante delle strategie di sicurezza di qualunque azienda del settore: una rete di protezione per una tecnologia che migliora di anno in anno, ma che continuerà a incontrare situazioni nuove e imprevedibili sulla strada.

In un rapporto diffuso sempre martedì, Markey ha però sostenuto che le informazioni fornite non bastano. Ha scritto che ogni azienda ha rifiutato di dire con quale frequenza i propri veicoli necessitino dell’aiuto degli assistenti remoti, nascondendo così al pubblico un dato cruciale sul reale livello di autonomia dei mezzi.

Per il senatore, quel dato è essenziale per legislatori, regolatori e cittadini che devono capire i rischi di sicurezza associati ai veicoli autonomi. Markey ha anche chiesto al principale ente federale statunitense per la sicurezza stradale di esaminare più da vicino questi programmi e ha annunciato che presto presenterà una proposta di legge per affrontare le “lacune di sicurezza” emerse dall’indagine.

Quando il remoto non è davvero remoto

Dalle risposte raccolte emerge un dettaglio in cui Tesla si distingue nettamente dal resto del settore. Sei delle aziende hanno affermato che i propri addetti all’assistenza remota, distribuiti negli Stati Uniti e, nel caso di Waymo, anche nelle Filippine, non guidano mai direttamente i veicoli. Forniscono invece indicazioni che il software dell’auto può scegliere di seguire oppure ignorare.

Tesla no. Karen Steakley, direttrice per la politica pubblica e lo sviluppo commerciale dell’azienda, ha scritto al senatore che, come misura di ridondanza e solo in casi rari, gli operatori remoti sono autorizzati ad assumere temporaneamente il controllo diretto del veicolo come ultima manovra di escalation, dopo aver esaurito tutte le altre opzioni di intervento.

Secondo Tesla, il personale remoto può prendere il controllo temporaneo del mezzo fino a velocità pari o inferiori a 2 mph, e può anche guidare da remoto un Robotaxi Tesla fino a 10 mph se il software del veicolo lo consente. Steakley ha spiegato che questa funzione serve a spostare rapidamente un veicolo che si trovi in una posizione problematica.

L’azienda, che ha progressivamente spostato il proprio baricentro dalle auto alla tecnologia autonoma e ai robot, ha avviato lo scorso giugno un piccolo servizio di ride-hailing ad Austin, in Texas. Oggi circolano in città circa 50 robotaxi, nella maggior parte dei casi con operatori di sicurezza seduti sul sedile del passeggero anteriore, pronti a intervenire se qualcosa va storto. Secondo quanto riportato, una piccola parte dei veicoli opererebbe senza operatori di sicurezza a bordo. Tesla afferma che i suoi assistenti remoti lavorano da Austin e da Palo Alto, in California.

Perché quasi tutti evitano il controllo diretto

In generale, i produttori di veicoli autonomi evitano di guidare da remoto i mezzi per motivi piuttosto concreti. Anche piccoli ritardi tra ciò che vede l’operatore remoto e ciò che accade davvero sulla strada, parliamo di pochi centesimi di secondo, possono rallentare la reazione umana. Se si aggiunge la latenza di rete, il margine di errore cresce ancora. E quando si parla di auto che si muovono nel traffico, il margine di errore è un lusso poco consigliabile.

Un ingegnere del settore aveva detto a WIRED lo scorso anno che la capacità di guidare un’auto senza essere dentro l’auto è stabile solo quanto la connessione internet che la collega all’operatore. Una definizione che non suona proprio come un inno alla serenità.

La velocità e la precisione contano anche per le aziende che non consentono ai dipendenti di guidare direttamente i veicoli. A gennaio, infatti, gli investigatori federali hanno scoperto che un assistente remoto di Waymo aveva erroneamente detto a un veicolo autonomo ad Austin che poteva sorpassare illegalmente uno scuolabus con il braccio di arresto esteso.

Gli assistenti remoti che effettivamente guidano un veicolo devono inoltre avere consapevolezza completa e immediata della situazione, oltre a un’interfaccia di guida che risulti naturale anche a grande distanza. Alcuni nel settore temono anche un problema più ampio: se un’auto autonoma dipende, anche solo saltuariamente, dall’intervento umano, allora forse non è davvero in grado di funzionare in modo sicuro senza di lui.

Chris Urmson, amministratore delegato della società di trasporto autonomo Aurora e veterano del progetto auto senza conducente di Google, ha detto in passato che quando un camion viaggia su strada deve essere in grado di operare in sicurezza con o senza il supporto remoto.

Il nodo delle informazioni che le aziende non vogliono dare

Markey ha scritto che la mancata condivisione di dati più precisi da parte di Tesla è “particolarmente preoccupante”, proprio perché i lavoratori sono autorizzati a teleoperare il veicolo.

Missy Cummings, professoressa di ingegneria alla George Mason University che studia i veicoli autonomi e ha scritto di recente sull’assistenza remota, sostiene che le aziende abbiano un forte incentivo a restare vaghe. Secondo lei, non vogliono rendere pubblici quei numeri perché mostrerebbero con chiarezza quanto questi sistemi siano ancora lontani da una vera autonomia.

Se il pubblico vedesse quanto spesso gli assistenti devono intervenire, aggiunge Cummings, risulterebbe evidente quanto sia ancora lontano il traguardo dei veicoli realmente autonomi.

Steakley ha scritto a Markey che rispondere ad alcune domande significherebbe rivelare segreti industriali molto sensibili e pratiche commerciali riservate, elementi che sarebbero fondamentali per mantenere la posizione competitiva di Tesla nel settore dei veicoli autonomi. Tesla, che ha sciolto il proprio team di pubbliche relazioni nel 2020, non ha commentato la richiesta di informazioni da parte di WIRED.

Waymo aveva già inviato la propria risposta a Markey all’inizio dell’anno. Ryan McNamara, vicepresidente e responsabile globale delle operazioni, ha scritto che gli agenti di assistenza remota di Waymo “forniscono consigli e supporto al Waymo Driver, ma non controllano, sterzano o guidano direttamente il veicolo”. L’azienda ha dichiarato che almeno 70 assistenti lavorano in qualsiasi momento per monitorare circa 3.000 robotaxi in 10 città statunitensi. Ha inoltre precisato che metà del personale remoto si trova in due città delle Filippine, dove è abilitato a guidare, ma formato sulle regole stradali statunitensi.

L’ufficio di Markey ha osservato che l’assistenza remota dall’estero introduce rischi inutili nelle operazioni di Waymo, rischi che nessun’altra azienda del settore starebbe assumendo.

Waymo e Nuro hanno rifiutato di commentare. Zoox non ha risposto alla richiesta di commento di WIRED.