Insiders en specialisten getuigen over hoe Tesla, onder impuls van Elon Musk, de zelfrijdende capaciteiten van zijn auto’s overdreef

Is de elektrische autofabrikant Tesla bij het ontwerpen van de Autopilot-functie, die de wagens zelfrijdend maakt, te kort door de bocht gegaan? Primeerden commerciële en zelfs esthetische motieven op veiligheid? Voormalige werknemers getuigen over hoe voornamelijk oprichter Elon Musk zijn visie doordrukte. Een visie die gevaarlijk kan zijn voor de kopers van de auto’s.

Elon Musk bouwde zijn bedrijf Tesla op de belofte dat het stond voor de toekomst van het autorijden. Veel van die belofte was opgehangen aan Autopilot, een systeem waarmee zijn glimmende elektrische auto’s op de snelweg op eigen houtje zouden remmen, optrekken en sturen. Keer op keer beweerde Musk dat de dag waarop Tesla’s helemaal autonoom zouden rijden er stond aan te komen. Als het zover was, zou dat via draadloos verstuurde software-updates wel geregeld worden.

Anders dan technologieonderzoekers bij zowat alle andere bedrijven die bezig waren met zelfrijdende auto’s, ging Musk ervan uit dat camera’s die de omgeving in kaart brengen volstaan om autonomie te bereiken. Al hadden veel Tesla-ingenieurs zo hun twijfels of het wel veilig is je volledig te verlaten op camera’s, zonder het gebruik van andere sensoren. En ze vroegen zich af of Musk chauffeurs geen zand in de ogen strooide over de bijzondere vermogens van Autopilot.

Die vragen vormen nu de kern van een onderzoek van de National Highway Traffic Safety Administration. De aanleiding zijn minstens twaalf ongevallen waarbij Tesla’s die Autopilot gebruikten, inreden op geparkeerde brand- en politiewagens en andere voertuigen, waarbij één persoon omkwam en zeventien anderen gewond raakten.

Gezinnen klaagden Tesla aan voor die crashes. Tesla-gebruikers spanden ook processen tegen het bedrijf aan, omdat het foute informatie geeft over Autopilot en verwante services zoals Full Self Driving en FSD.

Als stuwende kracht achter Autopilot duwde Musk het systeem een richting op waar andere automakers niet wilden gaan met dat soort technologie. Dat blijkt uit gesprekken met negentien mensen die de voorbije tien jaar meegewerkt hebben aan het project. Musk misleidde kopers herhaaldelijk over de mogelijkheden van het systeem, zeggen velen van hen. Ze spraken allemaal op voorwaarde van anonimiteit, omdat ze bang waren voor vergelding vanwege Musk en Tesla.

Musk en een topadvocaat van Tesla antwoordden niet op meerdere e-mails die we in de loop van enkele weken stuurden om te peilen naar hun reactie op dit artikel, met inbegrip van een gedetailleerde lijst met vragen. Het bedrijf is wel altijd consequent blijven zeggen dat de verantwoordelijkheid bij de chauffeurs ligt, die alert moeten blijven en opnieuw de controle over hun wagen moeten nemen als Autopilot niet naar behoren zou functioneren.

Sinds Tesla begon te werken aan Autopilot is er altijd een spanningsveld geweest tussen de veiligheid en Musks verlangen om Tesla’s in de markt te zetten als wonderen van technologie. Jarenlang riep Musk uit dat zijn Tesla’s op het punt stonden compleet autonoom te gaan rijden. “Het nieuws komt er vooral op neer dat de Tesla’s die de fabriek verlaten, beschikken over alle hardware die nodig is voor Level 5-autonomie”, verklaarde hij in 2016. Die uitspraak verbaasde en verontrustte sommigen die aan het project aan het werken waren, want volgens de Society of Automotive Engineers komt Level 5 neer op volledige autonomie.

Meer recent zei hij dat nieuwe software – die deel uitmaakt van een bètatest bij een beperkt aantal Tesla-eigenaars die het FSD-pakket hebben aangekocht – het voor auto’s mogelijk maakt autonoom te rijden, zowel in het stadsverkeer als op de snelweg. Maar zoals dat het geval is bij Autopilot zegt de gebruiksaanwijzing dat chauffeurs hun handen op het stuur moeten houden om klaar te zijn om de wagen weer over te nemen als dat nodig zou zijn.

Regulatoren waarschuwen dat Tesla en Musk de capaciteiten van Autopilot overdrijven en chauffeurs er zo toe aanzetten het op de verkeerde manier te gebruiken. “Wat mij vooral zorgen baart, is de taal die gehanteerd wordt om de capaciteiten van het voertuig te beschrijven”, zegt Jennifer Homendy, voorzitter van de National Transportation Safety Board, een orgaan dat ongevallen onderzocht waarbij Autopilot betrokken was, en dat kritiek formuleerde op het ontwerp van het systeem. “Het kan erg gevaarlijk zijn.”

Sommige mensen die al lang met autonome voertuigen bezig zijn voor andere bedrijven, alsook zeven voormalige leden van het Autopilot-team, hebben vragen bij de praktijk van Tesla om Autopilot en FSD constant bij te stellen, en vervolgens software-updates te doen. Volgens hen houdt dat risico’s in omdat kopers nooit goed weten wat het systeem kan en wat niet.

Ook hardwarekeuzes roepen veiligheidsvragen op. Bij Tesla zelf werd gesuggereerd de camera’s aan te vullen met radars en andere sensoren die beter werken bij hevige regen en sneeuw, fel zonlicht en andere moeilijke omstandigheden. Autopilot gebruikte een paar jaar lang ook een radar, en Tesla ontwikkelde zijn eigen radartechnologie. Maar Musk, zeggen drie mensen die betrokken waren bij het project, hield leden van het Autopilot-team herhaaldelijk voor dat het mensen lukt om met slechts twee ogen te rijden, en dat auto’s het daarom ook kunnen stellen met uitsluitend camera’s.

Ze zeggen dat hij dat beschouwde als “een terugkeer naar de eerste beginselen”, een begrip dat Musk en anderen in de technologiesector al langer gebruiken om standaardpraktijken van tafel te vegen en problemen van nul af opnieuw aan te pakken.

In mei meldde Musk op Twitter dat Tesla geen radars meer in nieuwe auto’s installeerde. Hij zei dat het bedrijf de implicaties voor de veiligheid had onderzocht, maar gaf verder geen details vrij.

Sommige mensen steunden Musk, vanuit het idee dat een zekere mate van compromis en risico gerechtvaardigd is om op te schalen naar massaproductie, om de autosector uiteindelijk te veranderen.

Maar onlangs uitte zelfs Musk zijn twijfels over de technologie van Tesla. Nadat hij in toespraken, in interviews en op sociale media bij herhaling had gezegd dat FSD op de rand van volledige autonomie stond, noemde Musk het systeem in augustus “niet bijster goed”. Het team dat ermee aan de slag is, meldde hij op Twitter, “probeert zo snel mogelijk met verbeteringen te komen”.

Camera’s als ogen

Tesla begon Autopilot zeven jaar geleden te ontwikkelen om tegemoet te komen aan nieuwe veiligheidsnormen in Europa, zoals de verplichting om technologie voor automatisch remmen in te bouwen, zeggen drie mensen die mee aan de wieg stonden van het project. Het bedrijf noemde het aanvankelijk een project voor “geavanceerde besturingsassistentie”, maar ging al snel op zoek naar een andere naam. Leidinggevenden die werden aangestuurd door Musk kozen voor ‘Autopilot’, al hadden sommige ingenieurs bij Tesla bezwaren tegen die naam, omdat hij misleidend was. Zij waren meer gewonnen voor ‘Copilot’ en andere benamingen. De naam was ontleend aan navigatiesystemen waarmee vliegtuigen in ideale omstandigheden zelf kunnen vliegen met beperkte inbreng van de piloot.

Bij de officiële aankondiging van het systeem in oktober 2014 stelde Tesla dat Autopilot autonoom kon remmen en de auto binnen een rijvak kon houden, maar het zei er wel bij dat “de chauffeur nog altijd verantwoordelijk is voor, en ultiem ook de controle heeft over de wagen”. En het meldde ook nog dat het “nog jaren zal duren voor zelfrijdende auto’s realiteit worden”.

In het begin gebruikte Autopilot camera’s, radar en geluidsgolfsensoren. Maar Musk maakte zijn ingenieurs duidelijk dat het systeem uiteindelijk in staat moest zijn autonoom van deur tot deur te rijden, en dat uitsluitend op basis van camera’s, zeggen drie mensen die meewerkten aan het project. Ze zeggen ook dat het Autopilot-team het systeem bleef ontwikkelen met gebruik van radar, en zelfs plannen had om het aantal radarsensoren op elke auto uit te breiden. En dat ze ook speelden met het idee van lidar-toestellen (light detection and ranging), waarmee je afstanden kunt inschatten met behulp van laserpulsen.

Maar Musk bleef vasthouden aan zijn metafoor van de twee ogen en vond dat het enige juiste pad om te bewandelen. Hij vroeg zich ook af of een radar zo’n goed idee was als het betekende dat je technologie van derde partijen moest aankopen, zeggen vier mensen die betrokken waren bij het Autopilot-team. Volgens hen haalde die manier van denken het uiteindelijk en kwam de nadruk meer op cameratechnologie te liggen.

Andere bedrijven die bezig waren met besturingsassistentiesystemen en volledig autonome wagens oordeelden dat camera’s niet volstonden. Google, bijvoorbeeld, rustte zijn zelfrijdende testauto’s uit met dure lidar-toestellen zo groot als emmers, die op het dak werden bevestigd. Camera’s daarentegen zijn goedkoop en klein, wat ze voor Tesla aantrekkelijk maakt om te integreren in zijn strakke ontwerpen. Een radarsysteem, dat gebruikmaakt van radiogolven en al decennia meegaat, is goedkoper dan een lidar. Maar volgens drie mensen die meewerkten aan het project steunden sommige ingenieurs de strikte camerabenadering van Musk omdat radar niet altijd accuraat is, en omdat het moeilijk is om radargegevens te verzoenen met informatie van camera’s.

Experts inzake autonoom rijden zeggen dat Musks verhaal van de camera’s die werken als ogen niet opgaat, en dat doen ook acht voormalige ingenieurs voor Autopilot die geïnterviewd werden voor dit artikel. Sommigen stelden wel dat er wel degelijk collega’s waren die de kijk van Musk onderschreven.

De beslissingen over de radar werden ook beïnvloed door esthetische overwegingen.

Eind 2014 begon Tesla een radar te installeren in zijn Model S-auto’s, als voorbereiding op de uitrol van de eerste versie van Autopilot. Maar Musk vond het zicht van het gat in de voorkant van de wagens lelijk en droeg zijn ingenieurs op een rubberen afdichting aan te brengen, zeggen twee mensen die destijds betrokken waren bij het project. Ook al waarschuwden sommige werknemers dat op de afdichting sneeuw en ijs konden ophopen die konden verhinderen dat het systeem naar behoren zou werken.

Dezelfde mensen zeggen dat het bedrijf gehoor gaf aan de richtlijnen van Musk zonder het ontwerp uit te testen bij winterweer, maar het probleem wel oplosten toen klanten klaagden dat de radar niet meer werkte in de winter.

Halverwege 2015 had Musk een vergadering met een groep leidinggevende ingenieurs bij Tesla om plannen voor de tweede versie van Autopilot te bespreken. Een van die mensen – Hal Ockerse, een man met een lange staat van dienst in de auto-industrie – zei tegen Musk dat hij een computerchip en andere hardware wilde installeren die de fysieke componenten van Autopilot konden monitoren en konden fungeren als vangnet voor als het systeem het plotseling zou begeven, zeggen twee mensen die weet hebben van de vergadering.

Maar Musk wilde niet weten van het idee, zeggen ze. Hij voerde aan dat zoiets het proces alleen maar zou vertragen, aangezien het ultieme doel een systeem was waarbij de auto’s autonoom zouden rijden. Musk was toen al boos omdat Autopilot slecht had gewerkt tijdens zijn ritje die ochtend, en gaf Ockerse ervan langs omdat hij het idee nog maar geopperd had. Snel daarna verliet Ockerse het bedrijf.

Eind 2015 verkondigde Musk in het openbaar dat Tesla’s binnen twee jaar autonoom zouden rijden. “We beschikken over alle puzzelstukken, het is nog net zaak die precies af te stellen, aan elkaar te koppelen en ons ervan te vergewissen dat ze in heel veel omstandigheden werken, en dan zijn we klaar”, vertelde hij aan het magazine Fortune.

Andere bedrijven die de mogelijkheden van autonoom rijden exploreerden, zoals Google, Toyota en Nissan, waren een pak minder optimistisch in publieke verklaringen.

In mei 2016, ongeveer zes maanden nadat het interview met Fortune verschenen was, verongelukte de eigenaar van een Model S, Joshua Brown, in Florida toen Autopilot een aanhangwagen van een tractor die voor hem afdraaide niet herkende. Musk had een korte vergadering met het team van Autopilot waarin hij het ongeval even ter sprake bracht. Hij gaf geen details over wat fout ging, maar vertelde het team dat het bedrijf er alles aan moest doen om te garanderen dat zijn auto’s niet zouden botsen, zeggen twee mensen die aanwezig waren op de vergadering.

Tesla stelde later dat de camera van Autopilot geen onderscheid zag tussen de witte aanhangwagen en de heldere lucht. Het bedrijf heeft nooit publiekelijk uitgelegd waarom de radar het ongeval niet kon voorkomen. Radartechnologie is net zomin als camera’s en lidar feilloos. Voor velen in de industrie betekent dat dat je net zoveel mogelijk soorten sensoren moet installeren.

Minder dan een maand na het ongeval zei Musk op een evenement van Recode, een technologiewebsite, dat autonoom rijden “in se een opgelost probleem” was, en dat Tesla’s toen al veiliger reden dan mensen. Hij zei niets over het ongeval waarbij Brown om het leven was gekomen. Een paar weken later stelde Tesla in een blogpost – getiteld A Tragic Loss – wel dat het het incident meteen had gemeld aan de federale regulatoren.

Het is niet duidelijk of het fatale ongeval een rol speelde, maar kort daarop vertoonden Musk en Tesla opnieuw interesse voor radar, zeggen drie ingenieurs die aan Autopilot werkten. Het bedrijf begon zijn eigen radartechnologie te ontwikkelen, in plaats van sensoren van andere leveranciers te gebruiken. Het nam in oktober 2016 expert Duc Vu van het auto-onderdelenbedrijf in Delphi over.

Maar zestien maanden later vertrok Vu alweer na een meningsverschil met een andere leidinggevende over het nieuwe bedradingssysteem in de wagens, zeggen drie mensen. In de daaropvolgende weken en maanden verlieten ook andere mensen van het radarteam het bedrijf. In de maanden erna herkwalificeerde Tesla de radarkwestie als een onderzoeksproject dat niet meteen gericht was op productie, zeggen de drie mensen.

De zoektocht naar volledig autonome wagens

Toen Tesla op het punt stond Autopilot 2.0 te lanceren, onderbraken de meesten van het team hun normale werkzaamheden om een filmpje te maken dat aantoonde hoe autonoom het systeem wel niet kon zijn. Maar de finale video gaf geen volledig beeld van hoe de auto functioneerde tijdens de opnamen.

Het traject dat de auto aflegde, was vooraf in kaart gebracht met behulp van software die een digitale 3D-kaart creëerde, een functie waarover bestuurders niet beschikken bij de commerciële versie van Autopilot, zeggen twee voormalige leden van het Autopilot-team. Op een bepaald moment tijdens de opnamen botste de auto toen hij Autopilot gebruikte tegen een vangrail op de terreinen van Tesla, en moest hij hersteld worden, zeggen drie mensen die meewerkten aan het filmpje.

Het filmpje wordt gebruikt om Autopilot te promoten, en staat nog altijd op de website van Tesla.

Toen Musk Autopilot 2.0 in oktober 2016 lanceerde, zei hij op de persconferentie dat alle nieuwe Tesla-wagens beschikten over camera’s, rekenvermogen en andere hardware die nodig was om “volledig zelf te rijden”. Geen technische term, maar wel een die hintte op volledig autonome besturing.

Die verklaringen verrasten het ingenieursteam, en sommigen hadden het gevoel dat Musk dingen beloofde die niet mogelijk waren, zeggen twee mensen die meewerkten aan het project. Sterling Anderson, die het project destijds leidde en later zelf een bedrijf oprichtte, Aurora, dat technologie voor autonoom rijden ontwikkelde, zei tegen de sales- en marketingteams van Tesla dat ze de technologie nooit “autonoom” of “zelfbesturend” mochten noemen, omdat dat het publiek zou misleiden, zeggen twee voormalige werknemers.

Sommigen in het bedrijf namen dat advies misschien ter harte, maar Tesla hanteerde al snel de term full self driving als de standaardmanier om de technologie te beschrijven.

In 2017 begon Tesla een pakket services te verkopen dat het beschreef als een geavanceerder versie van Autopilot, met als benaming ‘Full Self Driving’. Troeven waren onder meer reageren op verkeerslichten en stopborden, en van rijvak veranderen zonder dat de chauffeur dat vraagt. Prijs van het pakket: tot 10.000 dollar.

Ingenieurs die met de technologie in de weer waren en zijn, geven toe dat het nog niet gaat om de volledige autonomie die de naam suggereert en die Musk beloofde in publieke verklaringen. “Ik heb er alle vertrouwen in dat de auto dit jaar nog zelfstandig zal rijden, en dat op een betrouwbaardere manier dan een mens”, zei hij in januari tijdens een onlinevergadering om de bedrijfsresultaten toe te lichten. “Dit is echt wel groots.”

Begin november riep Tesla bijna 12.000 voertuigen terug die deel uitmaakten van een bètatest van nieuwe FSD-functies, nadat een software-update was doorgevoerd die volgens het bedrijf tot ongevallen kon leiden vanwege onverwachte activeringen van het noodremsysteem.

Schuyler Cullen, verantwoordelijk voor onderzoek naar mogelijkheden voor autonoom rijden bij de Zuid-Koreaanse techreus Samsung, zei in een interview dat de pure camerabenadering van Musk fundamentele gebreken had. “Camera’s zijn geen ogen! Pixels zijn geen retinale ganglioncellen! De FSD-computer lijkt in niets op de visuele cortex!”

Amnon Shashua, CEO van Mobileye, een voormalige leverancier van Tesla die tests doet met technologie die vergelijkbaar is met die van de autobouwer, zegt dat Musks idee om alleen camera’s te gebruiken in een zelfrijdende auto op de lange termijn kan werken, maar dat op de korte termijn misschien ook andere sensoren nodig zijn. En volgens hem is het goed mogelijk dat Musk de technologische mogelijkheden van het bedrijf overdrijft. We mogen die verklaringen dan ook niet al te serieus nemen, zegt hij. “Je moet niet te veel belang hechten aan wat Tesla zegt. De waarheid is niet noodzakelijk hun ultieme doel. Het ultieme doel is een bedrijf uitbouwen.”