Nieuwsbrief

Blijf wekelijks op de hoogte van het beste uit De Kennis van Nu / Focus en het laatste nieuws!

MELD JE AAN
zelrijdende auto

Des te slimmer de zelfrijdende auto’s worden, des te dommer worden de bestuurders: ze grijpen niet snel genoeg in als het nog nodig is, of klimmen uit blind vertrouwen al op de achterbank. Reden om zo snel mogelijk de mens helemaal achter het stuur vandaan te halen, vinden Google en Tesla. Maar kan dat wel?

Wie vandaag in een Tesla stapt, kan al 90 procent van het rijwerk aan de auto overlaten, zo schept Tesla-topman Elon Musk graag op. Over twee jaar tijd zal de volledig zelfrijdende auto volgens zijn voorspellingen zelfs al een feit zijn. Dat is maar goed ook, want Musk vindt dat mensen in de tussentijd maar ‘gekke dingen’ doen achter het stuur van hun Tesla’s. 

Chris Urmson, die Google’s project met zelfrijdende auto’s leidt, is het met Musk eens: een deels autonome auto is geen optie. ‘Uit ons eigen onderzoek blijkt dat we niet kunnen vertrouwen op bestuurders om een deel van de rijtaken op zich te nemen,’ zo schreef hij op zijn blog. 

Inderdaad vertonen de bestuurders van deels zelfrijdende auto’s vreemde kuren. Soms zijn ze zelfs ronduit roekeloos: zo plaatste een man afgelopen november een filmpje op YouTube waarin hij op de achterbank van zijn Tesla was gekropen terwijl de auto met 80 kilometer per uur over de Nederlandse snelwegen scheurde. 

Bij andere incidenten is het minder duidelijk of het nou de bestuurder of de auto is die dom doet. Zo was er een Amerikaan die zijn Tesla automatisch het pad van de auto voor hem liet volgen, maar vergat om het stuur over te nemen toen de sneller rijdende auto uit het zicht verdween. Gevolg: de Tesla zwiepte uit het niets de rijstrook met tegemoetkomend verkeer op. Gelukkig stuurde de bestuurder tijdig bij.

De paradox van de automatisering

Voor Google en Tesla zijn alle incidenten reden te meer om de mens snel achter het stuur vandaan te halen. Maar volgens David Abbink, die aan de TU Delft werkt aan een symbiotische samenwerking tussen auto en bestuurder, berust dat idee op een denkfout. ‘Er is op dit moment een vicieuze cirkel van automatisering ontstaan. Ze maken een auto die steeds meer taken overneemt, en als er dan toch nog iets fout gaat, dan is dat de schuld van de mens, en alleen maar aanleiding om meer te automatiseren.’ 

Abbink zou de schuld eerder bij de ontwerpers van de interactie tussen mens en machine leggen. ‘Zij creëren op dit moment een hele oneerlijke verdeling van taken. Ze zeggen: de auto neemt bijna alle taken goed op zich, en de bestuurder moet alleen maar een oogje in het zeil houden en af en toe het stuur overnemen als er iets fout gaat. Maar mensen zijn juist notoir slecht in het opletten op een systeem wat het grosso modo goed doet. Dat vinden we saai, en dan gaan we iets anders doen.’ 

De slimme auto maak de mens volgens Abbink dus niet dommer, maar dwingt hem of haar onmenselijk slim te zijn. Onder ingenieurs wordt dit wel de automatiseringsparadox genoemd: als machines werk overnemen van de mens, dan verliest de mens soms de capaciteit om de overgebleven taken goed uit te voeren. En soms worden die taken zelfs complexer dan het oorspronkelijk werk.

Automatische piloot

In de luchtvaart worstelen wetenschappers al decennia met de automatiseringsparadox. Al sinds de jaren ’80 wordt het meeste vliegwerk op de automatische piloot uitgevoerd. ‘In een vliegtuig zitten twee goed opgeleide piloten die 99% van de tijd niks te doen hebben en heel af en toe moeten ingrijpen,’ zo vertelt Max Mulder, hoogleraar aan de TU Delft op het gebied van interactie tussen mens en machine in de luchtvaart. 

Om in die resterende 1 procent van de tijd adequaat op te treden volgen piloten voortdurend trainingen. ‘Hun hele carrière trainen ze op alle mogelijke scenario’s. Hoe reageer je bijvoorbeeld op een botsing met een vogel? Dat gebeurt heel zelden, maar in Amerika alleen al zesduizend keer per jaar,’ aldus Mulder. Daarnaast moeten piloten bepaalde taken – zoals landen bij sterke dwarswinden – zelf blijven uitvoeren. 

In tegenstelling tot de ontwikkelaars van zelfrijdende auto’s streeft de luchtvaartindustrie dus niet naar complete automatisering. Mulder: ‘Er is wel een soort consensus dat we altijd met vliegers te maken zullen hebben. Er zullen altijd wel zaken zijn die je niet goed kan voorspellen en die moeilijk te automatiseren zijn.’ 

Dat zal voor auto’s ook gelden, vermoedt Mulder. ‘Er blijft altijd een element van onvoorspelbaarheid bestaan – al is het maar zo dat in 0,1 procent van de gevallen de sensoren niet begrijpen wat ze voor zich zien. Stel je voor: je zit in de auto naar Groningen, de zon staat laag, spiegelend wegdek omdat het net heeft geregend, en er ligt een kartonnen doos op de weg. Is het een mens of een doos? Daar kun je algoritmes voor bedenken, maar het is een grote technische uitdaging.’

Een seconde van de dood verwijderd

Volgens Abbink is het volledig automatiseren bij auto’s nog moeilijker dan bij vliegtuigen, omdat de tijdsdruk om te reageren in de auto groter is: ‘In een auto ben je soms maar een seconde van de dood verwijderd.’ Daarentegen kan een piloot bijvoorbeeld al uren van tevoren zien dat de automatische piloot een route heeft uitgestippeld die niet hoog genoeg boven een bergketen uitstijgt. ‘Het moeilijke is dat de kritische gevallen waarin de bestuurder het stuur moet overnemen heel snel ingeschat moeten worden.’ 

Uit onderzoek van Natasha Merat aan de Universiteit van Leeds blijkt inderdaad dat automobilisten daar slecht toe in staat zijn. Pas elf seconden nadat ze het stuur moeten overnemen van een automatisch systeem rijden ze weer even scherp als normaal. Dat soort onderzoek is voor Abbink een van de redenen om niet eens naar complete automatisering te streven: ‘De echte uitdaging is niet om de mens te vervangen door een machine, maar om mens en machine optimaal te laten samen werken.’ 

Zowel Mulder als Abbink denken dus dat de moeilijkheid om van een 90 procent zelfrijdende auto naar 100 procent zelfrijdend te gaan wordt onderschat. Maar is dat zelfs op de lange termijn niet mogelijk? De lift, een vervoersmiddel waar Tesla en Google hun zelfrijdende auto graag mee vergelijken, kan immers ook met een druk op de knop automatisch naar de juiste bestemming. 

‘Voor 100 procent is onmogelijk’, vindt Abbink. Er zijn volgens hem naast de feilbare bestuurder namelijk nog te veel andere onvoorspelbare factoren. ‘Tenzij je een groot hek om wegen heen zet, zorgt dat geen mens of dier de weg op kan, en zorgt dat allemaal identieke auto’s op dezelfde manier met elkaar communiceren kan dat niet.’  En daar wil zelfs Tesla niet naar toe, denkt hij. ‘Hoe overtuig je als autofabrikant nog je klant om voor jou te kiezen als alle auto’s hetzelfde moeten zijn?’

Ontdek meer in de special