Forskere fra Stanford University opdager, at Teslas autopilotteknologi ikke kan klassificere folk på cykler korrekt
I et forsøg på at forstå, hvordan fremtidens selvkørende biler kan interagere med cyklister, tog forskere ved Stanford University en Tesla Model S til en prøvetur, og resultaterne er muligvis ikke gode nyheder for cyklister.
Forskerne fandt ud af, at bilen jævnligt ikke kunne identificere dem, der kom rundt på cykel på byens gader.
Mens Tesla Model S-elbilen, de testede, ikke er selvkørende, anvender den nogle af de systemer, der senere kan blive brugt, hvis teknologien, som i øjeblikket afprøves over hele verden, bliver gjort lovlig.
Tesla hævder i øjeblikket, at alle dets køretøjer 'har den nødvendige hardware til fuld selvkørende kapacitet på et sikkerhedsniveau, der er væsentligt højere end en menneskelig chaufførs.'
Dr. Heather Knight, som er medlem af Stanfords Center for Design Research, og en ekspert i menneske-robotinteraktion og automatiserede køretøjsgrænseflader, sagde dog, at hun fandt autopilotens agnostiske adfærd omkring cyklister 'skræmmende'.
2016 Model S Tesla, de kørte, har en situationsbevidst skærm, der hjælper brugerne med at forstå, hvad bilen "ser".
Det var brugen af denne funktion, der førte Dr. Knight til sin konklusion, at bilen regelmæssigt ikke genkender cyklister korrekt. Selvom at undlade at klassificere objekter korrekt er ikke det samme som at undlade at bemærke deres tilstedeværelse, fandt hun ikke desto mindre systemets begrænsninger dybt bekymrende.
'Ikke at kunne klassificere objekter betyder ikke, at Teslaen ikke kan se, at noget er der, men i betragtning af de liv, der er på spil, anbefaler vi, at folk aldrig bruger Tesla-autopiloten omkring cyklister!'
Dr. Knight forklarede, at hun mente, at Teslas betegnelse for teknologien som en "autopilot" potentielt var vildledende.
Som det står, gør Tesla det klart, at nøje brugerovervågning er påkrævet, når bilen bruges i autopilottilstand. Men i betragtning af bilens evne til at udføre opgaver som at skifte vognbane og hastighed automatisk rejste Dr. Knight bekymringen om, at brugere kunne blive lullet ind i en falsk oppustet følelse af bilens muligheder.
I opfølgning på svar på hendes oprindelige blogindlæg forklarede hun: 'Min bekymring var, at behandling af autopilot som et fuldt autonomt system kan være hensynsløst for en person i en bil, men fat alt for en cyklist, som har meget mindre beskyttelse.
'At opmuntre til en afbalanceret mental model af maskinen er præcis målet med denne artikel… Robotter generelt ville have gavn af at kommunikere deres begrænsninger til folk.'
I teorien er der langt større sandsynlighed for, at selvkørende biler undgår kollisioner med alle trafikanter, men indførelsen af teknologien har været årsag til udbredt debat.
Dette er især tilfældet i forhold til spørgsmål om ansvar i forbindelse med hændelser, der involverer biler på autopilot, sammen med etikken ved at bruge sådanne systemer.
Test af selvkørende biler begyndte i London i februar, hvor forsøgene med Nissans Leaf-elbil var den første på europæiske offentlige veje.
Dr Knights fulde rapport er tilgængelig på Medium.
Video stadig taget fra en demonstrationsvideo for autopilot autonom kørsel til Tesla Model X
