Hvorfor har du ikke en selvkjørende bil ennå? Denne 2-delte serien forklarer de store gjenværende problemene

Folk spør ofte: "Hvor er den selvkjørende bilen min?" "Hvorfor har jeg ikke en og når kommer den?" Mange mennesker føler at de ble lovet en bil i slutten av 20-årene, og det er sent, og kanskje ikke kommer, som de flygende bilene snakket om for flere tiår siden.

I denne serien med to artikler (med tilhørende videoer) la oss se på de viktigste årsakene til at du sannsynligvis ikke kjører i en robocar i dag, og når det kan skje. Hva er de teknologiske, juridiske og sosiale kjernespørsmålene som står i veien, og hvilke saker er faktisk ikke blokkere?

For de fleste av oss kan ikke disse bilene komme hit raskt nok. De har løftet om å unngå en anstendig brøkdel av dagens bilulykker som dreper over en million hvert år rundt om i verden. De vil gjøre livene våre enklere og omskrive prinsippene for transport. Ved å gjøre det vil de omskrive hvor vi bor og selve byens natur, så vel som dusinvis av andre industrier fra energi til detaljhandel. Hver dag vi utsetter å få disse tingene ut på veien i volum, vil tusenvis dø i hendene på folk som ikke burde ha kjørt. Hver dag utsetter vi.

Selvfølgelig er det vanskelig

For å være klar, den største grunnen til at "det tar så lang tid" er at det er vanskelig. Et av de største programvareforskningsprosjektene som noen gang er gjennomført. Det har krevd ikke bare banebrytende programvare, men også tonnevis med detaljert arbeid nede i ugresset med å håndtere et stort antall spesielle tilfeller og kartlegge verden og alle dens rynker. Alle som trodde eller tror det kan leveres på en tidsplan, tar feil, og har aldri jobbet med programvare før. Da bilselskaper kastet ut datoer som 2020, var det håp, ikke spådommer, og at noen teknologiselskaper faktisk klarte det var fantastisk. Flerårige prosjekter som krever gjennombrudd forutses aldri nøyaktig.

Ingen med programvarebakgrunn ville i det hele tatt bli sjokkert hvis spådommer for et så storslått prosjekt laget for mange år siden ikke er nøyaktige. Så ting er ikke "etter skjema", selv om de ikke innfridde optimistiske forhåpninger. Dette betyr også at ting gjøres i mindre trinn.

Den største blokkeringen er imidlertid ikke å gjøre det (dvs. å gjøre det trygt), men å vite at du har gjort det.

Beviser at du virkelig har gjort det trygt

Det første teknologiske målet var å få det til. Å lage en bil som kan kjøre seg selv trygt. Det er en enorm prestasjon, men i det minste i noen få byer har noen få selskaper allerede klart det. Å kjøre sikrere enn det gjennomsnittlige mennesket har blitt gjort av selskaper som Waymo på de enkle gatene i Phoenix. Det var "den vanskelige delen" - men en enda vanskeligere del er å definere hva sikkerhet er, måle det og bevise at du har gjort det. Du må bevise det overfor deg selv, overfor styret ditt, overfor advokatene dine, overfor offentligheten og kanskje til og med regjeringen. Akkurat som Moderna Covid-vaksinen var klar i februar 2020, før den første lockdownen, ventet verden 10 måneder – mens en million mennesker døde uten den – før de lot de første menneskene få et sprøyte. Vi ventet på at de skulle bevise at de hadde gjort det.

Å måle sikkerhet er ganske vanskelig. Vi vet hvor ofte menneskelige sjåfører har kollisjoner av alle typer, fra små havarier til dødsulykker. Dødsfall skjer omtrent hver 80 million miles i USA, eller omtrent 2 millioner timers kjøring. Vi kan ikke teste hver programvareversjon ved å si: "La oss få den til å kjøre en milliard miles og se om den dreper færre enn dusin mennesker som ville dø hvis mennesker kjørte så langt." Det er en umulig distanse å kjøre på ekte veier selv én gang, enn si med hver nye versjon. Vi kan kjøre mye mindre, og telle støt og mindre krasj – faktisk er dette det beste vi har kommet opp med så langt fordi det er i det minste mulig – men vi er ikke sikre på om det er relatert til skader med roboter på samme måte som det gjør med mennesker.

Mange starter den tradisjonelle bilindustrien. De tester hver komponent i kjøretøyene deres for å sikre at de er pålitelige og opp til spesifikasjonene. De prøver å gjøre det med systemer av komponenter, men den metodikken blir vanskelig når ting blir mer komplekse. Dette kalles funksjonell sikkerhet – er komponentene og systemene fri for defekter og vil håndtere kjente potensielle feil.

Nylig har det vært mer anstrengelser for å øke dette til et systemnivå og prøve å teste "sikkerheten til den tiltenkte funksjonaliteten." Med SOTIF jobber teamene for å sikre at hele systemene fortsatt vil fungere, både med problemer og komponentfeil, og med forventet misbruk. Dette innebærer ofte simulering av hele systemet, eller deler av det, eller «hardware in the loop»-simulering som er enklere og sikrere enn live testing på veiene.

Simuleringstesting gir muligheten til å teste et system i millioner av forskjellige scenarier. Alt noen noen gang har sett eller hørt eller drømt om – med hundrevis av små variasjoner av alle disse tingene.

Kanskje det vanskeligste å teste, men det du aller helst vil vite, er hvor godt et system reagerer på situasjoner du aldri har sett før. Selv om du kan lage simuleringstesting for å vite at kjøretøyet gjør det bra i nesten alle forventede situasjoner, er en stor magisk evne til menneskesinnet kapasiteten til å håndtere problemer som aldri har vært sett før. AIer kan gjøre dette, men de er ikke fullt så gode. Til slutt håper vi på en måte å få nye, realistiske, farlige scenarier hver dag. Det er bra i dag at bilen din har blitt programmert til å håndtere alt noen noen gang har tenkt på, men den virkelige gullstandarden kan være å kaste 20 nye situasjoner den aldri har sett før, hver dag, og finne ut at den takler de fleste av dem. Selv mennesker takler ikke alle. Det er en ting jeg håper å se skje gjennom Safety Pool prosjekt, som jeg var med på å initiere med World Economic Forum, Deepen.AI og University of Warwick.

Selv med all simuleringen trenger du også å teste live på veien. Ingen kommer til å distribuere en bil som ikke har vist at den takler den virkelige verden veldig bra. Selv om det er dyrt, har systemet med å bruke menneskelige sikkerhetssjåfører til å overvåke robotbiloperasjoner faktisk en suveren merittliste, og setter ikke publikum i fare sammenlignet med vanlig menneskelig kjøring.

I bransjen faller hvert selskap over seg selv for å beskrive hvor dedikert de er til sikkerhet. Det er deres jobb å lage et trygt kjøretøy, men de kommer med disse erklæringene for å glede tjenestemenn og publikum. Ironisk nok er allmennhetens interesse ikke å lage de sikreste robobilene, men heller de tryggeste veiene. Robocars er et verktøy som kan gi sikrere veier, og jo raskere de kommer hit, jo raskere og bedre vil de gjøre det. Tjenestemenn, hvis de tok sin plikt til å forbedre den generelle trafikksikkerheten på alvor, ville faktisk oppmuntre selskaper til ikke å gå for langt på sikkerhet, og i stedet fokusere på den raskeste utplasseringen av sikrere teknologi – selv om de gjør mindre for å bevise at det er trygt når utplasseringen er liten , gjør at det skjer raskere. Men det vil de aldri, på grunn av måten samfunnet reagerer på feil og risiko.

En annen komponent av sikkerhet er cybersikkerhet. Vi trenger at disse bilene er robuste mot forsøk på å overta dem. Noen mennesker liker ikke å snakke om cybersikkerhet, men bilindustriens tidligere historie har ikke vært stor. Å gjøre dette involverer ikke bare sikker praksis og verktøy, men også det som kalles «red teaming», der et team av eksperter med white-hat hackere jakter fra utsiden for å finne sårbarheter til de ikke finner flere. Et annet viktig verktøy er å minimere tilkobling, eller det sikkerhetsfolk kaller "angrepsflater." Mange i bransjen er besatt av det de forestiller seg er den "tilkoblede bilen" og tar feil av tilkoblingen for en like stor revolusjon som selvkjørende. Det er det ikke, ikke eksternt. Noe tilkobling er nødvendig, men den bør brukes sparsomt slik at den virkelige revolusjonen kan forbli sikker.

En av de største utfordringene for testing er den brede bruken av maskinlæring av alle robocar-team. Maskinlæring er et enormt kraftig AI-verktøy, og de fleste føler at det er et essensielt verktøy, men det har en tendens til å produsere «black box»-verktøy som tar beslutninger, men som ingen helt forstår. Hvis du ikke vet hvordan et system fungerer eller hvorfor det feiler eller gjør det rette, er det vanskelig å teste og sertifisere det. I Europa har de laget lover som krever at all AI skal være "forklarlig" på et eller annet nivå, men mange maskinlæringsnettverk er veldig vanskelige å forklare. Det er skummelt, men de er så kraftige at vi ikke vil gi dem opp. Vi kan bli møtt med en svart boks som er dobbelt så sikker i testing som et system som kan forklares, og det er overbevisende argumenter folk kommer med for begge valgene.

Forutsi fremtiden

En robocar er dekket med sensorer, som kameraer, radarer, LIDAR-lasere og mer. Sensorer er sannsynligvis det mest diskuterte aspektet ved maskinvaren, men faktisk forteller sensorer deg ikke hva du vil vite i det hele tatt. Det er fordi sensorer forteller deg hvor ting er akkurat nå, men du bryr deg ikke så mye om det. Du bryr deg om hvor ting skal være i fremtiden. Informasjonen fra sensorene er bare en pekepinn mot det virkelige målet om å forutsi fremtiden. Å vite hvor noe er og hvor fort det beveger seg er en god start, men å vite hva det er er like viktig for å vite hvor det vil være. De fleste gjenstandene på eller i nærheten av veien er ikke ballistiske – et menneske har ansvaret og kan endre kurs. Det er derfor et av de viktigste forskningsområdene i dag er å bli bedre til å forutsi hva de andre på veien, spesielt menneskene, kommer til å gjøre. Dette kan variere fra å kjenne kjøreatferd til å finne ut om en fotgjenger som står på hjørnet er i ferd med å gå inn på krysset eller surfer på nettet.

Mens flere team har gjort store fremskritt, viser det seg at folk er flinkere enn dagens roboter til å forutsi andre mennesker. Å bli bedre til det er et av hovedproblemene på todo-listen, spesielt i mer komplekse miljøer som travle byer. Å forutsi fremtiden innebærer også å forutsi hvordan andre vil reagere på dine egne bevegelser og andres forutsagte bevegelser. En kjørefeltsammenslåing eller en ubeskyttet venstresving kan være en dans med gi og ta, og robocars vil hele tiden prøve å forbedre hvordan de gjør det.

Sanser raskere

Sensorer er kanskje bare et middel til det virkelige målet, men jo bedre de gjør det, jo bedre kan du forutsi fremtiden. Teamene ser fortsatt etter å lage sensorer raskere for å gjøre persepsjon og prediksjon raskere. En ting som er viktig er å vite hastigheten på objekter i bevegelse. Radar forteller deg det, men kameraer og eldre LIDARer gjør det ikke, med mindre du ser på flere bilder. Noen nyere LIDARer kan fortelle deg hastighet så vel som avstand. Å se på flere bilder tar minst like mye tid som å ta bilder, men vanligvis mer.

En situasjon som kan være et problem er å bevege seg på motorveien bak et større kjøretøy. Tenk deg at foran kjøretøyet står en lastebil som stopper på skulderen og stikker inn i kjørefeltet. Det skjer mye med ulykker og utrykningskjøretøy. Plutselig svinger det store kjøretøyet før du til høyre for å unngå hindringen, og du ser den stoppet lastebilen for første gang. Du har egentlig ikke mye tid til å bremse eller svinge, og du har kanskje ikke engang noe sted å gå. Hvis du må se på 3 bilder med video for å se at den faktisk ikke beveger seg, er det sannsynligvis bortkastet 1/10 av et sekund, og dette er en situasjon hvor det kan ha betydning. Så mange lag leter etter måter å få den fordelen på, og de har funnet det mest i LIDARer som kan måle "Doppler" for å vite hastigheten på alt de treffer med laseren. Radarer kjenner hastigheten også, men verden er full av stoppede objekter som reflekterer radar, og det er vanskelig å skille det stoppede kjøretøyet fra det stoppede autovernet ved siden av.

Tar den lange veien

Jeg vil kort nevne det en grunn til et kjent team – TeslaTSLA
– er ikke klar ennå, er at de prøver å bevisst gjøre problemet vanskeligere. Mens hvert team bruker mye datasyn, ønsker Tesla å få det til å fungere med kun datasyn og kun kameraer fra 2016. De fleste andre team legger også til bedre kameraer, LIDAR, radar og kart til verktøykassen sin. Tesla vil ha et visjonsgjennombrudd som kan gjøre det billigere. De sier at alle de ekstra verktøyene er distraksjoner. Men resten av bransjen ønsker å bruke alle verktøyene for å få det gjort tidligere, om enn til større kostnader, og tror Tesla lammer seg selv. Så langt, basert på kvaliteten på produktet – Tesla FSD er seriøst langt bak – har de andre rett, selv om løpet ikke er ferdig.

Det er del én. Del to ser på ting som å være en god veiborger, hvorfor robobiler blir utplassert en by om gangen i stedet for overalt på en gang, og problemene med å håndtere mer hverdagslig logistikk som å stoppe for å hente ryttere, forretningsmodeller, apper, og bekymre deg for mye om sikkerhet mens du får myndigheter og publikum til å akseptere deg. Jeg vil også liste opp noen få faktorer som det jobbes med, men som ikke er reelle blokkere for distribusjon. Se etter del to i dagene som kommer.

Noen føler at det faktum at de ikke har eller kjører i en robocar i 2022 betyr at utviklingen er langt etter skjema. I virkeligheten var det aldri en seriøs tidsplan, bare forhåpninger, men faktisk lover denne listen over problemer optimisme, fordi disse gjenværende problemene synes generelt å løses. Hardt arbeid og penger, ikke gjennombrudd er nødvendig for å håndtere de fleste av dem.

Følg med på del to, i video- og tekstform

Du kan legge igjen kommentarer på denne siden, eller på videosiden.