AI-etikk og den anerkjente AI Uncanny Valley, som også rasler AI-baserte selvkjørende biler

Noen ganger er det litt rare ting som fanger oppmerksomheten din og får den intuitive følelsen i gang, at det på en eller annen måte er noe galt. Det merkelige er ikke åpenbart, ikke i det hele tatt flagrant i ansiktet ditt. Du er kanskje ikke engang i stand til umiddelbart å sette fingeren på hva uoverensstemmelsen er, eller hvorfor det kribler i den velkjente edderkoppsansen din.

Kanskje oppdages subtile ledetråder. Kanskje du tilfeldigvis innser at det eksisterer en dissonans i magen. Jeg antar at du kan si at det bare er det minste snev av undervurdert uhygge, og din delikate menneskelige radar fanger opp ellers tilsynelatende skjulte signaler.

Velkommen til den uhyggelige dalen.

Hvis du aldri har hørt om den uhyggelige dalen, et emne som er relativt populært innen kunstig intelligens og spesielt robotikk, er det litt av en godbit siden det er temaet jeg skal diskutere og analysere nøye her.

Den overordnede forestillingen kan gjelde for mange ting vi opplever i livet, selv om nøkkelprinsippene og opprinnelsesdefinisjonen innebærer AI-systemer og roboter. Vi vil først utforske opprinnelsen og den første betydningen av den uhyggelige dalen og deretter gå videre til en utvidelse for å se hvordan fenomenene ser ut til å være anvendelige i større sammenhenger.

Jeg kan også legge til at vi skal vurdere om den uhyggelige dalen i det hele tatt eksisterer.

Du skjønner, noen skeptikere og kynikere hevder at hele saken er litt av en snert og ikke holder vann. Vær forsiktig når du tar opp emnet til de som er kjent med det. Noen vil smile frydefullt og klappe deg på ryggen at du er godt kjent med den uhyggelige dalen, mens andre vil iherdig fortelle deg at det er et smørbrød med svineri og du trenger å rydde opp i tankene dine med en skumbit med mental rensesåpe. .

Den gode nyheten her er at du kan bestemme om den uhyggelige dalen er ekte eller ikke, sammen med om den har fordeler for bevisst bruk eller i stedet bør kastes uhøytidelig på søppelhaugen med teknoideer. Sånn sett er du i førersetet.

Alt dette er også nært knyttet til det spirende feltet av etisk kunstig intelligens og den økende erkjennelsen av at samfunnet seriøst og nøkternt må ta hensyn til etikken til kunstig intelligens. Vi vil gjøre det uavgjort et øyeblikk.

Det beste stedet å starte er ved å direkte sitere professoren som kom opp med det uhyggelige dalkonseptet og rett ut kalt dette forkynte fenomenet. I 1970 publiserte professor Masahiro Mori ved Tokyo Institute of Technology en ganske liten artikkel i et noe mindre kjent tidsskrift kalt Energi (ikke spesielt et arnested for AI og robotikk per se), og sa dette:

"Jeg har lagt merke til at når vi klatrer mot målet om å få roboter til å virke som menneskelige, øker tilhørigheten vår til dem til vi kommer til en dal, som jeg kaller den uhyggelige dalen."

Vær oppmerksom på at formuleringen ovenfor vises på engelsk, selv om originaloppgaven var på japansk. Den engelsk oversatte versjonen ble overvåket av forfatteren og senere publisert i IEEE Spectrum i 2012 og kreditert Masahiro Mori som forfatter. Du kan lese avisen selv siden den er åpent og fritt tilgjengelig på nett. Det er en desidert rask lesning på kanskje ti minutter eller så og inneholder ingen teknisk tung terminologi.

Når det er sagt, er det interessant og litt utrolig at en så rask artikkel, publisert i 1970, til slutt startet en hel arena for undersøkelser og lanserte et mylder av relaterte studier, prosjekter, forskning og til tider en ildstorm av kontroverser om hvorvidt den introduserte konseptet om en uhyggelig dal eksisterer virkelig. Jeg antar at dette viser at spennende og til tider skiftende ideer ikke trenger å være massivt kronglete eller overfylte med sjargong og høyhet. En kortfattet idé kan være akkurat som om ikke enda mer kraftfull enn den kan virke på forsiden av ting.

Jeg stoler på at det vil oppmuntre deg til å prøve å fremme dine nye ideer, og gjøre det med erkjennelsen av at søtt og enkelt kan være like fantastisk eller noen ganger mer enn kronglete og kompliserte.

La oss hoppe tilbake til den uhyggelige dalen.

Du kommer over et robotsystem som har et ansikt som ligner på et menneskelig ansikt. Tenk deg at dette robotansiktet har blitt utviklet gjennom en rekke iterasjoner. AI-utviklere som setter sammen robothodet har gradvis forsøkt å få robotansiktsdelen til å se mer og mer ut som et faktisk menneskelig ansikt.

Deres første forsøk var ekstremt primitivt. Robotansiktet hadde det samme utseendet som du har sett i sci-fi-filmene med å være helt metallisk og vise frem utstyr og ledninger. Du vet umiddelbart når du ser på innretningen at det er en robot. Ingen spørsmål i tankene dine om det.

Neste forsøk fra AI-utviklerne innebar å pakke noen plastmaterialer rundt metallbitene. Selv om dette ser noe mer vennlig ut, vet du likevel umiddelbart at det er et robothode og et robotansikt. Igjen, lett å oppdage.

Disse AI-utviklerne er fast bestemt på å fortsette dette. De former plasten og gir den hudtoner. De legger til funksjoner som ligner veldig på et menneskelig ansikt, for eksempel føflekker, hår, urenheter og lignende.

Ved første øyekast kan du bli ledet til å tro at dette er et menneskelig ansikt. Hvis det ble tatt et bilde av robotansiktet og du ble bedt om å identifisere om bildet avbildet en person versus et robotansikt, kan du bli hindret av å umiddelbart kunne si hva det var. På den annen side, hvis du sto ved siden av enheten, ville du sannsynligvis ved nøye inspeksjon være i stand til å skjelne at det ikke er et menneske, men i stedet en robot.

Saken er at før du fikk sjansen til å granske nærmere, var det noe med ansiktet som ikke så ut til å stemme helt. Det så ut som et menneskeansikt. Men det var noe galt. Du måtte fortsette å stirre intenst om og om igjen for å sette fingeren på det som ikke ser helt riktig ut. Kanskje det er et ekte ansikt. Så igjen, kanskje det ikke er det. Sinnet ditt roter deretter.

Et skinn av uhygge kommer inn i sinnet ditt.

Du hadde ikke det samme utseendet av uhygge da du så de to tidligere versjonene. Du kunne uten pause eller nøling oppdage at roboten var en robot. Bare et barn kan bli lurt til å tro at en av disse versjonene var av en ekte person.

Denne siste versjonen var imidlertid annerledes. Det var ennå ikke perfeksjonert til å se ut som et menneskeansikt. Det var heller ikke så langt unna det virkelige at det var åpenbart at det måtte være en robot. En slags rotete grunn var nådd.

Anta at utviklerne presset videre på sin forskningsinnsats og ryddet alt slik at robotansiktet nesten ikke kunne skilles fra et menneskeansikt. Uansett hvor lenge du stirrer på tingen, er du usikker på om det er et menneske eller ikke. Når du får beskjed om at det er robotansiktet, blir du overrasket. Jøss, de har gjort en god jobb med å få det til å se ekte ut.

Legg merke til at du så langt kun har vurdert robotaspektene basert på utseende alene.

Vi kan legge til bevegelse til ligningen. Dette gir deg en ekstra dimensjon for å finne ut om roboten er en robot kontra et menneske. Jeg ønsker ikke fullt ut å underholde dette som et flerdimensjonalt problem i denne diskusjonen siden det gjør en belysning av dette emnet mer intrikat (det er selv om multidimensjoner uunngåelig er sammenvevd). I alle fall, forestill deg at du ikke bare så robotansiktet, men også kunne se mens roboten beveger ansiktstrekkene, slik som munnen, øynene, nesen osv. Det er klart at det også kan være utdelinger om hvorvidt dette er en robot eller et menneske.

Et viktig aspekt å holde i forkant av den uhyggelige dalen er at den opprinnelige unnfangelsen legger vekt på menneskelig tilhørighet. Det påståtte fenomenet er at tilhørigheten din øker etter hvert som du ser de gradvis forbedrede robotansiktene, helt til punktet hvor den uhyggelige varianten oppstår. På det tidspunktet sies det at din følelse av affinitet faller dramatisk, og stuper ned i en affinitetskløft eller -dal.

For den spesielle versjonen som fikk deg til å mistenke at noe var galt, har tilhørigheten din angivelig falt radikalt. Videre, ifølge teorien, kan tilhørigheten din skyte i været igjen når du møter den mer avanserte versjonen som er nesten identisk med en virkelig menneskelig form.

Her er mer om hva forfatteren sa om vår normale tilbøyelighet til å anta at aspekter av livet jevnt øker: «Det matematiske begrepet monotont økende funksjon beskriver et forhold der funksjonen y = ƒ(x) øker kontinuerlig med variabelen x. For eksempel som innsats x vokser, inntekt y øker, eller når en bils gasspedal trykkes inn, beveger bilen seg raskere. Denne typen forhold er allestedsnærværende og veldig lett å forstå. Faktisk, fordi slike monotont økende funksjoner dekker de fleste fenomener i hverdagen, kan folk falle under illusjonen om at de representerer alle relasjoner. Et bevis på dette falske inntrykket er også det faktum at mange mennesker sliter seg gjennom livet ved vedvarende å presse uten å forstå effektiviteten av å trekke seg tilbake. Det er derfor folk vanligvis blir forvirret når de står overfor et eller annet fenomen denne funksjonen ikke kan representere.» Dette er oppgitt pr IEEE Spectrum oversatt papir.

Denne nesten universelle antagelsen om alltid å øke kan omstøtes når vi møter noe galt. Uhyggeligheten og mistenksomheten vil forårsake et relativt brå og dramatisk fall i tilhørighet, sier teorien, for eksempel en robothånd som du valgte å riste og ikke kunne føle beinkarakteristikkene til en menneskelig hånd: «Når dette skjer, mister vi sansen av affinitet, og hånden blir uhyggelig. I matematiske termer kan dette representeres av en negativ verdi."

Hvis du aksepterer forutsetningen om at det er dette fenomenet med en uhyggelig dal, er jeg sikker på at du lurer på hva det hjelper med deg å vite at den uhyggelige dalen tilsynelatende eksisterer.

Det er tidenes klassiker "hva så?" prøving av praktisk.

Det viser seg at mange mennesker har kommet med mange tolkninger av hva vi bør eller kan gjøre med den uhyggelige dalen. Det er tonnevis av meninger. Jeg skal ta opp noe av det snart.

I mellomtiden, her er hva Masahiro Mori tilbød: «Vi håper å designe og bygge roboter og protesehender som ikke faller ned i den uhyggelige dalen. På grunn av risikoen som ligger i å prøve å øke graden av menneskelig likhet for å skalere den andre toppen, anbefaler jeg at designere i stedet tar den første toppen som mål, noe som resulterer i en moderat grad av menneskelig likhet og en betydelig følelse av tilhørighet . Faktisk spår jeg at det er mulig å skape et trygt nivå av tilhørighet ved bevisst å forfølge et ikke-menneskelig design. Jeg ber designere tenke over dette.»

En rask kondensering fra min side av tolv praktiske bukse-sete-regler om hva du skal gjøre i den uhyggelige dalen, er spesielt for AI-utviklere:

1) Vær oppmerksom på den uhyggelige dalen og vær på tærne deretter

2) Du ønsker antagelig å oppnå menneskelig tilhørighet til AI så mye som mulig

3) Vær forberedt på tap av menneskelig tilhørighet hvis AI-en din faller ned i den uhyggelige dalen

4) Prøv å unngå den uhyggelige dalen ved å utforme AI på denne måten

5) Det er respektabelt å ha et mål som er kortere enn den uhyggelige dalen

6) Sving opp til kanten av den uhyggelige dalen, men ikke fall over stupet

7) Ikke vær besatt av å gå utover den uhyggelige dalen

8) Det er en sjanse for at du kan hoppe forbi den uhyggelige dalen

9) Ikke bli opptatt av spranget siden du kan falle ned i dalen uansett

10) Maksimal menneskelig tilhørighet ville riktignok oppnås ved å komme forbi den uhyggelige dalen

11) Ikke desto mindre er det tilstrekkelig og passende tilhørighet funnet før den uhyggelige dalen

12) Vær kontinuerlig oppmerksom på den uhyggelige dalen og ikke la den glippe

Disse dusinene er alle generelle forskrifter som kan betraktes som sluttstein eller forankringspunkter for å vite om den uhyggelige dalen. Jeg vil med en gang erkjenne at det er andre punkter som ikke er oppført i disse snaut dusin som kan argumenteres som like viktige. Jeg vil også lett erkjenne at det er bundet til å være uenighet for hvert av punktene som er identifisert, og en langvarig heftig debatt kan oppstå om hvert poeng.

Mer så, noen vil si at de tolv punktene er totalt søppel fordi de er basert på en usannhet, til å begynne med. Det er ikke noe som heter en uhyggelig dal, vil de hevde. Det hele er bare chicanery og en konstruert påfunn som appellerer utelukkende og trist til å appellere til svake sinn (au, det gjør oppriktig vondt!). All oppmerksomhet til den uhyggelige dalen er et bortkastet luftpust, og noen bør komme med og sette en skarp teoretisk trestav i sakens kjerne (noen forskere har prøvd å gjøre det).

For diskusjonens skyld, la oss gå med strømmen og anta at det er en uhyggelig dal, og at den påstår å samsvare med det jeg har antydet så langt. De som er uenige i konseptualiseringen av en uhyggelig dal, er velkommen til å sone ut eller fortsette å lese med sammenbitte tenner og deres intellektuelle sinne kokende og kokende (beklager det).

Her er hvordan etisk AI og fokuset på å utvikle og utforme etisk AI kommer til uttrykk. Forresten, for mine pågående og dyptgående utforskninger av AI-etikk, se diskusjonen min på denne lenken her og denne lenken her, bare for å nevne noen få.

Den uhyggelige dalen er en definitivt hat-kjærlighetsaffære for de som liker etisk kunstig intelligens.

Først trengte litt bakgrunn. En av de mest hårreisende etiske AI-relaterte betenkeligheter er at mennesker kan bli lurt til å tro at et AI-system er sansende. Vær oppmerksom på at det ikke er noen AI i dag som kommer noen steder i nærheten av å være sansende. Det skjer bare ikke akkurat nå. Min tilsynelatende "frekke" påstand kommer til tross for de uopphørlige og blafrende overskriftene som erklærer denne AI eller at AI enten er sansende eller nær nok til å bli sett på som sådan. Malarkey. Vi er ikke på AI-sansen.

Vi vet ikke hvordan vi skal komme oss dit. Vi vet ikke om det vil skje. AI-sans er en verdt drøm og ambisjon, men ikke hopp i pistolen og tro at vi er på vei til å oppnå det.

Selvfølgelig advarer mange inderlig om at hvis vi på en eller annen måte klarer å oppnå AI-sans, enten vi gjør det ved design eller ved en ren tilfeldighet, vil vi møte en eksistensiell risiko. I den måten å tenke på, er det kanskje ikke så verdt å søke AI-sans. Risikoen er at denne sansende AI kan avgjøre at mennesker ikke er verdt å ha rundt seg. Vi kan bli klemt som en insekt. Eller bli slaver av AI. Dette kan skje ved at AI-en åpenlyst velger å gjøre det, eller AI-en kan ende opp med å bli vår egen dommedagsmaskin som ødelegger oss på grunn av vår egen udugelighet. For min dekning om de urovekkende resultatene av AI-følelse eller singularitet, se lenken her.

En avgjørende etisk AI-bekymring er at utviklerne av AI og de som driver med AI til tider suger mennesker til å tro at AI er sansende. Måten på hvordan AI viser seg selv, for eksempel ved hjelp av en robotformulering eller ved dens samtaleinteraktivitet, kan snikende anspore folk til å anta at AI er sansende. Dette fører deg i sin tur ned en potensielt stygg primula-sti.

Hvis du faller i den mentale fellen å tro at et AI-system er sansende, vil du sannsynligvis stole på det for å gjøre ting som sansende vesener ville gjort. Men det er foreløpig ikke noen sunn fornuft for en menneskelignende kvalitet innebygd i noen av dagens AI. AI-en vi opplever for tiden er ekstremt sprø og grunn når det kommer til menneskelignende kapasiteter. Du kan komme deg ut i noen ubehagelige og farlige farvann ved å tro at et AI-system er sansende.

Hvordan henger det sammen med den uhyggelige dalen?

Her er avtalen.

Husk at den uhyggelige dalen ser ut til å fortelle oss at menneskelig tilhørighet gradvis vil øke etter hvert som et AI-system eller en robot kommer nærmere og nærmere en menneskelignende formulering. På et tidspunkt hvor AI-systemet nærmer seg poenget med å være ganske nærme, men likevel ikke helt der, får vi en skummel følelse av at noe er galt. Frem til da visste vi at AI ikke var et menneske. Nå er vi ikke sikre. Vår menneskelige tilhørighet synker. Først når AI-en eller roboten blir fullstendig overbevisende med hensyn til menneskelignende kapasiteter, gjenvinner vi vår tilhørighet til enheten.

AI-utviklere som tar dette hjertet til seg vil antagelig med hensikt streber etter å holde AI-en deres utenfor den uhyggelige dalen, med mål om å stoppe når det gjelder funksjonene til AI-en, rett før de faller ned i den uhyggelige avgrunnen (husk, det er også det Masahiro Mori la vekt på). Utviklerne ville tilsynelatende gjøre det ved å sørge for at det fortsatt eksisterer rikelige ledetråder for å gjøre det ganske klart at AI er mindre enn sansende AI og ergo ikke et menneske eller like mye.

AI-etikere vil generelt ønske den oppriktige innsatsen velkommen.

Begrunnelsen er grei. De så informerte og omfavnende AI-utviklerne prøver å sørge for at AI-systemet ikke villeder folk til å feilaktig tilskrive menneskelignende fasiliteter til AI. Det er garantert gode nyheter. Utviklerne vil med vilje lage AI for å forhindre et dykk inn i den uhyggelige dalen. Mennesker vil lett innse at AI ikke er sansende.

Å prøve å få AI-utviklere til å omfavne en slik tilnærming er ikke lett. Det kan faktisk være kontraintuitivt for deres vanlige instinkter og kjøreambisjoner.

Det fremsettes mange påstander om at AI-utviklere og teknikere generelt sett er oppslukt av mål. De ser et mål og vil ofte blindt forfølge det med stor velbehag. Ingen tid til å stoppe opp og lukte på rosene. Ut til løpene, vi drar. I AI-feltet vil det normative målet være en idealisert AI som ikke kan skilles fra mennesker ved at AI-en kan være intelligent lik i paritet. Men vi er ikke der ennå. Som sådan gir den uhyggelige dalen et sekundært mål, som lander før den ellers oppdemmende uhyggelige dalen, og blir et mål som likevel er akseptabelt. Jada, det er ikke den gyldne ringen, men tanken er at denne "sekundære" premien er fin, tusen takk, og du kan være stolt av den.

Vi har endret den ødeleggende målsøkende ambisjonen og utnyttet den til et logisk klingende begrunnet grunnlag for å gjøre det riktige, så å si.

Hurra!

Gjør en seier for AI-etikk.

Men vent på et sekund, spoilervarsel, det er noe annet som vi også må vurdere.

Nå som de erfarne AI-utviklerne vet om den uhyggelige dalen, kan de snu vettet og teknologisk dyktighet mot å med vilje hoppe over avgrunnen og likevel gjøre det med et skinn av bedrag i tankene. Få AI til å se ut og se ut til å være helt menneskelignende, selv om utviklerne vet at dette er usant.

Den useriøse tanken går slik. Ikke la AI-systemet ditt tippe på hatten og få folk til å få den unnvikende understrømmen av uhygge. Avskjær fasettene som kan gi noen hint eller hint om at AI ikke er av menneskelig kapasitet. Gjør dette mens du i all hemmelighet innser og utilgivelig vet at AI ikke er av menneskelig evne, og alt handler om å skjule den sannheten fra de som samhandler med eller er avhengige av AI.

Hvilke djevelske planer.

Ironisk nok kan den uhyggelige dalen være en slags vekker for AI-utviklere om at hvis de virkelig vil lure folk, må de være smarte nok til å unnslippe avgrunnen. De gjør det ikke ved å oppnå fullstendig AI, og i stedet ved å sette opp røyk og speil for å få AI til å virke misvisende som om den er menneskelig. Hadde AI-utviklerne ikke innsett at denne uhyggelige dalen eksisterer, ville de stort sett ha falt ned i den. Det er bra for menneskeheten fordi mennesker ergo ville miste sin tilhørighet til AI i form av ikke å stole for mye på dagens kvalitet på AI.

Beklageligvis, ved å vite at fellen eksisterer, vil AI-utviklere som ønsker å snike seg rundt den finne skadelig smarte måter å gjøre det på.

Score et treff mot forskriftene til Ethical AI.

Ser du hvordan dette skaper et kjærlighet-hat-forhold for AI-etikere om den uhyggelige dalen?

Forbannet hvis du gjør det, forbannet hvis du ikke gjør det.

Jeg innser at dette har vært en litt høy undersøkelse av den uhyggelige dalen, og du vil kanskje ha lyst på noen eksempler fra dag til dag. Det er et spesielt og sikkert populært sett med eksempler som ligger meg nært på hjertet. Du skjønner, i min egenskap som ekspert på AI, inkludert de etiske og juridiske konsekvensene, blir jeg ofte bedt om å identifisere realistiske eksempler som viser AI-etikk-dilemmaer, slik at emnets noe teoretiske natur lettere kan forstås. Et av de mest stemningsfulle områdene som på en levende måte presenterer dette etiske AI-kvandalet, er fremkomsten av AI-baserte ekte selvkjørende biler. Dette vil tjene som en praktisk brukssak eller eksempel for rikelig diskusjon om emnet.

Her er et bemerkelsesverdig spørsmål som er verdt å vurdere: Belyser fremkomsten av AI-baserte ekte selvkjørende biler noe om den uhyggelige dalen, og i så fall, hva informerer dette oss om å gjøre?

Tillat meg et øyeblikk å pakke ut spørsmålet.

Først, merk at det ikke er en menneskelig sjåfør involvert i en ekte selvkjørende bil. Husk at ekte selvkjørende biler kjøres via et AI-kjøresystem. Det er ikke behov for en menneskelig sjåfør ved rattet, og det er heller ikke en bestemmelse om at et menneske kan kjøre kjøretøyet. For min omfattende og pågående dekning av autonome kjøretøy (AV) og spesielt selvkjørende biler, se lenken her.

Jeg vil gjerne forklare hva som menes når jeg refererer til ekte selvkjørende biler.

Forstå nivåene av selvkjørende biler

Som en avklaring er ekte selvkjørende biler de som AI kjører bilen helt alene, og det er ingen menneskelig assistanse under kjøreoppgaven.

Disse førerløse kjøretøyene regnes som nivå 4 og nivå 5 (se min forklaring på denne lenken her), mens en bil som krever en menneskelig sjåfør for å dele kjøreinnsatsen vanligvis vurderes på nivå 2 eller nivå 3. Bilene som deler kjøreoppgaven beskrives som semi-autonome, og inneholder vanligvis en rekke automatiserte tillegg som omtales som ADAS (Advanced Driver-Assistance Systems).

Det er ennå ikke en ekte selvkjørende bil på nivå 5, som vi ennå ikke en gang vet om dette vil være mulig å oppnå, og heller ikke hvor lang tid det vil ta å komme dit.

I mellomtiden prøver nivå 4-innsatsen gradvis å få litt trekkraft ved å gjennomgå veldig smale og selektive offentlige kjørebaneprøver, selv om det er kontrovers om denne testen skal være tillatt i seg selv (vi er alle liv-eller-død marsvin i et eksperiment. som foregår på våre motorveier og motorveier, noen hevder, se dekning min på denne lenken her).

Siden semi-autonome biler krever en menneskelig sjåfør, vil ikke adopsjonen av disse typer biler være markant annerledes enn å kjøre konvensjonelle kjøretøyer, så det er ikke mye nytt per se å dekke om dem om dette emnet (skjønt, som du vil se på et øyeblikk er poengene som blir gjort neste, generelt anvendelige).

For semi-autonome biler er det viktig at publikum må varsles om et urovekkende aspekt som har oppstått i det siste, nemlig at til tross for de menneskelige sjåførene som fortsetter å legge ut videoer av seg som sovner ved rattet på en nivå 2 eller nivå 3-bil , vi alle trenger å unngå å bli villedet til å tro at sjåføren kan fjerne oppmerksomheten fra kjøreoppgaven mens han kjører en semi-autonom bil.

Du er den ansvarlige parten for kjøringen av kjøretøyet, uavhengig av hvor mye automatisering som kan kastes i et nivå 2 eller nivå 3.

Selvkjørende biler og The Uncanny Valley

For sanne selvkjørende kjøretøyer på nivå 4 og nivå 5 vil det ikke være en menneskelig sjåfør involvert i kjøreoppgaven.

Alle beboere vil være passasjerer.

AI driver kjøringen.

Et aspekt å umiddelbart diskutere innebærer det faktum at AI involvert i dagens AI-kjøresystemer ikke er viktig. Med andre ord, AI er helt en samling av databasert programmering og algoritmer, og absolutt ikke i stand til å resonnere på samme måte som mennesker kan.

Hvorfor er denne ekstra vekt om at AI ikke er følsom?

Fordi jeg vil understreke at når jeg diskuterer AI-kjøresystemets rolle, tilskriver jeg ikke menneskelige kvaliteter til AI. Vær oppmerksom på at det i disse dager er en pågående og farlig tendens til å antropomorfisere AI. I hovedsak tildeler folk menneskelig følsomhet til dagens AI, til tross for det ubestridelige og ubestridelige faktum at ingen slik AI eksisterer ennå.

Med den avklaringen kan du se for deg at AI-kjøresystemet ikke på en eller annen måte "vet" om fasettene ved kjøring. Kjøring og alt det innebærer må programmeres som en del av maskinvaren og programvaren til den selvkjørende bilen.

La oss dykke ned i de mange aspektene som kommer til å spille om dette emnet.

For det første er det viktig å innse at ikke alle AI selvkjørende biler er like. Hver bilprodusent og selvkjørende teknologifirma tar sin tilnærming til å utvikle selvkjørende biler. Som sådan er det vanskelig å komme med omfattende utsagn om hva AI-kjøresystemer vil gjøre eller ikke.

Når du sier at et AI -kjøresystem ikke gjør noen spesielle ting, kan dette senere bli forbikjørt av utviklere som faktisk programmerer datamaskinen til å gjøre akkurat det. Steg for steg blir AI -kjøresystemer gradvis forbedret og utvidet. En eksisterende begrensning i dag eksisterer kanskje ikke lenger i en fremtidig iterasjon eller versjon av systemet.

Jeg stoler på at det gir en tilstrekkelig mengde forbehold for å ligge til grunn for det jeg skal forholde meg til.

Vi er klar til å gjøre et dypdykk i selvkjørende biler og etiske AI-spørsmål som involverer den uhyggelige dalen.

Det er fire aspekter knyttet til denne saken som vil bli dekket her:

1. Det generelle utseendet til selvkjørende biler

2. Spørsmålet om hvor selvkjørende biler "ser"

3. AI-kjøring av selvkjørende biler

4. Roboter som kjører som et middel til å oppnå selvkjørende biler

Ytterligere fasetter er også levedyktig omfattet, men for plassbegrensninger vil disse fire emnene være tilstrekkelige til å belyse peilingen til den uhyggelige dalen knyttet til AI-baserte selvkjørende biler.

1. Overordnet utseende av selvkjørende biler

Jeg vedder på at du har sett bilder eller videoer av dagens tester av selvkjørende biler. Som sådan har du kanskje lagt merke til at de fleste kjøretøyene er konvensjonelle biler som er utstyrt med ekstra spesialutstyr. For eksempel kan det være et takstativ som inneholder en rekke elektroniske sensorer. Sensorene inkluderer noen ganger videokameraer, radarenheter, LIDAR-enheter, ultralydsensorer og lignende.

Futuristiske design har en tendens til å antyde at vi kan avvike fra den konvensjonelle bilen for i stedet å redesigne biler på både interiør og eksteriør for å være mer glatte autonome kjøretøyer. Akkurat nå er den generelle tankegangen at det er enklere å bruke konvensjonelle biler og ikke bruke energi på å prøve å strekke bestrebelsen ved å samtidig fikle med biler som ser ukonvensjonelt ut (det er noen unntak fra dette generelle synspunktet, se min dekning på lenken her).

Hovedpoenget akkurat nå er at hvis du kjører på veibanen og møter en selvkjørende bil i nærheten, kan du nesten alltid umiddelbart skjønne at det sannsynligvis er en selvkjørende bil ved å bare legge merke til smått med sensorer montert på det autonome kjøretøyet. Dette er en rask visuell giveaway. Selvfølgelig vet du ikke sikkert det er selvkjørende i seg selv siden på dette tidspunktet er kjørekontrollene vanligvis fortsatt intakte og en menneskelig reservesjåfør kan sitte ved rattet.

På en måte kan du foreslå at det er spesielt nyttig at selvkjørende biler fysisk ser ut til å skille seg ut og lett blir oppdaget av menneskelige sjåfører i nærliggende menneskedrevne biler og også av fotgjengere i nærheten. Erkjennelsen av at en selvkjørende bil streifer rundt i nærheten kan være en praktisk pekepinn for å være på vakt, noe som får deg til å være på vakt og oppmerksom på at AI er eller kan kjøre kjøretøyet.

Anta at selvkjørende biler så identiske ut som en konvensjonell menneskedrevet bil. Dette er realistisk mulig på minst to måter. For det første kan sensorene potensielt være skjult eller formet til å ikke være så åpenbare for tilfeldig visuell inspeksjon. For det andre kan det være at alle biler, inkludert konvensjonelle menneskedrevne biler, gradvis utstyres med lignende sensorer, selv om kjøretøyet likevel kommer til å forbli en hovedsakelig menneskedrevet bil. Se min videre dekning på denne lenken her.

Hvis du nøye grubler over denne vurderingen om hvorvidt selvkjørende biler kan eller bør være identiske i utseende med konvensjonelle menneskedrevne biler, kan du komme til å tenke at en uhyggelig dal kan ligge på lur i denne gryten.

Du skjønner, biler som åpenbart ser ut som selvkjørende biler kan karakteriseres som å være i et veikryss som er like ved den uhyggelige dalen. I utgangspunktet "vet" du at det er en robot eller et robotsystem. Det er en dom du nesten umiddelbart kan hoppe til.

Når selvkjørende biler ser identisk ut til menneskedrevne biler, tyder kanskje dette på at de autonome kjøretøyene har hoppet forbi den uhyggelige dalen med hensyn til deres robotaktige utseende. Finnes det imidlertid en mellomting mellom disse to fysiske fremtoningene som bringer oss inn i den uhyggelige dalen?

Kanskje du ser en selvkjørende bil som kommer nedover gaten, og det virker som om det sannsynligvis er en selvkjørende bil, på den annen side ser utseendet verken strengt autonomt eller strengt menneskedrevet ut. Du kan argumentere for at den selvkjørende bilen nå er i en uhyggelig eller foruroligende tilstand.

Den selvkjørende bilen har tilsynelatende havnet i den uhyggelige dalen.

Når det er sagt, vil ikke alle være enige i den kategoriseringen. Noen vil hevde at det fysiske utseendet ikke har noe med den uhyggelige dalen å gjøre. Noen hevder selvfølgelig også at det ikke er noe realistisk kjent som den uhyggelige dalen.

Som nevnt tidligere er du velkommen til å ta din egen beslutning om dette.

2. Spørsmål om hvor selvkjørende biler ser

En truende bekymring som mange har angående selvkjørende biler er at de vanligvis mangler noen menneskelig sjåfør i førersetet, og derfor er det vanskelig å finne ut hvor "sjåføren" ser mens han kjører bilen.

Du ser vanligvis på menneskelige sjåfører for å spionere hvor de ser. For eksempel kan du være en fotgjenger ved et fotgjengerfelt og en bil nærmer seg krysset. Du ser intenst på personen som sitter i førersetet og prøver å skjelne hvor hodet vender og hvor øynene ser. Hvis du tror at den menneskelige sjåføren har sett deg, er du kanskje mer komfortabel med å krysse gaten. Derimot, hvis den menneskelige sjåføren ikke ser ut til å se deg, er du med rette bekymret for å krysse.

I noen byer er det en slags katt og mus gambit på disse aspektene. En spesiell kulturell norm i en gitt by kan være at hvis du får øyekontakt med en sjåfør, "vinner" sjåføren og de har tilsynelatende rett til å fortsette, uavhengig av lovligheten av kjøresituasjonen. Andre byer kan være det motsatte, nemlig at den kulturelle normen er at når øyekontakt oppnås, "vinner" fotgjengeren og den menneskelige sjåføren er ment å utsette seg for fotgjengerens handlinger.

Vi ser ut til å ha tatt i bruk denne skikken i løpet av den relativt langvarige tiden med biler midt i byene og lokalsamfunnene våre. Problemet med fremkomsten av selvkjørende biler er at det ikke er en menneskelig sjåfør i førersetet, og dermed er det nå en fotgjenger eller nærliggende menneskelig sjåfør som normalt bruker hodet og øynene til bilførere som en kulturell indikator på kjøreintensjonen. uflaks.

Bilprodusenter og selvkjørende bilutviklere er godt klar over dette nye problemet. En foreslått løsning består i at den selvkjørende bilen blinker med frontlysene på det autonome kjøretøyet eller muligens tuter på hornet. En annen oppfatning er at den selvkjørende bilen kan ha en variant av en høyttaler og fortelle de i nærheten hva "intensjonene" til AI-kjøresystemet er. Hver av disse ideene har betydelige ulemper.

Likevel innebærer et annet forslag å gjøre noe som du i begynnelsen kanskje synes er latterlig. Forslaget består i å plassere øyeeplelignende kuler på utsiden av det autonome kjøretøyet. Disse kulene vil stort sett se ut som menneskeøyne i likhet med å kunne svinge frem og tilbake, noe som gir deg en umiddelbar indikasjon som antyder at AI "har sett deg" (du vil tolke dette ved at øyeeplene ser i din spesielle retning). Jeg har analysert denne tilnærmingen kl lenken her.

Hva ville du reagere på å se en selvkjørende bil komme nedover veibanen og ha disse store, merkelige øyeeplene som dukker opp, montert på panseret eller taket?

Jeg antar at du kanskje synes det er skummelt, kanskje skummelt.

Noen vil antyde at uhyggeligheten oppstår ved at den like utstyrte selvkjørende bilen befinner seg i den uhyggelige dalen. Andre vil på det sterkeste hevde at dette ikke har noe som helst med den uhyggelige dalen å gjøre. Av de slike forståsegpåerne vil noen si at det er en uhygge som kan være uhyggelig uten å måtte være forankret i den uhyggelige dalen (dvs. den uhyggelige dalen produserer tilsynelatende alltid uhygge, men ikke all uhygge produseres kun via den uhyggelige dalen). Den andre vinklingen er at kulene antagelig kan utformes for å se mindre ut til å se ut til øynene og se ut til å være mer robotaktige, eller at vi alle uunngåelig vil akseptere utseendet til disse kulene og den første oppsiktsvekkende reaksjonen vil avta.

3. AI-kjøring av selvkjørende biler

Mange av dagens utprøvinger av selvkjørende biler har vist at de eksisterende AI-kjøresystemene har en tendens til å være programmert til å kjøre på ganske lunken og noe strengt lovlige måter. AI-kjøresystemet bringer vanligvis den selvkjørende bilen til full stopp ved Stopp-skilt. AI-kjøresystemet gjør ikke dristige løp gjennom veikryss når trafikksignalet umiddelbart skal være rødt. Disse egensindige kjørepraksisene er provinsen for menneskelige sjåfører.

På en måte kan man nesten gjette at en selvkjørende bil er en selvkjørende bil ut fra kjørestilen den viser. Selv om det autonome kjøretøyet visuelt så ut til å være en konvensjonell menneskedrevet bil, kan du observere kjørehandlingene og kanskje logisk utlede at den sannsynligvis blir drevet av et AI-system.

Noen mener at vi må få AI-kjøresystemer til å være mer beslektet med menneskelige sjåførers krumspring, slik at de effektivt blander seg inn i de normative tilnærmingene til kjøring. Jeg antar at du kan tolke dette som å bekjempe ild med ild.

Er det fornuftig å gjøre det?

Vær oppmerksom på at frittalende skeptikere og kritikere avskyr ideen. De vil iherdig hevde at vi ønsker at AI-kjøresystemer skal kjøre riktig og forsiktig. Å legge til potensielt millioner av selvkjørende biler til veibanene som er programmert til å være som villfarne menneskelige sjåfører, ville virke som et kolossalt mareritt. Jeg har diskutert dette kontroversielle forslaget kl lenken her.

La oss omforme dilemmaet ved å utnytte den uhyggelige dalen.

Når AI-kjøresystemet er strengt lovlig på grunn av sine kjørehandlinger, er dette kanskje et signal om at det sannsynligvis er et robotsystem (til tross for menneskelige sjåfører som riktignok gjør dette, selv om de i dagens verden virker langt og få mellom). Hvis AI-kjøresystemer skal kjøre like sære som menneskelige sjåfører, hopper dette over den uhyggelige dalen eller faller den ned i den uhyggelige dalen?

Tenk over det.

4. Roboter som kjører som et middel til å oppnå selvkjørende biler

Dette siste elementet for dekning er det mest oppsiktsvekkende av disse fire.

Du er kanskje helt uvitende om at noen AI-utviklere prøver å lage roboter som kan kjøre biler. Roboten ville ha en tendens til å se ut som et menneske på forskjellige måter, med robotbein og robotarmer som lemmer. Når du vil at en konvensjonell menneskedrevet bil skal være en selvkjørende bil, setter du bare denne spesialiserte AI-kjøreroboten inn i førersetet i bilen din. Se min analyse av denne forestillingen på lenken her.

Hvorfor vil vi ha kjørende roboter?

Det fine med en slik robot er at alle dagens menneskedrevne biler på en måte kan bli selvkjørende biler, nesten over natten. Du bare kjøper, leaser eller på en eller annen måte skaffer deg en kjørerobot. Du setter roboten i førersetet når du skal på kjøretur. Roboten kjører deg til målet ditt. Hvis du ønsker å bytte til å kjøre menneskelig kjøring, fjerner du roboten fra kjøretøyet, og kanskje legger den inn i bagasjerommet for senere bruk.

Det er rundt 250 millioner konvensjonelle biler i USA i dag. Noen tror at disse til slutt vil bli dumpet når selvkjørende biler kommer til. I stedet for å kaste bort de konvensjonelle bilene, kan vi kanskje prøve å ettermontere dem til å bli selvkjørende biler, selv om dette muligens er en ganske kostbar idé. Den tilsynelatende mer forsiktige tilnærmingen ville være å gjøre tilgjengelige kjøreroboter.

Hvis du så en bil med konvensjonelt utseende komme nedover gaten i nabolaget og den hadde en robot ved rattet, hva ville du reagere?

Sannsynligvis uhygge.

En påstand som kan diskuteres er at denne uhyggeligheten skyldes at roboten kjører en konvensjonell bil som dypper ned i den berømte eller beryktede uhyggelige dalen.

konklusjonen

Fra et etisk AI-perspektiv presenterer den uhyggelige dalen en spennende gåte.

Det er noen i AI som fullt ut tror på den uhyggelige dalen og noen som ikke gjør det. Men uansett om du tror på den uhyggelige dalen eller ikke gjør det, er temaet i seg selv båndlagt. Du kan ikke skjule hodet og late som om konstruksjonen i seg selv ikke eksisterer. Konstruksjonen som en idé lever og er i noen form viralt kraftig. Hat det eller elsk det, det forbannede eller kanskje opphøyde emnet vedvarer.

I henhold til min tidligere diskurs om fordelene ved den uhyggelige dalen fra AI-etikken, er det et duellerende kjærlighets- og hatforhold deri. Skulle de i det etiske AI-riket omfavne den uhyggelige dalen, eller summarisk avvise den uhyggelige dalen, eller forbli noe nøytral om sannheten og i stedet fokusere på virkningen som oppstår på grunn av de pågående divergerende oppfatningene om den.

Denne utfordringen bringer opphav til den fremtredende økonomen Adam Smith, da han en gang sa (omskrevet) at på veien fra Skepsisens by, må du passere gjennom tvetydighetens dal.