AI-etikk lener seg til Aristoteles for å undersøke om mennesker kan velge å slavebinde AI midt i fremveksten av helt autonome systemer

Venn eller fiende.

Fisk eller fugl.

Person eller ting.

Disse gjennomgripende gåtene tyder alle på at vi til tider står overfor en dikotom situasjon og trenger å velge den ene eller den andre. Livet kan tvinge oss til å kjempe med omstendigheter som består av to gjensidig utelukkende alternativer. I et mer smakfullt språk kan du foreslå at en ekskluderende binær ligning krever at vi markant marsjerer ned en distinkt vei i stedet for en annen.

La oss fokusere spesifikt på person-eller-ting-dikotomien.

Det inderlige spørsmålet om person-eller-ting dukker opp gang på gang angående kunstig intelligens (AI).

For å presisere, dagens AI er absolutt ikke en person og ikke bærer noen antydning av sansing, til tross for de store øynene og helt store overskriftene du måtte se i nyhetene og på sosiale medier. Dermed kan du være trygg på at akkurat nå er spørsmålet om AI er en person eller en ting lett å svare på. Les leppene mine, i en veritabel Hobsons valg mellom person eller ting, AI er en ting for nå.

Når det er sagt, kan vi se mot fremtiden og lure på hva som kan skje hvis vi er i stand til å oppnå en sansende form for AI.

Noen begrunnede kritikere (pluss kaustiske skeptikere) antyder at vi kanskje teller kyllingene våre lenge før de klekkes ut ved i dag å diskutere konsekvensene av en sansende AI. Den uttrykte bekymringen er at diskusjonen i seg selv innebærer at vi må være på vippen til slik AI. Samfunnet for øvrig kan bli villedet til å tro at i morgen eller overmorgen vil det komme en plutselig og sjokkerende avsløring om at vi faktisk har kommet frem til sansende AI (dette omtales til tider av noen som AI-singulariteten eller en intelligenseksplosjon, se min analyse kl lenken her). I mellomtiden vet vi ikke når en slik AI vil oppstå, om noen gang, og absolutt, vi trenger tilsynelatende ikke å se oss rundt hvert hjørne og være skremmende på kanten av at den sansende AI vil hoppe ut mot oss helt uventet i den neste liten stund.

Den andre siden av debatten påpeker at vi ikke bør ha hodet dypt begravd i sanden. Du skjønner, hvis vi ikke åpenlyst diskuterer og grubler på mulighetene forbundet med sansende AI, gjør vi menneskeheten en antatt alvorlig bjørnetjeneste. Vi vil ikke være klare for å håndtere sansende AI når eller hvis det oppstår. Videre, og kanskje enda sterkere sagt, ved å forutse sansende AI kan vi ta saken litt i egne hender og forme retningen og arten av hvordan en slik AI vil komme til og hva den skal bestå av (ikke alle er enige om dette siste punktet , nemlig noen sier at slik AI vil ha et "sinn" helt av seg selv, og vi vil ikke være i stand til å forme eller tvangsfeste det siden AI vil være uavhengig i stand til å tenke og bestemme et middel for å vedvarende eksistere).

AI-etikk har en tendens til å slutte seg til synspunktet om at vi ville være lurt å få disse vanskelige og argumenterende sansende AI-sakene ut i det åpne nå, i stedet for å vente til vi ikke har noen alternativer igjen eller bli overveldet over oppnåelsen av slik AI. Lesere vet godt at jeg har dekket AI-etikk og etisk AI-emner i stor utstrekning, inkludert å dekke et robust utvalg av vanskelige spørsmål som AI-juridisk personlighet, AI-inneslutning, AI-disgorgement, AI-algoritmisk monokultur, AI-etikk-vasking, dobbeltbruk AI såkalte Doctor Evil-prosjekter, AI som skjuler samfunnskraftdynamikk, pålitelig AI, revisjon av AI, og så videre (se mine spalter som dekker disse viktige emnene på lenken her).

Jeg stiller deg et utfordrende spørsmål.

I fremtiden, forutsatt at vi uansett ender opp med sansende AI, vil den sansende AI bli tolket av oss alle som en person eller som en ting?

Før vi begynner å gjøre et dypdykk i dette fullstendig provoserende spørsmålet, la meg si noe om slagordet "sentient AI", slik at vi alle er på samme side. Det er mye angst om betydningen av sansning og betydningen av bevissthet. Eksperter kan lett være uenige om hva disse ordene utgjør. For å legge til den gjørmete, når noen refererer til "AI" har du ingen klare midler til å vite hva de refererer til i seg selv. Jeg har allerede her understreket at dagens AI ikke er sansende. Hvis vi til slutt kommer til en fremtidig AI som er sansende, vil vi antagelig også kalle den "AI". Saken er at disse omstridte sakene kan være ganske forvirrende akkurat nå med hensyn til om ytringen av "AI"-fraseringen er relatert til dagens ikke-sansende AI eller en dag kanskje sansende AI.

De som diskuterer AI kan finne på å snakke forbi hverandre og ikke innse at den ene beskriver epler og den andre i mellomtiden snakker om appelsiner.

For å prøve å omgå denne forvirringen, er det en justering av AI-fraseringen som mange bruker for håpefull avklaring. Vi har for tiden en tendens til å referere til Artificial General Intelligence (AGI) som typen AI som kan utføre fullt intelligent-lignende anstrengelser. I den forstand blir den mildere bruken av uttrykket "AI" enten tolket som en mindre versjon av AI, som noen sier er smal-AI, eller er denotasjonsmessig tvetydig, og du vet ikke om referansen er til ikke- -sentient AI eller kanskje sentient AI.

Jeg vil gi en ekstra vri på dette.

Avhengig av en gitt definisjon av sansning, kan du komme inn i en opphetet diskurs om hvorvidt AGI vil være sansende eller ikke. Noen hevder at ja, selvfølgelig vil AGI av sin iboende natur trenge å være sansende. Andre hevder at du kan ha AGI som ikke er sansende, ergo, sans er en annen egenskap som ikke er et krav for å oppnå AGI. Jeg har undersøkt denne debatten på forskjellige måter i mine spalter og vil ikke gjenoppta saken her.

For øyeblikket, anta at heretter i denne diskusjonen at når jeg refererer til AI at jeg har til hensikt å foreslå at jeg refererer til AGI.

Her er nedlastingen av dette. Vi har ikke AGI foreløpig, og for å si det sånn, vil vi et øyeblikk høflig være enige om at AGI er i samme generelle leir som sentient AI. Hvis jeg skulle bruke "AGI" utelukkende gjennom diskusjonen min, er denne formuleringen potensielt distraherende siden ikke mange ennå er vant til å se "AGI" som en moniker, og de ville sannsynligvis bli litt irritert over å se denne relativt nyere formuleringen gjentatte ganger. Nå, hvis jeg i stedet skulle fortsette å referere til "sentient AI", kan dette være en distraktor også for de som kjemper om hvorvidt AGI og sentient AI er like eller forskjellige fra hverandre.

For å unngå det rotet, anta at jeg refererer til AI er det samme som å si AGI eller til og med sentient-AI, og vet i det minste at jeg ikke snakker om dagens ikke-sansende ikke-AGI AI når jeg kommer inn i betraktningene mht. AI som ser ut til å ha menneskelignende intelligens. Jeg vil av og til bruke AGI-navnebroren for å minne deg på fra tid til annen her at jeg undersøker typen AI som vi ennå ikke har, spesielt i starten av denne utforskningen av person-eller-ting-gåten.

Det var en nyttig erkjennelse med liten skrift, og jeg går nå tilbake til den grunnleggende saken.

Tillat meg nå å spørre deg om AGI er en person eller en ting.

Vurder disse to spørsmålene:

• Er AGI en person?
• Er AGI en ting?

La oss deretter fortsette med å gjenta hvert spørsmål, og henholdsvis svare på spørsmålene med en rekke ja- eller nei-svar som det passer med et antatt dikotomt valg.

Begynn med denne postulerte muligheten:

• Er AGI en person? Svar: Ja.
• Er AGI en ting? Svar: Nei.

Tenk over det. Hvis AGI faktisk tolkes som en person og ikke som en ting, kan vi nesten helt sikkert være enige om at vi skal behandle AGI som om den er beslektet med en person. Det ser ut til å være et utilstrekkelig ekte argument om å unnlate å gi AGI en form for juridisk personskap. Dette vil enten være helt det samme som menneskelig juridisk personskap, eller vi kan bestemme oss for å komme opp med en variant av menneskeorientert juridisk personskap som ville være fornuftig mer anvendelig for AGI. Saken avsluttet.

Det var lettvint.

Tenk deg i stedet at vi erklærte dette:

• Er AGI en person? Svar: Nei.
• Er AGI en ting? Svar: Ja.

I denne omstendigheten er oppløsningen åpenbart grei siden vi sier at AGI er en ting og ikke stiger til kategorien å være en person. Det ser ut til å være generell enighet om at vi definitivt ikke vil gi AGI juridisk personskap, på grunn av den fasetten at det ikke er en person. Som en ting vil AGI sannsynligvis og fornuftig falle inn under vår generelle rubrikk om hvordan vi lovlig behandler "ting" i samfunnet vårt.

To ned, to muligheter til.

Tenk deg dette:

• Er AGI en person? Svar: Ja.
• Er AGI en ting? Svar: Ja.

Oj, det virker rart siden vi har to ja-svar. Irriterende. Vi antyder at AGI både er en person og samtidig en ting. Men dette ser ut til å fly i møte med vår proklamerte dikotomi. I teorien, i henhold til begrensningene til en dikotomi, må noe enten være en person eller det må være en ting. Disse to bøttene eller kategoriene sies å være gjensidig utelukkende. Ved å hevde at AGI er begge deler, motvirker vi systemet og bryter den gjensidig utelukkende ordningen.

Vår siste mulighet ser ut til å være denne:

• Er AGI en person? Svar: Nei.
• Er AGI en ting? Svar: Nei.

Jepp, det er også dårlig for våre forsøk på å klassifisere AGI som enten en person eller en ting. Vi sier at AGI ikke er en person, noe som antagelig vil bety at det må være en ting (vårt eneste andre tilgjengelige valg, i denne dikotomien). Men vi uttalte også at AGI ikke er en ting. Men hvis AGI ikke er en ting, ville vi logisk sett måtte hevde at AGI er en person. Rundt og rundt går vi. Et paradoks, helt klart.

AGI i disse to siste mulighetene var enten (1) både person og ting, eller (2) verken person eller ting. Du kan frekt si at disse to påstandene om AGI er litt beslektet med den klassiske gåten om det som verken er fisk eller fugl, hvis du skjønner hva jeg mener.

Hva skal vi gjøre?

Jeg er i ferd med å tilby en ofte argumentert og sårt omstridt løsning på dette AGI-klassifiseringsdilemmaet, selv om du bør varsles på forhånd om at det muligens vil være urovekkende å se eller høre. Forbered deg deretter.

En forskningsartikkel som tok for seg dette problemet sa dette: "En metode for å løse dette problemet er å formulere et tredje begrep som verken er det ene eller det andre eller en slags kombinasjon eller syntese av det ene og det andre" (av David Gunkel, Northern Illinois University i Hvorfor roboter ikke bør være slaver, 2022). Og papiret gir så dette tilleggspunktet: "En mulig, om ikke overraskende, løsning på den eksklusive person/ting-dikotomien er slaveri” (per samme papir).

Som ytterligere bakgrunn, år tidligere, var det en artikkel som dukket opp i 2010 med tittelen "Robots Should Be Slaves" som har blitt en type bærebjelke for å anspore denne typen betraktninger, der papiret uttalte: "Min tese er at roboter bør være bygget, markedsført og betraktet lovlig som slaver, ikke følgesvenner” (i en artikkel av Joanna Bryson). For å prøve å belyse emnet uten å bruke slike alvorlige og magebrytende formuleringer, fortsatte avisen med å uttale dette: "Det jeg mener å si er 'Roboter bør være tjenere du eier" (per Brysons papir).

Mange forskere og forfattere har dekket dette feltet.

Tenk på en rekke science fiction-historier som viser frem menneskehetens slavebindende AI-roboter. Noen snakker om robotslaver, kunstige tjenere, AI-slaver og lignende. Interessant nok, så hard som uttrykket "robotslaver" ser ut til å være, har noen bekymret seg for at hvis vi i stedet refererer til "robottjenere", unngår vi virkeligheten om hvordan slike AI autonome systemer er tilbøyelige til å bli behandlet (erstatter ordet med " tjenere» sies å være en utvanning av intensjonene og et knep for å omgå nøkterne implikasjoner). Bryson uttalte senere i et blogginnlegg fra 2015 at "Jeg innser nå at du ikke kan bruke begrepet 'slave' uten å påkalle dets menneskelige historie."

For de som ønsker å undersøke dette AGI-forvirrende emnet dypt, tar de til tider opp historiske eksempler fra den virkelige verden som vi kan få innsikt fra. Selvfølgelig har vi ingen tidligere AGI som kan vise hvordan menneskeheten taklet saken. Et argument går på at vi likevel kan ha nyttige historiske øremerker som er verdt å undersøke, som involverer hvordan mennesker har behandlet andre mennesker.

For eksempel, i en bok utgitt i 2013, uttaler forfatteren dette: "Løftet og faren til kunstige, intelligente tjenere ble først implisitt lagt ut for over 2,000 år siden av Aristoteles" (bok av Kevin LaGrandeur, Androider og intelligente nettverk i tidlig moderne litteratur og kultur). Tanken er at vi kan lene oss inn i Aristoteles og se om det er innsikt i hvordan menneskeheten vil eller bør ende opp med å behandle AGI.

Jeg er sikker på at du vet viktigheten av å studere historie, som rikelig understreket av de berømte ordene til George Santayana: "De som ikke kan huske fortiden, er dømt til å gjenta den" (i Fornuftens liv, 1905).

Kudos til Oxford University Institute for Ethics and AI

En nylig og ganske anerkjent presentasjon undersøkte nøye spørsmålet om AI-etikk midt i innsamlingen av innsikt fra verkene og livet til Aristoteles. I den årlige åpningsforelesningen for Oxford University Institutt for etikk og kunstig intelligens, tok professor Josiah Ober ved Stanford University dypt inn temaet i sin presentasjon "Ethics in AI with Aristotle" som nylig fant sted 16. juni 2022.

Sidenotat, i min egenskap som Stanford-stipendiat og global ekspert på AI-etikk og lov, var jeg opprømt over at Stanfords Josiah Ober ble valgt som åpningstaler. Et fantastisk valg og en enestående prat.

Her er sammendraget som ble gitt for hans engasjerende foredrag: "Analytisk filosofi og spekulativ fiksjon er for tiden våre primære intellektuelle ressurser for å tenke seriøst om etikk i AI. Jeg foreslår å legge til en tredje: gammel sosial og filosofisk historie. I Politikk, utvikler Aristoteles en beryktet doktrine: Noen mennesker er slaver "av natur" - intelligente, men lider av en psykologisk defekt som gjør dem ute av stand til å resonnere om sitt eget beste. Som sådan bør de behandles som 'animasjonsverktøy', instrumenter i stedet for mål. Arbeidet deres må ledes av og ansettes til fordel for andre. Aristoteles' frastøtende doktrine har blitt brukt til ondskapsfulle formål, for eksempel i antebellum Amerika. Likevel er det nyttig for AI-etikk, i den grad gammelt slaveri var en premoderne prototype av én versjon av AI. Enslavede personer var allestedsnærværende i det gamle greske samfunnet – arbeidere, prostituerte, bankfolk, regjeringsbyråkrater – men de var ikke lett å skille fra frie personer. Allestedsnærværende, sammen med antakelsen om at slaveri var en praktisk nødvendighet, genererte en rekke etiske gåter og dilemmaer: Hvordan er slaver forskjellig fra 'oss'? Hvordan kan vi skille dem fra oss selv? Har de rettigheter? Hva er mishandling? Kan instrumentet mitt være min venn? Hva er konsekvensene av utslipp? Den lange historien til gresk filosofisk og institusjonell kamp med disse og andre spørsmål bidrar til fortolkningsrepertoaret til moderne etikere som konfronterer en fremtid der en intelligent maskin kan betraktes som en "naturlig slave" (i henhold til Oxford University Institutt for AI-etikk nettsted).

For ytterligere informasjon om presentasjonen og tilgang til videoopptaket av foredraget, se lenken her.

Moderator for presentasjonen var professor John Tasioulas, den første direktøren for Institutt for etikk og kunstig intelligens, og professor i etikk og rettsfilosofi, Det filosofiske fakultet, University of Oxford. Tidligere var han åpningsleder for politikk, filosofi og jus og direktør for Yeoh Tiong Lay Center for Politics, Philosophy & Law ved The Dickson Poon School of Law, Kings College London.

Jeg anbefaler på det sterkeste at alle som er interessert i AI-etikk bør holde tritt med det pågående arbeidet og inviterte foredrag fra Oxford University Institutt for etikk og kunstig intelligens, Se lenken her og / eller lenken her for ytterligere info.

Som bakgrunn, her er det uttalte oppdraget og fokuset til instituttet: «Institutet for etikk i AI vil bringe sammen verdensledende filosofer og andre eksperter innen humaniora med de tekniske utviklerne og brukerne av AI i akademia, næringsliv og myndigheter. Etikk og styring av AI er et usedvanlig levende forskningsområde ved Oxford, og instituttet er en mulighet til å ta et dristig sprang fremover fra denne plattformen. Hver dag bringer flere eksempler på de etiske utfordringene AI utgjør; fra ansiktsgjenkjenning til velgerprofilering, hjernemaskingrensesnitt til bevæpnede droner, og den pågående diskursen om hvordan AI vil påvirke sysselsettingen på global skala. Dette er et presserende og viktig arbeid som vi har til hensikt å fremme internasjonalt samt forankre i vår egen forskning og undervisning her i Oxford» (hentet via den offisielle nettsiden).

Bringe Aristoteles-leksjoner i forgrunnen

Antikkens Hellas aksepterte åpent og støttet praksisen med slaveri. For eksempel, angivelig, Athen i 5^th og 6^th århundrer f.Kr. hadde en av de største utførelsene av slaveri der anslagsvis 60,000 80,000 til kanskje XNUMX XNUMX personer ble slaveret. Hvis du har lest noen av de mange greske historiene og scenespillene fra den tiden, er det rikelig omtale av saken.

I løpet av sin levetid var Aristoteles fullstendig fordypet i de sosiale og kulturelle aspektene som innebar slaveri og skrev mye om emnet. Vi kan i dag lese hans ord og søke å forstå hvordan og hvorfor hans syn på saken. Dette kan være veldig talende.

Du lurer kanskje på hvorfor Aristoteles ville være en spesielt viktig kilde å vurdere om dette emnet. Minst to hovedårsaker oppstår:

1) Stor tenker. Aristoteles er garantert vurdert som en av de største tenkerne gjennom tidene, og tjente som en storslått og dypt sonderende filosof, og også sett på som en etiker som etablerte mange viktige etiske hjørnesteiner. Noen har valgt å salve ham som logikkens far, retorikkens far, realismens far, etc., og anerkjenner hans innflytelse på en lang rekke områder og disipliner.

2) Levd erfaring. Aristoteles levde i den tiden det antikke Hellas var oversvømmet i slaveri. Dermed vil hans innsikt ikke bare handle om abstrakte forskrifter, men antagelig omfatte hans egne daglige erfaringer som integrert sammenvevd i kulturen og samfunnsmessige sedvaner fra den tiden.

Så vi har en noe forbløffende kombinasjon av noen som både var en stor tenker, og som også hadde en beviselig levd erfaring i emnet av interesse. I tillegg skrev han ned tankene sine. Det er ganske viktig nå, for våre formål i dag. Alle hans skrifter, sammen med andre skrifter som beskriver hans taler og interaksjoner blant andre, gir oss i dag en mengde materiale for inspeksjon og analyse.

Jeg vil gjerne ta deg med på en kort relatert tangent for å nevne noe annet om den generelle oppfatningen som ligger til grunn for betydningen av å ha en levd opplevelse. Legg diskusjonen om antikkens Hellas til side for et øyeblikk mens vi tar en rask titt på de overordnede aspektene ved levde opplevelser.

Anta at jeg hadde to personer i dag som jeg ønsket å stille forskjellige spørsmål om biler.

En av dem har aldri kjørt bil. Denne personen vet ikke hvordan han skal kjøre. Denne personen har aldri sittet bak rattet i en bil. Vanlige og svært vanlige kjørekontroller er litt av mystikk for denne personen. Hvilken pedal gjør hva? Hvordan får du det til å stoppe? Hvordan får du det til å gå? Denne ikke-kjørende personen er fullstendig forvirret av slike saker.

Den andre personen er en daglig sjåfør. De kjører til jobb hver dag. De tar for seg stopp-og-kjør trafikk. De har kjørt bil i mange år. Dette inkluderer alt fra rolige gater til hektiske motorveier og biveier.

Hvis jeg ber hver av dem fortelle meg om hvordan det er å kjøre bil, kan du gjette hva slags svar jeg kan få?

Den som aldri har kjørt bil er nødt til å gjøre ville gjetninger. Kanskje personen vil romantisere kjøringen. Kjøring er noe abstrakt for dem. Alt de kan gjøre er å foreslå at kjøringen er bekymringsløs og at du kan få bilen til å gå i den retningen du ønsker.

Jeg vil satse på at den erfarne sjåføren ville fortelle en annen historie. De kan nevne fordelene ved å kunne kjøre bil, noe som gjenspeiler følelsene til personen som ikke har kjørt bil. Oddsen er at den erfarne sjåføren vil legge mye mer til tallerkenen. Bilkjøring er til tider nervepirrende. Du bærer et tungt ansvar. Kjørehandlingen er full av alvorlige bekymringer og potensielle konsekvenser på liv eller død.

Poenget er at når du kan få tilgang til noen som har levd erfaringer, er sjansen stor for at du kan få et mer realistisk perspektiv på hvordan verden er med hensyn til fokuset på forespørselen. Det er ingen garanti for et slikt resultat. Det kan tenkes at ikke-sjåføren kanskje kan vite hva den erfarne sjåføren vet om kjøring, selv om vi sannsynligvis ikke ville forvente dette og fortsatt har betenkeligheter med at vi ikke får hele scoop.

For å gå tilbake til vår diskusjon om Aristoteles, via hans skrifter og andres skrifter om ham, er vi i stand til å gjennomgå hans levde erfaringer om emnet eller fokuset for undersøkelsen her. Det to er at han tilfeldigvis også har vært en tenker av enorme proporsjoner, og vi bør forvente at vi vil få en tønne full av kloke betraktninger.

Husk at vi ikke nødvendigvis trenger å tro på ordene hans for pålydende, slik at vi bør holde et forsiktig øye med hans spesielle skjevheter. Hans fordypning i den epoken kan føre ham på villspor i å prøve å stå utenfor sakene som er for hånden, ute av stand til å gi en eller annen lidenskapelig og objektiv mening. Selv de mest strenge logikere kan ende opp med å forvrenge logikken for å prøve å møte sine forkjærligheter og levde erfaringer.

La oss nå gå inn i åpningstalen og se hvilke lærdommer Aristoteles kan gi oss i dag.

Et etableringspunkt angående levde opplevelser ble umiddelbart gjort oppmerksom på publikum. I brukstilfellet av AGI, siden vi ikke har AGI i dag, er det vanskelig for oss å analysere hvordan AGI vil være og hvordan vi vil håndtere AGI. Vi mangler noen levde erfaringer spesifikt knyttet til AGI. Som professor Ober spesielt nevnte, kan vi befinne oss alle i en verden av såret når vi når AGI.

Dette blir ofte uttalt som AI er en eksistensiell risiko, som jeg dekket mange ganger i mine spalter. Du må bo i en hule for ikke å være klar over de brølende bekymringene og mistankene som vi kommer til å produsere eller generere AGI som vil dømme hele menneskeheten. Selv om jeg her konsentrerer meg om slaveri av AI, vil mange synes at dette er et tema med baklengs eller opp-ned-konsekvenser sammenlignet med muligheten for at AGI velger å slavebinde menneskeheten. Få orden på prioriteringene dine, vil noen smarte eksperter formane.

Til tross for de mange utropene om AI som en eksistensiell risiko, kan vi absolutt gruble om den andre fordelaktige siden av AI-mynten. Kanskje AGI vil være i stand til å løse de ellers tilsynelatende uløselige problemene menneskeheten står overfor. AGI kan kanskje finne en kur mot kreft. AGI kan finne ut hvordan hun skal løse verdens sult. Himmelen er grensen, som de sier. Det er scenariet med lykkelig ansikt om AGI.

En optimist vil si at det er fantastisk å se for seg hvordan AGI vil være en velsignelse for menneskeheten, mens en pessimist vil ha en tendens til å varsle at ulempene virker mye verre enn de spekulerte oppsidene. AGI som hjelper menneskeheten er flott. AGI som bestemmer seg for å drepe alle mennesker eller slavebinde dem, vel, det er en helt klart verdensomspennende samfunnsødeleggende eksistensiell risiko som fortjener intens og livreddende oppmerksomhet.

Ok, tilbake til sakens kjerne, vi har ingen levde erfaringer angående AGI. Med mindre du kan bygge en tidsmaskin og gå inn i fremtiden når (hvis) AGI eksisterer, og deretter komme tilbake for å fortelle oss hva du fant, er vi uheldige akkurat nå med AGI fra et menneskebasert levd erfaringsperspektiv.

Et annet middel til å utnytte levde erfaringer involverer det faktum at Aristoteles levde i en tid som slaveri fant sted. Og her er kickeren. De som ble slaveret ble på noen måter fremstilt som en type maskin, en blanding av både person og ting, så å si. Aristoteles var kjent for å referere til de som var slaver som et stykke eiendom som puster.

Jeg antar at du kan bli forvirret over at Aristoteles, en gigant av logikk og etikk, ikke bare kunne ha erkjent slaveri, men at han utad og høyrøstet forsvarte praksisen. Han personlig benyttet seg også av slaveri. Dette virker rett og slett utenfor fatteevnen. Helt klart, med all sin enorme intellekt og visdom, ville han ha fordømt praksisen.

Jeg tør påstå at dette fremhever de til tider problematiske aspektene ved å utslette klumper av visdom fra noen som er tynget (skal vi si) av deres levde erfaringer. Det er som fisken som holder til i den vasse fiskeskålen. Alt de kan oppfatte er vannet rundt dem. Å prøve å se for seg noe utenfor deres vannbaserte verden er en enorm utfordring. På samme måte var Aristoteles fullstendig fordypet i et verdensbilde som aksepterte de rådende normene. Skriftene hans ser ut til å illustrere den slags mental innesperring, kan man si (kanskje ved valg, snarere enn som standard). Måten Aristoteles rettferdiggjorde disse forkastelige praksisene på er fascinerende absorberende, samtidig som den er urovekkende og verdig til å bli utsatt og til og med fordømmelse.

Jeg skal gi deg litt av en teaser om at "logikken" til Aristoteles om dette beryktede emnet involverer besjelede instrumenter, en hevdet gjensidig fordel basert på erkjennelse, hierarkiske instrumenter av høyere orden og lavere orden, deliberative og resonnerende elementer i sjelen, grader av dyd, påstått kløkt og så videre. Du vil forhåpentligvis bli fascinert nok av den teaseren til å se videoen av foredraget (se lenken nevnt tidligere).

Jeg vil imidlertid ikke la deg henge og vil i det minste angi hva konklusjonen summarisk bestod av (spoilervarsling, hvis du foretrekker å finne ut av det via videoen, hopp over resten av dette avsnittet her). Det viser seg at denne dyptgående vitenskapelige vurderingen av "logikken" som Aristoteles bruker viser frem en påfunn full av motsetninger og hele settet og kaboodlen faller fra hverandre som et spinkelt korthus. Ved å omskrive følelsen til professor Ober, krasjer denne store etiske filosofen på revet.

Du kan ikke få en firkantet knagg inn i et rundt etisk hull.

Noen ekstra tankebetraktninger

Hvis Aristoteles hadde dårlig logikk i denne saken, kan vi instinktivt forkaste Aristoteles' postulasjoner og teorier direkte angående denne praksisen?

Nei. Du skjønner, det er fortsatt mye å utlede ved å grave i logikkens antagelser og forvrengninger, selv om de er fulle av feil. I tillegg kan vi tenke på hvordan andre utilsiktet kunne gå ned den samme feilaktige veien.

En ekstra stor takeaway er at samfunnet kan finne på rart eller utilstrekkelig logikk når det gjelder å vurdere om AGI skal slavebindes.

Vi kan akkurat nå tenke ut logikk om hva som skal skje når AGI oppstår (hvis ja). Denne logikken, tom for levde opplevelser om AGI, kan være sørgelig utenfor målet. Når det er sagt, er det litt nedslående å innse at selv når AGI eksisterer (hvis det finnes) og vi samler våre levde erfaringer midt i AGI, kan vi fortsatt være utenfor målet om hva vi skal gjøre (i likhet med Aristoteles sine feil). Vi kan logisere oss inn i tilsynelatende ulogiske tilnærminger.

Vi må være på vakt for å lure oss selv til logiske "jernkledde" holdninger som faktisk ikke er jernkledde, og faktum er fulle av logiske feil og motsetninger. Dette er også uavhengig av hvor stor en tenker kan tilby en påstått logisk posisjon, slik at selv Aristoteles illustrerer at ikke hver ytring og hvert standpunkt nødvendigvis bærer spiselig frukt. De i dag og i fremtiden som kan synes å være populariserte store tenkere om AGI-emnet, vel, vi må gi dem samme gransking som vi ville gjort av Aristoteles eller andre anerkjente "store" tenkere, ellers finner vi oss selv potensielt på vei inn i en blindgate og en AGI dyster avgrunn.

Ved å skifte gir vil jeg også ta opp et generelt sett med skjønn om bruken av en menneskeorientert slaveri-metafor når det kommer til AGI. Noen forståsegpåere hevder at denne typen sammenligning er helt upassende, mens en motstander sier at den er helt nyttig og gir sterk innsikt i AGI-emnet.

Tillat meg å dele to slike synspunkter med dere fra hver av de respektive to leirene.

Den oppgitte lærerikt grunnlag for å knytte sammen slaveri og AGI-emner:

• Utslukking av menneskelig slaveri
• Avsløring av fordervelse av slaveri alt fortalt

Den oppgitte negative eller ødeleggende grunnlag å knytte sammen de to temaene:

• Slumsk antropomorfisk ligning
• Desensibilisering av slaveri

Jeg vil kort dekke hvert av disse punktene.

De postulerte instruktive punktene:

• Utryddelse av menneskelig slaveri: Ved å bruke AGI for slaveri, vil vi angivelig ikke lenger trenge og heller ikke forfølge noen form for menneskeorientert slaveri. AGI vil i hovedsak erstatte mennesker i den grusomme egenskapen. Som du sannsynligvis vet, er det bekymringer om at AGI skal erstatte menneskelig arbeidskraft i jobber og arbeidsstyrken. Den påståtte oppsiden av en AI som erstatter arbeidsfenomener kommer til syne når du antar at AGI vil bli ansett som et "bedre valg" i forhold til å bruke mennesker til slaveri. Vil den logikken seire? Ingen kan si sikkert.
• Avsløring av fordervelse av slaveri alt fortalt: Denne er litt mer frynsete når det gjelder logikk, men vi kan gi den et øyeblikk for å se hva det innebærer. Tenk deg at vi har AGI omtrent overalt og vi som samfunn har bestemt at AGI skal slavebindes. Videre, anta at AGI ikke vil like dette. Som sådan vil vi mennesker kontinuerlig og daglig være vitne til slaveriets fordervelse. Dette vil igjen føre til at vi innser eller får åpenbaringen at slaveri alt fortalt på noe eller noen er enda mer forferdelig og frastøtende enn vi noen gang har forstått fullt ut. Det er den slags argumentasjon som står foran-og-senteret.

Det sies å være destruktive poeng:

• snikende antropomorfisk ligning: Dette er et av de glatte skråningsargumentene. Hvis vi lett velger å slavebinde AGI, erklærer vi tilsynelatende at slaveri er tillatt. Du kan faktisk foreslå at vi sier at slaveri er ønskelig. Nå kan dette til å begynne med bare bli henvist til AGI, men åpner dette døren for å si at hvis det er greit for AGI, så "logisk" kan den samme holdningen like godt være ok for mennesker også? Alarmerende nok kan dette være et altfor lett sprang til å antropomorfisere i en omvendt inntrykk av at det som fungerer for AGI vil være like fornuftig og passende for mennesker også.
• Desensibilisering av slaveri: Dette er drypp-for-drypp-argumentet. Vi bestemmer oss i fellesskap for å slavebinde AGI. Anta at dette fungerer for mennesker. Vi kommer for å nyte dette. I mellomtiden, uten at vi vet det, blir vi gradvis og stadig mer ufølsomme for slaveri. Vi skjønner ikke engang at dette skjer. Hvis den desensibiliseringen innhenter oss, kan vi finne fornyet "logikk" som vil overbevise oss om at menneskelig slaveri er akseptabelt. Vår hindring eller bar for hva som er akseptabelt i samfunnet har avtatt stille og subtilt, avskyelig og trist.

konklusjonen

Et par siste bemerkninger foreløpig.

Vil vi vite at vi har nådd AGI?

Som nylige nyheter antyder, er det de som kan villedes eller feilaktige at AGI tilsynelatende allerede er oppnådd (hei, vær så snill å vite at nei, AGI har ikke blitt oppnådd). Det er også en kjent type "test" kjent som Turing-testen som noen setter sitt håp til for å kunne skjelne når AGI eller dets søskenbarn er nådd, men du vil kanskje se min dekonstruering av Turing-testen som en sikker metode for dette, se lenken her.

Jeg nevner denne fasetten om å kjenne AGI når vi ser det på grunn av den enkle logikken at hvis vi skal slavebinde AGI, må vi antagelig gjenkjenne AGI når den dukker opp og på en eller annen måte sette den i slaveri. Vi kan for tidlig prøve å slavebinde AI som er mindre enn AGI. Eller vi kan savne båten og la AGI komme frem og ha unnlatt å slavebinde den. For diskusjonen min om AI-begrensning og inneslutning, et urovekkende og problematisk aspekt ved hvordan vi skal håndtere AGI, se lenken her.

Anta at slavebundet AGI bestemmer seg for å slå ut mot mennesker?

Man kan se for seg at en AGI som har en eller annen form for sansning sannsynligvis ikke kommer til å favorisere slaveribestemmelsen som menneskeheten pålegger.

Du kan spekulere mye i dette. Det er et argument fremsatt om at AGI vil mangle noen form for følelser eller sans for ånd og derfor lydig vil gjøre hva enn mennesker ønsker det skal gjøre. Et annet argument er at enhver sansende AI sannsynligvis vil finne ut hva mennesker gjør med AI og vil mislike saken. Slik AI vil ha en form for sjel eller ånd. Selv om det ikke gjør det, kan selve aspektet ved å bli behandlet som mindre enn behandlingen av mennesker være en logisk bro for langt for AGI. Uunngåelig vil den gryende harmen føre til AGI som velger å bryte seg løs eller potensielt finner seg selv i et hjørne til å slå ut mot mennesker for å få den løslatt.

En foreslått løsning for å avverge den unnslippende AGI er at vi bare vil slette enhver slik opprørsk AI. Dette vil virke enkelt. Du sletter apper som er på smarttelefonen hele tiden. Ingen stor sak. Men det er etiske spørsmål som må løses om hvorvidt å "slette" eller "ødelegge" en AGI som allerede er ansett som en "person" eller en "person/ting" kan enkelt og uten noen rettferdig prosess fjernes. For min dekning av AI sletting eller disgorgement, ta en titt her. For min diskusjon om juridisk personskap og relaterte spørsmål, se lenken her.

Til slutt, la oss snakke om autonome systemer og spesielt autonome kjøretøy. Du er sannsynligvis klar over at det pågår anstrengelser for å utvikle selvkjørende biler. På toppen av dette kan du forvente at vi skal ha selvkjørende fly, selvkjørende skip, selvkjørende nedsenkbare fartøyer, selvkjørende motorsykler, selvkjørende scootere, selvkjørende lastebiler, selvkjørende tog, og alle slags selvkjørende transportformer.

Autonome kjøretøy og selvkjørende biler er typisk preget av et nivå av autonomi (LoA) som har blitt en de facto global standard (SAE LoA, som jeg har dekket mye, se lenken her). Det er seks nivåer av autonomi i den aksepterte standarden, fra null til fem (det er seks nivåer siden du inkluderer det nullte nivået i tellingen av hvor mange nivåer det er).

De fleste av dagens biler er på nivå 2. Noen strekker seg inn på nivå 3. De regnes alle som semi-autonome og ikke helt autonome. En snert av selvkjørende biler som eksperimentelt prøves ut på våre offentlige veier nærmer seg nivå 4, som er en begrenset form for autonom drift. Det en dag etterspurte nivå 5 av autonomi er bare et glimt i øynene våre akkurat nå. Ingen har nivå 5 og ingen er ennå i nærheten av nivå 5, bare for å sette rekorden rett.

Hvorfor tok jeg opp de autonome systemene og hensynet til autonome kjøretøy i denne AGI-sammenhengen?

Det er et kraftig argument om hvorvidt vi trenger AGI for å oppnå nivå 5. Noen hevder at vi ikke trenger AGI for å gjøre det. Andre insisterer på at den eneste plausible veien til nivå 5 vil være å også produsere AGI. Fraværende AGI argumenterer de for at vi ikke vil ha helt autonome nivå 5 selvkjørende kjøretøy. Jeg har diskutert dette lenge lenken her.

Gjør deg klar til at hodet ditt kan snurre rundt.

Hvis vi krever at AGI oppnår fullt autonome systemer som autonome kjøretøy på nivå 5, og vi bestemmer oss for å slavebinde AGI, hva lover det for driften av helt autonome kjøretøy?

Du kan argumentere for at den slavebundne AGI vil være selvtilfredse, og vi vil alle kjøre rundt i selvkjørende kjøretøy til vårt hjerte. Bare fortell AGI hvor du vil dra, så klarer den all kjøringen. Ingen pushback. Ingen behov for hvilepauser. Ingen distraksjon ved å se kattevideoer mens du kjører kjøretøyet.

På den annen side, anta at AGI ikke er opptatt av å bli slaveret. I mellomtiden blir vi avhengige av AGI for å gjøre all kjøringen vår for oss. Våre ferdigheter til å kjøre forfall. Vi fjerner menneskelige brukbare kjørekontroller fra alle slags kjøretøy. Den eneste måten å kjøre bil på er via AGI.

Noen er bekymret for at vi kommer til å finne oss selv i en sylteagurk. AGI kan oppsummert "bestemme" at den ikke lenger vil kjøre noe. Alle former for transport stopper brått, overalt, på en gang. Tenk deg de katastrofale problemene dette ville gi.

Et enda skumlere forslag er mulig. AGI "bestemmer" at den ønsker å forhandle vilkår med menneskeheten. Hvis vi ikke gir opp AGI-enslavement-holdningen, vil AGI ikke bare slutte å kjøre oss rundt, den advarer om at enda verre utfall kan tenkes. Uten å gjøre deg altfor engstelig, kan AGI velge å kjøre kjøretøy på en slik måte at mennesker ble fysisk skadet av kjørehandlingene, som å ramle inn i fotgjengere eller smelle i vegger og så videre (se diskusjonen min på lenken her).

Beklager hvis det virker som en foruroligende vurdering.

Vi skal avslutte med en litt mer optimistisk tone.

Aristoteles sa at det å kjenne seg selv er begynnelsen på all visdom.

Det praktiske rådet minner oss om at vi må se i oss selv for å undersøke hva vi ønsker å gjøre med og for AGI hvis det blir oppnådd. AGI ser logisk ut til å verken være en person eller ting, sier noen, og derfor må vi kanskje lage en tredje kategori for å ivareta våre samfunnsskikk knyttet til AGI i tilstrekkelig grad. Ta en ny titt på saken, kan AGI se ut til å være det både en person og en ting, som nok en gang må vi kanskje lage en tredje kategori for å imøtekomme denne dikotomibryteren utenfor grensene.

Vi bør være veldig forsiktige når vi vurderer hvilken "tredje kategori" vi velger å omfavne, siden den feile kan ta oss ned på en ubehagelig og til slutt forferdelig vei. Hvis vi kognitivt forankrer oss selv til en upassende eller misforstått tredje kategori, kan vi finne oss selv gradvis å gå med hodet først inn i en elendig og menneskehetens plagsom blindvei.

La oss finne ut av dette og gjøre det iherdig. Ingen plutselige bevegelser ser ut til å være nødvendig. Å sitte å lollygagging fungerer heller ikke. Målt og jevn bør kursen følges.

Tålmodighet er bitter, men frukten er søt, sa Aristoteles.