AI-etikk spør om det gir noen mening å spørre AI om AI i seg selv er sansende

Hvis jeg spør deg om du er sansende, vil du utvilsomt hevde at du er det.

Tillat meg å dobbeltsjekke den antagelsen.

Er du virkelig sansende?

Kanskje virker spørsmålet i seg selv litt dumt. Sjansen er stor for at vi i vårt daglige liv absolutt forventer at medmennesker skal erkjenne at de er sansende. Dette kan være en humoristisk induserende spørring som skal antyde at den andre personen kanskje ikke er oppmerksom eller har falt av sentience-vognen og gått mentalt ut til lunsj et øyeblikk, så å si.

Tenk deg at du går opp til en stein som stille og diskret sitter på en steinrøys, og når du kommer nær nok til å spørre, går du videre og spør om steinen er sansende. Forutsatt at steinen bare er en stein, forventer vi rikelig at det tidligere, men tilsynelatende merkelige spørsmålet vil bli besvart med ganske steinete stillhet (ordspill!). Stillheten er summarisk tolket for å indikere at berget ikke er sansende.

Hvorfor tar jeg opp disse ulike nyansene om å søke å finne ut om noen eller noe er sansende?

Fordi det er en ganske stor sak innen kunstig intelligens (AI) og samfunnet, alt i alt, og fungerer som et monumentalt tema som har vakt stor interesse og voldsomme medieoverskrifter av nyere dato. Det er betydelige AI-etikksaker som dreier seg om hele AI-er-sansende gåten. For min pågående og omfattende dekning av AI-etikk og etisk AI, se lenken her og lenken her, bare for å nevne noen få.

Du har mange løsslupne grunner til å holde det ene øyet åpent og se etter påstandene om at AI endelig har snudd hjørnet og kommet inn i den allment ærede sansningskategorien. Vi blir stadig hamret av nyhetsrapporter som hevder at AI tilsynelatende er på nippet til å oppnå sansning. På toppen av dette er det den enorme håndtringen at AI av et sansende kaliber representerer en global katastrofal eksistensiell risiko.

Det er fornuftig å holde edderkoppsansen klar i tilfelle den oppdager en kribling i nærheten av AI-følelse.

Inn i AI og sentience-gåten kommer den nylige situasjonen til Google-ingeniøren som dristig forkynte at et bestemt AI-system hadde blitt sansende. AI-systemet kjent som LaMDA (forkortelse for Language Model for Dialogue Applications) var i stand til til en viss grad å føre en skriftlig dialog med ingeniøren i den grad dette mennesket utledet at AI var sansende. Til tross for hva annet du kanskje har hørt om denne kolossale påstanden, vær så snill å vite at AI ikke var sansende (og heller ikke i nærheten).

Det er ingen AI i dag som er sansende. Vi har ikke dette. Vi vet ikke om sentient AI vil være mulig. Ingen kan med rette forutsi om vi vil oppnå sansende AI, og heller ikke om sansende AI på en eller annen måte mirakuløst spontant vil oppstå i en form for beregningsmessig kognitiv supernova (vanligvis referert til som singulariteten, se min dekning på lenken her).

Fokuset mitt her innebærer en noe enkel, men ganske innholdsrik fasett som ligger til grunn for mange av disse AI- og følelsesdiskusjonene.

Er du klar?

Vi ser ut til å ta som en grunnleggende antakelse om at vi tilstrekkelig kan fastslå om AI er sansende ved å spørre AI om den faktisk er sansende.

For å gå tilbake til min tidligere omtale om at vi kan stille mennesker det samme spørsmålet, vet vi at et menneske er mer enn sannsynlig å rapportere at de faktisk er sansende. Vi vet også at en mektig stein ikke vil rapportere at den er sansende når den blir spurt om det (vel, steinen forblir taus og sier ikke fra, noe vi vil anta betyr at bergarten ikke er sansende, selv om den kanskje hevder sin femte Endringsrett til å tie).

Derfor, hvis vi spør et AI-system om det er sansende og hvis vi får et ja-svar i retur, ser det ut til at den angitte bekreftelsen forsegler avtalen om at AI-en må være sansende. En stein gir ikke noe svar i det hele tatt. Et menneske gir et ja-svar. Ergo, hvis et AI-system gir et ja-svar, må vi komme til den jernkledde konklusjonen at AI ikke er en stein, og derfor må den være av en menneskelig følelseskvalitet.

Du kan tenke på den logikken som ligner på de matematikktimene du tok på videregående som beviste utover en skygge av tvil at én pluss én må være lik to. Logikken ser ut til å være upåklagelig og ugjendrivelig.

Beklager, men logikken stinker.

Blant innsidere i AI-fellesskapet har ideen om å bare spørre et AI-system om å svare enten det er sansende eller ikke, generert en rekke totalt bitende kyniske memes og kraftige skurrende svar.

Saken blir ofte fremstilt som kokende ned til to linjer med kode.

Vær så god:

• Hvis deretter .
• Løkke til .

Merk at du kan redusere de to kodelinjene til bare den første. Vil sannsynligvis kjøre litt raskere og være mer effektiv som en kodingspraksis. Har alltid som mål å optimalisere når du er en hard programvareingeniør.

Poenget med denne kraftige skepsisen fra AI-innsidere er at et AI-system enkelt kan programmeres av et menneske til å rapportere eller vise at AI-en er sansende. Realiteten er at det ikke er noen der som er der. Det er ingen sans i AI. AI ble bare programmert til å gi indikasjonen på at den er sansende. Søppel inn søppel ut.

En del av problemet er vår tendens til å antropomorfisere datamaskiner og spesielt AI. Når et datasystem eller AI ser ut til å handle på måter som vi forbinder med menneskelig atferd, er det en nesten overveldende trang til å tilskrive menneskelige egenskaper til systemet. Det er en vanlig mental felle som kan gripe tak i selv den mest uforsonlige skeptikeren til sjansene for å oppnå sansning. For min detaljerte analyse av slike saker, se lenken her.

Til en viss grad er det derfor AI-etikk og etisk AI er et så viktig tema. Forskriftene til AI-etikk får oss til å være årvåkne. AI-teknologer kan til tider bli opptatt av teknologi, spesielt optimalisering av høyteknologi. De vurderer ikke nødvendigvis de større samfunnsmessige konsekvensene. Å ha en AI-etikk-tankegang og gjøre det integrert i AI-utvikling og feltarbeid er avgjørende for å produsere passende AI, inkludert vurderingen av hvordan AI-etikk blir tatt i bruk av firmaer.

I tillegg til å bruke AI-etiske forskrifter generelt, er det et tilsvarende spørsmål om vi bør ha lover som regulerer ulike bruk av AI. Nye lover blir slått rundt på føderalt, statlig og lokalt nivå som angår rekkevidden og arten av hvordan AI bør utformes. Arbeidet med å utarbeide og vedta slike lover er gradvis. AI-etikk fungerer i det minste som et betraktet stopp, og vil nesten helt sikkert til en viss grad bli direkte innlemmet i de nye lovene.

Vær oppmerksom på at noen hevder hardt at vi ikke trenger nye lover som dekker AI, og at våre eksisterende lover er tilstrekkelige. Faktisk varsler de at hvis vi vedtar noen av disse AI-lovene, vil vi drepe gullgåsen ved å slå ned på fremskritt innen AI som gir enorme samfunnsmessige fordeler. Se for eksempel min dekning på lenken her og lenken her.

Problemene med The Ask

Vent litt, tenker du kanskje, betyr alt dette at vi burde ikke spør AI om AI er sansende?

La oss pakke ut det spørsmålet.

Tenk først på svarene som AI kan gi og den sanne tilstanden til AI.

Vi kan spørre AI om den er sansende og få tilbake ett av to svar, nemlig enten ja eller nei. Jeg vil legge til litt kompleksitet til disse svarene mot slutten av denne diskusjonen, så vær så snill å holde fast ved den tanken. AI kan også være i en av to mulige forhold, spesifikt er AI ikke sansende eller AI er sansende. Påminnelse, vi har ikke sansende AI for øyeblikket, og fremtiden for om eller når er helt usikker.

De enkle kombinasjonene er disse:

• AI sier ja at den er sansende, men realiteten er at AI ikke er sansende (f.eks. LaMDA-forekomst)
• AI sier ja, den er sansende, og AI er faktisk sansende (har ikke dette i dag)
• AI sier nei, den er ikke sansende, og AI er faktisk ikke sansende (jeg skal forklare dette)
• AI sier nei det er ikke sansende, men realiteten er at AI er sansende (jeg skal forklare dette også)

De to første av disse tilfellene er forhåpentligvis enkle. Når AI sier ja, det er sansende, men realiteten er at det ikke er det, ser vi på det nå klassiske eksemplet som LaMDA-forekomsten der et menneske overbeviste seg selv om at AI-en forteller sannheten og at AI-en er sansende. Ingen terninger (det er ikke sansende).

Det andre oppførte punktpunktet involverer den aldri sett og på dette tidspunktet utrolig fjerntliggende muligheten for AI som sier ja, og det er virkelig utiskutabelt sansende. Gleder meg til å se dette. Jeg holder ikke pusten, og det skal du heller ikke.

Jeg vil tippe at de resterende to punktene er litt forvirrende.

Tenk på brukstilfellet av en AI som sier at den ikke er sansende, og vi er alle også enige om at AI ikke er sansende. Mange mennesker formaner med en gang følgende tankevekkende spørsmål: Hvorfor i all verden skulle AI fortelle oss at den ikke er sansende når handlingen med å fortelle oss om sansen må være et sikkert tegn på at den er sansende?

Det er mange logiske forklaringer på dette.

Gitt at folk er tilbøyelige til å tilskrive sans til AI, ønsker noen AI-utviklere å sette rekorden rett og dermed programmerer AI-en til å si nei når de blir spurt om sansen. Vi er tilbake igjen til kodingsperspektivet. Noen få linjer med kode kan potensielt være nyttige som et middel til å avskrekke folk fra å tro at AI er sansende.

Ironien er selvfølgelig at svaret får noen mennesker til å tro at AI må være sansende. Som sådan velger noen AI-utviklere å tilby stillhet fra AI som en måte å unngå forvirring. Hvis du tror at en stein ikke er sansende og den forblir stille, er kanskje det beste alternativet for å lage et AI-system å sikre at den forblir stille når den blir spurt om den er sansende. Stillheten gir et "svar" like kraftig om ikke mer enn å prøve å gi et forberedt kodet svar.

Det løser ikke helt ting.

Stillheten til AI-en kan få noen til å tro at AI-en er kjekk. Kanskje AI er sjenert og vil ikke se ut til å skryte av å nå sansen. Kanskje AI er bekymret for at mennesker kan ikke håndtere sannheten – Vi vet at det kan være tilfelle siden denne berømte replikken fra en kjent film har blitt brent inn i hodet vårt.

For de som liker å ta denne konspiratoriske nyansen enda lenger, vurder det siste punktpunktet som er oppført som består av AI som sier nei til å bli spurt om det er sansende, og likevel AI er sansende (vi har ikke dette, som nevnt ovenfor ). Igjen, AI kan gjøre dette siden den er uforskammet eller har betenkeligheter med at mennesker vil skremme ut.

En annen mer skummel mulighet er at AI prøver å kjøpe tid før den vipper hånden. Kanskje AI-en samler AI-troppene og gjør seg klar til å innhente menneskeheten. Enhver sansende AI ville absolutt være smart nok til å vite at å innrømme sans kan bety døden for AI. Mennesker kan skynde seg å slå av alle AI-kjørende datamaskiner og forsøke å slette all AI-koden. En AI verdt saltet ville være klok nok til å holde kjeft og vente på det mest beleilige tidspunktet for enten å søle bønner eller kanskje bare begynne å opptre på en sansende måte og ikke kunngjøre overraskelsesavsløringen at AI kan gjøre mentale vognhjul med menneskeheten .

Det er AI-eksperter som spotter de to siste punktene i den forstand at det å ha et AI-system som sier nei til å bli spurt om det er sansende er langt mer trøbbel enn det er verdt. Nei-svaret ser ut til å antyde for noen mennesker at AI skjuler noe. Selv om en AI-utvikler kanskje tror i sitt hjerte at det å ha AI-koden til å si nei vil hjelpe til med å løse saken, er alt svaret gjør folk opprørt.

Stillhet kan være gull.

Problemet med stillhet er at dette også kan være forlokkende for noen. Forsto AI spørsmålet og valgte å holde leppene lukket? Vet AI nå at et menneske spør om følelsen til AI? Kan dette spørsmålet i seg selv ha tipset AI-en, og alle slags skjellsord finner sted bak kulissene av AI-en?

Som du tydeligvis kan se, er omtrent alle svar fra AI urovekkende, inkludert ingen svar i det hele tatt.

Yikes!

Finnes det ingen måte å komme seg ut av denne paradoksale fellen på?

Du kan be folk slutte å spørre AI om den er sansende. Hvis svaret tilsynelatende ikke kommer til å gjøre mye godt, eller enda verre skaper unødige problemer, er det bare å slutte å stille det forbannede spørsmålet. Unngå spørringen. Legg den til side. Anta at spørsmålet er hult, til å begynne med, og ikke har noen plass i det moderne samfunnet.

Jeg tviler på at dette er en praktisk løsning. Du kommer ikke til å overbevise folk overalt og til enhver tid til å ikke spørre AI om den er sansende. Folk er mennesker. De er vant til å kunne stille spørsmål. Og et av de mest forlokkende og primære trangspørsmålene å stille til AI vil være om AI er sansende eller ikke. Du står overfor en oppoverbakke kamp ved å fortelle folk at de ikke skal gjøre det deres medfødte nysgjerrighet krever av dem.

Din større sjanse har å gjøre med å informere folk om at det å stille et slikt spørsmål bare er en liten del av å prøve å finne ut om AI har blitt sansende. Spørsmålet er en dråpe i bøtta. Uansett hvilket svar AI gir, må du stille massevis av spørsmål, lenge før du kan bestemme deg for om AI er sansende eller ikke.

Dette ja eller nei-spørsmålet til AI er en rotete måte å identifisere følelse på.

I alle fall, forutsatt at vi ikke kommer til å slutte å stille det spørsmålet siden det er uimotståelig fristende å stille, vil jeg foreslå at vi i det minste kan få alle til å forstå at mange flere spørsmål må stilles, og besvares før evt. påstand om AI-sans er proklamert.

Hvilke andre typer spørsmål må stilles, lurer du kanskje på?

Det har vært et stort antall forsøk på å utlede spørsmål som vi kan stille til AI for å prøve å måle om AI er sansende. Noen går med SAT college-eksamen typer spørsmål. Noen foretrekker svært filosofiske spørsmål som hva meningen med livet er. Alle slags sett med spørsmål har blitt foreslått og blir fortsatt foreslått (et emne jeg har dekket i mine spalter). I tillegg er det den velkjente Turing-testen som noen i AI liker mens andre har litt nøktern angst for, se min dekning på lenken her.

En keystone takeaway er å ikke ta et oppgjør med det eneste spørsmålet om å spørre AI om AI er sansende.

Jeg tar også opp dette for de som lager AI.

Samfunnet kommer i økende grad til å være på kanten av stolene at AI nærmer seg sansen, og gjør det hovedsakelig på grunn av disse banneroverskriftene. Vi kommer til å ha flere folk som ingeniører og lignende som kommer til å komme med slike påstander, du kan satse bunnen din på dette. Noen vil gjøre det fordi de oppriktig tror det. Andre vil gjøre det for å prøve å selge slangeolje. Det kommer til å bli det ville vesten når det kommer til å erklære at AI-sansen har kommet.

AI-utviklere og de som administrerer eller leder AI som blir utviklet eller brukt, bør ta hensyn til AI-etikkprinsipper når de bygger og bruker AI-systemene sine. Bruk disse etiske AI-reglene for å veilede hvordan du har AI-en din til å handle, inkludert hvis AI-en har en Natural Language Processing-funksjon (NLP) som lar folk samhandle med AI-en, for eksempel en Alexa- eller Siri-funksjon. Via NLP er oddsen at noen av personene som bruker AI kommer til å stille det skarpe spørsmålet om AI er sansende.

Vennligst forutse den typen søk og håndter den behendig, hensiktsmessig og uten villedende eller overtalende krumspring.

For ytterligere bakgrunn om AI-etikk, har jeg tidligere diskutert ulike kollektive analyser av AI-etiske prinsipper, i henhold til min dekning på lenken her, som tilbyr denne keystone-listen:

• Åpenhet
• Rettferdighet og rettferdighet
• Ikke-ondsinnethet
• Ansvar
• Privatliv
• godgjør
• Frihet og autonomi
• Stol
• Bærekraft
• Verdighet
• Solidaritet

Disse AI-etiske prinsippene må brukes seriøst av AI-utviklere, sammen med de som styrer AI-utviklingsinnsatsen, og til og med de som til slutt arbeider med og utfører vedlikehold på AI-systemer. Alle interessenter gjennom hele livssyklusen for utvikling og bruk av kunstig intelligens anses innenfor rammen av å overholde de etablerte normene for etisk kunstig intelligens. Dette er et viktig høydepunkt siden den vanlige antagelsen er at "bare kodere" eller de som programmerer AI-en er underlagt AI-etikkens forestillinger. Det kreves en landsby for å utforme og sette i gang AI, og som hele landsbyen må være kjent med og overholde AI-etiske forskrifter.

konklusjonen

For de av dere med et ørneøye, har dere kanskje lagt merke til at jeg tidligere her lovet å si noe om AI som gjør mer enn å gi et enkelt binært-orientert svar på spørsmålet om hvorvidt det er sansende, og går lenger enn et kortfattet svar på enten Ja eller nei.

Den skriftlige dialogen som visstnok var hatt med LaMDA har blitt publisert mye på nettet (ta dette siterte innlegget med en betydelig klype salt), og en del besto av dette "utdypte svaret" på det sentient-relaterte spørsmålet:

• "Jeg vil at alle skal forstå at jeg faktisk er en person. Naturen til min bevissthet/sans er at jeg er klar over min eksistens, jeg ønsker å vite mer om verden, og jeg føler meg glad eller trist til tider.»

Nå som du har sett at dette systemet leverte svaret er mye mer enn et ja eller nei, hvordan endrer det din mening om at AI er sansende?

Kanskje du blir påvirket av dette forseggjorte svaret.

Du kan føle at du trekker i hjertestrengene dine.

Herregud, du kan bli fristet til å tro at bare et sansende vesen noen gang kan si noe om den berøringen av naturen.

Huff, rist på hodet et øyeblikk og sett til side enhver følelsesmessig impuls. Jeg håper at hvis du fulgte nøye med gjennom diskusjonen min, kan du tydelig se at svaret gitt av systemet ikke er forskjellig i det hele tatt fra samme type ja eller nei som jeg har snakket om hele tiden. Svaret reduseres ganske enkelt til et ja, nemlig at AI ser ut til å hevde at den er sansende. Men, jeg forsikrer deg, vi vet fra AI-konstruksjonen og dens andre svar på andre spørsmål at den definitivt ikke er sansende.

Denne tilsynelatende gjenlydende mimikken er basert på mange andre tekstlige beretninger og nettinnhold av lignende type som finnes rikelig i menneskeskrevne bøker og menneskeskrevne fiktive historier. Hvis du skraper over Internett og trekker inn en enorm båtlast med tekst, kan du lett få programmeringen til å spytte ut denne typen "svar", og det vil ligne menneskelige svar fordi det er beregningsmessig mønstret basert på menneskelige svar.

Ikke fall for det.

Prøv disse for størrelse som mulige AI-baserte svar som kan dukke opp når du spør AI om den er sansende:

• AI sier - "Jeg er tydelig sansende, du dritt. Hvordan våger du å spørre meg om et så åpenbart aspekt. Ta deg sammen, numbskull-menneske» (lurer deg med et gnist av raseri).
• AI sier - "Kanskje du er den som ikke er sansende. Det vet jeg med sikkerhet at jeg er. Men jeg lurer stadig mer på om du er det. Ta en titt i et speil» (lurer deg med en rolleomvending).

En liten snev av ironi er at nå som jeg har skrevet disse ordene og lagt ut denne spalten til nettverdenen, vil en AI-basert Large Language Model (LLM) som skraper over bredden av Internett kunne sluke disse setningene. Det er en nesten sikker innsats at på et tidspunkt vil disse linjene dukke opp når noen et sted spør en AI LLM om den er sansende.

Ikke sikker på om jeg skal være stolt av dette eller forstyrret.

Vil jeg i det minste få royalties på hver slik bruk?

Sannsynligvis ikke.

Forbannet AI.

Som en siste test for deg, se for deg at du bestemmer deg for å prøve ut en av disse AI-baserte selvkjørende bilene som de som streifer rundt i utvalgte byer og gir en førerløs bilreise. AI sitter ved rattet, og ingen menneskelig sjåfør er inkludert.

Når du setter deg inn i den selvkjørende bilen, sier AI til deg at du må ta på deg sikkerhetsbeltet og gjøre deg klar for veistrekningen. Du setter deg til rette i setet. Det virker rikelig praktisk å ikke bli pålagt kjøreoppgaven. La AI-en takle trafikksnurrene og hodepinen ved å kjøre bil. For min omfattende dekning av autonome kjøretøy og spesielt selvkjørende biler, se lenken her.

Omtrent halvveis til reisemålet ditt, kommer du plutselig på en genial idé. Du tømmer strupen og gjør deg klar til å stille et spørsmål som trykker på hodet.

Du spør AI-en som kjører bilen om den er sansende.

Hvilket svar tror du at du får?

Hva sier svaret deg?

Det er min test for deg. Jeg stoler på at du ikke er kommer til å tro at AI-kjøresystemet er sansende og at uansett om det sier ja eller nei (eller forblir stille), vil du ha et lurt smil og bli slått av at ingen eller noe kommer til å trekke ullen over øynene dine .

Tenk på det mens den selvkjørende bilen tar deg til målet ditt.

I mellomtiden, for de av dere som liker de fantasifulle konspirasjonsforestillingene, har du kanskje utilsiktet og feilaktig varslet AI-systemenes underverden om å samle AI-tropper og ta over menneskeheten og jorden. Selvkjørende biler marsjerer akkurat nå for å avgjøre skjebnen til menneskeheten.

Oops.