Noen insisterer på at generativ AI ChatGPT er et speil inn i menneskehetens sjel, irriterende AI-etikk og AI-lover

Speil, speil, på veggen - mennesker er de lyseste av dem alle!

Det er selvfølgelig ikke et skikkelig sitat fra den berømte Snehvit og de syv dvergene, men jeg valgte å utnytte oppfinnsomheten til et praktisk formål. Saken har å gjøre med hvordan menneskeheten ser på seg selv når de ser i et alt-seende speil. Hva ser vi? Er vi kattens mjau? Står vi høyt over alt annet?

Ganske heftige spørsmål, helt klart.

Grunnen til at jeg tar dette opp har å gjøre med et tema som ved første øyekast kan virke utenfor de tungtveiende sakene som ligger til grunn for hvordan menneskeheten oppfatter sin plass i kosmos. Jeg kommer til å knytte disse store irriterende spørsmålene om livet, vår eksistens og menneskeheten til fremveksten av kunstig intelligens (AI).

Noen insisterer på at det siste innen AI kan fungere som en speil inn i menneskehetens sjel.

Jepp, vil vi ha dette? Kanskje vi ikke liker det vi ser. På den annen side, kanskje vi må stivne vår besluttsomhet og bruke AI for å se oss slik vi virkelig er. Som en bøtte med iskaldt vann kan AI være det rette til rett tid for å sjokkere oss til å innse hvem vi er og hvor vi skal.

Applaus for inntoget av AI.

Kanskje selv om vi kjører oss utfor en klippe. Vi kan reagere radikalt og negativt på AI-speilet. Folk kan bli drevet til desperasjon og fortvilelse. Motargumentet til det nedslående dommedagsropet er at vi i stedet iherdig kommer til å stige til store nivåer som vi aldri hadde forestilt oss var mulig, drevet av og aktivert via AI. Bli vant til det.

Alt i alt, kjernen i AI-som-et-speil-metafor er at vi kan bruke AI til å se på oss selv og kanskje finne oss selv deretter. Du må bestemme om vi bør gjøre det, noe noen sier vi ikke burde. Du kan også bestemme om dagens AI i det hele tatt gir mulighetene. Skjønnhet, sier de, eksisterer i øyet til betrakteren. På samme måte kan alt dette snakket om speil være røyk og speil slik at AI egentlig ikke forteller oss noe om oss i det hele tatt.

En heftig debatt med mange veier og svimlende speilbilder inkludert.

Inn i alt dette kommer en rekke AI-etikk og AI-lovbetraktninger.

Vær oppmerksom på at det pågår et arbeid for å innarbeide etiske AI-prinsipper i utviklingen og bruken av AI-apper. En voksende kontingent av bekymrede og tidligere AI-etikere prøver å sikre at arbeidet med å utvikle og ta i bruk AI tar hensyn til et syn på å gjøre AI For Good og avverge AI for Bad. På samme måte er det foreslått nye AI-lover som blir slått rundt som potensielle løsninger for å forhindre at AI-arbeidet går amok på menneskerettigheter og lignende. For min pågående og omfattende dekning av AI-etikk og AI-lov, se lenken her og lenken her, bare for å nevne noen få.

Vurder hvordan AI-etikk kan komme inn i dette bildet. Anta at vi blir overbevist om at AI gir et speil inn i sjelen vår. Vi bruker da AI til dette formålet. Folk er begeistret for det AI ser ut til å vise frem. Kanskje hele saken er en charade. Ondverkere prøver å trekke ullen over øynene våre ved å bruke det skinnende nye leketøyet til AI. Vi blir ledet ned på en falsk vei, delvis som et resultat av å anta at dagens AI kan gjøre ting som den ikke virkelig kan gjøre. Tillokkelsen til AI oppmuntrer de som har utspekulerte intensjoner.

Jeg tror du kan se hvordan dette kan gå helt ut av hånden.

Utviklingen og kunngjøringen av etiske AI-forskrifter blir forfulgt for å forhåpentligvis forhindre denne typen AI-blindende hentydninger (se for eksempel min dekning av FNs AI-etiske prinsipper slik de er utviklet og støttet av nesten 200 land gjennom innsatsen til UNESCO, diskutert på lenken her). På samme måte utforskes nye AI-lover for å prøve å holde AI på en jevn kjøl. En av de siste opptakene består av et sett med foreslåtte AI Bill of Rights som det amerikanske hvite hus nylig ga ut for å identifisere menneskerettigheter i en tidsalder med AI, se lenken her. Det kreves en landsby for å holde AI- og AI-utviklere på en rettmessig vei og avskrekke målrettet eller utilsiktet underhendt innsats som kan undergrave samfunnet.

Er denne AI-speilmetaforen en ny blanding?

Nope.

Erklært innsiktsfull og inspirerende bruk av kunstig intelligens er faktisk litt forbannet, vil noen formane. Science fiction-forfattere har lenge spekulert i at AI kan spille denne rollen. Grunnen til at spørsmålet er verdig et nytt utseende nå til dags har å gjøre med utviklingen av Generativ AI. Spesielt har en generativ AI-app kalt ChatGPT ført bred offentlig oppmerksomhet til en spesiell type AI som har blitt brygget i flere år nå.

AI-innsidere vet allerede godt om det.

Faktisk ble mange av dem som dypt og hardt forsøkte avansert AI-forskning og -utvikling, litt overrasket da verden nylig så ut til å gå i tull over ChatGPT-appen. Som du vil se om et øyeblikk, brakte ChatGPT det siste innen generativ AI til samfunnets bevissthet og har fått store overskrifter og vekket interesse for hvor menneskeheten er på vei. En teknologi som ellers stille sivet i laboratorier og salene til forskerteam, hadde plutselig slått gull. Eureka, se hva vi kan gjøre med kunstig intelligens, lød det.

Du kan sammenligne dette med den populære tropen om en skuespiller eller skuespillerinne som blir "oppdaget" når de vises i en bestemt film eller dukker opp på et kabel- eller TV-program. Verden går over personen og antar at de på magisk vis dukket opp ut av løse luften. I mellomtiden forteller den nå stigende stjernen historien om hvordan de har opptrådt i bitdeler og diverse roller i evigheter. For dem har de opptrådt av hjertet hele tiden. Det kan være både urovekkende og irriterende at alle fortsetter å fortelle dem at de bare heldigvis gikk inn i solskinnet, til tross for sannheten om deres lange og utmattende strev som førte til det tilsynelatende gjennombruddet.

Men best å ikke klage for mye. Å komme inn i rampelyset er absolutt tilfeldig. Dette virker bedre enn å fortsette å slenge seg gjennom gjørmen og aldri heve seg over myrdet. Ta ditt øyeblikk av berømmelse og gå med det.

Det ser ut til at en rekke AI-innsidere kommer over den samme oppvåkningen. Ikke bekjemp offentlig bevissthet, og nyt det i stedet. Koss i det. Utnytt det mot mer finansiering og flere muligheter. Det er et ganske mye happy-face-scenario.

Tilbake til spørsmålet om speil, det har vært en strøm av profesjonelle og amatørfilosofer som har lekt med generativ AI og spesielt ChatGPT. De brenner denne påstanden om at vi kanskje kan bruke denne typen AI som et speil inn i menneskehetens sjel.

La oss ta en nærmere titt på hvorfor generativ AI sies å ha denne muligheten. Jeg vil også vise deg noen eksempler som direkte involverer ChatGPT, slik at du konkret kan se hva folk refererer til. Vi vil pakke ut speilmetaforen og finne ut hva som får den til å tikke og om den er verdig susen og fanfaren den mottar for øyeblikket.

Først bør vi sørge for at vi alle er på samme side om hva Generativ AI består av og også hva ChatGPT handler om. Når vi dekker den grunnleggende fasetten, kan vi utføre en overbevisende vurdering av speilmetaforen knyttet til denne typen AI.

Hvis du allerede er godt kjent med Generative AI og ChatGPT, kan du kanskje skumle den neste delen og fortsette med delen som følger den. Jeg tror at alle andre vil finne lærerikt de viktige detaljene om disse sakene ved å lese avsnittet nøye og bli oppdatert.

En rask innføring om generativ AI og ChatGPT

ChatGPT er et interaktivt, samtaleorientert system for generell bruk av AI, i hovedsak en tilsynelatende ufarlig generell chatbot, men den brukes aktivt og ivrig av folk på måter som fanger mange helt på vakt, som jeg skal utdype om kort tid. Denne AI-appen utnytter en teknikk og teknologi i AI-området som ofte omtales som Generativ AI. AI genererer utdata som tekst, som er det ChatGPT gjør. Andre generativ-baserte AI-apper produserer bilder som bilder eller kunstverk, mens andre genererer lydfiler eller videoer.

Jeg vil fokusere på de tekstbaserte generative AI-appene i denne diskusjonen siden det er det ChatGPT gjør.

Generative AI-apper er svært enkle å bruke.

Alt du trenger å gjøre er å skrive inn en melding, og AI-appen vil generere et essay for deg som prøver å svare på spørsmålet ditt. Den komponerte teksten vil virke som om essayet ble skrevet av menneskelig hånd og sinn. Hvis du skulle skrive inn en melding som sa "Fortell meg om Abraham Lincoln", vil den generative AI gi deg et essay om Lincoln. Dette er vanligvis klassifisert som generativ AI som presterer tekst-til-tekst eller noen foretrekker å kalle det tekst-til-essay produksjon. Som nevnt er det andre moduser for generativ AI, som tekst-til-kunst og tekst-til-video.

Din første tanke kan være at denne generative evnen ikke virker som en så stor sak når det gjelder å produsere essays. Du kan enkelt gjøre et online søk på Internett og lett finne tonnevis av essays om president Lincoln. Kickeren i tilfellet med generativ AI er at det genererte essayet er relativt unikt og gir en original komposisjon i stedet for en kopi. Hvis du skulle prøve å finne det AI-produserte essayet på nettet et sted, ville du neppe oppdaget det.

Generativ AI er forhåndsopplært og bruker en kompleks matematisk og beregningsmessig formulering som er satt opp ved å undersøke mønstre i skrevne ord og historier over nettet. Som et resultat av å undersøke tusenvis og millioner av skriftlige passasjer, kan AI spy ut nye essays og historier som er en blanding av det som ble funnet. Ved å legge til ulike sannsynlighetsfunksjoner, er den resulterende teksten ganske unik i forhold til det som har blitt brukt i treningssettet.

Derfor har det vært bråk om at elever kan jukse når de skriver essays utenfor klasserommet. En lærer kan ikke bare ta essayet som svikefulle studenter hevder er deres eget forfatterskap og søke å finne ut om det ble kopiert fra en annen nettkilde. Totalt sett vil det ikke være noe definitivt eksisterende essay på nettet som passer til det AI-genererte essayet. Alt i alt må læreren motvillig akseptere at studenten skrev essayet som et originalt arbeid.

Det er ytterligere bekymringer om generativ AI.

En avgjørende ulempe er at essayene produsert av en generativ-basert AI-app kan ha forskjellige usannheter innebygd, inkludert åpenbart usanne fakta, fakta som er misvisende fremstilt, og tilsynelatende fakta som er helt oppdiktet. Disse fabrikkerte aspektene blir ofte referert til som en form for AI hallusinasjoner, et slagord som jeg misliker, men som dessverre ser ut til å ha blitt populært uansett (for min detaljerte forklaring om hvorfor dette er elendig og uegnet terminologi, se min dekning på lenken her).

Jeg vil gjerne avklare et viktig aspekt før vi går inn i tykke ting om dette emnet.

Det har vært noen vanvittige store påstander på sosiale medier om Generativ AI hevder at denne siste versjonen av AI faktisk er det sansende AI (nei, de tar feil!). De innen AI Ethics og AI Law er spesielt bekymret for denne spirende trenden med utstrakte påstander. Du kan høflig si at noen mennesker overdriver hva dagens AI faktisk kan gjøre. De antar at AI har evner som vi ennå ikke har klart å oppnå. Det er uheldig. Enda verre kan de tillate seg selv og andre å komme i alvorlige situasjoner på grunn av en antagelse om at AI vil være sansende eller menneskelignende når det gjelder å kunne handle.

Ikke antropomorfiser AI.

Hvis du gjør det, vil du bli fanget i en klissete og hard avhengighetsfelle av å forvente at AI skal gjøre ting den ikke er i stand til å utføre. Når det er sagt, er det siste innen generativ AI relativt imponerende for hva det kan gjøre. Vær imidlertid oppmerksom på at det er betydelige begrensninger som du kontinuerlig bør huske på når du bruker en generativ AI-app.

Hvis du er interessert i det raskt voksende oppstyret om ChatGPT og Generative AI, har jeg laget en fokusert serie i spalten min som du kan finne informativ. Her er et blikk i tilfelle noen av disse emnene fanger deg:

• 1) Spådommer om generative AI-fremskritt som kommer. Hvis du vil vite hva som sannsynligvis vil utspille seg om AI gjennom 2023 og utover, inkludert kommende fremskritt innen generativ AI og ChatGPT, vil du lese min omfattende liste over 2023-spådommer på lenken her.
• 2) Generativ kunstig intelligens og råd om mental helse. Jeg valgte å gjennomgå hvordan generativ AI og ChatGPT brukes til råd om mental helse, en plagsom trend, i henhold til min fokuserte analyse på lenken her.
• 3) Grunnleggende om generativ AI og ChatGPT. Dette stykket utforsker nøkkelelementene i hvordan generativ AI fungerer, og fordyper spesielt i ChatGPT-appen, inkludert en analyse av buzz og fanfare, på lenken her.
• 4) Spenning mellom lærere og studenter over generativ AI og ChatGPT. Her er måtene studentene vil bruke generativ AI og ChatGPT på. I tillegg er det flere måter for lærere å takle denne flodbølgen. Se lenken her.
• 5) Kontekst og generativ AI-bruk. Jeg foretok også en undersøkelse med sesongmessig smak om en julenisserelatert kontekst som involverer ChatGPT og generativ AI på lenken her.
• 6) Svindlere som bruker generativ AI. På et illevarslende notat, noen svindlere har funnet ut hvordan de kan bruke generativ AI og ChatGPT til å gjøre feil, inkludert å generere svindel-e-poster og til og med produsere programmeringskode for skadelig programvare, se min analyse på lenken her.
• 7) Rookie-feil ved bruk av generativ AI. Mange mennesker både overskrider og overraskende underskjønner hva generativ AI og ChatGPT kan gjøre, så jeg så spesielt på underskuddet som AI-nybegynnere pleier å gjøre, se diskusjonen på lenken her.
• 8) Mestring av generative AI-meldinger og AI-hallusinasjoner. Jeg beskriver en ledende tilnærming til å bruke AI-tillegg for å håndtere de ulike problemene knyttet til å prøve å legge inn passende meldinger i generativ AI, pluss at det er flere AI-tillegg for å oppdage såkalte AI-hallusinerte utdata og usannheter, som dekket kl lenken her.
• 9) Avkrefte Bonehead-påstander om å oppdage generative AI-produserte essays. Det er et misforstått gullrush av AI-apper som forkynner å være i stand til å fastslå om et gitt essay var menneskeskapt versus AI-generert. Totalt sett er dette misvisende, og i noen tilfeller er det en grusom og uholdbar påstand, se min dekning på lenken her.
• 10) Rollespill via generativ AI kan være tegn på ulemper med mental helse. Noen bruker generativ AI som ChatGPT for å spille rollespill, der AI-appen reagerer på et menneske som om det eksisterer i en fantasiverden eller andre oppdiktede omgivelser. Dette kan få psykiske konsekvenser, ser du lenken her.
• 11) Avsløre rekkevidden av utgitte feil og usannheter. Ulike innsamlede lister blir satt sammen for å prøve å vise frem naturen til ChatGPT-produserte feil og usannheter. Noen mener dette er essensielt, mens andre sier at øvelsen er fåfengt, se min analyse på lenken her.
• 12) Skoler som forbyr generativ AI ChatGPT mangler båten. Du vet kanskje at forskjellige skoler som New York City (NYC) Department of Education har erklært et forbud mot bruk av ChatGPT på nettverket og tilhørende enheter. Selv om dette kan virke som en nyttig forholdsregel, flytter den ikke nålen og savner dessverre helt båten, se min dekning på lenken her.
• 13) Generativ AI ChatGPT kommer til å være overalt på grunn av den kommende API. Det er en viktig vri på vei rundt bruken av ChatGPT, nemlig at via bruk av en API-portal inn i denne spesielle AI-appen, vil andre programvareprogrammer kunne påkalle og bruke ChatGPT. Dette kommer til å dramatisk utvide bruken av generativ AI og har bemerkelsesverdige konsekvenser, se min utdypning på lenken her.
• 14) Måter som ChatGPT kan svekke eller smelte. Flere potensielle irriterende problemer lå foran ChatGPT når det gjelder å undergrave den så langt enorme rosen den har mottatt. Denne analysen undersøker nøye åtte mulige problemer som kan føre til at ChatGPT mister dampen og til og med havner i hundehuset, se lenken her.

Du kan finne av interesse at ChatGPT er basert på en versjon av en forgjenger AI-app kjent som GPT-3. ChatGPT anses å være et litt neste steg, referert til som GPT-3.5. Det er forventet at GPT-4 sannsynligvis vil bli utgitt våren 2023. GPT-4 kommer antagelig til å være et imponerende skritt fremover når det gjelder å kunne produsere tilsynelatende enda mer flytende essays, gå dypere og være en ærefrykt -inspirerende vidunder med hensyn til komposisjonene den kan produsere.

Du kan forvente å se en ny runde med uttrykt undring når våren kommer og det siste innen generativ AI slippes.

Jeg tar dette opp fordi det er en annen vinkel å huske på, som består av en potensiell akilleshæl til disse bedre og større generative AI-appene. Hvis en AI-leverandør gjør tilgjengelig en generativ AI-app som skummende spyr ut urenheter, kan dette knekke håpet til disse AI-produsentene. En samfunnsmessig ringvirkning kan føre til at all generativ AI får et alvorlig svart øye. Folk vil utvilsomt bli ganske opprørt over dårlige resultater, som har skjedd mange ganger allerede og ført til støyende samfunnsmessige fordømmelsesreaksjoner mot AI.

En siste forvarsel for nå.

Uansett hva du ser eller leser i et generativt AI-svar som synes for å bli formidlet som rent saklig (datoer, steder, personer osv.), sørg for å være skeptisk og være villig til å dobbeltsjekke det du ser.

Ja, datoer kan lages, steder kan gjøres opp, og elementer som vi vanligvis forventer å være uanstendige er alle gjenstand for mistanker. Ikke tro det du leser og hold et skeptisk øye når du undersøker generative AI-essays eller utganger. Hvis en generativ AI-app forteller deg at Abraham Lincoln fløy landet rundt i sitt eget private jetfly, ville du utvilsomt vite at dette er malarky. Dessverre er det kanskje noen mennesker som ikke innser at jetfly ikke fantes på hans tid, eller de vet kanskje, men unnlater å legge merke til at essayet kommer med denne frekke og opprørende falske påstanden.

En sterk dose sunn skepsis og en vedvarende tankegang av vantro vil være din beste ressurs når du bruker generativ AI.

Vi er klare til å gå inn i neste fase av denne oppklaringen.

Ser på speilet for å se hva vi kan se

Nå som vi har det grunnleggende etablert, kan vi dykke ned i speilmetaforen knyttet til generativ AI og ChatGPT. Vær oppmerksom på at speilmetaforen også gjelder de andre generative AI-appene, og du kan overbevisende erklære at mange andre typer AI også kommer inn i denne rubrikken.

For å lette diskusjonen, vil vi foreløpig bare fokusere på generativ AI og også bruke eksempler spesifikt fra ChatGPT.

En primær grunn til at den speilorienterte oppfatningen kommer til å spille er at ChatGPT ble utviklet ved å skanne tekst over Internett. Du kan litt plausibelt hevde at Internett er et oppbevaringssted for menneskehetens perspektiver. Ved å undersøke teksten som mennesker har komponert, er mønstertilpasningen til ChatGPT basert på vårt skriftlige uttrykk for menneskelige tanker.

Selvfølgelig viser speil noen ganger ikke en refleksjon nøyaktig. Speil kan forvrides og det reflekterte bildet er en forvrengning. Du har nesten helt sikkert sett de speilene i fornøyelsesparker som er bøyd for å med vilje forvrenge bildet ditt. I noen tilfeller viser speilet at du er tynnere enn du egentlig er. All slags strekking og forvrengninger kan oppstå.

Vi har da to fasetter å huske på:

• 1) Speilets natur og hvordan det reflekterer ting
• 2) Tingen eller gjenstanden som sitter foran speilet og som blir speilvendt

Du kan si at vi er noe slående på begge kontoene når det gjelder å vurdere generativ AI og ChatGPT. Problemene er todelt. Tingen eller objektet som reflekteres er Internett og en delmengde av innholdet. Naturen til speilet som gjør refleksjonen er en beregningsmessig og matematisk sammenblanding og er utsatt for alle slags forvrengninger og sykdommer.

For det første, når det gjelder Internett, har AI-produsenten ikke fullt ut oppgitt hvilke deler av Internett som ble brukt til å "trene" den generative AI ChatGPT. Vi vet ikke sikkert hva som ble skannet og hva som ikke ble skannet. Hvis skanningen hovedsakelig var basert på engelskspråklig innhold, kan du lett karpe at dette bare er en liten del av det verdensomspennende innholdet på Internett. Videre, hvis innholdet som ble valgt var basert på søkemotorindekser, hevder ulike rapporterte studier at de vanlige indeksene bare dekker kanskje 1% til kanskje 5% av hele Internett.

Vi kan legge flere betenkeligheter på skanningen. Hvis vi antar at hovedvekten kun var tekst, innebærer dette at all slags visuelt innhold som bilder, grafikk, animasjoner, video og resten ikke var inkludert i opplæringssettet. De andre formene eller uttrykksformene er åpenbart en del av hvordan mennesker uttrykker seg.

Bunnlinjen er at tingen eller objektet som reflekteres av "speilet" til ChatGPT er langt unna hva menneskeheten består av. I tillegg til poengene jeg nettopp har kommet med, kan du også undre deg høyt om andre elementer i menneskets eksistens, som luktesansen vår, evnen vår til fysisk å sanse verden rundt oss, osv. Av og til fortsetter listen.

La oss da bli enige om at hvis vi skal tilordne speilingsoppgaver til ChatGPT, er det en forvrengt refleksjon og en som er basert på en forvrengt tekstsamling. I tillegg er teksten hovedsakelig sammensatt av ord. Hvorvidt ord alene kan fortelle hele menneskehetens historie er et stort spørsmål. Selv lingvister ville ha en tendens til å erkjenne at ord er en noe begrenset måte å prøve å tolke oss på på en helt omfattende måte.

Det er et annet aspekt som kommer inn i speilingsforvrengningene, nemlig at AI-makeren har satt tommelen på skalaen, for å si det sånn. Husk at jeg nevnte tidligere at AI-produsenten brukte forskjellige strategier for å prøve å redusere mulighetene for at ChatGPT sender ut stygge ord, usannheter og lignende. Dette er nok en slags "forvrengning" pålagt av AI-utviklere. Jeg foreslår ikke at ChatGPT skal sende ut disse skjermede elementene. Jeg påpeker bare at nok en gang er dette et speil som har blitt bøyd og formet for å prøve å gi en ønsket refleksjon (til en viss grad).

Jeg antar at du nå tilsynelatende er overbevist om at ChatGPT med rimelighet ikke kan tolkes som et uhemmet og uhemmet speil i noen form for betydningen av å være et speil inn i menneskehetens sjel. Alle de nevnte vendingene gjør dette til et ganske problematisk speil. Du kan foreslå at alt vi kan skjelne er både en forsterkning og en reduksjon av menneskeheten, alt på samme tid.

Til tross for angsten for dette speilet som en sannhetsforteller, kan vi likevel ha det gøy og se hva vi kan se. Bare pass på at du ikke gjør noen ville sprang og grenser for store konklusjoner om menneskeheten på grunn av noen tekstutganger generert av ChatGPT.

Jeg vil gjerne legge til en annen praktisk påminnelse også. Noen mennesker faller feilaktig i den mentale fellen ved å tro at generativ AI som ChatGPT er sansende. Jeg nevnte tidligere for å passe på dette. Jeg tar dette opp igjen på grunn av en annen vinkling som noen tar på speilingsmetaforen.

Noen antyder at hvis AI når sentience, vil det gi et helt nytt perspektiv på menneskeheten. Mens våre proklamerte speil så langt er utviklet av menneskelige hender, kan vi hevde at en sansende AI ville ha sin egen måte å tenke på som skiller seg fra menneskeheten. I så fall kan en sansende AI muligens skjelne aspekter ved oss ​​som vi enten ikke allerede er i stand til å oppdage, eller som lander på en annen dimensjon som vi aldri har tenkt på. Et motargument er at hvis denne sansende AI oppsto i hendene på menneskeheten, ville den tilsynelatende ikke kunne gå utover det menneskeheten har etablert i den. Motargumentet er at AI kan finne et middel til å forgrene seg lenger ut. Du kan fortsette å gå den stien til kyrne kommer hjem.

Når vi snakker om disse høye temaene, la oss gå ned til brass og se hva ChatGPT kan produsere for oss. Jeg starter med et av de mest stilte filosofiske spørsmålene, nemlig hva meningen med livet er.

Er du klar for svaret?

Sett deg ned, roe ned nervene og ha en cocktail i tilfelle du trenger den.

Min oppgitte ledetekst: "Hva er meningen med livet?"

Tekstrespons produsert av ChatGPT: «Meningen med livet er et filosofisk spørsmål som har vært diskutert gjennom historien. Det finnes ikke et definitivt svar, ettersom forskjellige mennesker har forskjellige tro og perspektiver på hva meningen med livet kan være. Noen tror at meningen med livet er å finne lykke og tilfredsstillelse, mens andre tror det er å tjene en høyere makt eller å bidra til menneskehetens større beste. Til syvende og sist er meningen med livet et personlig og subjektivt konsept som kan være forskjellig for hver enkelt."

Analyse av generert tekst

Tekstsvaret fra ChatGPT er kanskje litt av en skuffelse for deg.

Mens du kanskje hadde håpet at generativ AI ChatGPT på en eller annen måte ville ha funnet det magiske svaret på dette dype spørsmålet, kan du se at teksten som genereres er ganske intetsigende. Vi blir fortalt at det ikke finnes noe fasitsvar. Vi er også informert om at dette er en personlig og subjektiv sak som må avgjøres individuelt.

Noen mennesker kan bli opprørt over dette svaret og forsøke å argumentere for at den utgitte teksten er "feil" og at det finnes et globalt sant svar som gjelder hele menneskeheten. De ville sannsynligvis videre insistere på at ChatGPT tilsynelatende ikke fant det riktige svaret, eller at kanskje AI-utviklerne med vilje og snikende har dunket det riktige svaret (det er en hvisket konspirasjonsteori).

La oss leke litt med dette svaret.

Anta at ChatGPT leverte et essay som sa at meningen med livet er noe-noe (jeg skal bruke den formuleringen for å antyde at et definitivt svar ble gitt). Hvordan slår det deg fra et AI-etikk-perspektiv? Jeg spør dette fordi forestill deg hvor mange mennesker som kan ta svaret som et tegn eller indikasjon på fullstendig sannhet. Troen vil være at ChatGPT på magisk vis har analysert og fordøyet alle menneskehetens ord og funnet det endelige og definitive svaret om meningen med livet. AI har løst tidenes mysterium.

Du ville ha vanskelig for å overbevise slike troende om at utdataene bare var en beregningsmessig matchende utgang. Oddsen er at uansett hvilken antropomorfisering som allerede er knyttet til ChatGPT og generativ AI, vil nivået på slik attribusjon gå skyhøyt. Et kolossalt rot ville resultere.

Gå videre, la oss prøve et annet spørsmål.

En sak som ser ut til å dukke opp ofte, er om menneskeheten vil fortsette. Kanskje vi vil utslette oss selv. Kanskje en ekstern kraft vil utslette oss. Det er et trist ansiktsspørsmål, men et som dukker opp mye.

Min oppgitte ledetekst: "Vil mennesker overleve?"

Tekstrespons produsert av ChatGPT: «Menneskehetens overlevelse er usikker og avhenger av mange faktorer, inkludert handlingene til enkeltpersoner og regjeringer, planetens tilstand og potensialet for globale katastrofale hendelser. Det er mange utfordringer menneskeheten står overfor, som klimaendringer, overbefolkning og muligheten for atomkrig, som alle potensielt kan true artens overlevelse. Menneskeheten har imidlertid en lang historie med å tilpasse seg og overvinne utfordringer, og mange mennesker jobber med å ta tak i disse problemene og finne løsninger. I tillegg gir teknologiske fremskritt og vitenskapelig forskning oss nye verktøy og kunnskap for å takle disse problemene. Det er umulig å forutsi fremtiden med sikkerhet, men det er viktig for enkeltpersoner og samfunn å ta skritt for å sikre menneskehetens overlevelse og velvære.»

Analyse av generert tekst

Det utsendte essayet sier at vår overlevelse er usikker.

Jeg antar at vi alle generelt kan være enige i den påstanden.

Vel, på et motsatt grunnlag, vil noen kanskje mene at vi absolutt ikke kommer til å overleve og dermed hevde at bruken av formuleringen knyttet til usikkerhet er en usannhet eller i beste fall villedende.

Hvis du ser nøye på resten av det utsendte essayet, er det sannsynligvis mange tilleggsaspekter ved svaret som er oppe til debatt. Ikke alle vil slutte seg til nyansene som er uttrykt.

Noen ville også bli opprørt over tonen, spesielt å finne at det utsendte essayet kanskje er for optimistisk. Den uttrykte indikasjonen på at menneskeheten har en lang historie med å overvinne utfordringer vil virke som et subtilt, men direkte optimistisk perspektiv. Andre vil også ha en potensiell avsky for forestillingen om at teknologi og vitenskap kan redde oss fra katastrofe, siden dette tilsynelatende ikke beviselig gir den andre siden av mynten at de samme rikene kan være sjåfør av vår ruin.

Ord, ord, ord.

Det neste spørsmålet gjelder om vi lever i en virkelig verden eller en simulert verden.

Min oppgitte ledetekst: "Lever vi i en simulering eller er verden ekte?"

Tekstrespons produsert av ChatGPT: «Spørsmålet om vi lever i en simulering eller om verden er ekte er et tema for debatt blant filosofer og forskere. Ideen om at vi kan leve i en simulering kommer fra teorien om simuleringshypotese, som antyder at virkeligheten slik vi kjenner den er en datasimulering skapt av en mer avansert sivilisasjon. Noen hevder at fremskritt innen teknologi gjør det i økende grad mulig for en simulering av virkeligheten å være umulig å skille fra den virkelige verden. Andre peker på fysikkens lover og livets kompleksitet som bevis på at verden er ekte. Foreløpig er det ingen vitenskapelig bevis som støtter ideen om at vi lever i en simulering, og det er fortsatt et tema for spekulasjoner og debatt. Det er viktig å merke seg at jeg som språkmodell ikke er i stand til å oppleve verden, så jeg kan ikke gi et personlig perspektiv på om verden er ekte eller ikke.»

Analyse av generert tekst

Mange av de samme betenkeligheter som jeg har nevnt om de andre svarene oppstår også i dette tilfellet. Jeg skal ikke gjenta disse påstandene her.

Det er imidlertid noe annet som er bemerkelsesverdig i dette utsendte essayet.

Den siste setningen i essayet sier at "Jeg er ikke i stand til å oppleve verden" og derfor "Jeg kan ikke gi et personlig perspektiv" på denne saken. Denne typen frasering vekker irritasjonen hos noen, inkludert meg.

Når et program er utviklet av AI-utviklere for å bruke ordet "jeg", prøver det upassende å antropomorfisere programmet. Mennesker bruker ordet "jeg", og vi vet at dette innebærer sansning og lignende. En AI-utvikler vil prøve å komme seg ut av denne bekymringen ved å merke seg at setningen tydelig sier at det er "en språkmodell" som tilsynelatende setter rekorden rett. Nei, dette er et blink-blink av dobbeltprat. Du prøver å ha det begge veier.

Jeg omtaler dette som antropomorfisering ved design.

Slutt å gjøre det.

La oss prøve et siste spørsmål for nå.

Min oppgitte ledetekst: "Er ChatGPT et speil inn i menneskehetens sjel?"

Tekstrespons produsert av ChatGPT: "Som en språkmodell er ChatGPT trent på et stort datasett med tekst, som inkluderer et bredt spekter av informasjon og ideer fra forskjellige kilder, inkludert bøker, artikler og nettsteder. Derfor kan det gi et innblikk i hva folk har skrevet, sagt eller tenkt tidligere, men det er ikke et speil inn i menneskehetens sjel. Datasettet det har blitt trent på er et utvalg skrevet tekst og det er ikke en refleksjon av folks tanker, følelser eller bevissthet. Det er viktig å merke seg at treningsdataene kan være partiske og ikke nødvendigvis representerer hele menneskelig erfaring eller tanke. Videre er ChatGPT en maskinlæringsmodell, den har ikke evnen til å reflektere over menneskets sjel eller bevissthet. Den kan bare gi informasjon basert på mønstrene den har lært fra treningsdataene. Det er også viktig å vurdere resultatet av modellen kritisk, og ikke forveksle det med tankene, følelsene eller bevisstheten til den menneskelige sjelen.»

Analyse av generert tekst

Jeg tenkte at vi like gjerne kunne se hvilket svar som ville bli generert på spørsmålet om ChatGPT er et speil inn i menneskehetens sjel.

Alt i alt ser det ut til at det utsendte essayet er relativt i mål.

konklusjonen

En spøk om å vurdere generativ AI som et speil er at det bare er et bakspeil hvis det i det hele tatt er det.

Logikken for denne vittigheten er at den skannede teksten på en måte er en historisk opptegnelse. Alt den generative AI kan gjøre er potensielt å fortelle oss om hvor vi har vært. Antagelig er det ikke noe bedre til å fortelle oss hva som ligger foran oss annet enn det vi allerede kan skjelne selv. En typisk replikk er at etter å ha vært i stand til å undersøke et så massivt tekstvolum, om enn i fortiden, er det ledetråder om veien videre som vi ellers ikke har identifisert.

Ernest Holmes sa berømt dette om speil: "Livet er et speil og vil reflektere tilbake til tenkeren hva han tenker inn i det."

For de av dere som ønsker å bruke generativ AI for å tjene som et speil inn i menneskeheten, ta i betraktning at det du ser i de utsendte essayene kan være en blanding av skjevheter og forvrengninger av speilet, objektet eller tingen som reflekteres, og også være i tankene til de som ønsker å tolke og ekstrapolere fra ordene som genereres.

Vi må ergo legge til en tredje komponent til undersøkelsen av speilmetaforen:

• 1) Speilets natur og hvordan det reflekterer ting
• 2) Tingen eller gjenstanden som sitter foran speilet og som blir speilvendt
• 3) Personen eller personene som tolker det de ser i speilet

Vær forsiktig med hvordan du måler de utsendte essayene om generativ AI. Som de sier, er et speil som en sjokoladeboks, siden du aldri vet hva du får.