Generativ AI ChatGPT versus de uendelige skriveapene, ingen konkurranse sier AI-etikk og AI-lov

De voldsomme apene.

Det er et ganske kjent tankeeksperiment som du kanskje har hørt om som involverer aper. Den totalt spennende oppfinnsomheten brukes ofte av de som ønsker å gjøre et spesielt finslipt poeng.

Her er hvordan handlingen går.

Tenk deg at en ape skriver på en skrivemaskin. Hvis apen fortsetter å skrive over uendelig lang tid, og forutsatt at apen skriver nøkler rent tilfeldig, er sjansen stor for at hele verkene til Shakespeare uunngåelig vil bli skrevet.

Hovedsaken er tilsynelatende at det ved en tilfeldighet alene er mulig å noen ganger få et forståelig svar. Vi har alle en tendens til å være enige om at verkene til Shakespeare er en enorm utstilling av forståelig skriving og resonnement. Altså, noe eller en hvilken som helst måte å produsere Shakespeares verdsatte ord på vil virke utrolig imponerende, men samtidig ville vi blitt sviktet over at det ikke var av intelligens i seg selv, og i stedet av bare tilfeldig flaks.

Noen prøver i dag å sammenligne denne apekatten med det siste innen kunstig intelligens (AI).

Du vet sannsynligvis at den hotteste formen for kunstig intelligens i disse dager er Generativ AI, som er eksemplifisert via en vidt og veldig populær AI-app kjent som ChatGPT laget av OpenAI. Jeg skal forklare mer om generativ AI og ChatGPT om et øyeblikk. For akkurat nå er det bare å vite at dette er en tekst-til-tekst eller tekst-til-essay AI-app som kan lage et essay for deg basert på en oppgitt melding du velger.

Den påståtte forbindelsen knyttet til den legendariske skriveapen er at de imponerende, utskrevne essayene produsert av generativ AI som ser ut til å være fullstendig flytende, ikke er mer forbløffende enn prestasjonene til den skrivende primaten. Hvis du aksepterer premisset om at en ape som skriver tilfeldig kan generere verkene til Shakespeare, og hvis du er villig til å innrømme at ChatGPT og annen generativ AI tilsynelatende er den samme, må du derfor konkludere med at generativ AI slett ikke er spesielt bemerkelsesverdig. Det er bare tilfeldigheter som lurer oss.

Vel, dette kan virke som en overbevisende sak, men vi må pakke den ut. En oppmerksom utpakking vil vise at sammenligningen mellom de to er villedende og helt feil.

Slutt å sammenligne. For de som insisterer på å fortsette å gjøre en sammenligning, vennligst gjør det i det minste på en forsvarlig og overordnet måte.

De som bare kaster rundt sammenligningen, gjør generativ AI en bjørnetjeneste. Og den mer viktige bekymringen er at dette er villedende for allmennheten og samfunnet for øvrig. Jeg antar at vi også kan legge til at de gjør en bjørnetjeneste for de hardtarbeidende apene også, eller kanskje undergraver verdien av uendelig skriveaper-teoremet. Vær rettferdig. Vær snill. Vær sannferdig.

Før vi går inn i et dypdykk på dette, er det en insidervits som utnytter forestillingen om skriveape. Du liker det kanskje.

Den kyniske biten humor spores ofte til personlig korrespondanse under Internetts første storhetstid. Dette var da Internett var på vei ut av å være et dystert seriøst online-rike og inn i det uhengslede territoriet med å være bråkete, støyende og uregjerlige ettersom antallet mennesker som bruker Internett økte beviselig.

Den humoristiske anekdoten sier at hvis aper som skriver på skrivemaskiner til slutt ville produsere eller skal vi si reprodusere hele verket av Shakespeare, har vi nå bevis på at takket være fremkomsten av Internett må dette definitivt ikke vær ærlig.

Ler du?

Noen tolker dette som en uhyggelig morsom bemerkning.

Vitsen er en nedsettelse av hvordan Internett med alle dets frådende og spyende innlegg nesten er på vei til å produsere Shakespeare. Det er en skarpt nedskjærende bemerkning som fremhever at Internett antagelig ikke har forhøyet diskurs, men i stedet nedverdiget diskurs. Mange antok at Internett ville være en velsignelse for intelligent interaksjon, noe som muliggjør tankevekkende diskusjoner over hele verden. Virker som vi ikke nødvendigvis har vært vitne til dette på et så stort grunnlag som vi håpet på.

Selvfølgelig ville vi være uaktuelle når vi tar vitsen som en sann varsler om hva Internett har utløst. Det er mange gode avsløringer og bemerkelsesverdige verdier knyttet til Internett. Vitsen er en pynt eller overdrivelse. Ikke desto mindre er poenget godt tatt at vi må være på vakt mot lumsk innhold, samtidig som vi sikter mot å finne og løfte samfunnsinspirerende verk via bruk av Internett. For min dekning om hvordan AI både kan hjelpe og likevel i en dobbel bruke mote undergraver samfunnsdiskursen via uønskede oppslag på Internett, se diskusjonen min på lenken her.

I dagens spalte vil jeg ta for meg de betydelige forskjellene mellom generativ AI og den klassiske historien om skriveapene. Jeg skal forklare hvor sammenligningen kommer til kort. Du vil utvilsomt ende opp med å vite mer om skriveaper-teoremet, sammen med å forstå mer konkret hvordan generativ AI fungerer. Jeg vil av og til referere til ChatGPT siden det er gorillaen på 600 pund av generativ AI (ordspill ment), men husk at det er mange andre generative AI-apper, og de er generelt basert på de samme generelle prinsippene.

I mellomtiden lurer du kanskje på hva generativ AI faktisk er.

La oss først dekke det grunnleggende om generativ AI, og deretter kan vi se nærmere på sammenligningene av type-aper-teoremet.

Inn i alt dette kommer en rekke AI-etikk og AI-lovbetraktninger.

Vær oppmerksom på at det pågår et arbeid for å innarbeide etiske AI-prinsipper i utviklingen og bruken av AI-apper. En voksende kontingent av bekymrede og tidligere AI-etikere prøver å sikre at arbeidet med å utvikle og ta i bruk AI tar hensyn til et syn på å gjøre AI For Good og avverge AI for Bad. På samme måte er det foreslått nye AI-lover som blir slått rundt som potensielle løsninger for å forhindre at AI-arbeidet går amok på menneskerettigheter og lignende. For min pågående og omfattende dekning av AI-etikk og AI-lov, se lenken her og lenken her, bare for å nevne noen få.

Utviklingen og kunngjøringen av etiske AI-forskrifter blir forfulgt for å forhåpentligvis forhindre at samfunnet faller i en myriade av AI-fremkallende feller. For min dekning av FNs AI-etiske prinsipper slik de er utviklet og støttet av nesten 200 land gjennom innsatsen til UNESCO, se lenken her. På samme måte utforskes nye AI-lover for å prøve å holde AI på en jevn kjøl. En av de siste opptakene består av et sett med foreslåtte AI Bill of Rights som det amerikanske hvite hus nylig ga ut for å identifisere menneskerettigheter i en tidsalder med AI, se lenken her. Det kreves en landsby for å holde AI- og AI-utviklere på en rettmessig vei og avskrekke målrettet eller utilsiktet underhendt innsats som kan undergrave samfunnet.

Jeg vil flette AI-etikk og AI-lovrelaterte betraktninger inn i denne diskusjonen.

Grunnleggende om generativ AI

Den mest kjente forekomsten av generativ AI er representert av en AI-app kalt ChatGPT. ChatGPT sprang inn i den offentlige bevisstheten tilbake i november da den ble utgitt av AI-forskningsfirmaet OpenAI. Helt siden ChatGPT har høstet store overskrifter og forbløffende overskredet sine tildelte femten minutter med berømmelse.

Jeg tipper du har sikkert hørt om ChatGPT eller kanskje til og med kjenner noen som har brukt det.

ChatGPT regnes som en generativ AI-applikasjon fordi den tar som input fra en bruker og deretter genererer eller produserer en produksjon som består av et essay. AI er en tekst-til-tekst-generator, selv om jeg beskriver AI som en tekst-til-essay-generator siden det lettere tydeliggjør hva den vanligvis brukes til. Du kan bruke generativ AI til å komponere lange komposisjoner, eller du kan få den til å gi ganske korte pittige kommentarer. Det er alt etter ditt bud.

Alt du trenger å gjøre er å skrive inn en melding, og AI-appen vil generere et essay for deg som prøver å svare på spørsmålet ditt. Den komponerte teksten vil virke som om essayet ble skrevet av menneskelig hånd og sinn. Hvis du skulle skrive inn en melding som sa "Fortell meg om Abraham Lincoln", vil den generative AI gi deg et essay om Lincoln. Det finnes andre moduser for generativ AI, for eksempel tekst-til-kunst og tekst-til-video. Jeg vil her fokusere på tekst-til-tekst-variasjonen.

Din første tanke kan være at denne generative evnen ikke virker som en så stor sak når det gjelder å produsere essays. Du kan enkelt gjøre et online søk på Internett og lett finne tonnevis av essays om president Lincoln. Kickeren i tilfellet med generativ AI er at det genererte essayet er relativt unikt og gir en original komposisjon i stedet for en kopi. Hvis du skulle prøve å finne det AI-produserte essayet på nettet et sted, ville du neppe oppdaget det.

Generativ AI er forhåndsopplært og bruker en kompleks matematisk og beregningsmessig formulering som er satt opp ved å undersøke mønstre i skrevne ord og historier over nettet. Som et resultat av å undersøke tusenvis og millioner av skriftlige passasjer, kan AI spy ut nye essays og historier som er en blanding av det som ble funnet. Ved å legge til ulike sannsynlighetsfunksjoner, er den resulterende teksten ganske unik i forhold til det som har blitt brukt i treningssettet.

Det er mange bekymringer rundt generativ AI.

En avgjørende ulempe er at essayene produsert av en generativ-basert AI-app kan ha ulike usannheter innebygd, inkludert åpenbart usanne fakta, fakta som er misvisende fremstilt, og tilsynelatende fakta som er helt oppdiktet. Disse fabrikkerte aspektene blir ofte referert til som en form for AI hallusinasjoner, et slagord som jeg misliker, men som dessverre ser ut til å ha blitt populært uansett (for min detaljerte forklaring om hvorfor dette er elendig og uegnet terminologi, se min dekning på lenken her).

En annen bekymring er at mennesker lett kan ta æren for et generativt AI-produsert essay, til tross for at de ikke har skrevet essayet selv. Du har kanskje hørt at lærere og skoler er ganske bekymret for fremveksten av generative AI-apper. Studenter kan potensielt bruke generativ AI for å skrive sine tildelte essays. Hvis en student hevder at et essay er skrevet av egen hånd, er det liten sjanse for at læreren kan se om det i stedet ble forfalsket av generativ AI. For min analyse av denne elev- og lærerforvirrende fasetten, se min dekning på lenken her og lenken her.

Det har vært noen vanvittige store påstander på sosiale medier om Generativ AI hevder at denne siste versjonen av AI faktisk er det sansende AI (nei, de tar feil!). De innen AI Ethics og AI Law er spesielt bekymret for denne spirende trenden med utstrakte påstander. Du kan høflig si at noen mennesker overdriver hva dagens AI faktisk kan gjøre. De antar at AI har evner som vi ennå ikke har klart å oppnå. Det er uheldig. Enda verre kan de tillate seg selv og andre å komme i alvorlige situasjoner på grunn av en antagelse om at AI vil være sansende eller menneskelignende når det gjelder å kunne handle.

Ikke antropomorfiser AI.

Hvis du gjør det, vil du bli fanget i en klissete og hard avhengighetsfelle av å forvente at AI skal gjøre ting den ikke er i stand til å utføre. Når det er sagt, er det siste innen generativ AI relativt imponerende for hva det kan gjøre. Vær imidlertid oppmerksom på at det er betydelige begrensninger som du kontinuerlig bør huske på når du bruker en generativ AI-app.

En siste forvarsel for nå.

Uansett hva du ser eller leser i et generativt AI-svar som synes for å bli formidlet som rent saklig (datoer, steder, personer osv.), sørg for å være skeptisk og være villig til å dobbeltsjekke det du ser.

Ja, datoer kan lages, steder kan gjøres opp, og elementer som vi vanligvis forventer å være uanstendige er alle gjenstand for mistanker. Ikke tro det du leser og hold et skeptisk øye når du undersøker generative AI-essays eller utganger. Hvis en generativ AI-app forteller deg at Abraham Lincoln fløy rundt i landet i sitt private jetfly, ville du utvilsomt vite at dette er malarky. Dessverre er det kanskje noen mennesker som ikke innser at jetfly ikke fantes på hans tid, eller de vet kanskje, men unnlater å legge merke til at essayet kommer med denne frekke og opprørende falske påstanden.

En sterk dose sunn skepsis og en vedvarende tankegang av vantro vil være din beste ressurs når du bruker generativ AI.

Vi er klare til å gå inn i neste fase av denne oppklaringen.

Hva skjer med de skriveapene

Nå som du har et inntrykk av hva generativ AI er, kan vi utforske sammenligningen med skriveapene. På en måte kommer jeg til å trinn-for-trinn ta fra hverandre apeskrive-teoremet. Jeg gjør det for å belyse grunnlaget. Vi kan deretter bruke de avslørte elementene til å gjøre en sammenligning med generativ AI.

Typing monkeys-teoremet eller hypotesen inneholder et kjernesett med elementer:

• a) Hvem eller hva. Den identifiserte skapningen eller skuespilleren som skriver
• b) Antall og lang levetid. Hvor mange av dem er det og deres levetidsstatus
• c) Symboler utgitt. Produksjon av bokstaver og kjente symboler via en rudimentær enhet
• d) Tid. Hvor lang tid det tar å utføre oppgaven
• e) Etterretning. Hvilken kunnskap gir de til utførelsen av oppgaven
• f) Målrettet produksjon. Den målrettede produksjonen av det vi vil at de skal produsere

La oss først undersøke skriveapene.

Du husker kanskje at jeg nevnte ved åpningen av denne diskusjonen at vi skulle forestille oss at en ape skrev på en skrivemaskin. Jeg refererte til de grunnleggende konseptene som innebærer at bare én ape gjør det. Vi kan justere den fasetten.

Her er måter situasjonen ofte blir fremstilt på:

• En enslig ape av en dagligdags tilværelse
• Tusen slike aper
• En million slike aper
• Uendelig mange slike aper
• En enslig ape som er udødelig
• Et visst antall udødelige aper
• Etc.

Legg merke til at i stedet for bare å ha én ape, kan vi omforme tankeeksperimentet og ha en mengde aper som antagelig jobber samtidig. Videre er et annet justerbart aspekt om apene er dødelige eller udødelige. Jeg skal grave videre i dette et øyeblikk.

Vi må også inkludere tidsfaktoren som en avgjørende ingrediens.

Vanligvis er tidsfaktoren en av disse to hensynene:

• Begrenset tidsperiode
• Uendelig tid

Et annet noe uuttalt underliggende element er at aper blir brukt i dette tilfellet fordi vi anser dem for å være relativt lite tenkende. De vet ikke hvordan de skal lese eller skrive. De er ikke i stand til å vise intelligens på samme måte som vi forbinder intelligens med menneskelige kapasiteter.

Dette er litt fornærmende når du tenker litt over det. Jeg tror vi alle rimeligvis kan være enige om at aper er utrolig smarte, i det minste for hva de kan oppnå innenfor tankegrensene sine. Jeg vil tørre å påstå at vi tillegger apekatter større tenkeevne enn vi gjør til mange andre dyr. Det er mange flittige forskningseksperimenter som er gjort for å vise hvor mentalt skarpe aper kan være.

I alle fall, for metaforens formål, er antakelsen at apekatter ikke er i stand til å tenke i en grad at de av egen kraft kunne tenke seg Shakespeares verk. Mens den klassiske filmen Apenes planet prøvde å advare oss om at dette kan være en feil antagelse, vi går i alle fall med det i dagens verden.

Hvis vi erstattet bruken av maur med apene, forsvinner metaforen noe. Vi ser ikke for oss at maur kan skrive på skrivemaskiner. Vi kan prøve å erstatte bruken av hunder eller katter siden de nesten kunne skrive på en skrivemaskin, men til syvende og sist er bruken av aper best siden de kan skrive på en måte som minner om at mennesker skriver. De har passende lemmer og kroppsstruktur for å utføre oppgaven. De blir også mentalt sett på som i stand til å skrive, selv om vi antar at de ikke vet hva de skriver.

Som en side, har det vært mange forskningseksperimenter som involverer aper og deres gjenkjennelse av symboler. Inkludert i disse ulike studiene har vært oppsett som fikk apene til å skrive på skrivemaskiner eller lignende enheter. Hvis det gjøres på riktig måte, kan dette være meningsfullt i jakten på nyttig innsikt om intelligens og oppkomsten av intelligent atferd.

Dessverre er forskningen som innebærer å skrive på skrivemaskiner til tider ikke gjort på en særlig seriøs måte. Noen ganger har tilnærmingen som er brukt ikke vært noe mer enn et svakt blink-blink-nikk til det berømte eller beryktede apene-skrive-teoremet, snarere enn å bona fide grunnleggende forskningsaktiviteter. Jeg synes ikke slike krumspring er morsomme eller ordentlige. Tanken har vært at aper fysisk ble gitt skrivemaskiner og oppmuntret til å skrive basert på deres innfall eller noen ganger for godbiter som mat. Med mindre dette er gjort på en bona fide robust eksperimentell måte, er det ikke noe mer enn en fasade.

En liten vri som er mer behagelig består i å sette opp datamaskinbaserte simuleringer som hevder å utføre det aper kan gjøre under disse omstendighetene. Datamaskinen brukes til å simulere disse aspektene. Ingen faktiske aper er involvert. Noen har til og med gått så langt som å gjøre litt såkalt borgervitenskap ved å dele ut simuleringen til alle som er villige til å la deres bærbare eller datamaskin brukes til dette arbeidet. Ikke fall for falske svindel som snikende hevder at de gjør dette for vitenskapen når realiteten er at de prøver å infisere datamaskinen din med et datavirus. Vær forsiktig.

Tilbake til saken.

Et aspekt som også er medvirkende til omstendighetene er at skrivemaskiner blir brukt i denne skriveape-hypotetiske.

Hvorfor skrivemaskiner?

For det er slik vi kan få produksjon av bokstaver, som så kan formes til ord, som så kan formes til historier. Den samme eller lignende forestillingen om å produsere mange bokstaver krever ikke nødvendigvis at vi skriver dem. Det finnes faktisk varianter av denne metaforen som går tilbake til Aristoteles' dager, og derfor fantes det ikke skrivemaskiner på den tiden.

Vi kan endre metaforen og referere til moderne tastaturer og datamaskiner. Vi kan si at apene banker bort på en bærbar datamaskin eller kanskje til og med på en smarttelefon. Det fine med å referere til skrivemaskiner er at vi assosierer skrivemaskiner som ikke-datastyrte og derfor hjelper de ikke i selve skriveprosessen. Dette er avgjørende for oppfinnsomheten involvert.

Til slutt blir vi vanligvis presentert for aspektet at verkene til Shakespeare skal produseres. Vi kunne lett erstatte Shakespeare med enhver annen kjent forfatter. Det kan være at vi ønsker å vite om apene kan produsere hele verkene til Charles Dickens, Jane Austen, Ernest Hemingway, og så videre. Det spiller ingen rolle. Essensen er at skriften må være noe vi alle vet, og som vi anerkjenner som fremragende skriving.

Vi kan enkelt erstatte enhver skrift som vi ønsker å sette som mål.

Det praktiske med å referere til Shakespeare er at verkene hans er tolket som på det øverste eller høydepunktet av menneskelig skrift. Vi kunne i stedet finne et essay skrevet av en førsteklassing og bruke det som mål. Tro det eller ei, de samme forskriftene gjelder fortsatt. Folk ville nok ikke finne dette inspirerende at apene var i stand til å gjengi skriften til et barn. For å holde ting engasjerende, må skriften være av høyeste kaliber.

En variant av den målrettede produksjonen ville være å referere til et spesifikt verk av Shakespeare i stedet for hele hans verk. Som du snart vil se, gjør det liten forskjell for sakens kjerne. Jeg vil tippe at mange pleier å nevne Hamlet som en del av monkey-type-teoremet, kanskje siden dette tilfeldigvis er hans lengste spill, som tilsvarer rapporterte 29,551 130,000 ord i størrelse (sammensatt av rundt XNUMX XNUMX bokstaver eller så).

Ethvert av hans skuespill ville være tilstrekkelig.

Hele oppfinnelsen avhenger av de forskjellige sannsynlighetslovene. Du har kanskje lært om nyansene til sannsynligheter i de slitsomme timene i statistikk og matematikk som du tok på skolen.

La oss bruke ordet "Hamlet" for å se hva som skal til for å produsere de seks bokstavene tilfeldig i den spesifikke sekvensen av Hamlet.

Den enkleste måten å aritmetisk beregne dette på består i å anta at vi har et enkelt rundt tall på antall tilgjengelige nøkler på en skrivemaskin. Anta at vi har en skrivemaskin som har 50 distinkte og like brukbare taster. Hver tast representerer et bestemt symbol, for eksempel symbolene i det vanlige engelske alfabetet. Anta at nøklene er ordnet i tilfeldig rekkefølge og at vi ikke har rigget situasjonen ved å sette Hamlet separate nøkler i et spesielt arrangement for å indusere å skrive de spesifikke nøklene mer enn noen andre nøkler.

Hver tast trykkes helt uavhengig av hvilken tast som er trykket før den. Derfor, av de 50 tastene, regnes sjansene for at en tast trykkes som 1 av 50 sjanser. Det samme gjelder for alle tastene og gjennom hele skrivearbeidet. Beregningen for en enkelt tast som trykkes er en sjanse på 1 av 50, eller det er 1/50.

Sjansen for å skrive bokstaven "H" er 1/50, og sjansen for å skrive bokstaven "a" er 1/50, og sjansen for å skrive bokstaven "m" er 1/50, og så videre.

Dette er:

• Sannsynligheten for at "H" skrives inn er 1/50.
• Sannsynligheten for at "a" skrives inn er 1/50.
• Sannsynligheten for at "m" skrives inn er 1/50.
• Sannsynligheten for at "l" skrives inn er 1/50.
• Sannsynligheten for at "e" blir skrevet er 1/50.
• Sannsynligheten for at "t" skrives inn er 1/50.

En standard regel eller sannsynlighetslov sier at hvis to eller flere hendelser er fullstendig statistisk uavhengige av hverandre, kan vi beregne sjansene for at begge inntreffer ved ganske enkelt å multiplisere deres sannsynligheter med hverandre. Vi kan gjøre det angående disse seks brevene.

Vi har denne beregningen: "H" (1/50) x "a" (1/50) x "m" (1/50) x "l" (1/50) x "e" (1/50) x «t» (1/50)

Det vil si: (1/50) x (1/50) x (1/50) x (1/50) x (1/50) x (1/50)

Det lille tallet kommer til 1 / 15,625,000,000 XNUMX XNUMX XNUMX.

Sjansen da for å skrive inn ordet "Hamlet" på seks bokstaver er omtrent en av 15 milliarder, alt annet likt.

Det er skremmende odds. Og dette er bare for å skrive et bestemt ord på seks bokstaver. Prøv å bruke den samme beregningen på de 29,551 XNUMX ordene i hele Hamlet-spillet. Hvis du bestemmer deg for å beregne dette, må du også innse at mellomrommene mellom ordene må tas hensyn til.

Jo lenger målrettet utgang, jo større er sjansene for at vi kan generere de nøyaktige settene med bokstaver og ord. Oddsen blir mindre og mindre. Sjansen er så liten at vi nesten vil kaste inn håndkleet og si at det virker som det "aldri" ville skje (vær forsiktig når du bruker ordet "aldri", siden det er en formidabel påstand).

Ta for eksempel en dødelig ape.

I følge ulike anerkjente online indikasjoner er den vanlige levetiden til en ape i naturen rundt 40 år eller så. Hvis du vil diskutere den levetiden, kan vi bare bruke tallet 100 og fortsette med en ganske usannsynlig øvre grense. En ape som skriver på en skrivemaskin non-stop i for eksempel hundre år, ikke inkludert tid til hvile, tid til å spise eller lignende, og antar at dette er alt apen gjorde fra fødselsøyeblikket til deres siste åndedrag, vant fortsatt 't hjelpe enda opp oddsen skrive av Hamlet alt fortalt (apen, hvis han skriver inn en tast hvert sekund non-stop i 100 år, ville trykke omtrent 3,155,673,600 XNUMX XNUMX XNUMX taster).

Vi kan med rimelighet si at det er enormt usannsynlig at en dødelig ape kan ende opp med å skrive tilfeldigvis stykket Hamlet.

Du kan øke antallet dødelige aper, men dette gjør lite for å rokke ved de overveldende oddsene mot å skrive Hamlet. Noen påstår at det er tusen aper. En annen tilnærming sier at det er en million aper. Forutsatt at de alle levde til de var 100 år gamle, og hver skrev en tilfeldig tast på hver sin respektive skrivemaskin i et konstant tempo på én tast per sekund, gjør dette fortsatt ikke et statistisk bemerkelsesverdig inntrykk i å skrive ut stykket Hamlet.

Tenk på alt dette.

Litt tungen i kinnet, hvor nøyaktig ville du huse en million aper for denne oppgaven? Tenk deg også at skrivemaskinene må vare i hundre år med kontinuerlig bruk (kan du finne en million fungerende skrivemaskiner som ingen ønsker og er villige til å donere til dette tidligere prosjektet?). Ser ut til at du må ha mange ekstra skrivemaskiner klare med en gang. Og så videre. Logistikken er svimlende.

Alt dette virker da dystert at de dødelige apene sannsynligvis ikke vil formere seg Hamlet.

Men anta at vi gjør dem udødelige. Ja, vi gir dem en trylledrikk som lar dem leve evig. Vi trenger ikke engang mer enn én udødelig ape. Bare én vil gjøre. Det kan kanskje gjøre metaforen mer spennende å påstå at vi har tusen eller en million udødelige aper.

Hvis vi har en ape som kan leve evig, kan vi foreslå at dette er en uendelig ape. Det kan i uendelig tid dunke løs på tastene på skrivemaskinen. Den apen vil bare fortsette og gå. Følgelig, selv om sjansene for å skrive stykket Hamlet var ekstremt små, tyder det aspektet som apen uendelig vil fortsette å prøve på at stykket på et tidspunkt Hamlet vil nesten sikkert ha blitt skrevet ut.

Tommelfingerregelen er så å si at et hendelsesforløp som har en sjanse som ikke er null, selv om det er usedvanlig lav i sjanser, er vi rimelig enige om at det nesten vil skje hvis vi har uendelig tid til å leke med, alt annet likt. De i matematikk- og statistikkfeltene er tilbøyelige til å beskrive den samme vurderingen ved bruk av strenger eller til og med binære tall på 0 og 1. Hvis du har et begrenset sett med symboler, og det er en uendelig streng av dem, der hvert symbol har blitt valgt jevnt tilfeldig, er det en begrenset streng der inne som du nesten helt sikkert kunne forutsett skulle oppstå.

Det er en stor hake ved alt dette.

Vi lever i en verden av begrenset. Ingen av oss ser ut til å ha uendelig tid tilgjengelig. Til de av dere som sier at du gjør det, kudos. Hatten min går av for deg.

Hvis du påtvinger de skrivende apene den begrensede verden, vil du finne deg selv å treffe en ganske hard vegg. Analyser av skriveape-teoremet vil ganske mye gi sannsynligheten for å oppnå stykket Hamlet er nær nok null i begrenset tid til at det for ethvert begrunnet operasjonelt grunnlag rett og slett ikke vil skje. Den vanlige fremstillingen er at hvis du brukte så mange aper som det er atomer i det kjente universet, og de fortsatte å skrive i mange zillioner av ganger av universets tidsrom, ser du fortsatt på ufattelig bitte små, ufattelige sjanser for å se spille Hamlet.

Skriveape-teoremet er ganske tøft og rangeres ofte som blant de syv beste tankeeksperimentene i vår tid. Du er velkommen til å gjøre litt ekstra gransking av teoremet siden det er mange analyser tilgjengelig på nettet. Det er en levende og morsom måte å få et grep om sannsynlighet og statistikk. I stedet for utelukkende å forholde seg til tørre tall, får du se for deg de morsomme, rullende apene og alle de gammeldagse clickity-clackity-skrivemaskinene.

Vi er nå klare til å bringe generativ kunstig intelligens inn i apernes og skrivemaskinens problem.

Generativ AI blir irritert av skriveapene

Premisset som vi skal undersøke nøye, er den omstridte påstanden om at generativ AI som ChatGPT ikke er annerledes enn skriveapene. Det sies at hvis ChatGPT eller en hvilken som helst generativ AI kan produsere Hamlet eller lignende kjente verk, dette er helt og holdent et tilfeldig resultat som sannsynligvis har oppstått på samme måte som aper kan komme til å skrive opp dette lenge verdsatte og dypt aktede Shakespeare-skuespillet.

Beklager, det er feilaktig tenkning om dette tungtveiende temaet.

La oss se hvorfor.

La oss først se gjennom og utvide hva generativ AI består av.

Husk at jeg tidligere indikerte at generativ AI er programvare som innebærer bruk av algoritmer for å datatre på teksten som finnes på Internett og via andre lignende kilder. Et stort utvalg av mønstertilpasning har matematisk og beregningsmessig identifisert mønstre blant millioner på millioner av narrativer og essays som vi mennesker har komponert.

Ordene har ingen spesiell betydning for seg selv. Tenk på dem som objekter. Innenfor datamaskinen er de representert som tall som vi betegner som tokens. De brukes som et praktisk middel til å assosiere andre ord eller tokens med hverandre, og gjør det i en dyptgående og intrikat statistisk nettlignende struktur.

Noen i AI-feltet er bekymret for at dette ikke er noe mer enn det som omtales som en stokastisk papegøye.

Du skjønner, i stedet for å prøve å koble en viss "mening" til ordene, er dette bare en omfattende indeksering av ord som ser ut til å bli brukt rundt eller ved siden av andre ord. I motsetning til dette antar vi at mennesker kan "forstå" ordenes natur og betydning.

Vurder din daglige tilgang til tilstedeværelsen av ord-til-ord-korrespondanser. I likhet med når du bruker en vanlig automatisk fullføringsfunksjon i tekstbehandlingsprogramvaren din, regner datamaskinen matematisk ut at et bestemt ord vanligvis blir fulgt av et annet bestemt ord, som igjen blir fulgt av et annet bestemt ord, og så videre. Dermed kan du ofte begynne å skrive en setning, og tekstbehandlingspakken vil vise deg en gjetning om hva de ekstra ordene i setningen vil være.

Det er en gjetning fordi statistisk sett kan dette være de vanlige ordene i setningen, men du kan ha noe annet i tankene å si, og dermed er prediksjonen avvik fra det du ønsket å skrive. Det finnes antagelig nok andre eksempler på setninger som bruker de ordene som algoritmen er i stand til å anslå at du sannsynligvis vil avslutte setningen med de forutsagte ordene. Dette er ikke jernbelagt. Dessuten er det ingen "mening" knyttet til denne beregningsmessige gjetningen.

Noen AI-forskere hevder at for å oppnå ekte AI, ofte laget som Kunstig generell intelligens (AGI), vi må på en eller annen måte kodifisere til datamaskiner en ennå oppdaget eller oppfunnet form for "forståelse" (se spalten min for en rekke innlegg om AGI og jakten på AGI). De bekymrer seg for at manien over generativ AI ikke er mer enn en blindvei. Vi vil fortsette å prøve å presse videre og videre den generative AI ved å oppskalere størrelsen på datanettverkene og kaste mer og mer databehandlingskraft på saken. Alt dette vil være til ingen nytte når det gjelder å komme til AGI, hevder de.

En ekstra bekymring er at kanskje denne jakten på en antatt blindvei distraherer oss fra den riktige eller riktige handlingen. Vi vil bruke enorm energi og innsats mot en misforstått slutttilstand. Jada, generativ AI kan være fantastisk på mimikklurene, men det kan være at dette har lite eller ingenting å gjøre med AGI. Vi kunne lure oss selv til å kaste bort dyrebart fokus. Vi kan forsinke eller kanskje til og med mislykkes i å komme til AGI på grunn av denne forlokkende distraksjonen.

Uansett, med tanke på skriveapene, la oss gå tilbake til den generelle fracas.

Vi må vurdere disse bemerkelsesverdige faktorene:

• 1) Følende versus ikke sansende
• 2) Tenke versus ikke "tenke"
• 3) Begrensede tenkeprosesser kontra datamaskinbaserte algoritmer og mønstertilpasning
• 4) Utrent eller ute av stand til å trene versus data som er trent

La oss takle hver av disse faktorene.

Sentient Versus Ikke Sentient

Jeg tror vi kan innrømme at aper er levende vesener. Uansett hvor smarte eller mangelfulle du kanskje ønsker å argumentere for at de er; de er unektelig sansende. Det er et faktum. Ingen kan med rimelighet påstå noe annet.

Dagens kunstige intelligens er ikke sansende. Punktum, punktum.

Videre hevder jeg at vi ikke er i nærheten av AI-sansen. Andre kan selvsagt være uenige. Men alle med rimelig ro vil være enig i at dagens AI ikke er sansende. For min analyse av den avgrunnen feilaktige merkingen av AI-sansen av den Google-ingeniøren i fjor, se diskusjonen min på lenken her.

Så en avgjørende forskjell mellom de ivrig skrivende apene og dagens generative AI er at apene er levende vesener mens AI ikke er det. På toppen av dette er det ofte en glatt bakke å begynne å sammenligne dagens AI med noe sansende. Det er en tendens til å antropomorfisere AI. Jeg oppfordrer innstendig til at for å prøve å forhindre at denne enkle mentale fellen rammer oss, unngår vi enhver sammenligning mellom AI og sansende vesener med mindre vi er over bord og tydelig eksplisitt identifiserer og avgrenser den forskjellen.

Få om noen gjør den avgrensningen når man sammenligner skriveapene og generativ AI. De antar at du enten allerede vil innse at det er denne forskjellen, eller så bryr de seg ikke om at det er en forskjell, eller så har de ikke tenkt på det osv.

Tenke versus ikke "tenke"

Jeg vil påstå at aper kan tenke. De er tenkende vesener. Vi kan lett diskutere hvor mye de kan tenke. Du må nesten helt sikkert være enig i at aper kan tenke.

Dagens AI av alle slag, inkludert generativ AI, stiger ikke til det jeg anser som den menneskelige kapasiteten til tenker.

Jeg skal gjenta mitt nettopp nevnte refreng relatert til sansning. Det er misvisende, og jeg hevder feil å gå rundt og si at dagens AI kan tenke. Dessverre gjør folk dette hele tiden, inkludert AI-forskere og AI-utviklere. Jeg mener dette nok en gang er uheldig og dårlig antropomorfisering. Du gir et skinn av kapasitet eller evner til AI som ikke er der, og som vil feilinformere samfunnet for øvrig om saken. Slutt å gjøre dette.

Generativ AI er en kompleks nettlignende struktur av matematiske og beregningsmessige egenskaper. Det er beundringsverdig. Det er skummelt av hva dette oppnår. Jeg tror ikke at noen fornuftig tolkning av "tenkning" slik vi tenker på det, i all sin prakt, passer denne AI-en.

Begrensede tenkeprosesser versus datamaskinbaserte algoritmer og mønstertilpasning

Aper er begrenset i sine tenkeprosesser.

Du kan finne av interesse at det er mange sammenligninger i den vitenskapelige litteraturen av apehjerner versus hjernen til mennesker. Tenk for eksempel på denne forskningsstudien: «Den menneskelige hjernen er omtrent tre ganger så stor som hjernen til vår nærmeste levende slektning, sjimpansen. Dessuten inneholder en del av hjernen kalt hjernebarken – som spiller en nøkkelrolle i hukommelse, oppmerksomhet, bevissthet og tanke – dobbelt så mange celler hos mennesker som samme region hos sjimpanser. Nettverk av hjerneceller i hjernebarken oppfører seg også forskjellig hos de to artene» (i en artikkel publisert i eLife, september 2016, med tittelen "Forskjeller og likheter mellom menneskelige og sjimpanse nevrale stamceller under utvikling av hjernebarken").

Vi innser alle at aper ikke er på nivå med menneskelig tenkning. Disse fantastiske skapningene kan være kjærlige og tenke overraskende mye, ingen tvil om det. De stiger bare ikke til nivåene av menneskelig tenkning. Jeg vil angre på at jeg sa dette når apene tar over menneskeheten.

Jeg uttalte allerede for et øyeblikk siden at dagens AI ikke tenker. Jeg understreket at det AI gjør ikke bør merkes som "tenking", siden det er villedende og forvirrende.

Det er her den generative AI overstråler apene, når det gjelder bruk av databehandling basert på menneskeskapte algoritmer og basert på menneskeproduserte skrifter. Det er liten eller ingen sjanse for at den tenkende apen kan absorbere og mønstertilpasse den store bruken av skrevne symboler som mennesker har kommet opp med. Aper har ikke den slags tenkeevne.

Jeg nøler med å foreslå en slik sammenligning, gitt mine andre uttrykte betenkeligheter. Men jeg sier tydelig hva forutsetningene er og hvordan man skal gjennomføre denne analysen på en riktig og hensiktsmessig måte.

Utrent eller ute av stand til å trene versus beregningsmessig datatrent

I likhet med det jeg nettopp sa, vil du ikke være i stand til å trene en tenkende ape på den enorme bruken av skriftlige symboler for menneskeheten. Du kan gjøre dette på et ekstremt begrenset grunnlag, og studier har vist at aper tilsynelatende kan tenke på skrevne symboler. Dette er langt mindre enn å kunne huske og gjenta omfattende mønstre av ord, setninger og hele fortellinger.

Generativ AI er en datamaskinbasert statistisk mimikk som kan datatrenes med data. Hvis vi fortsetter å mate mer data, for eksempel ekstra tekster som vi samler inn eller finner, er antakelsen og håpet at mønstrene som blir funnet vil bli dypere og dypere. I tillegg vil bruk av raskere og raskere databrikker og prosessering også øke denne mønstertilpasningen og responskapasiteten.

Ser på bunnlinjen

Hvis generativ AI skulle produsere stykket Hamlet, hva skulle det bety?

Først må vi vurdere om historien eller skuespillet ble matet inn i den generative AI på tidspunktet for dataopplæringen. I så fall er det ingenting spesielt bemerkelsesverdig eller bemerkelsesverdig med den generative AI som senere spruter ut de samme ordene den tidligere hadde skannet.

En AI-forsker kan være litt forferdet fordi mønstertilpasningen antagelig gikk over bord, etter å ha lært ordene utenat. Vi refererer vanligvis til dette i maskinlæringsområdet som overtilpassing til dataene som ble brukt under treningen. Vanligvis vil du ikke at de eksakte ordene skal mønstres, du vil at et generalisert mønster skal dannes.

Jeg har diskutert i mine spalter bekymringen for at vi til tider kan se personverninntrengninger og avsløring av konfidensielle data i tilfeller der generativ AI gjorde en presis matching i stedet for en generalisert matching av matede data, se min dekning på lenken her.

For det andre, anta at stykket Hamlet ble ikke matet inn i den generative AI. Den neste vurderingen da ville være om noen av Shakespeares verk hadde blitt skannet under datatrening.

I så fall kan det tenkes at stykket Hamlet kan produseres basert på mønstrene knyttet til Shakespeares andre verk, spesielt hvis det er andre referanser eller omtaler av Hamlet andre steder i dataopplæringssettet. Alle disse kan potensielt brukes av mønstertilpasningen for å danne en stil Hamlet. Riktignok å kunne generere Hamlet ord-for-ord ville være en utstrakt rekkevidde, et betydelig øyeåpnende og overraskende resultat.

For det tredje, hvis generativ AI produserte hele Hamlet og hadde aldri på forhånd blitt matet med noe som helst om Shakespeare, vel, det ville være forbløffende. Det ville imidlertid ikke nødvendigvis være helt det samme som den rent tilfeldige naturen ved å hakke bort nøkler på en skrivemaskin. Vi må innse at ordene til Shakespeare er ord, og dermed er de en del av helheten av formuleringer som finnes på tvers av det store utvalget av teksthistorier og fortellinger som mates inn i den generative AI. Du forbedrer oddsen ved å starte med ords hjørnestein og assosiasjonene mellom ordene. Likevel er sjansen ganske liten for at noe slikt skal skje.

konklusjonen

Når det gjelder å produsere ord og essays, blir generativ AI gangbuster siden den er basert på menneskeskapte ord og essays (selvfølgelig må vi håndtere feilene, usannhetene og AI-hallusinasjonene). AI-en "forstår" ikke ordene som sendes ut. Det er ingen der, der.

Du trenger ikke å vente en uendelig periode for å se flytende essays og fullt lesbare resultater. De skjer daglig og ved å trykke på en knapp. De er ikke rotete, i hvert fall ikke mesteparten av tiden, på grunn av at de er mønster produsert basert på hva mennesker har skrevet. Mønstertilpasningen bør finjusteres ytterligere og til slutt god nok til å slanke mye av de rare formuleringene, se min forklaring på hvordan dette kan fungere, vist på lenken her. Denne innstillingen vil kontinuerlig bli foredlet, og vi vil alle bli stadig mer betatt av det generative AI produserer.

Ordene er ikke rent tilfeldig valgt. Ordene er ikke rent tilfeldig stavet. Det er noen sannsynlighetsaspekter som når du genererer det utsendte essayet om hvilke ord du skal velge. Men dette er fortsatt basert på menneskelige skrifter og dermed ikke antagelig rent tilfeldig. Den er basert på et tilfeldig valg blant en håndfull eller et antall ordlydsalternativer som ellers alle statistisk sett kan være mulige å være det neste valgte ordet eller settet med ord.

Hvor passer apene inn i dette?

Disse skriveapene er sikkert attraktive som grunnlag for sammenligning med generativ AI. Aper som produserer Hamlet kontra generativ AI-produksjon Hamlet. Det er en spennende konkurranse. Du kan si at det egentlig ikke er en konkurranse involvert i det hele tatt. AI-en som ble utviklet av menneskeheten og er basert på menneskehetens skrifter, har en urettferdig fordel i så måte.

Apropos skriveaper, i en episode av Simpsons, bestemmer Mr. Burns seg for å leie aper til å skrive på skrivemaskiner som en del av kontorets skrivebasseng. Han er den typen grusom sjef som med glede ville gravitere mot å bruke aper i sitt nødvendige kontorarbeid over bruken av mennesker hvis han kunne gjøre det.

Fans av showet husker kanskje hva som skjer.

Mr. Burns griper en av de maskinskrevne sidene og leser med ivrig forventning hva apen har skrevet. Han leser siden høyt og sier «Det var den beste tiden, det var den blurst of times" (dvs. det er ett ord som er rotete, "blurst" eller noe som høres slik ut). Han blir fullstendig rasende og fullstendig skuffet over de "dumme apene" over hva de kan produsere.

Vi vet at hvis en ape skrev den delen av Charles Dickens «A Tale Of Two Cities», burde vi være ekstatiske og hoppe av glede. Ikke slik for Mr. Burns.

Som en siste kommentar til denne diskusjonen burde vi kanskje påberope oss hele setningen Charles Dickens skrev: «Det var den beste av tider, det var den verste av tider, det var visdommens tidsalder, det var dårskapens tidsalder, det var troens epoke, det var vantroens epoke, det var lysets tid, det var mørketiden, det var håpets vår, det var fortvilelsens vinter.»

Vi er ikke helt sikre på hvor vi er på vei med AI. Noen sier at det kommer til å bli det beste siden oppskåret brød. Andre advarer om at AI-en vi lager kommer til å være en eksistensiell risiko for menneskehetens overlevelse. Det er faktisk enten den beste av tider eller den verste av tider.

Ikke bli overrasket over å se generativ AI som gir ut disse ordene. Bli overrasket hvis du tilfeldigvis ser aper i en dyrehage som kanskje skriver på skrivemaskiner og klarer å skrive de samme innsiktsfulle ordene.

Gi meg beskjed hvis du ser det skje.

Jeg er villig til å vente lenge på at dette skal skje, men sannsynligvis ikke uendelig.