Når han ikke jobber med å fremskynde menneskehetens hastverk mot singulariteten ved å skape en kunstig generell intelligens (AGI), spiller Ben Goertzel i et jazz-rock-band kalt Jam Galaxy med en robot som heter Desdemona.
Det er et av hans mange sideprosjekter, som naturlig nok førte til at han prøvde å vise musikkbransjen ved å nå ut til medlemmer av Pearl Jam og Heart. Goertzel jobber også med forskning på lang levetid ved å crowdsourcing av menneskelig helsedata med symbolske belønninger via en app kalt Rejuve.ai. Denne informasjonen blir deretter samlet med dyre- og insektstudiedata og analysert med en AI for å finne ut hvilke deler av genomene som kan få oss til å leve lenger og deretter stimuleres ved hjelp av genterapi. "Vi har hatt noen ganske slående funn på gjennombruddsnivå," sier han. Å, og rett før vårt timelange intervju avsluttes, nevner han tilfeldig som en side at han også lager en stabil mynt for sin desentraliserte AI-markedsplass, SingularityNET, som er knyttet til en syntetisk indeks for miljøfremgang – fordi å knytte den til amerikanske dollar ville være "halt."
«Fremgangen på miljøet er veldig stabil. Det går aldri noen vei, påpeker han.
"Og for å manipulere dette, må du faktisk løse global oppvarming."
Det er akkurat den typen politisk kommentar som møter høyteknologisk kunnskap du kan forvente fra Goertzel, som ser ut og høres ut som en hippieforsker som snublet inn i en tidsmaskin i 1971 og dukket opp fullt ut i 2023. Men ikke la deg lure av hatten med dyreprint, langt hår og Electric Kool-Aid syretripp: Han er en strålende vitenskapsmann med grep om fremtidens lysår foran de fleste, og som sliter med noen av de største konseptene menneskeheten noen gang har vurdert. Hva er bevissthet? Hvordan skaper vi kunstig liv, og hva skjer hvis det ikke liker oss, blir useriøst og skyter alle ned som i Terminator 2?
Hva er kunstig generell intelligens?
Goertzel populariserte begrepet "kunstig generell intelligens" som en måte å skille en ekte tenkemaskin som kunne lære stort sett hva som helst, til AI-er som er optimalisert for en bestemt oppgave, som Deep Blue-datamaskinen som berømt slo verdensmesteren i sjakk Garry Kasparov. Han innrømmer fritt at det er risiko ved å bygge en maskin som er i stand til å lære alt og alt, inkludert hvordan man omprogrammerer seg selv til å bli en størrelsesorden mer intelligent enn noe menneske.
"Det er en rekke risikoer og farer med AGI," sier Goertzel over mas på en indisk restaurant i et travelt kjøpesenter i Singapore. "En av dem som har fått mye oppmerksomhet i media er at AGI vil gå amok og utslette menneskeheten og ta over universet. Det er fullt mulig; du kan ikke utelukke det, sier han.
"En annen mer sannsynlig risiko er at ekle egoistiske mennesker vil bruke AI for å utøve sin egen grådighet og kontroll over andre mennesker."
Etter hans syn er det usannsynlig at regjeringer vil gjøre gjennombrudd i AGI siden de er "for konservative og dumme", selv om han bemerker at Kina deler ut AGI-arbeidet sitt til selskaper som Tencent og Baidu. Nærmere hjemmet tror han at Google og Facebooks AI-divisjoner heller ikke vil komme over linjen, ettersom de vil være for fokuserte på å få AI til å treffe visse beregninger, noe som ikke bidrar til kreativ tanke.
«Akkurat som de mest briljante menneskene ikke bare ønsker å tjene andres beregninger, tror jeg at kunstig generell intelligens ikke nødvendigvis ønsker å maksimere klikk-gjennom på noens nettside heller, ikke sant? Det må få lov til å leke kreativt.»
Singulariteten rundt 1970
Goertzel begynte på universitetet som 15-åring, ble uteksaminert som 18-åring, hadde en doktorgrad som 22-åring og en ung familie ved 23. Kanskje uvanlig i denne tiden var han ikke bare en matematikk-flink eller et teknisk geni som loddet sammen datamaskiner på 70-tallet men var like interessert i filosofi, kreativ skriving og musikk.
Han brukte mye av sin karriere på å undervise og forske på informatikk, matematikk og kognitiv vitenskap ved forskjellige universiteter rundt om i verden mens han jobbet med AI-teknologi når han kunne. En seriegründer som har en tendens til å være omtrent et tiår foran alle andre med ideene sine - som i næringslivet, er kjent som å ta feil — han har jobbet med å bruke kunstig intelligens til å forutsi finansmarkeder og lang levetid, og han har også hatt en periode som sjefforsker for Hanson Robotics, hvor han ga Sophia the Robot sin kunstige hjerne.
Goertzel har tenkt på eksponentiell teknologisk vekst siden 1970-tallet da han først leste Gerald Feinbergs Prometheus-prosjektet, som handler om "maskiner som kan tenke bedre enn mennesker ... nanoteknologimaskiner som er mikroskopisk små, og vi skal løse aldring." Dette passet godt sammen med det nye konseptet Singularity, et hypotetisk fremtidig punkt når teknologiske fremskritt blir ukontrollerbare og irreversible, noe som resulterer i massive endringer i den menneskelige sivilisasjonen.
"Så folk vil leve for alltid, da vil spørsmålet være, Hva bruker vi disse teknologiene til, rask tankeløs forbrukerisme, eller bruker vi den til å utvide bevisstheten? Og det han [Feinberg] foreslo er å legge det til en demokratisk avstemning."
År senere, da han begynte å se at AGI var innenfor vår rekkevidde, ble denne "demokratiske avstemningen" inspirasjonen til først å bruke åpen kildekode-teknologi og senere blockchain som en måte å sette et samarbeidende fellesskap på for teknologien.
"Det jeg skjønte på et visst tidspunkt er at med AI, er det ikke nok å ha koden åpen," sier han. "Du trenger virkelig å trene AI på en drittlast med data."
"Det er her blockchain kommer som en måte å gjøre behandlingen og dataene under AI desentralisert og crowdsourced i naturen og åpne i kontroll. Og det viser seg å være vanskeligere enn bare å åpne koden."
Goertzel grunnla OpenCog i 2008 for å bygge en åpen kildekode, crowd-sourced kunstig intelligens-rammeverk. Den har blitt brukt av 50 selskaper, inkludert Huawei og Cisco, og er klar for en større oppgradering snart kalt Hyperon som tar sikte på å akselerere den med 200 ganger. Alfaversjonen kommer i løpet av dette kvartalet med betaversjonen som forventes neste år.
Blockchain er grunnleggende, men kult
For Goertzel er blokkjedeteknologi litt grunnleggende. Han beskriver det som noen primitive distribuerte algoritmer lagt til kryptografi, men den "kule kombinasjonen" gjør det mulig for systemer å kjøre uten sentralisert kontroll, noe som gjør det perfekt for hans behov.
"Hvis du skal lage en tenkemaskin og du skal lage den distribuert nanoskala datastoff, ville det vært veldig fint om dette var eid av alle og ingen i stedet for kontrollert ovenfra og ned."
Blokkjeder er altfor trege til å håndtere behandlingskravene og enorme mengder data involvert, så det er noe av et kappløp for å skalere blokkjeden riktig før et banebrytende AGI utvikles. Goertzel sier at selv om skaleringsløsninger som nullkunnskapssammendrag er bedre, har de fortsatt ikke nok båndbredde på grunn av begrensningene til blokkjeden som de rapporterer transaksjoner til.
Han var med å grunnlegge SingularityNET i 2017, som både er en desentralisert markedsplass for AI-tjenester og teknologi og en blokkjedebasert koordineringsmetode for forskere – eller til og med AI-er – til å jobbe sammen.
For øyeblikket, basert på Ethereum, tror han at han har presset ting så langt de kan gå på blockchain i sin nåværende form. Så når han ikke jobber med et gjennombrudd i AGI (eller bandet, eller roboter, eller lang levetid), jobber han med å massivt skalere blokkjeden for å gi den gjennomstrømningen som kreves.
"Med mindre du radikalt kan øke skalerbarheten til blockchain, kan du ikke sette den indre funksjonen til AI på kjeden."
AI er nærmere enn du tror
2022 var noe av et gjennombruddsår for fungerende produkter basert på AI-teknologi, inkludert språkapplikasjoner (GPT-3, ChatGPT), koding (GitHub Copilot) og bildegenerering (DALL-E og Stable Diffusion). Bing planlegger til og med å ta på seg Googles søkedominans i år ved å inkorporere ChatGPT-teknologi i søkemotoren.
Goertzel tror en AGI kan være så lite som fem år unna, og merker at utviklingen på feltet ser ut til å gå i korte tre- eller fireårsutbrudd i en rekke gjennombrudd.
«Computer Vision startet i 2014, og så plutselig, bang, bang, bang, var mysteriet løst. Naturlig språkbehandling … etter at Google kom med Bert-modellen (i 2018) hadde du GPT-3. Du vil sannsynligvis se den samme fremgangen i AGI. Du vil få ett gjennombrudd, og deretter en god del fremgang i to år,” sa han.
"Forskjellen er gjennombruddsfremgangen, i så fall resulterer i en maskin som deretter kan fortsette å utvikle seg selv ved å omskrive sin egen kode."
Goertzel håper prosjektene og samarbeidene han har satt i gang kan være hvordan det oppstår.
"Hvis vi er heldige, vil vi oppnå det gjennombruddet i løpet av de neste tre til fem årene med OpenCog Hyperon som kjører på SingularityNET som kjører på Hypercycle," sier han. "Men hvis vi ikke viser seg å ha den hemmelige sausen, vil noen andre gjøre det."
Synd at Vitalik ikke var en dataforsker
Goertzels løsning for å skalere blokkjeden er ganske radikal og innebærer turbolading av en sidekjede eller lag 2 av Cardano kalt "HyperCyle."
"Det er virkelig mer enn en sidekjede. HyperCycle vil også samarbeide med Ethereum og andre blokkjeder, men vi kommer til å bruke Plutus-tolken der, men vi blir kvitt hovedboken.»
Han har beskrevet HyperCycle online som å løse "blokkjede-trilemmaet" av "desentralisering vs. sikkerhet vs. ytelse ved å kvitte seg med hovedboken og bruke mer moderne/helt desentraliserte algoer og datastrukturer, pluss litt AI og omdømmesystemer."
Hovedboken er kjernen i blockchain-teknologien, men han sier å få hver node i nettverket til å replikere hver transaksjon og behandle hver smarte kontrakt er latterlig ineffektivt.
«Rekontroboken er bare dårlig. Hvis du tenker på det, hvis du tenker på analogien til kontaktene dine i telefonboken din, mener jeg, hovedboken er som […] å holde 10,000 10,000 kopier av Gule Sider, og du oppdaterer dem hver gang noen nye kommer eller hvis noen endrer telefonnummeret deres. Det er virkelig dumt å oppdatere XNUMX XNUMX eksemplarer av Gule Sider.»
I HyperCycle-versjonen av analogien, i stedet for at alle lagrer og oppdaterer de gule sidene, lagrer personene i kontaktboken din en kopi av adresseboken din, og omvendt, kryptert med din private nøkkel.
"Vi fant ut hvordan vi kunne få blokkjede til å fungere uten en replikerende hovedbok, så å skjære helt ned. Hvert individ som er engasjert i blokkjeden beholder sin egen transaksjonshistorikk og beholder transaksjonshistorikken til vennene sine og noen av vennenes venner, sier han.
«Sharding hele veien ned, du trenger ikke en hovedbok – du trenger ikke en databasetabell. Disse tingene er altfor sentraliserte.»
Han sier at noen proof-of-concept HyperCycle-noder allerede er operative, men en fullskala lansering vil ikke skje før andre halvdel av 2024.
Vi bruker lang tid på å diskutere de ulike fordelene ved forskjellige tilnærminger til blokkjede, fra Internett-datamaskin til Elastos og Celestia, hvorav mye er over lønnsgraden min og utenfor opptaksenhetens evne til å fange nøyaktig i en bråkete restaurant.
Han avslutter med å si: "Så jeg føler at ingen av disse arkitekturene er radikale nok. De holder seg alle for nær Bitcoin.»
"Så lenge du kjører hver smart kontrakt på hver node, mener jeg, det kommer til å gå sinnsykt sakte. Nå, i HyperCycle, hvis du kjører en smart kontrakt på fem noder, er den i det minste bare fem ganger så treg som på én maskin – den er ikke 10,000 XNUMX ganger tregere.»
Hvorfor Cardano, da?
Goertzel har blitt vennlig med Cardano-grunnlegger Charles Hoskinson, med paret som er knyttet til prosjektene sine i Afrika. Han mener Hoskinson er "genuint der ute for å redde verden. Jeg mener, politisk er han mer en hardcore libertarianer enn jeg er - jeg er mer en anarko-sosialist - men han er ikke bare i det for å tjene penger eller flå andre mennesker ut av pengene sine."
Men den virkelige appellen til Cardano er at den bruker programmeringsspråket Haskell, som Goertzel har vært en fan av siden 1993. Det plager ham veldig at Ethereum-medgründer Vitalik Buterin gikk med Gavin Woods smarte kontraktsprogrammeringsspråk Solidity.
"Hvis bare Vitalik hadde visst mer datavitenskap, ville han ha fått dem til å bruke Haskell eller F Sharp eller noe, og det ville vært langt færre hacks av blokkjeden," sier han.
"Hvis du skal drive mesteparten av verdens økonomi og handle billioner av dollar på et eller annet programvaresystem, ville det være bedre å bygge det programvaresystemet på et språk som ikke er utsatt for feil og hvor algoritmene dine formelt kan være verifisert ved hjelp av en matematisk teori. Det er akkurat den rette måten å gjøre ting på.»
Stop-gap løsning
Uansett hvor fort blockchain blir, så snart AGI er en størrelsesorden smartere og dyktigere enn mennesker er, sier Goertzel at den ikke kommer til å la noen kontrollere den.
"Når en AGI er 100 ganger smartere enn mennesker, ønsker den ikke å bli kontrollert av oss, da vi ikke ville blitt kontrollert av en sjimpanse eller et esel, ikke sant?"
«Da vil jeg si at spørsmålet ikke er en av oss som kontrollerer det, spørsmålet er: Er det godt mot oss? Vil det la folk regulere sin egen virksomhet og forsyne oss med kule verktøy og nanomontører for å 3D-printe alt vi ønsker og kurere sykdommene våre?»
"Men overgangsperioden når AGI er rundt samme intelligens som folk, det er da ting er mer følsomme og mer interessante. Og spørsmålet er da: Ønsker AGI å samarbeide med mennesker? Eller er den paranoid og ønsker å kontrollere folk før de ødelegger den?»
Lær barna dine godt
Etter Goertzels mening er løsningen å lære AGI om omsorg for andre og om kreativitet og kunst. Det er her Desdemona the Robot i bandet hans, og hennes søster Grace – som er designet for å gi eldreomsorg – kommer inn.
Måten du unngår at en AGI blir til Terminators Skynet er å ikke bygge den på den måten i utgangspunktet.
"Skynet, selvfølgelig, i filmen var et datasikkerhetsnettverk som gikk amok. Den ble skapt for å forsvare seg mot mennesker, sier han.
"Men hvis du bygger den første AGI som har med eldreomsorg og kreativ kunst og utdanning å gjøre etter hvert som den blir smartere, vil den være orientert mot å hjelpe mennesker og lage kule ting. Hvis du bygger den første AGI for å drepe de slemme gutta... kanskje den vil fortsette å gjøre disse tingene."
"Så, fordelaktig eller ikke, det kommer virkelig ned på hvilke applikasjoner du har utviklet og hva du har insentivert for."
Han mener at det å sette AI-er inn i robotkropper er nyttig fordi det hjelper til med å plassere dem i den virkelige verden, snarere enn et abstrakt matematisk univers.
«AI bør lære om den menneskelige verden og den fysiske verden. Å være legemliggjort i verden er den rette måten å gjøre det på, sier han.
Men når han presenterer Sophia the Robot for et stort publikum, kan de visuelle og auditive sensorene lett være overveldende og forvirre AI i et høyt og lyst miljø. Så Sophia lanserer snart i metaversen, kalt Sophiaverse. Glem ChatGPTs kjedelige tekstbaserte svar, Sophia er nedfelt i en virtuell 3D-verden, og hun vil lære av å samhandle med folk der. Han advarer imidlertid om at hun sannsynligvis vil si noen dumme ting.
"Den har et nevralt nett som ligner på GPT-3 og så videre, som har betydelige muligheter til å svare på spørsmålene dine, men de er også ganske dumme på noen måter."
Bli medlem!
Den mest engasjerende lesingen i blockchain. Levert en gang a
uke.
Kilde: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/