Kan blockchain levere rekkverk for å holde AI på kurs?

Kunstig intelligens (AI) og blokkjede er nye digitale teknologier som har fanget publikums fantasi, men som også har skapt alvorlige bekymringer.

Så det tåler å spørre: Kan AI og blockchain integreres på en måte som gagner menneskeheten?

Det er grunner til å mene det. Så langt tilbake som i 2016 skrev Vitalik Buterin at både kryptoøkonomien og AI-sikkerhetsmiljøene "prøver å takle det som er fundamentalt det samme problemet" om hvordan man regulerer komplekse og smarte systemer med "uforutsigbare fremvoksende egenskaper."

Begge er avhengige av kontroll på i hovedsak "dumme" systemer "hvis egenskaper når de først er opprettet er lite fleksible," tross alt. Når en smart kontrakt er implementert, kan den for eksempel ikke endres. De to samfunnene "bør lytte mer til hverandre," konkluderte han.

I det siste året, med fremveksten av ChatGPT og andre generative AI-verktøy, vokser bekymringene for at AI kan snurre ut av kontroll. Mennesker kan miste kontrollen over autonome våpensystemer i ett marerittaktig scenario.

Så forestillingen om at blokkjeder og smarte kontrakter på en eller annen måte kan tjene som rekkverk for å stoppe AI-modeller fra å vike ut av kurs, har fått mer valuta.

"Alle som jobber med krypto har en veldig distinkt rolle å spille for å få AGI til å gå bra," sa Allison Duettmann, president for Foresight Institute, på den nylige SmartCon 2023-konferansen. Dette er spesielt gitt spådommer om at kunstig generell intelligens, eller AGI, hvor maskiner oppnår intelligens på menneskelig nivå, kan komme før heller enn senere.

Denne potensielle sammensmeltingen av AI og blockchain-teknologi var også i tankene til IT-beslutningstakere som deltok i en nylig utgitt undersøkelse bestilt av Casper Labs. Nesten halvparten (48%) av de 608 IT-lederne som ble spurt over hele USA, Europa og Kina var enige om at "integreringen av AI og blockchain-teknologi har potensialet til å revolusjonere industrien vår, og muliggjøre forbedret datasikkerhet, åpenhet og effektivitet."

Komplementære teknologier, økende fart

Den grunnleggende ideen er at blokkjeders uforanderlige, manipulasjonsfrie hovedbøker, sammen med smarte kontrakter, kan gi rekkverk for AI-implementeringer, og sikre ansvarlig kunstig intelligens. En blokkjede kan til og med fungere som en slags "kill-switch" for AI-modeller som ikke er kontrollert, mener noen. 

I Casper Labs-oppdragsundersøkelsen fra Zogby Analytics sa 71 % av IT-lederne at de «ser på blockchain og AI som komplementære teknologier». På spørsmål om hvordan organisasjonene deres bruker blokkjede for tiden, "var det å jobbe effektivt med AI den mest populære responsen totalt sett (51%)."

Et annet sted, 1. november, utstedte USAs president Joe Biden en executive order som etablerer nye AI-sikkerhets- og sikkerhetsstandarder. Ordren tar sikte på å beskytte publikum mot et bredt spekter av risikoer, inkludert farlig AI-konstruert biologisk materiale, AI-aktivert svindel og bedrag.

Den ordren "skapte mye momentum," sa Mrinal Manohar, administrerende direktør og medgründer av Casper Labs, som har en lag-1 blokkjede fokusert på bedrifter, til Cointelegraph i et intervju. AI-styring er i tankene til flere IT-bedrifter i disse dager.

Ser han at flere virksomheter lanserer faktiske AI/blokkjede-prosjekter? "Vi forventer at 2024 vil bli et år med store POCs [proofs-of-concept] og MVPs [minimum levedyktige produkter]. Og etter det regner jeg med at det vil være faktiske brukssaker,” sa Manohar.

Men det er sikkert hindringer her, inkludert skalering. Å validere transaksjoner raskt i desentraliserte blokkkjeder med høyt volum er fortsatt en utfordring, selv om det har vært gjort fremskritt nylig.

I en ofte sitert artikkel fra 2021 skrev Ben Garfinkel, direktør for Center for Governance of AI, at "etablerte tillatelsesløse blokkjeder, inkludert Ethereum, er for ineffektive til å kjøre noe utover ganske enkle applikasjoner." Selv en applikasjon "som sjekker hvem som har vunnet et parti sjakk, presser opp mot Ethereums nåværende begrensninger."

Magasin: Breaking into Liberland: Unngå vakter med innerrør, lokkefugler og diplomater

Likevel, hvis smarte kontrakter «noen gang blir tilstrekkelig pålitelige», tillot Garfinkel, kan de være nyttige som verifiseringsmekanismer for internasjonale avtaler rettet mot å styre AI-systemer.

Casper Labs er klart mer optimistisk. "I kappløpet om å løse AIs 'black box'-utfordring, dukker blockchain opp som alt-i-ett-løsningen vi har ventet på for å inkludere sårt tiltrengt åpenhet," skrev Manohar i rapporten. AI-systemers interne funksjoner er i utgangspunktet usynlige for brukere, derav "black box"-analogien.

Den hybride blokkjedeløsningen

Likevel, hvordan kan blokkjedeteknologi muligens sees på som en løsning på AIs "black box"-problem hvis den ikke engang kan skaleres?

"Måten du adresserer skaleringsproblemet på er gjennom hybride blokkjeder," sa Manohar til Cointelegraph. Ingen i dag snakker om å legge enorme datasett på Ethereum eller på Casper Labs egen lag-1 blokkjede. Casper Labs sin løsning innebærer bruk av både tillatede (private) blokkjeder og offentlige (ikke-tillatelser).

"Folk har tvunget seg selv til denne typen tenkning hvor du må ha fullstendig tillatelse, eller du må være helt åpen," sa Manohar, og forklarte videre:

"I en hybrid blokkjede har du din egen private blokkjede som er din. Du kontrollerer det, du konfigurerer det, og du kan få det til å løpe så fort du vil fordi du har et begrenset validatorsett."

Og den offentlige kjeden? Det er mer for versjonskontroll og journalføring. Du vil kanskje registrere en ny versjon av AI på den offentlige kjeden, for eksempel. "Det fine med denne hybridmodellen er at du velger når du trenger uforanderlighet fra den offentlige kjeden og hvor du bare administrerer infrastrukturen din på egenhånd," sa Manohar.

Så lenge du lagrer referansen på den offentlige blokkjeden tilstrekkelig, "kan du alltid sikre at dataene ikke ble tuklet med, fordi hvis de ble tuklet med, ville ikke hashen samsvare."

Dessuten, alt du vil skal være reviderbart, kan du sette på den offentlige blokkjeden fordi den er tuklesikker. Så "hver gang jeg endrer AI eller hver gang jeg bruker et nytt datasett, vil jeg sende et ping til den offentlige blokkjeden," sa Manohar.

Et stort problem med AI i dag er at man ikke vet når noe går galt. Men blokkjeder gir en måte å rulle tilbake båndet på, så å si, fordi de er svært serialiserte og tidsstemplede.

Derfor, hvis en AI-modell "begynner å vise tegn på hallusinasjoner eller iboende skjevheter, kan du ganske enkelt rulle AI-systemet tilbake til en nylig iterasjon som manglet disse problemene, og deretter diagnostisere hvor problemdataene kom fra," bemerker Casper Labs på sin nettsted.

Men andre er ikke overbevist om at en blokkjede kan løse AIs "black box"-problem.

"Det er misvisende å beskrive blockchains 'gjennomsiktighet' som en motgift mot AIs 'black box'-problem," sa Samir Rawashdeh, førsteamanuensis og direktør for Dearborn Artificial Intelligence Research Center ved University of Michigan, Dearborn, til Cointelegraph.

Det gjør ikke den iboende indre funksjonen til en maskinlæringsmodell mer forståelig eller gjør det klart "på hvilken måte en bestemt utgang spores tilbake til de opprinnelige treningsdataene."

Det Casper Labs virkelig foreslår, foreslo Rawashdeh, er et "versjonskontrollsystem" - om enn med noen fine funksjoner - som kan brukes "for å holde styr på AI-modellens utvikling og distribusjon."

Når det er sagt, kan en blokkjede indirekte adressere «black box»-utfordringen, la Rawashdeh til, ved å tilby et revisjonsspor som bidrar til å sikre dataintegritet, opprinnelse og åpenhet i datasettene som brukes til å trene AI-modeller. Men det gjør ikke selve beslutningsprosessen mer tolkbar.

Når maskiner samarbeider mot mennesker

Når vi ser fremover, oppstår det bekymringer rundt kunstig generell intelligens: Kan blockchain bidra til å unngå de dårlige drømmescenarioene der AGI-modeller velter valg eller til og med straffeforfølge kriger? 

"Det kan faktisk hjelpe enormt," svarte Manohar. Blockchain "ville være den beste kill-bryteren" for en AI-modell forutsatt at dens elektriske kraft "går gjennom en fullstendig desentralisert blokkjede."

Det vil si at blokkjeden og dens menneskelige validatorer bestemmer om AI-modellen får strøm eller ikke. "Det er alltid et kill switch-signal, der hvis alle validatorene er enige, kan de bare slå av nettverket, slå av AIs tilgang til strøm," sa Manohar og la til:

"Det kan faktisk fungere som en utrolig potent drepebryter for disse marerittscenariene."

Mistanker gjenstår

Det er andre potensielle hindringer for denne integrasjonen av blockchain og AI. For det første, "det er bare mye mistanke i AI-samfunnet rundt krypto," sa Duettmann. Krypto og blokkjede bringer fortsatt tankene til ikke-fungible token-svindel og annen ubehagelig oppførsel for mange.

Når det er sagt, på spørsmål om Foresight så flere finansieringsforslag for AI/Blockchain-prosjekter, svarte Duettmann: "Det er mye akkurat som bevegelse i rommet nå." Hun ser i gjennomsnitt omtrent fem finansieringsforslag i uken som kombinerer blockchain og AI-teknologi. Selvfølgelig kan instituttet bare finansiere en brøkdel av disse, men "det har definitivt plukket opp mye."

Når det gjelder de to samfunnene, "til syvende og sist har de mye å lære av hverandre," sa hun. I sin SmartCon 2023-tale bemerket hun at kryptoindustrien er veldig god på nettverkssikkerhet, og bruker ofte "red teaming", der team søker etter input som forårsaker katastrofal oppførsel. "La oss utvide 'red teaming' til maskinlæringsmodeller," foreslo hun.

Mer aksept i Kina

Integrering av AI og blockchain-teknologi ser ut til å bli sett spesielt positivt på i Kina. I Casper Labs undersøkelse var 68 % av Kinas IT-respondenter enige om at "integreringen av AI og blockchain-teknologi har potensialet til å revolusjonere industrien vår, og muliggjøre forbedret datasikkerhet, åpenhet og effektivitet." Til sammenligning var andelen 48 % i USA og bare 34 % i Europa.

Nylig: Øker blockchain-adopsjon ved å holde teknologien på baksiden

Hvorfor så høyt i Kina? Kina har vært fiendtlig mot kryptovalutaer de siste årene, men er fortsatt positiv til blokkjedeteknologi, observerte Manohar. Noen kommuner har lagt jordebrev på en blokkjede. Kina ser på blockchain-teknologi som en effektiv sertifiserings- og sporingsmekanisme.

I Vesten, til sammenligning, "tror alle blokkjede bare er kryptovaluta," hevdet Manohar. Men dette utdanningsgapet vil trolig bli mindre. På lang sikt går "alt tilbake til det gjennomsnittlige."

Er dette blockchains killer-app?

Manohar ble spurt om fusjonen av AI og blockchain til slutt kunne utgjøre blockchains lenge ettersøkte "killer app."

"Det kan være en av dem," svarte han. Blockchains spor-og-spor-styringsprotokoller for forsyningskjeden og finansteknologisektorene er også kandidater, men disse to områdene hadde akseptabel styring før blokkjeder og smarte kontrakter noen gang dukket opp.

Til sammenligning, "det er ikke noe sittende styringssystem i AI. Derfor er det mye mer plass for innovasjon. Så jeg tror virkelig at dette kan være blockchains killer-app," sa han til Cointelegraph.