AI-etikk og den geopolitiske brytekampen om hvem som vinner kappløpet for å oppnå ekte AI

Verden er i et hektisk kappløp.

Geopolitiske makter hevder at vinneren vil ta med seg alt baconet, som det var.

Hvilket løp føres og forfølges iherdig?

Det er AI-løpet.

Du kan kanskje mer treffende referere til dette som løpet for å oppnå sant Artificial Intelligence (AI), for tiden referert til mer fullstendig som Artificial General Intelligence (AGI). Vi ønsker på en eller annen måte å komme frem til tilsynelatende ytterste AI eller kjent som AGI som kan sammenlignes med menneskelig intelligens. Vi er ikke der ennå. Faktisk, til tross for alle slags ville og frekk forkynnende overskrifter, vet vi ikke når eller om vi vil oppnå det høye nivået. Dagens AI har langt mindre evner enn overordnet menneskelig intelligens, selv om det absolutt er mange smalere måter AI har gjort imponerende forsøk, for eksempel å kunne spille førsteklasses sjakk i verdensklasse eller gjøre andre relativt begrensede oppgaver.

Den gyldne ringen er imidlertid fremkomsten av AI som viser menneskelig intelligens av en hengiven natur og dybde som ligner menneskehetens. Dette er den hellige gral til AI-forskere og -utøvere. Fra tid til annen har det vært bemerkelsesverdige påstander om allerede å ha krysset AI-løpets målstrek, som jeg har avkreftet i spalten min kl. lenken her. De som prøver å komme med stridigheter om målstreken, forvirrer allmennheten og gjør det til tider av nidkjær uskyld, mens de andre ganger har alvorlige tvilsomme motiver i hånden. Alt i alt reiser dette ganske betydelige og viktige AI-etiske hensyn. For min pågående og omfattende dekning av AI-etikk og etisk AI, se lenken her og lenken her, bare for å nevne noen få.

Uansett, det er ingen tvil om at et globalt sprint AI-løp er i full gang. Du ville bli hardt presset til å påstå noe annet.

Tenk på det på denne måten. Hvis vi allerede hadde klart å oppnå ekte AI eller AGI, er oddsen at AI-fotløpet formelt og globalt ville blitt erklært som vellykket avsluttet. Jeg forsikrer deg om at verdensomspennende oppmerksomhet ville bli fanget på et slikt rungende og verdensomspennende gjennombrudd. Du ville vite om det. Det ville vi alle. AI-galskapsstreken ville i realiteten ikke lenger eksistere, men kanskje en sekundærversjon kan oppstå som involverer de som ikke hadde oppnådd ekte AI som jobber febrilsk for å ta igjen. Det er også den foruroligende saken om hvordan vi vil ende opp med å kontrollere eller administrere AGI hvis eller når vi kommer dit.

Ingen person eller enhet eller nasjon kan ennå med rette kreve kronen av å produsere ekte AI eller AGI.

I mellomtiden foregår det en enorm og uavbrutt mengde håndvringer om hvilken nasjon (eller nasjoner) som er i spissen for flokken og hvem som henger lenger bak. Antakelsen er at hvis du ikke er først, vil du bli liggende i skitten. Du kommer til å spise restene fra AI-vinnerne. Du vil potensielt for alltid være underlagt nasjonen eller nasjonene som gjør det varslede spranget til ekte AI eller AGI.

Som en rask side og for å lette ordlyden av denne diskusjonen, skal jeg heretter bruke "AGI" når jeg ønsker å påkalle auraen til ekte AI. Bruken av den noe nyere frasen "AGI" er noen ganger skurrende for de som ikke er vant til å se den brukt. Vi er alle kjent med "AI", og du kan bli forstyrret av å se akronymet "AGI" brukes i stedet. Tillat meg å forklare hvorfor dette gradvis dukker opp som en verbal trend.

Noe av grunnen til at AGI har tatt seg opp på arenaen for AI-språklig er at bare det å si "AI" nå har blitt en beklagelig utvannet frasering. Ingen vet om AI-en du nevner er den knapt-AI-varianten eller en kvasi-bedre AI-infusjon som gjør fremskritt, eller om den kan hentyde til den futuristiske fullstendig menneskelignende AI en gang. For å håndtere overbelastningen av "AI" som et slagord, har AGI-monikeren blitt foretrukket av de innsidere innen AI-feltet som ønsker å spesifikt og spesielt hentyde til ekte AI.

Så, kort fortalt, betrakt min omtale av AGI for å være det samme som å si "ekte AI" av robust kaliber i likhet med menneskelig intelligens, takk.

La oss trekke pusten dypt og nøye undersøke noen fasetter av løpet for å oppnå AGI. Det er til og med et meta-aspekt som må angis først. Vær oppmerksom på at det er litt sur halsbrann ved å bruke allegorien om et antatt fotløp eller en annen form for racingaktivitet som en metafor for AGI-løpet. Hvorfor det? Jeg vil fortelle deg et øyeblikk om komplikasjonene og kompleksiteten ved hvorfor (noen sier) et fotløp eller tilsvarende er fullstendig misvisende og et lumsk enkeltsynspunkt.

Her er de viktigste punktene som jeg skal gå over med deg i denne diskursen:

• Hvis dette er et løp, virker AGI-målstreken ganske dårlig definert
• AGI-løpet kan gå til en person, en enhet eller en nasjon
• Beregninger og hvordan nasjoner sammenlignes i AGI-løpet
• Geopolitisk manøvrering og justering for AGI-løpet
• Internasjonale AI-lover og AI-etikk som dommere i AGI-løpet

Det kan være lurt å feste sikkerhetsbeltet mens jeg undersøker det hasteløpende AGI-løpet (ja, jeg tør å kalle det et fotløp) som får nesten alle til å bevege seg i en rasende fart og tilsynelatende skyte i været i denne brennende oppdraget. Noen vil kanskje si at dette er et løp for menneskehetens forbedring, mens andre advarer om at rasen kan bety fullstendig undergang for oss alle.

Tiden vil vise.

Hvis dette er et løp, virker AGI-målstreken ganske dårlig definert

En målstrek er vanligvis en ganske definitiv avgrensning. Enten har du kommet i mål eller ikke. Å komme til kort ser ikke ut til å gjøre deg mye godt. Se for deg en OL 400-meter og om du vil huske spesielt eller vil hauge ut anerkjennelser til løperne som ikke fullførte løpet i det hele tatt (aldri har krysset målstreken). Usannsynlig.

Vil vi vite når vi har nådd AGI slik at alle er rimelig enige om at målstreken er nådd?

Det er heftige uenigheter om avgrensningen av AGI.

Anta for eksempel at vi lager kunstig intelligens som ser ut til å være helt i stand til å vise menneskelig intelligens, men det er ikke et skinn av sans i seg selv (se min dekning om argumentene om AI-sans på lenken her). AI er beregningsmessig i stand til å etterligne eller på annen måte utføre slik menneskelig intelligens gjør. Det er imidlertid ikke en gnist av liv eller følelse som vi forbinder med mennesker og andre levende skapninger. Teller denne AGI-en som å nå målet vi trodde vi hadde?

Noen vil motargumentere at det ikke ville ha noe å si om følelsen i seg selv så ut til å være pakket inn i denne AGI. Så lenge det kan vise menneskelig intelligens, er inkorporering av sansning noe av en annen variasjon som vi kanskje eller kanskje ikke ønsker å se oppstå. Sentience i den forstand er et tillegg.

Andre argumenterer heftig for at den eneste måten å oppnå menneskelig intelligens i AGI vil være å integrert legemliggjøre følelse. AGI og sentience betraktes enten som det samme, eller de er en blanding av en irreduserbar uatskillelig dobbel utførelse. For å få AGI må du ha sansen, vil de hevde.

Sett til side den vinklingen av debatten, er et annet perspektiv at vi kan bruke den berømte Turing-testen for å vurdere om AGI er oppnådd. Jeg har dekket i dybden Turing-testen på lenken her. I korte trekk består ideen av å la et menneske stille spørsmål til AGI, og hvis mennesket ikke kan skille de AGI-genererte svarene fra svarene fra menneskeheten, vil vi erklære AGI som å kunne vise menneskelig intelligens.

Det er mange problemer eller mangler ofte forbundet med Turing-testen.

Anta at mennesket som gjør henvendelsene gjør en elendig jobb og unnlater å stille undersøkende spørsmål. En bekymring er at mange av dagens tilsynelatende kraftige store språkmodeller (LLMs) kan papegøye tilbake til et menneske innholdet som LLM ble trent på (dvs. tekst og digitale medier ofte hentet via storskala skraping av Internett). Som sådan kan et spesielt utvalgt menneske som stiller spørsmål av en vanlig type som allerede er besvart og eksisterer på nettet, potensielt enkelt "besvares" av LLM, men dette skyldes uten tvil ikke noen form for menneskelig intelligens av et AGI-kaliber.

Mange andre betenkeligheter dukker opp. Anta at mennesket ikke er i stand til å forstå svarene. Eller anta at mennesket narrer seg selv til å tro at svarene alle viser menneskelig intelligens. Jeg har til og med dekket den trådte ideen av noen om at alt vi trenger å gjøre er å spørre AI om den er AGI eller er sansende, noe jeg gjør det klart ikke er en veldig overbevisende form for AGI-bevis, se lenken her.

Til slutt, som en tilføyd trodde, trenger vi å nå målstreken helt for å vurdere at AGI er nådd?

Jeg nevnte tidligere at vi vanligvis glemmer de som ikke kommer i mål. Dette er kanskje ikke fornuftig analogt med AGI-løpet. Jeg tror det kan fremsettes en overbevisende sak om at hvis vi er i stand til å oppnå en betydelig vei mot AGI, kommer vi allerede til å finne oss selv i en tilstand av forundring og enten stor fordel eller store problemer. Du skjønner, mange viktige og svært nyttige utfall kan oppstå ved en nesten-der AGI. Å komme til kort vil ikke være så problematisk som å ikke fullføre et 400 meter fotløp, spesielt siden det kan være et viktig grunnlag for å komme oss til den fyldigere versjonen av AGI (muligens være et maraton i sammenligning).

Metaforen om at AGI-oppnåelse er en type fotløp eller tilsvarende er til tider utilfredsstillende og utilstrekkelig.

AGI-løpet kan gå til en person, en enhet eller en nasjon

Noen har den drømmende forestillingen om at AGI kommer til å bli oppnådd av en eller annen tinker som jobber i garasjen mens de er i pysjamasen, og er et utbrudd av vanvittig oppfinnsomme databehandlingseksperimenter som de har slitt med i år etter år. Det er den klassiske høyteknologiske tropen til den ensomme ulven.

Beklager å rapportere at dette er et forslag med ekstremt lave odds.

Jo større sjanser vil være at en enhet som en bedrift eller et forskningsteam vil være AGI-go-getters. En sterk og rådende tro er at det vil kreve en landsby for å komme frem til AGI. Den ensomme ulven vil ikke ha ressursene eller innsikten alene for å nå AGI. De kan bidra til oppdraget. De kan gi nødvendige brikker til puslespillet. De vil ikke være i stand til å samle inn hele settet og caboodle.

Når vi snakker om landsbyer, er et annet sterkt holdt synspunkt at det vil være nasjoner som bare er i stand til å oppnå AGI. Via en kombinasjon av mennesker, virksomheter, akademikere og alle andre former for enheter i en nasjonalstat, vil AGI ankomme som et resultat av det samlede arbeidet til den nasjonale helheten. Enhetsnivået for oppmerksomhet for vinneren i dette løpet er på nasjonalstatsbasis, snarere enn på noe mer spredt, friform eller individualistisk.

Kort sagt, hvis det tar en landsby, vil landsbyen være av nasjonal skala, og dermed vil nasjonalstaten være den utpekte løperen som krysser målstreken i AGI-løpet.

Beregninger og hvordan nasjoner blir sammenlignet i AGI-løpet

Ta som en gitt at AGI-prestasjonen kommer til å være basert på nasjonalstatsnivå.

For å gjenta, vi vet det ikke sikkert, men det virker som en begrunnet antagelse.

Vurder konsekvensene av nasjonalstatsgrunnlaget. Anta at en ensom ulv klarer å komme seg til AGI først og tror at arbeidet deres er utenfor nasjonalstaten de er medlem av. Denne personen erklærer at de ikke tilhører noen nasjonalstat når det gjelder den utformede AGI. Ville vi fortsatt gi æren til den nasjonalstaten og ville AGI være innenfor den nasjonens kontroll og ansvarsområde?

Se for deg et annet alternativ at et stort multinasjonalt konglomerat ankommer AGI først. Hvilken nasjon kan si at AGI er deres "ting" å bruke og distribuere (vil den bli tolket som eiendom eller samle i stedet en variant av juridisk person)? Kanskje alle nasjonene som selskapet eksisterer innenfor skal få lik kreditt. Eller kanskje bare der det formelle hovedkvarteret er geografisk plassert. Det kan være en kompleks oppdeling av en veritabel pott med gull.

I alle fall er den generelle populære oppfatningen at en nasjonalstat kommer til å være den avgjørende avgjørelsen for å oppnå AGI. En nasjon som oppmuntrer til forskning og utvikling av kunstig intelligens innenfor sin nasjonale innsats, vil antagelig komme til AGI raskere enn andre nasjoner som ikke gjør det samme.

Det er en dominerende oppfatning at AI-løpet er et nasjonalt.

Et hodeskrapende spørsmål er hvordan vi skal finne ut om en nasjon er foran eller bak en annen nasjon i AGI-løpet.

I et konvensjonelt fotløp kunne vi enkelt identifisere beregninger som kan brukes til å bestemme hvilke løpere som gjør det bra og hvilke som ikke gjør det. Hastigheten til løperen kan lett beregnes. Dette garanterer ikke at de kommer først, men det viser i det minste lovende. Den fysiske avstanden mellom løperne og avstanden som gjenstår til målstreken er åpenbart viktige kriterier som vi enkelt kan måle.

AGI-løpet har ikke den slags sikre former for beregninger eller målinger.

Vi bruker alle slags surrogattiltak siden det ikke er noen definitiv måte å beregne hvor endelinjen er og heller ikke hvor langt vi er fra den.

La oss ta en titt på hvilke typer beregninger som konvensjonelt vurderes. En spesielt nyttig kilde til AI-relaterte globale målinger samles inn og publiseres årlig av Stanford Institute for Human-Centered AI (HAI) ved Stanford University. Rapporten er tilgjengelig på nettet gratis og den siste utgivelsen har tittelen AI Index 2022 årsrapport (basert på data samlet inn for 2020-2021). Jeg vil om et øyeblikk dele noen av høydepunktene fra de nasjonale sammenligningene som er nevnt i deres siste samling.

Målinger som brukes til å måle nasjonal og internasjonal fremgang på AI har en tendens til å inkludere litt av hvert, til tider på grensen til inkluderingen av den veritable kjøkkenvasken.

Typen tiltak som vanligvis undersøkes inkluderer:

• Antall AI-forskningsartikler tilskrevet en bestemt nasjon
• Antall siterte referanser til AI-artikler fra en bestemt nasjon
• Antall AI-tidsskrifter basert innenfor en bestemt nasjon
• Antall AI-konferanser som finner sted i en bestemt nasjon
• Antall AI-konferanser sponset av en bestemt nasjon
• Antall AI-relaterte patenter gitt i en bestemt nasjon
• Antall AI-bedriftsoppstarter innen en bestemt nasjon
• Antall AI-jobber i en bestemt nasjon
• Antall nye AI-jobber eller ansettelser i en bestemt nasjon
• Antall AI-lover eller lovforslag introdusert i en bestemt nasjon
• Antall AI-lover vedtatt eller vedtatt i en bestemt nasjon
• Annen

Tenk på disse moderne indikasjonene fra HAI AI Index 2022:

• AI-publikasjonssiteringer: "Når det gjelder siteringer av AI-depotpublikasjoner, topper USA listen med 38.6 % av de totale siteringene i 2021, og etablerer en dominerende ledelse over EU pluss Storbritannia (20.1 %) og Kina (16.4 %).
• AI-tidsskrifter/konferanser: "I 2021 fortsatte Kina å lede verden i antall AI-tidsskrift-, konferanse- og arkivpublikasjoner – 63.2 % høyere enn USA med alle tre publikasjonstypene til sammen. I mellomtiden hadde USA en dominerende ledelse blant store AI-makter når det gjelder antall konferanser og arkivsiteringer.»
• AI-patenter: "Kina innleverer nå over halvparten av verdens AI-patenter og får omtrent 6%, omtrent det samme som EU pluss Storbritannia. USA, som innleverer nesten alle patentene i Nord-Amerika, gjør det til en tredjedel av Kinas. Sammenlignet med det økende antallet AI-patenter som søkes og innvilges, har Kina langt større antall patentsøknader (87,343 2021 i 1,407) enn de som ble innvilget (2021 XNUMX i XNUMX)."
• Nyfinansierte AI-selskaper: "Investeringsdata etter antall nylig finansierte AI-selskaper i hver region. For 2021 ledet USA med 299 selskaper, etterfulgt av Kina med 119, Storbritannia med 49, og Israel med 28. Avstandene mellom hvert er betydelige."
• AI ansettelsestempo: "New Zealand, Hong Kong, Irland, Luxembourg og Sverige er landene eller regionene med høyest vekst i AI-ansettelser fra 2016 til 2021.»
• AI stillingsannonser: "I 2021 var California, Texas, New York og Virginia stater med det høyeste antallet AI-jobbannonser i USA, med California som hadde over 2.35 ganger antall stillinger som Texas, den nest største. Washington, DC, hadde den største frekvensen av AI-jobbannonser sammenlignet med det totale antallet stillingsannonser
• AI lovgivende handling: «En AI-indeksanalyse av lovregistreringer om AI i 25 land viser at antallet regninger som inneholder «kunstig intelligens» som ble vedtatt i lov, vokste fra bare 1 i 2016 til 18 i 2021. Spania, Storbritannia og USA vedtok det høyeste antallet AI-relaterte lovforslag i 2021, og hver vedtok tre.»

Vi kan rikelig beundre og sette pris på det harde arbeidet som er involvert i å kompilere den nasjonale løperstatistikken for AGI-løpet.

Skeptikere kibler ganske mye om å bruke alle typer beregninger i AGI-løpet.

Det vanskelige spørsmålet er om du kan trekke noen form for rett linje fra antall AI-artikler eller AI-konferanser i en bestemt nasjon til den endelige oppnåelsen av AGI. Det samme er sagt for antall AI-jobber, antall AI-selskaper og mengden av andre beregninger. Det kan være at disse tellingene har lite å gjøre med å oppnå AGI. Argumentet går at disse tiltakene er mer varme enn lys.

Motargumentet er at vi må prøve å måle hvor vi er og hvor vi skal. Å stikke hodet i sanden virker ikke som en god måte å vurdere om vi er på vei mot AGI eller kanskje lenger unna AGI. Det er håp og generelt antatt at jo mer energi og oppmerksomhet til å gjøre fremskritt innen AI, desto nærmere vil vi komme AGI. Disse beregningene er det beste vi kan gjøre for å finne ut hvor mye energi og oppmerksomhet som tildeles og forbrukes i AGI-løpet.

Rundt og rundt som går.

Hver av metrikkene kan også slås rundt hodet alene.

Vurder for eksempel antall lover eller lovforslag om AI.

Du kan hevde at hvis lovgivere fokuserer på AI-relaterte lover, er dette et godt tegn på at nasjonen tar ganske nøkternt viktigheten av AI og de samfunnsmessige konsekvensene av hvor AI er på vei. Det kan hevdes at dette viser at det oppstår mye AI-fremmende innsats i den aktuelle nasjonen. Hvorfor ville du gjøre bryet med å vedta AI-lover med mindre AI var spesielt voksende og sprudlende som et demonstrativt element i nasjonen din?

På den måten blir de nasjonene som lanserer nye AI-lover tolket som et avslørende tegn eller signal om at AGI-fremgangen er godt i gang i den nasjonen.

Noen kritikere hevder at foreslåtte nye lover om AI kommer til å kvele AI-innsatsen i hver enkelt nasjon. Lovgiverne og politiske ledere kommer til å skyte sine egne føtter. Lover vil for tidlig sette en dyster skygge over AI-innsatsen som pågår i den spesifikke nasjonen. AI-fremskrittskranen kommer til å sette seg fast med lovlig hårtilstopping, og tempoet i AGI-fremgangen vil senke seg til et lite drypp i den AI-lovproklamerende nasjonen. I mellomtiden vil andre nasjoner som ikke vedtar den slags AI-lover fortsette med uforminsket styrke. Det er som om du bestemte deg for å legge blyvekter på en løper som allerede er på 400-metersbanen. Hvis du hadde som mål å hjelpe dem og øke hastigheten på dem, har du gjort akkurat det motsatte.

Oi, lyder replikken, vedtakelsen av AI-lover er mer beslektet med å sørge for at det ikke er noen unødvendige veisperringer foran løperen. Lovene gir veiledning på samme måte at linjene på racerbanen er der for å holde løperen jevnt i riktig retning. Uten de malte linjene kan løperne gå amok. Nye AI-lover vil få dem til å gå unisont mot et ønskelig resultat. Land som ikke gjør det samme når det gjelder nye AI-lover, vil finne at løperne deres går i alle ville retninger, inkludert muligens å løpe helt utenfor banen og skade de som er uskyldige utover selve AGI-løpet.

Det er også "skjulte" AI-relaterte lover som noen teller, og i mellomtiden teller andre ikke som en del av disse beregningene (som gir en miskmask når man prøver å sammenligne tellinger).

For eksempel, hvis en nasjon vedtar en lov om autonome kjøretøy som selvkjørende biler, regner du dette som en AI-lov? For å avklare at et autonomt kjøretøy som en helt autonom selvkjørende bil kommer til å ha et AI-kjøresystem som er kjernen i førerløse evner (se min dekning på lenken her). På grunn av AI-en som er involvert, kan alle lover om autonome kjøretøy på en fornuftig måte argumenteres som i hovedsak AI-lover. På den annen side kan du overbevisende hevde at loven handler om det autonome kjøretøyet og ikke i seg selv om AI, derfor teller dette ikke i de AI-spesifikke lovene som teller.

Det er rotete.

All denne bestyrtelsen om beregninger kan få deg til å senke skuldrene blant de motsatte synene på disse tungtveiende hensynene. Som det kan være åpenbart, er beregningene nesten alltid gjenstand for ulike tolkninger om hva de betyr og hvordan statusen til en nasjon angående AGI blir riktig analysert.

Geopolitisk manøvrering og justering for AGI-løpet

Hvilke nasjoner ligger foran i AGI-løpet?

Hvilke nasjoner henger etter?

De nevnte beregningene forsøker å vise hvor hver av løperne befinner seg. En grunnleggende antakelse er at hvis beregningene viser en passende indikasjon på AGI som søker posisjonering, kan disse ulike polposisjonene forbli de samme over tid. Realiteten er selvfølgelig at nasjonal interesse og oppmerksomhet kan øke eller avta under den humpete veien mot AGI. Du kan være klokest av å forvente endringer i posisjonering.

En viktig faktor er at nasjoner egentlig ikke er i dette løpet på egenhånd.

Nasjoner vil sannsynligvis gi stafettpinnen frem og tilbake mellom hverandre. AGI-løpet har til tider en eller flere nasjoner som gjerne jobber hånd i hånd. Noen ganger gjøres dette forsiktig i stedet for med vennlig glede. I andre tilfeller kan nasjoner holde tilbake fra hverandre. På ethvert tidspunkt kan løpsholdningen være ganske annerledes enn den var noen få skritt tilbake, pluss kan være ganske annerledes noen skritt inn i fremtiden.

Tenk på dette poenget fra HAI AI Index 2022-rapporten om samarbeid på tvers av land: "Til tross for økende geopolitiske spenninger, hadde USA og Kina det største antallet langrennssamarbeid i AI-publikasjoner fra 2010 til 2021, og har økt fem ganger siden 2010 Samarbeidet mellom de to landene ga 2.7 ganger flere publikasjoner enn mellom Storbritannia og Kina – den nest høyeste på listen.»

Kynikere vil si at kanskje bruken av krysssamarbeid av og til gjøres som en list. En nasjon kan åpenlyst hevde at de samarbeider på tvers, og synes overflatemessig å gjøre det, i mellomtiden holder de sin beste AGI-fremgang en skjult nasjonal hemmelighet. Kanskje er dette gjort for å stumpe fremgangen til tverrsamarbeidsnasjonen. Kanskje gjøres dette for å sikre at den hemmelige sausen ikke utilsiktet deles ut. Alle slags årsaker er mulige.

I dagens moderne digitale Internett-verden på Internett kan det være vanskelig å prøve å holde AGI-innsikten tett skjult. Det intense ønsket om å avdekke eller finne opp AGI er en overbevisende lokke som kan anspore individuelle AGI-utviklere og -forskere til åpent å dele sitt siste arbeid. Nasjoner kan finne ut at å prøve å sette et tak på slik deling er mye vanskeligere enn det kan virke, og sannsynligvis mye vanskeligere enn den gang da alt var papirbasert og krevde fysisk flytting av dokumenter rundt om i verden.

Bevegelsen mot åpen kildekode har absolutt vært en samtidig vektlegging for mye av den nyeste AI- og AGI-forskningen, som nevnt i HAI AI Index 2022-rapporten: "Hvert år blir tusener og tusenvis av AI-publikasjoner utgitt i åpen kildekode, enten kl. konferanser eller på fildelingsnettsteder. Forskere vil åpent dele sine funn på konferanser; offentlige etater vil finansiere AI-forskning som ender opp i åpen kildekode; og utviklere bruker åpne programvarebiblioteker, fritt tilgjengelig for publikum, for å produsere toppmoderne AI-applikasjoner. Denne åpenheten bidrar også til den globalt gjensidig avhengige og sammenkoblede naturen til moderne AI FoU."

Alt i alt deler nasjoner generelt, men viser kanskje bare en del av hånden. Andre nasjoner deler kanskje ikke eller gir bare påskudd om å gjøre det. Noen nasjoner sliter kraftig med å prøve å måle hva de i nasjonen deres gir bort kontra å henge seg på. Og så videre.

Jeg har karakterisert naturen til disse nasjonale grepene på disse måtene:

• AI Go-it-alone nasjon (prøver å gå videre på egenhånd)
• AI Enveis-nasjon (tar inn, vil ikke gi seg)
• AI Leftover Nation (får det den kan fra andre)
• AI Open-sharing Nation (ser stolt over å dele)
• AI Hollow-delingsnasjon (falskhet ved deling)
• AI Alliances Nation (prøver å inngå så mange allianser som mulig)
• AI Ikke-i-spillet Nation (å søke AGI er ikke en nasjonal prioritet)
• AI Cheating Nation (omvendt konstruksjon eller snikende stjele fra andre nasjoner)
• Annen

En nasjon kan være i mer enn én av disse bøttene om gangen.

En nasjon kan være i en av disse bøttene en stund, flytte ut av bøtta, og muligens senere gå inn igjen.

Nasjonalstatens ønsker og oppmerksomhet knyttet til å søke AGI er en dynamisk flo og fjære som garantert vil fortsette og være et bevegelig mål for hvilken nasjon som er hvor i løpet, og et konstant øye vil være nødvendig for å finne ut hvor alle spillerne er plassert på et gitt tidspunkt.

Internasjonale AI-lover og AI-etikk som dommere i AGI-løpet

I tidligere spalter har jeg dekket de ulike nasjonale og internasjonale innsatsene for å lage og vedta lover som regulerer AI, se lenken her og lenken her, for eksempel. Jeg har også dekket de ulike AI-etikkprinsippene og -retningslinjene som ulike nasjoner har identifisert og vedtatt, inkludert for eksempel FNs innsats som UNESCO-settet med AI-etikk som nesten 200 land vedtok, se lenken her.

Her er en nyttig nøkkelsteinsliste over etiske AI-kriterier eller egenskaper angående AI-systemer som jeg tidligere har utforsket nøye:

• Åpenhet
• Rettferdighet og rettferdighet
• Ikke-ondsinnethet
• Ansvar
• Privatliv
• godgjør
• Frihet og autonomi
• Stol
• Bærekraft
• Verdighet
• Solidaritet

Disse AI-etikk-prinsippene er oppriktig ment å bli brukt av AI-utviklere, sammen med de som styrer AI-utviklingsinnsatsen, og til og med de som til slutt jobber med og utfører vedlikehold på AI-systemer.

Alle interessenter gjennom hele livssyklusen for utvikling og bruk av kunstig intelligens anses innenfor rammen av å overholde de etablerte normene for etisk kunstig intelligens. Dette er et viktig høydepunkt siden den vanlige antagelsen er at "bare kodere" eller de som programmerer AI-en er underlagt AI-etikkens forestillinger. Som tidligere understreket her, krever det en landsby for å utvikle og sette i gang AI, og som hele landsbyen må være kjent med og overholde AI-etiske forskrifter.

La oss vurdere virkningen og den vitale naturen til internasjonale AI-lover og internasjonale proklamasjoner av AI-etikk-forskrifter på AGI-løpet.

Nasjoner som streber mot AGI kan gjøre det med overgivelse og finne seg i å vende seg mot noen av de ofte populariserte eksistensielle risikoene ved AGI. Håpet er at ved å få på plass internasjonale AI-lover og internasjonale AI-etiske forskrifter, vil nasjoner bli veiledet mot AI For Good og styr unna AI for Bad.

I henhold til vår racerbaneanalogi er disse AI-lovene og AI-etikk-betraktningene som å prøve å hindre løpere fra å gå utenfor banen. Det er enorme fristelser til å ta snarveier i AGI-løpet. Disse snarveiene kan føre en nasjon ned en tilsynelatende raskere til målstreken, men samtidig sette den nasjonen og andre nasjoner i unødig risiko. Et subtilt, men talende eksempel består av dual-use AI, som jeg har undersøkt lenken her, hvorved en AI-fremgang lett kan byttes med svært mye innsats fra å være rettet mot godhet til å bli utført med å produsere katastrofal ondskap.

Du kan hevde at de internasjonale AI-lovene og internasjonal AI-etikk er som dommere eller dommere.

En antakelse er at disse internasjonalt utarbeidede juridiske og etiske mekanismene vil holde AGI-løpet på en jevnere kjøl. Saken er at om bestemte nasjoner velger å lytte til dommerne eller dommerne er en annen sak. På samme måte er det et irriterende spørsmål om hvordan disse myndighetene kan gi straffer eller insentiver for å holde løperne på rett spor. Oddsen er at nasjoner vil gjøre som de ønsker å gjøre, noe som andre nasjoner kan trenge å legge vekt på for å styrke støtten til regelbruddet utenfor banen som noen nasjoner er nødt til å gjennomføre.

konklusjonen

Louis Pasteur, den legendariske kjemikeren og mikrobiologen, sa dette berømt: «Vitenskapen kjenner ingen land, fordi kunnskap tilhører menneskeheten, og er fakkelen som lyser opp verden. Vitenskapen er den høyeste personifiseringen av nasjonen fordi den nasjonen vil forbli den første som bærer lengst tankeverk og intelligens."

Kan vi si at oppnåelsen av AGI ikke kjenner noe land og at AGI vil tilhøre hele menneskeheten?

Eller vil nasjonen som først ankommer AGI være besittende av det, bli full av ussel makt og bli gal?

For de av dere som liker en vri på denne spesielle gåten, tenk på at AGI i seg selv kan være den typen prestasjon som er den velkjente slangen i gresset. Oppdageren av slangen kan være den første som får et slangebitt. Å være først har sine risikoer.

Å krysse målstreken på AGI kommer ikke nødvendigvis til å være så festlig og bekymringsløst som noen kanskje tror. Det vil heller ikke nødvendigvis være enkelt å utnytte AGI. Noen vil kanskje hevde at det å takle AGI kan være nesten umulig siden AGI tilsynelatende vil ha den sammenlignbare list og oppfinnsomhet som menneskeheten har. Nasjoner bør være oppmerksomme på hva de prøver å oppnå og hva resultatet vil bli, gjøre det på forhånd og ikke bli overrasket. De kan ha et hornnet-rede i sin nasjonale skattekiste.

Som Pasteur sa: "Lykken favoriserer det forberedte sinnet."