AI Shake-Up som fremtredende AI-guru foreslår tankevekkende "dødelige datamaskiner" som også får AI-etikk og AI-lov gravd inn

Her er noe du sannsynligvis ikke har tenkt over ennå: Dødelige datamaskiner.

Men det burde du kanskje være.

Det heftige temaet kom opp på den nylige og totalt sett ganske fremtredende årlige konferansen om AI som er spesielt fokusert på fremveksten av nevrale nettverk og maskinlæring, nemlig konferansen om nevrale informasjonsbehandlingssystemer (kjent av innsidere som NeurIPS). Invitert hovedtaler og en veloverveid mangeårig AI-guru Geoffrey Hinton kom med den spennende og kanskje kontroversielle påstanden om at vi burde tenke på datamaskiner i en dødelig og udødelig kontekst.

Jeg skal ta for meg den bemerkelsesverdige påstanden og gjøre det på to måter som til å begynne med ikke nødvendigvis vil virke sammenkoblet, men etter litt ekstra forklaring vil de bli tydeligere relatert til hverandre når det gjelder de dødelige kontra udødelige stridigheter.

De to temaene er:

1) Integrert binde sammen både maskinvare og programvare for AI-mekaniseringer i stedet for å ha dem som distinkte og separate allierte

2) Overføring eller destillering av maskinlæringsformuleringer fra en AI-modell til en annen som gjør det uten å kreve eller nødvendigvis ønske (eller til og med mulig på annen måte mulig) en rett frem full renraset kopiering

Alt dette har store betraktninger for AI og den fremtidige retningen for AI-utvikling.

Videre er det en rekke svært vanskelige AI-etikk- og AI-lover som også oppstår. Disse typene AI-forestilte teknologiske fremskritt er vanligvis slått rundt på et rent teknologisk grunnlag lenge før det er en erkjennelse av at det også kan ha bemerkelsesverdige konsekvenser for etisk AI og AI-lov. På en måte er katten vanligvis allerede ute av sekken, eller hesten er ute av fjøset, før oppvåkningen om at AI-etikk og AI-lov bør gis due diligence-deltakelse.

Vel, la oss bryte den forsinkede ettertanke-syklusen og gå inn i første etasje på denne.

For de av dere generelt interessert i den siste innsikten som ligger til grunn for AI-etikk og AI-lov, kan du finne informativ og inspirerende engasjerende min pågående og omfattende dekning på lenken her og lenken her, bare for å nevne noen få.

Jeg skal først her dekke punktet ovenfor om sammenkobling av maskinvare og programvare. En diskusjon og analyse av temaet vil foregå hånd i hånd. Deretter vil jeg komme inn på spørsmålet om kopiering eller noen si destillering de avgjørende elementene i et maskinlærings-AI-system fra én AI til en nylig utviklet AI som mål.

La oss komme i gang.

Binding sammen av maskinvare og programvare for AI

Du vet sikkert at utformingen av datamaskiner stort sett er slik at det er maskinvaresiden av ting og separat er det programvaresiden av ting. Når du kjøper en vanlig bærbar eller stasjonær datamaskin, tolkes den som en generell dataenhet. Det er mikroprosessorer inne i datamaskinen som brukes til å kjøre og kjøre programvare som du kan kjøpe eller skrive på egen hånd.

Uten programvare for datamaskinen din, er det en bit av metall og plast som i utgangspunktet ikke vil gjøre deg mye godt, annet enn å fungere som en papirvekt. Noen vil si at programvare er konge og styrer verden. Selvfølgelig, hvis du ikke har maskinvare å kjøre programvaren på, vil ikke programvaren gjøre mye bra. Du kan skrive så mange linjer med kode som ditt hjerte ønsker, men inntil programvaren blir brukt via en datamaskin er den formulerte kildekoden like spinkel og flygtig som et vakkert diktverk eller en detektivroman på et minutt.

Tillat meg å bytte til en annen vei som kan se ut til å være langt unna (det vil det ikke være).

Vi prøver ofte å trekke analogier mellom hvordan datamaskiner fungerer og hvordan den menneskelige hjernen fungerer. Dette forsøket på å lage konseptuelle paralleller er nyttig. Når det er sagt, må du være forsiktig med å gå over bord på disse analogiene siden sammenligningene har en tendens til å bryte sammen når du kommer nærmere de kjøttfulle detaljene.

Uansett, for diskusjonens skyld, her er en analogi som ofte brukes.

Selve hjernen er uformelt til tider omtalt som våttøy. Det er en fengende måte å formulere ting på. Vi vet at datamaskiner består av maskinvare og programvare, så det er smart å bruke "vare"-delen av myntingen til å beskrive hva en hjerne går ut på. Den mektige og mystiske hjernen, som ligger inne i våre tøfler, er funnet flytende rundt og mentalt beregner alle våre gjerninger (noen gode, mens noen av tankene våre definitivt ikke er fylt med godhet).

Med en gjennomsnittsvekt på bare tre pund er hjernen et bemerkelsesverdig organ. På en eller annen måte, og vi vet ennå ikke hvordan, er hjernen i stand til å bruke den i størrelsesorden 100 milliarder nevroner og kanskje alt fra 100 til 1,000 billioner sammenkoblinger eller synapser for å gjøre alt vi tenker for oss. Hvordan gir de biologiske og kjemiske egenskapene til hjernen opphav til intelligens? Ingen kan si sikkert. Dette er tidenes søken.

Jeg spør deg dette, er hjernen tilsynelatende bare maskinvare, eller er det både maskinvare og programvare kombinert?

Nudler på den hjernetrimlen.

Du kan bli fristet til å hevde at hjernen bare er maskinvare (i generell forstand). Det er et organ i kroppen. På samme måte kan du si at hjertet er maskinvare, blæren er maskinvare og så videre. De er alle mekaniseringer som ligner når vi snakker om gjenstander som har en fysisk form og utfører fysisk relaterte handlinger.

Hvor er så programvaren som kjører mennesker?

Jeg vil tørre å foreslå at vi alle er ganske enige om at menneskehetens "programvare" på en eller annen måte ligger i hjernen. Trinnene som kreves for å koke et egg eller fikse et flatt dekk er instruksjoner som er nedfelt i hjernen vår. Ved å bruke den tidligere bemerkede dataanalogien av maskinvare og programvare, er hjernen vår et stykke maskinvare som det var, som vi lærer om verden og instruksjonene om hva vi skal gjøre "løper" og "lagres" i hjernen vår.

På en datamaskin kan vi lett peke på maskinvaren og si at dette er maskinvare. Vi kan ha en liste over kildekode og peke på oppføringen som programvare. I dag laster vi elektronisk ned programvare og installerer den på våre bærbare datamaskiner og smarttelefoner. I gamle dager brukte vi disketter og hullkort til å lagre programvaren vår for lasting på maskinvaren til datamaskinen.

Jeg får deg inn i en viktig gåte.

Når du først har lært noe og kunnskapen er tilstede i hjernen din, kan du fortsatt skille mellom "maskinvaren" til hjernen din og den antatte "programvaren" til hjernen din?

En argumentert posisjon er at kunnskapen i hjernen din ikke er spesielt atskilt fra forestillingene om maskinvare og programvare. Analogien dermed til datamaskiners natur går i stykker, vil noen inderlig hevde. Kunnskap i hjernen er sammenvevd med og uatskillelig fra maskinvaren i hjernen din. De biologiske og kjemiske egenskapene er sammenvevde kunnskapen du mentalt besitter.

Stek på det for litt mental refleksjon.

Hvis vi håper å en dag utvikle datamaskiner som er på nivå med menneskelig intelligens, eller til og med overgår menneskelig intelligens, kan vi kanskje bruke strukturene i hjernen og dens indre funksjoner som en guide til hva vi må gjøre for å nå et så høyt mål. For noen innen AI er det en tro på at jo mer vi vet om hvordan hjernen fungerer, desto større er sjansene våre for å utvikle ekte AI, noen ganger referert til som Artificial General Intelligence (AGI).

Andre innen AI er mindre begeistret for å måtte vite hvordan hjernen fungerer. De understreker at vi kan fortsette raskt med å lage AI, uavhengig av om vi er i stand til å låse opp hjernens hemmelige indre funksjon. Ikke la hjernens mysterier hindre vår AI-innsats. Jada, fortsett å prøve å dekode og dechiffrere den menneskelige hjernen, men vi kan ikke sitte og vente på at hjernen blir omvendt. Hvis det en dag er gjennomførbart, fantastiske nyheter, selv om det kanskje er en umulighet eller vil skje evigheter fra nå.

Jeg er klar til å dele den dødelige og udødelige datamaskinstriden med dere. Sørg for at du setter deg ned og er klar for den store avsløringen.

En datamaskin som har et tydelig skille mellom maskinvaren og programvaren kan hevdes å være "udødelig" ved at maskinvaren kan vedvare for alltid (innenfor grenser, selvfølgelig), mens programvaren kan skrives og skrives om gang på gang. Du kan holde en konvensjonell datamaskin i gang så lenge du kan reparere maskinvaren og holde utstyret i stand til å slå seg på. Du kan fortsatt bruke de rå hjemmedatamaskinene fra 1970-tallet som pleide å komme i sett for montering, til tross for at de er nesten femti år gamle eller så (en lang tid i dataår).

Anta at vi valgte å lage datamaskiner som hadde maskinvaren og programvaren som fungerte uatskillelig (jeg skal si mer om dette snart). Vurder dette på samme grunnlag som jeg tidligere nevnte at hjernen kanskje har en integrert sammensetning av maskinvare og programvare. Hvis det var tilfelle, kan det antydes at datamaskinen av denne typen ikke lenger ville være udødelig. Det ville bli tolket som å være "dødelig" i stedet.

I henhold til bemerkningene på NeurIPS-konferansen av den inviterte hovedtaleren og den bemerkelsesverdige AI-guruen Geoffrey Hinton, og som det fremgår av hans medfølgende forskningsartikkel:

• "Generelle digitale datamaskiner ble designet for å følge instruksjonene trofast fordi det ble antatt at den eneste måten å få en generell datamaskin til å utføre en spesifikk oppgave var å skrive et program som spesifiserte nøyaktig hva de skulle gjøre i ulidelige detaljer. Dette er ikke lenger sant, men forskningsmiljøet har vært trege til å forstå de langsiktige implikasjonene av dyp læring for måten datamaskiner er bygget på. Mer spesifikt har fellesskapet klamret seg til ideen om at programvaren skal kunne separeres fra maskinvaren slik at det samme programmet eller det samme settet med vekter kan kjøres på en annen fysisk kopi av maskinvaren. Dette gjør kunnskapen i programmet dør eller vektene udødelige: Kunnskapen dør ikke når maskinvaren dør" (som inneholdt i og sitert fra hans forskningsartikkel "The Forward-Forward Algorithm: Some Preliminary Investigations", forhåndstrykk tilgjengelig online) .

Merk at den spesielle typen databehandling som diskuteres i denne typen AI bruker kunstige nevrale nettverk (ANN).

La oss rette opp ting om dette.

Det er biologiske nevroner fra den virkelige verden i hjernen vår. Du bruker dem hele tiden. De er biologisk og kjemisk sammenkoblet i et nettverk i din noggin. Dermed kan vi referere til dette som en nevrale nettverket.

Andre steder er det skal vi si falske "neuroner" som vi beregningsmessig representerer i datamaskiner for å utvikle AI. Mange mennesker i AI omtaler også de som nevrale nettverk. Jeg tror dette er litt forvirrende. Du skjønner, jeg foretrekker å referere til dem som kunstig nevrale nettverk. Dette hjelper til med en gang å skille mellom en referanse til i-ditt-hodet nevrale nettverk (den ekte varen, som det var), og datamaskinbaserte (kunstig nevrale nettverk).

Ikke alle tar den holdningen. Mange mennesker i AI bare antar at alle andre i AI "vet" at når de refererer til nevrale nettverk snakker de nesten alltid om ANN - med mindre det oppstår en situasjon der de av en eller annen grunn ønsker å diskutere ekte nevroner og ekte nevrale nettverk i hjerne.

Jeg stoler på at du forstår meg. Mesteparten av tiden vil AI-folk si "nevrale nettverk", som potensielt er tvetydig fordi du ikke vet om de refererer til de virkelige i hodet vårt eller de beregningsbaserte vi programmerer inn i datamaskiner. Men siden AI-folk stort sett har med datamaskinbaserte instanser å gjøre, antar de som standard at du refererer til kunstige nevrale nettverk. Jeg liker å legge til ordet "kunstig" på forsiden av ordlyden for å være tydeligere om intensjonene.

Hvis du går videre, kan du til en viss grad betrakte disse beregningsmessige kunstige nevronene som en matematisk eller beregningsmessig simulering av hva vi tror faktiske biokjemiske fysiske nevroner gjør, for eksempel å bruke numeriske verdier som vektingsfaktorer som ellers skjer biokjemisk i hjernen. I dag er disse simuleringene ikke på langt nær så komplekse som ekte nevroner er. Nåværende ANN-er er en ekstremt grov matematisk og beregningsmessig representasjon.

Generelt er ANN-er ofte kjerneelementet for maskinlæring (ML) og dyp læring (DL) - vær oppmerksom på at dette er mye mer detaljert, og jeg oppfordrer deg til å ta en titt på min omfattende dekning av ML/DL på lenken her og lenken her, for eksempel.

For å gå tilbake til de udødelige versus dødelige datamaskintypene, er det mer å tenke på, ifølge forskeren:

• "Separasjonen av programvare fra maskinvare er et av grunnlaget for informatikk, og det har mange fordeler. Det gjør det mulig å studere egenskapene til programmer uten å bekymre deg for elektroteknikk. Det gjør det mulig å skrive et program én gang og kopiere det til millioner av datamaskiner. Hvis vi derimot er villige til å forlate udødelighet, bør det være mulig å oppnå enorme besparelser i energien som kreves for å utføre en beregning og i kostnadene ved å produsere maskinvaren som utfører beregningen. Vi kan tillate store og ukjente variasjoner i tilkoblingen og ikke-lineariteten til forskjellige forekomster av maskinvare som er ment å utføre den samme oppgaven og stole på en læringsprosedyre for å oppdage parameterverdier som effektivt utnytter de ukjente egenskapene til hver enkelt forekomst av maskinvaren. Disse parameterverdiene er bare nyttige for den spesifikke maskinvareforekomsten, så beregningen de utfører er dødelig: den dør med maskinvaren” (ibid).

Du har nå blitt introdusert for hvordan udødelige og dødelige blir brukt i denne sammenhengen.

La meg utdype det.

Forslaget er at en datamaskin som er spesialbygd basert på ANN-er kan utformes slik at maskinvaren og programvaren anses som uatskillelige. Når maskinvaren en dag ikke lenger fungerer (som vi selvfølgelig sier integrerer programvaren integrert), er denne typen datamaskin tilsynelatende ikke lenger nyttig og vil ikke fungere lenger. Det sies å være dødelig. Du kan like gjerne begrave den ANN-baserte datamaskinen siden det ikke vil gjøre deg mye nytte heretter etter at den uatskillelige maskinvaren og programvaren ikke lenger fungerer som et team.

Hvis du ville prøve å relatere dette til analogien til en menneskelig hjerne, kan du se for deg den dystre situasjonen til en menneskelig hjerne som blir fullstendig forverret eller som på en eller annen måte er uopprettelig skadet. Vi aksepterer forestillingen om at en person er dødelig og at hjernen deres til slutt og uunngåelig vil slutte å fungere. Kunnskapen de inneholdt i hjernen deres er ikke lenger tilgjengelig. Med mindre de tilfeldigvis forsøkte å fortelle andre eller skrev ned det de visste, er kunnskapen deres borte til hele verden.

Du har utvilsomt hørt eller sett rapporter om forsøk på å bevare hjerner, som å sette dem i en frossen tilstand, under teorien om at kanskje mennesker en dag kan være udødelige eller i det minste strekke seg utover deres vanlige levetid. Hjernen din kan leve videre, selv om den ikke er i kroppen din. Mange sci-fi-filmer og historier har spekulert i slike ideer.

Vi er nå klare for en detaljert titt-se på den dødelige datamaskinen og den udødelige datamaskinen som konsept og hva den forutsier.

Oppmerksom diskusjon og hensynsfull analyse

Før du dykker ned i magen til denne analysen av den postulerte tilnærmingen, er noen viktige forbehold og tilleggspunkter verdt å nevne.

Forskeren understreket at myntet dødelige datamaskiner ville ikke spesielt erstatte eller skyve ut av eksistensen udødelige datamaskiner som vi i dag omtaler som konvensjonelle digitale datamaskiner. Det ville være en sameksistens av begge typer datamaskiner. Jeg sier dette fordi reaksjonen fra noen har vært at oppfordringen til å bestille var et teppekrav som alle datamaskiner av nødvendighet er eller vil være på vei mot den dødelige typen.

Det var ikke en påstand som ble fremsatt.

Under sitt foredrag nevnte han at disse spesialiserte seg nevromorfisk orientert datamaskiner ville utføre beregningsarbeid kjent som dødelige beregninger: «Vi skal gjøre det jeg kaller mortal computing, der kunnskapen som systemet har lært og maskinvaren, er uatskillelige» (som sitert i en ZDNET-artikkel av Tiernan Ray 1. desember 2022).

Og spesielt: "Det vil ikke erstatte digitale datamaskiner" (ibid).

Disse nye typene datamaskiner kommer definitivt ikke snart til å være i din lokale databutikk eller tilgjengelig for kjøp online med en gang, som det sa under presentasjonen hans: «Det jeg tror er at vi kommer til å se en helt annen type datamaskin, ikke på noen få år, men det er all grunn til å undersøke denne helt andre typen datamaskin.» Brukene vil også variere: "Det vil ikke være datamaskinen som har ansvaret for bankkontoen din og vet nøyaktig hvor mye penger du har."

En ekstra vri er at de dødelige datamaskinene tilsynelatende ville bli dyrket i stedet for å bli produsert slik vi gjør i dag for produksjon av dataprosessorer og databrikker.

Under vekstprosessen vil den dødelige datamaskinen øke i kapasitet i en stil med beregningsmessig modning. Dermed kan en gitt dødelig datamaskin starte med nesten ingen kapasitet og modnes til det den var siktet til å bli. Anta for eksempel at vi ønsket å lage mobiltelefoner ved bruk av dødelige datamaskiner. Du vil starte med en enkel variant av en dødelig datamaskin som opprinnelig har blitt formet eller sådd for dette formålet. Den ville da modnes til den mer avanserte versjonen du var ute etter. Kort sagt: "Du ville erstatte det med hver av disse mobiltelefonene ville måtte starte som en babymobiltelefon, og den ville måtte lære å være en mobiltelefon."

På et av hans grunnleggende lysbilder om dødelig beregning ble fordelene beskrevet på denne måten: «Hvis vi forlater udødelighet og aksepterer at kunnskapen er uløselig fra de nøyaktige fysiske detaljene til en bestemt maskinvare, får vi to store fordeler: (1) Vi kan bruke analoge beregninger med svært lav effekt, (2) Vi kan vokse maskinvare hvis nøyaktige tilkoblingsmuligheter og analoge oppførsel er ukjent.»

En del av den samme foredraget, og også som inneholdt i hans preprint-forskningsoppgave er en foreslått teknikk for hvordan ANN-er bedre kan utformes, som han refererer til som å bruke en fremover-fremover nettverkstilnærming. Noen av dere som er kjent med ANN-er er utvilsomt allerede ganske klar over bruken av backpropagation eller back-prop. Du vil kanskje ta en titt på hans foreslåtte frem-forover-teknikk. Jeg skal dekke den fascinerende tilnærmingen i et fremtidig spalteinnlegg, så vær på vakt for min kommende dekning om det.

Skifter gir, la oss vurdere hva som blir sagt i gangene og sideveiene til AI-fellesskapet om dette frekke dødelig datamaskin maskinering.

Vi starter med det noen vil si er en ikke-starter på emnet.

Er du klar?

Slutt å kall dette for en dødelig computer.

Slutt på samme måte å forkynne at dagens konvensjonelle datamaskiner er det udødelig.

Begge bruksområdene er rett og slett feil og rikelig misvisende, formaner skeptikere.

En hverdagslig ordbokdefinisjon av det som er udødelig består av noe som ikke kan dø. Den lever evig. For å ikke dø, må du antagelig si at selve tingen er i live. Du tråkker på feil spor for å hevde at dagens datamaskiner lever. Ingen fornuftig person vil tilskrive moderne datamaskiner bona fide "levende" egenskaper. De er maskiner. De er ting. De er ikke personer eller dyr eller av en livsvilkår.

Hvis du ønsker å strekke definisjonen av udødelig for å tillate at vi også refererer til ikke-levende enheter, i så fall vil den ikke-levende enheten tilsynelatende aldri måtte forfalle og kan ikke uunngåelig gå i oppløsning til støv. Kan du komme med en slik påstand om dagens datamaskiner? Dette virker utstrakt (sidenotat: vi kan selvfølgelig komme inn i en stor filosofisk diskusjon om materiens og eksistens natur, men la oss ikke gå dit i dette tilfellet).

Poenget er at bruken eller noen vil si misbruk av ordene "dødelig" og "udødelig" er merkelig og uønsket. Å ta et vanlig språk og gjenbruke det til andre formål er forvirrende og gir grumsete vann. Du må være villig til å tilsynelatende rekonseptualisere hva dødelig og udødelig betyr i denne spesifikke konteksten. Dette blir problematisk.

Enda mer foruroligende er at disse ordvalgene har en tendens til å antropomorfisere dataaspektene.

Det er allerede mer enn nok problemer knyttet til antropomorfisering av AI, vi trenger absolutt ikke finne på flere slike muligheter. Som jeg har diskutert mye i min dekning av AI-etikk og etisk AI, er det alle slags ville måter folk tilskriver sansende kapasiteter til datamaskiner. I sin tur vil dette villede folk til å feilaktig tro at AI-baserte datamaskiner kan tenke og handle som mennesker gjør. Det er en glatt bakke av fare når samfunnet blir lullet til å tro at dagens AI og databehandling er på nivå med menneskehetens intellekt og sunn fornuft, se for eksempel min analyse på lenken her og lenken her.

Ok, vi kan avvise eller ha forakt for de vanskelige formuleringsvalgene, men tyder det på at vi bør kaste ut babyen med badevannet (et gammelt uttrykk, trolig nærmer seg pensjonisttilværelsen)?

Noen hevder at vi kanskje kan finne bedre ordlyd for denne generelle tilnærmingen eller oppfatningen. Forkast bruken av "dødelig" og "udødelig" slik at resten av ideene ikke blir tilsmusset av upassende eller upassende bruk. I mellomtiden er det motargumenter for at det er helt akseptabelt å bruke disse ordvalgene, enten fordi de passer, eller fordi vi ikke bør være ufleksible med hensyn til hvordan vi velger å gjenbruke ord. En rose er en rose med et hvilket som helst annet navn, erklærer de.

For å unngå ytterligere bitter debatt her, skal jeg heretter unngå å bruke ordene "dødelig" og "udødelig" og vil bare si at vi har to hovedtyper datamaskiner som blir slått rundt, en som er en konvensjonell digital datamaskin i dag og annet er et foreslått nevromorfe computer.

Ingen grunn til å dra dødelighetsproblemet inn i dette, ser det ut til. Hold himmelen klar for å se hva mer vi kan gjøre med saken.

I så fall vil noen hevde at den foreslåtte ideen om en nevromorf datamaskin ikke er noe nytt.

Du kan spore tilbake til de tidligere dagene med AI, spesielt da ANN-er opprinnelig ble utforsket, og se at det var snakk om å utvikle spesialiserte datamaskiner for å utføre arbeidet med kunstige nevrale nettverk. All slags ny maskinvare ble foreslått. Dette skjer fortsatt den dag i dag. Selvfølgelig kan du argumentere for at det meste av dagens utforskning av spesialisert maskinvare for ANN-er og maskinlæring fortsatt er basert på den konvensjonelle tilnærmingen til databehandling. I den forstand presser denne analoge uatskilleligheten til maskinvaren og programvaren konvolutten noe, og forslaget om å "vokse" datamaskinen gjør det også, i det minste med hensyn til å gå utenfor den betraktede mainstream.

Kort sagt, det er noen som er fullt gjennomsyret av disse sakene som er overrasket over at noen andre kan bli overrasket over forslagene som ble lagt frem. Disse forestillingene er enten de samme som før eller gjenspeiler det som allerede undersøkes i ulike forskningslaboratorier.

Ikke få håret ditt i et oppstyr, sier de.

Dette tar oss til en annen fasett som er plagsom for mange.

Med ett ord: Forutsigbarhet.

Dagens datamaskiner anses generelt som forutsigbare. Du kan ta en titt på maskinvaren og programvaren for å finne ut hva datamaskinen skal gjøre. På samme måte kan du spore hva en datamaskin allerede har gjort for å finne ut hvorfor den gjorde det den gjorde. Det er selvfølgelig grenser for å gjøre dette, derfor vil jeg ikke overdrive forutsigbarheten, men jeg tror du forstår ideen totalt sett.

Du er kanskje klar over at et av de vanskelige problemene som AI står overfor i dag, er at noe AI er utviklet for å være selvjusterende. AI-en som utviklere setter på plass kan endre seg selv mens den brukes. Innenfor AI-etikk er det mange eksempler på AI som ble tatt i bruk som til å begynne med ikke hadde unødige skjevheter eller diskriminerende tendenser, som deretter gradvis ble beregningsmessig selvmutert i løpet av tiden AI var i produksjon, se min detaljerte vurderinger kl lenken her.

Bekymringen er at vi allerede går inn i en setting som innebærer AI som ikke nødvendigvis er forutsigbar.

Anta at AI for våpensystemer gjennomgår selvjusteringer og resultatet er at AI bevæpner og skyter dødelige våpen på mål og tidspunkter som ikke er forventet. Mennesker er kanskje ikke i gang med å stoppe AI. Mennesker som er i løkken kan kanskje ikke svare raskt nok til å overta AI-handlingene. For ytterligere skremmende eksempler, se min analyse på lenken her.

For nevromorfe datamaskiner er bekymringen at vi legger uforutsigbarhet på steroider. Fra begynnelsen kan essensen av en nevromorf datamaskin være at den fungerer på en måte som trosser forutsigelser. Vi skryter av uforutsigbarhet. Det blir et hederstegn.

Det finnes to leire.

En leir sier at vi kan leve med de ubehagelige uforutsigbarhetsbekymringene, og gjøre det ved å sette rekkverk for å hindre AI fra å gå en bro for langt. Den andre leiren hevder at du tar verden ned på en farlig vei. Den dagen vil oppstå at de påståtte rekkverkene enten svikter, eller de ikke er strenge nok, eller at rekkverket ved et uhell eller ond hensikt blir fjernet eller fiklet med.

Bør vi vifte vekk betenkeligheter om nevromorfe datamaskiner og forutsigbarhet?

I følge forskerens kommentarer: "Blant folk som er interessert i analog beregning, er det fortsatt svært få som er villige til å gi opp udødelighet." Videre: "Hvis du vil at den analoge maskinvaren din skal gjøre det samme hver gang ... har du et reelt problem med alle disse bortkommen elektriske tingene og sånt."

Jeg skal skru opp dette.

Et truende og litt dystert perspektiv er at den såkalte forutsigbarheten knyttet til dagens digitale datamaskiner uansett går i retning av uforutsigbarhet. Som nevnt kan dette spesielt skje per AI som selvjusterer seg på konvensjonelle dataplattformer. Bare fordi de nevromorfe datamaskinene kan være tilsynelatende uforutsigbare, er det ikke et tegn på at konvensjonelle digitale datamaskiner faktisk er forutsigbare.

Uforutsigbarhetsdampvalsen kommer til oss, full damp, uansett hvilken dataplattform du vil velge. For min vurdering av den siste innsatsen for å prøve å oppnå AI-sikkerhet i dette lyset, se lenken her.

Denne vrien om forutsigbarhet burde få tankene dine til å snurre på noe av en avdekket natur, liksom. Det kan de av dere som er involvert i AI-etikk og AI-lov ikke har vurdert konsekvensene av nevromorfe datamaskiner.

Du har sannsynligvis siktet på konvensjonelle digitale datamaskiner som kjører AI. Vel, gjett hva, du har et helt ekstra og fremvoksende segment av AI-databehandling som du nå kan holde deg oppe og bekymre deg for om natten. Ja, nevromorfe datamaskiner. Sett det på oppgavelisten din.

Beklager, flere søvnløse netter for deg.

La oss kort vurdere hva AI Ethics og AI Law har gjort med konvensjonell digital databehandling og AI.

I tidligere spalter har jeg dekket de ulike nasjonale og internasjonale innsatsene for å lage og vedta lover som regulerer AI, se lenken her, for eksempel. Jeg har også dekket de ulike AI-etikkprinsippene og -retningslinjene som ulike nasjoner har identifisert og vedtatt, inkludert for eksempel FNs innsats som UNESCO-settet med AI-etikk som nesten 200 land vedtok, se lenken her.

Her er en nyttig nøkkelsteinsliste over etiske AI-kriterier eller egenskaper angående AI-systemer som jeg tidligere har utforsket nøye:

• Åpenhet
• Rettferdighet og rettferdighet
• Ikke-ondsinnethet
• Ansvar
• Privatliv
• godgjør
• Frihet og autonomi
• Stol
• Bærekraft
• Verdighet
• Solidaritet

Disse AI-etikk-prinsippene er oppriktig ment å bli brukt av AI-utviklere, sammen med de som styrer AI-utviklingsinnsatsen, og til og med de som til slutt jobber med og utfører vedlikehold på AI-systemer.

Alle interessenter gjennom hele AI-livssyklusen for utvikling og bruk anses innenfor rammen av å overholde de etablerte normene for etisk AI. Dette er et viktig høydepunkt siden den vanlige antakelsen er at "bare kodere" eller de som programmerer AI-en er underlagt AI-etikkens forestillinger. Som tidligere understreket her, kreves det en landsby for å utvikle og sette i gang AI, og som hele landsbyen må være kjent med og overholde AI-etiske forskrifter.

Den delen av dette som du kanskje ikke tidligere har tenkt så mye på, er hvordan de samme AI-etikkene og den voksende listen over nye AI-lover vil gjelde for nevromorfe datamaskiner. For å avklare må AI-etikk og AI-lov faktisk ta det eksplisitt i betraktning. Jeg påpeker at få gjør det, og vær oppmerksom på at det er en stor sjanse for at fremkomsten av nevromorfe datamaskiner vil kaste mange for en løkke i form av en ny dimensjon for å prøve å regjere i AI.

Vi må vurdere etiske AI- og AI-lover på en bred nok måte til å omfatte alt AI som er nylig utviklet, inkludert nevromorfe datamaskiner.

Vippealternativet er en klassisk katt-og-mus-gambit. Slik går det. Nye måter å lage AI på er tenkt ut og bygget. Eksisterende AI-etikk og AI-lover er overrumplet og omfatter ikke fullt ut de siste AI-skinnet. Det gjøres et raskt forsøk på å oppdatere etiske AI-forskrifter og modifisere de nylig utarbeidede AI-lovene.

Skum, skyll, gjenta.

Det ville vært bedre for oss alle å ligge i forkant av kampen, i stedet for å bli tatt bak åtteballen.

konklusjonen

Jeg har tatt deg med på en liten reise.

I starten foreslo jeg at det ville være to hovedtemaer som skulle undersøkes:

1) Integrert binde sammen både maskinvare og programvare for AI-mekaniseringer i stedet for å ha dem som distinkte og separate allierte

2) Overføring eller destillering av maskinlæringsformuleringer fra en AI-modell til en annen som gjør det uten å kreve eller nødvendigvis ønske (eller til og med mulig på annen måte mulig) en rett frem full renraset kopiering

Det første emnet om sammenbinding av maskinvare og programvare har vært hoveddelen av reisen her. Dette førte oss inn i det dødelige versus udødelige datamorasset. Av disse var det noen viktige AI-etikk og AI-lovbetraktninger som ellers vanligvis ikke ville blitt tatt opp, siden denne typen datarelaterte emner vanligvis blir sett på av noen som et rent teknologisk i stedet for å ha noen samfunnsmessige konsekvenser.

Jeg sier det er klokest å være før og tryggere, heller enn senere og dårligere stilt når det gjelder å ta opp etisk kunstig intelligens og kunstig intelligens.

Det andre emnet, som jeg ennå ikke har artikulert her, relaterer seg vesentlig til det første emnet.

Her er avtalen.

Anta at vi har en "dødelig datamaskin" og vi ønsker å bevare mulighetene slik at vi er i stand til å ha en sikkerhetskopi eller tilsynelatende kopier av hva AI-en inneholder. Vi kan være bekymret for at en bestemt dødelig datamaskin nærmer seg slutten. Jepp, vi er avhengige av det. Hva skal vi gjøre? Ett svar er at vi burde kopiere det forbannede.

Men å kopiere en nevromorf datamaskin av den typen som er skissert vil være vanskeligere enn det kan virke ved første øyekast. Ting kan bli vanskelige.

Kanskje vi bør komme med et kopieringstriks som vil være generaliserbart og anvendelig for omstendigheter som involverer maskinlæring og kunstige nevrale nettverk. Vi ønsker at dette skal fungere på store og ekstremt store instanser. Vi vil også være villige til at kopien ikke er et eksakt duplikat, og i stedet kan være i hovedsak tilsvarende eller kanskje enda bedre utformet som et resultat av kopieringshandlingen.

En teknikk kjent som destillasjon har blitt foreslått.

Jeg har gått tom for plass til dagens spalte, så jeg tar opp dette andre emnet i en kommende spalte. Jeg tenkte at du ville vite om forholdet med en gang mellom det andre emnet og det første emnet som ble grundig dekket her. Tenk på dette som et ekstra notat som fungerer som en teaser eller trailer for hva som kommer opp neste gang.

Hold deg på kanten av setet ditt, siden destillasjonsemnet er en ganske god standout.

Som Batman pleide å si, hold flaggermusvingene i kryss og vær klar for samme flaggermus-tid og flaggermus-kanal for å løse det irriterende spørsmålet om hvordan du kopierer en ANN eller maskinlæringsmodell eller nevromorf datamaskin til en annen.

En siste bemerkning foreløpig. Det er en kjent linje i filmen The Dark Knight kommer tilbake der vår kappede korsfarer sier dette: "Verden gir bare mening hvis du tvinger den til det." Jeg skal prøve å holde fast ved det idealet når jeg dekker det andre emnet om AI-relatert destillasjon.

Følg med på del 2 av dette spennende og fengslende dobbelthodet.