Årsakene til å regulere AI-algoritmer er enklere enn du tror

Er du bekymret for at kunstig intelligens vil ta over verden? Mange gjør det. Fra Elon Musk bekymre seg for DeepMind slår mennesker i det avanserte spillet Go i 2017, til medlemmer av kongressen, europeiske beslutningstakere (se En europeisk tilnærming til kunstig intelligens), og akademikere, det er en følelse av at dette er tiåret for å ta AI på alvor, og det tar tak. Skjønt, ikke av de grunnene du kanskje tror og ikke på grunn av noen trussel.

Det er her algoritmer kommer inn. Hva er en algoritme, spør du kanskje? Den enkleste måten å tenke på er som et sett med instruksjoner som maskiner kan forstå og lære av. Vi kan allerede instruere en maskin til å beregne, behandle data og resonnere på en strukturert, automatisert måte. Problemet er imidlertid at når nevnte instruksjoner er gitt, vil maskinen følge dem. Foreløpig er det poenget. I motsetning til mennesker følger maskiner instruksjoner. De lærer ikke så godt. Men når de først gjør det, kan de skape problemer.

Jeg ønsker ikke å komme med et sensasjonelt argument om ideen om at datamaskiner en dag skal overgå menneskelig intelligens, bedre kjent som singularitetsargumentet (se NYU-filosofen David Chalmers' funderinger om temaet.) Snarere kan produksjon være det beste eksemplet på hvorfor AI-algoritmer begynner å bli viktigere for allmennheten. Man frykter at maskinene vil øke sin dyktighet enormt på vår bekostning. Ikke av avansert resonnement, nødvendigvis, men på grunn av optimalisering innenfor grensene til hva en algoritme sier.

Produksjon handler om å lage ting. Men når maskiner lager ting, må vi være oppmerksomme. Selv om det maskinene lager er enkelt. Jeg skal forklare hvorfor.

Fra regnstøvler til mobiltelefoner og tilbake

La oss si at en fabrikk har laget regnstøvler. Jeg elsker regnstøvler fordi jeg vokste opp i et område av Norge hvor det regner mye; Jeg elsker å være ute, underlagt naturens mange elementer. Nokia laget regnstøvlene jeg vokste opp med. Ja, den Nokia vi kjenner i dag som elektronikkselskapet pleide å lage gummistøvler. Hvorfor er denne nøkkelen? For når du først har laget noe, er du bestemt til å ønske å gjøre forbedringer. Det gir mening. Du kan si at det er menneskelig natur.

Det som skjedde med Nokia er velkjent og går litt slik: I utgangspunktet var det en papirfabrikk, da jeg var liten, var produksjon av gummistøvler (og dekk) spesielt vellykket for selskapet. De så imidlertid flere muligheter. Derfor, på et tidspunkt på 1980-tallet, gikk de over til elektronikk og endret fabrikkene raskt, og bygget en stor struktur av lokale leverandører da de begynte å lage mobiltelefoner. Dette innledet mobilkommunikasjonsrevolusjonen, som startet i Skandinavia og spredte seg til resten av verden. Forståelig nok har mange skrevet historien om Nokia på 1990-tallet (se Hemmelighetene bak det finske miraklet: Nokias fremvekst).

Mitt eksempel er enkelt. Kanskje for enkelt. Men tenk på det på denne måten. Hvis et stort selskap raskt kan gå over fra å lage papir til å skrive på, til støvler som gjør det lettere å være ute i regnet, så til slutt, til mobiltelefoner som endrer måten mennesker kommuniserer på: hvor enkelt vil neste steg være? Anta at et selskap som produserer mobiltelefoner bestemmer seg for å lage nanoboter, og kanskje de tar fart om et tiår, og endrer menneskeheten med små maskiner som løper autonomt rundt overalt, som er i stand til å sette sammen og endre den menneskelige opplevelsen. Hva om det skjer uten å vurdere hvordan vi vil at det skal skje, hvem vi ønsker skal ha ansvaret, og de endelige målene?

Å antyde at roboter bevisst hjalp Nokia med å bestemme seg for å lage mobiltelefoner ville være en strek. Men å erkjenne at teknologien hadde en rolle i å la et finsk landlig område på dens nordlige kyst tro at de kunne få verdensherredømme i en ny industri, spiller en betydelig rolle.

Nokias historie har ikke vært så rosenrød det siste tiåret gitt at de ikke klarte å ta hensyn til fremveksten av programvarebaserte iOS- og Android-operativsystemer. Nå, som et resultat, lager ikke Nokia telefoner lenger. I litt av en comeback-historie lager de nå nettverks- og telekominfrastruktur, nettverkssikkerhetsløsninger, Wi-Fi-rutere, smart belysning og smart-TVer (se Nokias comeback-historie). Nokia lager fortsatt ting, det er sant. Den eneste observasjonen å gjøre er at Nokia alltid ser ut til å like å blande sammen tingene de lager. Selv produksjonsbeslutninger til mennesker er til tider vanskelig å forstå.

Produksjon betyr å få ting og ting til å utvikle seg. Stort sett har det vi lager i dag endret seg fra bare et tiår siden. 3D-printere har desentralisert produksjon av mange avanserte produkter, både innen industri og hjemme. De livsendrende konsekvensene av 3D-utskrift har ennå ikke skjedd. Vi vet ikke om dette vil vare, men vi vet at FDAs fokus er på å regulere produksjonen av produkter (se her.) som de trykte pillene eller det medisinske utstyret som følger, de åpenbare spørsmålene om immaterielle rettigheter og ansvar, eller problemene rundt å kunne skrive ut skytevåpen. Til syvende og sist er den politiske diskusjonen om hvilke negative konsekvenser 3D-printing kan ha utover dette ikke-eksisterende, og få av oss har brydd oss ​​om å tenke på det.

Jeg antyder ikke at 3D-utskrift er farlig i seg selv. Kanskje dette er et dårlig eksempel. Likevel kan ting som i utgangspunktet ser dagligdagse ut forandre verden. Det er mange eksempler: jegeren/samlerens pilspiss laget av metall som starter kriger, rituelle masker som beskytter oss mot COVID-19, spiker som bygger skyskrapere, bevegelige trykkpresser som (fortsatt) fyller fabrikkene våre med trykt papir og driver forlagsvirksomhet, lyspærer som gjør at du kan se og jobbe inne om natten, jeg kunne fortsette. Ingen jeg kjenner om satte seg ned på slutten av 1800-tallet og spådde at Nokia ville flytte produksjonen fra papir til gummi til elektronikk, og deretter bort fra mobiltelefoner. Kanskje de burde ha det.

Mennesker er dårlige prediktorer for trinnendring, prosessen der en endring fører til mer endring, og plutselig er ting radikalt annerledes. Vi forstår ennå ikke denne prosessen fordi vi har liten praktisk kunnskap om eksponentiell endring; vi kan ikke forestille oss det, beregne det eller fatte det. Men gang på gang slår det oss. Pandemier, befolkningsvekst, teknologisk innovasjon fra boktrykk til robotikk, det rammer oss vanligvis uten forvarsel.

Trikset med futurisme er ikke hvis, men når. Man kan faktisk være i stand til å forutsi endring bare ved å velge noen nye produksjonsmetoder og si at de vil bli mer utbredt i fremtiden. Det er enkelt nok. Den vanskelige delen er å finne ut nøyaktig når og spesielt hvordan.

Det er ikke binders som er problemet

Tenk på fabrikkeksemplet mitt igjen, men denne gangen kan du forestille deg at maskinene har ansvaret for en rekke beslutninger, ikke alle beslutninger, men produksjonsbeslutninger som optimalisering. I boken hans Superintelligens, Oxford Universitys dystopiske humanist Nick Bostrom forestilte seg en berømt AI-optimaliseringsalgoritme som driver en bindersfabrikk. På et tidspunkt, sier han, forestill deg at maskinens årsaker til at det å lære å avlede stadig økende ressurser til oppgaven er rasjonelt, og ender opp med gradvis å gjøre verden vår om til binders, og motstå våre forsøk på å slå den av.

Til tross for at han er en smart fyr, er Bostroms eksempel ganske dumt og misvisende (ennå minneverdig). For det første klarer han ikke å redegjøre for det faktum at mennesker og roboter ikke lenger er separate enheter. Vi samhandler. De fleste smarte roboter utvikler seg til cobots eller samarbeidsroboter. Mennesker vil ha mange sjanser til å korrigere maskinen. Likevel gjenstår hans grunnleggende poeng. Det kan være en trinnendring på et tidspunkt, og hvis denne endringen skjer raskt nok og uten tilstrekkelig tilsyn, kan kontrollen gå tapt. Men det ekstreme resultatet virker litt langsøkt. Uansett, jeg er enig, må vi regulere menneskene som betjener disse maskinene og gi mandat at arbeidere alltid er i løkken ved å trene dem på riktig måte. Den type trening går ikke bra. Det tar for tiden for lang tid og det krever spesialkompetanse både å trene og å bli trent. Jeg vet én ting. I fremtiden vil alle slags mennesker operere roboter. De som ikke gjør det, vil være ganske maktesløse.

Å forsterke mennesker er bedre enn tankeløs automatisering, uansett om vi aldri fusjonerer helt med maskiner. De to konseptene er logisk forskjellige. Det er mulig for både mennesker og roboter å stå fast og automatisere for automatiseringens skyld. Det vil gjøre stor skade på produksjonen fremover. Selv om det ikke produserer morderroboter. Jeg tror en fusjon er hundrevis av år unna, men det er ikke poenget. Selv om det bare er tretti år unna, de selvgående maskinene som opererer på forenklede algoritmer som mister kontrollen, skjer det scenariet allerede på butikkgulvet. Noen av disse maskinene er tretti år gamle og kjører på gamle, proprietære kontrollsystemer. Hovedutfordringen deres er ikke at de er avanserte, men det motsatte. De er for enkle til å kunne kommunisere. Dette er ikke et problem for morgendagen. Det er et allerede eksisterende problem. Vi må åpne øynene for det. Tenk på dette neste gang du går i gummistøvlene.

Jeg har fortsatt mine Nokia-støvler fra 1980-tallet. De har et hull i dem, men jeg beholder dem for å minne meg selv på hvor jeg er fra og hvor langt jeg har gått. Regnet fortsetter å falle også, og så lenge det er rent nok vil jeg ikke ha en bedre løsning for det enn de støvlene. Så igjen, jeg er et menneske. En robot ville antagelig allerede ha gått videre. Hva er AI-versjonen av regnstøvler, lurer jeg på. Det er ikke en mobiltelefon. Det er ikke en regnsensor. Det forvirrer sinnet.

Digitale støvler i dag betyr at du kan tilpasse dem fordi de har 3D-printede design på seg. Det er virtuelle sko som kun eksisterer som NFT-er (ikke-fungible tokens) som kan selges og omsettes. De beste virtuelle joggeskoene er verdt $10,000 XNUMX i disse dager (se Hva er en NFT-sneaker, og hvorfor er den verdt $10,000 XNUMX?). Jeg er ikke redd for dem, men burde jeg være det? Hvis den virtuelle verdenen blir verdsatt mer enn den fysiske verden, vil jeg kanskje gjøre det. Eller bør jeg vente med å være bekymret til en AIs egen avatar kjøper sin egen NFT-støvel for å takle "regnet"? Hvis vi bygger algoritmer i vårt eget bilde, er det mer sannsynlig at en AI vil være god på ting vi skulle ønske vi var gode på, men vanligvis ikke er, som å kjøpe aksjer, bygge lojale vennskap (kanskje med både maskiner og mennesker) og huske tingene. Den industrielle metaversen kan være overraskende sofistikert – full av digitale tvillinger som etterligner vår verden og overgår den på fruktbare måter – eller det kan være sjokkerende enkelt. Kanskje begge deler. Vi vet bare ikke ennå.

Vi må regulere AI-algoritmer fordi vi ikke vet hva som er rundt hjørnet. Det er grunn nok, men når det gjelder hvordan vi gjør det, er det en lengre historie. Tillat meg en rask observasjon til, kanskje alle grunnleggende algoritmer bør gjøres offentlig tilgjengelig. Årsaken er, hvis ikke, er det ingen måte å vite hva de kan føre til. De øverste er ganske godt kjente (se Topp 10 maskinlæringsalgoritmer), men det er ingen verdensomspennende oversikt over hvor og hvordan de vil bli brukt. Det er spesielt de uovervåkede algoritmene som bør overvåkes nøye (se Seks kraftige bruksområder for maskinlæring i produksjon), enten de brukes til å forutsi vedlikehold eller kvalitet, til å simulere produksjonsmiljøer (f.eks. digitale tvillinger), eller til å generere nye design et menneske aldri ville tenkt på. I dagens landskap er disse uovervåkede algoritmene typisk såkalte kunstige nevrale nettverk, som forsøker å etterligne den menneskelige hjernen.

Jeg har begynt å bekymre meg for nevrale nett, bare fordi jeg synes det er vanskelig å forstå logikken deres. Problemet er at de fleste eksperter, selv de som distribuerer dem, ikke forstår hvordan disse algoritmene beveger seg fra trinn til trinn eller lag til lag. Jeg synes ikke metaforen om "skjulte lag", som ofte brukes, er veldig treffende eller veldig morsom. Det bør ikke være noen skjulte lag i produksjon, i automatisert skatteinnkreving, i ansettelsesbeslutninger eller ved opptak på høyskoler, for det første. Kanskje du bør vurdere å bli bekymret også? En ting er sikkert, mennesker og maskiner som lager ting sammen vil forandre verden. Det har det allerede, mange ganger. Fra papir til regnstøvler, og lagene til dagens kunstige hjerner, bør ingenting stå uutforsket. Vi skal ikke legge skjul på det enkle faktum at fra mange små endringer kan det plutselig dukke opp en større endring.