AI-etikk som kjemper lidenskapelig for din juridiske rett til å være et unntak

De sier at det er et unntak fra hver regel.

Problemet er imidlertid at ofte råder den stående regelen, og det er liten eller ingen mulighet for å anerkjenne eller underholde et unntak. Gjennomsnittstilfellet brukes til tross for den skarpe muligheten for at et unntak er i forgrunnen. Et unntak får ingen sendetid. Det får ikke en sjanse til å bli behørig vurdert.

Jeg er sikker på at du må vite hva jeg snakker om.

Har du noen gang forsøkt å få en form for individualisert kundeservice der du ble tankeløst behandlet uten noen forskjell for ditt spesielle tilfelle og dine spesifikke behov?

Dette har utvilsomt skjedd deg, sannsynligvis utallige ganger.

Jeg skal ta deg gjennom en urovekkende trend som dukker opp om hvordan kunstig intelligens (AI) nådeløst blir utviklet for å tvinge alt inn i én størrelse passer alle paradigmet.

Unntak blir enten ikke oppdaget eller valgt å bli bøyd ut av form som om de ikke var unntak i det hele tatt. Grunnlaget for dette skyldes delvis bruken av Machine Learning (ML) og Deep Learning (DL). Som du snart vil se, er ML/DL en form for beregningsmønstermatching, som er "enklere" å utvikle og distribuere hvis du er villig til å ignorere eller skjøre unna unntak. Dette er svært problematisk og vekker svært bemerkelsesverdige AI-etiske bekymringer. For min generelle pågående og omfattende dekning av AI-etikk og etisk AI, se lenken her og lenken her, bare for å nevne noen få.

Ting trenger ikke å være slik, og vær så snill å vite at dette blir oppmuntret av de som lager og distribuerer AI ved å velge å ignorere eller bagatellisere håndteringen av unntak i deres AI-sammensetninger.

Når unntak hersker

La oss først pakke ut karakteren av gjennomsnittssaken versus realiseringen av unntak.

Mitt favoritteksempel på denne typen dogpiling eller nærsynt gjennomsnittlig tilnærming uten unntak er levende opplyst av nesten alle episoder av den anerkjente og fortsatt ganske umåtelig populære TV-serien kjent som House, MD (vanligvis bare uttrykt som hus, som gikk fra 2004 til 2012 og kan sees i dag på sosiale medier og andre medier). Showet innebar en fiktiv karakter ved navn Dr. Gregory House, som var barsk, uutholdelig og ganske ukonvensjonell, men han ble fremstilt som et medisinsk geni som kunne fjerne de mest uklare sykdommer og plager. Andre leger og til og med pasienter hadde kanskje ikke nødvendigvis likt ham, men han fikk jobben gjort.

Her er hvordan en typisk episode utspilte seg (generisk spoilervarsel!).

En pasient dukker opp på sykehuset der Dr. House er ansatt. Pasienten har til å begynne med noe vanlige symptomer, og forskjellige andre leger prøver å diagnostisere og helbrede pasienten. Det merkelige er at forsøkene på å hjelpe pasienten enten ikke klarer å forbedre de ugunstige forholdene eller enda verre har en tendens til å slå tilbake. Pasienten blir verre og verre.

Fordi pasienten nå blir sett på som en slags medisinsk nysgjerrighet, og siden ingen andre kan finne ut hva pasienten lider av, blir Dr. House brakt inn i saken. Dette gjøres til tider med vilje for å utnytte hans medisinske dyktighet, mens i andre tilfeller hører han om saken og hans medfødte instinkter trekker ham mot de uvanlige omstendighetene.

Vi finner gradvis ut at pasienten har en ekstremt sjelden sykdom. Bare Dr. House og hans team av medisinske praktikanter er i stand til å finne ut av dette.

Nå som jeg har delt hovedplottet i episodene med deg, la oss dykke ned i erfaringer som illustrerer karakteren av gjennomsnittssaken kontra unntakene.

De fiktive historiene er designet for å vise hvordan det å tenke innenfor boksen til tider kan gå glipp av målet. Alle de andre legene som først prøver å hjelpe pasienten, er tåkete i tankeprosessene. De ønsker å tvinge symptomene og presenterte fasetter inn i en konvensjonell medisinsk diagnose. Pasienten er bare en av mange som de antagelig har sett før. Undersøk pasienten og foreskriv deretter de samme behandlingene og medisinske løsningene som de har brukt gjentatte ganger gjennom hele sin medisinske karriere.

Vask, skyll, gjenta.

På en måte kan du rettferdiggjøre denne tilnærmingen. Oddsen er at de fleste pasienter vil ha de vanligste plagene. Dag etter dag møter disse legene de samme medisinske problemene. Du kan foreslå at pasientene som kommer inn på sykehuset virkelig er på et medisinsk samlebånd. Hver enkelt flyter langs sykehusets standardiserte protokoller som om de er deler av et produksjonsanlegg eller et monteringsanlegg.

Gjennomsnittssaken råder. Ikke bare er dette generelt egnet, men det lar også sykehuset og det medisinske personalet optimalisere sine medisinske tjenester deretter. Kostnadene kan reduseres når du planlegger de medisinske prosessene for å håndtere gjennomsnittssaken. Det er et ganske kjent råd som ofte trommes inn i hodet til medisinstudenter, nemlig at hvis du hører hovlyder som kommer fra gaten, er sjansen stor for at du bør tenke på en hest i stedet for en sebra.

Effektiv, produktiv, effektiv.

Helt til et unntak sniker seg inn i midten.

Kanskje en sebra fra dyrehagen har rømt og har vandret nedover gaten din.

Betyr dette at unntak bør være regelen, og at vi bør sette til side gjennomsnitts-tilfelle-regelen i stedet for kun å fokusere på unntak?

Du vil bli hardt presset til å hevde at alle våre daglige møter og tjenester bør fokuseres på unntak i stedet for gjennomsnittssaken.

Merk at jeg ikke kommer med et slikt forslag. Det jeg hevder er at vi bør sørge for at unntak tillates og at vi må gjenkjenne når unntak oppstår. Jeg nevner dette fordi noen forståsegpåere er tilbøyelige til høylytt å forkynne at hvis du er en tilhenger av å anerkjenne unntak, må du ergo være motstander av å tenke ut for gjennomsnittssaken.

Det er en falsk dikotomi.

Ikke fall for det.

Vi kan ta kaken vår og spise den også.

Å gjøre saken for en rett til å være et unntak

Jeg vil neste kanskje gi litt av et sjokk som relaterer alt dette til den gryende bruken av AI.

AI-systemer blir i økende grad laget for å konsentrere seg om gjennomsnittssaken, ofte til utelukkelse eller skade for å gjenkjenne unntak.

Du kan bli overrasket over å vite at dette skjer. De fleste av oss vil anta at siden AI er en form for dataautomatisering, er det fine med å automatisere ting at du vanligvis kan inkludere unntak. Dette kan vanligvis gjøres til en lavere kostnad enn hvis du brukte menneskelig arbeidskraft til å utføre en lignende tjeneste. Med menneskelig arbeidskraft kan det være kostbart eller uoverkommelig å ha all slags arbeidskraft tilgjengelig som kan håndtere unntak. Ting er mye enklere å administrere og sette på plass hvis du kan anta at kundene eller kundene dine alle er av gjennomsnittlig kaliber. Men bruken av datastyrte systemer er ment å imøtekomme unntak, lett så. I den måten å tenke på, burde vi juble opprørende for at mer datastyrte evner kommer i forgrunnen.

Se på dette som en tankevekkende gåte og bruk et øyeblikk til å reflektere over dette irriterende spørsmålet: Hvordan kan AI som ellers antas å være det beste innen automatisering, som tilsynelatende ubønnhørlig marsjerer nedover den rutinemessige og eksepsjonelle veien som ironisk nok eller uventet vi forestilte oss ville gå den stikk motsatte retningen?

Svar: Machine Learning og Deep Learning tar oss imidlertid til en eksepsjonell tilværelse ikke fordi vi må ta den veien obligatorisk (vi kan gjøre det bedre).

La oss pakke ut dette.

Anta at vi bestemmer oss for å bruke Machine Learning til å utvikle AI som vil bli brukt til å finne ut medisinske diagnoser. Vi samler inn en haug med historiske data om pasienter og deres medisinske forhold. ML/DL som vi setter opp prøver å foreta en beregningsmønstermatching som vil undersøke symptomene til pasienter og gjengi en forventet lidelse assosiert med disse symptomene.

Basert på de innmatede dataene, fastslår ML/DL matematisk at symptomer som rennende nese, sår hals, hodepine og smerter alle er sterkt assosiert med forkjølelse. Et sykehus velger å bruke denne AI til å gjøre forhåndsscreening av pasienter. Sikkert nok, pasienter som rapporterer disse symptomene ved første gang de kommer til sykehuset er "diagnostisert" som sannsynlig å ha en vanlig forkjølelse.

Skifter gir, la oss legge til en Dr. House slags vri på alt dette.

En pasient kommer til sykehuset og blir diagnostisert av AI. AI indikerer at pasienten ser ut til å ha en vanlig forkjølelse basert på symptomene på rennende nese, sår hals og hodepine. Pasienten får tilsynelatende passende resepter og medisinske råd for å håndtere en forkjølelse. Alt dette er en del av den gjennomsnittlige tilnærmingen som brukes ved utforming av AI.

Det viser seg at pasienten ender opp med å ha disse symptomene i flere måneder. En ekspert på sjeldne sykdommer og alimenter innser at de samme symptomene kan gjenspeile en cerebrospinalvæskelekkasje (CSF). Eksperten behandler pasienten med ulike kirurgiske prosedyrer knyttet til slike lekkasjer. Pasienten kommer seg (forresten, denne bemerkelsesverdige historien om en pasient med en CSF-lekkasje som i utgangspunktet ble diagnostisert som en vanlig forkjølelse, er løst basert på en ekte medisinsk sak).

Vi vil nå gå tilbake i denne medisinske sagaen.

Hvorfor klarte ikke AI-en som gjorde forhåndsundersøkelsen for inntak å vurdere at pasienten kan ha denne sjeldne lidelsen?

Ett svar er at hvis treningsdataene som ble brukt til å lage ML/DL ikke inneholdt noen slike forekomster, ville det ikke være noe deri for beregningsmønstertilpasningen å matche. Gitt et fravær av data som dekker unntak fra regelen, vil den generelle regelen eller gjennomsnittssaken i seg selv anses som tilsynelatende feilfri og brukt uten å nøle.

En annen mulighet er at det var et eksempel på denne sjeldne CSF-lekkasjen i de historiske dataene, men det var bare ett spesielt tilfelle og i den forstand en uteligger. Resten av dataene var alle matematisk nær det konstaterte gjennomsnittstilfellet. Spørsmålet oppstår da om hva man skal gjøre med den såkalte uteliggeren.

Vær oppmerksom på at håndteringen av disse uteliggere er en veldig forskjellig sak med hensyn til hvordan AI-utviklere kan bestemme seg for å kjempe med utseendet til noe utenfor den fastslåtte gjennomsnittssaken. Det er ingen nødvendig tilnærming som AI-utviklere er tvunget til å ta. Det er litt av et ville vesten om hva en gitt AI-utvikler kan gjøre i en gitt unntakstilfelle av deres ML/DL-utviklingsinnsats.

Her er min liste over måtene disse unntakene ofte er upassende håndtert:

• Unntak antatt som en feil
• Unntak antatt som uverdig
• Unntak antatt som justerbart til "normen"
• Unntak ikke lagt merke til i det hele tatt
• Unntak lagt merke til, men summarisk ignorert
• Unntak lagt merke til og så senere glemt
• Unntak lagt merke til og skjult
• Etc.

En AI-utvikler kan bestemme at sjeldenheten ikke er noe mer enn en feil i dataene. Dette kan virke rart at noen skulle tenke på denne måten, spesielt hvis du prøver å menneskeliggjøre det ved for eksempel å forestille deg at pasienten med CSF-lekkasjen er det ene tilfellet. Det er imidlertid en kraftig fristelse at hvis alle data utenfor konteksten i bunn og grunn sier én ting, kanskje bestående av tusenvis på tusenvis av poster, og de alle konvergerer til en gjennomsnittlig sak, kan forekomsten av én merkelig databit lett (dovent!) tolkes som en direkte feil. "Feilen" kan da bli forkastet av AI-utvikleren og ikke betraktet innenfor det ML/DL-en trenes på.

En annen måte å takle et unntak på vil være å avgjøre at det er en uverdig sak. Hvorfor bry deg med én sjeldenhet når du kanskje haster med å få en ML/DL opp og går? Kast ut ytterpunktet og gå videre. Ingen tanke går nødvendigvis på konsekvensene nedover veien.

Enda en tilnærming innebærer å brette unntaket inn i resten av gjennomsnittssaksmiljøet. AI-utvikleren endrer dataene for å passe innenfor resten av normen. Det er også en sjanse for at AI-utvikleren kanskje ikke legger merke til at unntaket eksisterer.

ML/DL kan rapportere at unntaket ble oppdaget, som da AI-utvikleren er ment å instruere ML/DL om hvordan uteliggeren skal håndteres matematisk. AI-utvikleren kan sette dette på en gjøremålsliste og senere glemme å takle det eller kanskje bare velge å ignorere det, og så videre.

Alt i alt er deteksjonen og løsningen av å håndtere unntak når det kommer til AI uten noen spesifikt fastsatt eller overbevisende balansert og begrunnet tilnærming i seg selv. Unntak blir ofte behandlet som uverdige utstøtte, og gjennomsnittssaken er den rådende vinneren. Å håndtere unntak er vanskelig, kan være tidkrevende, krever et utseende av dyktige AI-utviklingsferdigheter, og ellers er det et problem sammenlignet med å klumpe ting sammen i en kjekk sløyfe i en pakke som passer for alle.

Til en viss grad er det derfor AI-etikk og etisk AI er et så viktig tema. Forskriftene til AI-etikk får oss til å være årvåkne. AI-teknologer kan til tider bli opptatt av teknologi, spesielt optimalisering av høyteknologi. De vurderer ikke nødvendigvis de større samfunnsmessige konsekvensene.

I tillegg til å bruke AI-etiske forskrifter generelt, er det et tilsvarende spørsmål om vi bør ha lover som regulerer ulike bruk av AI. Nye lover blir slått rundt på føderalt, statlig og lokalt nivå som angår rekkevidden og arten av hvordan AI bør utformes. Arbeidet med å utarbeide og vedta slike lover er gradvis.

Inn i denne spesielle diskusjonen om unntakets rolle kommer et provoserende synspunkt om at det kanskje burde være en juridisk rett knyttet til å være et unntak. Det kan være at den eneste levedyktige måten å få god tro på at noen er et unntak, innebærer å bruke lovens lange arm.

Få på plass en ny type menneskerettigheter.

Retten til å bli ansett som unntak.

Tenk på dette forslaget: «Retten til å være et unntak innebærer ikke at hver enkelt is et unntak, men at når en beslutning kan påføre beslutningssubjektet skade, bør beslutningstakeren vurdere muligheten for at subjektet kan være et unntak. Retten til å være et unntak innebærer tre ingredienser: skade, individualiseringog usikkerhet. Beslutningstakeren må velge å påføre skade først når de har vurdert om beslutningen er hensiktsmessig individualisert og, avgjørende, usikkerheten som følger med beslutningens datadrevne komponent. Jo større risikoen for skade er, desto mer alvorlig er hensynet» (av Sarah Cen, i en forskningsartikkel med tittelen Retten til å være et unntak i datadrevet beslutningstaking, MIT, 12. april 2022).

Du kan bli fristet til å anta at vi allerede har en slik rett.

Ikke nødvendigvis. I henhold til forskningsoppgaven kan den mest sannsynlige internasjonalt anerkjente menneskerettigheten være individets verdighet. I teorien vil forestillingen om at det burde være en anerkjennelse av verdighet slik at et individ og dets spesifikke unikhet skal omfattes, få deg innenfor rammen av en potensiell menneskerettighet til unntak. En betenkelighet er at de eksisterende lovene som styrer verdighetsriket sies å være noe tåkete og altfor formbare, og dermed ikke godt tilpasset den spesifikke juridiske konstruksjonen av en unntaksrett.

De som favoriserer en ny rettighet som består av en menneskerett til å være et unntak, vil hevde at:

• En slik rettighet ville ganske mye juridisk tvinge AI-utviklere til å eksplisitt takle unntak
• Bedrifter som lager kunstig intelligens vil være mer lovlig på kroken for ikke å håndtere unntak
• AI vil sannsynligvis være bedre balansert og mer robust totalt sett
• De som bruker AI eller er underlagt AI ville ha det bedre
• Når AI ikke imøtekommer unntak, vil rettslig klage lett være mulig
• Produsenter av AI vil garantert ha det bedre også (AI-en deres vil dekke et bredere spekter av brukere)
• Etc.

De som er motstandere av en ny rettighet stemplet som en menneskerettighet for å være et unntak, pleier å si:

• Eksisterende menneskerettigheter og juridiske rettigheter dekker dette tilstrekkelig og trenger ikke å komplisere saken
• En unødig byrde vil bli lagt på skuldrene til AI-produsenter
• Arbeidet med å lage AI vil bli dyrere og har en tendens til å bremse AI-fremgangen
• Det ville oppstå falske forventninger om at alle ville kreve at de var et unntak
• Retten i seg selv vil utvilsomt være gjenstand for ulike tolkninger
• De som vinner mest vil være advokatstanden når rettssaker skyter i været
• Etc.

Kort sagt, motstanden mot en slik ny rett hevder vanligvis at dette er et nullsumsspill og at en lovlig rett til å være et unntak kommer til å koste mer enn det med fordel gir. De som mener en slik ny rettighet er fornuftig påkrevd, er tilbøyelige til å understreke at dette ikke er et nullsumspill, og at til syvende og sist har alle fordeler, inkludert de som lager AI og de som bruker AI.

Du kan være sikker på at denne debatten som omfatter juridiske, etiske og samfunnsmessige implikasjoner knyttet til kunstig intelligens og unntak kommer til å være høylytt og vedvarende.

Selvkjørende biler og viktigheten av unntak

Vurder hvordan dette gjelder i sammenheng med autonome systemer som autonome kjøretøy og selvkjørende biler. Det har allerede vært ulike kritikk om den gjennomsnittlige tankegangen til AI-utvikling for selvkjørende biler og autonome kjøretøy.

For eksempel, til å begynne med, var det svært få selvkjørende bildesigner som hadde plass til de som har en form for fysisk funksjonshemming eller funksjonshemming. Det ble ikke tenkt mye på å inkludere et bredt spekter av rytterbehov. I det store og hele har denne bevisstheten økt, selv om det fortsatt uttrykkes bekymring for om dette er langt nok på vei og så omfattende omfavnet som det burde være.

Et annet eksempel på gjennomsnittssaken versus et unntak har å gjøre med noe som kan fange deg på vakt.

Er du klar?

Utformingen og utplasseringen av mange av dagens AI-kjøresystemer og selvkjørende biler har en tendens til å gjøre en stille eller uuttalt antakelse om at voksne vil kjøre i den selvkjørende bilen. Vi vet at når en menneskelig sjåfør sitter ved rattet er det selvfølgelig en voksen i kjøretøyet, per definisjon siden det å få førerkort vanligvis er basert på å være voksen (vel, eller nesten en). For selvkjørende biler som har AI som utfører all kjøringen, er det ikke nødvendig at en voksen er tilstede.

Poenget er at vi kan ha barn som kjører i biler for seg selv uten at noen voksen er til stede, dette er i alle fall mulig i tilfellet med helt autonome AI-drevne selvkjørende biler. Du kan sende barna til skolen om morgenen ved å bruke en selvkjørende bil. I stedet for at du må gi barna skyss, eller å måtte bruke en menneskelig sjåfør for en samkjøringstjeneste, kan du ganske enkelt få barna til å sette seg inn i en selvkjørende bil og bli kjørt til skolen.

Alt er ikke rosenrødt når det gjelder å ha barn i selvkjørende biler.

Siden det ikke lenger er behov for å ha en voksen i kjøretøyet, innebærer dette at barna heller ikke lenger vil føle seg påvirket eller skal vi si kontrollert av tilstedeværelsen av en voksen. Vil barna bli gale og rive opp interiøret i selvkjørende biler? Vil barna prøve å klatre eller strekke seg utenfor vinduene på den selvkjørende bilen? Hvilke andre typer krumspring kan de gjøre, som fører til potensiell skade og alvorlig skade?

Jeg har dekket den opphetede debatten om ideen om barn som kjører alene i selvkjørende biler lenken her. Noen sier at dette aldri bør tillates. Noen sier det er uunngåelig, og vi må finne ut hvordan vi best kan få det til å fungere.

konklusjonen

La oss gå tilbake til det overordnede temaet for gjennomsnittssaken versus unntaket.

Vi ser alle ut til å være enige om at det alltid vil være noen unntak fra regelen. Når en regel er dannet eller identifisert, bør vi lete etter unntak. Når vi møter unntak, bør vi tenke på hvilken regel dette unntaket sannsynligvis gjelder for.

Mange av AI-en som blir utviklet i dag er formet rundt å formulere regelen, mens utfordringene knyttet til unntak har en tendens til å bli forlatt og trukket på skuldrene.

For de som liker å være smarrig og sier at det ikke er noen unntak fra regelen om at det alltid er unntak fra regelen, vil jeg erkjenne at denne vittigheten ser ut til å være et mentalt puslespill. Nemlig, hvordan kan vi ha en regel om at det alltid finnes unntak, men da ser ikke akkurat denne regelen ut til å gjelde regelen om at det alltid finnes unntak fra regelen?

Får hodet til å snurre.

Heldigvis er det ikke nødvendig å for komplisere disse nøkterne sakene. Vi kan forhåpentligvis leve med den praktiske og viktige tommelfingerregelen som vi bør se etter og imøtekomme unntakene fra hver regel.

Det ordner seg, så la oss nå jobbe med det.