Den australske regjeringen lanserer konsultasjon for å vurdere forbudet mot "høyrisiko" AI - Cryptopolitan

Den australske regjeringen har satt i gang en uventet åtte ukers konsultasjonsperiode for å avgjøre om visse «høyrisiko»-verktøy for kunstig intelligens (AI) skal forbys. Dette trekket følger lignende tiltak tatt av andre regioner, inkludert USA, EU og Kina, for å håndtere risikoene forbundet med rask AI-utvikling.

1. juni avduket industri- og vitenskapsminister Ed Husic to artikler for offentlig gjennomgang: en om "Sikker og ansvarlig AI i Australia" og en annen om generativ AI fra National Science and Technology Council. Disse papirene ble utgitt sammen med en høringsperiode som vil forbli åpen til 26. juli.

Den australske regjeringen søker tilbakemelding på strategier for å fremme "trygg og ansvarlig bruk av AI", og utforsker alternativer som frivillige etiske rammer, spesifikke forskrifter eller en kombinasjon av begge tilnærmingene. Spesielt spør konsultasjonen direkte om visse høyrisiko AI-applikasjoner eller -teknologier bør forbys fullstendig, og søker innspill til kriteriene for å identifisere slike verktøy.

Det omfattende diskusjonsdokumentet inkluderer et utkast til risikomatrise for AI-modeller, som kategoriserer selvkjørende biler som "høy risiko" og generative AI-verktøy for å lage medisinske pasientjournaler som "middels risiko." Dokumentet understreker både de positive anvendelsene av AI i sektorer som medisin, ingeniørvitenskap og juss, så vel som potensielle skader forbundet med dypfalske verktøy, generering av falske nyheter og tilfeller der AI-roboter har oppmuntret til selvskading.

Australsk regjering vs AI

Bekymringer angående skjevheter i AI-modeller, så vel som generering av meningsløs eller falsk informasjon kjent som "hallusinasjoner" av AI-systemer, tas også opp i diskusjonspapiret. Den erkjenner at AI-adopsjon i Australia for øyeblikket er begrenset på grunn av lave nivåer av offentlig tillit. Papiret viser til AI-forskrifter implementert i andre jurisdiksjoner og Italias midlertidige forbud mot ChatGPT som eksempler.

I tillegg fremhever National Science and Technology Council-rapporten Australias fordelaktige evner innen robotikk og datasyn, men bemerker relative svakheter i kjerneområder som store språkmodeller. Det vekker bekymring for konsentrasjonen av generative AI-ressurser i et lite antall overveiende USA-baserte teknologiselskaper, noe som utgjør potensielle risikoer for Australia.

Rapporten utforsker videre global AI-regulering, gir eksempler på generative AI-modeller og antyder at slike modeller sannsynligvis vil ha vidtrekkende innvirkninger på sektorer som spenner fra bank og finans til offentlige tjenester, utdanning og kreative næringer.