Rasende bekymringer over at generativ AI ChatGPT får studenter til å jukse mye når de skriver essays, skaper trollbundet oppmerksomhet for AI-etikk og AI-lover

Er det skrevne essayet av moderne studenter en aldri mer?

Går den angstfylte studentoppgaven febrilsk ut av vinduet?

Det er brouhahaen som har brøt ut i et fullstendig oppstyr nylig. Du skjønner, utseendet til en AI-app kjent som ChatGPT har fått mye oppmerksomhet og har også fått mye sinne. For min omfattende dekning av ChatGPT, se lenken her. For min pågående og omfattende dekning av AI-etikk og AI-lov, se lenken her og lenken her, bare for å nevne noen få.

Hovedsaken til ropingen og brølingen er at denne typen AI, vanligvis referert til som generativ AI, vil være dødsstøtet for å be elevene gjøre oppgaver i essaystil.

Hvorfor det?

Fordi det siste innen generativ AI er i stand til å produsere tilsynelatende flytende essays bare ved å skrive inn en enkel melding. Hvis du skriver inn en linje som "Fortell meg om Abraham Lincoln", vil AI generere et essay om Lincolns liv og tider som ofte er godt nok til å forveksles med å ha blitt skrevet helt og utelukkende av menneskehender. Videre, og her er den virkelige kickeren, vil ikke essayet være en duplikat eller merkbar kopi av noe annet som allerede er skrevet om samme emne. Essayet som produseres vil i hovedsak være en "original" så langt enhver tilfeldig inspeksjon vil fastslå.

En student som står overfor en skriveoppgave kan bare påkalle en av disse generative AI-appene, skrive inn en melding, og vips, hele essayet deres er skrevet for dem. De trenger bare å klippe ut og lime inn den automatisk genererte teksten i et tomt dokument, i det skjulte slenge navnet og klasseinformasjonen inn på det, og med litt av en ganske modig bravader gå videre og slå den inn som sitt eget arbeid.

Sjansene for at en lærer kan si at essayet er skrevet av AI og ikke av studenten er nesten lik null.

Skandaløst!

Overskrifter har fort forkynt at vi har nådd den bitre enden med å la studenter skrive essays eller gjøre egentlig alle slags skriveoppgaver utenfor klassen. Den eneste måten å takle situasjonen på ser ut til å være å bruke essayskriving i klassen. Når elevene er i et kontrollert miljø som et klasserom og antar at de ikke har tilgang til bærbare datamaskiner eller smarttelefoner, vil de finne seg selv begrenset til å skrive essays på gammeldags måte.

For å avklare, den gammeldagse måten betyr at de må skrive utelukkende ved å bruke sine egne noggins.

Enhver form for essay utført utenfor klasserommet vil umiddelbart bli mistenkt. Skrev studenten essayet eller gjorde en AI-app det? Som nevnt vil essayet være så godt skrevet at du ikke uten videre kan oppdage at det er skrevet av en maskin. Stavemåten vil være upåklagelig. Syntaksen vil være enorm. Diskurslinjen og potensielle veilede argumenter vil være overbevisende.

For pokker, på en måte kan du foreslå at den generative AI vil vippe sin velkjente hånd ved å lage et essay som er utenfor evnene til studenten som velger å ta denne uhyggelige veien. En lærer kan bli mistenksom rett og slett fordi essayet er litt for godt. En kyndig lærer ville bli fristet til å gjette at eleven ikke kunne ha skrevet en så elegant og lufttett prosa. Interne alarmklokker begynner å ringe.

Selvfølgelig vil det være stygt å utfordre en student om essayet sitt, og det kan ha negative konsekvenser.

Anta at studenten skrev essayet nøye, helt alene. De kan ha dobbelt- og trippelsjekket det. Det er også en sjanse for at de kanskje har fått en venn eller bekjent til å ta en titt for å finne noe som trenger ekstra polering. Alt i alt er det fortsatt essayet deres som skrevet av dem. Se for deg en lærer som stiller denne seriøse og flittige studenten, spisse spørsmål om essayet. Forlegenheten og irritasjonen over å bli anklaget for juks er til å ta og føle på, selv om læreren ikke kommer med en slik påstand. Selve konfrontasjonen er nok til å undergrave aktelsen til studenten og få dem til å føle seg falskt baktalt.

Noen insisterer på at enhver lærer med mistanker om forfatterskapet til et essay burde be studenten forklare hva de skrev. Antagelig, hvis essayet ble skrevet av studenten, kan den aktuelle studenten forklare det tilstrekkelig. Lærere har gjort denne typen undersøkelser i evigheter. En student kan ha fått en annen student til å skrive essayet sitt for dem. Studenten kan ha fått en forelder til å skrive essayet sitt. I dagens verden kan studenten betale noen over Internett for å skrive essayet i hemmelighet på deres vegne.

Derfor er det vanlig å be en student om å bekrefte forfatterskapet via en forespørsel i klasserommet, og det er ikke så farlig.

Jeg er glad du tok det opp.

Å forsøke å grille en student mildt eller beviselig er ikke en fullt så enkel lakmusprøve som du kanskje tror. Studenten kunne ha studert det AI-produserte essayet nøye og forberedt seg på et potensielt avhør.

Tenk på det på denne måten. Studenten genererer først essayet med bare et trykk på en knapp. Studenten bruker deretter massevis av tid som de ville ha brukt til å skrive essayet i stedet for å undersøke og studere essayet omhyggelig. Etter en stund er ordene nesten helt forpliktet til minnet. Studenten lurer nesten seg selv til å tro at de faktisk skrev essayet. Denne inntrykk av selvtillit og bevissthet kunne lett få dem gjennom lærerledet gransking.

Aha, noen sier med litt motpol til frykten for generative AI-apper, merk at studenten faktisk "lærte" noe ved å ha generert essayet. Visst, studenten gjorde ikke benarbeidet for å undersøke emnet, og de komponerte heller ikke essayet, men ikke desto mindre, hvis de studerte essayet nøye, ser det ut til å vise at de har lært om det tildelte emnet. Studenten som forplikter seg til å lære essayet om Lincoln utenat, har antagelig lært noe vesentlig om Lincoln.

Læring har skjedd.

Oi, lyder replikken, oppgaven var sannsynligvis en todelt prosess. Å lære om Lincoln kan ha vært relativt sekundært. Den egentlige hensikten var å få studenten til å lære å skrive. Denne vesentlige delen av oppdraget har blitt fullstendig undergravd. Lærere tildeler ofte åpne emner og har egentlig bare som mål å få studenten til å oppleve å skrive. Du må legge ut hva du vil skrive, du må finne ut ordene du skal bruke, du må sette ordene inn i et fornuftig sett med setninger og avsnitt, og så videre. Bare å lese et AI-produsert essay stemmer overhodet ikke med det grunnleggende aspektet ved en essayoppgave.

Motstanden til dette er påstanden om at studenten potensielt lærer om skriving ved å undersøke skriften som produseres av AI nøye. Studerer vi ikke alle skrivingens stormestere for å se hvordan de skriver? Vårt forfatterskap er et forsøk på å nå slike som Shakespeare og andre store forfattere. Å studere det skrevne ordet er et gyldig middel for å finne hvordan man skriver.

Som en hard tenniskamp beveger ballen seg til den andre siden av nettet. Selv om det er bra å studere god skriving, må du til slutt skrive hvis du vil kunne skrive. Du kan ikke bare lese i det uendelige og så tomt anta at studenten nå vet hvordan han skal skrive. De må skrive, og skrive, og fortsette å skrive til de er i stand til konkret å vise frem og forbedre sine skriveevner.

Ser du hvordan dette er en stor gåte?

Vær oppmerksom på at det er omtrent en zillion eller flere vendinger på alt dette.

Jeg skal dekke noen av de mer geniale og interessante vendingene.

Justere essayet via AI-forespørsel

Etter å ha nevnt Shakespeare, her er et aspekt av generativ AI som kan være overraskende for deg. I mange av de generative AI-appene kan du si noe sånt som dette: "Skriv et essay om Lincoln som om Shakespeare skrev essayet." AI vil forsøke å generere et essay som ser ut til å være skrevet på språket som vanligvis brukes av Shakespeare i hans forfatterskap. Det er en ganske morsom og engasjerende bragd å se, og mange får et skikkelig kick ut av dette.

Hvordan forholder dette seg til studenten som "jukser" ved å bruke generativ AI til å skrive essayene sine?

I mange generative AI-apper kan du fortelle AI-en å skrive på en mindre enn fantastisk måte. AI vil forsøke å produsere et essay som er noe grovt rundt kantene. Det er syntaksproblemer her eller der. Logikken i essayet kan være nervøs eller litt usammenhengende.

Dette ville være en smart knep. Studenten tar det resulterende essayet og leverer det inn. Essayet er godt nok til å få en toppkarakter, men i mellomtiden ikke så perfekt at det vekker irritasjon hos læreren. Nok en gang har AI gjort alt benarbeidet for studenten, inkludert å gjøre essayet noe ufullkomment.

På toppen av dette lar de fleste av de generative AI-appene deg bruke appen så mye du ønsker å gjøre det. Her er hvordan det kommer til å spille. En student skriver inn at AI-appen skal lage et noe ufullkommen essay om Lincoln. Essayet er produsert. Studenten ser på essayet og innser at det fortsatt er altfor perfekt. Eleven skriver inn en annen melding som instruerer AI om å gjøre ufullkommenhetene mer uttalte.

Skum, skyll, gjenta.

Studenten fortsetter å skrive inn spørsmål og inspisere essayene som er produsert. Om og om igjen skjer dette. Til slutt får studenten AI til akkurat det riktige nivået av ufullkommenhet i essayet. Goldilocks-versjonen er oppnådd. Den er akkurat perfekt nok til å få en høy karakter, og akkurat ufullkommen nok til å unngå å vekke mistanker.

Jeg er sikker på at noen av dere smarmily sier at hvis studenten bare hadde valgt å skrive det forbannede essayet i utgangspunktet, ville de kanskje ha brukt mindre tid eller minst like mye tid på å skrive selve essayet. All denne energikrevende bruken av AI-appen kunne vært rettet mot å bare fortsette å skrive essayet.

Vel, husk, studenten har ikke det i tankene. Enkelheten av å skrive inn spørsmål og iterativt gjennomgå og velge ønsket essay er garantert mye lettere for studenten å gjøre. En time med å gjøre dette er mye mindre krevende enn å skrive essayet direkte. Smarminess i dette tilfellet må veies opp mot virkeligheten.

Hva skjer hvis andre studenter gjør det samme

Jeg vedder på at du hadde denne smarte tanken i bakhodet da du leste den foregående analysen om essays og generative AI-apper, nemlig at studenten utvilsomt vil bli fanget hvis mange andre studenter gjør det samme.

La meg forklare.

En lærer gir hele klassen i oppdrag å skrive et essay om Lincoln. Anta at 90 % av elevene bestemmer seg for å bruke en generativ AI-app for denne oppgaven. Hvis 90 % virker for deprimerende, fortsett og bruk 10 % i stedet. Bare husk at når elevene får nys om nytten av generative AI-apper, vil fristelsen til å bruke dem bli sopp.

Ok, så en betydelig prosentandel av klassen bruker en generativ AI-app. Du vil anta at studentene alle kommer til å levere omtrent det samme Lincoln-essayet. Læreren vil legge merke til når de karakteriserer det tredje eller fjerde essayet at essayene er ganske like. Dette vil være en stor pekepinn på at noe er galt.

Beklager, men du er neppe så heldig.

De fleste generative AI-apper er svært følsomme for hvordan en forespørsel er spesielt sammensatt. Hvis jeg skriver "Fortell meg om Lincoln" versus hvis jeg skriver "Fortell meg om Lincolns liv", er sjansen stor for at essayene kommer til å bli vesentlig annerledes. I første omgang fokuserer kanskje essayet produsert av AI på president Lincoln under hans periode i Det hvite hus og utelater noe om barndommen hans. Den andre oppfordringen kan produsere et essay som dekker hans fødsel til hans død.

Studentene kommer sannsynligvis ikke til å skrive inn nøyaktig hva læreren ga dem som oppfordring til essayet. Det ville virke fornuftig, som en juksemaker, å prøve varianter. Men selv om alle elevene skriver inn nøyaktig samme spørsmål, er sjansen ganske god for at hvert essay vil være noe forskjellig fra de andre.

Disse AI-appene bruker et enormt internt laget matematisk og beregningsbasert nettverk som i utgangspunktet har et bredt mønster som samsvarer med tekst funnet over Internett. Inkludert i prosessen med å generere et essay er en sannsynlighetsfaktor. Det er usannsynlig at de valgte ordene er i samme rekkefølge og nøyaktig samme ordlyd. Hvert essay som genereres vil generelt være annerledes.

Det er imidlertid en hake ved dette. Hvis det valgte emnet er ganske uklart, er det en sjanse for at noen av essayene som produseres vil ligne hverandre. Det vil delvis være fordi mønsteret i roten av teksten var tynt til å begynne med. Når det er sagt, kan måten essayet er komponert på, fortsatt være ganske annerledes. Alt jeg sier er at essensen av innholdet i seg selv potensielt kan være omtrent det samme.

Ønsker ikke å virke dyster, men du kan potensielt komme med den samme påstanden om et vanlig tema som Lincolns liv. Hvor mange forskjellige måter kan du utdype de generelle aspektene av livet hans? Hvis du på en eller annen måte sikret elever i et låst klasserom til å skrive om Lincoln og ga dem nettilgang til å forske på livet hans, tør jeg påstå at sjansene for at essayene blir litt like kan skje uansett.

Den gratis og enkle faktoren er betydelig

Hvis en student i dag ønsker å jukse ved å betale noen over Internett for å skrive essayet deres, er det veldig enkelt å gjøre det (håper det ikke sjokkerer deg, kanskje jeg burde ha gitt en utløseradvarsel på forhånd).

Problemet er imidlertid at du må betale for essayet. Det er også en liten sjanse for at du senere kan bli tatt, kanskje. Brukte du kredittkort til å betale for essayet? Kanskje bedre å bruke en eller annen form for underjordisk betalingsbehandling for å prøve å holde sporene dine klare.

Skjønnheten eller kanskje den irriterende faktoren med generativ AI er at akkurat nå er de fleste av dem tilgjengelige gratis. Ingen betaling kreves. Ingen spesiell oversikt over bruken din (vel, for å være tydelig, kan AI-appen holde styr på bruken din, spesielt siden mange av AI-appene krever at du registrerer deg med en e-postadresse, men selvfølgelig kan du forfalske det også ).

Noen mennesker antar naturligvis at du må være en AI-veiviser for å bruke en generativ AI-app.

Ikke så.

I det store og hele er generative AI-apper forbløffende enkle å bruke. Du starter AI-appen. Den gir deg en åpen tekstboks der du kan skrive inn spørsmålet ditt. Du skriver inn en melding og trykker på send. AI-appen genererer teksten.

Det handler om det.

Ingen spesialiserte dataspråk er nødvendig. Ingen kunnskap om databaser eller datavitenskap. Jeg forsikrer deg om at omtrent alle barn på skolen lett kan bruke en generativ AI-app. Hvis et barn kan skrive, kan de bruke disse appene.

Noen hevder at selskapene som leverer de generative AI-appene først bør bekrefte alderen til brukeren, antagelig for å forhindre at ikke-voksne bruker AI-en til jukseformål når de skriver essays. Hvis brukeren indikerer at de ikke er en voksen, ikke la vedkommende bruke AI-appen. Ærlig talt er det et usannsynlig forebyggingsscenario, med mindre det på en eller annen måte er vedtatt AI-relaterte lover som prøver å etablere denne typen restriksjoner. Selv om slike lover vedtas, kan du sannsynligvis komme deg rundt dette ved å bruke en generativ AI-app som er vert i et annet land, osv.

En annen uoverkommelig vinkel ville være hvis de generative AI-appene koster penger å bruke. Anta at det var et gebyr per transaksjon eller et abonnementsgebyr. Dette vil sette den generative AI-appen på nivå med de menneskene over Internett som vil skrive et essay for deg som belaster deg for å gjøre det. Arbeiderpartiet ville gå head-to-head med AI (som en side, alt dette tyder på at mennesker som for en levende skriver essays for studenter kommer til å bli erstattet av AI som gjør det samme; spørsmålet er om vi skal være triste eller fornøyde at de menneskene som lever et slikt liv ikke lenger vil være i stand til å gjøre det på den måten).

Selskapene som lager generative AI-apper ønsker absolutt å tjene penger på disse appene, selv om hvordan man gjør det fortsatt er oppe i luften. Å belaste et transaksjonsgebyr, abonnementsgebyr eller kanskje belaste per generert ord er alt på bordet. I stedet for å belaste folk, kan inntektsgenerering gjøres ved bruk av annonser. Kanskje hver gang du bruker en bestemt generativ AI-app, må du først se en annonse. Det kan være en pengeskaper.

Jeg hater å søle melk på dette, men som et middel til å overvinne studentjuks, kommer det ikke til å bli noen form for sølvkule. Ikke engang i nærheten.

Det finnes åpen kildekode-versjoner av generativ AI. Folk legger dem der ute, og andre er tilbøyelige til å gjøre appen tilgjengelig gratis. På en eller annen måte, selv om noen selskaper krever et gebyr, vil du kunne finne varianter som er gratis å bruke, selv om du kanskje må se annonser eller kanskje registrere deg og gi bort litt informasjon om deg selv for markedsføringsformål.

Hjelper Multi-Step Dette

En student velger å bruke en generativ AI-app for å produsere essayet sitt.

I stedet for å levere inn essayet umiddelbart, bestemmer studenten seg for å redigere essayet. De tar klokt nok ut noen få ord her. Sett inn noen ord der. Flytt en setning opp. Flytt en setning lenger ned. Etter litt redigering og finpussing har de nå et essay som de er klare til å levere.

Er dette essayet studentens arbeid eller er det ikke?

Jeg har brakt deg til million-dollar store ubesvarte ubesvarte spørsmål.

La oss gjøre en rask bakgrunn om juridiske rettigheter og krenkelse. Dette er et tema jeg har dekket ganske mye, som f.eks lenken her og lenken her, for eksempel.

Du vet sannsynligvis allerede noe om opphavsrett og det som er kjent som intellektuell eiendom (IP). Noen som har en opphavsrettsbeskyttet historie, er ment å beholde ulike juridiske rettigheter knyttet til den historien. De har ikke et helt jernbelagt altomfattende utseende av juridiske rettigheter. Det finnes unntak og unntak.

En av de tøffeste problemene med å krenke noens opphavsrettsbeskyttede materiale er nærheten til det du kan ha i forhold til den originale kilden. Kanskje du har lest eller sett nyhetssaker om kjente sangere og deres tekster, der noen andre skrev en sang med tilsynelatende lignende tekster og om dette var juridisk riktig eller ikke.

Jeg hadde tidligere nevnt at vanligvis produserer ikke den generative AI-appen et essay som er en kopi av annet materiale som det tidligere ble trent på ved å undersøke innhold på Internett. Sjansen er at materialet er generalisert og alt fuzzed sammen slik at det ikke lenger ligner på hva kildeinnholdet bestod av.

Vi får vente og se hvordan rettsprosessen håndterer dette. Hvis en generativ AI-app produserer et kunstverk som er visuelt åpenbart beslektet med et eller annet hentet kunstverk, vil vi sannsynligvis helle mot å anklage AI og skaperne av AI for å ha brutt opphavsretten knyttet til det originale verket. Vi kan se det med egne øyne.

Når det gjelder essays, kan dette være vanskeligere. De åpenbare tilfellene er når hele setninger og avsnitt er ord-for-ord identiske. Det kan vi alle se. Men når ordlyden er forskjellig med et minimum av forskjeller, kommer vi inn i gråsoner.

Hvor langt unna det opprinnelige materialet må det nylagde materialet være for å erklære at det er en bona fide original på sine egne fordeler?

Det er et tungtveiende spørsmål.

La oss knytte dette til studenten som bruker den generative AI-appen for essayet sitt.

Lat for øyeblikket som om et bestemt essay generert av AI-appen kommer til å bli tolket som et "originalt" essay. Jeg sier, anta at det ikke på noen tilsynelatende måte krenker andre eksisterende essays eller tekstfortellinger hvor som helst på jorden.

Eleven starter da med en original kilde til materialet. Som allerede angitt, redigerer og foredler studenten dette materialet. Ting når et punkt hvor originalen som produsert av AI-appen nå skiller seg fra den raffinerte versjonen som studenten har utviklet.

Er dette juks?

Kanskje ja, kanskje nei.

Du kan argumentere for at det er det. Studenten startet med at AI skrev essayet sitt for dem. Alt studenten har gjort er mekanisk lekt med essayet. Vi forventer at studenten skriver essayet ut av luften og bruker sin egen tøffing for å gjøre det. Det er helt klart juks å bruke AI-appen til å generere grunnlinjen deres. Tildel en "F" karakter til studenten.

Ikke så fort. Du kan argumentere for at det ikke er juks. Eleven har laget om kildematerialet. Hvis en sammenligning mellom det AI-appproduserte essayet og den studentraffinerte versjonen er en stor nok forskjell, vil vi si at studenten skrev essayet. Riktignok brukte de annet materiale i det, men kan du ikke si det samme hvis de brukte et leksikon eller en annen kilde? Denne studenten fortjener en "A"-karakter for å ha komponert et essay på egen hånd (til tross for å ha referert til annet materiale for å gjøre det).

Lærere kommer til å bli fanget midt i dette allerede irriterende spørsmålet.

En tilnærming er at en lærer kan kategorisk oppgi at studentene må liste opp alt referert materiale, inkludert hvorvidt en generativ AI-app ble brukt eller ikke. Hvis en elev ikke klarer å oppgi den generative AI som referanse, og hvis læreren finner ut at de ikke klarte å liste den opp, får eleven oppsummert en "F"-karakter på oppgaven. Eller kanskje noen skoler vil vurdere dette som en juks som gjør at eleven får en automatisk flunk. Eller kanskje utvist. Vi får se hvor langt skolene går i disse sakene.

Generelt sett er vi på vei til en hektisk verden av intellektuell eiendom og juridisk eierskap til verk som essays (tekst), kunst (bilder) og video, inkludert:

• Noen vil søke rettslig oppreisning fra generative AI-produsenter angående kildene til innhold som ble brukt av AI for å generere det produserte resultatet.
• Noen vil ta resultatet av generativ AI og vurdere resultatet som deres egne verk, og deretter prøve å søke rettslig oppreisning fra alle som krenker deres "opprinnelige" arbeid.
• Dette kan sykle rundt, slik at noen produserer utdata fra generativ AI, som blir lagt ut på Internett, og så kommer en annen generativ AI og bruker dette i sin trening for å produsere lignende verk.

Gjør et negativt til et positivt

Alt dette snakket om det dårlige ved generativ AI når det kommer til studentjuks gjør kanskje sinnet vårt forvirret, formaner noen.

Ta dette i en annen retning.

Setter du deg ned?

Kanskje lærere bør vurdere med hensikt å la elevene bruke generativ AI som en del av læringsprosessen om hvordan man skriver essays.

Jeg har tidligere skrevet om den såkalte dobbel bruk av AI, se lenken her. Tanken er at noen ganger kan et AI-system brukes til dårlige og noen ganger kan det byttes rundt og brukes til gode. Det bekymringsfulle aspektet er når noen skriver AI for godt og er lykkelig uvitende om hvor lett deres AI kan gjøres om til ondskapens spøkelse. Del av Etisk AI er erkjennelsen av at AI bør utformes slik at den ikke kan gjøres om til en forbannelse over natten. Dette er en pågående bekymring.

Tilbake til den generative AI for å produsere essays.

Jeg tok tidligere opp konseptet om at en student kan være i stand til å lære om skriving ved å se på skriftlige arbeider som allerede eksisterer. Dette gir rikelig mening. I utgangspunktet, jo mer du leser, er sjansen stor for at du utvider ditt mentale utseende mot å kunne skrive. Som nevnt tidligere, må du fortsatt skrive, siden all lesing i verden ikke nødvendigvis kommer til å få deg til å bli en god forfatter hvis du ikke øver på å skrive.

Vi kunne bruke generativ AI for å fremme denne lese-og-skrive-koblingen. La en elev med vilje bruke generativ AI. AI produserer et essay. Studenten får i oppgave å kritisere det AI-produserte essayet. Deretter får studenten i oppdrag å skrive et nytt essay, kanskje om et annet emne, men kan bruke strukturen og andre generelle elementer i det tidligere AI-genererte essayet.

Dette kan være enda mer produktivt, foreslår noen, for studenter enn å bare lese bøker eller andre tekster av forfattere som studenten ikke har tilgang til å "samhandle" med. Med AI-appen kunne studenten prøve å kjøre om og produsere det første essayet ved å bruke en rekke ledetekster, en etter en. Studenten kan fortelle AI å skrive et barebones-essay om Lincoln. Deretter ber studenten om et langt essay om Lincoln som er skrevet med en uformell stemme. Etter å ha sett det over, indikerer studenten til AI-appen å produsere en svært formalisert versjon av Lincoln-essayet. Etc.

Påstanden er at dette materielt kan hjelpe en student med å lære om skriving og hvordan skriving kan foregå.

En nylig forskningsartikkel foreslår nettopp dette poenget: "Forfatterne av denne artikkelen tror at AI kan brukes til å overvinne tre barrierer for læring i klasserommet: forbedre overføring, bryte illusjonen om forklaringsdybde og trene studenter til å kritisk evaluere forklaringer" ( i en artikkel med tittelen "New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments", Dr. Ethan Mollick og Dr. Lilach Mollick, Wharton School ved University of Pennsylvania og Wharton Interactive12. desember 2022)

For eksempel påpeker de at forbedring av læringsoverføring kan skje på denne måten: «AI er en billig måte å gi studenter med mange eksempler, hvorav noen kan være unøyaktige, eller trenger ytterligere forklaring, eller bare kan være oppdiktet. For studenter med grunnleggende kunnskap om et emne, kan du bruke AI for å hjelpe dem med å teste forståelsen deres, og eksplisitt presse dem til å navngi og forklare unøyaktigheter, hull og manglende aspekter ved et emne. AI kan gi en uendelig rekke eksempler på konsepter og anvendelser av disse konseptene, og du kan presse elevene til å: sammenligne eksempler på tvers av ulike kontekster, forklare kjernen i et konsept og påpeke inkonsekvenser og manglende informasjon i måten AI bruker konsepter på til nye situasjoner» (ibid).

Det er beslektet med det gamle refrenget, hvis du ikke kan slå dem, bli med dem.

Gjør den generative AI til et pedagogisk verktøy.

Jepp, kommer det raske svaret.

Du setter reven inn i hønsegården. Elever som ikke hadde noen anelse om hva generativ AI er, kommer nå til å bli vist det, åpent, ved åpenlyse handlinger fra en lærer og deres skoler. Hvis elevene var uvitende om mulighetene for juks, setter du det rett inn i ansiktet og hendene deres.

Det virker helt frastøtende at de som har autoritet vil introdusere studentene til et middel for juks. Du vil derfor for alltid sette de mest ærlige av studentene inn i riket av juksefristelser. Alle vil ha tilgang til juksemaskinen. De får beskjed om å gjøre det. Ingen grunn til å skjule det. Du trenger ikke å late som om du ikke bruker generativ AI. Skolen og læreren fikk deg til å bruke den.

Svaret til dette er at du blindt og uvitende må ha hodet i sanden for å tro at studenter ikke kommer til å bli kjent med generativ AI. Mens du tåpelig later som de ikke vet om det, suser de utenfor skolen for å bruke det. Ditt bedre valg er å introdusere tingen for dem, diskutere hva den kan og ikke kan brukes til, og bringe et sterkt skinnende lys til hele gåten.

Det er ganske dumt.

For de av dere som forsker på pedagogiske nyvinninger av teknologi, kan det være lurt å ta en titt på generativ AI og hvordan det kan endre naturen til pedagogiske tilnærminger og påvirke elevenes læring. Det kommer snart nok.

Bruker deteksjon for å redde oss fra ruin

Bytt hatter og la oss vurdere digitale kunstverk et øyeblikk.

Hvis du lager et digitalt kunstverk, vil du kanskje merke det på en eller annen måte slik at du senere kan se om noen har valgt å bruke eller gjenbruke kunstnerskapet ditt. En enkel måte å gjøre dette på består av å endre noen av pikslene eller prikkene i det digitale kunstverket ditt. Hvis du gjør noen få her eller der, vil utseendet til kunstverket fortsatt se ut til å være det samme for menneskers øyne. De vil ikke legge merke til de pikslene som er små og har blitt satt til en spesiell farge som bare kan sees ved nøye inspeksjon via digitale verktøy.

Du kjenner kanskje til disse teknikkene som en form for vannmerking. Akkurat som det i gamle dager var forsøk på å vannmerke papirbaserte materialer og annet ikke-digitalisert innhold, har vi gradvis sett fremveksten av digitale vannmerker.

Et digitalt vannmerke kan være skjult i bildet av et digitalt kunstverk. Hvis det kan virke påtrengende for bildet, kan du prøve å bygge inn vannmerket i filen som inneholder det digitale kunstverket (de såkalte "metadataene" til det digitale verket).

Det er et katt-og-mus-spill som kan oppstå.

Noen ugudelige kommer med og de oppdager ditt digitale vannmerke. De fjerner den. Nå kan de tilsynelatende fritt bruke det digitale kunstverket ditt uten å bekymre deg for at du senere vil kunne stikke inn i det og vise frem at det helt klart er en rip-off av innsatsen din. De skurkene!

Vi må skru opp det digitale vannmerket, noe vi kan gjøre ved bruk av kryptografiske teknikker og teknologier. Tenk på utskilte meldinger og koding.

Tanken er at vi koder det digitale vannmerket slik at det er vanskelig å finne. Det er også potensielt vanskelig å fjerne. Vi kan til og med prøve å sikre at programvare som vil vise eller tillate bruk av det digitale kunstverket først må sjekke og se at det finnes et gyldig kodet digitalt vannmerke i verket, ellers anses det som en upassende kopi. Tok deg på fersk gjerning.

Kan vi gjøre det samme for generativ AI som produserer tekst?

En hanske er lagt ned. Problemet kan imidlertid være tøffere til en viss grad enn når man vurderer digitale vannmerker for kunstverk.

Her er hvorfor.

Anta at det eneste stedet du kan plassere vannmerket er direkte inn i selve teksten. Jeg sier dette fordi teksten som genereres ikke nødvendigvis går inn i en fil. Teksten er bare tekst. Du kan klippe og lime det fra det generative AI-verktøyet. Slik sett er det vanligvis ingen metadata eller fil som vannmerket kan bygges inn i.

Du må kun fokusere på teksten. Ren tekst.

En vei ville være å snikende få den generative AI til å produsere teksten på en måte som kan spores. Som et grovt, men upraktisk eksempel, forestill deg at vi bestemte oss for å starte hver tredje setning med ordet "Og" i begynnelsen av setningen. Vi ville fortsatt generere et tilsynelatende helt flytende essay. Det eneste trikset er at hver tredje setning starter med vårt valgte magiske ord. Ingen andre vet hva vi holder på med.

En student bruker generativ kunstig intelligens for å lage det tildelte essayet om Lincoln. Eleven tar den direkte fra AI-appen og sender den til læreren på e-post. Det viser seg at studenten ventet til siste øyeblikk og var opp mot den publiserte fristen. Ikke tid til å gjennomgå essayet. Bare send den og håper på det beste.

Læreren ser på oppgaven. Anta at vi har fortalt henne at vannmerket vårt består av det magiske ordet som brukes i begynnelsen av hver tredje setning. Læreren oppdager at dette er tilfellet i denne innleverte oppgaven. Selv om det kanskje er en utrolig liten sjanse for at studenten skrev essayet, og kanskje liker å bruke dette spesielle ordet i starten av hver tredje setning, tror jeg vi rimeligvis kan være enige om at dette er svært usannsynlig, og i stedet brukte studenten sannsynligvis den generative AI å produsere essayet.

Ser du hvordan det fungerer?

Jeg stoler på at du gjør det.

Problemet nå er hvordan man kommer opp med et vannmerke som ikke er fullt så åpenbart. En student kan legge merke til at setningene ser ut til å merkelig bruke et bestemt ord. De kan gjette hva som skjer. I sin tur kan eleven flytte rundt på setninger og gjøre litt omformulering. Dette senker da stort sett dette spesielle vannmerket siden essayet ikke lenger lett blir oppdaget som skrevet av den generative AI.

Katt-og-mus-spillet presser seg nok en gang fremover.

Vi må produsere flytende tekst som på en eller annen måte inneholder et "vannmerke" på en måte som ikke lett kan skjelnes. Videre, hvis mulig, bør vannmerket fortsette å vedvare selv om essayet er litt revidert. En helsvin-revisjon vil sannsynligvis ikke tillate vannmerket å overleve. Men vi ønsker en viss redundans og elastisitet slik at vannmerket fortrinnsvis vil være synlig selv om det gjøres en del endringer i tekstområdet.

En forsker som gjør noe arbeid for selskapet som lager ChatGPT (AI-appen fra OpenAI) utforsker noen interessante kryptografiske tiltak langs disse vannmerkebetraktningene. Scott Aaronson er professor i informatikk ved University of Texas i Austin, og han holdt nylig en tale om noe av arbeidet som foregår (et transkripsjon er lagt ut på bloggen hans).

Tenk på dette utdraget der han kort forklarer den eksisterende tilnærmingen: «Hvordan fungerer det? For GPT er hver inndata og utgang en streng med tokens, som kan være ord, men også skilletegn, deler av ord eller mer – det er omtrent 100,000 XNUMX tokens totalt. I kjernen genererer GPT hele tiden en sannsynlighetsfordeling over neste token som skal genereres, betinget av strengen med tidligere tokens. Etter at det nevrale nettet har generert distribusjonen, prøver OpenAI-serveren faktisk et token i henhold til den distribusjonen – eller en modifisert versjon av distribusjonen, avhengig av en parameter kalt "temperatur". Så lenge temperaturen ikke er null, vil det imidlertid vanligvis være tilfeldighet i valget av neste token: du kan kjøre om og om igjen med den samme meldingen, og få en annen fullføring (dvs. en rekke utdata-tokens) hver gang ."

Som nevnt er det en bestemt mengde tilfeldighet med hensyn til hvilke ord som skal plasseres ved siden av essayet som blir utledet av ChatGPT-appen. Det forklarer også det tidligere poenget at hvert essay sannsynligvis vil være noe annerledes selv om det handler om samme emne. En målrettet bruk av en tilfeldig seleksjonstilnærming som er innenfor bestemte grenser løper under panseret under essaygenereringen.

Vi kommer nå til den saftige delen, den kryptografiske blandingen: "Så for å vannmerke, i stedet for å velge neste token tilfeldig, vil ideen være å velge den pseudo-tilfeldig ved å bruke en kryptografisk pseudorandom-funksjon, hvis nøkkel bare er kjent for OpenAI . Det vil ikke gjøre noen påvisbar forskjell for sluttbrukeren, forutsatt at sluttbrukeren ikke kan skille de pseudotilfeldige tallene fra virkelig tilfeldige. Men nå kan du velge en pseudotilfeldig funksjon som i hemmelighet påvirker en viss poengsum – en sum over en bestemt funksjon g evaluert ved hvert n-gram (sekvens av n påfølgende tokens), for en liten n – hvilken poengsum du også kan beregne hvis du vet nøkkelen til denne pseudotilfeldige funksjonen."

Jeg innser at det kan virke noe teknologisk fullpakket.

Essayen er at det produserte essayet ser ut til å være flytende, og du vil ikke lett kunne skjelne ved å lese essayet at det inneholder et digitalt vannmerke. For å finne ut om et gitt essay inneholder et vannmerke, må du mate essayet inn i en spesialutviklet detektor. Programmet som gjør deteksjonen vil beregne en verdi basert på teksten og være i stand til å sammenligne den med en lagret nøkkel. I tilnærmingen som beskrives, ville nøklene holdes av leverandøren og ikke ellers være tilgjengelige, og forutsatt at nøklene holdes hemmelige, kan bare det salvede deteksjonsprogrammet beregne om essayet sannsynligvis var avledet fra ChatGPT i dette tilfellet.

Han fortsetter med å erkjenne at dette ikke er idiotsikkert: «Nå kan alt dette beseires med nok innsats. For eksempel, hvis du brukte en annen AI for å parafrasere GPTs utgang—vel ok, vi kommer ikke til å kunne oppdage det. På den annen side, hvis du bare setter inn eller sletter noen få ord her og der, eller omorganiserer rekkefølgen på noen setninger, vil vannmerkesignalet fortsatt være der. Fordi det bare avhenger av en sum over n-gram, er det robust mot den slags inngrep.»

En lærer kan få tilgang til et detektorprogram som sjekker studentenes essays. Anta at saken er relativt enkel ved at læreren lar elevene sende essayene sine til læreren og den automatiske detektoren på e-post. Detektorappen informerer deretter læreren om sannsynligheten for at essayet blir laget av ChatGPT i dette tilfellet.

Nå, hvis detektoren er åpent tilgjengelig for hvem som helst, ville du ha "overpresterende" studentjuksere som ganske enkelt ville kjøre essayene sine inn i detektoren og gjøre en rekke endringer inntil detektoren indikerte en lav sannsynlighet for at essayet ble utledet av generativen. AI. Mer av katt-og-mus. Antagelig må detektoren holdes tett beskyttet av passordbruk, eller det er behov for andre måter eller metoder for å håndtere kryptografiske tilnærminger (det finnes en rekke både nøkkelbaserte og nøkkelfrie fokuserte metoder som kan brukes).

En lærer kan stå overfor muligheten for dusinvis eller hundrevis av generative AI-apper tilgjengelig for bruk på Internett. I så fall, å prøve å få alle disse til å bruke litt digital vannmerke og måtte mate et essay inn i dem alle, vel, det blir bare mer forlokkende og logistisk komplisert.

Ikke flere essays utenfor klasserommet

Et undergangs- og dysterhetsperspektiv er at kanskje lærere må forlate bruken av essayskriving utenfra. Alle essays må bare skrives innenfor det kontrollerte miljøet i et klasserom.

Dette har mange og mange problemer.

Anta at en student normalt trenger ti timer for å skrive et bestemt fullverdig essay som er et klasseprosjekt. Hvordan ville dette bli gjort i et klasserom? Skal du pakke den ut og få studenten til å skrive en liten del av essayet over en rekke dager? Tenk på vanskelighetene dette byr på.

Noen hevder at saken kanskje er overblåst.

Lærere bør gjøre som de alltid har gjort om plagiering fra elever. På forhånd erklærer læreren at plagiat er en alvorlig juksangst. Understrek at bruken av generativ AI, uansett måte, vil bli ansett som en juksehandling.

Lag straffer som har betydelig vekt, for eksempel en lav karakter, en sviktende klasse eller utvisning fra en skole hvis det kommer så langt. Krev at studentene bekrefter skriftlig for hver ekstern essayoppgave at det de har levert er arbeidet deres (gjort uten hjelpemidler som generativ AI, kopiering fra Internett, bruk av medstudenter, bruk av en forelder, betaler for å få det gjort, og så videre). Krev også at studentene lister opp alle nettbaserte verktøy som brukes i forberedelsen av arbeidet, inkludert spesifikt å merke seg spesielt generativ AI-bruk.

Læreren kan eller ikke kan bruke en detektor-app for å prøve å finne ut om det innsendte essayet sannsynligvis kommer fra en generativ AI-app. Dette er et potensielt tyngende trinn, avhengig av hvor enkle detektorene er å bruke og få tilgang til.

Lærere bør antagelig allerede iverksette tiltak for å finne ut om skriftlige essays utenfor virker legitime. Ved å gjøre essayskriving i klassen, er det en sjanse til å sammenligne og kontrastere, men innser at tiden for å skrive i et klasserom er mindre og kan også bli hemmet av begrensningen med å ikke tillate tilgang til elektronisk referansemateriale.

Poenget er at vi ikke bør ta veien for å brått kaste ut bruken av essayskriving utenfra. Noen vil beklage dette som en utslett handling og en som ser ut til å minne om å kaste ut babyen med badevannet (et gammelt ordtak, kanskje verdt å trekke seg tilbake).

Hvis skriving utenfor er fullstendig avviklet som en læringsaktivitet, er det sannsynligvis alvorlige og langvarige ulemper ved å fjerne denne tilsynelatende hverdagslige pedagogiske aktiviteten fra læreplanen. Det er en avveining involvert. Hvor mange studenter vil jukse, til tross for alle de ovennevnte kontrollene og balansene? Hvor mange studenter vil ikke jukse og vil derfor fortsette å bruke en gunstig pedagogisk tilnærming for å fremme skriveferdighetene sine?

I teorien vil forhåpentligvis prosentandelen av juksere være liten nok til at skriving utenfor fortsatt er meritterende for overvekten av studenter.

konklusjonen

AI kan være litt av en hodepine.

For lærere kan AI være både en velsignelse og en forbannelse. Uansett betyr det at lærere trenger å vite om AI, sammen med hvordan de skal takle AI-vendinger knyttet til undervisningsaktivitetene deres, som er nok en ekstra vekt på deres allerede overstrakte rygger og skuldre. Shoutout til lærere overalt.

Kanskje vi kan ønske at AI forsvinner.

Nope.

Du skjønner, vi kommer ikke til å skru klokken tilbake og fjerne generativ AI. Alle som etterlyser dette er en drømmer. Og som en side, jeg bruker ordet "Og" som det første ordet i den tredje setningen i dette avsnittet (oops, gir bort nøkkelen!), generativ AI er kommet for å bli.

Her er en oppfordring til å få i gang de heftige diskusjonene: Generativ AI kommer til å bli mer gjennomgripende og ha enda mer forbløffende og nervepirrende evner.

Mic drop.

Siste tanke for nå.

Shakespeare skrev berømt at "Å være, eller ikke være: det er spørsmålet."

Jeg forsikrer deg om at generativ AI kommer til å bli det. Det er det allerede.

Vi må finne ut hvordan vi vil at generativ AI skal komme inn i livene våre, og hvordan samfunnet vil velge å forme og veilede slik bruk. Hvis du noen gang trengte en grunn til å tenke på AI-etikk og AI-lov, vil kanskje generativ AI få deg til å søke å vite hva vi er, selv om vi ikke vet hva vi kan være (skjult Shakespeare-referanse).