En advokat står overfor sanksjoner etter at han brukte ChatGPT til å skrive en kort full av falske sitater

Med hypen rundt AI som har nådd et febernivå de siste månedene, frykter mange at programmer som ChatGPT en dag vil sette dem ut av jobb. For en New York-advokat kan det marerittet bli en realitet raskere enn forventet, men ikke av de grunnene du kanskje tror. Som rapportert av , advokat Steven Schwartz fra advokatfirmaet Levidow, Levidow og Oberman henvendte seg nylig til OpenAIs chatbot for å få hjelp med å skrive en juridisk brief, med forutsigbart katastrofale resultater.

Schwartz firma har saksøkt det colombianske flyselskapet Avianca på vegne av Roberto Mata, som hevder at han ble skadet på et fly til John F. Kennedy internasjonale lufthavn i New York City. Da flyselskapet nylig ba en føderal dommer om å avvise saken, la Matas advokater inn en 10-siders kort redegjørelse for hvorfor saken skulle fortsette. Dokumentet siterte mer enn et halvt dusin rettsavgjørelser, inkludert «Varghese v. China Southern Airlines», «Martinez v. Delta Airlines» og «Miller v. United Airlines». Dessverre for alle involverte var det ingen som leste dokumentet som kunne finne noen av rettsavgjørelsene sitert av Matas advokater. Hvorfor? Fordi ChatGPT fabrikerte dem alle. Oops.

I en erklæring innlevert torsdag sa Schwartz at han hadde brukt chatboten for å "supplere" forskningen hans for saken. Schwartz skrev at han var "uvitende om muligheten for at [ChatGPTs] innhold kunne være falskt." Han delte til og med skjermbilder som viste at han hadde spurt ChatGPT om sakene den siterte var ekte. Programmet svarte at de var, og hevdet at avgjørelsene kunne finnes i "anerkjente juridiske databaser", inkludert Westlaw og LexisNexis.

Schwartz sa at han "angrer sterkt" på bruken av ChatGPT "og vil aldri gjøre det i fremtiden uten absolutt verifisering av ektheten." Hvorvidt han har en ny sjanse til å skrive en juridisk brief er oppe i luften. Dommeren som overvåker saken har beordret en høring 8. juni for å diskutere potensielle sanksjoner for den "enestående omstendigheten" skapt av Schwartz' handlinger.