AI

Studentene knekker AI-klassifiseringsalgoritmer for bedre karakterer

Studentene knekker AI-klassifiseringsalgoritmer for bedre karakterer


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Tenk deg å være tilbake på skolen og se karakteren din hoppe fra F til A + etter å ha skrevet et utvalg av spesifikke ord i en rute under en online test. Disse ordene har ingen sammenhengende struktur, og de lager heller ikke en setning. Du skulle tro det var galskap!

Men etter å ha oppdaget at deres online tester ble klassifisert av AI-algoritmer, fant en rekke studenter i USA en måte å lure systemet på og gå fra lave karakterer til de beste.

The Verge var den første som rapporterte om historien.

SE OGSÅ: ETIKK AV AI: FORDELER OG RISIKO FOR KUNSTIGE INTELLIGENSSYSTEMER

En bekymret forelder, Dana Simmons, så på at barnet hennes Lazare tok en online test da han raskt innså at en AI-algoritme vurderte den, pr. randen. Karakteren ble gitt så snart Lazare hadde levert testen sin, noe ingen mennesker kunne gjøre.

Etter å ha sett på de riktige svarene, fant Simmons ut at Edgenuity, online klassifiseringssystem, søkte gjennom studentenes svar på jakt etter nøkkelord - hvis disse ikke dukket opp, var karakteren lav, men hvis de var der (nei saken om de ble skrevet ut i full setninger), var karakteren høy.

Simmons og Lazare fant ut en måte å lure systemet på. For å svare på et spørsmål skriver Lazare nå to vanlige setninger etterfulgt av en rekke potensielt relevante nøkkelord. Som Lazare forklarte randen, han skriver vanligvis ord som er skrevet i spørsmålet eller nevnt i spørsmålets video.

Algoritmeoppdatering. Han knakk det: To hele setninger, etterfulgt av en ordsalat med alle mulige søkeord. 100% på hvert oppdrag. Studenter på @EdgenuityInc, det er billetten din. Han gikk fra en F til en A + uten å lære noe.

- Dana Simmons (@DanaJSimmons) 2. september 2020

Lazare er bare en av mange studenter som har funnet ut denne metoden.

Gitt antall online klasser og tester som foregår online for øyeblikket, kan denne typen AI-algoritme være grunn til bekymring. Studentene trenger ikke lenger å studere for testene sine så lenge de finner ut en måte å lure AI-systemet ved å bruke nøkkelord.

En annen måte å se på det, ville kanskje være å si at dette kan være god læring og praksis for fremtiden, ettersom barna vil være godt plassert i fremtiden hvis de forstår datasystemer godt fra en ung alder.


Se videoen: UCF Professor Richard Quinn accuses class of cheating Original (November 2022).