АИ

Студенти разбијају алгоритме аутоматског оцењивања АИ за боље оцене

Студенти разбијају алгоритме аутоматског оцењивања АИ за боље оцене


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Замислите да сте се вратили у школу и видели како вам оцена прелази са Ф на А + након што сте укуцали избор одређених речи у поље током онлајн теста. Ове речи немају кохезивну структуру, нити стварају реченицу. Помислили бисте да је то лудило!

Али након што су открили да су њихови тестови на мрежи оцењивани алгоритмима интелигенције, одређени број ученика у САД пронашао је начин да превари систем и пређе са ниских оцена на најбоље.

Тхе Верге је први известио о причи.

ВИДИ ТАКОЂЕ: ЕТИКА АИ: КОРИСТИ И РИЗИЦИ СИСТЕМА ВЕШТАЧКОГ ОБВЕШТАВАЊА

Забринути родитељ, Дана Симмонс, гледала је како њено дете Лазаре полаже мрежни тест, јер је брзо схватило да га АИ алгоритам оцењује по тхе Верге. Оцена је додељена чим је Лазаре предао тест, што ниједан човек није могао да учини.

Након прегледа тачних одговора, Симмонс је схватио да Едгенуити, мрежни систем аутоматског оцењивања, скенира одговоре ученика тражећи кључне речи - ако се оне не прикажу, оцена је ниска, али ако су оне тамо (не било да су написани пуним реченицама), оцена је била висока.

Симмонс и Лазаре су смислили начин да преваре систем. Да би одговорио на питање, Лазаре сада пише две редовне реченице праћене низом потенцијално релевантних кључних речи. Како је Лазаре објаснио тхе Верге, обично пише речи написане у питању или поменуте у видеу питања.

Ажурирање алгоритма. Провалио је: две пуне реченице, праћене салатом речи од свих могуће применљивих кључних речи. 100% на сваки задатак. Студенти на @ЕдгенуитиИнц, ево ваше карте. Прешао је из Ф у А +, а да ништа није научио.

- Дана Симмонс (@ДанаЈСиммонс) 2. септембра 2020

Лазаре је само један од многих ученика који су схватили ову методу.

С обзиром на број онлајн предавања и тестова који се тренутно одвијају на мрежи, овај тип алгоритма АИ може бити разлог за забринутост. Студенти више не морају заправо да уче за своје тестове све док смисле начин да преваре систем АИ користећи кључне речи.

Још један начин да се на то гледа, можда би био рећи да би ово могло бити добро учење и вежбање у будућности, јер ће деца бити добро постављена у будућности ако буду добро разумела рачунарске системе од малих ногу.


Погледајте видео: Informatika. - Algoritam sortiranja (Децембар 2022).