Учащиеся седьмого класса одной из школ США поняли, что их работы на онлайн-платформе для обучения Edgenuity проверяет не человек, а алгоритм. Систему на ИИ выдала скорость оценок, которые проставлялись за считанные секунды после сдачи тестов.
Матерью одного из этих учеников была учитель истории Дана Симмонс. Ее 12-летний сын получил всего 50 баллов из 100. Проанализировав его работу, оба поняли, что алгоритм можно обмануть. Главное — использовать в конце каждого ответа на вопрос список из ключевых слов, которые ожидал найти ИИ. Причем, неважно, в каком порядке и насколько логично будут располагаться эти слова. Сначала было достаточно написать пару предложений любого содержания, а потом просто добавить ключи по типу тегов.
К примеру, в ответе на вопрос: "В чем было преимущество расположения Константинополя для Византийской империи?" было достаточно ввести список ключей: "Богатство, караван, корабль, Индия, Китай, Ближний Восток". Сами слова ученик находил в статьях или видео по теме вопроса. Его мать посоветовала писать длинные ответы со множеством имен собственных, но впоследствии оказалось, что обмануть алгоритм намного проще.
Администрация Edgenuity не ответила журналистам The Verge на запросы о комментариях по поводу этой ситуации. Как предположили в онлайн-справочной компании, алгоритм могли запрограммировать именно так специально, чтобы ответы без ключевых слов получали 0 %, а с хотя бы одним таким словом — 100 %. Для некоторых вопросов число ключей в ответе линейно влияло на оценку.
Проблема заключается в том, что школы в США сейчас работают по онлайн или гибридной модели обучения в связи с пандемией. Многие из них передают определенные курсы на аутсорсинг виртуальным образовательным платформам. Edgenuity как раз является одной из них и предлагает более 300 онлайн-классов для учащихся средней старшей школы, начиная от математики и заканчивая обществознанием. Платформу используют около 20 тысяч школ.
Данный инцидент произошел в округе Лос-Анджелеса. Районная администрация инцидент также не комментирует. А родители в округе Уильямсон, штат Теннесси, уже выступили против использования платформы, утверждая, что многочисленные технологические сбои повлияли на оценки их детей.
Учащиеся других заведений поделились своим опытом обмана алгоритма Edgenuity. Так, иногда они просто копируют текст своих вопросов и вставляют его в поле ответа, так как он чаще всего содержит соответствующие ключевые слова. Один из учеников поведал The Verge на условиях анонимности, что использовал этот трюк вместе с товарищами на протяжении всего прошлого семестра и получал высший балл “почти каждый раз.” Другой ученик сообщил, что списки ключей доступны в интернете. Некоторые даже специально делали ошибки, чтобы не вызвать подозрения у учителей за стабильно высокие баллы.
По словам Симмонс, ее радует тот факт, что сын смог обмануть алгоритм и получил при этом новые навыки. Однако, отмечает она, не все ученики и их родители имеют соответствующие навыки. Поэтому мать школьника считает, что онлайн-обучение породило проблему цифрового разрыва.
См. также:
Kanut79
Чем выискивать и заучивать наборы слов подходящие для каждого ответа, то не проще ли будет просто выучить материал? :)
Vsevo10d
Ага. Еще не забудьте сначала аккуратно переписать к себе в тетрадь. Ровным почерком, написав сегодняшнее число, озаглавив тему и подчеркнув ее розовым хайлайтером. И сами себе перед зеркалом ответьте на проверочные вопросы в конце параграфа.
Учить темы ключевыми словами — это конечно, перебор, но уметь выделять причину и следствие, делать выводы, равно как и прочие задачи анализа и синтеза — вот требуемый результат процесса обучения в школе. И кстати, я бы добавил как несомненное добро использование различных источников, а не «рекомендованного» / «допущенного».
Kanut79
Ну так получается если «выделить причину и следствие, сделать выводы, равно как и прочие задачи анализа и синтеза», то ты спокойно сдашь этот экзамен без каких-то там размышлений о том как бы тебе «обмануть» ИИ. И как раз об этом и речь.
ibrin
И рассказав всё своими словами получишь неуд. от ИИ, который понимает только ключи.
nikolayv81
Еда, помню в тесте по литературе (из Бауманки вроде, 3 строки и вопрос какому автору принадлежит текст, как называется стиль и ещё что-то подобное… Тут никакой логики просто тупо память.
DaneSoul
wsf
Сломать систему куда интереснее
snowy
Проблема в том, что метрика оценивания не сильно пересекается с собственно пониманием. Понимание поощряется постольку-поскольку и если повезет.
maxzhurkin
Но ведь наверняка достаточно одного универсального набора, содержащего все или почти все ключевые слова по предмету :)
wataru
А потом написать умное развернутое сочинение, проанализировав всю геополитическую ситуацию и предпосылки, и получить 10%, потому что не те ключевые слова использовали (типа "торговцы" вместо "караваны").
delhi_heir
Особенно обидно будет тем, кто вместо «корабли» написал «дромоны» :(
katzen
Проблема же не в знаниях, а в неадекватной технологии их оценки.
ruszh
Часто эти вопросы являются мини-эссе по теме вопроса. Учителя проверяют не только знание материала, но и логичность аргументов (следуют ли они из фактов) и риторичискую композицию ответа. Когда вместо всего этого проверяют ключевые слова, или вовсе незнамо что (при копирование вопроса в ответ), становится понятно почему родители негодуют.
nikolayv81
А по литературе пишут на тему "о чём думал автор"… :) Хотя мысли вроде читать не научились...
delhi_heir
Вспомнилась история о том как, маленькая девочка прямо спросила у автора «Белеет парус одинокий» о чём он думал, а учительница поставила ей двойку, заявив, что автор не мог об этом думать.
BDI
Вот эта история(копипаста с первого найденного места):
P.S. Для тех кого как и меня смутило «Белеет парус одинокий», оказывается это не только стих Лермонтова, но и повесть Катаева…
popolznev
А вот у моего поколения такого вопроса бы не возникло — очень популярная была книга. Я старый.
BDI
Возрастом меряться не буду :).
Я ещё не стар, но и моё поколение(40+) Катаева тоже «застало», как минимум одногрупник в вузе зачитывался им. Но что поделать если я предпочитал Жуля Верна, Марка Твена и прочих Луи Буссенаров?
delhi_heir
Я почему-то думал, что стих:
из эпиграфа к повести Катаева. :)
popolznev
Дык я ж к вам не в претензии нисколько.
BDI
Да ладно, всякое бывает :).
Помню что на тренировочном вступительном в ВУЗ(после подготовительных курсов) писал сочинение по поэзии Пушкина, при этом про «Белеет парус одинокий». Только на следующий день меня осенило что я перепутал авторов, вот это было фиаско. Наверное с тех пор и отложилось авторство паруса в подкорке, до сих пор вспоминаю со стыдом :D.
alcanoid
Не надо стыдиться, не Вы один!
Kanut79
Ну тогда ещё в копилку:
rafuck
В ответе может не быть нужных ключевых слов, и, тем не менее, он будет верным.
nikolayv81
От природных способностей зависит… Кто-то всех царей по порядку с датамиирождения/смерти/коронации по имени с указанием родственников и прочей шелухи помнит, но вот за, ем оно нужно? Какая разница как их звали?
Kanut79
История это вообще-то немного не об этом. Это скорее о понимании исторических процессов, их причин и следствий.
И вроде бы даже в обсуждаемой статье заучивать даты и имена никто и не требовал. Скорее даже наоборот.
apcsb
И потом получить неуд, т.к. твой ответ не содержал ключевых слов, которые ожидал ИИ, а всего лишь их синонимы?