🤖 Как ИИ-детекторы убивают высшее образование
Студенты всё чаще используют LLM для написания рефератов, курсовых работ и дипломных проектов — то есть заданий, где нет непрерывного и постоянного контроля преподавателя. Система высшего образования этим недовольна и пытается бороться, а самое простое решение — выявлять и не допускать ИИ-тексты. Об этом говорится в материале о том, как ИИ-детекторы неочевидно влияют на образование.
Автор описывает сложившуюся траекторию: привычка использовать LLM формируется со школы и продолжается вплоть до дипломного проекта. Ученик ожидает сформулированную задачу, скармливает её модели и получает на выходе готовое и оформленное решение. Школа, по мнению автора, пустила процесс на самотёк, а часть учителей восхищается «новыми технологиями», считая это признаком продвинутости учеников. Первокурсники продолжают тот же алгоритм: домашние задания выполняются на LLM, практические занятия и семинары проходят в непрерывном чате с ИИ, рефераты и курсовые генерируются однострочным промптом, а особо продвинутые студенты подгружают в чат методические требования к оформлению курсовых работ.
Перед преподавателем возникает выбор: садиться со студентом, задавать вопросы, просить объяснить ряд моментов, давать индивидуальное задание и разбирать его — при очереди не менее чем из ста студентов, — либо прогнать текст через первый попавшийся ИИ-детектор и сказать: «Это сгенерировано, переделывайте». В большинстве случаев студент засовывает свой текст в тот же детектор и начинает экспериментировать: если сократить предложение, убрать причастные обороты, изложить список сплошным текстом или заменить термин более простым синонимом, текст становится рваным и косноязычным, но детектор показывает 100% человека.
Автор фиксирует парадокс: высшая школа учила студентов писать связно, аргументированно и с использованием строгой терминологии, а теперь руками ИИ-детекторов вузы косвенно стимулируют студентов имитировать косноязычие — просто потому, что гладкий академический слог обладает низкой перплексией и регулярно маркируется детекторами как машинный. В обучении нейросетей эта ситуация знакома ML-инженерам и называется взломом награды (reward hacking). Качество работы студента не будет зависеть от качества работы ИИ-детектора: даже при его 100% надёжности результат не изменится.
Отдельно автор обращает внимание на защиту дипломных проектов: дипломный руководитель или комиссия обязаны проверять понимание студентом своей работы, но наличие официальных ИИ-детекторов их расхолаживает. Полученное «добро» от детектора позволяет говорить о самостоятельной работе студента, не задавать неудобные вопросы и исходить из того, что студент понимает написанное. Если же стоит вопрос о понимании своего проекта, ИИ-детекторы бесполезны и даже вредны, поскольку за деньги дают ложное ощущение самостоятельной работы студента.
Категория: ИИ
Теги: #ИИ #AI #Нейросети #Искра