Как отличить тексты, созданные ИИ? Поиск решения ИИ, создающий тексты в рамках образовательного процесса стал главным "пугалом" современных вузов.
Он наглядно подсветил проблему: тексты предоставляемые учащимися в качестве подтверждения достижения образовательных результатов не говорят об их способности к "деятельности" и в рамках компетентностного подхода являются недостаточным подтверждением "гарантированных знаний".
Вузы в Юго-восточной азии постепнно переходят на праксис и формативное оценивание, деятельностные практики с индустриальными партнерами. А россиские вузы в большинстве своем ищут средства "выведения на чистую. Воду" ИИ текстов...
Ну что же. Давайте рассмотрим их.
1️⃣.
Антиплагиат Наиболее распространенный подход выявления заимствований. Сервисы антиплагиата используются в частности для определения "оригинальности" содержания научных статей. Но вот проблема - чем больше текстов проверяет сервис (независимо от того кем они созданы) тем больше плагиата он будет находить. Просто изза того как выстроена архитектура. Попробуйте интереса ради написать абсолютно из головы несколько текстов на разные темы и закинуть их в антиплагиат - там найдется 10-15% "заимствований". И чем дольше мы используем сервис тем эта цифра будет больше.
2️⃣.
ZeroGPT Этот сервис определяет именно сгенерированные ИИ тексты и справляется с этой задачей достаточно неплохо.
Но стоит дать ему текст, написанный человеком и что мы видим - также высокий процент сгенерированности ИИ... Хотя казалось бы...
Причины такие же как у предыдущего решения - просто на круг не так уж и много уникальных сочетаний слов...
3️⃣.
Водяные знаки Водяные знаки - это намеренно зашиваемые в текст на момент генерации маркеры, по которым можно было бы определить ии генерацию. Например по принципу
стеганографии.
Правда чтобы это работало, необходимо чтобы все производители генеративного ИИ договорились.
Гугл решил показать пример. Он использует водяной знак DeepMind, созданный на основе технологии SynthID-Text, изменяет слова, которые выбирает модель. Подробнее можно прочитать в журнале
Nature. Но до полноценного приенения этого решения еще далековато - ждем договоренности всех остальных.
4️⃣.
ИИ для выявления пробелов в понимании Ну и наконец самое очевидное. Не пытаться выяснить что-то в тексте, который сдал студент, а задать вопросы по текст самому студенту.
Мы используем для этого ИИ-тьютор, создающий вопросы на понимание к тексту и выявляющий недостаточное понимание студента в продемонстрированных им ответах. Это фактическая замена устного экзамена выполненная тем же ии, но с совершенно иного ракурса.
Такой подход для многих вузов кажется либо слишком сложным
либо слишком инновационным. Боязнь всего нового ведет их по пути "запрещения". Но как мы ясно видим, это путь в никуда.
🔠🔠 Если вам интересен пункт 4 из данного списка - пишите в комменты, буду рад передать ваш контакт тем, кто все это настроит и организует :)
💢 ИИ и данные в образовании на канале
Дизайн Образования 
