«Галлюцинации» от ИИ попали в судебное дело В американском суде по делу об использовании дипфейков на выборах в Минессоте неожиданно всплыла тема влияния искусственного интеллекта. Представленный сторонниками закона документ вызвал сомнения из-за использования источников, которые, как выяснилось, не существуют… Журналисты обнаружили, что в поданных экспертом по дезинформации Джеффом Хэнкоком материалах содержались ссылки на нигде раннее не опубликованные исследования. Например, статья из Journal of Information Technology & Politics 2023 года оказалось вымышленной. Адвокаты заявили, что эти «источники» могли быть созданы языковой моделью вроде ChatGPT. Получается, не только школьники и студенты пишут свои работы с помощью больших языковых моделей… Этот случай заставляет задуматься о том, насколько можно полагаться на ИИ в аналитике и подготовке официальных документов. По крайней мере, если модель занимается именно генерацией, а не поиском или пересказом текста из существующих источников, как это делают, например, Нейро с Perplexity.