Исследование: Влияние через личные историиСемантический интерпретатор для дескрипторов социальных сетейПентагон и Министерство внутренней безопасности профинансировали исследование в области распространения дезинформации через личные истории.
Искренний рассказ или личный анекдот часто оказываются более убедительными для аудитории, чем факты. Мы изучаем различные способы использования историй для ведения аргументации.
«Это сложная проблема, поскольку истории в сообщениях в социальных сетях могут быть короткими, состоять из одного предложения, и иногда эти сообщения могут только ссылаться на известные истории, не пересказывая их явно».
Проблемы ИИ в понимании контекстаОбъекты и символы могут иметь разное значение в разных культурах. Если модель ИИ не знает о различиях, она может совершить серьезную ошибку в интерпретации истории.
Другая сложность понимания историй заключается в том, что последовательность событий, о которых рассказывает повествование, редко излагается аккуратно и точно по порядку. Скорее, события часто встречаются частями, переплетенными с другими сюжетными линиями. Для людей-читателей это добавляет драматического эффекта; но для моделей ИИ такие сложные взаимосвязи могут создавать путаницу.
«В истории у вас могут быть инверсии и перестановки событий многими разными, сложными способами. Это одна из ключевых вещей, над которыми мы работали с ИИ. Мы помогли ИИ понять, как отображать различные события, происходящие в реальном мире, и как они могут влиять друг на друга» — говорит Финлейсон.
Интерпретация никовКоманда FIU продемонстрировала инструмент, который может анализировать никнейм пользователя, достоверно раскрывая заявленное имя человека, пол, местонахождение и даже личность (если эта информация содержится в нике).
«Имена многое говорят о пользователях и о том, как они хотят, чтобы их воспринимали», — объясняет Ислам. «Например, человек, утверждающий, что он журналист из Нью-Йорка, может выбрать имя «
@AlexBurnsNYT», а не «
@NewYorkBoy», потому что это звучит более правдоподобно. Однако оба имени предполагают, что пользователь — мужчина, связанный с Нью-Йорком».
Хотя имя пользователя само по себе не может подтвердить, является ли аккаунт поддельным, оно может иметь решающее значение для анализа общей подлинности аккаунта, особенно по мере развития способности ИИ понимать истории.
«Интерпретируя ники как часть более широкого повествования, которое представляет аккаунт, мы считаем, что имена пользователей могут стать важнейшим инструментом для выявления источника дезинформации»https://ojs.aaai.org/index.php/ICWSM/article/view/31343
