Исследователи AIRI выяснили, что такие эмоции, как гнев и страх, могут существенно повлиять на поведение нейросетей⤵️ Совместно с коллегами из Лаборатории искусственного интеллекта Сбера и ИСП РАН исследователи AIRI изучили влияние эмоций на решения, принимаемые большими языковыми моделями в стратегических играх и этических дилеммах. В кооперативных играх негативные эмоции чаще всего снижают готовность системы к сотрудничеству. Модели, «испытывающие» грусть, как и люди, склонны делиться с другими. Однако, если люди в состоянии страха готовы отдать больше, то поведение моделей в таких условиях остается непредсказуемым — эту эмоцию они «понимают» хуже всего. Схожая картина наблюдается и при решении этических задач: счастье улучшает качество решений, а негативные эмоции часто его снижают. Исследование подчеркивает, что необходимо изучать алайнмент мультиагентных систем, а также создавать новые бенчмарки для оценки уровня кооперации агентов на основе больших языковых моделей. 🔖Подробнее про исследование — в материале ТАСС. Результаты будут представлены в декабре на NeurIPS 2024 в Ванкувере.