Microsoft подвел итоги работы по безопасности продуктов на основе генеративного AI и сделал выводы (paper by Microsoft Research): 1. Понимайте, что может сделать система и где она применяется, 2. Чтобы сломать AI-систему не нужно вычислять градиенты, 3. Al red teaming не является бенчмаркингом безопасности, 4. Автоматизация может помочь охватить больше рисков, 5. Человеческий фактор команды Al Red имеет решающее значение, 6. Вред от AI может появится везде, но его трудно измерить, 7. LLM усиливают существующие риски безопасности и создают новые 8. Работа по обеспечению безопасности систем Al никогда не будет завершена