DARPA запускает программу по защите военных ИИ-систем от взлома DARPA опубликовало новый запрос информации (RFI). Американские военные всерьез озаботились уязвимостями своих систем с искусственным интеллектом. В документе DARPA признает, что их предыдущая программа GARD от 2019 года по защите ИИ-систем от взлома оказалась недостаточной. Она рассматривала только идеальные лабораторные условия, когда у противника есть полный доступ к системе. Но реальность оказалась сложнее - их конкуренты могут действовать различными способами, не имея прямого доступа к программному коду. Теперь американские военные ищут новые инструменты для тестирования безопасности своих ИИ-систем в реальных боевых условиях. Особенно их интересуют методы кибератак, радиоэлектронной борьбы и даже физического воздействия на сенсоры и датчики. Примечательно, что они хотят проверять не только сами алгоритмы ИИ, но и всю инфраструктуру их разработки и развертывания. Отдельное внимание уделяется созданию физических объектов, способных обмануть системы распознавания - от специальной ткани с динамически меняющимся рисунком до 3D-конструкций, невидимых для радаров и лидаров. По сути, речь идет о разработке нового поколения средств маскировки. Анализируя документ, можно сделать несколько выводов. Во-первых, американские военные серьезно обеспокоены надежностью своих ИИ-систем. Во-вторых, они готовятся к противостоянию с технологически развитым противником, способным проводить сложные комплексные атаки. И в-третьих, США активно ищут новые способы защиты и нападения в сфере военного ИИ. Похоже, Пентагон готовится к войнам будущего, где основную роль будут играть роботизированные системы с ИИ. И ключевым фактором победы станет способность защитить свои системы и нейтрализовать системы противника. 🔒DARPA&CIA