За 18 месяцев до конца света. Обращение компании Anthropic к правительствам. Это сигнал тревоги от одного из лидеров разработки самых мощных современных ИИ. Компания Anthropic призвала правительства «срочно принять меры по политике ИИ в течение следующих 18 месяцев», поскольку «окно для упреждающего предотвращения рисков быстро закрывается». Возможность реализации преимуществ ИИ и одновременного снижения ИИ-рисков, растает уже через 1.5 года, - пишут авторы обращения. А когда окно возможностей закроется – будет поздно пить боржоми. Мир окажется в худшем из возможных вариантов: прогресс будет тупо тормозиться рефлекторным регулированием, а риски при этом будут только расти. Авторы обращения реалисты. И они знают, о чем говорят, гораздо лучше большинства своих потенциальных критиков. • Они не пытаются давать прогнозы о сроках появления AGI. • И не спекулируют на гипотезах о возможной злонамеренности продвинутого ИИ. Вместо этого, специалисты Anthropic: ✔️ исходя из уже достигнутой скорости расширения и углубления возможностей своих ИИ-моделей, ✔️ и трезво оценивая, каких возможностей они (своими руками и своей головой) смогут достичь в новых ИИ-моделях за 18 мес (с учетом доступного им финансово и физически оборудования), – приходят к такому выводу. Этих возможностей может быть вполне достаточно, чтобы злодеи, фанатики или идиоты могли с помощью ИИ создавать реальные угрозы (химические, биологические или кибернетические) здоровью и жизни тысяч и миллионов людей. А способов превентивного предотвращения этого кошмара у правительств не будет. Все аргументы и факты изложены в документе на 13 мин чтения The case for targeted regulation, о котором в Рунете пока ни слова. #ИИриски