Свежая новость про самореплицирующийся ИИ.
Сингулярность все ближе.
Важно, правда, отметить, что у ИИ-систем вообще и языковых моделей в частности (типа ChatGPT / Claude / etc) нет «воли» и «мотивации» к саморепликации — они сделали это потому им исследователи промт такой задали.
Впрочем, мы не очень понимаем что такое «воля» и «мотивация» у нас самих и откуда она берется, так что ее возможное появление как эмерджентного свойства у LLM (и особенно агентов) вполне реально и может случиться тогда, когда мы меньше всего этого ожидаем.
И это уже
иногда происходит.
https://t.center/theworldisnoteasy/2065