Главная табличка для изучения на 2025 год: прогнозируемые этапы пути к сверхинтеллекту Источник: Morris et al. (2024). Levels of AGI for Operationalizing Progress on the Path to AGI. https://arxiv.org/abs/2311.02462 Ключевой тренд последних недель – практически все теперь начинают говорить именно о сверхинтеллекте (ASI), а не об AGI, т.е. планка задирается максимально высоко, и достижение AGI теперь скорее понимается просто как промежуточный этап перед достижением ASI, а не как самостоятельная цель. Илья Суцкевер, научному гению которого OpenAI обязана своим стремительным взлетом, так и назвал свой основанный в 2024 году независимый стартап "Safe Superintelligence Inc.", причем в анонсе начала его работы он использовал такие выражения: "Superintelligence is within reach. Building safe superintelligence (SSI) is the most important technical problem of our time. We have started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence". Суцкевер употребляет здесь оборот "straight-shot", говорящий о том, что он уже в целом представляет себе прямой путь непосредственно к сверхинтеллекту (скорее всего, это будет дальнейшее масштабирование механизма пошаговых рассуждений, т.е. непосредственно масштабирование именно мышления), и весь список его предшествующих совершенно феноменальных результатов говорит о том, что это не пустые слова и к ним надо относиться серьезно. Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic говорят примерно такие же вещи. В общем, уже очевидно, что в уходящем 2024 году человечество пошло в полный ва-банк (см. https://t.center/andrey_kiselnikov/1005) и решило рискнуть всем ради достижения мечты, и не позже 2035 года все мы непосредственно ощутим результаты этого выбора.