В продолжение рефлексии нарастающих «предсингулярных вайбов» (https://t.center/andrey_kiselnikov/1086, https://t.center/andrey_kiselnikov/1092) Позавчера было опубликовано новое видеоинтервью с главой OpenAI Сэмом Альтманом, где он сообщает, что, возможно, создания AGI надо ожидать уже в 2025 году и утверждает, что никаких принципиально новых идей для этого не нужно, только более творческое использование уже существующих идей. Скорее всего, он имеет ввиду, что в 2025 году будет выпущен или следующий продукт линейки «o1», или GPT-5, или продукт, объединяющий «старую» GPT-линейку и «новую» o1. Ранее он говорил, что ASI (следующий уровень после AGI) может быть создан уже «через несколько тысяч дней». Лично я раньше думал, что путь от AGI к ASI будет чрезвычайно скор, возможно, всего несколько секунд (см. знаменитые дебаты о рекурсивном «взрыве интеллекта», hard vs soft takeoff и проч.), но теперь я думаю, глядя на реальный процесс создания AGI, что этот путь может занять 5-10 лет, что хорошо бьется с прогнозом Альтмана. Это будет связано с тем, что AGI по интеллекту будет приближаться к нобелевским лауреатам (даже текущая OpenAI o1 уже пытается наступать на пятки кандидатам наук), но вот как ему будет сделать шаг дальше и стать умнее самого умного человека, причем желательно во всех сферах сразу? Скорее всего, не будет другого способа, кроме того, который уже изобрели люди – науки, причем науки, включающей фундаментальную физику (особенно ее) и все другие дисциплины. Но физика требует не просто теоретической работы, но и обязательно экспериментальной проверки на мегаустановках типа Большого адронного коллайдера и проч., для психологии / когнитивной нейронауки это сотни тысяч трудоемких экспериментов на фМРТ-сканерах и других приборах. Тут полная аналогия – Homo Sapiens изобрел науку как способ ускорить свою когнитивную эволюцию, как способ саморазвития, и это сработало (современные люди – это сверхинтеллект относительно первых людей, причем мозг развился не так сильно, как комплекс мозг + культура [в т.ч. наука]), и у AGI как нашего детища и вероятного преемника тоже не будет другого способа ускорить свою когнитивную эволюцию и саморазвиться до уровня ASI. Вероятно, именно это и станет главным «бутылочным горлышком» начинающейся сингулярности – необходимость проводить миллионы экспериментов в натурных, а не виртуальных условиях, и здесь люди, можно надеяться, все-таки смогут, если захотят (хотя все идет к тому, что не захотят) все остановить и не дать AGI тех физических ресурсов, которые будут необходимы для развертывания совершенно невиданной по масштабам экспериментальной научной работы, перед которой померкнет все, что мы видели до этого. Некоторые думают, что AGI будет так силен, что сможет провести все эти эксперименты виртуально, в виртуальных сэмулированных лабораториях, но мне кажется, что для этого просто не хватит вычислительной мощности (например, для квантовой химии и физики можно сказать, что даже если мы обратим всю материю Вселенной в фантастический «компьютрониум», т.е. максимально выжмем из всей Вселенной все ее вычислительные возможности, то мы все равно не сумеем промоделировать все явления на самом нижнем – квантовом – уровне). Конечно, многие вещи AGI сумеет открыть «на кончике пера» и в полностью виртуальных специализированных лабораториях (в т.ч. по психологии / когнитивной нейронауке), но я сомневаюсь, что этого хватит для ASI, или надо будет очень много лет, чтобы дойти до ASI таким «нефизическим» путем, без создания лабораторий на физическом уровне.