Смотреть в Telegram
Утром во вторник, еще до начала выборов, я писал о чувстве вступления в фазу финального предсингулярного сверхускорения научно-технического прогресса и Большой Истории / Глобальной эволюции в целом. Результаты вторничных выборов полностью подтверждают это ощущение – новая избранная администрация для повышения конкурентоспособности обещает дерегулировать развитие ИИ и отменить ограничивающие развитие ИИ акты уходящей администрации. На глобальном уровне это вызовет эффект домино – все другие игроки, чтобы не отстать, тоже будут вынуждены использовать более рисковые, но более конкурентоспособные стратегии развития ИИ, т.е. не вводить регулирование. Все это может существенно ускорить создание сверхинтеллекта и технологическую сингулярность по сравнению с альтернативной ситуацией – когда все международные игроки кооперируются, синхронно вводят жесткую регуляцию развития ИИ и договариваются совместно стараться не допустить создания сверхинтеллекта и перехвата им контроля у человечества. Т.е. человечество продолжает максимально рисково идти ва-банк, презрев самосохранение ради невероятных возможностей развития, которые потенциально (с неизвестной вероятностью) может принести нам или нашим постчеловеческим преемникам создание сверхинтеллекта (победа над старением, всеобщее изобилие, доминирование творческого компонента в жизни и т.д. и т.п., недавно и глава OpenAI Сэм Альтман, и глава Anthropic Дарио Амодеи по очереди очень оптимистично высказались об этом). Причем складывается ощущение, что если новая администрация после январской инаугурации действительно начнет систематически дерегулировать ИИ (что не факт, возможно, они одумаются, ранее Маск, который теперь будет советником по ИИ, высказывался за регулирование и даже в марте 2023 года, после выхода GPT-4, подписывал знаменитое коллективное письмо о необходимости полугодового моратория), то это станет точкой невозврата – далее уже по целому комплексу причин вводить жесткое регулирование будет поздно, неэффективно, и ситуация станет развиваться в режиме неконтролируемого схода снежной лавины в горах, что, собственно, и является метафорой старта сингулярности. Т.к. новая администрация с ее настроем на дерегуляцию будет у власти целых четыре года (которые, судя по всему, станут во всех смыслах ключевыми), то я бы сильно сдвинул вниз свой личный прогноз по достижению сверхинтеллекта и началу сингулярности таким образом: 2030 год – оптимистичная оценка снизу, 2035 год – самая вероятная оценка, 2040 год – консервативная оценка сверху. В проекции психологии и когнитивной нейронауки это означает, что осталось, скорее всего, всего около 10-15 лет, чтобы постараться успеть «вдохновить» на самом низком и «нестираемом» уровне архитектуру будущего искусственного сверхразума архитектурой психологических и мозговых механизмов просоциального, мотивированного эмпатией, состраданием и другими морально-этическими ценностями поведения человека, и этим повысить шансы на позитивный для людей исход перехода эволюции интеллекта и сознания на следующий (постсингулярный) уровень.
Love Center - Dating, Friends & Matches, NY, LA, Dubai, Global
Love Center - Dating, Friends & Matches, NY, LA, Dubai, Global
Бот для знакомств