В свое время великий Эрих Фромм открыл, что природа человека принципиально противоречива, дихотомична, и то, что происходит прямо сейчас, на наших глазах, заставляет вспомнить эту его глубокую мысль. Одна часть природы человека направлена на ничем не ограничиваемый прогресс, движимый рисковыми потребностями саморазвития, другая часть мотивируется нетолерантными к риску потребностями самосохранения (по П.В. Симонову). Всю предшествующую часть нашей истории люди умели как-то решать противоречие между этими двумя векторами своей природы, но сейчас наступает критический момент, когда чаша весов склонится или в сторону саморазвития – и в течение 10-20 лет будет создан AGI/ASI, и шанса переиграть это решение уже не представится (и поэтому риск здесь максимален), или в сторону самосохранения – и тогда развитие ИИ будет на международном уровне жёстко зарегулировано законодательно до такой степени, что риск создания ASI будет исключён (но тогда мы, вероятно, никогда не победим старение и не решим все другие главные проблемы). Психофизиолог академик Павел Васильевич Симонов показывал, насколько сильна часть нашей природы, связанная с потребностями в саморазвитии (причём в эволюции человечества эти потребности начинают все более и более доминировать), и в свете этого очень естественным кажется драматически нарастающий сейчас дисбаланс между возможностями и безопасностью ИИ – похоже, саморазвитие окончательно побеждает самосохранение, и человечество идёт ва-банк, рискуя всем ради шанса перейти на качественно новую ступень эволюции.