​​Станет ли ИИ Големом 21 века – 2 Условия создания «как бы живого существа» Человечество тщетно спорит по двум вопросам: ✔️ Когда искусственный интеллект (ИИ) во всем превзойдет нас, превратившись в Супер-ИИ? ✔️ Что после этого произойдет: - с помощью Супер-ИИ люди совершат прорыв в рай цифрового бессмертия и всеобщего изобилия? - или Супер-ИИ истребит нас за ненужностью, создав на Земле новую супер-цивилизацию машин? О том, что ответа на эти вопросы не существует, ибо сама их постановка ошибочная, мною написано много (например, «Техносингулярность становится технорелигией – 1 и 2). Но есть воистину сакраментальный вопрос – как определить, что мы создали искусственное, но, как бы, живое своенравное существо (способное хотеть и стремиться), а не очередной, пусть и очень сложный инструмент (алгоритм или робота) для достижения наших собственных целей? Стюарт Кауффман – современный гений уровня Аристотеля, - совместно с Андреа Роли – исследователем ИИ и сложных систем из Болонского университета, - впервые смогли ответить на этот сакраментальный вопрос. Развивая идеи гения ХХ века – пионера в исследовании сложных систем Уильяма Эшби, - изложенные им в прорывной монографии «Конструкция мозга», Кауффман и Роли смогли определить минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа», способного эволюционировать в меняющейся среде обитания. 1. Способность «как бы живого искусственного существа» различать, что ему полезно/выгодно, а что нет ("что такое хорошо и что такое плохо", - по выражению Эшби). Эта способность заключается в умении классифицировать релевантную информацию из окружающей среды. Данное умение необходимо для создания смыслов, определяющих, что важно для выживания организма в его экологической нише, и направляющих эволюцию специализированных сенсоров. Последние необходимы для улавливания паттернов и определения корреляций между ними, которые затем получают названия, превращаясь в семантическую информацию. 2. Помимо названной в п. 1 способности, «как бы живое искусственное существо» должно уметь правильно использовать эту информацию. Как следствие, должны быть разработаны механизмы и средства для действий в мире. В роботизированных терминах можно говорить об исполнительных механизмах и эффекторах, но Кауффман и Роли также включают сюда способность принимать решения и действовать, т.е. иметь политику управления, которая подлежит адаптации и изменениям, согласно принципу "что такое хорошо и что такое плохо" из п. 1. Названный набор свойств «как бы живого искусственного существа» авторы используют в привязке к 3м важнейшим факторам эволюции. Доступность семантической информации. Это не семантика Шеннона, а корреляции в окружающей среде, полезные для существа, поскольку несут в себе знания. Доступность – ключевое понятие в биосемиотике, отличной от семиотики компьютеров, оперирующих синтаксисом (битами), а не семантикой. Но мир - это не алгоритмы с операциями над битами, кодирующими символы. Мир - это шишки и вмятины, голод и боль … Это и есть семантика по Кауффману. Создание смыслов путем анализа «смежного возможного», т.е. через новые возникающие функции и динамические паттерны, которые оказываются полезными, но их невозможно заранее предсказать (как использование отвертки неопределенно и непредсказуемо) Критичность - динамический режим на границе между порядком и хаосом. «Как бы живые искусственные существа» должны быть спроектированы так, чтобы критические динамические режимы были для них «хорошо»). 1я часть – Станет ли ИИ Големом 21 века? #ИИ #Эволюция Golem by Warren Criswell