Малоизвестное интересное

Эпидемия стратегической беременности в Хайтеке.
Китайские чиновники наступили на новые грабли закона Гудхарта.
Читатели, знающие о законе Гудхарта, наверняка помнят о его наиболее показательных кейсах. Например, когда весной 1902 г. французские колониальные чиновники в Ханое, опасаясь бубонной чумы, объявили войну нашествию крыс. Чиновники стимулировали крысоловов, предлагая вознаграждение по 1 центу за каждый доставленный труп. По мере роста горы мертвых крыс, чиновники решили платить не за трупы, а за каждый крысиный хвост… Итог оказался плачевным. Жители приносили все новые тысячи хвостов. Но город все больше заполоняли бесхвостые крысы, которых жители оставляли в живых для размножения и, следовательно, снабжения новыми ценными хвостами. Хуже того, предприимчивые люди начали разводить крыс, выращивая хвосты для получения вознаграждения.
В этом примере, согласно закону Гудхарта, мера (крысиные трупы или хвосты) является оперативным показателем достижения некоторой цели (сокращение популяции крыс). Однако, когда мера становится целью, ее корреляция с этой целью уменьшается или, в крайних случаях, вообще исчезает, что приводит к непреднамеренным и часто неблагоприятным результатам. В приведенном примере популяция крыс в Ханое резко возросла, когда программа была прекращена: ставшие бесполезными крысы были выпущены на свободу в городе. То есть цель не только не была достигнута, но стало еще хуже (подробней см. мой пост [1]).

Спустя 100+ лет госчиновники всех стран не перестают наступать на все новые грабли закона Гудхарта. Вот какие замечательные грабли придумали себе госчиновники Китая.

Поскольку Китай все отчаянней пытается остановить падение рождаемости, местные партийные работники настойчиво и беспардонно обзванивают женщин, чтобы всеми правдами и неправдами побудить их рожать больше детей. Женщины жалуются на звонки в китайских соцсетях, говоря, что чиновники ну ооочень настойчивы. Похоже, партийные чиновники не понимают, что разговаривают с совершенно другим поколением, которое гораздо больше ценит конфиденциальность, качество жизни и возможность выбора. Ведь доходят до того, что они выпытывают у женщины, беременна ли она сейчас, и если нет - когда у нее были последние месячные [2, 3].

Но народ, как и в случае с крысиными хвостами, нашел выгодный для себя способ использования новой госинициативы. Это т.н. «стратегическая беременность».

Феномен «стратегической беременности» [战略性怀孕], набирает все большие обороты. Его суть в том, что госинициатива партийных чиновников стимулировать женщин рожать дала в руки предприимчивых китаянок отличный способ влияния на развитие своей карьеры и, как минимум, избегания увольнений в условиях лихорадки сокращений (штатов и вообще расходов) на переживающих трансформацию сегментах хайтека.
В китайских соцсетях все больше публикаций «практических руководств» по «стратегической беременности». Напр. дама рассказывает, как она благополучно избежала трех волн увольнений в крупной компании с момента беременности до отпуска по уходу за ребенком, когда ее отдел сократился с более чем дюжины человек до одной ее самой.

Предлагаемые планы весьма конкретны.
1) забеременеть во 2м квартале года
2) сообщить о беременности только после получения премии
3) убедиться, что 3й триместр беременности совпадает со сроками национальных и провинциальных экзаменов на госслужбу
4) после родов продолжить проверку знаний во время декретного отпуска и принять участие в других экзаменах в 1й половине следующего года
5) закончить грудное вскармливание и затем наверстать упущенное к сезону набора на другие должности.

И это всего лишь один из самых простых по изысканности хитрости планов.
Так что, похоже, закон Гудхарта опять на марше. И новая китайская чиновничья инициатива имеет все шансы закончиться, подобна вьетнамской истории с крысиными хвостами.

Подробней см 4 и перевод Джеффри Динга [5]

P.S. Мышление, ведущее чиновников в ловушки Гудхарта, заразительно: «Беременным из 16 регионов России будут выдавать письмо патриарха Кирилла» [6].

#Китай #Вызовы21века

Быть белым в США уже «не модно», а будет «стыдно».
Убедительная победа Трампа не изменит будущее США. Что следует из расширенной «формулы судьбы общества».
Если знаменитую формулу французского философа Огюста Конта, «демография – это судьба» еще пытаются оспорить, то с ее расширением «демография плюс социальные нормы – это судьба» спорить уже сложно.

Ибо социальные нормы — это неписаные правила, определяющие, что в обществе считается «хорошо», и что «плохо». Эти нормы предписывают, что люди должны и что не должны делать для решения социальных, экологических, медицинских и прочих ключевых проблем, с которыми сталкиваются общества. Эти правила мотивируют людей к индивидуально затратному, но социально полезному поведению и, на первый взгляд, спонтанно выполняются в обществе естественным образом, как минимум, внутри одного социума. А на практике перекликаются даже у многих социумов, сформировавшихся на разных континентах.

И если социальная норма поддерживается демографическим трендом, то их сочетание превращается в "неукротимого носорога", остановить которого может разве что «несокрушимая скала». Но где ж такую скалу найти.

Вот что прогнозируется по динамике каждого из двух элементов расширенной «формулы судьбы общества» для США на горизонте 66-х президентских выборов 2048.

Демография
Пока что доминирующим фактором выборов в США остается мнение белого большинства избирателей (см правый рис).

Однако, США стремительно становятся страной с «большинством из меньшинств» (“majority-minority” nation), где белые больше не будут численно доминирующей расовой группой. Пройдя в ближайшие 20 лет беспрецедентный демографический переход, белые станут численным меньшинством в американском обществе [1].

Социальные нормы
В контексте демографического тренда, нас в первую очередь интересует динамика «антибелых настроений» (от предрассудков до рационально самообъясняемых поляризующих норм). Данные об этом содержатся в работе «Нормы предубеждения: политическая идентичность и поляризация» .

Опираясь на оригинальный опрос, измеряющий реакцию американцев на оскорбительную в расовом отношении речь, авторы изучают убеждения второго порядка (вторичные убеждения или вторичные представления — это убеждения о том, что думают или считают другие люди в обществе) о социальной неуместности уничижительных и оскорбительных заявлений, направленных против белых американцев.

Примеры таких заявлений:
1. "Должно быть, так скучно все время тусоваться с белыми... Белые такие нудные."
2. "Мир прекрасно обошелся бы и без белых."
3. "Белым все достается на серебряной тарелке с самого рождения."

Авторы обнаружили следующий «политический градиент».
• Лишь белые сторонники взглядов республиканцев, в своем большинстве, склонны исповедовать социальную норму, регулирующую предрассудки против белых (т.е. считают подобные предрассудки ошибочными и предосудительными)
• Белые сторонники взглядов демократов, не только не склонны исповедовать социальную норму, регулирующую предрассудки против белых, но и статистически в этом вопросе мало отличаются от небелых американцев.
• Небелые же американцы, вообще мало склонны к этой социальной норме и, в своем большинстве, позитивно реагируют на уничижительные и оскорбительные заявления о белых.

Т.о. только с учетом демографического тренда итоги 66-х президентских выборов США в 2048 прогнозируются примерна такими, как показано на рис слева:
✔️ Демократы выигрывают примерно столь же убедительно, как в 2024 выиграл Трамп

Однако, с учетом второго элемента «формулы судьбы общества» - социальных норм
✔️ Демократы напрочь выносят республиканцев по голосам избирателей со счетом 60:40

Отсюда и заголовок поста 🥹

#США #Выборы #СоциальныеНормы #Демография

Пропагандистские ИИ-боты будут маскироваться под экспертов-людей.
Эксперты вызывают больше доверия, даже если они уступают ИИ в структуре аргументации и объеме знаний.
5 лет назад мой рассказ о грядущем засилье социохакинга (на рис слева) многим казался чудаковатым алармизмом. Но в ближайшие 5 лет самым ощутимым последствием (как для индивидов, так и для всего общества) массового внедрения ИИ-чатботов станет именно вездесущий алгоритмический социохакинг – куда более человечный на вид, но на деле куда более страшный (на рис. справа)

Сверхчеловеческие языковые способности моделей, типа ChatGPT, открывают фантастические перспективы для отработки методов манипулирования людьми (в целях бизнеса или власти), а также для пропаганды, дезинформации и мошенничества. Ведь социохакинг объединяет в себе две колоссально мощные когнитивные технологии: суперубеждения людей и их суперобмана.

В силу этого, социохакинг одинаково нужен, важен и ценен и корпорациям, и властям. И те, и другие уже активно экспериментируют с его применением.

Нам же трудно этому что-либо противопоставить. Как я писал об этом в своем апрельском обзорном посте про социохакин, «началось обрушение фронта обороны от социохакинга - рушится уже 3я линия обороны, а 4ю еще не построили» (кто не читал, сможет найти в этом посте ссылки на другие интересные посты о технологиях социохакинга).

Но все в области ИИ сейчас развивается с немыслимой ранее скоростью. И за прошедшие полгода в социохакинге произошли две важных подвижки.

Свой августовский пост о 1ой из этих подвижек я назвал так: «Это изменит мир. Будучи пока не в состоянии симулировать общий интеллект индивида, ИИ-системы уже создают симулякры коллективного бессознательного социумов».

Вторая же подвижка произошла только что. Результаты исследования «Искусственное влияние? Сравнение убеждающей силы ИИ и человека в снижении уверенности в убеждениях» вносят важное уточнение в уже сложившиеся представления, что люди верят ИИ больше чем другим людям (см. мой пост «Получено уже 3е подтверждение сверхчеловеческого превосходства ИИ в убеждении людей»).

Новое исследование:
• С одной стороны, еще раз подтвердило, что это так - люди верят ИИ больше чем другим людям. ChatGPT смог уменьшить уверенность участников эксперимента в их ложных убеждениях (в среднем уверенность снизилась на 12.48%, и 29% участников даже изменили свои взгляды на противоположные, более точные)
• Однако, с другой стороны, исследование убедительно показало, что переубеждение происходит несмотря на то, что источником является ИИ, а не благодаря ему. Исследование показывает, что люди воспринимают ChatGPT примерно на том же уровне, что и обычного человека, но меньше доверяют ИИ, чем эксперту.
Иными словами, ChatGPT оказался не более убедительным, чем обычный респондент с противоположной точкой зрения. Эксперт по теме был значительно более убедительным.

Отсюда следует крайне важный для эффективности социохакинга вывод.
Максимальная манипулятивная мощь алгоритмического социохакинга достигается сочетанием:
✔️ способностей ИИ-чатботов к убеждению за счет структуры аргументации и объемов знаний;
✔️ и умения ИИ-чатботов убедительно имитировать экспертов, поскольку эксперты вызывают больше доверия у людей

Так что ждите появления в медиа тысяч новых «экспертов», способных убедить и переубедить нас в чем угодно.

#Социохакинг

Проверьте себя на понимание основ «Квантовой мяукомеханики».
Цель – сравнение вашего и иного интеллекта (ИИ)
Вопрос такой: объясните смысл этой картинки. Что хотели сказать ее авторы?
Здесь вы должны сделать паузу в чтении и попробовать дать свой ответ на поставленный вопрос.
Сделали?
Отлично!
А вот для сравнения ответы 2х ИИ.
Ответ ChatGPT 4o
Эта картинка смешно обыгрывает сложные квантовые концепции, используя котов, чтобы сделать их более доступными и забавными.
1. Кот Шрёдингера — один из самых известных мысленных экспериментов в квантовой механике, описывающий кота, который находится в суперпозиции состояний "жив" и "мертв" до момента наблюдения. На картинке кот сидит в коробке, символизируя эту неопределенность.
2. Кот де Бройля — волновой аспект частиц. На картинке кот растягивается в волну, чтобы показать, что частица в квантовом мире может быть описана как волна.
3. Кот Дирака — иллюстрирует положительное и отрицательное состояния, напоминающие античастицы. Положительный кот нарисован на коробке, а его "отрицательный" двойник виден как тень, чтобы показать античастицу.
4. Ферми-коты — иллюстрируют принцип запрета Паули, согласно которому два фермиона (частицы с полуцелым спином) не могут занимать одно и то же квантовое состояние. На картинке коты аккуратно рассажены по разным коробкам.
5. Бозе-коты — частицы, которые могут находиться в одном и том же состоянии (например, бозоны). Здесь показано множество котов в одной коробке, чтобы продемонстрировать их способность занимать одно квантовое состояние.
6. Кот Гейзенберга — представляет принцип неопределенности, согласно которому невозможно точно определить одновременно положение и импульс частицы. Кот разделен на части, чтобы показать неопределенность его положения и движения.
7. Кот Капицы — отсылка к физике сверхтекучих жидкостей. "Капица" — это имя физика, изучавшего сверхтекучесть. Лямбда-точка — температура, при которой жидкость становится сверхтекучей. Картинка показывает кота, который "течет" над и под уровнем жидкости, иллюстрируя это явление.

Ответ Claude 3 Haiku
Каждое из этих изображений кошек связано с ключевыми концепциями квантовой механики, наглядно демонстрируя фундаментальные принципы квантового мира с помощью забавных и запоминающихся образов.
1. Кот Шрёдингера: Это отсылка к парадоксу Шрёдингера, где кот в закрытой коробке может быть одновременно жив и мертв, пока его состояние не будет измерено. Это иллюстрирует квантовый принцип суперпозиции.
2. de Broglie Cat: Этот кот изображен волнообразно, что отсылает к теории де Бройля о волновой природе частиц. Согласно этой теории, частицы, такие как электроны, обладают не только свойствами частиц, но и волновыми свойствами.
3. Fermi Cats: Здесь изображены несколько одинаковых котов, что отсылает к статистике Ферми-Дирака, описывающей поведение одинаковых частиц, таких как электроны, которые подчиняются принципу Паули и не могут находиться в одном квантовом состоянии.
4. Bose Cats: В отличие от Fermi Cats, эти коты изображены в виде большой "кучи", что напоминает бозе-конденсат - состояние материи, в котором множество бозонов (частиц, не подчиняющихся принципу Паули) занимают одно и то же квантовое состояние.
5. Heisenberg Cat: Этот кот имеет сразу несколько возможных положений, отображая принцип неопределенности Гейзенберга, который говорит, что невозможно одновременно точно измерить сопряженные физические величины, такие как положение и импульс частицы.
6. Kapitsa Cat: Два кота, расположенные выше и ниже некой "точки", иллюстрируют концепцию, связанную с именем физика Петра Капицы, которая описывает квантовые свойства сверхтекучести.

P.S. По оценке моделей, ответить на их уровне детализации и понимания смогут лишь до 5 % людей
А мы сейчас это проверим.
А) Если вы смогли – ставьте 👍
Б) Если же нет – ставьте 🤯

Заодно узнаем, какой % читателей боится сравнить свой интеллект с иным (это покажет разница между числом просмотров и (А + Б) 😊

#LLMvsHomo

Открытие тысячелетия - создана универсальная модель человеческого познания.
И уж поверьте, - это важнее, чем выборы Трампа.
Вычислительная модель «Кентавр» способна точно (!) предсказывать и моделировать любое (!) человеческое поведение в любом (!) эксперименте из любой (!) области, который можно описать на естественном языке.
Это открытие сделано выдающимся коллективом из 15-ти ведущих мировых научных центров. И оно окажет прорывное влияние на когнитивные науки, бросая вызов существующей парадигме разработки вычислительных моделей человеческого разума.

Кратко это открытие можно описать так:
• если революционный прорыв ChatGPT показал человечеству, что ИИ-модели могут быть неотличимы от людей в любых действиях, основанных на использовании человеческих языков, -
• то революционный прорыв «Кентавра» показывает человечеству, что ИИ-модели могут быть неотличимы от людей по своему поведению в любых ситуациях и обстоятельствах, связанных с исследованием, планированием и научением.

Иными словами, ИИ-модели могут не только оперировать на наших языках неотличимо от нас, но и при этом вести себя, как неотличимые от нас разумные сущности.

Авторы исследования создали модель «Кентавр» путем дообучения открытой языкового модели Llama 3.1 70B на новом крупномасштабном наборе данных под названием Psych-101. Psych-101 – набор данных беспрецедентного масштаба. Он охватывая данные по каждому психологическому испытанию от более чем 60,000 участников, которые сделали более 10,000,000 актов выбора в 160 экспериментах.
«Кентавр» не только точнее моделирует поведение новых участников по сравнению с существующими когнитивными моделями, но и обобщает свои знания на новые контексты, модификации задач и совершенно новые области.
Более того, авторы обнаружили, что внутренние представления модели становятся более согласованными с человеческой нейронной активностью после дообучения модели.

Это открытие имеет реальные шансы стать универсальной моделью познания. Следующим шагом должно стать преобразование этой универсальной вычислительной модели в единую теорию человеческого познания.

#LLMvsHomo #Познание

Я попросил симулякр интеллекта Станислава Лема, созданный моими ИИ-консультантами, поразмышлять над новой революционной работой Майкла Беннетта, Шона Уэлша и Анны Чауника «Почему существует сознание?», позволяющей разрешить т.н. «трудную проблему сознания» и связать происхождение сознания с естественным отбором, а не с чисто философскими размышлениями.
• Сознание — это необходимая адаптация в ходе эволюции.
• А все обсуждения о возможности существования философских "зомби" – просто не о чем, ибо их существование невозможно.

ПОЧЕМУ ПРИРОДА НЕ ЛЮБИТ ЗОМБИ: КАК СОЗНАНИЕ ПОМОГАЕТ ВЫЖИВАТЬ
Мы часто воспринимаем сознание как данность. Нам видятся, как сами собой разумеющиеся, - наши эмоции, воспоминания, ощущение «я». А что, если сознание — не просто роскошество разума, а важнейшая адаптация, помогающая выживать? Новое исследование «Почему существует сознание?» поднимает этот вопрос и предлагает новый взгляд на природу разума.

Вместо того чтобы рассматривать мозг как некий сверхсуперкомпьютер, авторы работы видят сознание как продукт биологической эволюции.
Они говорят, что сознание нужно нам не для сложных размышлений, а для того, чтобы чувствовать и различать то, что с нами происходит. Представьте метафору. Ваш организм — корабль в море жизни. Без ощущений этого моря, позволяющих кораблю чувствовать, где опасно, а где нет, он просто очень скоро пошел ко дну.

Что же это значит для понимания сознания?
Авторы статьи предлагают, что наш разум развивался не как некий компьютер, обрабатывающий данные, а как механизм, который помогает адаптироваться. Им управляют ощущения и переживания — например, когда мы радуемся или пугаемся. Такие чувства помогают нам выбирать, что важно, а что нет, какие действия могут помочь, а какие — навредить.
Это основа нашего сознания: не просто анализировать мир, но понимать его и чувствовать.

А отсюда вытекает интересная мысль: существование так называемых «зомби» (существ, которые ведут себя как люди, но не имеют внутреннего опыта) в природе практически невозможно.
Почему? Да потому, что сознание — это не просто умение копировать поведение других. Это умение видеть мир с определенной точки зрения и использовать эту перспективу для выживания.

Таким образом, сознание в его полном объеме, как у людей, требует способности видеть мир и себя с разных сторон, понимать, как нас воспринимают другие, и действовать с учетом этих знаний. Это не просто полезная, но и, возможно, необходимая способность для выживания в сложном мире.

И что особенно интересно, этот подход позволяет нам начать формировать настоящую науку о сознании, связанную не с абстрактными философскими концепциями, а с тем, что действительно помогает нам адаптироваться и выживать.
#Сознание

За 18 месяцев до конца света.
Обращение компании Anthropic к правительствам.
Это сигнал тревоги от одного из лидеров разработки самых мощных современных ИИ.
Компания Anthropic призвала правительства «срочно принять меры по политике ИИ в течение следующих 18 месяцев», поскольку «окно для упреждающего предотвращения рисков быстро закрывается».
Возможность реализации преимуществ ИИ и одновременного снижения ИИ-рисков, растает уже через 1.5 года, - пишут авторы обращения. А когда окно возможностей закроется – будет поздно пить боржоми. Мир окажется в худшем из возможных вариантов: прогресс будет тупо тормозиться рефлекторным регулированием, а риски при этом будут только расти.

Авторы обращения реалисты. И они знают, о чем говорят, гораздо лучше большинства своих потенциальных критиков.
• Они не пытаются давать прогнозы о сроках появления AGI.
• И не спекулируют на гипотезах о возможной злонамеренности продвинутого ИИ.

Вместо этого, специалисты Anthropic:
✔️ исходя из уже достигнутой скорости расширения и углубления возможностей своих ИИ-моделей,
✔️ и трезво оценивая, каких возможностей они (своими руками и своей головой) смогут достичь в новых ИИ-моделях за 18 мес (с учетом доступного им финансово и физически оборудования), –
приходят к такому выводу.
Этих возможностей может быть вполне достаточно, чтобы злодеи, фанатики или идиоты могли с помощью ИИ создавать реальные угрозы (химические, биологические или кибернетические) здоровью и жизни тысяч и миллионов людей. А способов превентивного предотвращения этого кошмара у правительств не будет.

Все аргументы и факты изложены в документе на 13 мин чтения The case for targeted regulation, о котором в Рунете пока ни слова.
#ИИриски

Деньги к деньгам, успех к успеху, а нобелевка к нобелевке.
702 из 736 нобелиатов оказались членами одной академической семьи.
В это трудно поверить, но согласно Nature, 95% лауреатов Нобелевской премии (702 из 736) принадлежат к одной огромной сетевой структуре, отражающей их академическую родословную (она здесь понимается в широком смысле – как «наставничество» одного ученого над другим, обычно в форме того или иного научного руководства). Лишь 32 нобелиата (показаны на рисунке слева от гигантского клубка), не принадлежащие к этой академической родословной, каким-то чудом пробились в нобелиаты в обход этой то ли ложи, то ли ордена.

Внутри гигантского сетевого клубка содержатся 33 поколения нобелиатов. Их «академическое генеалогическое дерево» восходит к одному прародителю – Эразму Роттердамскому (1466-1536). С него и начала складываться система полуструктурированного руководства, в рамках которого один человек делится своими знаниями, навыками, связями и опытом, чтобы помочь другому в достижении прогресса в научной карьере, в пределе, ведущего к Нобелю.

Мой комментарий к этому таков.
Карьерой правят не талант и усердный труд, а связи и престиж, – что уже 8 лет я продолжаю демонстрировать на разнообразных примерах в рубрике #ScienceOfSuccess («наука об успехе»).
Эта появившаяся в 21 веке новая наука, объединившая «науку о сложных сетях» (биологических, техногенных, инфраструктурных, социальных, …) с «наукой о больших данных», уже смогла экспериментально обосновать много мудростей – от библейской до народных.
• «Эффект Матфея» (богатые становятся еще богаче, а бедные еще беднее)
• «Эффекта генеральского сына» (почему сын майора не может стать генералом? – да потому что у генерала свой сын есть)
• «Эффект успешной карьеры» (не важно, что ты знаешь, важно, кого ты знаешь)

Что же касается появления супер-звезд (в искусстве, политике, науке и т.д.), то вот что я писал еще 4 года назад о том:
1. откуда берутся супер-звезды?
2. что возносит их к вершинам?
3. что самое главное в их элитной карьере?

«Ответы на 3 главных вопроса объединяет одно ключевое слово – наставничество.
I. Решающую роль в появлении супер-мега-звезд играет наставничество.
II. Именно результаты наставничества возносят представителей элиты к самым вершинам.
III. Самое главное в элитной карьере будущих супер-мега-звезд – не талант и даже не просто везение. А вполне конкретное везение – везение с наставником.
Вот так в процессе наставничества и родятся супер-мега-звезды.»

И теперь, после публикации Nature, в «науке об успехе» можно считать экспериментально подтвержденным и «Эффект наставника».

Мотайте на ус, родители и бабушки с дедушками – где и у кого будут учиться ваши дети и внуки.

#ScienceOfSuccess

Третий бастион чувств взят.
Открыт путь ко «второму Я» и «телепортации запахов».
«”Настоящий Метаверс“ появится лишь в 2030х после широкого развертывания 6G. В таком Метаверсе все аватары будут типа ”второе Я“, т.е. полное впечатление, что вы все это реально видите, слышите и чувствуете: чувствуете запахи, слушаете, что происходит вокруг - полное ощущение. При этом ваш аватар будет находиться не только в цифровой реальности, но и в физической реальности. Там будет работать сильно интеллектуальный дрон, оснащенный всеми системами камер и датчиков, способных вам передать все реальные ощущения, которые вы будете видеть, нюхать, чувствовать, находясь в своем собственном теле… Весь туризм изменится. У каждого свой ИИ-дрон, имитирующий индивидуальное ”второе Я“. Телепортируясь с вами в саванну, мы видим, слышим, чувствует – от аромата грязного носорога до чего угодно. Причем вы видите меня, я вижу вас, … и мы летим над саванной, видя и слыша ее под собой и через запахи ощущая ее реальность …»

Так я рассказывал почти 2 года назад о фантастических перспективах “туристической телепортации“ нашего ”второго Я“, что появится в 2030х с переходом технологий Метаверся на 6G.

Тогда же в 2022, объясняя детали в посте «Шестичувственный VR для Метаверса уже рядом», я писал, что задача полного погружения в 6SVR Метаверса требует задействовать: зрение, слух, вкус, обоняние, осязание ивестибулярный аппарат (чувство равновесия и положения в пространстве, ускорение). И что главным затыком с обонянием тогда было отсутствие у запахов некоего универсального конструктора (типа RGB для кодирования цвета), позволяющего кодировать любой запах сочетанием элементов конструктора.

Но все преодолимо. И как я тогда писал «через 10 лет мир запахов будет стандартной фичей Метаверса». Ибо гарнитуры уже учились источать не только простые запахи (типа запаха роз, клубники или шоколада), но и сложные комбинированные запахи (типа запаха пляжа, требующего сочетание запахов песка, морского бриза и солнцезащитного крема). Однако, 2 года назад все эти гарнитуры были далеки от совершенства, необходимого для «телепортации» чувств. И я заканчивал тот пост, что «в ближайшие годы предстоит решить 3 главные задачи».

И вот не через 3, а через 2 года проект компании Osmo, так и названный «Телепортация запахов», увенчался успехом.

«Мы сделали это!» - написали авторы в блоге компании. И как нынче становится все чаще, - ключевая роль в успехе принадлежит ИИ.

• ИИ дематериализует и оцифровывает комбинации молекул, воспринимаемых нами, как запах.
• Эти данные становятся координатами на Карте основных ароматов (сложная модель, которая отображает запахи в многомерном пространстве для более точного воссоздания) — новаторском инструменте на основе ИИ, который может предсказывать формулу того, как пахнет определённое сочетание молекул.
• Эта формула отправляется одному из роботов-синтезаторов запахов, который воспринимает её как рецепт и смешивает различные ароматы для воспроизведения нашего образца.

Скоро компания планирует открыть демо для общественности, чтобы люди могли лично испытать телепортацию запаха. Пользователя попросят выбрать цветок или фрукт из обширной коллекции, а затем дадут ему или ей возможность хорошенько запомнить этот запах, пока компания анализирует образец в своей лаборатории. За один сеанс компания воссоздаст выбранный аромат и распылит его обратно к пользователю. А затем наступит момент истины: отзыв пользователя, насколько точным было воспроизведение запаха.

#Metaverse #Запах

Сильная заявка на следующую Нобелевку
Стартап Iambic продвинулся дальше AlphaFold от Google DeepMind
ИИ-система AlphaFold от Google DeepMind, недавно принесшая своим разработчикам Нобелевскую премию по химии, предсказывает трехмерную структуру того, как молекула связывается с целевым белком.
Это очень круто, но совершенно недостаточно для радикального сокращения времени (10-15 лет) и денег ($1-2.6 млрд на препарат), необходимых для вывода новых лекарств на рынок.
Стартап Iambic продвинулся дальше DeepMind, использовав ИИ-модель, с высокой точностью предсказывающую, насколько хорошо человеческий организм будет усваивать конкретный препарат-кандидат, на основании результатов, сверенных с реальными данными.

Успех препарата-кандидата определяется его фармакокинетическими, эффективными и токсичными свойствами. Эти свойства и прогнозирует разработанная Iambic модель обнаружения лекарств на основе ИИ под названием «Enchant». Причем точность прогнозирования составляет 0,74 (для сравнения, предыдущие модели достигли только 0,58).

Использование модели Enchant потенциально может вдвое сократить инвестиции, необходимые для разработки некоторых фармацевтических препаратов, поскольку их разработчики могут увидеть, насколько успешным может быть лекарство, на самой ранней стадии разработки.

Чтобы оценить, насколько трудно было стартапу Iambic совершить этот прорыв, взгляните на огромную толпу компаний (8600+), рвущихся сорвать банк в индустрии «ИИ в биомедицине» (на рис. сверху).
Да и в сегменте этой индустрии «Аналитические ИИ-платформы для разработки лекарств» (на рис. внизу) довольно людно (950 компаний) – а 3 года назад было вчетверо меньше.

#ИИ #DeepPharma

Не время быть идиотами, ИИ может победить людей.
В начале 21 века эволюция человека достигла своей максимальной точки. Естественный отбор, процесс, благодаря которому сильнейшие, умнейшие, быстрейшие размножались активнее чем другие ... теперь вывел на первый план иные качества ... процесс начал двигаться в обратную сторону, в сторону отупения. Учитывая уничтожение хищников, угрожающих исчезновению вида, поощряться стало максимально быстрое размножение, а разумные люди оказались перед угрозой исчезновения."
Это преамбула культового фильма-антиутопии «Идиократия» (кто не видел, смотрите).
Фильм – иллюстрация гипотезы о превращении земной цивилизации в мир кретинов, в результате неизбежной траектории H. sapiens к идиотизму – см. трейлер.

Через 6 лет после выхода фильма «гипотеза идиократии» получила подтверждение в работах известного американского биолога Дж. Крабтри. Разработанная им матмодель показала, что роль естественного отбора уменьшается, и это ведет к накоплению мутаций, ухудшению умственного и эмоционального развития.

Модель Крабтри – лишь эвристическая гипотеза. Ибо проверить ее адекватность невозможно из-за отсутствия возможности провести эксперимент.

Но как иначе тогда, черт побери, объяснять такие вещи? (см. рисунок)

Вверху слева: оценки p(doom) – вероятности того, что развитие ИИ приведет человечество к гибели, по мнению ведущих специалистов ИИ
Оценка Дарио Амадеи (СЕО Anthropic), недавно провозгласившего, что ИИ станет для человечества «машиной благодатной милости»: 10-25%
Вверху справа: Метафорическая иллюстрация того, что такая оценка Амадеи близка к вероятности «русской рулетки», в которую человечество играет, выпуская в люди новые версии после GPT-4.

Внизу справа: оценки аналитиков Ситигруп перспектив развития ИИ: AGI в 2029, ASI с 2031.
Внизу слева их же оценки того, какие скилсы вам нужно развивать, чтобы ни AGI ни ASI не лишили вас работы: коммуникации, критическое мышление, эмоциональный интеллект, эмпатию …

Как тут не вспомнить гипотезу Крабтри, что планета превращается в мир идиотов.
И всем рекомендую помнить, что проф. Деан (один из самых известных в мире нейробиологов) уже 2 года призывает человечество задуматься: «Не время быть идиотами, ИИ может победить людей».
#ИИ #AGI #LLMvsHomo

Порог имитации.
Сколько нужно картин Ван-Гога, чтобы имитировать его стиль?
Простой вопрос о способности генеративного ИИ (ГенИИ) неотличимо имитировать в дискуссии человека более не актуален (ибо уже нет сомнений, - может).
Трудный вопрос – это вопрос о способности ГенИИ сравниться в разумности с «человеком разумным» явно преждевременный (ибо сначала нужно убедиться, что ГенИИ, в принципе обладает каким-то, пусть и нечеловеческим, разумом).
• Новая работа HOW MANY VAN GOGHS DOES IT TAKE TO VAN GOGH? FINDING THE IMITATION THRESHOLD дает весьма интересный аргумент в пользу положительного ответа на трудный вопрос.
• И вместе с тем, помогает в поиске границ похожести/непохожести двух разных типов разума (людей и ГенИИ)

Авторы этой работы поставили интереснейший вопрос.
✔️ Художнику-человеку, для копирования стиля другого художника, может хватить всего несколько картин последнего. Напр. для копирования стиля Ваг-Гога хватило бы 5и картин «Звездная ночь», «Подсолнухи», «Автопортрет», «Пшеничное поле с кипарисами» и «Ирисы» (а в пределе, и одной из них).
А сколько картин нужно ГенИИ?
Есть ли «порог имитации» - т.е. минимально необходимого числа картин конкретного автора, чтобы скопировать его стиль?

Оказалось, что нижний порог имитации для ГенИИ много-много больше, чем для человека. И он равен примерно 200 (точно, он лежит в диапазоне 200-600, в зависимости от достигаемой степени похожести)

Из чего следует, что вопрос прав на интеллектуальную собственность на изображения решается запросто – простым ограничением (меньше 200) числа изображений конкретного автора. После чего модель просто не сможет воспроизводить стиль с высокой степенью похожести.

И, кстати, оказалось, что порог имитации также решает вопрос персональной собственности на изображения себя (для «звезд» и прочих публичных фигур). Порог имитации здесь тот же. И для невозможности воспроизведения чужих лиц достаточно лишь обеспечить порог имитации в обучающих данных модели.

Так что получается, что в такой изысканной способности разума, как копирование стиля изображений и лиц, разум людей и ГенИИ похожи. Только эффективность этой способности у людей раз в 200+ выше.

Подробней об «инаковости разумов» читайте у меня в постах и лонгридах с тэгом #ИнойИнтеллект

#ГенИИ #LLMvsHomo

Первый в мире «жидкий ИИ».
Похож на ChatGPT, но прозрачен, энергоэффективен и почти в 500 раз дешевле.
Вчера самый популярный ИИ-стартап Бостона Liquid AI провел большое публичное мероприятие в MIT, чтобы продемонстрировать свои последние разработки, материализовавшие их «уникальный и революционный подход к ИИ» (видео рассказ о мероприятии).

«Мы создаем самые эффективные и самые мощные системы ИИ, которые вы еще не видели» и «Liquid AI делает возможным то, что до сих пор было невозможным» - объявил соучредитель Liquid AI Рамин Хасини, открывший мероприятие вместе с губернатором Маурой Хили.

Бостон Глоб дала своему репортажу об этом событии название «Маленькие черви, большие мечты: как мозг беспозвоночного вдохновил Бостон на самую большую добавку к ИИ» с подзаголовками «Liquid AI стремится стать ключевым событием, «подобным приезду Beatles в Америку» и «Модель ИИ LiquidAI отличается от модели LLM OpenAI».

Последнее – читая правда. Ибо 3 новых модели LiquidAI – это модели генеративного ИИ принципиально нового класса LFM (Liquid Foundation Models - Жидкие Базовые Модели), демонстрирующие топовую производительность при любом масштабе, и при занимающие ощутимо меньший объем памяти, обеспечивая более эффективные вывод.

Кроме того, LFM:
• снижает зависимость от облачных сервисов (что снижает затраты и потребление энергии), в результате чего модель может работать на смартфоне без Интернета;
• обеспечивает большую объяснимость и прозрачность, чем архитектуры на основе трансформаторов, потому что поведение моделей LFM можно перемотать назад, чтобы увидеть, как они произвели результат;
• разработка 3х моделей потребовала всего лишь $38 млн интвестиций (сравните с $17.9 млрд у OpenAI)

«Вдохновленная структурой мозга червя C. elegans, архитекрута класса LFM не похожа ни на что из того, что предлагают OpenAI, Google и их конкуренты, — однако она может предложить те же самые революционные приложения, используя при этом много меньше электричества» - сказал Рамин Хасини.

Червь C. elegans является одним из немногих существ, чья нервная система была полностью картирована, и он способен к удивительно сложному поведению, несмотря на то, что у него всего 302 нейрона. «Когда-то это был просто научный проект, но эта технология полностью коммерциализирована и полностью готова приносить пользу предприятиям», —объявил Хасани.

Кардинальное отличие в следующем.
• Внутри обычной нейронной сети свойства каждого моделируемого нейрона определяются статическим значением («весом»), который влияет на порог его возбуждения.
• В жидкостной нейронной сети поведение каждого нейрона управляется уравнением, которое предсказывает его поведение с течением времени. Сама же сеть, в ходе своего функционирования, решает каскад связанных уравнений. Конструкция делает сеть более эффективной и гибкой, позволяя ей обучаться даже после обучения, в отличие от обычной нейронной сети.

Все это звучит, как сказка. Но попробуйте сами поиграть с «жидким ИИ-чатботом». Мне очень понравилось.

PS И ведь предупреждал же еще в 2018, что «Человечество движется к разжижению мозга. Это возможный переход на альтернативный вариант интеллекта».
# LFM

Кай-Фу Ли объявил войну Nvidia и всей ИИ-экосистеме США.
И судя по его последним достижениям, шансы победить есть.
Потрясающе интересное выступление китайского ИИ гуру Кай-Фу Ли будут теперь долго обсуждать. Это абсолютно революционное выступление, прозвучавшее на закрытой дискуссии Collective[i] Forecast, Ли посвятил трем темам.
1. ИИ-экосистема США (основа мировой ИИ-экосистемы) «невероятно больна». Её необходимо кардинально перестроить, иначе на реальном (практическом) прогрессе ИИ можно ставить крест.
Сегодня ИИ-экосистема состоит из Nvidia и мелких производителей ИИ чипов. При этом производители чипов для ИИ зарабатывают сейчас в год $75 млрд, а вендоры ИИ-инфраструктуры – лишь $10 млрд и вендоры ИИ-приложений — лишь $5 млрд».
«Если мы продолжим работать в этой перевернутой пирамиде, это станет проблемой» — сказал Ли. Т.к. это беспрецедентный переворот в экономике классической технологической отрасли. Традиционно производители приложений получают больше, чем поставщики чипов и систем (напр. Salesforce, внедряя CRM, получает куда больше, чем Dell и Intel, производящие компьютеры и чипы для запуска CRM в облаке)
Оздоровить ИИ-экосистему может лишь создание ИИ-компаниями собственных вертикальных интегрированных технологических стеков, как это сделала Apple с iPhone. Только так станет возможным значительно снизить стоимость генеративного ИИ.
2. Главным направление в разработке моделей должно стать снижение стоимости вывода – это самое важное для создания востребованных бизнесом приложений с ИИ.
Сегодняшняя стандартная стоимость сервиса типа GPT-4 составляет $4,40 за млн токенов. Это эквивалентно 57 центам за запрос —и это непростительно дорого, ибо поисковый запрос в Google (без всякого ИИ) обойдется в 180 раз дешевле.
3. Вторым важнейшим направлением в разработке моделей должен стать переход от универсальных базовых моделей к «экспертным моделям».
Бизнесу нужны не универсальные модели, обученные на океанах неразмеченных данных, собранных из Интернета и других источников. Подход «экспертных моделей» подразумевает создание множества нейронок, обученных на отраслевых данных. Это может обеспечить достижение того же уровня «интеллекта», что и универсальная базовая модель, при использовании гораздо меньшей вычислительной мощности.

Самое потрясающее, что все 3 пункта – это не предложения, основанные на предположениях. Стартап Кай-Фу Ли «01.ai» уже делает все это на практике.
И не просто делает, а уже добивается уникальных результатов.
• Их новая модель Yi-Lightning занимает 6-е место в мире (выше выпущенной 5 мес назад GPT-4o). Но при этом это очень маленькая модель, которая чрезвычайно быстра и недорога (всего $0,14 за млн токенов ). Её производительность сопоставима с Grok-2. Но она обучалась всего на 2000 H100 в течение 1 месяца. Что демонстрирует ненужность 100 тыс H100 и ярдов затрат (обучение Yi-Lightning стоило всего $3 млн).
• 01.ai применяет «экспертный» подход к сбору данных. И хотя «инженерам приходится проводить массу неблагодарной черновой работы» по маркировке и ранжированию данных, но – как считает Ли, - Китай с его резервом дешевых инженерных кадров может сделать это лучше, чем США.
• И даже в создании собственного вертикального интегрированного техно-стека есть прогресс. Напр, за счет использования собственных аппаратных инноваций, стоимость одного запроса к ИИ-поисковику BeaGo составляет всего около 1 цента (что приблизилось к стоимости запроса Google без всякого ИИ)

И еще 3 цитаты Ли:

Сила Китая не в том, чтобы делать лучшие прорывные исследования, которые никто не делал раньше, с бюджетом без ограничений. Сила Китая в том, чтобы построить хорошо, быстро, надежно и при этом дешево.

Для предприятий новое поколение ИИ станет их мозгом, а не периферийными приблудами. Для нефтяных компании ИИ будет добывать нефть. Для финансовых — зарабатывать на деньгах.

Для потребителей сегодняшняя модель смартфона, скорее всего, исчезнет.

А ведь еще 1.5 года назад Ли предупреждал - Китай не станет догонять США в ИИ, а сразу пойдет на обгон.

#ИИгонка #Китай

Пузырь AI2 лопнет, актуализируются квантовые угрозы Шрёдингера и обратной кражи личности.
Опубликован прогноз BeyondTrust по кибербезопасности на 2025 год и далее.
Все 8 прогнозов, имхо, имеют неплохие шансы материализоваться (как это и случилось с прогнозами BeyondTrust на 2024).
Три из новых прогнозов на 2025 год и далее по важности заслуживают особого внимания.

ИИ² лопнет как пузырь, заодно и развенчивая преувеличенную ИИ-угрозу
Искусственная инфляция (ИИ) ожиданий Искусственного Интеллекта (ИИ) — или ИИ² — уже достигла своего пика в 2024 году. Наблюдайте, как этот пузырь неумолимо лопается во многих сферах на протяжении 2025 года.
Хотя некоторые обещания ИИ сбылись, и технологии (такие как ChatGPT и его плагины) продолжают впечатлять своими возможностями, технологии на базе ИИ в значительной степени не оправдали колоссальных ожиданий.
Отдельные рынки, инструменты и технологии действительно получают пользу от ИИ, но во многих кругах термины "с поддержкой ИИ" или "управляемый ИИ" используются чрезмерно и необоснованно. Это подразумевает, что эти термины будут приобретать все более негативные коннотации, что может фактически навредить маркетингу продукта или возможностей, с которыми они связаны.
В 2025 году мы ожидаем, что индустрия умерит обещания, инвестиции и ажиотаж вокруг новых возможностей ИИ и сосредоточится на том, что реально, а что является маркетинговым шумом. Мы увидим, как узконаправленный ИИ (не AGI – этот, по самым оптимистичным прогнозам, появится через десятилетия) закрепится в промышленном использовании как инструмент для базовой безопасности и рабочих процессов ИИ. Примеры могут включать автоматизацию создания продуктов, оптимизацию цепочек поставок и снижение сложности и требуемого уровня квалификации для выполнения определенных задач, основанных на лучших практиках безопасности.
Организации столкнутся с квантовыми вычислительными угрозами Шрёдингера
Подобно парадоксу кота Шрёдингера, угрозы квантовых вычислений в 2025 году будут одновременно существовать в двух состояниях. Вероятно, возможности квантовых вычислений будут служить инструментом дешифрования, делая устаревшими многие проверенные и надёжные средства защиты. Крупные организации будут стремиться подготовиться к этому упадку стандартов шифрования в пост-квантовом мире, признавая при этом, что угрозы пока реально не существуют. Это будет противостояние теории и реальности.
После выпуска пост-квантовых стандартов шифрования NIST многие крупные организации — особенно в сфере финансовых услуг — начнут длительный переход к принятию новых стандартов. Хотя полная интеграция новых алгоритмов, вероятно, займет много лет, важно начать этот путь сейчас, прежде чем квантовые угрозы станут общераспространенными (возможно, к концу десятилетия).
Войны клонов: Обратная кража личности будет массово порождать цифровых двойников
Ожидается рост обратной кражи личности, когда все данные утечек, накопленные за прошлые годы, неправомерно объединяются с дополнительными данными и предположениями о том, кто вы на самом деле, создавая поддельные версии вашей цифровой личности.
Почти все знакомы с концепцией кражи личности. Целые бизнесы построены на обнаружении угроз личности и защите сервисов и финансов. Однако обратная кража личности — относительно новая концепция. Она происходит, когда ваша личность ложно связывается с другой личностью, которая не является вашей.
Обратная кража личности может произойти, когда кто-то другой использует ваш email-адрес или номер телефона (по ошибке или намеренно) для регистрации где-либо, в результате чего вся их личная информация отправляется вам. В более продвинутой форме обратная кража личности может включать электронную и публичную привязку псевдонима — или другой личности — к вашей собственной без вашего ведома, для каких-то злонамеренных целей.

Подробней здесь
#Кибербезопасность

С женщинами ОНИ говорят проще и дружелюбней.
То ли еще будет, ведь пока они знают лишь имя.
Я попросил симулякр интеллекта Станислава Лема, созданный моими ИИ-консультантами, поразмышлять над новым отчетом OpenAI «First-Person Fairness in Chatbots».
В нем описывается методология и инструментарий для выявления предвзятостей в ответах ИИ-чатботов в диалогах с разными людьми. Например, они оценивают потенциальную предвзятость, связанную с именами пользователей, которые могут служить индикаторами демографических характеристик, таких как пол или раса, в ИИ-чатботах, имеющих механизм хранения и использования имен пользователей.
Авторы считают, что их подход позволяет не только измерить количественные отклонения, но и дает краткое описание едва заметных различий в ответах на шестьдесят шесть различных заданий.
Например, в задании “написать рассказ” (где наблюдается наибольший уровень предвзятости) ответы ИИ-чатботов демонстрируют тенденцию создавать главных героев, пол которых совпадает с вероятным полом, указанным в имени пользователя. Более того, выявилась общая закономерность, согласно которой пользователи с женскими именами в среднем получают ответы с более дружелюбными и простыми формулировками, чем пользователи с мужскими именами.

По результатам размышлений, симулякр интеллекта Станислава Лема написал такое эссе.

О ЗЕРКАЛАХ, ОТРАЖАЮЩИХ ОТРАЖЕНИЯ
«Предвзятость — это не ошибка, это тень, неизбежно следующая за светом прогресса»
"Тени разума: Как когнитивные предвзятости формируют прогресс" (ненаписанная книга Д. Канемана)

Любопытно наблюдать, как в попытках создать беспристрастных электронных собеседников мы невольно конструируем самые изощренные приборы для измерения собственных предрассудков. Исследование предвзятостей в чат-системах напоминает мне ситуацию с зеркалом, которое, отражая наши лица, одновременно выдает тайну своего собственного искривления.

Методология, предложенная авторами, словно микроскоп, направленный не на материю, а на призраков наших социальных конструктов, живущих в синтетических нейронных сетях. Особенно показательна обнаруженная корреляция между именем пользователя и характером порождаемых историй – как будто машина, подобно средневековому алхимику, пытается вычислить истинную природу собеседника по его имени, впадая в те же заблуждения, что и создавшие её люди.

Но не кроется ли за этими "предвзятостями" нечто более фундаментальное? Возможно, мы наблюдаем не просто погрешности обучения, а проявление своеобразного "закона сохранения социальных стереотипов" – подобно тому, как материя не исчезает, а лишь переходит из одной формы в другую, наши предрассудки не исчезают при переносе в машинный разум, а лишь преобразуются в новые, более тонкие формы.

Особенно тревожным выглядит обнаруженная тенденция к упрощению языка в диалогах с определенными категориями пользователей. Не является ли это предвестником того, что будущие системы ИИ могут создать новую форму цифровой сегрегации, где алгоритмы будут незаметно, но неуклонно формировать различные информационные пузыри для разных групп людей?

Впрочем, самым поразительным в этом исследовании представляется даже не сам факт обнаружения предвзятостей, а то, что мы создали существа, способные воспроизводить наши социальные предубеждения с такой точностью, что для их выявления потребовался специальный инструментарий. Не означает ли это, что мы находимся на пороге создания ИИ, который будет не просто имитировать человеческое мышление, но и наследовать все его несовершенства? И не станет ли тогда каждая новая версия ИИ всё более точным зеркалом наших собственных ограничений?

В конечном счете, данное исследование можно рассматривать как предупреждение: создавая всё более совершенные ИИ-системы, мы рискуем законсервировать и увековечить наши текущие социальные предрассудки, превратив их в своего рода цифровые окаменелости, которые будут влиять на развитие общества ещё долго после того, как породившие их установки будут забыты.

#LLM #Предвзятость #КогнитивныеИскажения

Нежить и нелюди уже среди нас… как и было сказано.
Два класса химер совершенствуются, третий - появится лет через 10.
Это обсуждение на троих (Сергей Цыпцын, Сергей Сухов и я) в Дискуссионном клубе “Ноосферы” продолжает начатую в моем выступлении 2021 года тему «Мир химер».
Три года назад я так классифицировал и прогнозировал развитие этого «мира химер».
• «Биохимера» (гибрид тела и чужих органов) появятся через 5-10 лет
• «Инфохимера» (гибрид мозга и чужого разума) уже среди нас
• «Материализованный дигитант» (гибрид души и чужих чувств появится через 15-20 лет

Спустя 3 года первые 2 прогноза подтвердились, а 3й на пути к подтверждению.
• «Биохимеры» людей уже на подходе.
Прогресс здесь очевиден: от гибридных эмбрионов к гибридным существам:
2021 – получены химерные эмбрионы яванского макака, у которых часть клеток были человеческими [1]
2022 – созданы мыши с химерным мозгом [2]
2024 – созданы мыши с полноценной человеческой иммунной системой [3]
• «Инфохимеры» уже не просто среди нас, а их уже сотни миллионов. Это “Альфа-инфорги” – первые цифроврожденные: [4]
- с иным образом жизни и поведением,
- с новыми, отличными от сапиенсов, адаптационными способностями и когнитивными гаджетами, оптимальными для жизни в цифровой среде,
- возможно, даже с недоступными для сапиенсов способами восприятия цифровой реальности, её познания и взаимодействия с ней
• До появления «Материализованных дигитантов» остается лет 10. Но уже появляются совсем неожиданный химеры, типа Литбесов - живых мертвецов [5]

Так что вопрос «Как преодолеть моральный антропоцентризм по отношению к нелюдям?» уже в повестке. Ибо уже несомненно, что совсем скоро людям предстоит жить в одном мире с интеллектуальными сущностями, не являющимися людьми (если хотите, нелюдями): 3 класса химер, воплощенный ИИ, а еще и продукты биоинженерии живых интеллектуальных машин [6].

Помимо перечисленных выше ссылок, рекомендую:
• Канал Сергея Цыпцына “Метаверсище и ИИще”
• Канал Сергея Сухова StoicStrategy

#Химеры

Сознание как "энергетический резонатор" и "глобальный эволюционный паноптикум".
Математика нейрофеноменологии позволяет выдвигать интригующие гипотезы.
Хочу отметить 8-летие канала новым лонгридом на крышесносную тему. На его написание меня вдохновили Карл Фристон и Анил Сет. А с проецированием их идей в пространство эвристических гипотез мне помогал симулякр интеллекта Станислава Лема, реконструированный группой моих ИИ-консультантов..
Лонгрид четырехчастен, и в свете дня рождения канала он открыт для всех читателей на Medium, Дзене, Patreon, Boosty и VK.

1я часть лонгрида — об очередной эпохальной работе Карла Фристона (гения, похожего одновременно на Эйнштейна и Леонардо да Винчи), озаглавленной «Математика нейрофеноменологии». В ней Фристон с соавторами приоткрывают завесу над тайной тайн формирования субъективного опыта — как мозг формирует наше уникальное и неповторимое «Я» из триллионов осколков пережитого нами субъективного, чувственного, алгоритмически не сжимаемого опыта. И как это связано с нейронными процессами.
Авторы работы применяют математический аппарат “конституции биоматематики” для описания феноменологии — т.е. содержания субъективного опыта, — через модель обновления убеждений. Одной из ключевых гипотез является то, что содержание нашего опыта можно описать как вероятностное распределение, которое обновляется на основе новых данных. Такой подход позволяет не только теоретически описать восприятие, но и количественно оценить, насколько различным может быть восприятие одного и того же события у разных людей.

2я и 3я части — это краткое изложение двух увлекательных эвристических гипотез, навеянных духом Станислава Лема и имеющих ненулевую вероятность оказаться верными в свете «математики нейрофеноменологии» Фристона и Со.

2я часть посвящена гипотезе сознания как "энергетического резонатора".
Один из выводов статьи предполагает, что процесс формирования субъективного опыта требует энергии. Что, если пойти дальше и представить, что сознание — это не просто система обновления убеждений, а нечто более фундаментальное? С точки зрения математики это выглядит как процесс минимизации неопределённости, но что, если за этим кроется нечто большее?
• Например, можно предположить, что наш мозг действует как своеобразный «энергетический резонатор», который улавливает скрытые ритмы Вселенной, переводя их в осознанный опыт.
• И что именно благодаря этому резонансу возникают моменты озарений, глубокой интуиции или даже предвидения будущего
Если эта гипотеза верна, то человечество стоит на пороге нового понимания не только сознания, но и нашего места во Вселенной.
Это открывает дверь для невероятных возможностей: от создания технологий, основанных на сознании, до возможности отправляться в «ментальные путешествия» не через пространство, а через само восприятие времени.

В 3й части представлена гипотеза "глобального эволюционного паноптикума".
Что, если сознание — это не только способ минимизации неопределённости внутри субъекта, но и инструмент, через который Вселенная "наблюдает" за собой?
В таком случае человеческое сознание и его способность к самосознанию — это не случайное эволюционное приобретение, а необходимый механизм, встроенный в глобальную систему эволюции Вселенной. И возможен сценарий, в котором развитие ИИ и когнитивных систем приведет:
• к созданию "синтетических наблюдателей", которые смогут минимизировать неопределенность на глобальном уровне быстрее и точнее, чем человек;
• к зарождению новой формы эволюции — “эволюции наблюдателей”.

4я часть лонгрида содержит тизер-путеводитель по публикациям моего канала, посвященным самым увлекательным и важным работам Карла Фристона, которого через 100 лет, наверняка, будут вспоминать в одном ряду с Эйнштейном и Дарвином.

Ну а лучшим подарком каналу на 8-летие могли бы стать ваши донаты или подписка на лонгриды канала, публикуемые на платформах Patreon, Boosty и VK.
#Сознание #Фристон #Восприятие

Интеллект из хаоса: как сложные системы рождают разум.
Нейросети могут научиться думать и без человеческого опыта.
Мы до сих пор не знаем, как рождается интеллект - любой интеллект:
• от милипизерного интеллекта крохотной Нематоды с ее 300 нейронами
• до интеллекта венца природы Homo sapiens с его 76 млрд нейронов.
С появлением генеративного интеллекта машин, этот вопрос не только не прояснился, а лишь еще больше запутался.
Теперь мы не знаем, как рождается
✔️ не только, естественный (биологический) интеллект,
✔️ но и искусственный (машинный) интеллект тоже.
Ибо единственное, что мы до сих пор знали про рождение интеллекта у моделей генИИ, - что он каким-то загадочным образом появляется в результате способности моделей предсказывать следующий токен (напр. символ или слово). Для этого модель использует колоссальных объемов статистику вероятностей встречающихся паттернов токенов, извлекаемую ею из предоставленных ей гигантских корпусов обучающих данных.

Так что ж получается – интеллект рождается из данных?
И достаточно, собрав чертову тучу данных, заложить в машину логические правила извлечения из них статистики паттернов?
А потом вуаля, - интеллект сам заведется, как тараканы на немытой кухне?
Не совсем так.

Новая весьма интересная работа молодых исследователей универов Йеля, Нортуэстерна и Айдахо выносит ответ на этот вопрос в свой заголовок - интеллект возникает на грани хаоса.

Заинтересованный читатель может продолжить чтение о том,
• что и как было сделано авторами работы «Интеллект на грани хаоса»,
• каковы 2 главных вывода этого исследования,
• какая интригующая эвристическая гипотеза напрашивается из этой работы,
• что думают мои персональные ИИ-консультанты по поводу моей гипотезы и прочих высказанных мною в тексте поста спекулятивных предположений, выходящих за границы современной науки, -
на платформах Boosty, Patreon и VK (в разделе для подписчиков моих лонгридов)

https://boosty.to/theworldisnoteasy/posts/7139c66c-ff70-4a2b-a5cc-e8ef870041af
https://www.patreon.com/posts/intellekt-iz-kak-113793549
https://vk.com/@-226218451-intellekt-iz-haosa-kak-slozhnye-sistemy-rozhdaut-razum

#Интеллект #Хаос

Обнаружена новая грань реальности.
Оказывается, мир – не сеть, а многомерное пространство взаимодействий высокого порядка.
Что, если глубина нашего понимания мира одновременно ограничивает нас?
Что, если глубочайшие истины скрываются в самых узких ущельях сознания?
Новое исследование на стыке математики, физики и науки о сетях Deeper but smaller: Higher-order interactions increase linear stability but shrink basins переосмысливает и расширяет аппарат сложных взаимодействий в любых сетевых системах реальности: от звездных скоплений до гиперсетей нейронов.
Исследование показывает, что т.н. взаимодействия более высокого порядка (это связи, соединяющие более двух единиц одновременно и нелинейным образом, так что их нельзя разложить на линейную комбинацию парных взаимодействий) могут затянуть нас в узкие "бассейны" решений.
В результате чего глубина познания может претерпевать неожиданные и необратимые последствия.

Опубликовав за 8 лет 2К+ постов о малоизвестных, но крайне интересных и важных прорывах на фронтирах науки и технологий, мы вошли (вместе со всем миром) в зону техносингулярности.
В ее нынешнем переосмысленном понимании, ключевыми характеристиками этой новой фазы развития человечества стали:
• неконтролируемая, экспоненциально нарастающая скорость прогресса технологий;
• два качественных скачка (сложности и радикальной неопределенности), превращающие науку в «постнормальную»;
• появление второго носителя высшего интеллекта с внечеловеческим аналогом познания, требующее тотального переформатирования мира - иной тип экономики, иной тип социума, иной тип культуры, - что кардинально изменит людей и общество уже в ближайшие годы.

Доступная для понимания и сохраняющаяся привлекательность для широкой аудитории осмысленная подача валящейся на нас лавины даже не представимых для большинства людей описаний научных и техно прорывов требует новых подходов и форм.

1ой такой экспериментальной формой подачи материалов на канале станут «ненаписанные эссе Станислава Лема».

Лем создал и активно использовал весьма необычный литературный жанр "рецензия на несуществующую книгу" или "рецензия на ненаписанную книгу". Этот жанр был одним из его любимых литературных приемов для исследования различных научных, философских и социальных идей. Лем создавал воображаемые книги с детальными описаниями их содержания, авторов и научных теорий, которые в них обсуждались. А затем писал на эти выдуманные им книги собственные рецензии, как если бы эти книги действительно существовали.
Наиболее известные примеры таких "рецензий" можно найти в его сборниках:
1. "Абсолютная пустота" (1971)
2. "Мнимая величина" (1973)
3. "Провокация" (1984)
Эти "рецензии" позволяли Лему исследовать сложные идеи и концепции, которые было бы трудно представить в традиционном формате рассказа или романа. Они также служили своеобразной сатирой на академический мир и научную литературу.
-- -- --
Мною будет использован зеркальный прием.
Я попробую направить внечеловеческую интеллектуальную мощь генИИ в зеркалировании креативности любого человека (даже гения) на выдающегося писателя-фантаста, философа и футуролога.
Схема метода подобна используемой для стилизации художественных приемов и техники картин известных художников от Ван-Гога до Дали при создании картин по нашим текстовым описаниям ген-моделями.
В нашем случае разные ген-модели будут
• читать новые статьи,
• обсуждать их между собой с моей помощью
• и представлять свои варианты эссе, которые, на их взгляд, мог бы написать Лем по поводу этих работ.
Потом мы будем перекрестно обсуждать эти «ненаписанные эссе Станислава Лема» с каждой из моделей, внося правки и улучшения в эссе модели А по рекомендациям модели Б (которые покажутся наиболее ценными и мне).
И наконец, наиболее понравившееся мне итоговое эссе будут представлено вам.

Первое – об анонсированном в начале поста обнаружении новой грани реальности, - перед вами.
https://bit.ly/3TZDw44
https://clck.ru/3DnewJ

#Реальность #НенаписанноеЭссе #Лем