Графики каждый день (почти)

Об островках регулярности (или о миллионе двойных маятников)

Возьмём в диапазоне [-π, π] для θ₁ и θ₂ решётку двойных маятников, и посмотрим на их эволюцию (на рис. cos(θ₂)), демонстрирующую хаотическое поведение для достаточно больших энергий (чувствительны к начальным условиям).

Видно, что в центре (около устойчивого положения равновесия) система ведёт себя достаточно регулярно, что будет повторяться в целом для многих гамильтоновых систем. Вблизи устойчивого положения равновесия мы можем линеаризовать систему и явно её проинтегрировать, никакого хаоса. Но можем ли мы быть уверены, что на больших временах островок регулярности никуда не денется? Мне кажется, что да, по КАМ теории возмущения лишь деформируют инвариантные торы, но общая динамика сохраняется)

P.S. сюжет появился в комментариях замечательного канала "человек наук", спасибо за вдохновение)
P.P.S. кстати это всего 20 строчек кода и около секунды вычислений, см. в комментариях)

О монетках (и центре масс)

Как-то так монетки у меня со временем съехали, и видно что верхняя полностью правее нижней. Собственно предлагаю предположить на сколько теоретически далеко можно зайти.

О цвете неба 🌅
(и чувствительности зрения)

Почему небо голубое, а закат красный? Потому что для нашей атмосферы основной вклад вносит Рэлеевское рассеяние, для которого сечение рассеяния ~1/λ⁴. Спектр излучения солнца (самое черное тело в ближайшем окружении, излучает по Планку с температурой около 6000K) смещается из-за рассеяния, и потом перемножается с чувствительностью наших в глазах колбочек (~ гауссовы пички, см. RGB на картинке).

Цвет неба — рассеянный свет, вот и получается голубой. Цвет заката — то что осталось после рассеяния. Можем сказать что доходящий до нас свет это exp(-L•relay(λ))•sun(λ) по Бугеру-Ламберту-Бэру. Получается, что чем длиннее L (путь света через атмосферу), тем больше смещается цвет в красный. Вот и получается алый закат)

P.S. а почему на Марсе наоборот? 👀

Как атмосферные эффекты влияют на изображение звезды?
#astro

Самая большая головная боль астрономов – это земная атмосфера. Из-за температурных флуктуаций коэффициент преломления тоже получается неоднородным, что сильно смазывает картинку. Гораздо сильнее, чем дифракционный предел.

Этот атмосферный эффект очень хорошо можно приблизить обычной фазовой пластинкой в плоскости объектива. Более того, мы можем забить на турбулентность и считать, что неоднородная атмосфера просто уносится по направлению ветра.

Анимация: как изображение звезды поплывёт под таким "ветром". Слева условная плотность атмосферы в пересчёте на толщину фазовой пластинки, справа – непосредственно изображение. Ноутбук в комментариях.

А почему заряд электрона равен заряду протона?

О стекле и воде
(точнее их дисперсионных свойствах)

Стекло и вода прозрачные, что это нам говорит об их электронной структуре? То что в видимом спектре у него нет резонансов. Хорошо, а где есть?

Показатель преломления падает при увеличении длины волны (для стекла|воды от n=1.53|1.34 для синего до n=1.51|1.33 для красного). Изменения показателя преломления связаны с тем, что нейтральные частички внутри поляризуются, электроны начинают следовать за внешним ЭМ-излучением (светом). И они гораздо активнее это делают приближаясь к резонансам, которые мы получается ожидаем увидеть в УФ области.

И действительно, стекло (силикатное) и вода непрозрачны для УФ до 300 нм (дома особо не загоришь), что прилично портит жизнь работающим с УФ лазерами лабораториям. Чуть лучше кварцевое стекло, пропускающее до 200 нм. Но в УФ диапазоне фотоны становятся настолько бодрыми и энергичными, что что-нибудь обязательно возбудят и обязательно поглотятся. Так в соседней лабе светят на He+ 60нм, и им приходится сразу после генерации света без зеркал и оптики ставить пойманные ионы гелия.

Воот, в общем теперь вы знаете почему стекло прозрачное и откуда берётся дисперсия)

О пространных рассуждениях
(или о попытках поднять IQ нейросеток)

В целом одним из кандидатов для капч мог бы быть тест IQ на чём-то в духе тестов Рейвена. Да, сегодня мы всё ещё умеем это делать лучше существующих алгоритмов, этому и посвящен arc-agi benchmark, которому, судя по графику с их сайта, действительно ещё есть куда расти (хотя в текущих реалиях такая экстраполяция выглядит забавно).

Ему же и посвящено идущее соревнование (за скачок до human perfomance 85% вам предлагают $0.5M) , в котором open-source LLM добрались до 46%. В целом часть задачек неплохо решаются и обычной маленькой CNN (тут можно глянуть мой код), но их ещё пинать и пинать до обобщения. Аккуратно тыкая (см. nature) gpt4 писать код по идее можно добиться и 50% (как тут), но это долго, масштаб часов или даже дней.

Зато вчера вышла o1 от OpenAi (ссылка на обзор), которую не могу обойти стороной. Всего за 2 минуты на генерацию при самых наивных промтах она решила 5/14 предложенных arc задач с первой попытки (тут составил пример диалогов и результатов генерации)! Всё же саморефлексия для моделей это большое благо.

P.S. как думаете, как будут выглядеть капчи лет через 10?)

О генераторах случайных чисел
(или о кубиках и шестеричной системе)

Как в домашних условиях равновероятно выбрать число от 1 до 216? Бросить три игральных кубика!

Я вот только сегодня посмотрел на бросок костей, как на равновероятное сэмплирование чисел в шестеричной системе исчисления. Действительно, давайте обозначим результат броска - 1 за xⱼ, тогда ваше число это
y = 6⁰ x₀ + 6¹ x₁ + 6² x₂ + ...

Бросок {1, 2, 2} превратится в 42, а {1, 4, 5, 6} в 1242. Бросая 5 кубиков вы выбираете из 7k вариантов, а делая так 2 раза уже из 60M. По разному группируя кубики в шестеричные числа можно получить достаточно богатый набор распределений, что и показано на графике)

О кратчайшем пути на графе III
(или о том что случайные блуждания как оценка расстояния до целевой вершины работает)

Кажется вместе с @sberlogasci мы вышли на SOTA уровень по сборке кубика 3x3x3 (вроде NP-complete problem) на основе этого подхода (without human knowledge)! В таблице красным выделен лучший опубликованный результат AlphaCube (14M parameters) и синим наш результат (4M parameters).

Поиграться с моделями и посмотреть на решения можно на kaggle.

// но для 333 это не столь содержательно, так как тут и тут предпосчитали большой Pattern Databases, на котором можно за 2с имея 200GB ram найти решение :)

О том как составлять и решать лабиринты
(или о параллельных удобствах алгоритма Прима и BFS)

Вдруг вам захотелось самому составить лабиринт. Что делать? Всё очень просто! Выбираете случайную точку (теперь она visited а её окрестность добавилась в frontiers), теперь из frontiers выбираете случайную точку, добавляете её в visited, обновляете frontiers добавляя новую окрестность. И так пока не посетите все вершины. Очень удобно параллелится, если нужно генерировать много лабиринтов (и это вполе эффективно реализуется на gpu).

Но вы пошли дальше, теперь вам хочется этот лабиринт решить. Для этого вы включаете в конце пути (правый нижний угол) печку, и ждёте пока тепло распространится по лабиринту. Теперь можете из начала пути жадно идти туда, где теплее (свежая на эту тему статья), и таким образом всегда найдёте самый короткий путь!

P.S. код доступен на kaggle, буду рад upvotes)

Об одномерном Хаббарде, DMRG и mean field 🌾
#qm

Вот есть куча частичек сидящих к кристаллической решётке. Минимальной моделью учитывающей многочастичные эффекты будет одномерная модель Бозе-Хаббарда (рассмотрим пока именно бозоны). Посмотрев на гамильтониан, вы увидите t, отвечающее за туннелирование между узлами, U — то на сколько двум частичкам не нравится сидеть в одном узле, и μ — хим. потенциал.

А дальше работает очень простая логика: если U » μ,t то все частички просто будут сидеть по одной на узле и никуда не двигаться, это Mott Insulator (MI). Но если t начнём доминировать, то система перейдёт к сверхтекучей фазе (SF). Для MI характерно целочисленное заполнение и экспоненциально спадающие корреляции, а вот для SF наоборот заполнение может быть любым и корреляции спадают полиномиально, что в итоге приводит к расходящейся корреляционной длине ξ.

Можно написать mean field решение для ground state гамильтониана, оно отмечено штрихованной линией. Однако можно найти и истинную границу фаз, например через тензорные сети, одним из параметром которых является bond dimension D — связь между узлами. Так вот, забавный факт: D=1 сводится к mean field решению, но это D повышая вы потихоньку выйдете на истину, что на графике и нарисовано: δn это отличие среднего заполнения от единичного.

// P.S. подробнее в файлике в комментариях

Ода Wolfram Mathematica I
(или об интерактивных удобствах WM)

Хочу поделиться одним из примеров, почему мне так нравится WM: простая интерактивность блокнотов. Например, мне нужно было быстро примерно нарисовать на моём графике точки графика из статьи, и вот за 4 строчки кода получается некоторое окружение, что тыкая на точку на картинке вы сохраняете её относительные координаты в нужном вам массиве)

Ода жадности
(или об удобствах beam search)
#rl

Есть такая головоломка 0hh1, в которой нужно расставить красные и синие квадратики так, чтобы их количество в каждой строке и столбце совпадало, не было одинаковых строк и столбцов, и не было 3 в ряд. Часть из них изначально зафиксированы. Полное пространство состояний 2¹⁴⁴, но у нас есть понятная эвристика -- количество неудовлетворенных условий (как тут, где шагал Метрополисом).

Но давайте из состояния делать все возможные шаги (тут это 12²), а потом оставлять из них B лучших, с точки зрения эвристики. Всё, получился жадный алгоритм beam search (похожим образом генерируются ответы gpt). Не так страшны локальные оптимумы, мы можем позволить себе локально оптимальные шаги.

На видео, видно, как программка (очень давно хотел что-то такое написать) делает скриншот игры, считывает состояние и в конце сама заполняет найденное решение, воот)