Embedded Doka

Channel
Logo of the Telegram channel Embedded Doka
@embedokaPromote
3.15K
subscribers
Авторский канал инженера-радиотехника 🤓 Если хотите рассказать мне интересное 👉 @iDoka Let's keep in touch: ▫️ http://linkedin.com/in/idoka ▫️ https://github.com/iDoka
> ollama run deepseek-r1:70b

Q: Сейчас 2025 год, мне 17 лет и я хочу выбрать карьерный путь: я решил что не буду получать высшее образование, а хочу заняться одним из двух: освоить программирование Arduino и разработку электроники или освоить Javascript и уйти в индустрию IT. Что ты бы мне мог посоветовать: что из этого более перспективно для карьеры?

A: В 2025 году, при выборе карьерного пути без высшего образования между освоением Arduino/электроники и JavaScript/IT, более перспективным вариантом будет изучение JavaScript и进入 IT-индустрии. Это связано с высоким спросом на специалистов в этой области, широким спектром вакансий и возможностью быстрого стартаthanks к большему количеству обучающих ресурсов и курсов. Однако, если вы увлечены электроникой и хотите создавать физические устройства, Arduino тоже может быть хорошим выбором, но с учетом нишевых рынков и необходимости дополнительных знаний в области аппаратного обеспечения. Удачи в вашей карьере!

(на скрине режим <think> "внутреннего диалога" LLMки? 🤯)

@embedoka
Embedded Doka
В свободное время начал шатать LLM'ки на локальном железе. Кажется еще чуть-чуть и пересекутся две кривые: доступность мощных и предобученных моделей для решения широкого круга задач (локально) и дешевое железо для их запуска. Вот тут писали про использование…
Вдогонку к бенчмарку: классный онлайн-калькулятор, способный ответить на вопрос сколько вешать в граммах сколько точно памяти нужно для запуска того или иного инференса LLM-модели с учётом заданного квантования, KV-кеша, размера батча и много чего еще:

💾 https://llm-system-requirements.streamlit.app/

Очень здорово, что можно оценить размер хотелок заранее для тех, кто планирует локальную эксплуатацию инференса, и потихоньку начать копить на нужный сетап 💰

@embedoka
Embedded Doka
Бенчмарк Whisper.cpp на 60-минутном файле с русской речью: ▫️large-v3 [GPU]: 15:40 (4x) ▫️large-v3-turbo [GPU]: 5:45 ▫️large-v3-turbo [GPU+NPU]: 3:20 (18x) Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс…
В свободное время начал шатать LLM'ки на локальном железе. Кажется еще чуть-чуть и пересекутся две кривые: доступность мощных и предобученных моделей для решения широкого круга задач (локально) и дешевое железо для их запуска.

Вот тут писали про использование Phi-4 для FPGA-разработки (там в комментариях еще сгенерённый код двухклокового FIFO). Что примечательно, эта Phi-4 по размеру влезает в стоковый Mac mini M4 за $600 и позволяет все эти же упражнения делать локально.

Сейчас у меня две платформы, чтобы потрогать разные LLM "дёшево и сердито и вмещается в рюкзак с ноутбуком 😅":
▫️Mac mini M4 (16GB 120GB/s)
▫️NUC-подобный х86 со встройкой Radeon 780M (96GB 60GB/s)

У эппла самая большая проблема - фикс размера ОЗУ (притом без 100% предоплаты доступны только базовые версии), но если всё упирается в её пропускную способность или есть возможность задействовать в дополнении к GPU еще и NPU (как в случае с Whisper) - тут конечно в своей ценовой категории мак мини вне конкуренции).

Еще наткнулся на довольно исчерпывающий бенчмарк LLM'ок на широком спектре оборудования. В конце бенчмарка приведено заключение:

▫️Покупайте геймерскую серию от NVIDIA, если хотите сэкономить
▫️Берите серверную версию NVIDIA, если у вас бизнесовые задачи
▫️Возьмите макинтош, если не хотите заморачиваться с обслуживанием и хотите тишины и энергоэффективности (и говорить всем, что у вас мак 😃)

Инженеры, а какие LLM и для каких задач вы используете локально на машине: поделитесь в комментариях.

@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
Embedded Doka
Single-LED interface или немного о UI/UX в девайсах Как давний пользователь девайсов, единственным UI которых является одноцветный светодиод, меня не покидает ощущение, что все их создатели пользовались одной методичкой (либо "списывали" друг у друга): …
Single-LED UI/UX interface в девайсах

Свыше двух лет назад поднимал эту тему (рекомендую к прочтению). И тту попался совершенное феерический
UX интерфейс одноцветного светодиода в хранилищах WD NAS.

Как говорится, добавив ШИМ к LED, получаем воистину безграничные возможности, а эта ваша азбука Морзе. Что в ассортименте:

▫️Выкл
▫️Вкл
▫️Медленное мерцание
▫️Быстрое мерцание
▫️Пульсация
▫️Быстрое моргание

- Странно что нет медленного моргания и непонятно как отличить мерцание от пульсации неподготовленному к таким развлечениям пользователю. Есть идеи по поводу того почему был выбран именно такой вариант
(помимо классического: инженер - немного художник: он так видит 😆)

@embedoka
Пользуясь случаем, поздравляю всех участников канала с неотвратимо наступающим! 🎩

Спасибо за то что читаете, репостите и даёте обратную связь в комментариях, всегда с интересом читаю ваши идеи и советы 😍

🔝Самый популярный пост: про сотовую связь в космосе.

⚠️ По уже ставшей ежегодной традицией, в комментариях к этой записи можно написать каких материалов на канале не хватает и вообще что бы вы хотели видеть - кто знает: быть может именно вы подкинете свежую идею?
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
DIY по-русски:

Конструктор ВАЗ-2107 для сборки лицами, достигшими 18лет + LED-панели управляемые по протоколу HUB75 c Raspberry Pi

Действует спец.предложение: собери по прилагаемой инструкции конструктор и получи шанс полгода ходить пешком 😄

@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
.. ну и конечно: "тагильские школьники запустили Doom на транспортной карте с помощью простого советского..."

#пятничное
@embedoka
Бенчмарк Whisper.cpp на 60-минутном файле с русской речью:

▫️large-v3 [GPU]: 15:40 (4x)
▫️large-v3-turbo [GPU]: 5:45
▫️large-v3-turbo [GPU+NPU]: 3:20 (18x)

Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс, но и существенно повышает энергоэффективность.

А теперь о болях:
при помощи утилиты мониторинга видно, что температура чипа под нагрузкой достигает неприличных цифр, при этом вентилятор продолжает работать бесшумно. Это всё потому, что вентилятор крутится на 20% от полной мощности и никакими ухищрениями (штатными настройками макоси) не получилось сдвинуть эту настройку с мёртвой точки. Конечно же с точки зрения Эппла это не баг, а фича (ведь ваш мини будет оставаться бесшумным при любых нагрузках, охраняя ваш чуткий сон), но мною это воспринимается как подлый запрограммированный износ и ограничение доступа к железу.

И о решении этой боли:
Нужно всего лишь купить😄 одну из двух существующих на сегодняшний день программ для контроля оборотов вентилятора (TG pro или macsfancontrol). Более того - обе программу существуют только в виде GUI-варианта. Это просто счастье неимоверной величины, о котором я не мог мечтать сидя под линуксом на "железе простолюдинов"😃

Программы конечно красивые и считывают несколько десятков температур различных комплектующих макмини, но мне-то нужна единственная фича: поддать газку на единственной вертушке 🙏

PS: Пока сижу на триале и, кажется, знаю что себе на рождество подарю 🤬
(быть может за две недели еще какие-то моменты всплывут, требующие срочной покупки супер-навороченной программы с супер-красивым GUI 😳)

@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
Не было у бабы забот, да купила баба порося* (с)

Все так нахваливали Apple Silicon M4, что я не удержался и взял себе в качестве подарка на НГ Mac Mini в минимальном сетапе.

Назначение: headless-сервачок для разных payload, который удобно возить с собой. Изначальный план был взять M4 pro c 48GB RAM, чтобы поковыряться on premise со всякими интересными LLM (но выяснились детали: вы можете купить любой кастом от эппла, но только по предзаказу и полной предоплате, так что я решил взять миник на минималках, чтобы решить насколько оно мне надо, а там уже по ощущениям пропгрейдиться до M4 pro или до еще невышедшего Mac Studio M4 Max). Т.е. сама идея концепта привлекла: вместо того чтобы обзавестись GPU с PСI-e концом (и ломать голову над тем куда этот конец можно пристроить) взять CPU+GPU c монолитной широкой шиной к памяти: и пусть две 4090 с 24ГБ будут в 20х быстрее чем M4 pro c 48GB - с учётом всех обстоятельств я готов к этому компромиссу.

какие еще хайлайты у Mac Mini M4:
▫️он действительно мелкий и не сильно много места занимает в рюкзаке с ноутом
▫️(наконец-то😃) теперь любой мак начинается с 16ГБ ОЗУ - за ту же цену
▫️более-менее бодрый NPU (который позиционируется под Apple Intelligence, но народ наловчается использовать его и для кастомных МЛ нагрузок)


*Все знают что пользователи техники эппл должны страдать. В следующем посте - о том как именно это происходит в данном случае.

@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Embedded Doka (Dmitry Murzinov)
Недавно в поездке в Европу со мной приключилась история: по прилёту выяснилось, что мой основной (а в поездке - единственный) рабочий инструмент (ноутбук Dell Latitude) отказался включаться. Неисправность, которая была диагностирована на основе перемигивания белым и оранжевым светодиодами при попытках включения, говорила о проблемах с памятью ОЗУ.

Что ж, тут возраст ноутбука сыграл мне на пользу: ведь только устаревшие ультрабуки оснащены съёмными модулями ОЗУ (в моём случае это один слот формата SODIMM DDR4).

1️⃣ Поиски плашки
Казалось бы что могло пойти не так вечером буднего дня в одной из столиц ЕС: приходишь в магазин и покупаешь любую (из наличия) плашку SODIMM DDR4. Посмотрел на картах ближайший компьтерный магаз - им оказался MediaMarkt. Зашёл на сайт и, выбрав нужный адрес, сделал поиск заветной плашки. Убедился что плашки в магазе и бодро потопал, чтобы уже в магазе узнать о том, что "такое" у них конечно есть, но с пылу-с-жару оффлайн такое не купить - надо делать предзаказ онлайн 😭 (в общем, современная парадигма: оффлайн магазин - это шоу-рум и пункт вывоза заказов. Есть номинальное количество товаров, но всё оно на прилавках). Про альтернативные магазины, где, возможно, "в наличии" консультанты подсказать затруднились.

2️⃣ Поиски звезды
Во время этой беготни и поисков выяснилось, что у одного из коллег ноутбук с двумя слотами и он мог бы поделиться. Но засада поджидала в другом месте: чтобы извлечь заветную плашку крестовой отвёртки оказалось недостаточно: пентахол/гексахол/torx надёжно защищал внутренности ноутбука от любопытных. Я, конечно, попробовал попытать счастья, зайдя в лавку торгующую мобильными телефонами - но владелец-араб знатно офигел от моего "скрюдрайвер" и не мог врубиться что я хочу 🙈 (видимо нечасто у него такое спрашивают).


Надо ли говорить, что оживить ноут я смог лишь по возвращению? 😭

Есть ли мораль у этой истории? А это как посмотреть: ранее я перед каждой поездкой защищался от риска, связанного с повреждением информации либо выходом из строя SSD и делал бэкап перед вылетом, теперь же я буду докучи к этому таскать такой вот наборчик "тревожного человечка" 🥹

PS: Для рисков, подобных описанному, наклёвывается более продуманное решение - предлагаю обсудить его в одном из следующих постов.

@embedoka
oreboot is a fork of coreboot, with C removed, written in Rust.

- считаю это переименование одним из лучших каламбуров среди римейков того, что было переписано на Rust 🤣🤣🤣

@embedoka
Forwarded from Embedded Doka (Dmitry Murzinov)
Forwarded from Dmitry Shadrin
Запуск приложений через WSL.pdf
152.2 KB
В своё время писал для себя инструкцию по быстрому запуску WSL для работы с USB-устройствами, может кому пригодится)
Embedded Doka
Хочу поделиться наблюдением: я опишу частный случай, но кажется наблюдение можно экстраполировать куда шире. Люди, работающие под ОС Windows (на локальной рабочей станции) как основной ОС и под ОС Linux (на удалённом сервере) время о времени, периодически…
А вот это уже интересно интересно (в свете предыдущего поста): WSL уже настолько преисполнился, что умеет (пусть и через костыль в виде USBIP) пробрасывать из винды железо подключенное к USB. Это прям серьёзная заявка на универсальность.

И это ровно то чего мне так не хватает за десятилетия существования проекта wine: iTunes под вайном работает прекрасно, но вот без синхронизации по USB-шнурку ценность такого iTunes меньше 5% 😭

Эх, а счастье было так возможно…

@embedoka
Хочу поделиться наблюдением: я опишу частный случай, но кажется наблюдение можно экстраполировать куда шире.

Люди, работающие под ОС Windows (на локальной рабочей станции) как основной ОС и под ОС Linux (на удалённом сервере) время о времени, периодически сталкиваются с теми или иными проблемами переноса на локальную рабочую станцию части работ, либо с тем, что часть задач хотят решать локально.

В связи с этим меня периодически спрашивают о методах решения этих проблем. Поскольку я довольно давно не работаю с Windows и уже выпал из контекста какой софт для каких задач используется, то наиболее частый ответ: используйте WSL.

Вероятно, я не вижу всей картины, поскольку имею опыт только с Linux, но WSL кажется самым простым решением: не надо переписывать баш скрипты на повершелл, нативные инструменты доступны из коробки (всякие awk, sed, ssh, scp, git, интерпретаторы языков).

Ну т.е. не надо осваивать новый тул (будь это всего лишь какой-нить примитивный Putty или WinSCP - да даже в этом примитивном сценарии WSL позволить автоматизировать рутинные действия, заменив елозинье мышкой).

Я к чему это всё: в итоге в большинстве случаев итог один: "спасибо конечно за совет, но я пожалуй спрошу еще у кого-нибудь "нативное" решение под Windows" 🤯

@embedoka
Forwarded from Роман
АРПЭ - ассоциация российских переклейщиков этикеток
Love Center - Dating, Friends & Matches, NY, LA, Dubai, Global
Love Center - Dating, Friends & Matches, NY, LA, Dubai, Global
Find friends or serious relationships easily