Актуальные темы
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Полный стек/ML исследователь-инженер, который в основном занимается AI, LLM, MLX.
@JohnMai_Dev 3 марта 2026 года успешно реализовал вывод (inference) модели Qwen3.5-0.8B на чипе Apple M1 Pro, используя Apple Neural Engine (ANE).
На основе открытого проекта: прорывная работа по прямому вызову Apple Neural Engine для обучения и вывода, ранее многие думали, что Apple не открывает ANE для полного обучения/вывода.
Ранее ANE в основном использовался только для встроенного вывода CoreML, третьим лицам было сложно эффективно его использовать, теперь с помощью maderix/ANE можно напрямую использовать ANE для выполнения прямого вывода современных больших моделей (даже некоторые уже занимаются обратным распространением обучения).
Кроме того, модель Qwen с 0.8B такая маленькая + ANE = крайне низкое потребление энергии, скорость довольно хорошая, полная конфиденциальность на месте.
M1 Pro может работать, что означает, что у большого числа старых пользователей Mac (серии M1/M2) внезапно появился очень эффективный вариант AI-ускорителя, который экономит больше энергии и быстрее, чем использование только GPU/CPU.
Сочетание Ane полностью превращает Mac в дешевую локальную AI-станцию, старые машины Apple могут использовать современные большие модели на китайском языке (Qwen3.5 0.8B) для вывода, открывая новые возможности для эффективного AI на Mac.

Топ
Рейтинг
Избранное
