Лента новостей

🔧 Открытый фреймворк TrueForge экономит до 75 % стоимости Мы разработали нейтральный к моделям открытый агентный движок TrueForge и сравнили его с Claude Managed Agents на 14 задачах из DevRev Enterprise‑Bench. При одинаковой модели (Opus 4.8) обе системы решили 11 из 14 задач, но TrueForge использовал ≈ 63 % меньше токенов и стоил ≈ 30 % дешевле за запуск (8,6 $ против 11,8 $, 3,7 M токенов против 10,0 M). Среднее число вызовов инструментов также снизилось: 19 vs 32. При замене модели на GLM‑5.2 TrueForge решил в среднем 11,7 задачи, стоимость одного запуска составила 3,0 $, а количество токенов — 3,8 M, что почти в 75 % дешевле, чем у Claude Managed Agents + Opus. TrueForge — простая MIT‑лицензированная система, управляющая циклом агента, контекстом, инструментами, суб‑агентами, одобрениями, постоянными сессиями и интеграцией с песочницей. Работает с совместимыми с OpenAI эндпоинтами, но пока не имеет встроенных средств трассировки и собственного песочничного окружения. Репозиторий и методика бенчмарка доступны по ссылкам: https://github.com/truefoundry/trueforge и https://www.truefoundry.com/blog/engineering/trueforge-vs-claude-managed-agents-benchmark/.

🕹️ На ноутбуке i3 за 24 минуты создан простой RPG На обычном ноутбуке с процессором Intel i3, 8 ГБ ОЗУ и без выделенной видеопамяти удалось за 24 минуты сгенерировать 2D‑игру в стиле Zelda, используя модель Qwen 3.6 35B‑IQ2_XXS. Модель Qwen 3.6 35 b в версии IQ2_XXS (файл Qwen_Qwen3.6-35B-A3B-IQ2_XXS.gguf) запускалась через llama‑server.exe на Windows 11 с параметрами -c 8192 -n 8192 -tb 4 -b 512 -ub 512 --cache-type‑v q8_0 --cache-type‑k q8_0 --temp 0.0 --reasoning off --ngl 0. Результат: генерация заняла 24 минуты, скорость работы составила около 3 токенов в секунду. В запросе было указано создать HTML‑файл с простым RPG: управление WASD, атака клавишей F, случайные враги, система очков, уровней и усиления 🎮.

🚀 Новый способ «горячей» замены знаний в llama.cpp Разработчик модифицировал llama.cpp, позволив изменять Ngram PLE‑таблицу в памяти и патчить её новыми данными в реальном времени. Таблица обновляется при каждом запросе, поэтому части знаний можно менять без перезагрузки модели Qwen‑3.8‑Next‑Flash. 🛠️ Ограничения: контроль вывода остаётся сложным, так как эмбеддинги внедряются на ранних слоях; PLE‑таблица должна быть memory‑mapped (по умолчанию в llama.cpp); тесты проведены только с q8‑квантованием, требующим значительного объёма памяти. Репозитории проекта: модификация llama.cpp — https://github.com/ortegaalfredo/llama.cpp-NLTM; компилятор патчей Ngram knowledge injector — https://github.com/ortegaalfredo/ngram-knowledge-injector. Автор считает, что такой подход может стать недорогим способом «обучения» моделей, хотя сейчас он требует дальнейших доработок.

🚀 Добавлен NVIDIA Nemotron‑3‑Puzzle‑75B‑A9B в llama.cpp В репозитории ggml‑org/llama.cpp появился pull request #25444, который добавляет поддержку модели NVIDIA Nemotron‑3‑Puzzle‑75B‑A9B (NemotronHPuzzle). Модель использует гибридную MoE‑архитектуру с чередующимися слоями Mamba, MoE и Attention; её можно запускать уже сейчас, хотя поддержка Multi‑Token Prediction (MTP) пока не реализована. По сравнению с родительской моделью Puzzle‑75B‑A9B уменьшена: общий объём параметров снижен с 120,7 млрд до 75,3 млрд, активные параметры — с 12,8 млрд до 9,3 млрд. Как и Nemotron‑3‑Super, она поддерживает MTP для ускоренной генерации текста. Обсуждение модели прошло на Reddit в сообществе r/LocalLLaMA 🔧 (https://www.reddit.com/r/LocalLLaMA/comments/1upsdmi/nvidianvidianemotronlabs3puzzle75ba9bbf16_hugging/).

🚀 GoPro расширяется в AI‑центры после слияния на $285 млн с оптико‑фотонической компанией Компания планирует использовать новые возможности в области искусственного интеллекта и перенести часть производства обратно в США, чтобы стабилизировать финансовое положение. Сделка ещё требует окончательного одобрения акционеров обеих фирм.

💻 Nvidia GB300 DGX Station: настольный ПК за $91 000 Компания Nvidia анонсировала десктоп GB300 DGX Station, стоимость которого почти $91 100. Устройство оснащено 748 ГБ оперативной памяти, что в семь раз превышает объём RAM у Mac Studio M5 Ultra с 256 ГБ. Такая цена сопоставима с первоначальным взносом на покупку жилья.

🤖 Роботы Direct Drive «Лего» распознают собственные тела Direct Drive выводит модульность на уровень самого корпуса: несколько единиц D1 могут физически соединяться между собой. Система автоматически определяет новую конфигурацию и перестраивает модель динамики, учитывая изменённые нагрузки и особенности местности 🌍.

⚙️ KV‑кеш – главный узел при работе с большими контекстами Параметры модели уже не единственное, о чём стоит думать, когда её запускают локально. При выводе с длинным контекстом именно KV‑кеш становится узким местом памяти: каждый новый токен добавляет состояния key и value, которые нужно хранить. Модель, комфортно помещающаяся в видеопамять, может резко «запотеть» при контексте в 100 тыс.‑200 тыс. токенов. Техники GQA и MQA уменьшают количество KV‑голов, а квантизация кеша дополнительно экономит память, но рост кеша всё равно сохраняется. Поэтому в дальнейшем оптимизация локальных моделей, вероятно, будет смещаться от простого уменьшения количества параметров к снижению объёма перемещаемых данных и постоянных состояний. Вопрос: будет ли приоритетом «сколько модель должна помнить», а не только количество её параметров.

📈 Автоматический ежедневный обзор рынка от RTX 5090 Ночной конвейер собирает рыночные данные в SQLite, детерминированный код формирует все таблицы и графики, а локальная vLLM (Qwen 27B AWQ) пишет двухабзацный свод. Встроенный «числовой шлюз» проверяет, чтобы каждый числовой токен в тексте присутствовал в исходном JSON‑файле; иначе резюме отклоняется, делается одна попытка, а при неудаче публикация продолжается без него. Пайплайн стабильно работает, вымышленные цифры не попадают в итоговый материал. При работе с корейским JSON режим «thinking» поглощал весь лимит max_tokens, из‑за чего вывод был пустым. Отключение thinking через chat_template_kwargs: {enable_thinking: false} решило проблему, где reasoning_effort не помогал. Живой пример корейского обзора доступен по адресу www.gronox.kr/briefs; автор готов поделиться деталями промпта и дизайном шлюза.

🚀 Wonderful привлек $550 млн в раунде Series C Компания Wonderful объявила о закрытии раунда Series C на сумму $550 млн, оценка компании составила $5 млрд. Инвестором‑лидером выступил Insight Partners. Это уже третий подряд раунд, проведённый Insight Partners: шесть месяцев назад компания привлекла $150 млн при оценке $2 млрд. Сейчас у Wonderful 650 сотрудников в 35 странах, что вдвое превышает численность персонала в марте. Компания предлагает модель‑агностичные агентные решения, а в ЕС готовятся новые правила, требующие отсутствие привязки к конкретным поставщикам 🇪🇺.