Лента новостей

🔧 Как подключиться к удалённому Deepseek Harness Deepseek Harness по умолчанию принимает запросы только с локального адреса 127.0.0.1, поэтому доступ к удалённому серверу требует перенаправления порта. Для этого выполните SSH‑команду, связывающую порт 3080 удалённого хоста с вашим локальным портом 3080: `ssh -L 3080:127.0.0.1:3080 user@deepseek-remote-ip` После установки туннеля откройте в браузере http://127.0.0.1:3080 — интерфейс Deepseek Harness будет доступен локально. 🚀

🚀 GMKtec представит новый аппарат на IFA 2026 Компания GMKtec объявила о своём участии в выставке IFA Berlin 2026, где планирует провести глобальное мероприятие по запуску новейшего продукта. На сцене будет продемонстрировано оборудование, работающее на процессоре AMD Ryzen™ AI Max+ PRO 495 нового поколения. GMKtec подчеркнула, что искусственный интеллект продолжает менять способы работы, творчества и взаимодействия с техникой, и компания будет развивать решения в этом направлении.

🚀 Ollama LFM2.5‑2.6B запущена на iGPU Intel NUC под Linux Автор протестировал модель Ollama LFM2.5‑2.6B, используя встроенную графику (iGPU) пятилетнего Intel NUC. В результате получена в три раза более высокая скорость инференса по сравнению с предыдущими настройками. Эксперимент проведён на Linux‑системе, без применения внешних видеокарт.

🚀 Alibaba планирует разместить акции на 10 млрд долларов Alibaba объявила о выпуске новых акций на сумму 10 млрд долларов США, чтобы поддержать масштабный переход в сферу искусственного интеллекта. Инвесторы проявили высокий интерес к эмиссии. Компания переходит к модели «full stack», выходя за пределы розничной торговли и вкладываясь в микросхемы, облачные сервисы и крупные языковые модели 🧠. Рост расходов на новые технологии отражается на квартальной прибыли компании.

🚀 Хостинг модели Kimi K3 на 8 B300 Я разместил модель Kimi K3 (2,8 трлн параметров) на восьми GPU B300. Производительность составила 92 токена в секунду, а стоимость — $190 за миллион сгенерированных токенов. Для теста использовались 8 × B300 в облаке Modal, цена $56.79 в час, vLLM, тензорный параллелизм 8, нативный MXFP4. Холодный запуск занял около 27 минут (загрузка 1,56 ТБ, JIT, 51 захват CUDA‑graph). Время до первого токена (TTFT) было 0,92‑1,02 с, декодирование шло стабильно 92 ток/с, в среднем 83 ток/с по четырём запросам. Один «чистый» запуск обошёлся в ~$36 GPU‑времени, а при постоянной работе стоимость составила $1 363 в день. Также протестировал Dynamic GGUF от Unsloth (1‑бит UD‑IQ1_S, 594 ГБ), который помещается на 8 × A100‑80 GB через llama.cpp. Стоимость $19,99 в час — в 2,8 раза дешевле. Производительность составила ~9 токенов/с, TTFT 7‑60 с, стоимость ~$620 за миллион токенов, то есть в 3,3 раза дороже за токен. Качество 1‑бит модели оказалось приемлемым: арифметика корректна, текст связный. Полный отчёт, все флаги, файл развертывания Modal и JSON‑результаты доступны по ссылке: https://books.vizuara.ai/book/kimi-k3-hosting

🚀 Nvidia инвестирует в Poolside Nvidia объявила о сделке с Poolside, направленной на конкуренцию с китайскими проектами Open Weights. Компания вложит 1 млрд долларов в Poolside и заплатит 6 млрд долларов за лицензирование технологий и привлечение большинства инженеров. Более 100 сотрудников Poolside перейдут в Nvidia, где будут работать над проектом Nemotron.

🚀 Qwen 3.8 27B меняет правила игры Разработчики получили модель несколько дней назад и подключили её к Codex, чтобы сравнить с GPT Luna – текущим «рабочим конём» по соотношению цены и эффективности. В тесте OCR‑конвейера качество распознавания оказалось лучше, чем у Gemini 3.5 Flash Lite, а по программированию модель сопоставима с Luna 🔍. Это первый локальный ИИ, который ощущается не как игрушка, а как решение уровня передовых моделей прошлого года. Уже обсуждается покупка собственного оборудования, которое, по оценкам, окупится менее чем за 2 месяца. Гипермасштабы сталкиваются с проблемой: их «защита» – покупка всей доступной техники – подрывается санкциями против Китая и ростом качества небольших локальных моделей. По словам автора, это напоминает «момент IBM», когда дешёвые локальные решения вытеснили крупные мейнфреймы. Ожидается открытый ренессанс в стиле Llama и, возможно, появление MoE‑модели с более 500 токенов/сек на потребительском железе 💡.

🚀 Qwen3.8-27B на двух RTX 3090: 3 200 токенов в минуту без NVLink Запущен локальный кодирующий агент Qwen (модель Qwen3.8‑27B W4A16‑AutoRound) в среде vLLM 0.27.1 с MTP‑3 спекулятивным декодированием и GPU‑префикс‑кешем. Использованы два RTX 3090, тензорный параллелизм TP=2, без NVLink, полный контекст 262 144 токенов, KV‑кеш в fp8. Система показывает 96,8 % попаданий в префикс‑кеш (только ~3 % токенов запроса попадают в GPU‑префил), среднее время до первого токена 6,5 с (p50 ≤ 5 с) против 140 с при холодном старте. Одна сессия декодирует 80–90 токенов/с (потенциал 106,9), MTP‑приём ≈ 52 % и ~130 к токенов в запросе. Скорость сохраняется при полном контексте: 200 k‑токеновый запрос обрабатывается так же быстро, как короткий. При нескольких одновременных чатах суммарно достигается ~3 200 токенов/мин (по ≈ 42 ток/с на каждый из двух чатов). KV‑бюджет составляет ~732 k токенов на обе карты.

🚀 Qwen 3.8‑27B: первая неделя в локальном использовании Сообщества r/LocalLLaMA и r/LocalLLM проанализировали более 2000 постов (15‑22 авг. 2026) и пришли к выводу, что 27‑млрд‑параметровый плотный мультимодальный Qwen 3.8 стал самым надёжным в локальном агентном программировании. Самым убедительным доказательством считается стабильность вызовов инструментов: в простом Python‑цикле один пользователь зафиксировал 0 ошибок при 80 вызовах, тогда как Gemma 4 A4B и Qwen 3.6 A3B часто падали. Модель показывает хорошие результаты в генерации игр (клон Super Mario, воссоздание Galaga, онлайн‑MOBA), в рендеринге лучей в BASIC и в нативной работе с изображениями (OCR‑чтение газетных вырезок ≈ 1000 токенов). При этом низкие и средние пресеты дают почти такой же интеллект‑индекс ≈ 43/44, как и «xhigh», но используют в 7‑9 раз меньше токенов и в 6‑7 раз меньше времени. На 16 ГБ видеокарте рекомендуется отделять профили текста и зрения, иначе VRAM почти полностью заполняется. Слабые места: регресс в воспоминании знаний по сравнению с 3.6, проблемы с длительным аналитическим текстом и сложным нативным кодом (для последнего часто требуется минимум Q8). По данным 67‑часового теста, «xhigh» тратит в 7‑11 раз больше токенов, получая лишь 0‑4,7 пунктов прироста; при этом «low» достигает ≈ 90 % качества «xhigh», используя лишь 1/7,5 ресурсов. Вывод сообщества — использовать «low» как стандартный режим, а «xhigh» включать лишь при необходимости проверенного правильного ответа. 🛠️

🚀 Улучшение Gemma 4 12B Автор доработал модель Gemma 4 12B, добившись 2,7‑кратного роста эффективности вызова инструментов, что позволило уместить её в видеокарте с 16 ГБ VRAM. Ранее модель показывала слабую работу с инструментами из Github Copilot и командной строкой; после дообучения количество попыток вызвать инструменты выросло на 15,7 %, а их использование стало более надёжным. Файлы весов преобразованы из fp16 в формат Q4_K_M и размещены для загрузки в llama.cpp и Ollama.