Лента новостей

📰 Китайская цензура в американских ИИ‑моделях Вчера в журнале *Nature* вышло исследование, подтверждающее, что материалы, отобранные китайским государством, присутствуют в обучающих наборах данных крупнейших американских языковых моделей. Авторы отмечают, что такие источники могут влиять на формирование ответов ИИ. https://www.nature.com/articles/s41586-026-10506-7 Около месяца назад Meta опубликовала собственный обзор, в котором указано, что проверяемые модели более чем в два раза чаще отказываются критиковать репрессивных лидеров и правительства. https://www.oversightboard.com/news/are-llms-stifling-political-speech-an-assessment-of-how-ai-models-protect-free-expression/

🚀 Qwen 3.8 27B FP8: 15 000 токенов/с на двух RTX 5090 В рамках постоянных пересборок vllm автор достиг максимального использования GPU, включив Model Runner V2 для моделей Mamba, отключив MPT при батчинге и включив p2p‑драйвер с NCCL, собранный из исходников. Тестовая система: процессор Intel Xeon w7‑2595X (52 ядра, 5.10 ГГц), видеокарты AMD Radeon PRO W6600 и две NVIDIA GeForce RTX 5090, оперативной памяти 66.8 ГБ из 188 ГБ (36 %). Бенчмарк за 15,3 с при 200 запросах показал: 13,07 запросов/с, средний вывод ≈ 1 673 токенов/с, пик ≈ 3 000 токенов/с, общая пропускная способность ≈ 15 059 токенов/с. Среднее время до первого токена – 1 742 мс, среднее время на каждый последующий токен – 45,7 мс.

🎬 Новая версия MAGI‑2: масштабируемая генерация видео SandAI представила превью модели MAGI‑2, предназначенной для эффективного масштабирования видеогенерации. Модель построена на архитектуре 114 млрд параметров с адаптивным MoE‑механизмом. Все материалы доступны по ссылкам: HuggingFace — https://huggingface.co/sand-ai/MAGI-2-preview, GitHub — https://github.com/SandAI-org/MAGI-2-preview, анонс на X — https://x.com/SandAI_HQ/status/2088152335008571532.

🚀 RetroCraft: демонстрация Qwen 3.8 27B Q8 на двойных 3090 В одном запросе Qwen 3.8 27B Q8_K_XL создал одностраничный HTML/JS/CSS‑сайт в стиле GeoCities, «Laser Wave», 80‑х ретро‑мк‑клон под названием RetroCraft, упакованный в один Go‑binary, который сразу же обслуживает страницу. Opencode написал код за несколько минут, и он запустился без правок. llama‑swap отобразил полные данные о токенах и скорости: ID | Cached Prompt | Generated Prompt | Speed Gen | Speed Duration | Notes ---|---|---|---|---|--- 251 | 43 473 | 95 | 90 | 142.46 t/s | 48.76 t/s | 2.76 s final version 250 | 43 186 | 88 | 199 | 128.22 t/s | 43.94 t/s | 5.46 s 249 | 42 757 | 255 | 173 | 311.94 t/s | 40.11 t/s | 5.37 s prompt to improve cli flags … (далее идут записи до ID 229, где 8 931 | 51 | 19 361 | 70.58 t/s | 40.89 t/s | 475.21 s initial prompt and reasoning) Запуск выполнен в OpenCode с моделью `Q3.8-27B-MTP:preserve-thinking-coding`. Сохранение токенов размышлений значительно улучшило результаты. Параметры сервера: ``` /path/to/llama-server/llama-server-latest --host 0.0.0.0 --port ${PORT} -ngl 999 -ngld 999 --no-mmap --no-warmup --log-verbosity 4 --fit off ${server-latest} --temp 1.0 --min-p 0.0 --top-k 20 --top-p 0.95 --repeat_penalty 1.0 --presence_penalty 0.0 ${qwen-27B-server} --model /path/to/models/Qwen3.8-27B-UD-Q8_K_XL.gguf --ctx-size 238000 --kv-unified --spec-type draft-mtp --spec-draft-n-max 3 --spec-draft-p-min 0.75 --tensor-split 50,50 -sm tensor -np 2 --batch-size 4096 --ubatch-size 512 ``` Код и видео в высоком разрешении доступны на GitHub: https://github.com/mostlygeek/retrocraft.

🚚 Самоходные грузовики начали тестировать на калифорнийских трассах Aurora Innovation и Kodiak AI получили разрешения от Департамента транспортных средств Калифорнии на испытания своих автономных грузовиков. 🛣️ Теперь компании могут проводить испытания на дорогах штата, проверяя работу систем без водителя.

🤖 Xiaomi AI теперь работает локально на 14T Pro Компания Xiaomi объявила, что её система искусственного интеллекта запущена непосредственно на смартфоне Xiaomi 14T Pro, без обращения к облачным сервисам. Технология позволяет выполнять AI‑задачи прямо на устройстве, используя его собственные вычислительные мощности 📱.

📊 Открытые модели в 2026 году: Китай опережает США В почти каждый месяц 2026 года крупнейшая и самая производительная открытая модель, созданная в китайской лаборатории, была масштабнее любой открытой модели, выпущенной американскими лабораториями. 🔍 Участие США в разработке открытого ИИ продолжает расти; подробный анализ с графиками опубликован в недавнем блоге.

🚀 SGLang запустил поддержку Qwen3.8‑27B Команда SGLang представила day‑0 поддержку модели Qwen3.8‑27B. Для повышения скорости локального запуска объединили технологии NVFP4 и DSpark. В результате получена производительность более 200 токенов в секунду при декодировании на одной видеокарте RTX 5090 и 38 токенов в секунду на системе DGX Spark (RTX Pro 6000). Подробный рецепт доступен в cookbook — https://docs.sglang.io/cookbook/autoregressive/Qwen/Qwen3.8-27B. Чекпоинты: NVFP4 — huggingface.co/RadixArk/Qwen3.8-27B-NVFP4, DSpark — huggingface.co/RadixArk/Qwen3.8-27B-DSpark. Команда приглашает к обратной связи 🫡.

🚀 Сравнение Qwen 3.6 и Qwen 3.8 на RTX PRO 6000 (14 авг 2026) На видеокарте RTX PRO 6000 Blackwell (vLLM, fp8‑кеш) проведён MTP‑sweep для моделей Qwen3.6‑27B‑FP8 и Qwen3.8‑27B‑FP8. Основные параметры: ‑‑gpu-memory-utilization 0.92, ‑‑max-num-seqs 4, ‑‑kv-cache-dtype fp8, ‑‑max-model-len 262 144, режим‑интерактивности. Для Qwen 3.8 оптимальным оказался шаг MTP 5: 115,0 токен/с, 56,3 % принятия, 102,7 ms TTFT и качество 89,8. Шаг MTP 4 близок к нему (107,1 токен/с, 61,2 % принятия) и даёт наибольшее преимущество в качестве над 3.6 (+4,8). На MTP 8 наблюдается аномалия холодного старта – TTFT 970 ms и приемлемость лишь 40,4 %. Qwen 3.8 отстаивает скорость на 5‑28 % на всех шагах MTP, но качество почти одинаково, иногда выше (например, +3,4 на MTP 2, +4,8 на MTP 4, +2,8 на MTP 5). Оба варианта достигают пика производительности на MTP 5 (124,0 токен/с у 3.6 и 115,0 у 3.8). На более высоких шагах 3.6 остаётся быстрее. Итого: Qwen 3.8 сохраняет качество, но работает медленнее, чем 3.6. Если важна максимальная скорость, предпочтительнее Qwen 3.6; для более сбалансированного результата можно выбрать Qwen 3.8 на MTP 5.

🧬 Новый медицинский ternary‑модель Pestle 27B Компания объявила о выпуске Pestle 27B Ternary — первой в мире медицинской ternary‑модели, доступной по лицензии Apache 2.0. Проект направлен на развитие и демократизацию искусственного интеллекта через открытый исходный код и открытые научные исследования.