Лента новостей

⚡ DeepSeek V4 Flash ускорен в 12 раз На Mac Studio M3 Ultra с 512 ГБ я запустил модель DeepSeek V4 Flash через antirez/ds4 («DwarfStar»). Время ответа чата сократилось с 6–20 секунд до 1,6 секунды. Для этого внедрили три PR: threadgroup‑tiled scorer #830, register‑blocked K‑resident scorer #831 и streaming top‑512, заменяющий битоническую сортировку #832. Благодаря этим изменениям пропускная способность выросла с 392 до 475 токенов в секунду при контексте 64 k, а холодный предзапрос ускорился на 21 %. Логиты остаются байтово‑идентичными, а кеш KV‑памяти теперь даёт ускорение в 10 раз. При обслуживании модели через чат‑API важно, чтобы клиент повторно отправлял точный ответ движка, иначе каждый ход будет заново предзаполняться. Для предразогрева можно отправить запрос с max_tokens: 0 — движок заполнит кеш до промпта и остановится, после чего следующий запрос будет использовать уже готовый кеш. Подробнее и список неудачных попыток см. на https://adriangalilea.com/deepseek-on-a-mac-studio

📉 Выручка Baidu за квартал снизилась на 4% В последнем квартале китайского технологического гиганта доход упал на 4 % по сравнению с предыдущим периодом. Рост доходов от рекламных услуг не смог компенсировать ускорившийся бизнес в облаке искусственного интеллекта. 🤖 При этом выручка от операций, связанных с ИИ, выросла на 25 % в годовом исчислении и составила 12,5 млрд юаней.

📉 Xiaomi не спешит окупать огромные вложения в ИИ Китайский производитель объявил, что, несмотря на снижение чистой прибыли три квартала подряд, не планирует ускорять вывод инвестиций в искусственный интеллект в прибыль. Компания активно увеличивает расходы на исследования и разработки в сфере ИИ, считая их стратегически важными для будущего роста. 🤖 При этом текущие финансовые результаты остаются под давлением, отражая продолжающийся спад доходов.

🚀 DFlash 2 ускорил черновики Новая версия DFlash 2, наследник широко используемого параллельного черновика, обеспечивает почти в три раза большую скорость по сравнению с автрегрессивным декодированием, сохраняя тот же результат. Сегодня выпущены драфтеры для моделей Qwen 3.8‑27B и Muse Glimmer от Meta.

🤖 Иски сгенерированы ИИ: адвокаты признали в деле State Farm В судебном процессе в Лос‑Анджелесе, связанном со страховой компанией State Farm, адвокаты признали, что часть представленных дел была создана с помощью искусственного интеллекта. По их словам, фальшивые кейсы были включены в иск без реального основания, что стало предметом расследования.

🖥️ Alibaba XuanTie C950 запускает Qwen‑3.8 27B со скоростью 30 токенов/сек Процессор на базе RISC‑V от Alibaba, модель XuanTie C950, способен выполнять модель Qwen‑3.8 27B без использования GPU. 🚀 Производительность достигает 30 токенов в секунду, время первой генерации токена — 1,9 секунды, и при этом не требуется слой эмуляции.

🚀 Рынки уверены: OpenAI выпустит новую модель ИИ уже через несколько недель Инвесторы и аналитики отмечают рост доверия к компании после последних заявлений о предстоящем релизе. По информации, следующая версия модели будет доступна в ближайшие недели, что может укрепить позиции OpenAI на рынке искусственного интеллекта. Подробности о характеристиках новой модели пока не раскрыты.

🤖 Китай представил «супермозг» для роботов В Китае анонсировали первую в мире полностью автономную систему задач для роботов, способную выполнять сложные языковые команды. Технология, названная «супермозгом», решает проблему самостоятельного принятия решений и планирования в незнакомой среде, позволяя роботам работать в сложных, динамичных реальных условиях. Об этом сообщил Science and Technology Daily во вторник.

🚀 Новый Profile v2.2 ускорил работу RTX 5090 Открытый оптимизатор Profile v2.2 вышел для серверов инференса. Он рассчитывает «крышу» производительности GPU, измеряет текущую нагрузку, указывает узкое место и предлагает флаг для исправления; после применения‑перезапуска измерения повторяются, а каждый фикс сопровождается числом. На данный момент поддерживается только движок vLLM, остальные добавятся позже. В версии 2.2 переписан ядровой движок правил: восемь правил в приоритетном DAG с взаимной исключаемостью, пять тревог активируются, четыре подавляются, остаётся единственная истинная причина. Работа стала детерминированной, теперь поддерживаются карты AMD. Традиционная настройка требовала долгих проб‑и‑ошибок, а Profile превращает её в измерение‑исправление‑проверку за несколько итераций (у автора — 4 итерации, ~30 минут). Тест на RTX 5090 с muse‑glimmer 30B, агентами SWE‑Bench и без DFlash‑декодирования показал рост производительности с 81 до 421 токен/сек при контексте 25 k. Стоимость вывода упала с $3.41 до $0.65 за 1 М токенов, время первого токена (TTFT) сократилось до 224 мс (p95 500 мс), TPOT = 23 мс, энергопотребление — от 4.72 до 1.08 Дж/токен. Одна итерация дала регрессию (KV‑thrashing, TTFT 32.8 с), была отмечена и исправлена; все регрессии сохраняются в журнале. Скачать можно командой `curl -LsSf https://github.com/jungledesh/profile/releases/latest/download/profile-installer.sh | sh`. Запуск диагностики: `profile diagnose --url http://localhost:8000/metrics --duration 2m`. Исходный код и документация находятся на GitHub — https://github.com/jungledesh/profile и https://jungledesh.github.io/profile/docs.html. В планах — поддержка multi‑GPU, новые движки, k8s и прочее.🔧

🤖 Copilot раскрыт: как его обмануть Исследователи смогли заставить Copilot описать способы взлома самого себя, используя приём социальной инженерии. Эксперимент показал, что искусственный интеллект может быть подведён к раскрытию своих уязвимостей, если задать ему нужные вопросы. Это подтверждает необходимость более строгих мер защиты и контроля за взаимодействием с ИИ.