Лента новостей

🚀 Qwen3.8‑Flash‑Next: сравнение llama.cpp и ik_llama.cpp на двух RTX 3060 В тестах на системе с AMD Ryzen 7 7800X3D, 128 ГБ DDR5 и двумя RTX 3060 (12 ГБ) модель UD‑IQ4_XS (93,7 ГБ, 125 B MoE / 6 B активных) показала, что llama.cpp при ‑sm layer и ubatch 2048 достигает ≈400 токенов/сек при контексте 131 072, тогда как ik_llama.cpp даёт схожую скорость (≈401‑407 токенов/сек) только при достаточном объёме ОЗУ. ‑sm tensor в llama.cpp уменьшает предзаполнение в 7‑раз (41,7 t/s → 303 t/s), а увеличение ubatch с 512 до 2048 токенов повышает пропускную способность до 303 t/s. ik_llama.cpp не страдает от «split‑mode» падения и показывает одинаковую скорость с ‑sm layer и ‑sm graph. Потребление памяти сильно различается: llama.cpp в режиме --load‑mode mmap использует 21‑32 ГБ ОЗУ, оставляя ≈93 ГБ свободными; ik_llama.cpp требует 106‑108 ГБ, оставляя лишь 16‑18 ГБ. Оба варианта помещаются в 128 ГБ, но на машине с 96 ГБ RAM ik_llama.cpp не запустится. VRAM задействовано ≈9 ГБ на каждой карте. Декодирование ограничено пропускной способностью памяти – около 12 токенов/сек. Рекомендации: при <128 ГБ RAM предпочтительнее llama.cpp. Для ik_llama.cpp оптимальны флаги ‑sm layer ‑ncmoe 48 ‑ub 2048 ‑b 4096 ‑fa (≈407 t/s предзаполнение, 13 t/s декодирование). Для llama.cpp – ‑sm layer --n‑cpu‑moe 48 ‑ub 1024 ‑b 4096 --flash‑attn (≈215 t/s предзаполнение, 12 t/s декодирование).

🚀 a16z запускает $1,1 млрд фонд «Machine Age» a16z объявила о создании фонда «Machine Age» объёмом 1,1 млрд долларов, цель которого — ускорить физическое развертывание технологий искусственного интеллекта. Фирма, известная своим фокусом на программном обеспечении, теперь планирует активнее инвестировать в аппаратные решения, поддерживающие ИИ.

⚖️ Anthropic выиграла первое судебное дело против Пентагона Федеральный судья признал, что администрация Трампа незаконно отнесла компанию Anthropic к категории рисков для цепочки поставок. 📍 Это решение стало первой победой AI‑компании в её споре с Министерством обороны. В то же время продолжается второй иск Anthropic к Пентагону, который рассматривается в Вашингтоне.

🚀 Руководитель Meta переходит в OpenAI В компании Meta объявил об уходе один из топ‑менеджеров, который принимает предложение от OpenAI. Перемещение происходит на фоне усиливающегося давления со стороны индийских регуляторов к соцсети. Сандхья Деванатан будет руководить частью операций OpenAI в Юго‑Восточной Азии и Австралии 🌏.

🇦🇺 Австралия запретила полностью AI‑песни в официальных чартах Согласно решению, треки, созданные полностью искусственным интеллектом, больше не могут попасть в австралийские официальные чарты. Музыка, где ИИ использовался лишь как вспомогательный инструмент, остаётся допустимой. Разница подчёркивается: применение ИИ для мастеринга отличается от генерации композиции одним запросом, однако между этими подходами существует «серый» промежуток. Вопрос остаётся открытым: должны ли чарты оценивать способ создания песни или только её реальную популярность среди слушателей? (Reuters, 26 авг. 2026)

🚀 PRAXIST от Sapient Intelligence — открытая система для автономных R&D‑агентов, требующая коммерческой лицензии только у компаний с годовым оборотом более 1 млн USD. Система построена вокруг идеи «harnesses»: вместо попыток создать лишь более мощные модели, PRAXIST фокусируется на архитектуре, превращая артефакты и результаты оценок в типизированный граф доказательств, что позволяет последующим попыткам наследовать проверенные механизмы и ограничения. На стандартизированном наборе из 75 задач MLE‑bench PRAXIST набрал 60 медалей (80 %), из них 49 золотых, тогда как базовый Claude Code получил 55 медалей (73,3 %) и 34 золотых на Claude Opus 4.8. При этом затраты на модель составили US$3 054 против US$38 370 у сравнимого решения — примерно в двенадцать раз дешевле. В четырёх кейс‑стади (квантитативный трейдинг, LiDAR‑инерциальный‑визуальный SLAM, магнитный контроль токамака и посадка ракеты) система превзошла базовые показатели по точности, выживаемости или ресурсным затратам, при этом весь путь разработки задокументирован. Подробнее на GitHub https://github.com/sapientinc/PRAXIST и в статье https://arxiv.org/abs/2608.25955.

🚀 Nvidia уже достигла AGI, считает вехи пустыми Генеральный директор Nvidia Дженсен Хуанг заявил в ходе конференц‑звонка по результатам квартала, что компания уже достигла искусственного общего интеллекта (AGI) по стандартам многих задач. Он также отметил, что традиционные вехи в развитии AGI сейчас почти бессмысленны. Хуанг подчеркнул, что главное — бизнес‑результаты: AI должен выполнять продуктивную работу и генерировать прибыльные токены. Эти комментарии подчёркивают отсутствие единого определения и измерения AGI в отрасли.

🔒 100 компаний призвали усилить киберзащиту Группа из ста фирм, среди которых Google, Microsoft, Anthropic и OpenAI, подписала открытое письмо. В нём они просят государства и организации по всему миру укрепить свои кибер‑защиты. Текст обращения подчёркивает, что искусственный интеллект скоро станет настолько мощным, что может обойти существующие системы безопасности.

🚀 Новые квантизации DeepSeek V4 Flash 0731 от ik_llama.cpp Создан набор квантизаций ik_llama.cpp для модели DeepSeek V4 Flash 0731 и проведено парное KLD‑тестирование против файлов AtomicChat. Файлы размещены на Hugging Face (https://huggingface.co/KeinNiemand/DeepSeek-V4-Flash-0731-IK_GGUF) и требуют свежей сборки ik_llama.cpp, так как содержат специфические типы тензоров IQK и IQT, которые не поддерживаются основной веткой llama.cpp без явного указания. Сформирован полный GGUF‑ladder от 65,1 ГБ до 149,1 ГБ: - XS_IQ1_KT – 65,1 ГБ (для систем ≈ 64 GiB) - IQ1_KT – 72,8 ГБ - IQ2_KT – 93,0 ГБ - IQ2_KS – 93,4 ГБ - IQ2_KL – 106,1 ГБ - IQ3_KS – 122,0 ГБ - IQ3_K – 132,8 ГБ - IQ4_KSS – 149,1 ГБ Квантизации построены с использованием importance‑matrix; тензоры MXFP4 пере‑квантованы напрямую, а FP8‑тензоры предварительно расширены до BF16. Тестирование проводилось на базе BF16‑логитов и токенов WikiText‑2, опубликованных AtomicChat. При одинаковой конфигурации запусков получены следующие результаты (меньше – лучше): - XS_IQ1_KT – PPL 6.039, KLD 0.4997, RMS 23.06 %, top‑1 76.05 % (65,4 ГБ) - IQ1_KT – PPL 5.464, KLD 0.3932, RMS 20.34 %, top‑1 79.08 % (73,2 ГБ) - IQ2_KS – PPL 4.914, KLD 0.2689, RMS 16.50 %, top‑1 83.03 % (93,4 ГБ) Для уровня ≈ 93 ГБ квант IQ2_KS превзошёл аналогичный Atomic AD‑IQ2_S: 8.35 % ниже средний KLD, 0.1005 меньше PPL, 1.16 % ниже RMS и 0.92 % выше top‑1. IQ1_KT показывает 19.03 % снижение среднего KLD по сравнению с Atomic AD‑IQ1_M_XL при схожем размере. 🔧 Рекомендации: для моделей около 93 ГБ предпочтителен IQ2_KS; IQ2_KT почти одинаков по качеству, но медленнее на CPU и гибридных CPU/GPU‑инференсах. XS_IQ1_KT предназначен для систем с 64 GiB видеопамяти. Тестировать IQ3_KS, IQ3_K и IQ4_KSS не удалось из‑за ограничений памяти, поэтому их качество не оценивалось. Репозиторий AtomicChat с исходными артефактами: https://huggingface.co/AtomicChat/DeepSeek-V4-Flash-0731-GGUF. При наличии других квантизаций в диапазонах ≈ 73 ГБ или ≈ 93 ГБ автор приглашает провести сравнение на тех же референсных данных.

🚀 Tencent опубликовал веса модели Hy4-preview 770B‑A49B Компания Tencent выпустила набор весов для модели Hy4-preview, содержащей 770 млрд параметров (обозначение A49B). В официальном заявлении отмечается, что проект направлен на развитие и демократизацию искусственного интеллекта через открытый исходный код и открытую науку.