Лента новостей

🚀 Intel Arc Pro B70 демонстрирует 52 токена/с на модели Qwen3.8‑27B Полноценный локальный LLM‑стек на базе Intel Arc Pro B70 (32 ГБ VRAM) под Linux обеспечивает медианную скорость декодирования 52,2 токен/с при использовании MTP2‑спекулятивного декодирования, контекст 64 К (опционально 128 К), поддержку зрения и вызовов инструментов, а все тесты агента прошли успешно. 🔧 Карта оснащена 256 EU, работает в Ubuntu 26.04 с ядром 7.0, 12 ядрами CPU и 29 ГБ ОЗУ. Стек программного обеспечения: OMIX 0.3.0, DPC++ 2026.1, Level Zero 1.28.6, compute‑runtime 26.22, vLLM 0.27.1 XPU в Docker. При профиле 64 К GPU‑утилизация 0,92, при 128 К – 0,95; потребление ≈ 174 Вт. Скорости: MTP off 33,2 ток/с, MTP1 47,1 ток/с, MTP2 52,2 ток/с, MTP3 51,6 ток/с. Предзаполнение ≈ 1,5 К ток/с, TTFT 0,18 с (короткий запрос) и до 146 с при полном 128 К контексте. vLLM обгоняет llama.cpp SYCL в 1,8 раз (52,2 vs 29,0 ток/с) и предоставляет более широкую поддержку инструментов и зрения. Отмечены ограничения: при включённом MTP и параллельных запросах требуется --max-num-seqs 1, 128 К контекст использует почти весь VRAM, а иногда наблюдается деградация декодирования, устраняемая перезапуском. Итог – карта Arc B70 является практичным решением для инференса 27‑B INT4 моделей на Linux в 2026 году.

🚀 Сокращение вывода LLM экономит до 3 раз Исследователи измерили влияние двух подходов — сокращения входного запроса и указания модели выдавать более короткий ответ — на 9 популярных моделей: GPT‑4o, GPT‑5.4, Claude Haiku 4.5, Claude Sonnet 4.6, Qwen2.5‑VL‑7B, Qwen3.5‑9B, DeepSeek‑R1‑Distill, Gemma‑4‑E4B и Kimi‑K2.6. Тесты проводились на пяти наборах вопросов с короткими ответами, на одиннадцатиязычном наборе (английский, немецкий, испанский, французский, суахили, китайский, японский, русский, бенгальский, тайский, телугу) и на задаче суммирования. 📊 Сокращение вывода позволило снизить стоимость в среднем в 1,5 раз, а в лучшем случае — в 3 раз, при почти неизменной точности; экономия наблюдалась во всех языках. Напротив, сокращение входного запроса увеличивало затраты до 96 % на худшем бенчмарке и ухудшало точность, поскольку модель «заполняла» недостающие детали более длинными ответами. Выводы подтверждают, что токены вывода стоят дороже токенов ввода, поэтому при односторонних задачах экономия достигается запросом меньшего количества выходных токенов. При корректных сокращённых ответах около половины текста уже не совпадает с тем, как модель бы рассуждала без ограничения, что приемлемо, если важен лишь конечный результат. Полный доклад — https://www.alphaxiv.org/pdf/2606.24083v1, код и данные — https://github.com/danielle34/cavewoman.

🎙️ FireRedTeam представила универсальные модели аудио‑языка FireRedAudio и FireRedTTS3 FireRedAudio — 9‑млрд‑параметровый LLM с раздельными путями: Audio Encoder обрабатывает понимание, а RedAE‑Patch — генерацию. Одна модель покрывает ASR, широкое и детальное аудио‑понимание, нулевой‑выстрел TTS, инструктивный TTS, семантическое и акустическое редактирование речи, а также точную привязку к времени записей до одного часа. Модель демонстрирует конкурентные результаты в MMAU, MMSU, Seed‑TTS‑Eval, InstructTTSEval и Ming‑Freeform‑Audio‑Edit. Пользователи могут клонировать голос по образцу, создавать новый голос по описанию и редактировать речь через естественный язык, а также структурировать часовые записи по тайм‑стемпам. FireRedTTS3 — система единого генератора и редактора речи с семантически обогащёнными представлениями. Вариант Base поддерживает нулевой‑выстрел клонирование голоса на 24 языках и 21 китайском диалекте; вариант Instruct позволяет задавать голос и редактировать речь через текстовые инструкции. По оценкам, средний WER/CER модели = 3.754 %, а сходство голоса = 84.8 % на MiniMax‑MLS‑Test; при клонировании достигаются WER = 3.04 % и сходство = 78.8 % на Seed‑TTS‑Eval. Ссылки: HuggingFace, GitHub, демо‑страницы и статья на arXiv.

🔧 Nvidia: главное — настройка, а не модель Исследователи Nvidia продемонстрировали, что эффективность AI‑агентов зависит больше от «гарнитуры» — процесса тонкой настройки, чем от самой модели. Даже если базовая модель показывает скромные результаты по задаче, правильный fine‑tuning позволяет агентам работать стабильно и избегать отклонений. Таким образом, в новых экспериментах ключевую роль сыграл именно процесс доработки, а не исходные возможности модели.

🚀 Anthropic открывает хранение данных для корпоративных клиентов Компания Anthropic объявила, что теперь предприятия смогут самостоятельно хранить данные, используемые в их AI‑моделях. Это даст клиентам полный контроль над информацией, которая передаётся в системы искусственного интеллекта. Новая возможность ориентирована на крупные организации, которым важна конфиденциальность и безопасность собственных данных при работе с генеративными моделями.

🚀 Запущен ExploitGym — масштабный тест для ИИ Исследовательское сотрудничество под руководством Калифорнийского университета в Беркли разработало ExploitGym — крупный бенчмарк для оценки способности ИИ‑агентов создавать эксплойты. Он предназначен для измерения того, насколько эффективно искусственный интеллект может находить и использовать уязвимости. Подробнее о том, как появился проект, можно узнать в опубликованной истории создания ExploitGym.

👓 Рост спроса на Meta AI очки усложняет защиту конфиденциальности Спрос на умные очки Meta AI резко растёт, и пользователи всё чаще сталкиваются с нежелательными записями. В ответ на волну критики по поводу приватности, Ars представил бесплатное приложение Zuckoff 📱, которое позволяет обнаруживать наличие Meta AI очков рядом.

⚙️ Проверка V100 на скрытые ошибки памяти Автор купил 32 ГБ V100 на eBay, провёл базовые тесты без проблем, но в работе llama.cpp появились ошибки, связанные с VRAM. При проверке с помощью Claude выяснилось, что ECC был отключён, а это может скрывать небольшие дефекты памяти. Если ECC включён, информация о сбоях записывается в InfoROM видеокарты вместе с метками времени. С помощью опубликованного скрипта можно увидеть, есть ли «retired pages». На проверяемой карте такие страницы обнаружены, начиная с 2019 года; у другой V100 (16 ГБ) их нет. Гарантийный срок в 30 дней уже истёк, и карта стоит $900, но не пригодна к использованию. Автор планирует запускать скрипт сразу после установки каждой новой V100, чтобы избежать покупки бракованного оборудования. https://gist.github.com/samteezy/a788dcf430deb448ae48bbe17c369241 https://preview.redd.it/4o84q8jf3qkh1.png?width=1650&format=png&auto=webp&s=78a876a11978b1b9a1fba515775040ebb7cc1a81

⚡ Политики, поддерживавшие дата‑центры, теперь против них Ранее многие губернаторы активно продвигали строительство дата‑центров, считая их драйвером экономического роста. Сейчас такие главы штатов, как Техасский Грег Эбботт и Пенсильванский Джош Шапиро, замедляют развитие этих объектов, ссылаясь на растущее недовольство искусственным интеллектом 📉. Они отмечают, что проекты вызывают опасения по поводу энергопотребления и влияния ИИ.

🤖 AI меняет условия контрактов в индийском IT‑секторе Клиенты в Индии требуют от IT‑компаний больше результатов при меньших затратах, и в ответ поставщики усиливают внедрение искусственного интеллекта. Внедрение AI позволяет автоматизировать рутинные процессы, что приводит к пересмотру моделей ценообразования и условий сотрудничества, чтобы сохранить конкурентоспособность.