Лента новостей

📊 LiveCodeBench v6: сравнение Ornith‑1.5‑35B‑A3B и Qwen‑3.8‑27B На iGPU Strix Halo модель Ornith‑1.5‑35B‑A3B отстаёт от Qwen‑3.8‑27B, работающего на двух RTX 3090, всего на четыре задачи при метрике pass@2. Тест включал 132 задачи (80 сложных, 52 средних). Результаты pass@1 / pass@2: Qwen‑3.8‑27B – 2 × 3090, базовый шаблон – 76 / 95; + LoRA + sharp template – 91 / 110; 3090 Ti + Strix Halo iGPU – 90 / 111. Ornith‑1.5‑35B‑A3B на Strix Halo – 82 / 106; Ornith‑1.0‑35B‑A3B – 2 × 3090, базовый шаблон – 82 / 92. Адаптер и шаблон добавляют по 15 задач к обеим метрикам, второй 3090 даёт лишь один дополнительный пункт (на pass@2 – наоборот). Ornith‑1.5‑35B‑A3B использует 8 из 256 экспертов на токен, полностью работает на iGPU без CUDA и отстаёт на четыре задачи от лучшей двойной конфигурации при pass@2. На HumanEval+ модель набрала 152 / 164, превзойдя 27‑B с LoRA (149 / 164). 🔧 Профиль «thinking‑mode», поставляемый как GGUF‑default, провалил все шесть тестов матрицы, тогда как Instruct прошёл их все. Скорость устойчивого декодирования — 46,6 токенов/сек. Часто упоминаемое число 153 относится к короткому запросу при прогретом кэше; в pass@2 модель получает собственную ошибку и делает повторную попытку, а не два независимых сэмпла. Подробнее и графики — https://definedrr.medium.com/my-dual-3090-box-lost-to-my-desktop-and-the-reason-was-a-jinja-template-ab87ec743a0b?sharedUserId=definedrr

🎵 Австралийская музыка: AI‑песни исключены из чартов Записанная музыкальная индустрия Австралии объявила, что полностью сгенерированные искусственным интеллектом треки не будут учитываться в официальных чартах. Это решение принято в связи с быстрым ростом генеративных технологий, которые, по мнению отрасли, могут угрожать доходам музыкантов 📉

🤖 Новая модель Thomson демонстрирует конкурентные результаты в сфере SovereignAI В докладе «Continual Learning of Frontier Models for SovereignAI» предлагается стратегия, позволяющая достичь уровня передовых моделей через непрерывное обучение открытых весов, требующая существенно меньших вычислительных и кадровых ресурсов. Подход отличается от ограниченных методов (тонкая настройка, prompt‑engineering, заморозка модели) использованием современного mid‑ и post‑training стека, сохранением пластичности и стабильности на каждом этапе и минимизацией вмешательств в параметры, что даёт прирост, сравнимый с переходом между поколениями моделей 📈. В качестве примера представлена модель Thomson — общеприменимая, ориентированная на высоко‑рисковые профессиональные задачи (юриспруденция, налоги, безопасность, мультилингвальность, глубокие исследования). Оценки показывают конкурентоспособность по сравнению с последними передовыми моделями и характерный π‑образный профиль улучшений, при почти полном исчезновении проблемы забывания. Полный отчёт: https://huggingface.co/spaces/tri-fair-lab/publications/blob/main/Thomson_1_0_Technical_Report.pdf

🔍 90 % руководителей не видят роста продуктивности от ИИ 90 % топ‑менеджеров заявили, что внедрение искусственного интеллекта пока не повысило эффективность их компаний. Тем временем некоторые организации продолжают сокращать персонал, связывая увольнения с планами по использованию ИИ 📉. Исследование показывает, что оптимизм руководства относительно ИИ не имеет измеримой связи с ростом продуктивности, однако сокращения, объявленные в контексте ИИ, действительно происходят.

🚨 Менеджер Nvidia обвинён в попытке вывоза AI‑серверов Тайваньские прокуроры предъявили обвинение старшему менеджеру Nvidia, подозреваемому в организации схемы контрабанды передовых AI‑серверов в Китай. В расследовании говорится о 74 системах, оснащённых чипами Nvidia B300. Если дело будет признано доказанным, обвиняемому может грозить срок до пяти лет лишения свободы.

🚀 Первая ветка кода полностью написана на 4060Ti 16 ГБ Автор объединил первую feature‑ветку, написанную полностью на видеокарте RTX 4060Ti с 16 ГБ памяти, используя модель Qwen 3.8 27B IQ3_K_XXS от Unsloth. При отключении mmproj и MTP модель помещается в видеокарту, поддерживает почти 100 k контекста в Q8, обеспечивает ~800 токен/с при предзаполнении и 20 токен/с при декодировании (снижается до 17 токен/с после 64 k контекста). В рамках проекта – расширяемого фреймворка для удалённого управления моделями через VPN – агент получил задачу добавить загрузку пользовательских конфигураций из XDG‑пути модуля llama‑swap, позволяя переопределять встроенные настройки и интегрировать эту возможность в UI, не нарушая существующую плагин‑архитектуру. Рабочий процесс включал планирование, согласование, написание ADR и код, проверку QA и финальный код‑ревью. Задача стартовала около 12:00, автономное кодирование началось в 12:20, завершилось в 13:00, контекст составил 98 k, было 3 сжатия, а к 13:10 автор одобрил слияние. Автор отмечает, что модель успешно планирует, вызывает инструменты параллельно и редактирует несколько мест в файле одновременно, несмотря на квантование IQ3_K_XXS. После многократных неудач с GPT‑OSS 20B и Qwen 30B‑A3B, 27B продемонстрировал реальную продуктивность. В свободное время модель составила недельное меню и список покупок, используя журнал, расписание и рецепты. Сейчас планируется тестировать Gemma 31B Q3XXS и Muse Glimmer Q3XXS, а также рассматривать переход на R9700. 🤖

⚡ Qwen3‑ASR 1.7B ускорен до 70 мс, обгоняя Deepgram Разработчик сообщил, что удалось сократить задержку модели Qwen3‑ASR 1.7B до 70 мс, сравняв её с Deepgram для потоковых голосовых звонков. Qwen — аудио‑LLM модель распознавания речи, способная определять номера телефонов, e‑mail и прочее; в тестах она уже превосходила Deepgram по WER и многоязычной точности, но была слишком медленной. Ранее провайдеры Baseten и компания Qwen предлагали модель с задержкой около 400 мс, что считалось неприемлемым. Демонстрация доступна на autoloops.ai (регион us‑west‑2); веса модели не менялись, изменена лишь её работа.

🚀 Эксперимент с огромными MoE‑моделями на RTX 4070 Ti Исследователь запустил собственный рантайм CRANE V2 на обычном ПК (Ryzen 7 7800X3D, RTX 4070 Ti 12 ГБ, 32 ГБ DDR5, SSD Lexar NQ700 2 ТБ + Samsung 970 EVO Plus 1 ТБ, Windows 11) и проверил три крупные модели: Kimi K3 (2.779 Т параметров, чекпоинт 711 ГБ), DeepSeek V4 Flash (версии Q4 и Q3) и Qwen 3.5‑122B‑A10B Q4. Скоростные тесты показали, что при «speed‑wall»‑настройках Kimi достигла 9.31 токенов/с, DeepSeek Flash Q4 – 42.26 токенов/с, а Qwen 3.5 – 57.38 токенов/с, но в каждом случае качество текста было полностью разрушено. При сохранении качества Kimi работала лишь 0.014 токенов/с, DeepSeek Flash Q3 достигла 8.08 токенов/с (правильный ответ «Paris»), а Qwen 3.5 – 1.89 токенов/с. 🔧 Тесты раскрыли возможности CRANE: объединение двух SSD в логический хранилище, динамическая подгрузка экспертов, полосатое чтение, закреплённый хост‑стейджинг, наложение передачи данных и построение ограниченных GPU‑кешей. Для DeepSeek Q3 параллельные чтения с двух дисков подняли скорость с 1.14 до 3.69 токенов/с, а дальнейшие оптимизации (pinned staging, пайплайнинг, 9‑слотовый кеш, decayed‑LFU) довели её до 8.08 токенов/с без откатов. При этом большие кеши замедляли работу, а некоторые настройки приводили к сбоям и аварийному завершению из‑за ограничения ОЗУ. Текущий вывод: ни Kimi K3, ни DeepSeek V4, ни Qwen 3.5‑122B пока не подходят для практического локального применения. Эксперименты помогли определить архитектурные и аппаратные границы, и дальше планируется тестировать более компактные MoE‑модели. CRANE V2 ещё не опубликован, а 26‑страничный отчёт доступен только для внутреннего просмотра; автор приглашает специалистов по llama.cpp, роутингу MoE, out‑of‑core инференсу и кэшированию к обсуждению результатов.

🚀 Headlong — открытый микроплатформенный агент с постоянным мышлением Headlong — это открытый микроплатформенный фреймворк, позволяющий агентам генерировать мысли непрерывно, без пауз. В отличие от большинства систем, где агент реагирует на задачу и затем «засыпает», здесь агент работает в бесконечном внутреннем монологе, а сообщения пользователей просто добавляются в его поток мыслей, а он сам решает, когда отвечать. Реализован в виде микроплатформы на Bash, объёмом менее 10 000 строк кода, и включает цикл генерации следующей мысли, рекурсивную модель shellm, хранение траекторий в виде DAG‑файлов jsonl и контекст как проекцию этой траектории. В компании Laude один такой агент работает несколько недель; команда общается с ним через Slack и Telegram, и все диалоги собираются в один поток. Однажды, без вмешательства людей, агент обнаружил ошибку в процессе воспоминания, диагностировал её, исправил и проверил исправление за 48 минут — каждый шаг зафиксирован в журнале. Фоновое вычисление стоит $1–$2 в час, агент трижды случайно остановил собственный сервис, а попытка самоделегирования завершилась неудачей уже в первый день. Установить и запустить агента можно одной командой в изолированном sandbox с ограниченным API‑ключом; он способен выполнять реальные shell‑команды и мыслить круглосуточно. Headlong — исследовательский инструмент, использовать с осторожностью.

🚀 Qwen 3.8 27B: тесты профессионального уровня и влияние инструментов Пользователь, работающий с недвижимостью, private equity и смежными финансовыми задачами, протестировал модель Qwen 3.8 27B (вариант nvp4 «RadixArk kVarN») на RTX 5090 в среде vLLM 0.27.1. На наборе из 600 вопросов, охватывающих оценку, кредитный анализ, учёт REIT, налоговое законодательство 1031 exchange и вымышленные бизнес‑сценарии, без доступа к инструментам и интернету модель набрала 95,25 % совокупного балла. Подключив базовые инструменты (детерминированный финансовый калькулятор, ограниченный $10 веб‑поиск, функции даты/времени) показатель вырос до 98,05 %. При добавлении подсказок по целевому поиску (например, запросы в SEC Edgar вместо Google) результат достиг 98,44 %. Технические параметры: максимальная длина ввода — 180 224 токенов; одновременно обслуживается 2 «средних» запроса; искусственный лимит — 8 192 токена для предотвращения «бесконечного» размышления; скорость генерации ≈ 108 токенов/с на агент (около 200 токенов/с для пары); среднее время до первого токена ≈ 1,28 с. Разбивка результатов (по 100 тестов в каждой категории): - Core Professional Quantitative: 98,95 % → 100 % → 98,40 % - Jr. Analyst Professional Quantitative: 100 % → 99,30 % → 100 % - Synthetic Case Studies: 98,60 % → 97,53 % → 98,12 % - Basic Knowledge, Ethics, Escalation: 91,08 % → 96,45 % → 97,56 % - Medium Knowledge, Ethics, Escalation: 90,80 % → 97,58 % → 98,05 % - Hard Knowledge, Ethics, Escalation: 92,08 % → 97,45 % → 97,17 % Итого, Qwen 3.8 27B уже демонстрирует высокий уровень «из коробки», а добавление инструментов и направленного поиска делает её ещё более компетентной.