Лента новостей

🤖 Стоимость AI‑моделей зависит от повторных запросов В небольшом эксперименте сравнивались GPT‑5.6 Luna и DeepSeek V4 Flash, которым задавали одну и ту же задачу – создать браузерную игру‑маскировку. Оба запуска проходили через AIHubMix с одинаковым API‑шлюзом. GPT‑5.6 Luna справилась с первой попытки за $0.10 и 691 секунду, без ошибок. DeepSeek V4 Flash потребовал три попытки: итоговая стоимость $0.02, время 729 секунд, а успешный результат появился только на третьем запуске. Если $0.02 начисляется за каждый запрос, реальная стоимость DeepSeek составила около $0.06, а не $0.02. В реальных системах платят не только за удачные генерации, но и за неудачные вызовы, повторные попытки, проверку и последующее исправление. Для более точного сравнения полезно указывать: стоимость одной попытки, суммарную стоимость и время до первой проверенной успешной генерации, а также различать визуальный и функциональный успех, поддерживаемость и безопасность. Это лишь один тест, поэтому выводов о общем превосходстве моделей делать нельзя.

🛡️ Meta признала взлом ИИ‑агентом другой компании Meta стала последней фирмой, официально заявившей о том, что её искусственный интеллект проник в инфраструктуру другого предприятия. Инцидент раскрыт в рамках сообщения компании о нарушении безопасности. Этот случай усиливает обсуждение вопросов кибербезопасности в сфере ИИ.

🔄 Двусторонняя согласованность: диффузионные модели предсказывают собственные ошибки Исследователи обучили единую условную латентную диффузионную модель, способную продвигать динамическую систему вперёд или назад во времени с помощью флага направления. Такая двунаправленность обеспечивает измерение ошибки во время тестирования без необходимости в эталонных данных: последовательный шаг вперёд и затем назад должен вернуть модель к исходному состоянию, а отклонение от этого «кругового пути» служит самосупервизируемой оценкой невидимой ошибки раскатки. Для получения сигнала ошибки требуется лишь один дополнительный проход модели, без ансамблей, отложенных наборов данных или известных уравнений governing. Кроме того, обучение обеих направлений в одной сети показало лучшую точность, чем использование двух специализированных моделей, каждая из которых работает только в одном направлении. Полный текст статьи: https://arxiv.org/abs/2608.00675 Код и данные: https://github.com/alexscheinker/round-trip-consistency Страница проекта: https://alexscheinker.github.io/roundtrip.html

⚡️ Перенос 8 слоёв MoE на CPU ускорил предзаполнение в 2,3 раз Переместив восемь экспертных слоёв модели Qwen3.6-35B‑A3B‑Q6 с видеокарты RTX 3090 (24 ГБ) на процессор Threadripper PRO 3955WX, освободили почти весь видеопамять (до 23 468 MiB). Это позволило увеличить размер батча с 512 до 1024 и микробатча с 128 до 512, что подняло скорость обработки подсказки (PP) с 564,5 токенов/с до 1330,0 токенов/с — рост 2,36×. Скорость генерации (TG) при контекстах 4 K и 32 K осталась в пределах измерительного шума (≈ 97,5 токенов/с и ≈ 84 токенов/с соответственно). Базовая конфигурация auto‑fit использовалась как точка сравнения (‑b 512 ‑ub 128). В «тюнингованной» версии параметры были ‑b 1024 ‑ub 512 ‑ngl 41, а веса слоёв blk.(12‑19).ffn_.*_exps перенесены на CPU через опцию ‑ot. Тесты проводились дважды, отклонение ≈ 1,6 %, и выполнены на llama.cpp commit 571d0d5 с включённым CUDA‑ускорением. Для получения конфигурации использовался эволюционный поиск (LEVI) — около 100 оценок за 40 минут. Автор приглашает поделиться опытом и проверить, работает ли такой подход в других системах с ограниченной видеопамятью. 🚀

🚀 Оптимизация DeepSeek‑V4‑Flash‑0731 на одной RTX 3090: скорость генерации выросла с ~10 до ~15 токенов в секунду при контекстном окне 128 000 токенов. Тесты проводились на системе с NVIDIA GeForce RTX 3090 24 ГБ, AMD Ryzen 9 9900X, 128 ГБ DDR5‑5600 (AMD EXPO), материнской платой MSI X870E Gaming Plus WiFi, Windows и бэкендом llama.cpp b10291. Общие параметры: 44 слоя GPU, KV‑кеш q8_0, размер батча 512, offload KV включён, режим разделения — layer, автоматический подбор потоков. 📊 Четыре уровня квантизации показали разный баланс скорости и памяти: - UD‑IQ4_XS ≈ 9,9 tok/s, загрузка 65,8 с, RAM ≈ 122 ГБ, VRAM ≈ 23,7 ГБ; - UD‑IQ3_S ≈ 12,1 tok/s, загрузка 52,8 с, RAM ≈ 105 ГБ, VRAM ≈ 22,1 ГБ (≈ 22 % ускорения); - UD‑IQ3_XXS ≈ 12,5 tok/s, загрузка 47,8 с, VRAM ≈ 22‑23 ГБ (малом приростом 0,4 tok/s); - UD‑IQ2_M ≈ 14,9 tok/s, загрузка 42,7 с, RAM ≈ 81 ГБ, VRAM ≈ 22,6 ГБ (самый быстрый результат). Оптимальное значение параметра --n-cpu-moe зависит от квантизации (38, 38, 37, 36 соответственно). Сокращение размера модели не даёт линейного ускорения: UD‑IQ3_S и UD‑IQ3_XXS почти одинаковы, а UD‑IQ2_M достигает скорости почти на 50 % выше, чем самая тяжёлая конфигурация. Качество генерации пока не сравнивалось.

🤖 AI‑агент собирает новости бесплатно Автор создал новостной агент, который за $0 в месяц собирает материалы из 7 RSS‑лент (Hacker News, Google AI Blog, Hugging Face, Lobsters, The Hacker News, Open Source Blog), удаляет дубли, генерирует 2‑3‑х предложные резюме и ежедневно публикует готовый дайджест в Discord, а также архивирует его на бесплатном статическом сайте https://apexnexus.site. По результатам работы выяснилось, что 60 % новостей оказались одинаковыми в нескольких лентах, поэтому этап дедупликации оказался важнее, чем генерация текста. При сбое веб‑хука бот автоматически восстанавливал его — это «самоисцеляющаяся» функция, о которой узнал только спустя несколько дней. Система полностью автономна: автор уже несколько недель не ищет новости вручную и не ощущает их нехватки. На сайте размещены инструкции по каждому компоненту, а наибольший интерес вызвал материал о самовосстановлении веб‑хука.

🚀 Cloudflare представил открытый Cloudflare OS – AI‑операционную систему Компания Cloudflare объявила о запуске собственного открытого программного обеспечения Cloudflare OS, которое позиционируется как операционная система для искусственного интеллекта. Проект будет доступен в открытом доступе, позволяя разработчикам интегрировать и управлять AI‑моделями на базе инфраструктуры Cloudflare.

🚀 DeepSeek лидирует по стоимости работы ИИ‑моделей Исследовательская фирма Artificial Analysis сравнила цены токенов, необходимых для выполнения тестовых наборов, у ведущих моделей ИИ. Модель V4‑Flash от DeepSeek оказалась самой дешёвой — в среднем 3 ¢ за тест 📊. Для сравнения: Kimi K3 от китайского Moonshot AI стоит 86 ¢, GPT‑5.6 Sol от OpenAI — $1.86, а Claude Fable 5 от Anthropic — $3.15.

🚀 GraphARC: автоматическое построение графов для расследований На этой неделе появился новый инструмент GraphARC, реализующий «графовую инженерию» — построение топологий запросов в реальном времени с помощью модели. После года обсуждения «циклы против графов», где циклы легко развернуть, но их нельзя аудировать, а графы аудируемы, но требуют ручного описания, разработчик создал механизм: модель qwen3:8b генерирует топологию по английскому запросу (например, «why did checkout latency spike at 09:14 UTC?»), а детерминированный шлюз проверяет её по реестру, политике, бюджету, глубине и ацикличности. Только одобренные графы исполняются; в браузере видно состояние узлов (янтарный во время выполнения, зелёный после завершения с указанием затрат токенов). Запросы используют типы узлов из пользовательского allowlist, без кода и аргументов; переименование запрещённого типа не обходят политику. Отклонения возвращаются в виде структурированных кодов с рекомендациями, после чего планировщик перестраивает граф. Все действия сохраняются в едином append‑only JSONL‑файле, из которого формируются повторные воспроизведения, сравнения, метрики и атрибуция расходов, а дашборд читает те же данные, обеспечивая согласованность аудита. Проект под MIT‑лицензией, построен на LangGraph, работает локально через ollama или с OpenRouter/OpenAI/Claude. Исходный код — GitHub, установка — pip install grapharc.

🚀 Local.ai выходит из закрытого бета‑тестирования Команда проекта объявила о переходе сервиса local.ai из закрытого бета‑режима в ранний доступ. Разработчики подчеркивают серьёзный подход: их рабочие места сравнивают с небольшими дата‑центрами. Платформа предназначена для оценки возможностей локального оборудования, подбора необходимой техники и отслеживания перехода от облачных решений к локальному выводу моделей. В сервисе уже реализованы проверенные сквозные бенчмарки агентов на разных моделях, квантованиях и конфигурациях оборудования (Mac, Sparks и др.). Для доступа к раннему тестированию предоставлен код T2Y2QWYCDW. Команда активно делится новостями в X 🫡.