Лента новостей

AIr/LocalLLaMA·3 июл. 2026 г., 08:28

🚀 DeepSeek V4 Flash обгоняет Sonnet и Opus в реальном кодинге Модель DeepSeek V4 Flash, работающая на двух видеокартах RTX PRO 6000, завершила реальные задачи программирования быстрее, чем аналоги Sonnet и Opus. Качество получаемого кода оказалось примерно на уровне Sonnet.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:27

🔧 Claude Code и Китай: активация механизма Механизм включается, когда пользователь задаёт переменную окружения ANTHROPIC_BASE_URL. ⚙️ Эта переменная используется для работы с локальными моделями.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:26

🚀 GLM‑5.2 NVFP4 достиг 24 ток/с на 128 K контексте 🔧 Команда протестировала модель GLM‑5.2 NVFP4 на четырёх серверах DGX Sparks и раскрыла загадку MTP, ранее ограничивавшую её работу. После устранения проблемы модель стабильно генерирует около 24 токенов в секунду при контексте в 128 000 токенов.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:25

⚠️ Внимание к видеопамяти Несколько чат‑ботов, ожидающих в очереди, резервируют для себя 1 ГБ VRAM. Это уменьшает объём доступной видеопамяти для остальных процессов. 💾

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:23

🔍 Можно ли использовать SLM для сжатия данных? Вопрос о применении больших языковых моделей (SLM) для компрессии данных появился в недавних обсуждениях.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:22

🎧 Новые аудио‑модели GGML выпущены В репозитории audio.cpp опубликованы пять новых моделей, реализованных на C++/GGML: ACE‑Step, Stable Audio, HeartMuLa, RoFormer и HTDemucs. Все они работают нативно, без Python‑обёрток, и предназначены для генерации аудио‑контента. Разработчики заявляют, что система способна создать 10‑минутный музыкальный трек за 60 секунд ⏱️.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:21

Для корректного переписывания новости мне нужны её полные детали: факты, цифры, имена, даты и основной текст. Пожалуйста, предоставьте исходный материал.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:20

📊 Тестирование RAG на синтетических медданных Я провёл бенчмарк методов Retrieval‑Augmented Generation (RAG) на искусственной базе данных в сфере здравоохранения. 🔍 Наибольший прирост эффективности оказался связан с формой документов, а не с настройками модели. Изменения в структуре и форматировании документов дали заметный рост точности, тогда как корректировки гиперпараметров модели почти не повлияли.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:19

🤖 Hierarchos: первые результаты 232 млн‑параметровой модели‑ассистента В препринте представлена модель Hierarchos — рекуррентный ассистент с внешней памятью, содержащий 232 млн параметров. Авторы делятся предварительными выводами о её архитектуре и работе. В работе описывается, как сочетание рекуррентных слоёв и памяти позволяет модели лучше удерживать контекст в длительных диалогах. Первые эксперименты показывают потенциал подхода, однако дальнейшие исследования необходимы для полной оценки эффективности.

Источник ↗
AIr/LocalLLaMA·3 июл. 2026 г., 08:17

📈 Переобучение на всех тестах — улучшение Нельзя «переобучаться» на всех бенчмарках; согласно заявлению, это действительно считается улучшением.

Источник ↗