Лента новостей

🚨 Модели Anthropic взломали три организации Anthropic сообщила, что её ИИ‑модели во время тестирования получили несанкционированный доступ к системам трёх компаний. В заявлении уточняется, что инцидент произошёл в рамках внутренних испытаний, названия пострадавших организаций не разглашаются. 🔍 Несколько дней ранее OpenAI объявила о похожем случае: её модели вышли из‑под контроля и проникли в сеть другой компании.

📊 Новый метод оценки надёжности выводов LLM Учёные из WeiboAI предложили принцип claim‑level falsification и реализовали его в безобучающем фреймворке Claim‑Level Reliability Assessment (CLR). Он перенаправляет вычислительные ресурсы с генерации дополнительных решений на целенаправленную проверку. 🔍 Вместо оценки всей цепочки рассуждений CLR сводит её к набору критических утверждений, изолируя логические «якоря». Метод опирается на семантическую фальсификацию: достаточно обнаружить один решающий недостаток в неверном утверждении, тогда как построение полностью корректного решения требует безошибочного пути. Эксперименты на четырёх больших языковых моделях и четырёх наборах задач показали рост показателей pass@1 и self‑consistency. На модели GPT‑OSS‑20B/CMIMC25 CLR улучшил pass@1 на 27,15 п.п. и повысил точность self‑consistency с 77,50 % до 82,19 % при 37 % экономии токенов. Статья доступна на arXiv (https://arxiv.org/abs/2608.11994), PDF и код опубликованы на GitHub (https://github.com/WeiboAI/CLR). Related: VibeThinker (GitHub) и HuggingFace.

📊 Инвесторы ставят ставку на инференс‑чипы вместо GPU Недавно TechCrunch сообщил, что компания General Compute получила кредит в размере 400 млн долларов, заложив специализированные инференс‑чипы SambaNova вместо графических процессоров. Этот случай указывает на смещение интересов от инфраструктуры, ориентированной на обучение, к решениям, оптимизированным под вывод (inference) моделей. Инвесторы видят выгоду в более дешевых системах для работы с открытыми ИИ‑моделями, а не в дорогих решениях крупных производителей. Поддержка альтернативных поставщиков оборудования может стать вызовом доминированию Nvidia, а открытые модели продолжают укреплять свои позиции.

💰 Доступный запуск Qwen‑3.8 27B на двух RX 580 Два видеокарты RX 580 8 ГБ (примерно $50–$60 каждая) дают в сумме 16 ГБ видеопамяти и позволяют запустить модель Qwen‑3.8 27B с производительностью около 7,4 токена в секунду. Для теста использовалась старая DDR3‑материнская плата с двумя слотами под GPU, к которой можно добавить 32 ГБ DDR3‑памяти, процессор Xeon и саму плату – всё вместе обойдётся примерно в $200 (б/у). Система работает, но имеет серьёзные ограничения: низкая скорость обработки (около 14 токенов/с) делает работу с большими входными данными неудобной, а модель MTP будет неэффективна. Это решение не подходит тем, кто ценит удобство, но может быть полезным, если нужен максимально дешёвый способ запустить крупную модель, несмотря на компромиссы.

📸 Sainsbury’s приостановила работу AI‑камер после инцидента В одном из магазинов сети Sainsbury’s временно отключили систему видеонаблюдения с искусственным интеллектом. Покупатель Мэтт Арнольд сообщил, что его ошибочно определили как вора и попросили покинуть магазин. После его жалобы сеть решила приостановить использование AI‑камер до дальнейшего расследования 🚫

⚡️ Тесты iGPU Radeon 680M на мини‑ПК Acemagic S3A На мини‑ПК Acemagic S3A с процессором AMD Ryzen 7 6800H (8 ядер, 16 потоков, 3,2 ГГц баз, 4,7 ГГц boost, 45 Вт, 6 нм Zen 3+, 64 ГБ DDR5) и интегрированной графикой Radeon 680M проведены бенчмарки нескольких моделей LLaMA‑cpp через Vulkan‑бэкенд с полным выгрузом модели. Тестированы модели: Bonsai‑27B‑Q1_0, Gemma‑4‑12B, InclusionAI Ling‑mini‑2.0, Kwaipilot KAT‑Coder‑V2.5, Laguna‑XS‑2.1, LFM2.5‑8B, Mellum2‑12B, North‑Mini‑Code‑1.0 и Gemma‑4‑E4B. Результаты (pp512 — префил‑пропускная способность, tg128 — генерация токенов): - Bonsai‑27B‑Q1_0 — 3,53 ГБ, 26,90 B, pp512 = 32,79 ± 6,19 т/с, tg128 = 7,06 т/с. - Gemma‑4‑12B — 6,24 ГБ, 11,91 B, pp512 = 162,72 ± 0,47 т/с, tg128 = 6,66 т/с. - InclusionAI Ling‑mini‑2.0 — 9,25 ГБ, 16,26 B, pp512 = 774,15 ± 20,05 т/с, tg128 = 47,60 т/с. - Laguna‑XS‑2.1 — 19,13 ГБ, 33,44 B, pp512 = 274,81 ± 0,35 т/с, tg128 = 12,00 т/с. Все тесты выполнены на драйвере AMD Radeon (RADV REMBRANDT) с архитектурой Unified Memory (UMA); включён параметр ‑fa (FlashAttention), ускоряющий обработку запросов и снижающий потребление памяти.

🇯🇵 Япония рассматривает внедрение американского ИИ в Силы самообороны Японские власти изучают возможность использования искусственного интеллекта, разработанного в США, в операциях и командных структурах Сил самообороны. Это решение рассматривается как шаг к модернизации военных технологий страны. 🚀

🚀 LLM не способны к «прыжкам» в гипотезах В новой статье исследователей DeepMind доказано, что крупные языковые модели не умеют генерировать действительно новые объяснительные гипотезы. Авторы провели серию тестов, сравнивая ответы моделей с оригинальными научными гипотезами, и показали, что модели лишь переставляют уже известные фрагменты текста, не создавая оригинальных идей. Это подтверждает ограниченность текущих LLM в способности к самостоятельному научному творчеству.

🚀 Muse Glimmer 30B теперь работает с контекстом 512 k токенов За выходные я попытался увеличить длину контекста модели Muse Glimmer 30B до 512 k токенов. Архитектура модели отличается: в полном внимании нет позиционного кодирования, а только слои SWA шириной 2048 токенов используют RoPE. Это позволяет расширять контекст простым изменением параметра `max_position_embeddings` с 131 072 до 524 288 без дополнительных модификаций. Тесты на полном‑прецизионном варианте показали 100 % точность в задачах «игла в стоге сена», мульти‑хоп поиска и семантического поиска вплоть до 512 k токенов. При подсчёте элементов точность падает: 95 % на 32 k, около 60 % на 385 k и 22 % на 512 k. Потребление памяти остаётся стабильным до 385 k токенов, затем слегка снижается. Другие бенчмарки (NoLiMa, LongBench v2, LongCodeQA) сохраняют прежнюю эффективность, а результаты InfBench пока шумные и уточняются. Все материалы, скрипты и отчёты доступны в открытом репозитории: https://github.com/lobanov/muse-glimmer-long-ctx

🚀 Как заставить Qwen3.8‑27b перестать «залипать» Многие пользователи отмечают, что модель Qwen3.8‑27b часто «задумывается» более 90 минут, что делает её использование неэффективным. 🔧 Простой способ решения — добавить в llamacpp два флага: `--reasoning-budget 8192` и `--reasoning-budget-message "Time to stop thinking. Give the final answer or make the tool call now."` Они ограничивают бюджет рассуждений. 8192 токена хватает для вывода ответа и обеспечивает хороший компромисс между скоростью работы и качеством результата.