Лента новостей

🚀 OpenAI открывает неограниченный чат в бесплатной версии Пользователи бесплатного тарифа ChatGPT теперь могут вести неограниченное количество текстовых диалогов. Для бесплатных и подписчиков плана Go также будет добавлена новая кнопка «Think», предназначенная для обработки сложных запросов.

🚀 KV‑cache: результаты квантования 413 конфигураций В тестах BeeLlama.cpp v0.4.0 сравнивали 413 пар квантования KV‑кеша на моделях Qwen 3.6 27B (238 конфигураций) и Gemma 4 31B (175 конфигураций). Использованы стандартные кванты q6_0, q6_1, низко‑битовые от q2_0 до q3_1, а также варианты KVarN (variance‑normalized) от Huawei и Precision Tail (хранение последних X токенов в BF16). KVarN 6‑bit показал лучшее качество, чем q8_0, а точечный Tail 1024 токенов оказался доминирующим. Для Qwen 3.6 27B с Tail‑кешем лучшие результаты — kvarn8 (1024 MiB, медианный KLD 0.000871, 99.9 % KLD 0.087639). Высокий уровень — kvarn6 (1744 MiB, 0.000879), средний — kvarn5 (1488 MiB, 0.000897), стандартный — q4_0 (1248 MiB, 0.001057). Наименьший рекомендуемый уровень — kvarn3 (976 MiB, 0.001316); при острой нехватке памяти — kvarn2 (720 MiB, 0.003811). При стандартном‑only кешe Qwen 3.6 27B базовый q8_0 использует 2176 MiB (KLD 0.000909). Сжатие до q6_0 уменьшает объём до 1664 MiB (KLD 0.00096), а q5_0 — 1408 MiB (KLD 0.001154). Самый экономичный уровень — q3_0 (896 MiB, 0.004696), а крайний компромисс — q2_0 (640 MiB, 0.019374). Для Gemma 4 31B с Tail‑кешем референс q8_0 занимает 1317.5 MiB (KLD 0.0371). Последовательное снижение: q8_0‑q6_0 — 1162.5 MiB, q6_0 — 1007.5 MiB, q5_0 — 852.5 MiB, q4_0 — 697.5 MiB, q3_0 — 542.5 MiB, а при экстремальном ограничении — q2_0 (387.5 MiB, KLD 2.95758).

🚀 Naïve привлекла $28,5 млн на автоматизацию бизнес‑процессов Стартап Naïve объявил о привлечении 28,5 миллиона долларов инвестиций. Средства пойдут на развитие инфраструктуры, способной автоматизировать рутинные задачи при создании и управлении компанией. Компания заявляет, что её технология продвигает концепцию vibe‑coding дальше, позволяя автоматизировать большую часть работы, связанной с запуском и ежедневным управлением бизнесом.

🚀 vllm.cpp: C++‑порт сервиса vLLM без Python Автор mudler выпустил vllm.cpp — стек обслуживания vLLM, переписанный с нуля на C++20. Бинарник занимает 66 MiB, при инференсе не требуется Python и PyTorch, а вывод проверен токен‑за‑токеном против оригинального vLLM на ~25 архитектурах. 💡 Основные возможности: непрерывная пакетная обработка, блок‑страничный KV, автоматическое кэширование префиксов, спекулятивное декодирование, сервер, совместимый с OpenAI API. Поддержка форматов safetensors, GGUF, NVFP4, квантизации k‑ и i‑, fp8, bf16; работа на CUDA (sm_80‑sm_121a), CPU с AVX‑512, ARM i8mm, частично Metal и Vulkan. Тесты на DGX Spark, Thor и AGX Orin показывают почти одинаковую скорость с vLLM при высокой конкуренции: при 32 запросах 1095 мс vs 1076 мс (коэффициент 1.017×). Пиковое потребление GPU‑памяти — 40 996 MiB против 70 531 MiB у vLLM. Дополнительные цифры: 1.18× быстрее llama.cpp при предзаполнении на CPU aarch64, 97.6 % производительности MLX‑LM на M4, 18.69 токен/с для DeepSeek‑V4‑Flash 2‑bit GGUF (1.14× быстрее лучшего GGUF‑движка). Отсутствует поддержка мульти‑GPU, LoRA, мультимодальных запросов через HTTP, эмбеддингов и ROCm. Проект активно развивается, стабильный интерфейс — версия C ABI. Сборка через CMake, лицензия Apache 2.0, репозиторий: https://github.com/mudler/vllm.cpp. Приглашаются участники сообщества.

🚀 2 × RTX 5070 Ti: Qwen 27B без потери скорости Вчера мы опубликовали тест, где запускали популярные модели на двух видеокартах с 16 ГБ памяти, а теперь представляем полную конфигурацию Qwen 27B. Для измерений использовалась nightly‑версия cu129, в которой исправлен коннектор KV‑кеша и улучшена производительность. Два одновременных потока работают стабильно, без снижения скорости генерации. Декодирование достигло 94–87 токенов/сек при контексте от 0 до 120 k, а предзаполнение — 4,6k–2,4k токенов. На GPU доступно 170 k KV, а дополнительно 246 k KV можно разместить в 8 ГБ ОЗУ, что делает систему удобной для локальных агентных задач. Полный compose‑файл с подробностями по использованию памяти доступен по ссылке; планируется, что небольшая модель Qwen 3.8 также поместится в эту конфигурацию.

🤖 Приложения для знакомств Gen Z отказываются от свайпов Приложения вроде Ditto, ориентированные на поколение Z, больше не используют привычный механизм «свайпа». Вместо этого они предлагают подбор партнёров с помощью искусственного интеллекта. Молодые люди в возрасте около двадцати лет, уставшие от традиционных свайп‑приложений, готовы попробовать любые альтернативы, в том числе полностью AI‑поддерживаемый сервис.

📄 NVIDIA представила Nemotron Parse 2.0 Модель преобразует RGB‑изображения документов в структурированные, машинно‑читаемые представления: текст, классы элементов, ограничивающие рамки и порядок чтения. По запросу она генерирует отформатированный текст и пространственные аннотации для заголовков, абзацев, подписей, таблиц, диаграмм, шапок, подвалов, сносок, изображений и библиографических записей. В версии 2.0 добавлен словарь на ≈20 тыс. токенов, что улучшает поддержку множества языков, включая CJK и индийские скрипты, а также введён класс‑токен для распознавания диаграмм. Обучение расширено за счёт документов, насыщенных таблицами и графиками, что повышает точность их обработки. Модель готова к коммерческому и некоммерческому использованию и предназначена для разработчиков, создающих системы документального интеллекта, RAG‑решения, извлечение данных и агентные AI‑приложения. Она позволяет конвертировать сканированные PDF, слайды, формы, отчёты и смешанные страницы в структурированный вывод для индексации, аналитики и последующего обучения моделей. 🚀

📢 Samsung представила три новых памяти для ИИ‑центров Samsung анонсировала три решения следующего поколения — zHBM, zNAND‑O и BV‑NAND, предназначенные для дата‑центров, работающих с искусственным интеллектом. 🚀 Все они построены на передовых технологиях соединения пластин (wafer bonding), что позволяет создавать новые типы памяти с повышенной плотностью и производительностью. Технология соединения пластин нового поколения открывает возможности для более эффективных ИИ‑инфраструктур.

🔧 Reddit планирует закрыть «старый» интерфейс из‑за угрозы AI‑скрапинга Платформа заявила, что устаревший дизайн сайта упрощает массовый сбор данных искусственным интеллектом, поэтому в ближайшее время будет введён ряд изменений. В 2018 году Reddit полностью обновил пользовательский интерфейс, что вызвало широкие протесты у тех, кто предпочитал прежний вариант. Теперь компания готовит переход к единой современной версии, чтобы сократить возможности автоматического извлечения контента.

🚀 Meta запускает приложение для программирования с ИИ, конкурируя с OpenAI и Anthropic Meta представила новое приложение, использующее искусственный интеллект для написания кода. Продукт рассчитан на разработчиков и обещает ускорить процесс создания программного обеспечения. По заявлению компании, сервис будет соперничать с аналогичными решениями от OpenAI и Anthropic.