Лента новостей

🧠 Самая крупная модель, помещающаяся в 64 ГБ VRAM, готова к дистилляции Разработчики представили модель, которая является крупнейшей среди тех, что могут работать в рамках 64 ГБ видеопамяти, специально оптимизированную для процесса дистилляции. 📊

🤖 Нужно ли учить алгоритмы, если ИИ пишет большую часть кода? Вопрос поднимает дискуссию о роли традиционного обучения алгоритмам в эпоху генеративных моделей. Автор задает, насколько актуальны фундаментальные знания, когда автоматизированные системы берут на себя большую часть программирования.

⚡ Сравнительный бенчмарк Gemma 2 9B и Frontier API В недавнем тесте сравнивались возможности локального развертывания модели Gemma 2 9B и облачных сервисов Frontier API. Особое внимание уделялось накладным расходам при предзаполнении (prefill) в режиме FP8‑квантования и реальному потреблению видеопамяти на GPU NVIDIA L4 📊. Тест показал, как FP8‑квантование влияет на скорость обработки и сколько видеопамяти требуется при работе модели на L4.

🎮 Возможен ли лёгкий адаптер для AI‑апскейлеров в портативных играх? Тема обсуждения — могут ли технологии AI‑апскейлинга, такие как DLSS от NVIDIA и FSR от AMD, получить выгоду от небольших адаптеров, настроенных под конкретные игры. Особый интерес вызывает применение подобных решений в handheld‑консолях, где ресурсы ограничены. Вопрос открыт для разработчиков и игрового сообщества.

🔬 MathFormer проверяет, как работает символическая математика Исследователи представили модель MathFormer, цель которой — выяснить, основано ли решение задач в символической математике на простом сопоставлении шаблонов или на истинном рассуждении. В рамках тестирования модель сравнивается с существующими методами, чтобы оценить её способность к логическому выводу, а не лишь к запоминанию паттернов.

Для корректного переписывания новости мне нужен её полный текст. Пожалуйста, предоставьте оригинальную статью.

🔙 Mythos 5 от Anthropic снова доступен Компания Anthropic объявила о повторном запуске своей модели Mythos 5. Это означает, что пользователи могут вновь воспользоваться возможностями последней версии системы.

📊 Новые бенчмарки для живого непрерывного обучения от ModelBrew ModelBrew опубликовала набор критериев оценки (benchmarks) для систем, способных обучаться в режиме реального времени без остановки. Эти тесты предназначены для измерения эффективности алгоритмов, которые продолжают улучшать свои модели, получая новые данные «на лету». В набор входят несколько сценариев, отражающих типичные задачи в динамичной среде, и предоставляют стандартизированный способ сравнения результатов разных подходов. 🚀

🚀 Новый фреймворк для обучения LLM на старых GPU Разработчики представили обучающую платформу для крупных языковых моделей, которая стабильно работает на устаревших видеокартах. Тесты подтвердили отсутствие сбоев и падений даже при длительном обучении, что делает процесс доступнее для пользователей с ограниченным оборудованием. Подробности опубликованы в оригинальном документе [P].

🔐 Скрытие сообщений в битах мантиссы ONNX‑моделей Исследователи продемонстрировали способ встраивания текста в наименее значимые биты мантиссы весов доработанных моделей ONNX. Техника использует высокую точность представления чисел с плавающей запятой, позволяя скрывать данные без заметного влияния на работу модели. Метод применим к любой доработанной модели в формате ONNX и не требует изменения её архитектуры.