Лента новостей

🚀 Kimi и GLM работают над передовым кодом Kimi совместно с командой GLM начали разработку кода, который относится к передовым технологиям. Проект ориентирован на создание решений, находящихся на границе современных возможностей.

🚀 GLM 5.2 работает только на CPU Новая версия языковой модели GLM 5.2 запущена без использования графических процессоров. Для её работы применяется серверный процессор AMD EPYC и 512 ГБ оперативной памяти. Конфигурация позволяет выполнять задачи обработки естественного языка полностью на центральных процессорах, что упрощает развертывание в средах без видеокарт.

🔧 192 ГБ DDR3 сервер и большие языковые модели В сообществе специалистов по ИИ возник вопрос, какие задачи можно решать, используя сервер с 192 ГБ оперативной памяти DDR3 в работе с крупными языковыми моделями (LLM). Участники обсуждения рассматривают варианты применения, включая локальное развертывание небольших моделей, предварительную обработку данных и использование сервера как вспомогательного узла в распределённых вычислениях.

В оригинальном тексте содержится лишь вопрос без фактов, цифр, имён и дат, поэтому переписать его в виде новостного поста невозможно.

⚡ Как ускорить отклик, кешируя системный запрос Пользователь задал вопрос о том, как улучшить время отклика, используя кэширование системного промпта. 🔧 В запросе уточняется, какие методы или настройки могут сократить задержку при работе с ИИ‑моделью.

🚀 Deepseek V4 стартует в середине июля Компания Deepseek объявила о официальном запуске версии V4, который запланирован на середину июля. В рамках обновления изменятся тарифы на использование API: цены будут пересмотрены, детали уточняются в официальных документах. Всё, что известно, — новая версия появится в июле, а пользователи смогут ознакомиться с новыми условиями доступа к API.

🚀 Новый MaralGPT Mythos 9B 2606 выпущен Сегодня официально представлена языковая модель MaralGPT Mythos 9B 2606. Модель обладает 9 млрд параметров, а цифра 2606 указывает на её номер сборки. Разработчики уже опубликовали описание принципов её работы.

⚡️ Пропуск блоков трансформера при загрузке Исследователи показали, что при загрузке модели можно полностью пропускать отдельные блоки трансформера. Такой метод оказывает лишь минимальное влияние на производительность, позволяя ускорить работу нейросетей без существенной потери качества.

🚀 DeepSeek V4: официальная версия уже в середине июля Компания DeepSeek объявила, что полная версия модели V4 будет выпущена в середине июля. Это обновление следует за предыдущими версиями, расширяя возможности генерации текста. Ожидается, что новая модель предложит улучшенную точность и более широкий спектр применения. Подробности о функциях и доступности появятся ближе к дате релиза.

🚀 Сотрудничество Cerebras и OpenAI устранило очередь Cerebras объявила о заключении сделки с OpenAI, в рамках которой предоставлена значительная вычислительная мощность. По заявлению компаний, полученный объём ресурсов полностью покрывает текущий спрос, и список ожидания для остальных пользователей более не существует.