Лента новостей

🚀 NASA тестирует локальное выполнение LLM для будущих космических миссий NASA проводит испытания локального вывода больших языковых моделей (LLM) на борту будущих космических аппаратов. Тесты направлены на возможность работы ИИ без постоянного соединения с Землёй, что позволит обрабатывать данные в реальном времени. В рамках экспериментов проверяется, как такие модели справляются с задачами автономного принятия решений и анализа информации в условиях ограниченных ресурсов. 🤖 Технология будет интегрирована в новые миссии, где требуется быстрый и надёжный искусственный интеллект.

🔧 Настройка H200 NVL на потребительском железе В недавнем эксперименте удалось установить и запустить H200 NVL, используя оборудование, приближённое к потребительскому уровню. Тест показал, что даже без специализированных серверных компонентов можно реализовать работу H200 NVL, что открывает возможности для более широкого круга пользователей.

🚀 Kimi и GLM работают над передовым кодом Kimi совместно с командой GLM начали разработку кода, который относится к передовым технологиям. Проект ориентирован на создание решений, находящихся на границе современных возможностей.

🚀 GLM 5.2 работает только на CPU Новая версия языковой модели GLM 5.2 запущена без использования графических процессоров. Для её работы применяется серверный процессор AMD EPYC и 512 ГБ оперативной памяти. Конфигурация позволяет выполнять задачи обработки естественного языка полностью на центральных процессорах, что упрощает развертывание в средах без видеокарт.

🔧 192 ГБ DDR3 сервер и большие языковые модели В сообществе специалистов по ИИ возник вопрос, какие задачи можно решать, используя сервер с 192 ГБ оперативной памяти DDR3 в работе с крупными языковыми моделями (LLM). Участники обсуждения рассматривают варианты применения, включая локальное развертывание небольших моделей, предварительную обработку данных и использование сервера как вспомогательного узла в распределённых вычислениях.

В оригинальном тексте содержится лишь вопрос без фактов, цифр, имён и дат, поэтому переписать его в виде новостного поста невозможно.

⚡ Как ускорить отклик, кешируя системный запрос Пользователь задал вопрос о том, как улучшить время отклика, используя кэширование системного промпта. 🔧 В запросе уточняется, какие методы или настройки могут сократить задержку при работе с ИИ‑моделью.

🚀 Deepseek V4 стартует в середине июля Компания Deepseek объявила о официальном запуске версии V4, который запланирован на середину июля. В рамках обновления изменятся тарифы на использование API: цены будут пересмотрены, детали уточняются в официальных документах. Всё, что известно, — новая версия появится в июле, а пользователи смогут ознакомиться с новыми условиями доступа к API.

🚀 Новый MaralGPT Mythos 9B 2606 выпущен Сегодня официально представлена языковая модель MaralGPT Mythos 9B 2606. Модель обладает 9 млрд параметров, а цифра 2606 указывает на её номер сборки. Разработчики уже опубликовали описание принципов её работы.

⚡️ Пропуск блоков трансформера при загрузке Исследователи показали, что при загрузке модели можно полностью пропускать отдельные блоки трансформера. Такой метод оказывает лишь минимальное влияние на производительность, позволяя ускорить работу нейросетей без существенной потери качества.