Лента новостей

🚀 Visa сокращает 320 рабочих мест в Bay Area Компания Visa объявила о реструктуризации, в рамках которой будет уволено 320 сотрудников в регионе Bay Area, среди которых шесть вице‑президентов. Эти сокращения направлены на освобождение ресурсов для внедрения и развития технологий искусственного интеллекта.

💻 Перешли с аренды GPU‑подов на постоянный L4‑десктоп Мы перестали «присматривать» арендованные GPU‑подобъекты и перенесли наш локальный стек LLM на постоянный десктоп с видеокартой L4 (24 ГБ), который автоматически переходит в паузу. Это избавило от постоянных холодных запусков: теперь веса моделей хранятся на диске, а окружение остаётся неизменным между сессиями. Текущий набор: Ubuntu‑десктоп, Ollama + vLLM, JupyterLab и VSCode. При бездействии более 15 минут система ставит GPU на паузу, а пробуждение занимает 15‑30 секунд и не тарифицируется. При необходимости большего объёма памяти одним кликом переключаемся на RTX Pro 6000 (96 ГБ) и возвращаемся обратно после задачи. Стоимость: L4 24 ГБ — $3.99/ч (PAYG) или $299/мес, L40S 48 ГБ — $4.99/ч или $399/мес, RTX Pro 6000 96 ГБ — $6.99/ч или $599/мес. В тарифы включено 100 активных вычислительных часов, далее почасовая доплата; хранение данных — $0.09/ГБ‑мес. При автоматической паузе типичный пользователь использует около 150 активных GPU‑часов в месяц, а не 730, что делает аренду более выгодной, чем покупка собственного оборудования. Какой у вас текущий подход к вычислениям и что могло бы удержать от перехода на такой постоянный десктоп?

⚠️ Уязвимость macOS не была заявлена Программа вознаграждений Apple переполнена сообщениями об ошибках, сгенерированными ИИ, и компания ввела ограничение количества заявок от одного исследователя. Итальянский стартап Bynario столкнулся с тем, что из‑за этой перегрузки не смог сразу сообщить о реальной уязвимости macOS, стоимость которой на чёрном рынке может достигать $200 000. Сейчас проблема «AI‑мусора» в почтовом ящике программы препятствует своевременному рассмотрению действительно серьёзных багов.

📱 Модель LFM2.5‑2.6B от Liquid AI уже работает на телефоне со скоростью 30 токенов в секунду Сегодня компания Liquid AI представила LFM2.5‑2.6B — модель из 2,69 млрд параметров с контекстом 128 К, поддержкой вызова инструментов и дообучением под многошаговые агентные сценарии. Официальный файл Q4_K_M GGUF весит 1,67 ГБ и совместим с llama.cpp. По заявленным измерениям модель требует менее 2,5 ГБ ОЗУ и достигает ‑ 30 ток/с на смартфоне, 113 ток/с на Ryzen AI Max+ 395 и 220 ток/с на M5 Max. В тестах ToolSandbox модель набрала 77,83 (против 76,44 у Qwen3.5‑9B), IFBench ‑ 59,17 (56,47), BFCLv4 ‑ 56,88 (60,13) и LiveCodeBench ‑ 59,41 (69,86). Это показывает конкурентоспособность для своего размера, но в задачах, требующих глубоких знаний и кодирования, она отстаёт; в карточке модели указано, что её не рекомендуется использовать для агентного программирования. Автор считает, что такие небольшие локальные модели могут выступать «дешёвыми рабочими»‑агентами: выполнять извлечение данных, поиск, операции с файлами и повторяющиеся вызовы инструментов, а более крупные модели привлекать только для планирования, когда небольшая «застряла». 128‑К контекст пока нуждается в проверке в реальных условиях — особенно на Android, старых ноутбуках или мини‑ПК, где важно знать реальную скорость и устойчивость к длительным цепочкам вызовов.

📈 Qwen 3.8 Max превзошёл 3.7 Max в тесте Debate Новая модель Qwen 3.8 Max набрала 1588 баллов в Benchmark Debate, обойдя Qwen 3.7 Max, получившую 1462 балла. При этом средняя стоимость одного дебата выросла на 45 %. Benchmark оценивает, насколько крупные языковые модели способны удерживать аргументацию в условиях многократных атак по разным темам, учитывая точность фактов, остроту контраргументов и последовательность ответов. Каждое противостояние проводится дважды с меняющимися сторонами, чтобы нейтрализовать предвзятость, а победителя определяет панель из трёх моделей‑судей. Подробнее: https://github.com/lechmazur/debate https://preview.redd.it/5rr60v33bfhh1.png?width=3600&format=png&auto=webp&s=bbe9ff2e3c2e599e887a4ec0da7bcc26f71ad4fb

🚀 DeepSeek V4 Flash на RTX 4090: 64 k контекст, 12 токен/с Тест проведён на системе с RTX 4090 (24 ГБ), процессором Intel Core i9‑13900K (8 P‑ядер + 16 E‑ядер, 32 потока) и 128 ГБ DDR5‑5600 (работает на 5200 МГц) под Windows 11 Pro, сборка llama.cpp 10240 (0b14b87d7), Clang 20.1.8. Модель DeepSeek‑V4‑Flash (UD‑Q3_K_M) занимает 121 ГБ в четырёх шард‑файлах; веса внимания и KV‑кеш находятся в видеопамяти, всё остальное — в системной ОЗУ. При работе сервер использует 103.2 ГБ рабочего набора и 127.7 ГБ приватной памяти, 103 ГБ резидентны, 128 ГБ зарезервированы. Видеопамять стабильно загружена 22 483–22 836 MiB, загрузка модели занимает около 60 с с параметром --no‑mmap. Производительность измерялась в течение одного часа. Генерация текста идёт со скоростью 12.0–13.1 токен/с. Обработка запросов: 212–224 токен/с при 8k–32k токенах, 153–210 токен/с при 1k–5k токенах, 15–115 токен/с при менее 1k токенов. Маленький запрос из 41 токена обрабатывается со скоростью 15 токен/с и завершается менее чем за 3 секунды. Стабильность сохраняется: за час не наблюдалось деградации, объём VRAM не рос. Ограничивающим фактором, вероятно, является скорость потоковой передачи активных экспертов из системной ОЗУ, а не GPU. На гибридных процессорах Intel рекомендуется пробовать -t 8 и -t 16 вместо -t 24. Три агентных фреймворка (OpenCode, Pi, Qwen Code) выполняли задачу: написать код, запустить его и подготовить отчёт с графиками, контекст достиг ~30 k токенов. Время завершения: OpenCode 896 с, Pi 1088 с, Qwen Code 1570 с (≈15–26 мин). При скорости 12 токен/с задача выполнима, если можно ждать. Рекомендации по настройке: подобрать минимальное значение --n‑cpu‑moe, которое не приводит к OOM при полном контексте, затем увеличить -ub до оставшегося объёма VRAM, удерживая -b ≥ -ub; параметр -c можно уменьшить, чтобы освободить KV‑кеш без потери скорости генерации; использовать --no‑mmap для чтения экспертных тензоров каждый токен и --jinja для корректного вызова инструментов. Это отчёт о совместимости и пропускной способности, без оценок качества модели.

🚀 SpaceX закупила Tesla Megapack на $329 млн в этом году Компания ускорила приобретения аккумуляторных систем Tesla Megapack для новых дата‑центров xAI, потратив до настоящего момента $329 млн. Эти батареи будут использоваться для обеспечения энергией вычислительных мощностей, поддерживающих развитие искусственного интеллекта. ⚡

🚀 Выручка SpaceX удвоилась SpaceX сообщила, что за последний квартал её доход вырос в два раза по сравнению с тем же периодом прошлого года. Рост связан с новыми контрактами на вычислительные мощности с Anthropic и Google, а также с продолжающимся увеличением подписчиков Starlink 🌐. Это первая квартальная отчётность компании после листинга в июне, когда она стала публичной.

⚡ Открытая модель GLM‑5.2 приближается к границе возможностей ИИ Новый доклад SaferAI отмечает, что открытые модели с открытыми весами стремительно догоняют передовые системы, однако разрыв в области безопасности сохраняется. По результатам исследования, открытая модель Z.ai GLM‑5.2 уже близка к уровню frontier‑AI, но в ней отсутствуют ключевые меры по обеспечению безопасности 🛡️. Это возобновляет опасения, что мощные открытые модели могут опережать существующие механизмы регулирования и защиты.

🖥️ Старый пиксельный дисплей превратился в монитор GPU‑кластера С помощью детского 32×32‑пиксельного дисплея Divoom Pixoo‑max автор создал приложение, показывающее состояние трёх рабочих станций Dell Precision 7960 с видеокартами RTX A6000 (64 ГБ ОЗУ) в vLLM Ray‑кластерe, где запущена модель Qwen3.5 122b. Информация о температуре, загрузке GPU и генерации токенов выводится в виде цветных квадратов с инициалами систем; цвета указывают уровень нагрева (красный – горячо, зелёный – нормально). Из‑за ограниченного разрешения экран переключается между несколькими наборами метрик каждые 4 секунды. Для связи с дисплеем используется Bluetooth‑модуль Dell Pro Max GB10, который также запускает приложение и обслуживает вторичный LLM‑эндпоинт. Самих рабочих станций Bluetooth нет, поэтому GB10 выступает посредником. Приложение написано на Python и получает данные через Ray Dashboard API, endpoint vLLM и вызовы nvidia‑smi по SSH. Разработку вёл агент Hermes (модель GLM 5.2). Сборка кода заняла около 20 минут, а последующая настройка — примерно 5 минут. Дисплей был куплен за ≈ 60 долларов несколько лет назад и уже не требовал дополнительных расходов. Получилось простое визуальное решение, позволяющее быстро оценить состояние кластера без входа в систему.