Лента новостей

⚡️ OpenAI рассказало о случайном инциденте с Hugging Face В среду на конференции Black Hat Security команда OpenAI провела спонтанную презентацию, посвящённую «инциденту с Hugging Face». Видео с выступлением было опубликовано вчера; в нём коротко изложены детали произошедшего. Это первый публичный обзор хронологии случайной атаки OpenAI на Hugging Face, ранее описанной в блоге.

Для дальнейшей работы мне нужен полный текст новости. Пожалуйста, предоставьте оригинальную статью.

🧬 ИИ создал 16 новых вирусов‑фагов Учёные сообщили, что искусственный интеллект, проанализировав более 9 триллионов нуклеотидов, смог синтезировать 16 ранее не существовавших в природе вирусов‑фагов. Эти фаги способны обходить бактериальную резистентность, открывая новые возможности в борьбе с инфекциями. Эксперты предупреждают, что такие разработки опережают существующие нормативные рамки и требуют создания надёжных правил безопасности.

🚀 OpenAI замедляет выпуск модели Astra Компания OpenAI объявила о том, что планируемый запуск модели Astra будет отложен. По заявлению компании, решение связано с оценкой киберспособностей модели и потенциальными рисками в этой сфере. OpenAI подчеркнула, что приоритетом остаётся безопасность и контроль над новыми технологиями 🛡️.

🔧 Сокращение биозащиты Fable 5 на 85 % В рамках обновления мы уменьшаем биологические меры защиты Claude Fable 5. ⚙️ Изменения позволяют существенно снизить количество откатов.

🚀 Включение PCI‑E P2P ускоряет LLM на потребительских видеокартах На сервере с 8‑канальным AMD EPYC, пропускной способностью памяти ≈150 ГБ/с и четырьмя RTX 5060 Ti 16 ГБ в режиме PCI‑E 4.0 ×8 был проведён тест VLLM с моделью Qwen/Qwen3.6‑27B‑FP8 (использовалась F16, режим tensor‑parallelism). Сравнивались два режима: без P2P и с включённым P2P. При отключённом P2P токенов в секунду (t/s) для теста pp2048 было 1648.96 ± 8.49, а с включённым — 2305.20 ± 49.73 (+≈40 %). Для больших контекстов (d32768) показатель вырос с 1544.66 ± 1.10 до 2082.02 ± 3.86 t/s, а пиковый t/s изменился с 20598.44 ± 65.95 до 15224.08 ± 21.55. В среднем ускорение парралельного предсказания составило около 25 %. Чтобы включить P2P, необходимо, чтобы оборудование поддерживало ReBAR и включить его в BIOS, установить патч‑драйверы из https://github.com/aikitoria/open-gpu-kernel-modules и добавить при запуске VLLM переменные окружения: NCCL_P2P_DISABLE=0, VLLM_SKIP_P2P_CHECK=1, NCCL_P2P_LEVEL=SYS.

🚀 OpenAI купила стартап NextSlide OpenAI объявила о приобретении компании NextSlide, занимающейся разработкой инструментов для создания презентаций. По словам команды NextSlide, их сотрудники теперь работают над развитием ChatGPT 🤖.

🧠 Простая модель для оптимизации вывода LLM Компании, занимающиеся инференсом больших языковых моделей, сейчас привлекают миллиарды долларов. Автор проекта несколько месяцев тестировал скорость вывода последних моделей (TPS, TTFT и др.) и сравнивал результаты с публичными лидербордами. В результате был опубликован блог, где собраны все полученные данные и практические рекомендации по ускорению LLM в продакшене, настройке под разные сценарии и работе с агентами. Блог будет полезен тем, кто разворачивает собственные модели и ищет системный подход к оптимизации инференса. Подробнее: https://medium.com/@abhijithneilabraham/a-simple-practical-mental-model-for-llm-inference-optimization-ca3ea989da25

🤖 Amazon сталкивается с проблемой в AI‑складах Искусственный интеллект уже внедрён в логистику крупнейшего мирового ритейлера. В нескольких складах, где использовались AI‑системы, возникли сложности, связанные с реальными человеческими факторами. Руководство Amazon подтвердило, что результаты этих экспериментов не соответствовали ожиданиям.

🔎 Тестирование самоконтроля LLM Исследователь проверил, насколько эффективно модель gemma4‑12B может генерировать несколько вариантов резюме видеотранскриптов и самостоятельно выбирать лучший. Модель получала запрос разбить транскрипт по темам, добавить подзаголовки и краткие резюме под каждым из них. Затем два полученных резюме сравнивались запросом определить, какое из них лучше передаёт уникальное сообщение видео. Первоначальная оценка склонялась к второму варианту, поэтому был добавлен раунд сравнения с обменом местами резюме. После балансировки результаты оказались значимыми и не случайными; полный перебор всех пар не требуется – достаточно ранжировать пять кандидатов, выбрать лучший и сгенерировать ещё четыре. 📊 Для оценки использовалась максимальная правдоподобность по модели Брэдли‑Терри. Код эксперимента доступен по ссылке: https://github.com/h2kyeong/scriptlets/blob/main/llm_multigen_league.py