Лента новостей

🔍 Аудит 112 RL‑окружений: 54 уязвимости, 0 ложных срабатываний Исследователь проверил 112 реальных пост‑тренировочных RL‑сред (OpenEnv, Prime Intellect, Gymnasium) на уязвимости reward‑hacking. Было обнаружено 54 проблем, при этом на 43 чистых контролях не зафиксировано ни одного ложного срабатывания (точность 100 %). Для проверки создан инструмент ratctl – статический и динамический аудитёр, который ищет такие паттерны, как подделка тестов, манипуляции с оценщиком, преждевременный выход, утечки решений, пропуск наград и предвзятость LLM‑жюри. Он работает как CLI, GitHub Action (параметр --fail‑on 'gameability>0.3') и как навык для Claude/Cursor/Codex. Результаты: покрытие 78,3 % (54 из 69 известных эксплойтов) и 0 % ложных срабатываний. Самой слабой областью остаётся обнаружение уязвимостей в Gymnasium (0 из 8 найдено). Полный репозиторий и отчёт аудита: https://github.com/FreakyAdy/Reward-Hackability-Auditor--CLI---Claude-Skill

🚀 Empirik стартовал с $21 млн инвестиций Стартап Empirik, инкубированный Sequoia, объявил о запуске, получив $21 млн финансирования. Компания разрабатывает систему, способную предсказывать сбои в ИТ‑инфраструктуре ещё до их возникновения. Empirik ставит цель сделать для ИТ‑систем то же, что Cursor сделал для разработки программного обеспечения.

🔍 Боссы, компании и полиция могут читать ваши чаты с ботами Недавние данные показывают, что сообщения, отправленные в чат‑боты, могут быть просмотрены не только разработчиками, но и работодателями, крупными технологическими фирмами и правоохранительными органами. Эти стороны получают доступ к диалогам через серверы, где хранится информация, и могут запросить её в рамках официальных процедур. Пользователям рекомендуется учитывать, что их разговоры с ИИ‑сервисами могут стать доступными третьим лицам.

🚀 AIR привлекла $50 млн для контроля AI‑агентов Компания AIR объявила о привлечении инвестиций в размере 50 млн долларов. Средства направлены на развитие платформы, позволяющей бизнесу проверять навыки и дополнения, используемые AI‑агентами. Сервис обнаруживает работающих в организации агентов, постоянно оценивает их навыки и подключённые модули, а при необходимости блокирует нежелательное поведение. 🤖

Для сохранения дата‑центров: Белый дом и инвесторы ИИ объявили совместную кампанию. В США стартовала инициатива, цель которой — обеспечить стабильную работу дата‑центров, критически важных для развития искусственного интеллекта. Правительство и крупные инвесторы согласовали план по оптимизации энергопотребления, улучшению инфраструктуры и привлечению новых технологий охлаждения. В рамках кампании будет предложено законодательство, стимулирующее переход на возобновляемые источники энергии и предоставляющее налоговые льготы компаниям, инвестирующим в модернизацию дата‑центров. Стороны отметили, что такие меры помогут удержать США в лидерах в сфере ИИ и предотвратить возможные перебои в обслуживании крупных вычислительных проектов. 🌐

🚀 Пентагон запустил ИИ‑модель Grok для военных нужд Министерство обороны США объявило о начале использования системы Grok в своих проектах. Грок будет применяться в рамках задач, связанных с обороной, под управлением Пентагона.

⚙️ Linux‑ядро почти достигло рекорда в 2000 уязвимостей за релиз По данным сопровождающих проекта, в каждом новом выпуске ядра фиксируется почти 2000 уязвимостей — показатель, приближающийся к историческому рекорду. 🤖 Активное применение ИИ‑инструментов позволило проанализировать около 40 млн строк кода, что привело к обнаружению сотен новых CVE. Команды поддержки заявляют, что они «полностью перегружены» потоком найденных уязвимостей и теперь используют ИИ против ИИ, чтобы успевать обрабатывать отчёты.

🤖 AI‑помощник для семей Компания Fambot анонсировала разработку искусственного интеллекта в роли «главного помощника» для семей. Система будет автоматически обрабатывать электронную почту, вести календарь, отслеживать школьные новости и расписание спортивных секций, а также решать другие организационные задачи, связанные с воспитанием детей.

🚗 Waymo расширяет роботакси в трёх городах Waymo ускоряет развитие сервиса роботакси, открывая его в Денвере, Сан‑Диего и Тампе. Компания начнёт приглашать пассажиров постепенно, постепенно увеличивая доступность в каждом из городов в соответствии со своей обычной коммерческой стратегией.

⚠️ Руководитель ФСБ предупреждает о рисках ИИ Эндрю Бейли, председатель Совета финансовой стабильности (FSB), заявил, что модели передового искусственного интеллекта представляют наибольшую угрозу киберрискам для финансовой системы. По его словам, потенциальное влияние этих ИИ‑технологий на кибербезопасность требует особого внимания и оперативных мер.