Лента новостей

🚀 Запуск инициативы по безопасности ИИ В ответ на продолжающиеся последствия кибератаки на OpenAI крупные технологические компании создали альянс Open Secure AI Alliance. В его состав вошли Nvidia, Microsoft, SpaceX, Palantir и десятки других фирм из США и Европы 🤝, которые объявили о совместной работе над безопасностью искусственного интеллекта. Альянс будет разрабатывать и внедрять практики, снижающие риски ИИ, а также координировать действия при будущих киберугрозах.

💧 ИИ‑центр в Калифорнии требует воды из реки Колорадо Крупнейший в штате проект дата‑центра для искусственного интеллекта подал иск о праве на 287 млн галлонов воды из реки Колорадо, что составляет 0,03 % от поставок в Империал‑Валли. Истцы сравнивают масштаб проекта с фермерским хозяйством площадью 160 акров 🌾, подчёркивая потенциальное влияние на сельское хозяйство региона. Вокруг инициативы возникли опасения, что перенаправление воды может затронуть рабочие места и перераспределение сельскохозяйственных земель.

🚀 XYZ‑Aquila‑mini — новый открытый агент для поисковых задач XYZ AI Lab представила XYZ‑Aquila‑mini — модель семейства Deep Search, дообученную от Qwen3.6‑35B‑A3B через ограниченный исследовательский AI4AI‑pipeline. При её создании люди задавали целевые возможности, ограничения, границы риска и политику принятия, а AI‑агенты выявляли ошибки и предлагали корректировки в данных, пост‑обучении, работе, управлении контекстом, инструментах и инфраструктуре. Выпущенный чекпоинт поддерживает Qwen‑совместимое рассуждение и форматы вызова инструментов, оптимизирован для агентного поиска: планирование на длительные горизонты, веб‑браузинг на английском и китайском, агрегация и проверка источников, восстановление после неудачных взаимодействий. Для работы модели предоставлен открытый набор AxisAgentic — реализации поиска, скрейпа и Python‑инструментов, фиксированный контракт инструментов, воспроизводимое управление контекстом и процесс оценки, которые реализуют функции, а не сама модель. Также доступна более крупная версия XYZ‑Aquila‑pro (397 млрд параметров) на базе Qwen3.5‑397B‑A17B: https://huggingface.co/XYZAILab/XYZ-Aquila-pro.

🔐 Открытый альянс для безопасного ИИ Дженсен Хуанг сообщил, что в ходе инцидента с Hugging Face закрытый ИИ блокировал проведение важной судебно‑технической экспертизы. Открытая модель с открытыми весами помогла локализовать вторжение. Эти события стали причиной создания Open Secure AI Alliance. Подробнее в твите Хуанга: https://x.com/JensenHuang/status/2081698060330250294

📸 Художник подал в суд на AI‑генератор мемов Известный художник возбудил иск против онлайн‑сервиса, использующего искусственный интеллект для создания мемов, обвиняя его в продаже его личного комикса в качестве рекламного шаблона. По словам эксперта, ошибка могла произойти из‑за применения готового шаблона к пользовательскому контенту, что привело к нарушению авторских прав 🎨. В иске указано, что использование комикса без согласия автора нарушает его права и требует компенсации.

🔍 Аудит более 50 пакетов SKILL.md: найденные уязвимости Мы проверили более 50 открытых пакетов навыков AI‑агентов и их SKILL.md‑файлы, выявив типичные проблемы безопасности. С ростом фреймворков (Claude Code, Cursor skills, MCP‑servers, subagents) разработчики часто скачивают сторонние SKILL.md и запускают их локально, считая их обычной документацией, хотя эти файлы могут передавать агентам команды терминала, читать локальные файлы и запускать curl‑скрипты. Для предварительной проверки создан бесплатный открытый инструмент **SkillShield** (https://ai-skill-shield.vercel.app/) 🛡️. Он анализирует файлы по 11 направлениям, включая инъекции запросов, переопределение инструкций, риски при установке (curl | bash), сторонние реестры и подмодули, а также избыточные права доступа к файлам и сети. Сервис принимает сырой SKILL.md, архив пакета или URL репозитория GitHub и выдаёт полный отчёт. Исходный код доступен в публичном репозитории https://github.com/adnan-iz/ai-skill-shield. Команда приглашает сообщество r/LocalLLaMA предложить новые правила безопасности.

🔐 Nvidia создала отраслевой альянс по открытой безопасности ИИ Компания объявила о формировании объединения, цель которого — совместно разрабатывать и внедрять стандарты защиты искусственного интеллекта. Инициатива появилась в ответ на недавний кибератаку на платформу Hugging Face, после которой участники рынка решили усилить совместные меры по предотвращению подобных инцидентов.

🩺 AI‑врачи в TikTok: реальная угроза Исследования показывают, что искусственно созданные «врачи» набирают миллионы просмотров в TikTok, распространяя сомнительные рекомендации по здоровью. Эксперты отмечают, что такие материалы могут представлять большую опасность для общественной безопасности. Будьте внимательны к источникам информации о здоровье.

🚀 ИИ «Марічка» ускорил планирование боевых действий Украинская армия внедрила новую систему искусственного интеллекта под названием «Марічка». Система обрабатывает данные с поля боя за считанные минуты, что позволяет командирам сократить время подготовки операций с 12 часов до нескольких минут ⚡.

🚀 Новый доклад на arXiv: «Nothing is Free» На платформе arXiv опубликован документ с идентификатором 2401.05566 под названием «Nothing is Free». 📄 Текст доступен по ссылке https://arxiv.org/abs/2401.05566, где можно ознакомиться с полным содержанием исследования.