Лента новостей

🚀 Meta представила Muse — генератор изображений ИИ Компания Meta запустила новый сервис Muse, способный создавать изображения с помощью искусственного интеллекта. Модель ориентирована на разнообразные задачи: рекламные кампании, оформление интерьеров и проекты для контент‑создателей.

🤖 LLM не заменят реальных пользователей В рамках массовой попытки компаний заменить человеческую обратную связь «синтетическими пользователями», исследователи проверили, насколько крупные языковые модели (LLM) способны предсказывать реальные предпочтения. Тестирование охватило 28 реальных исследований и 78 задач выбора, в которых участвовали тысячи людей. LLM совпадали с большинством человеческих ответов лишь в 53 % случаев – почти как бросок монеты при бинарных выборах. Добавление детализированных персонажей и цепочек рассуждений не улучшило результат: сходство с человеческими обоснованиями даже ухудшилось, поскольку «рассуждения» модели делали ответы более однородными и не отражали реальный опыт людей. Исследование показывает, что текущие LLM лучше имитируют то, что им нравится в выводах, чем способны предсказывать человеческие предпочтения. 📊

🚧 Китай планирует ограничить доступ к ИИ за рубежом Китай рассматривает введение ограничений на предоставление зарубежным пользователям доступа к отечественным моделям искусственного интеллекта. В то же время компания DeepSeek объявила о разработке собственного чипа для инференса ИИ 🤖, что позволит снизить зависимость от графических процессоров Nvidia. Новый чип направлен на создание полностью отечественного решения для ускорения работы нейросетей.

🎙️ Как ИИ может вести подкаст без скучных монологов Автор экспериментировал с генерацией подкаста из обсуждений Hacker News. Оказалось, что написание сценария занимает лишь около 20 % работы, а остальное — борьба с тем, как модель обычно формирует текст. Самым эффективным оказалось два приёма: 1) задать ограничение, а не инструкцию — дать двум «ведущим» разную информацию (один читает статью, другой — комментарии), из‑за чего они начинают спорить, а не просто соглашаются; 2) предварительно отобрать материал, используя простой «продюсер», который выбирает несколько комментариев для обсуждения, после чего основной ИИ пишет эпизод. При тестах возникали комичные ошибки: «API» прозвучало как «appy», число 1 204 озвучивалось как «one thousand two hundred and four», а пометка «[sigh]» читалась буквально. Подробный разбор и аудио‑примеры доступны по ссылке: https://hnlisten.app/blog/i-told-the-ai-to-sigh. Автор интересуется, какие приёмы используют другие создатели AI‑подкастов, чтобы звук был менее похож на эссе и включал настоящие разногласия.

📊 AI Pulse Dashboard — панель в одном HTML‑файле Создан одностраничный дашборд без серверной части, который собирает более 600 моделей ИИ от более 170 компаний. Автор отметил, что быстрый рост количества новых моделей усложняет слежение за ценами и бенчмарками, поэтому разработал инструмент, обновляющий данные через Python‑конвейер одним кликом; новые релизы попадают в базу в течение суток. 🛠️ Подробнее на странице проекта: https://github.com/T-a-c-h-y-o-n/aipulse/

🧠 Новый способ «видеть» скрытые слова ИИ Anthropic опубликовала сегодня исследование J‑space, в котором показано, что у больших языковых моделей существует небольшое набор внутренних «тихих слов» — около нескольких десятков концепций одновременно. Инструмент Subtext запускает модель Qwen3.5‑4B в bf16 на одной видеокарте 12 ГБ и анализирует 9 слоёв для каждого токена как при чтении входного сообщения, так и при генерации ответа. Процесс идёт со скоростью полной генерации, поскольку «линза» представляет собой лишь матричное умножение и развертывание на каждом слое. Пример: при вводе «is this correct? 12 + 5 = 1» неверный вывод подсвечивается в сети ещё до того, как модель сформирует ответ. На этом этапе ещё нет токенов‑ответов, решение уже сформировано внутри модели. 📊 Код доступен в репозитории https://github.com/ninjahawk/Subtext, а записанные сессии можно посмотреть в браузере https://ninjahawk.github.io/Subtext/. Валидация показала полное совпадение с референс‑реализацией Anthropic: топ‑5 совпадений на каждом слое/позиции, косинус‑похожесть 0.99998. Вопросы приветствуются.

🚀 Открытый ИИ растёт, но Anthropic пока не пострадал С ростом популярности открытых моделей искусственного интеллекта не наблюдается негативного влияния на компанию Anthropic. 🔄 По мнению экспертов, успех открытых моделей не отнимает ресурсы у передовых лабораторий; они представляют разные стадии одного жизненного цикла технологий. Таким образом, открытый ИИ и крупные исследовательские группы развиваются параллельно, каждый охватывая свою фазу развития.

📚 Новый метод защиты моделей от отравления при дообучении Автор опубликовал работу, в которой вместо поиска вредоносных данных предлагается ограничить дообучение модели подпространством, полученным из проверенных LoRA‑адаптеров. Это делает некоторые злонамеренные обновления геометрически недоступными. Пример: компания дообучает большую модель на пользовательских и внешних данных; небольшое количество отравленных примеров может добавить скрытую реакцию на определённую фразу. Другой пример — локальный помощник, который адаптируется к пользователю, но его изменения ограничены только теми поведениями, которые уже представлены в надёжном наборе адаптеров. 🔒 В эксперименте подход проверяли на 196 публичных LoRA‑адаптерах, включая специально разработанные адаптивные атаки. Успешность атак резко упала, а полезная адаптация почти полностью сохранилась для задач, покрытых пулом адаптеров. Текст статьи, код и результаты доступны публично: https://arxiv.org/abs/2607.05300 и https://github.com/infinition/z-manifold. Автор приглашает исследователей попытаться обойти защиту.

🚀 Microsoft сокращает расходы на ИИ, опираясь на собственные модели Компания объявила о снижении бюджета на разработки в области искусственного интеллекта и переходе к использованию собственных моделей вместо сторонних решений. Это делает Microsoft последним крупным игроком из Кремниевой долины, который уменьшает вложения в ИИ. Сокращение расходов направлено на оптимизацию затрат и повышение эффективности внутренних технологий. Microsoft будет развивать и интегрировать свои модели в продукты и сервисы компании.

🤖 Тренеры новых ИИ признаются: вместо общения с моделями они используют чат‑ботов Работники, нанятые для обучения новых систем искусственного интеллекта, сказали New Scientist, что вместо реальных диалогов с ИИ они просто заставляют общаться другие чат‑боты. Эксперты называют это «инбридингом ИИ» и предупреждают, что такой подход может снизить мощность и полезность будущих моделей ⚠️