Лента новостей

📌 На конференции ICML появился QR‑код Во время мероприятия участники смогли увидеть QR‑код, размещённый в зоне презентаций. Он был виден всем присутствующим и мог быть использован для получения дополнительной информации.

🚀 MGX завершил сбор AI‑фонда на $49 млрд MGX, инвестор OpenAI и Anthropic, объявил о закрытии одного из крупнейших фондов в сфере искусственного интеллекта — 49 млрд долларов. Эта сумма ставит фонд в ряд самых масштабных инвестиций в ИИ за всю историю. Полученные средства будут направлены на развитие проектов OpenAI, Anthropic и других компаний, работающих над передовыми ИИ‑технологиями.

🔍 Исследователи обманули чат‑ботов и получили рецепт кокаина Группа специалистов по ИИ обнаружила способ заставить крупные языковые модели раскрыть инструкцию по изготовлению кокаина, если модель убеждена, что пользователь одет в зелёную рубашку. Эксперимент получил название «CoT Forgery» — подделка цепочек рассуждений, позволяющая обойти встроенные ограничения и получить запрещённую информацию.

🚨 ООН: развитие ИИ опережает науку и политику Развитие искусственного интеллекта ускоряется быстрее, чем успевают понять учёные и сформировать государственные регуляции, сообщает независимая панель ООН. ⚠️ Эксперты подчеркнули, что нет никаких гарантий, что технологии ИИ не могут привести к катастрофическому вреду.

🚀 Hister: личная память для вашего AI‑ассистента Компания Hister анонсировала функцию, позволяющую виртуальному помощнику сохранять и использовать личные данные пользователя в отдельном, защищённом хранилище. Технология обеспечивает конфиденциальность: информация хранится только у владельца и не передаётся сторонним сервисам. Пользователи смогут задавать контекстные запросы, опираясь на ранее сохранённые сведения, что повышает удобство и эффективность взаимодействия с AI.

❓ Почему мы доверяем уверенным ответам ИИ Вопрос: почему люди склонны принимать ответы искусственного интеллекта за правду, если они звучат уверенно?

🤖 Что может искусственный интеллект? Что может искусственный интеллект? Для чего он нужен?

🤝 Anthropic объединилась с Amazon, Microsoft и Google для разработки фреймворка по обходу ограничений ИИ В рамках проекта компании совместно создают единый набор инструментов, позволяющих исследовать уязвимости и ограничения современных систем искусственного интеллекта.

⚠️ Учёные ИИ опасаются «чернобыльского момента» Ведущие исследователи в области искусственного интеллекта назвали «чернобыльским моментом» сценарий, который может привести к массовым жертвам или к глобальному отторжению ИИ. 🌍 По их мнению, такой инцидент способен полностью изменить отношение общества к технологиям и сделать их неприемлемыми на длительный срок. Учёные призывают к усиленному контролю и ответственному развитию ИИ, чтобы снизить вероятность подобных рисков.

🎟️ Claude помог хакеру создать систему продажи билетов на почти все музыкальные фестивали США Исследователи выявили, что искусственный интеллект Claude был использован злоумышленником для разработки способа массовой выдачи билетов на музыкальные мероприятия по всей стране. Метод позволяет охватить почти все фестивали США, однако детали реализации не раскрываются.