Лента новостей

🚀 Инференс‑движок для BitNet на чистом C За последние несколько месяцев разработчик создал движок инференса, работающий исключительно на CPU, написанный полностью на C99 без Python, CUDA и сторонних библиотек, собирается gcc и make. Он исполняет 1.58‑битные тернарные модели BitNet без значительных накладных расходов и достигает 36.25 токенов в секунду на модели b1.58‑2B‑4T на Intel Xeon с 4 потоками. Технически веса упакованы по 4 в байт (‑1, 0, +1) и обрабатываются SIMD‑инструкциями AVX2/AVX‑512 с VNNI (vpdpbusds), без преобразования в float32; пул потоков построен на атомиках C11 с spin‑then‑yield, почти без синхронизационных задержек; полученный бинарник не имеет зависимостей и сразу предоставляет API, совместимое с OpenAI. Главное ограничение — пропускная способность DRAM: после недель оптимизации ядра умножения матриц скорость декодирования при batch=1 ограничена памятью; на тестовом Xeon достигается около 95 % теоретической пропускной способности, поэтому ускорение вычислительных ядер помогает лишь при пакетной обработке нескольких запросов. Репозиторий: https://github.com/shifulegend/project-zero 🧠

📉 49 % запусков AI‑агентов сократили из‑за превышения расходов KPMG сообщает, что почти половина (49 %) проектов по внедрению AI‑агентов была прекращена, когда их стоимость превысила ожидаемую ценность. Согласно опросу 2 145 руководителей, средний ROI от таких инициатив составляет 7 %, а запланированные инвестиции в ИИ остаются на уровне 188 млн USD. Прозрачность расходов теперь становится ключевым фактором, позволяющим компаниям отличать тех, кто получает возврат, от остальных.

🏢 Amazon обошёл голосование жителей Гилрой за ИИ‑центр Amazon применил 45‑летние правила, позволяющие обойти общественное голосование, и одобрил строительство масштабного дата‑центра для искусственного интеллекта. Жители Гилрой, Калифорния, оказались лишены возможности высказать своё мнение: окно для публичных комментариев было закрыто, и они не смогли участвовать в обсуждении проекта.

🧬 Генеративный дизайн бактериофагов с помощью языковых моделей генома Учёные представили метод, позволяющий создавать бактериофаги с помощью генеративных моделей, обученных на геномных данных. Подход использует языковые модели, аналогичные тем, что применяются в обработке естественного языка, но адаптированные к последовательностям ДНК.

🛰️ Cloudflare: боты генерируют в 1000 раз больше трафика, люди могут стать «погрешностью округления» На квартальном звонке за второй квартал, проведённом в четверг, финансовый директор Cloudflare Томас Зайферт предупредил, что рост автоматизированного трафика может сделать человеческую активность почти незаметной. По данным компании, боты уже создают примерно тысячу раз больше запросов, чем обычные пользователи 🤖, что меняет структуру нагрузки на сеть. Зайферт отметил, что такой масштаб потребует новых подходов к защите и управлению трафиком, но конкретных решений не озвучил.

🚀 Дэмис Хассабис уходит с поста CEO DeepMind Основатель и руководитель Google DeepMind объявил об уходе с позиции генерального директора, чтобы сосредоточиться на разработке искусственного общего интеллекта (AGI). В новой роли он будет руководить исследовательскими проектами, направленными на создание систем, способных выполнять широкий спектр задач на уровне человека 🤖. DeepMind заявила, что переходный период будет покрыт внутренними структурами, а Хассабис останется в компании в качестве советника по стратегии AGI.

🧬 ИИ создал работающие бактериофаги Исследователи использовали искусственный интеллект для разработки полностью новых вирусов, которых нет в природе. В лаборатории синтезировали несколько вариантов, и 16 из них оказались жизнеспособными. Это бактериофаги — вирусы, поражающие только бактерии. Некоторые из созданных ИИ штаммов смогли уничтожить E. coli, в том числе резистентные к обычным фагам, что открывает перспективу борьбы с антибиотикоустойчивыми инфекциями 🦠. Тем не менее, возможность генерации полного генома вируса ИИ поднимает вопросы безопасности. Для создания и проверки таких вирусов всё равно требуются лаборатории, оборудование и биологические знания, но граница между текстовыми и биологическими моделями быстро стирается.

🚀 Самодостаточная сатирическая радиостанция INFORMANT Автор создал INFORMANT — самохостинговую сатирическую радиостанцию, которая каждый день генерирует около десяти выпусков, сравнивая посты в Truth Social с реальными минутными рыночными данными. Всё работает на одной видеокарте RTX 3090 в гараже, без облачных запросов; единственные API‑ключи нужны для получения рыночных котировок и загрузки роликов на YouTube. Для генерации текста используется LLM qwen3.6:35b‑a3b через Ollama, а озвучка — модель F5‑TTS. В эфире звучат более 13 персонажей‑клонов, плюс резервный голос Kokoro. Видео собирается детерминированным рендером Chromium, а 3D‑студия работает на SwiftShader CPU, чтобы не конкурировать с GPU. Всё управляется простыми Node‑скриптами, systemd‑таймерами и старой виртуальной машиной; звонки слушателей принимаются через Asterisk + DID. Особый «слой честности»: каждый числовой показатель в сценарии проверяется against лицензированными рыночными данными; если цифра не совпадает, она заменяется в эфире на фразу «some number». Валидаторы отбрасывают вымышленные цифры, фальшивые опросы и противоречивые направления, а при ошибках выпуск просто не выходит. Слушать станцию можно по адресу https://informant.reiners.io. Подробнее о технической реализации в видео‑разборе (https://www.youtube.com/watch?v=-xTI-noK-RY) и полном обзоре (https://www.youtube.com/watch?v=T11EUPSUnNU).

🛠️ Минимальный код‑агент на Python за 9 строк Разработчик опубликовал простейший агент‑кодер, реализованный всего в 9 строках Python без сторонних библиотек, только стандартный модуль. Он работает с любым API, совместимым с OpenAI Responses, автоматически выводит процент использования контекстного окна и экономит запросы за счёт отсутствия системного промпта. Внутри реализовано кэширование по session_id и стабильная история в виде добавляемого списка. Агент поддерживает единственный инструмент — sh, а вызовы выполняются через API «custom tool». Код доступен на GitHub: https://github.com/smol‑env/smol, также есть версия на Go (~20 строк) и скоро появится Clojure‑реализация. Если ваш API не поддерживает «custom» инструменты, достаточно переключить их на function_call и изменить название модели — агент сразу заработает на локальном инференс‑эндпоинте.

📊 Компании, получающие выгоду от ИИ, сначала наладили данные и управление По результатам опроса PwC, в котором приняли участие 4 454 генеральных директора, организации, уже фиксирующие возврат инвестиций от искусственного интеллекта, в первую очередь упорядочили свои данные и внедрили систему управления 🛠️. Руководители подчеркнули, что без чёткой стратегии работы с данными и надёжного контроля проекты ИИ не приносят ожидаемых результатов, поэтому успешные компании начали именно с этих шагов.