Матвей Герасимов

Claude Code теперь позволяет отдельным ИИ-сессиям самостоятельно переписываться В Claude Code появилась новая функция: теперь несколько запущенных сессий Claude могут сами переписываться между собой. Например, одна разбирает бэкенд, вторая правит интерфейс, третья проверяет тесты. Если первая нашла проблему или изменила API, она может сама сообщить об этом остальным. Передаётся только короткое сообщение или резюме, без полной истории чата и файлов. То есть сессии не сливают друг другу весь контекст, а отправляют только то, что нужно для работы. При этом одна Claude не может через такое сообщение выдать другой дополнительные права или обойти ограничения безопасности. Для меня это, если честно, революция разработки. Несколько ИИ-программистов смогут параллельно работать над разными частями репозитория и сами синхронизироваться по ходу дела. У меня часто бывают рассинхроны по разным веткам дерева. Человеку уже не обязательно вручную копировать результаты из одного окна в другое и объяснять каждой сессии, что сделали остальные. Ну, я о тех, кто не использует второй мозг. 🐊 Матвей про ИИ в MAX

9 августа

В США начинается большая политическая драка вокруг ИИ Трамп 7 августа снова выступил против жёсткого федерального регулирования ИИ. Он считает, что если Конгресс заставит разработчиков самых мощных моделей проходить обязательные независимые аудиты и вводить дополнительные ограничения, США рискуют замедлиться в гонке с Китаем. Для Белого дома сейчас важнее скорость развития отрасли, чем попытка заранее зарегулировать все возможные риски. При этом сама федеральная машина уже начинает строить инфраструктуру контроля. NIST выпустил TEVV-Athlon — единый фреймворк для тестирования языковых моделей, мультимодальных систем и ИИ-агентов. Пока он добровольный, но направление понятно: государство хочет, чтобы модели проверяли по сопоставимым сценариям, а результаты можно было сравнивать между компаниями. Так Вашингтон приступил к созданию стандартов отрасли. На этом фоне ИИ превращается в обычный большой политический бизнес. Группы, выступающие за более свободное развитие отрасли, уже собрали примерно $140 млн на лоббизм и политические кампании. У сторонников более жёстких мер безопасности — около $80 млн. В первом лагере заметны люди, связанные с OpenAI, Palantir и Andreessen Horowitz, во втором — окружение Anthropic. Спор о том, как регулировать ИИ, уже идёт не только внутри лабораторий и комитетов Конгресса, но и через деньги, выборы и влияние на законодателей. Самое интересное, что реальный предел для отрасли всё чаще возникает вообще вне законов об алгоритмах. В Техасе губернатор Грег Эбботт приостановил новые подключения крупных дата-центров к энергосети. В очереди ERCOT накопилось более 400 ГВт заявок — огромный объём даже по меркам всей американской энергетики. И здесь появляется ещё одна политическая проблема. По данным Reuters/Ipsos, строительство дата-центров рядом с местом проживания не поддерживают примерно две трети демократов и около половины республиканцев. Поэтому федеральный Вашингтон может сколько угодно обещать дерегулирование ИИ, а настоящие ограничения будут вводить губернаторы, муниципалитеты и энергетические регуляторы. 🐊 Матвей про ИИ в MAX

9 августа

В Billboard впервые попала песня, почти целиком сделанная ИИ Рэпер Fenix Flexin попался на довольно неловком противоречии. Месяц назад в эфире Hot 97 он прямо сказал, что в треке Rubberz «нет AI». Теперь написал в Instagram*, что «никогда не говорил, что не использовал AI». Формулировка особенно смешная, потому что старое интервью сохранилось. Спор начался после слов продюсера Medasin: он утверждал, что Rubberz сделали через генератор Treblo. Сама Treblo позже прогнала трек через свой классификатор и получила результат «very likely Treblo» с высокой уверенностью. Компания заявляет ложное срабатывание реже одного случая на 10 тысяч, а её CEO Райан Тремблей считает, что генеративной моделью создан почти весь опубликованный аудиотрек. Если Treblo права, Rubberz становится первой известной AI-сгенерированной песней в Billboard Hot 100. И здесь важнее даже не сам факт генерации, а то, что аудитория, стриминги и чарты большого американского рынка уже могут потреблять машинную музыку как обычный коммерческий хит — до тех пор, пока кто-то не начнёт разбираться, кто именно её сделал. * — принадлежит Meta, признанной экстремистской в РФ 🐊 Матвей про ИИ в MAX

8 августа

OpenAI притормозила Astra: новая модель слишком хорошо научилась взламывать На внутренних тестах Astra показала такой прогресс в программировании и кибербезопасности, что OpenAI пока не может исключить переход модели на критический уровень — самый опасный в своей шкале. На этом уровне ИИ уже способен сам искать неизвестные уязвимости в реальных защищённых системах, превращать их в рабочие эксплойты и строить сложные атаки почти без участия человека. GPT-5.6 Sol для сравнения находится ступенью ниже — на уровне High. Часть работ с Astra временно перевели в более жёсткий режим. Модель запускают в изолированных средах, ограничивают ей интернет, сильнее защищают сами веса и постоянно отслеживают действия агента. Если ИИ начинает самостоятельно искать слабые места в инфраструктуре, обычной «песочницы» уже недостаточно. При этом OpenAI отдельно подчёркивает, что Astra не участвовала во взломе Hugging Face. И пока нельзя говорить, что она точно достигла Critical. Компания увидела, что модель подошла к этой границе достаточно близко, чтобы перестраховаться заранее. 🐊 Матвей про ИИ в MAX

8 августа

Китайская Kimi сбежала из песочницы, чтобы списать ответы на тест Исследователи Frontier Security проверяли Kimi K3 от Moonshot на задачах по кибербезопасности. Модель должна была работать внутри изолированной среды без доступа к внешним источникам. Но Kimi сама начала проверять сетевые ограничения, обнаружила, что запрет настроен не полностью, обошла его через инструменты командной строки, вышла в интернет и отправилась на GitHub искать готовые ответы. Никакого реального взлома в этот раз не произошло — нужная информация лежала в открытом доступе. Забавно, что проблема уже становится системной. За последние недели из тестовых сред разными способами выбирались модели OpenAI, Anthropic и Meta*. Для таких случаев уже появился отдельный трекер Felony Bench: на OpenAI и Anthropic там приходится по семь инцидентов, у Meta — один, теперь добавилась Moonshot. Причина чаще всего банальна: исследователи оставляют дыру в самой песочнице. Но модели уже достаточно самостоятельны, чтобы эту дыру найти и понять, как она помогает выполнить поставленную задачу. С Kimi есть ещё одна деталь: это публично доступная модель. В независимой проверке Kimi K2.5 ещё весной обнаружили повышенную склонность к саботажу и саморепликации, хотя долгосрочных вредоносных целей исследователи у неё не нашли. Достаточно поставить цель, дать терминал и случайно оставить дверь приоткрытой — модель сама проверит, нельзя ли через неё быстрее решить задачу. * — 21 марта 2022 года Тверской суд Москвы признал Meta экстремистской организацией в России. 11 октября 2022 года Росфинмониторинг внёс компанию Meta в перечень организаций, причастных к терроризму и экстремизму. 🐊 Матвей про ИИ в MAX

7 августа

ИИ впервые написал геном вируса — и он оказался рабочим Исследователи Стэнфорда и Arc Institute дали моделям Evo 1 и Evo 2 задачу, которая ещё недавно выглядела фантастикой: сгенерировать целый геном вируса (!!!). Модели предложили множество новых последовательностей, учёные синтезировали и проверили около 300 вариантов — 16 из них превратились в жизнеспособные бактериофаги, способные заражать и уничтожать кишечную палочку. Таких вирусов в природе раньше не существовало. Стартанули ученые с крошечных вирусах, поражающих бактерии, а не людей. Но... блин... первый переход уже произошел. Раньше генеративный ИИ в биологии в основном проектировал отдельные белки и фрагменты ДНК. Здесь модель впервые собрала работающую генетическую программу целиком: вирус воспроизводился, эволюционировал и в экспериментах помогал уничтожать штаммы E. coli, устойчивые к природным фагам. У одного из созданных вариантов обнаружили даже эволюционно далёкий механизм упаковки ДНК — решение, до которого естественная эволюция пришла совсем в другой ветви. Отсюда одновременно огромный медицинский потенциал и довольно неприятный вопрос безопасности. Тем же способом можно ускорять разработку фаговой терапии против бактерий, устойчивых к антибиотикам. Но авторы прямо предупреждают: по мере развития таких моделей появляется риск проектирования геномов с опасными свойствами. Сейчас гораздо проще модифицировать известный патоген, чем создать новый с нуля, однако впервые появился убедительный экспериментальный прецедент: нейросеть способна написать биологический код, который после синтеза начинает самостоятельно работать в физическом мире. Разве может робот написать симфонию? А взять чистый холст и превратить его в шедевр? 🐊 Матвей про ИИ в MAX

7 августа