WSJ рассказала о «хаосе» в Белом доме из-за ИИ от Anthropic
WSJ: В Белом доме возник хаос из-за модели ИИ Claude Mythos от Anthropic
Стратегия Белого дома относительно ИИ была поставлена под сомнение из-за модели Claude Mythos: она может выявлять уязвимости ПО, но одновременно инициирует кибератаки, к которым власть на местах и организации могут быть не готовы
Фото: Joe Raedle / Getty Images
Модель искусственного интеллекта Claude Mythos, созданная компанией Anthropic и способная находить уязвимости в программном обеспечении, вызвала хаос в администрации президента США Дональда Трампа, пишет The Wall Street Journal (WSJ) со ссылкой на источники, знакомые с ситуацией.
Как сообщает газета, в апреле вице-президент США Джей Ди Вэнс провел разговор с руководителями крупнейших компаний, которые занимаются разработками искусственного интеллекта. Источники уточнили, что среди участников встречи были глава OpenAI Сэм Альтман, основатель и генеральный директор Anthropic Дарио Амодей, создатель SpaceX Илон Маск (чат-бот Grok), главный исполнительный директор Google Сундар Пичаи (нейросеть Gemini) и глава Microsoft Сатья Наделла (ИИ-помощник Copilot, также компания инвестирует в OpenAI).
Вэнс отметил, что новые модели искусственного интеллекта, такие как Mythos от Anthropic, угрожают парализовать работу небольших банков, больниц и водоочистных сооружений, поскольку инициируют кибератаки, с которыми местные органы власти не готовы справляться.
Модель Claude Mythos от Anthropic, по заявлению компании, способна выявлять и использовать уязвимости во всех основных операционных системах и веб-браузерах при наличии команды пользователя. Модель была анонсирована 7 апреля. Bloomberg со ссылкой на Anthropic сообщил, что до релиза представители компании обсуждали с американскими чиновниками «наступательные и оборонительные кибервозможности» Mythos.
Международные финансовые регуляторы предупреждали, что новые ИИ‑модели вроде Claude Mythos могут вскрыть слабые места глобальной банковской системы. Они выражали опасения из-за перспективы попадания инструмента в руки мошенников, писала Financial Times.
В Белом доме теперь сомневаются в выбранном курсе на ускорение ИИ, утверждает газета. В частности, там рассматривают возможность издания специального указа, который мог бы создать формальный процесс надзора над наиболее передовыми моделями. По информации WSJ, представители американской администрации попросили Anthropic воздержаться от расширения доступа к Mythos для большего числа компаний и организаций, которые управляют критически важной цифровой инфраструктурой.
Директор управления Белого дома по кибербезопасности Шон Кернкросс был назначен ответственным за меры реагирования на поведение Claude Mythos и подобные ей модели. Меры могут включать и другие действия по обеспечению безопасности этой модели или ограничению доступа к ней.
По словам источников, знакомых с ситуацией, опасения Белого дома по поводу Claude Mythos, в свою очередь, вызвали беспокойство у некоторых чиновников американской администрации и помощников конгрессменов. Они опасаются полного отказа от принятой стратегии в отношении ИИ и чрезмерно резкой реакции правительства.
Белый дом по-прежнему привержен стратегии, благоприятствующей развитию индустрии ИИ, но стремится устранить риски, связанные с Mythos и другими моделями, такими как GPT-5.5-Cyber от OpenAI, заявил WSJ представитель администрации США. Дискуссии о президентских указах на этот счет он назвал спекуляциями. Другие представители администрации США подчеркнули, что стремятся найти баланс между должным надзором и инновациями.
