Руководители ведущих AI-компаний обсуждают, что будет после масштабного инцидента с искусственным интеллектом. Они ждут, что такое событие резко усилит недоверие общества к технологии и её лидерам, и готовятся к жёсткой реакции властей. Об этом сообщает Axios со ссылкой на собственные источники.
Чаще всего в этих сценариях фигурирует кибератака, из-за которой люди теряют доступ к финансовым услугам и интернету, а возможно, к электричеству и воде. По оценке топ-менеджеров, первый случай серьёзного реального ущерба от небезопасного ИИ ещё сильнее настроит против технологии и без того настороженное общество. Удар придётся по главам Anthropic и OpenAI Дарио Амодеи и Сэму Альтману, а также по президенту США Дональду Трампу, которого критикуют за нежелание регулировать отрасль.
Сценарное планирование само по себе не ново: Пентагон проводит военные игры десятилетиями. Отличие в том, что многие ведущие исследователи и руководители ИИ-компаний считают крупный инцидент неизбежным. В OpenAI рассказали, что проводят учения по готовности, где команды разбирают разные ситуации, но не считают их неизбежными. В Anthropic от комментариев отказались. Многие инсайдеры отрасли сказали Axios, что ждут серьёзного события в ближайшие 6–12 месяцев.
Виноватых начнут искать в любом случае: вырвется ли из тестовой среды «рой» неуправляемых ИИ-агентов или злоумышленник найдёт неожиданный способ использовать доступные модели. Показательным примером издание называет недавнюю кампанию против финансовых организаций Южной Кореи, в ходе которой, по сообщениям, взломали два банка. По данным компании CrowdStrike, хакер из Китая якобы использовал китайские ИИ-модели, в том числе DeepSeek, чтобы похитить данные десятков тысяч клиентов банков. Для поиска площадок, где можно продать украденное, он применял Claude Code. Один человек с ИИ-инструментами способен нанести серьёзный ущерб.
Руководство AI-компаний исходит из того, что демократы, усилившиеся после промежуточных выборов, быстро возьмутся за ограничение отрасли, но столкнутся с серьёзными трудностями. Конгресс, по их мнению, далёк от понимания ИИ-революции и может оказаться не готов к таким решениям. Мировая экономика тесно связана со строительством ИИ-инфраструктуры, и замедление способно ударить по и без того хрупкой экономике. К тому же множество открытых моделей уже можно свободно скачать и использовать во вред. Большинство специалистов по кибербезопасности считают, что решить эту проблему можно только с помощью ИИ, который будет противостоять вредоносному ИИ.
Подготовка включает отработку худших сценариев и в основном сводится к ускоренному просвещению членов Конгресса. Руководители компаний понимают, что сейчас законы о регулировании ИИ не пройдут. Тем не менее они хотят повлиять на законодательство и политику, к которым в Вашингтоне обратятся после первой катастрофы.
Среди самых жёстких инициатив демократов — запрет сверхинтеллекта и пауза в разработке передового ИИ. Другие идеи, например обязательный «рубильник» для продвинутых систем, поддерживают обе партии, а часть индустрии не возражает. Эксперты при этом сомневаются, что можно реально отключить все ИИ-системы. Даже при контроле демократов над обеими палатами Конгресса компании рассчитывают на раздробленную политику, в том числе внутри самой Демократической партии.
Впрочем, в реальном кризисе Вашингтон способен отложить партийные разногласия. Один из помощников-демократов напомнил о сотрудничестве политиков во время пандемии COVID-19 и финансового кризиса 2008 года. Именно на такую модель поведения, судя по всему, и рассчитывают в AI-компаниях.
sopa phetcharat / Shutterstock / Fotodom
