В пятницу министр обороны Пит Хегсет и президент Дональд Трамп признали ИИ-компанию Anthropic источником риска для цепочки поставок, имеющим значение для национальной безопасности, уничижительно назвав фирму радикальной «проснувшейся компанией», которой управляют «левацкие придурки». Всего несколько часов спустя американские военные атаковали Иран, по сообщениям, используя инструменты той самой компании для нанесения серии прямых ударов в Тегеране и по всей стране.
Это вопиющее противоречие всплыло в момент, когда инструменты искусственного интеллекта становятся неотъемлемой частью военных планов Америки для планирования сценариев, подготовки разведданных и даже идентификации целей. И оно выявило, что даже эта передовая технология рискует стать жертвой поляризации и культурно-политических войн, заражающих Вашингтон.
До прошлой недели у Anthropic были эксклюзивные отношения с Министерством обороны по использованию её инструментов в закрытых (секретных) целях. Компания впервые подписала эксклюзионное соглашение с Пентагоном ещё при администрации Байдена и установила два «красных флага»: инструмент ИИ Anthropic Claude не может использоваться для слежки за американскими гражданами и не может применяться для управления потенциально смертоносным автономным оружием. Администрация Трампа впоследствии пересмотрела и приняла эти условия.
Однако конфликт начался, когда Anthropic начала задавать вопросы о том, как именно её инструменты ИИ были использованы в рейде по задержанию бывшего президента Венесуэлы Николаса Мадуро. И с этого момента ситуация быстро обострилась. Похоже, что у администрации нет особых проблем с запретами самого Anthropic.
Вскоре после внесения Anthropic в «черный список» Пентагон в пятницу вечером объявил о сделке с конкурентом Anthropic, компанией OpenAI, которая, судя по всему, в значительной степени включает схожие параметры (хотя некоторые наблюдатели видят в сделке с OpenAI более мягкие стандарты в отношении слежки за американцами).
Проблема Пентагона, скорее всего, в политике Anthropic и его генерального директора Дарио Амодеи. Это правда, что несколько ветеранов администрации Байдена устроились туда работать после ухода своего босса. Но называть компанию просто союзником демократов или «левых» это упрощение их политической философии и стратегических интересов.
Anthropic и её лидеров чаще всего ассоциируют с философией «эффективного альтруизма» или рационализма. На практике это означает, что они много времени думают о безопасности ИИ и его согласованности обеспечении того, чтобы системы ИИ действовали в соответствии с человеческими принципами или целями. Сам Амодеи избегал прямых публичных заявлений об эффективном альтруизме, поскольку эта философия в популярной политической культуре по-прежнему ассоциируется в первую очередь с опозоренным основателем FTX Сэмом Бэнкманом-Фридом. Но идеи этого движения продолжают лежать в основе мышления большинства известных исследователей ИИ, как в Anthropic, так и в конкурирующих компаниях.
В последние годы в Кремниевой долине более осторожные и озабоченные «эффективные альтруисты» столкнулись с группой людей, которых прозвали акселерационистами. Они считают, что любое регулирование развития ИИ в США приведет к потере конкурентного преимущества перед Китаем. Два лагеря не всегда находятся в прямой оппозиции; некоторые философские рассуждения ЭА (которые регулярно публикуются в очень длинных постах на онлайн-форумах) приводят к тем же выводам, что и акселерационисты, относительно некоторых видов регулирования. Но именно акселерационисты оказались у власти в эпоху Трампа например, «царь» по ИИ Дэвид Сакс является ярким примером.
Это не партийные споры. Но внутренние разногласия между техно-ориентированными основателями, исследователями и сторонниками становятся политически более важными по мере роста значимости проблемы ИИ. И за последние несколько дней они внезапно оказались в центре исключительно важной политической борьбы, осознают это Хегсет и Трамп или нет.
Решение администрации Трампа не просто отодвинуть Anthropic в сторону, но и объявить компанию риском для цепочки поставок что может серьезно помешать её способности функционировать, зарабатывать деньги и продолжать расти потрясло как сторонников безопасности ИИ, так и акселерационистов. Хотя есть несколько заметных исключений, акселерационисты злы на Хегсета, который, по их мнению, вредит росту одной из самых многообещающих ИИ-компаний Америки, а сторонники безопасности ИИ возмущены тем, что правительство, по-видимому, пытается ослабить стандарты и делает это против воли самой надежной, по их мнению, ведущей ИИ-компании.
Дин Болл, старший научный сотрудник Фонда американских инноваций, который менее года назад написал дружественный акселерационистам План действий Трампа по ИИ, прежде чем покинуть свою должность в Белом доме, опубликовал сегодня полемику на 3700 слов, утверждая, что действия Хегсета посягают «на основополагающий принцип Американской республики, который традиционно был особенно дорог консерваторам: частную собственность».
Накладывая две конкурирующие философии ИИ на существующую лево-правую политическую систему координат, Трамп и Хегсет столкнули в технологической индустрии неестественных союзников. И они также, вполне возможно, сделали Anthropic явно лево-кодированной для людей, не особо следящих за конкретными событиями в сфере ИИ. Последствия уже становятся заметны: поп-звезда Кэти Перри опубликовала в эти выходные скриншот в X, на котором она оформляет подписку на Claude Pro, что является примером того, как левые внезапно принимают Anthropic как символ сопротивления Трампу.