Компания Anthropic, один из заметных игроков на рынке искусственного интеллекта, оказалась в открытом противостоянии с Пентагоном. Предмет разногласий — безопасность ИИ и то, как именно эти технологии должны применяться в военной сфере.
Anthropic давно позиционирует себя как компанию, для которой безопасность ИИ стоит на первом месте. Собственно, ради этого она и создавалась. Основатели покинули OpenAI, посчитав, что та недостаточно серьёзно относится к рискам, связанным с развитием мощных языковых моделей. Теперь Anthropic столкнулась с ситуацией, где её принципы проверяются на прочность уже не в академических дискуссиях, а в столкновении с одним из крупнейших военных ведомств мира.
Пентагон, штаб-квартира Министерства обороны США, активно наращивает интерес к технологиям ИИ. Военные хотят использовать их для самых разных задач — от логистики до анализа разведывательных данных. Аппетиты растут, бюджеты тоже, и Пентагон ожидает от технологических компаний готовности к сотрудничеству. Anthropic в этом смысле оказалась неудобным партнёром.
Суть конфликта сводится к тому, где проходит граница допустимого. Anthropic настаивает на жёстких ограничениях использования своих моделей, особенно в контексте, связанном с вооружёнными силами. Пентагон же рассматривает подобные ограничения как препятствие для национальной безопасности. Каждая сторона смотрит на проблему со своей колокольни, и пока точек соприкосновения немного.
Этот спор отражает более широкую проблему, которая касается всей отрасли. Технологические компании, занимающиеся ИИ, вынуждены решать неприятный вопрос: можно ли одновременно продвигать ответственный подход к разработке и при этом не потерять контракты с государством? Google в своё время уже проходила через похожий кризис с проектом Maven, когда сотрудники компании взбунтовались против сотрудничества с военными. Anthropic, похоже, проживает свою версию этого кризиса.
Для Пентагона ситуация тоже непростая. С одной стороны, военное ведомство не может игнорировать компании, которые разрабатывают передовые модели ИИ. С другой — давить слишком сильно означает рисковать репутацией и отпугнуть инженеров, которые и так с подозрением относятся к военным проектам. Баланс тут хрупкий.
Пока конфликт между Anthropic и Пентагоном остаётся неразрешённым, он задаёт тон будущим отношениям между военными и технологическим сектором. Кто из них уступит первым — вопрос открытый. Но очевидно одно: каждая подобная коллизия формирует правила игры, которых пока попросту не существует в этой стремительно меняющейся области.
Изображение носит иллюстративный характер
Anthropic давно позиционирует себя как компанию, для которой безопасность ИИ стоит на первом месте. Собственно, ради этого она и создавалась. Основатели покинули OpenAI, посчитав, что та недостаточно серьёзно относится к рискам, связанным с развитием мощных языковых моделей. Теперь Anthropic столкнулась с ситуацией, где её принципы проверяются на прочность уже не в академических дискуссиях, а в столкновении с одним из крупнейших военных ведомств мира.
Пентагон, штаб-квартира Министерства обороны США, активно наращивает интерес к технологиям ИИ. Военные хотят использовать их для самых разных задач — от логистики до анализа разведывательных данных. Аппетиты растут, бюджеты тоже, и Пентагон ожидает от технологических компаний готовности к сотрудничеству. Anthropic в этом смысле оказалась неудобным партнёром.
Суть конфликта сводится к тому, где проходит граница допустимого. Anthropic настаивает на жёстких ограничениях использования своих моделей, особенно в контексте, связанном с вооружёнными силами. Пентагон же рассматривает подобные ограничения как препятствие для национальной безопасности. Каждая сторона смотрит на проблему со своей колокольни, и пока точек соприкосновения немного.
Этот спор отражает более широкую проблему, которая касается всей отрасли. Технологические компании, занимающиеся ИИ, вынуждены решать неприятный вопрос: можно ли одновременно продвигать ответственный подход к разработке и при этом не потерять контракты с государством? Google в своё время уже проходила через похожий кризис с проектом Maven, когда сотрудники компании взбунтовались против сотрудничества с военными. Anthropic, похоже, проживает свою версию этого кризиса.
Для Пентагона ситуация тоже непростая. С одной стороны, военное ведомство не может игнорировать компании, которые разрабатывают передовые модели ИИ. С другой — давить слишком сильно означает рисковать репутацией и отпугнуть инженеров, которые и так с подозрением относятся к военным проектам. Баланс тут хрупкий.
Пока конфликт между Anthropic и Пентагоном остаётся неразрешённым, он задаёт тон будущим отношениям между военными и технологическим сектором. Кто из них уступит первым — вопрос открытый. Но очевидно одно: каждая подобная коллизия формирует правила игры, которых пока попросту не существует в этой стремительно меняющейся области.
