Anthropic отверг условие Пентагона о боевом использовании чат-бота Claude

Гендиректор компании по разработке искусственного интеллекта Anthropic Дарио Амодей сообщил, что не может уступить требованиям военного ведомства США и позволить использовать свою технологию для массового наблюдения внутри страны или создания полностью автономного оружия.

Как пишет The Washington Post, заявление появилось за несколько часов до установленного Пентагоном крайнего срока для выполнения требования Закона об оборонном производстве. Теперь компанию могут вынудить предоставить Пентагону полный доступ к своему ИИ.

Anthropic и Пентагон находятся в конфронтации несколько недель. Компания подняла вопрос о том, как ее продукт Claude был использован в рейде по захвату президента Венесуэлы Николаса Мадуро. Reuters сообщало, что Пентагон на переговорах с ИИ-компаниями требует развернуть их нейросети в закрытых сегментах военных сетей. При этом оборонное ведомство хочет использовать гражданские технологии без стандартных ограничений, мешающих боевому применению алгоритмов.

«В узком кругу случаев мы считаем, что ИИ может подрывать, а не защищать демократические ценности. Некоторые виды применения также просто выходят за рамки того, что современные технологии могут делать безопасно и надежно. Два таких варианта использования никогда не были включены в наши контракты с Военным министерством, и мы считаем, что их не следует включать сейчас»,— сообщил господин Амодей. Он выразил надежду на то, что Пентагон пересмотрит свое решение.