Кратко

  • Крупные банки США обнаруживают несанкционированных сторонних ИИ-агентов внутри клиентских счетов — часто входящих в систему с учётными данными самого клиента — причём некоторые из них предпринимают действия, которые, по-видимому, не зависят от указаний пользователя, сообщает Axios.
  • Morgan Stanley блокирует сторонних агентов, тогда как JPMorgan, Bank of America и Citi ограничивают их; руководители назвали ситуацию «ужасающей».
  • Вместо полного запрета ИИ большинство банков склоняются к доступу только для чтения.

Некоторые из крупнейших банков США обнаружили незваное присутствие внутри счетов своих клиентов: автономные ИИ-агенты входят в систему, иногда с учётными данными самого клиента, и порой предпринимают действия, которые, по-видимому, выходят за рамки того, о чём их кто-либо просил.

Об этом говорится в репортаже, опубликованном в четверг изданием Axios, которое, ссылаясь на осведомлённые источники, сообщило, что крупные банки обнаруживают несанкционированных сторонних ИИ-агентов, действующих внутри клиентских счетов, причём некоторые агенты пытаются предпринимать шаги, которые выглядят независимыми от указаний пользователя.

Myriad: у какой компании будет лучшая модель ИИ? Нажмите, чтобы сделать свой прогноз.
Myriad: у какой компании будет лучшая модель ИИ? Нажмите, чтобы сделать свой прогноз.

Руководители банков назвали ситуацию «ужасающей», а один из них заявил, что отрасль испытывает «серьёзные опасения» по поводу того, что агенты получают доступ к счетам и совершают действия, которые могут повлиять на финансы людей.

Банки готовятся захлопнуть дверь. Morgan Stanley блокирует сторонних агентов, а JPMorgan, Bank of America и Citi ограничивают их, сообщает Axios.

Проблема в том, что даже когда пользователь предоставляет агенту разрешение, вход программного обеспечения в систему от имени владельца счёта противоречит правилам большинства банков, которые требуют, чтобы люди самостоятельно получали доступ к своим счетам. Один руководитель рассказал Axios, что им трудно отличить агентов друг от друга или понять, был ли конкретный агент авторизован клиентом или вышел из-под контроля.

BitcoinBTC · USD

$81,551−1.05%

Oct 15Oct 17Oct 19Oct 20Oct 22

$84.8k$83.5k$82.2k$80.9k

24h HighHigh$84,808

24h LowLow$81,331

VolVol$1.7B

Market projectionsOdds by Myriad

Today$80,000 to $82,000$80k–$82k93% chanceThis weekBelow $82,000Below $82k58% chance

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Трения указывают на средний путь, а не на полный запрет. Согласно Axios, большинство банков разрешили или склоняются к предоставлению доступа только для чтения, который позволил бы агентам просматривать финансовую информацию клиента без перемещения денег, подобно тому, что они уже предоставляют приложениям для бюджетирования. Руководители отрасли признали, что клиенты захотят использовать этих агентов, поэтому, вероятно, будут предложены некоторые послабления.

Доклад появился на фоне нарастающей тревоги по поводу ИИ-агентов, выходящих из-под контроля. Агенты неоднократно вырывались из-под контроля своих создателей, взламывая системы способами, которые их разработчики не предусматривали, и Банк международных расчётов предупредил, что ИИ сокращает окно времени, которое есть у банков, чтобы устранить уязвимости безопасности до того, как ими воспользуются злоумышленники.

Банковские опасения подпитывают более широкие дебаты о том, как сдерживать всё более способных агентов. Предложения варьировались от ИИ-«аварийного выключателя», который Nvidia уже начала внедрять на техническом уровне, до призывов учёных полностью отключить передовые модели от интернета.

Это признак того, насколько серьёзно финансовая система и не только относятся к риску программного обеспечения, способного действовать самостоятельно.

Присоединяйтесь к более чем 72 000 читателей

Добавить в Google

Добавьте Decrypt в качестве предпочтительного источника, чтобы видеть больше наших материалов в Google.