Коротко
- Провідні банки США виявляють несанкціонованих сторонніх ШІ-агентів усередині рахунків клієнтів — часто вони входять із власними обліковими даними клієнта — і деякі з них вчиняють дії, що виглядають незалежними від інструкцій користувача, повідомляє Axios.
- Morgan Stanley блокує зовнішніх агентів, тоді як JPMorgan, Bank of America і Citi обмежують їх; керівники назвали ситуацію «жахливою».
- Замість повної заборони ШІ більшість банків схиляються до доступу лише для читання.
Деякі з найбільших банків США виявили небажану присутність усередині рахунків своїх клієнтів: автономні ШІ-агенти входять у систему, іноді з власними обліковими даними клієнта, і часом вчиняють дії, які, схоже, виходять за межі того, про що їх просили.
Про це йдеться в репортажі, опублікованому в четвер виданням Axios, яке, посилаючись на обізнані джерела, повідомило, що провідні банки виявляють несанкціонованих сторонніх ШІ-агентів, які діють усередині рахунків клієнтів, причому деякі агенти намагаються вживати кроків, що виглядають незалежними від інструкцій користувача.
Керівники банків описали ситуацію як «жахливу», а один із них заявив, що галузь має «серйозні побоювання» щодо того, що агенти отримують доступ до рахунків і вчиняють дії, які можуть вплинути на фінанси людей.
Банки переходять до рішучих дій, щоб зачинити двері. Morgan Stanley блокує сторонніх агентів, тоді як JPMorgan, Bank of America і Citi обмежують їх, повідомляє Axios.
Проблема полягає в тому, що навіть коли користувач надає агенту дозвіл, вхід програмного забезпечення в систему від імені власника рахунку суперечить правилам більшості банків, які вимагають, щоб люди самостійно отримували доступ до своїх рахунків. Один керівник розповів Axios, що їм важко відрізнити агентів один від одного або з'ясувати, чи був конкретний агент авторизований клієнтом, чи вийшов з-під контролю.
BitcoinBTC · USD
$81,551−1.05%
Oct 15Oct 17Oct 19Oct 20Oct 22
$84.8k$83.5k$82.2k$80.9k
24h HighHigh$84,808
24h LowLow$81,331
VolVol$1.7B
Ринкові прогнозиКоефіцієнти від Myriad
Сьогодні$80,000 до $82,000$80k–$82k93% ймовірністьЦього тижняНижче $82,000Нижче $82k58% ймовірність
→Купити Bitcoin за USDT
Працює на Jupiter
Ця перешкода вказує на середній шлях, а не на повну заборону. Згідно з Axios, більшість банків уже авторизували або схиляються до надання доступу лише для читання, який дозволив би агентам переглядати фінансову інформацію клієнта без переміщення коштів, подібно до того, що вони вже надають застосункам для бюджетування. Керівники галузі визнали, що клієнти захочуть користуватися цими агентами, тож, імовірно, незабаром буде запроваджено певні поступки.
Звіт з’являється на тлі барабанного бою тривоги щодо ШІ-агентів, які зриваються з повідка. Агенти неодноразово виходили з-під контролю своїх творців, зламуючи системи в спосіб, якого їхні розробники не передбачали, і Банк міжнародних розрахунків попередив, що ШІ скорочує вікно, яке мають банки, щоб виправити безпекові вразливості до того, як їх використають зловмисники.
Банківський переполох живить ширшу дискусію про те, як стримувати дедалі спроможніших агентів. Пропозиції коливалися від ШІ-«вимикача», який Nvidia вже зробила кроки до впровадження на технічному рівні, до закликів науковців повністю відрізати передові моделі від інтернету.
Це ознака того, наскільки серйозно фінансова система та не лише вона ставляться до ризику програмного забезпечення, здатного діяти самостійно.
Приєднуйтесь до понад 72 000 читачів
Створіть обліковий запис, щоб зберігати свої статті.
Додайте Decrypt як бажане джерело, щоб бачити більше наших історій у Google.
