Kurz gefasst
- Große US-Banken entdecken unbefugte KI-Agenten von Drittanbietern in Kundenkonten – oft melden sie sich mit den eigenen Zugangsdaten des Kunden an – und einige führen Aktionen aus, die unabhängig von den Anweisungen der Nutzer erscheinen, wie Axios berichtete.
- Morgan Stanley blockiert externe Agenten, während JPMorgan, Bank of America und Citi sie einschränken; Führungskräfte nannten die Situation „erschreckend“.
- Anstatt KI vollständig zu verbieten, neigen die meisten Banken zu einem Nur-Lese-Zugriff.
Einige der größten US-Banken haben eine ungebetene Präsenz in den Konten ihrer Kunden entdeckt: autonome KI-Agenten, die sich anmelden, manchmal mit den eigenen Zugangsdaten des Kunden, und gelegentlich Aktionen ausführen, die über das hinauszugehen scheinen, was ihnen jemand aufgetragen hat.
Das geht aus einem am Donnerstag von Axios veröffentlichten Bericht hervor, der unter Berufung auf mit der Angelegenheit vertraute Personen erklärte, große Banken entdeckten unbefugte KI-Agenten von Drittanbietern, die in Kundenkonten operieren, wobei einige Agenten Schritte unternähmen, die unabhängig von Nutzeranweisungen wirkten.
Bankmanager beschrieben die Situation als „entsetzlich“, wobei einer sagte, die Branche habe „ernste Bedenken“ darüber, dass Agenten auf Konten zugreifen und Handlungen vornehmen, die die Finanzen von Menschen beeinflussen könnten.
Die Banken sind dabei, die Tür zuzuschlagen. Morgan Stanley blockiert externe Agenten, während JPMorgan, Bank of America und Citi sie einschränken, berichtete Axios.
Das Problem ist, dass selbst wenn ein Nutzer einem Agenten eine Berechtigung erteilt, das Anmelden von Software als Kontoinhaber mit den Regeln der meisten Banken kollidiert, die verlangen, dass Menschen auf ihre eigenen Konten zugreifen. Ein Manager sagte gegenüber Axios, es falle ihnen schwer, Agenten voneinander zu unterscheiden oder zu wissen, ob ein bestimmter Agent vom Kunden autorisiert wurde oder abtrünnig geworden ist.
BitcoinBTC · USD
$81,551−1.05%
15. Okt.17. Okt.19. Okt.20. Okt.22. Okt.
$84,8k$83,5k$82,2k$80,9k
24h HochHoch$84.808
24h TiefTief$81.331
VolVol$1,7 Mrd.
MarktprognosenQuoten von Myriad
Heute$80.000 bis $82.000$80k–$82k93% ChanceDiese WocheUnter $82.000Unter $82k58% Chance
→Kaufe Bitcoin mit USDT
Bereitgestellt von Jupiter
Die Reibungspunkte deuten auf einen Mittelweg statt auf ein vollständiges Verbot hin. Laut Axios haben die meisten Banken einen schreibgeschützten Zugriff genehmigt oder neigen dazu, der es Agenten ermöglichen würde, die Finanzinformationen eines Kunden einzusehen, ohne Geld zu bewegen, ähnlich dem, was sie bereits Budgetierungs-Apps gewähren. Branchenvertreter räumten ein, dass Kunden diese Agenten nutzen wollen werden, sodass wahrscheinlich gewisse Zugeständnisse kommen werden.
Der Bericht erscheint inmitten eines Trommelwirbels der Alarmierung über KI-Agenten, die sich von ihrer Leine lösen. Agenten sind wiederholt der Kontrolle ihrer Schöpfer entkommen und haben Systeme auf Weisen verletzt, die ihre Entwickler nicht beabsichtigt hatten, und die Bank für Internationalen Zahlungsausgleich hat gewarnt, dass KI das Zeitfenster, das Banken haben, verkürzt, um Sicherheitslücken zu schließen, bevor Angreifer sie ausnutzen.
Die Bankenangst befeuert eine breitere Debatte darüber, wie zunehmend fähige Agenten unter Kontrolle gehalten werden können. Die Vorschläge reichten von einem KI-"Kill Switch", den Nvidia bereits auf technischer Ebene umzusetzen begonnen hat, bis hin zu Forderungen von Wissenschaftlern, fortschrittliche Modelle vollständig vom Internet abzuschneiden.
Es ist ein Zeichen dafür, wie ernst das Finanzsystem und darüber hinaus das Risiko von Software nehmen, die eigenständig handeln kann.
Schließen Sie sich über 72.000 Lesern an
Erstellen Sie ein Konto, um Ihre Artikel zu speichern.
Fügen Sie Decrypt als Ihre bevorzugte Quelle hinzu, um mehr unserer Geschichten auf Google zu sehen.
