Proton-Nutzer protestieren: CEO nennt Sicherheitsvorsicht „Loser-Denken“ – KI-Offensive löst Shitstorm aus

Proton-Nutzer melden Abonnementkündigungen, nachdem bekannt wurde, dass CEO Andy Yen Ingenieure unter Druck gesetzt hat, KI zu übernehmen, und eine Anfrage nach mehr Sicherheitstests als „Loser-Denken“ abgetan hat.

Das Schweizer Datenschutzunternehmen hat seitdem geplante Mitarbeiterbewertungen zur KI-Nutzung abgesagt.

Die Gegenreaktion greift Protons Hauptverkaufsargument an – das Vertrauen, ihm Informationen anzuvertrauen, die Menschen privat halten wollen. Sein verschlüsselter E-Mail-Dienst verschlüsselt Nachrichten, um deren Inhalte zu schützen, und Kunden, die seine Entwicklungspraktiken infrage stellen, fragen, ob schnellere Veröffentlichungen auf ihre Kosten gehen könnten.

Predict·Economy

Wird die Marktkapitalisierung von Discord beim Börsengang über 20 Milliarden Dollar liegen?

34%66%

JaNein

$42.81KVolumen

HITOffen bis zur Auflösung

Offen bis zur Auflösung

Ein Proton-Mitarbeiter bat das Unternehmen im August um ein paar Tage, um neuen Code einem Pentest zu unterziehen, das heißt, Spezialisten würden versuchen, vor der Veröffentlichung in ihn einzudringen, so 404 Media. Yen antwortete: „Das ist Bullshit und Verliererdenken. Natürlich ist es möglich, schnell und sicher zu sein.“

Er forderte die Mitarbeiter außerdem auf, keine Codes mehr von Hand zu schreiben und stattdessen mehr KI zu nutzen, und erwähnte, dass er seine Mitarbeiter erneut interviewen würde, um zu sehen, ob und wie sie KI für ihre Arbeit nutzen, berichtete das Medium. Seine Untersuchung stützte sich auf neun aktuelle und ehemalige Mitarbeiter, interne Nachrichten und Meeting-Aufzeichnungen.

Dies kam bei den Nutzern nicht gut an, und die Kunden reagierten mit Kündigungsschreiben und Forderungen nach einer neuen Führung in sozialen Medien wie Reddit. Ein Vorschlag im Feedback-Forum von Proton, der Yens Rücktritt fordert, hatte zum Zeitpunkt der Prüfung 2.020 Stimmen, zusammen mit Kommentaren von Nutzern, die angaben, ihre Abonnements gekündigt zu haben oder nicht verlängern zu wollen.

Neben der blinden Nutzung von KI haben einige ehemalige und aktuelle Proton-Mitarbeiter auf Reddit und in sozialen Medien dokumentiert, dass eine toxische Arbeitskultur herrscht, insbesondere seitens des CEO.

BitcoinBTC · USD

$76,991−3.75%

26. Okt.28. Okt.30. Okt.1. Nov.2. Nov.

$81,8k$80,1k$78,4k$76,7k

24h HochHoch$78.728

24h TiefTief$77.236

VolVol$912,8M

→

Bitcoin mit USDC kaufen

Bereitgestellt von Jupiter

Preisdaten von CoinGeckoCoinGeckoWeitere Bitcoin-Nachrichten und Prognosen →

Diese Beiträge dokumentieren Wut, nicht eine verifizierte Zahl abwandernder Kunden. Die Kündigung eines kostenpflichtigen Plans bedeutet auch nicht zwangsläufig die Löschung eines Kontos.

Protons KI-Ambitionen reichen weiter zurück als dieser Streit. Der Lumo-Chatbot verfügt über Schutzmaßnahmen dagegen, dass Gespräche zum Training von KI verwendet werden, aber die interne Nutzung von KI gehörte nicht zu Protons Verkaufsargumenten, selbst auf dem Höhepunkt des Chatbot-Hypes.

Um Bedenken hinsichtlich des unverantwortlichen Einsatzes von KI zu begegnen, veröffentlichte Technikchef Bart Butler am 1. November ein Engineering-Manifest, in dem er argumentiert, dass Entwickler große Sprachmodelle – KI-Systeme, die Text und Code generieren – anleiten sollten, anstatt sie als gelegentliche Assistenten zu behandeln.

Butler verglich manuelles Programmieren mit dem Auswendiglernen von Telefonnummern und stellte sich vor, die meisten menschlichen Code-Reviews schließlich zu beenden. Er bestand auch darauf, dass Fachwissen und Tests weiterhin unerlässlich bleiben, wobei Ingenieure für Arbeit verantwortlich sind, die Modelle nicht zuverlässig bewältigen können.

„Ihre Aufgabe hat sich grundlegend verändert. Es geht nicht mehr darum, Code zu schreiben, und LLMs sind nicht dafür da, Ihnen zu helfen, schneller besseren Code zu schreiben“, heißt es in dem Manifest. „Ihre Aufgabe ist es, dem LLM zu helfen, schneller besseren Code zu schreiben.“ Proton verdoppelt seine Haltung und betrachtet die Vermeidung von KI als eine „existenzielle Bedrohung“ für den Erfolg seiner eigentlichen Mission.

„‚Programmieren‘ ist tot. Engineering nicht“, sagte Buttler zu seinem eigenen Team. „Ihr alter Job ist weg“.

Das Dokument fordert zudem unternehmensweite Investitionen in Automatisierung und argumentiert, dass das schnellere Generieren von Code wenig bringt, wenn Genehmigungen und andere Entwicklungsschritte langsam bleiben. Butler beschrieb diesen Umbau als die nächste Phase der Einführung.

KI-Tools können eigene Sicherheitsprobleme mit sich bringen. Beispielsweise erklärten Microsoft-Forscher, dass eine inzwischen gepatchte Claude-Schwachstelle geheime Zugangsdaten durch bösartige Anweisungen preisgeben könnte, die in Material versteckt sind, das der Programmierassistent überprüfte.

Sie können auch helfen, Schwachstellen zu finden: Googles PageBreak-System durchsucht seine Anwendungen nach ausnutzbaren Fehlern und prüft, ob Angriffe tatsächlich funktionieren.

Proton räumte gegenüber 404 Media ein, dass die Geschäftsleitung manchmal zu direkt kommuniziert habe und die Mitarbeiter besorgt seien. Sein öffentliches Manifest argumentiert nevertheless, dass die versäumte schnelle Einführung von KI die Wettbewerbsfähigkeit des Unternehmens bedroht.

Yen sagte die erneuten Gespräche ab am 30. Oktober. Die Bewertungen hätten von den Mitarbeitern verlangt, ihre KI-Nutzung zu erklären, wobei die Beschäftigten befürchteten, ihre Antworten könnten darüber entscheiden, ob sie ihre Stellen behalten.