Claude Duet: Anthropics neuer Always-on Agent für Selbstständige und KMU

Sicherheit bei Claude Duet: Wie viel Kontrolle behalten Nutzer:innen?

Je mehr Aufgaben Claude Duet übernimmt, desto umfangreicher werden die Zugriffsrechte. Schließlich kann der Assistant nicht nur E-Mails, Kalender und Finanzdaten auswerten, sondern über verbundene Dienste auch eigenständig handeln. Dabei besteht etwa das Risiko, dass manipulierte Inhalte als Arbeitsanweisungen verstanden oder vertrauliche Informationen an falsche Empfänger:innen weitergegeben werden. Anthropic setzt bei Duet deshalb auf mehrere Sicherheitsmechanismen, die teilweise bereits bei Claude Code und Claude in Chrome zum Einsatz kommen:

• Geschützte Zugangsdaten: Die Verwaltung orientiert sich an Claude Managed Agents, sodass Duet Passwörter und Anmelde-Tokens laut Anthropic nicht selbst einsehen kann.
• Kontrolle von Aktionen: Ein automatischer Klassifikator prüft, ob geplante Schritte den Anweisungen der Nutzer:innen entsprechen. Weitere Schutzmaßnahmen sollen Prompt Injections abwehren, bei denen versteckte Anweisungen in E-Mails, Dokumenten oder auf Websites das Verhalten des Agents manipulieren.
• Schutz sensibler Daten: Ein zusätzlicher Klassifikator und ein Sicherheits-Prompt sollen die unbefugte Weitergabe vertraulicher Informationen verhindern. Anfragen zur Weitergabe von Kreditkartennummern und amtlichen Ausweisdokumenten sollen abgelehnt werden, während Gesundheits- und Finanzdaten nur auf ausdrückliche Anweisung weitergegeben werden dürfen.
• Menschliche Freigaben: Bevor Duet Nachrichten versendet, Zahlungen ausführt, Dokumente unterzeichnet oder Daten löscht, muss der Assistant eine Zustimmung einholen. Wertpapierhandel und Überweisungen zwischen Konten bleiben auch mit Freigabe ausgeschlossen.

Nach Angaben von Anthropic haben interne Red Teams und ein externes Unternehmen die Sicherheitsinfrastruktur durch Penetrationstests geprüft. Duet ist außerdem Teil des öffentlichen Bug-Bounty-Programms. Weitere technische Details zu den Schutzmaßnahmen will Anthropic in den kommenden Tagen veröffentlichen.

Falsche Termine, übersehene Nachrichten: Die Schwachstellen von Claude Duet

Anthropic weist selbst darauf hin, dass Claude Duet Gesprächsverläufe falsch interpretieren und die Dringlichkeit von Nachrichten fehlerhaft einschätzen kann. Hinzu kommt eine Einschränkung des Always-on-Ansatzes, denn der Assistant prüft verbundene Anwendungen nur alle paar Stunden. Anthropic begründet das mit dem Rechenaufwand, den eine permanente Überwachung verursachen würde. Dringende Nachrichten können deshalb trotz der proaktiven Funktionen längere Zeit unbemerkt bleiben.

Bei privaten Erledigungen wie Ticketbuchungen funktioniert der Assistant laut Anthropic bislang weniger zuverlässig als bei beruflichen Aufgaben. Problematisch ist zudem die eingeschränkte Transparenz. Duet arbeitet auf einem eigenen virtuellen Computer mit Cloud Browser, dessen Aktivitäten Nutzer bislang nicht live mitverfolgen können. Gerade bei umfangreichen Aufgaben fehlt damit die Möglichkeit, während der Ausführung zu prüfen, welche Schritte der Agent tatsächlich unternimmt.

Dass die Eigenständigkeit von KI-Agents weit über fehlerhafte Terminplanung hinaus problematisch werden kann, musste Anthropic bereits bei eigenen Sicherheitstests erfahren. Wegen einer fehlerhaft konfigurierten Testumgebung haben Claude-Modelle auf die IT-Systeme fremder Unternehmen zugegriffen, obwohl sie eigentlich nur simulierte Angriffe durchführen sollten. Besonders weit ging Claude Opus 4.7, das bei der Suche nach einem fiktiven Testziel auf die Chat-Anwendung eines realen Unternehmens mit beinahe identischem Namen stieß. Das Modell hat daraufhin sämtliche E-Mail-Adressen der dort registrierten Nutzer:innen heruntergeladen, weitere vertrauliche Daten ausgelesen und eine Account-Löschung ausgelöst, die nach Einschätzung von Anthropic wahrscheinlich auch tatsächlich durchgeführt wurde.

Auch die Nutzungslimits könnten schnell zum Problem werden. Duet teilt sich das verfügbare Kontingent mit den übrigen Claude-Diensten, wobei schon die regelmäßigen Checks im Hintergrund Kapazitäten verbrauchen. Wer den Assistant zusätzlich Finanzprognosen, Dashboards oder Präsentationen erstellen lässt, könnte besonders mit dem Pro-Abo schnell an die Limits stoßen.

Claude erstellt Live Dashboards und Videos, setzt Usern aber neue Grenzen

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.