OpenAI aus den USA bringt ChatGPT Work heraus – kann sich automatisch bei Konten anmelden

de.wedoany.com-Bericht: OpenAI hat am Dienstag die neue Funktion ChatGPT Work vorgestellt, die es KI-Agenten ermöglicht, sich unter bestimmten Bedingungen automatisch bei Online-Konten der Nutzer anzumelden und so Aufgaben auszuführen, die den Zugriff auf passwortgeschützte Websites erfordern, ohne dass der Nutzer eingreifen muss. Diese Funktion richtet sich an ChatGPT-Pro- und Plus-Nutzer und speichert Anmeldesitzungen als Cookies im integrierten Browser von ChatGPT, die für spätere Aufgaben verwendet werden können.

Wenn ChatGPT zum ersten Mal auf das Konto eines Nutzers zugreifen muss, wird das System zur Eingabe von Benutzername, Passwort oder Verifizierungscode auffordern; der Nutzer kann diese manuell eingeben oder über einen Drittanbieter-Passwortmanager automatisch ausfüllen lassen. Bei späteren Anmeldungen auf derselben Website verwendet die KI direkt die Cookies aus der vorherigen Sitzung, um sich anzumelden, ohne erneut eine Aufforderung auszulösen. Zu den von OpenAI vorgeschlagenen Anwendungsfällen gehören die Ermittlung und Anmeldung von Versorgungsplänen für eine neue Wohnung, die Terminvereinbarung bei der DMV oder das Ausfüllen von Passverlängerungsformularen, die Abfrage von Kosten für Röntgenaufnahmen und Blutuntersuchungen über ein Versicherungsportal sowie die Suche nach Profilen von Personen, die der Stellenbeschreibung entsprechen und derzeit auf Jobsuche sind.

In den Tests von ZDNet versuchte der Tester zunächst, sich über die ChatGPT-Website beim Amazon-Konto anzumelden, aber Amazon blockierte den Versuch aus dem Cloud-Browser von ChatGPT und zeigte einen Fehler an. Anschließend wurde die ChatGPT-Windows-App (mit integriertem Cloud-Browser) verwendet, um die Anmeldung beim Amazon-Konto und die Auflistung öffentlicher Wunschlistenartikel mit Preisen anzufordern. Beim ersten Versuch forderte die KI zur Eingabe von Anmeldedaten auf, bei späteren Versuchen erfolgte die Anmeldung automatisch. Im Test funktionierte nur die ChatGPT-Windows-App. Die ersten beiden Anfragen der Windows-App waren erfolgreich, aber der dritte Zugriff auf Amazon wurde blockiert; die KI antwortete, dass Amazon den Zugriff möglicherweise aufgrund kürzlicher oder wiederholter Aktivitäten verweigert. Nutzer können gespeicherte Anmelde-Cookies unter „Einstellungen“ – „Cloud-Browser“ – „Browserdaten“ – „Cookies“ einsehen und löschen. Der Tester ließ ChatGPT Work sich beim eBay-Konto anmelden und beobachtete Artikel auflisten. Nachdem die eBay-Cookies im Cloud-Browser gespeichert waren, konnten spätere Versuche ohne Eingabe von Anmeldedaten angemeldet werden; nach dem Löschen der Cookies und einem erneuten Versuch wurden Benutzername und Passwort erneut angefordert.

In Bezug auf Datenschutzrisiken erklärte OpenAI, dass ChatGPT die Benutzernamen oder Passwörter der Nutzer nicht sehen kann, die Anmeldedaten niemals vom KI-Modell eingesehen oder für das Training verwendet werden, die Nutzer kontrollieren können, auf welche Websites ChatGPT Work zugreifen darf, und die KI vor wichtigen Aktionen wie Buchungen oder Zahlungen stets eine Bestätigung verlangt. Morey Haber, Chef-Sicherheitsberater des Identitätssicherheitsanbieters BeyondTrust, ist der Ansicht, dass dies genauer als Identitäts-, Sicherheits- und Autorisierungsrisiko zu bezeichnen ist. Er weist darauf hin, dass der Schutz von Anmeldedaten nicht unbedingt Identitätsdiebstahl oder -übernahme verhindert: Sobald die Authentifizierung erfolgreich ist, arbeitet der KI-Agent in einer authentifizierten Sitzung und besitzt alle Berechtigungen und Autorisierungen des Nutzers. Bedrohungsakteure benötigen möglicherweise kein Passwort mehr, da der Angriff auf die Sitzung selbst das eigentliche Ziel ist. Haber erwähnte auch KI-Angriffsvektoren wie Prompt Injection, bei denen Angreifer KI-Sitzungen kapern können, um Daten zu erfassen oder unerwünschte Aktionen auszuführen; Cyberkriminelle haben nachweislich Sitzungs-Cookies und Tokens stehlen können. Er hält dies für ein häufiges Problem bei der Verbindung mit denselben Anmeldedaten, das in den Bereichen Privileged Access Management und Non-Human Secrets Management seit Jahrzehnten zu lösen versucht wird. Haber betont, dass das größere Problem das Risiko der delegierten Identitätssicherheit ist – das Passwort ist nur der Schlüssel zur Authentifizierung; sobald die Tür geöffnet ist, muss die Cybersicherheit kontrollieren, was der KI-Agent im Inneren tun darf, insbesondere wenn Best Practices ignoriert werden.

Shane Barney, Chief Information Security Officer des Cybersicherheitssoftware-Anbieters Keeper Security, empfiehlt Nutzern, die diese Funktion ausprobieren möchten, mit Websites mit geringerem Risiko zu beginnen, Routineaufgaben durchzuführen und alles zu vermeiden, was sensible Informationen (wie Finanzen oder Gesundheitswesen) betrifft, bis OpenAI weitere Informationen darüber bereitstellt, wie der dauerhafte Zugriff geschützt und wie er überprüft oder widerrufen werden kann. Er empfiehlt den Nutzern außerdem, regelmäßig ihre Kontoeinstellungen zu überprüfen, um festzustellen, ob es Sitzungen oder Verbindungszugriffe gibt, die sie nicht mehr erkennen, und nicht davon auszugehen, dass der Zugriff nach Abschluss der Aufgabe automatisch endet.