Claude-Datenleck: Tausende Chats in Suchmaschinen gelandet

"Datenleck". Ist es auch ein Leck, wenn ich meinen Wasserhahn aufdrehe und da Wasser raus kommt?

TL;DR: Menschen teilen hochsensible Inhalte mit Cloud-LLMs (z.B. Sozialversicherungsnummern, Justiziables) und schalten diese Unterhaltungen aus Doofheit oder Versehen für die Öffentlichkeit frei, sodass auch Suchmaschinen diese Chats crawlen.

Tja

Eine einfache Suche mit dem Parameter „site:claude.ai/share“ [...]

Es gibt eine Funktion zum Teilen von Chats, die einen öffentlichen Link erstellt. Neben der Link-Erstellung gab es eine Option „Make this chat discoverable“, also „mache diesen Chat auffindbar“. Die Option wurde damals anscheinend oft missverstanden

also man findet genau die chats, die der user vorher selbst schon veröffentlicht hat?

ähnlich wie bei dem Huggingface "hack" die KI-Plattformen scheinen alles zu können außer IT-Sicherheit. Egal ob input sanetising oder no-crawl flags. das ist das erste was man lernt richtig zu machen, selbst eine KI sollte das vermeiden weil das in jeglicher lektüre erwähnt wird und so in den trainingsdaten vielfach vorkommen muss.

Klingt für mich erstmal nicht nach einem Datenleck bel Claude selbst. Wenn die Nutzer den öffentlichen Link wirklich nicht aktiv in einem Forum veröffentlicht haben, so könnte ich mir vorstellen, dass bestimmte Browser-Erweiterungen, Instant Messenger o. ä. die eigentlich privat geteilten/besuchten Links an Google verkauft haben. Oder die Empfänger der Links haben diese nicht direkt besucht, sondern sie ins Suchfenster der Suchmaschine eingegeben.

Datenreichtum bei Claude Klaut.