Anthropic plant Wasserzeichen für Claude-Texte

Anthropic plant, von Claude erzeugte Inhalte künftig maschinenlesbar zu kennzeichnen. Damit will das Unternehmen Verpflichtungen aus dem EU AI Act Article 50(2) Code of Practice on Transparency of AI-Generated Content umsetzen. Künftige Claude-Modelle sollen generierte Texte mit einem unsichtbaren Wasserzeichen versehen. Bei unterstützten Dateien sind digital signierte Herkunftsmetadaten vorgesehen.

Wasserzeichen Symbolbild
Canva/BDZV

Claude-Modelle, die in der EU zukünftig starten, sollen die Kennzeichnung bereits bei ihrer Veröffentlichung unterstützen. Für zuvor veröffentlichte Modelle gilt eine Übergangsfrist. Anthropic arbeitet nach eigenen Angaben daran, auch diese Modelle mit der Technik auszustatten. Die Einführung soll in den kommenden Monaten erfolgen.

Das für Texte vorgesehene Verfahren basiert auf einer Variante des von Google DeepMind entwickelten SynthID-Text-Ansatzes. Dabei werden keine sichtbaren Hinweise oder versteckten Zeichen in den Text eingefügt. Stattdessen entsteht während der Textgenerierung ein statistisches Muster in der Wortauswahl, das mit einem entsprechenden Schlüssel erkannt werden kann. Anthropic plant zudem eine Schnittstelle, mit der sich solche Wasserzeichen künftig erkennen lassen.

Bei unterstützten Dateitypen wie .svg, .png oder .jpg will Anthropic signierte Herkunftsmetadaten nach dem offenen Standard der Coalition for Content Provenance and Authenticity (C2PA) verwenden. Anthropic weist zugleich auf Grenzen der Technik hin. Ein erkanntes Wasserzeichen könne lediglich darauf hindeuten, dass Claude an einem Text beteiligt war. Umgekehrt schließe ein fehlendes Wasserzeichen eine Bearbeitung oder Erzeugung durch Claude nicht aus.