एंथ्रोपिक अपने क्लॉड एआई मॉडल द्वारा जनरेट किए गए टेक्स्ट के लिए एक नई वॉटरमार्किंग प्रणाली पेश करने जा रहा है, जिसका लक्ष्य आगामी यूरोपीय संघ के नियमों के अनुपालन को सुनिश्चित करना है जो एआई-जनरेटेड सामग्री की पहचान को अनिवार्य बनाते हैं। यह प्रणाली टेक्स्ट जनरेशन प्रक्रिया में सूक्ष्म सांख्यिकी बदलाव करके कार्य करेगी, जो औसत पाठक के लिए अप्रकट रहेंगे लेकिन उपयुक्त तकनीक के साथ आसानी से पहचाने जा सकते हैं।
इस पहल ने इस विषय पर बहस छेड़ दी है कि क्या वॉटरमार्किंग एआई-जनरेटेड टेक्स्ट की गुणवत्ता को प्रभावित कर सकती है। आलोचकों का तर्क है कि मॉडल के शब्द चयन प्रक्रिया में बदलाव करने से इसकी सबसे सटीक या प्राकृतिक शब्दों को चुनने की क्षमता प्रभावित हो सकती है। हालांकि, कंप्यूटर विज्ञान के विशेषज्ञों का सुझाव है कि प्रभाव संभवतः न्यूनतम होगा, क्योंकि एआई मॉडल पहले से ही शब्द चयन में यादृच्छिकता को शामिल करते हैं।
विशेषज्ञ स्पष्ट करते हैं कि वॉटरमार्किंग मॉडल इस यादृच्छिकता को समाप्त नहीं करेगा; बल्कि, यह एआई-जनरेटेड टेक्स्ट की पहचान को सुविधाजनक बनाने के लिए मॉडल की यादृच्छिक विकल्पों की सांख्यिकीय भविष्यवाणी करेगा। यह दृष्टिकोण इंटरनेट पर एआई-जनरेटेड सामग्री की वृद्धि से संबंधित चिंताओं को भी संबोधित कर सकता है।
विशेषज्ञों से चेतावनियाँ हैं कि भविष्य के एआई मॉडल “मॉडल पतन” का शिकार हो सकते हैं यदि वे एआई-जनरेटेड सामग्री पर व्यापक रूप से प्रशिक्षित होते हैं, जिससे भविष्य की प्रणालियों की गुणवत्ता और विश्वसनीयता में संभावित रूप से गिरावट आ सकती है। जैसे-जैसे एआई-जनरेटेड सामग्री अधिक प्रचलित होती जा रही है, वॉटरमार्किंग मशीन-लिखित टेक्स्ट को भिन्न करने और भविष्य के एआई प्रशिक्षण डेटा की गुणवत्ता की रक्षा करने के लिए एक महत्वपूर्ण उपकरण के रूप में काम कर सकता है।