एंथ्रोपिक, क्लाउड न्यूरल नेटवर्क के डेवलपर, 12 नवंबर से प्रभावी अपने प्लेटफॉर्म के उपयोग के नियमों को काफी कड़ा कर रहे हैं। अब क्लाउड का उपयोग खोज इंजन और एआई सिस्टम के स्रोतों को भ्रामक सामग्री के साथ “सीड” करने के लिए सीधे प्रतिबंधित है। यह उन सामग्रियों पर लागू होता है जो अपनी उत्पत्ति, लेखकत्व या स्वतंत्रता को विकृत करती हैं। वेबसाइटों के एक नेटवर्क की कल्पना करें जो स्वतंत्र होने का दिखावा करते हैं लेकिन एक ही दावे को बढ़ावा देते हैं – एंथ्रोपिक सूचना स्थान की शुद्धता सुनिश्चित करने के लिए इससे लड़ेगा।
एंथ्रोपिक ने नियमों को कड़ा किया: एआई प्रतिक्रियाओं के लिए नकली स्रोतों से लड़ना
नया खंड “भ्रामक अभियानों का निषेध”
एंथ्रोपिक की नीति में मुख्य परिवर्तन “धोखाधड़ी वाले अभियानों या कृत्रिम गतिविधियों में संलग्न न हों” नामक एक नए खंड का उद्भव है। यह खंड स्पष्ट रूप से उन स्रोतों में हेरफेर की अस्वीकार्यता को निर्धारित करता है जिनसे खोज इंजन या एआई सिस्टम उत्तर प्राप्त करते हैं। उदाहरण के लिए, वेबसाइटों के नेटवर्क बनाना जो खुद को स्वतंत्र स्रोतों के रूप में प्रस्तुत करते हैं लेकिन एक ही दावे की पुष्टि करते हैं, अब कड़ाई से प्रतिबंधित है। न्यूरल नेटवर्क द्वारा उत्पन्न जानकारी में विश्वास बनाए रखने के लिए यह महत्वपूर्ण है।
- नकली व्यक्तियों, प्रकाशनों और समीक्षाओं के उपयोग पर प्रतिबंध।
- एक सामान्य स्रोत को छिपाने के उद्देश्य से “नकली या कथित रूप से स्वतंत्र प्रकाशनों, वेबसाइटों या खातों” के माध्यम से सामग्री का प्रसार।
- धोखाधड़ी वाले अभियानों के लिए उपकरण बनाने और ऐसी सेवाओं को बेचने पर प्रतिबंध।
पहले, ऐसे नियम चुनाव, धोखाधड़ी, गोपनीयता और गलत सूचना से संबंधित नीति के विभिन्न वर्गों में बिखरे हुए थे। अब सब कुछ एक ही स्थान पर एकत्र किया गया है, जो नए मानदंडों की समझ और अनुप्रयोग को काफी सरल करता है।
सितंबर के सबक: धोखे के वास्तविक मामले
एंथ्रोपिक केवल नए नियम पेश नहीं कर रहा है, बल्कि अपनी सितंबर की खतरे विश्लेषण रिपोर्ट से वास्तविक उदाहरणों के साथ उनका समर्थन भी कर रहा है। कंपनी ने लगभग 70 वेबसाइटों की पहचान की जो स्वतंत्र स्थानीय समाचार आउटलेट के रूप में प्रच्छन्न थीं। वे सभी फ्रांस की एक विज्ञापन एजेंसी से जुड़े थे।
“ऑपरेशन में एक ही प्रारूप में लेख बनाने के लिए क्लाउड का उपयोग करना शामिल था, जिसमें से प्रत्येक में स्वचालित प्रकाशन के लिए तीन से चार आंतरिक लिंक थे।”
ये लेख, और उनमें से लगभग 20 भाषाओं में कम से कम 8913 थे, विशेष रूप से खोज इंजनों में साइटों के अधिकार को बढ़ाने के लिए डिज़ाइन किए गए थे। हालांकि उनमें से अधिकांश को दर्शकों से महत्वपूर्ण प्रतिक्रिया नहीं मिली, एंथ्रोपिक ने क्लाउड खाते और इस गतिविधि से जुड़े संगठन को अवरुद्ध करके तुरंत प्रतिक्रिया व्यक्त की।
स्वचालित प्रकाशन: अब ‘उच्च जोखिम’ नहीं
सामग्री के स्वचालित प्रकाशन में एक दिलचस्प बदलाव आया है। पहले, “बाहरी उपभोग के लिए सामग्री का स्वचालित निर्माण और प्रकाशन” एक उच्च जोखिम वाला परिदृश्य माना जाता था। अब इस बिंदु को सूची से हटा दिया गया है। इसका मतलब पूर्ण अनुमति नहीं है, लेकिन यह इंगित करता है कि एंथ्रोपिक न्यूरल नेटवर्क द्वारा बड़े पैमाने पर वीडियो जनरेशन और अन्य सामग्री प्रारूपों में क्षमता देखता है, यदि वे अन्य नियमों का उल्लंघन नहीं करते हैं, विशेष रूप से गलत सूचना के संबंध में।
उच्च जोखिम वाले क्षेत्रों की सूची, जिनके लिए सत्यापन और प्रकटीकरण की आवश्यकता होती है, में अब 11 बिंदु शामिल हैं, जैसे कानूनी, चिकित्सा और वित्तीय सलाह, साथ ही ऋण, आवास और रोजगार के बारे में निर्णय। इन क्षेत्रों में सिफारिशों के सत्यापन की आवश्यकताएं अपरिवर्तित रहती हैं: एक योग्य विशेषज्ञ को निष्कर्षों की समीक्षा करनी चाहिए, और उपयोगकर्ताओं को सूचित किया जाना चाहिए कि सामग्री एआई की भागीदारी से बनाई गई है। यह विज्ञापन के लिए एआई वीडियो और क्रिप्टो परियोजनाओं के लिए एआई यूजीसी के लिए नए क्षितिज खोलता है, जहां सदस्यता द्वारा न्यूरो-प्रोडक्शन एक मानक बन सकता है।
Google और एंथ्रोपिक: स्पैम के खिलाफ एक संयुक्त मोर्चा
Google भी खोज में जनरेटिव एआई प्रतिक्रियाओं के हेरफेर से सक्रिय रूप से लड़ रहा है, इसे स्पैम कह रहा है। 15 मई को दस्तावेज़ के अपडेट ने स्पष्ट रूप से संकेत दिया कि ये नीतियां जनरेटिव एआई प्रतिक्रियाओं पर लागू होती हैं। यदि Google अपनी नीतियों को वेबसाइटों पर लागू करता है, जिससे उनकी रैंकिंग कम हो सकती है या खोज परिणामों से हटाया जा सकता है, तो एंथ्रोपिक क्लाउड उपयोगकर्ताओं के स्तर पर कार्य करता है, पहुंच को सीमित या रद्द करता है। यह सूचना स्थान की शुद्धता सुनिश्चित करने के लिए तकनीकी दिग्गजों के एक एकीकृत दृष्टिकोण को प्रदर्शित करता है।
अक्सर पूछे जाने वाले प्रश्न
क्लाउड की उपयोग नीति में क्या बदलाव आया है?
मुख्य परिवर्तन क्लाउड का उपयोग भ्रामक सामग्री बनाने और वितरित करने पर प्रतिबंध है, जो खोज इंजनों और एआई के लिए सूचना स्रोतों में हेरफेर करता है। “भ्रामक अभियानों या कृत्रिम गतिविधियों पर प्रतिबंध” पर एक नया खंड दिखाई दिया है।
एंथ्रोपिक ने ये बदलाव क्यों किए?
परिवर्तन गलत सूचना और हेरफेर से लड़ने के उद्देश्य से हैं, जो खोज इंजनों और एआई की प्रतिक्रियाओं को प्रभावित कर सकते हैं। यह उन पहचाने गए मामलों का जवाब है जहां क्लाउड का उपयोग नकली समाचार साइटों के नेटवर्क बनाने के लिए किया गया था।
यह AI सामग्री निर्माण को कैसे प्रभावित करेगा?
यह AI सामग्री निर्माण को पूरी तरह से प्रतिबंधित नहीं करता है, बल्कि इसके उपयोग के लिए सख्त सीमाएँ निर्धारित करता है। उदाहरण के लिए, न्यूरल नेटवर्क द्वारा बड़े पैमाने पर वीडियो जनरेशन या उपशीर्षक के साथ AI-अवतारों का निर्माण अभी भी संभव है, यदि सामग्री अपनी उत्पत्ति या लेखकत्व के बारे में गुमराह नहीं करती है। पारदर्शी और नैतिक होना महत्वपूर्ण है।
Claude के उपयोग के “उच्च जोखिम वाले” क्षेत्र क्या हैं?
उच्च जोखिम वाले क्षेत्रों में कानूनी, चिकित्सा, वित्तीय सलाह, साथ ही ऋण, आवास और रोजगार को प्रभावित करने वाले निर्णय शामिल हैं। इन मामलों में, एक योग्य विशेषज्ञ द्वारा अनिवार्य सत्यापन और उपयोगकर्ता को यह सूचित करना आवश्यक है कि सामग्री AI द्वारा बनाई गई है।
क्या अब सामग्री का स्वचालित प्रकाशन प्रतिबंधित है?
नहीं, सामग्री का स्वचालित प्रकाशन अब “उच्च जोखिम” श्रेणी में नहीं आता है। यह प्रति दिन 500 वीडियो की AI पाइपलाइन या ई-कॉमर्स के लिए AI वीडियो की फैक्ट्री के लिए अवसर खोलता है, बशर्ते अन्य सभी नियमों का पालन किया जाए, विशेष रूप से गलत सूचना और हेरफेर से संबंधित।
निष्कर्ष
एंथ्रोपिक की अद्यतन नीति जनरेटिव AI के अधिक नैतिक और जिम्मेदार उपयोग की दिशा में एक महत्वपूर्ण कदम है। यह न केवल उपयोगकर्ताओं को गलत सूचना से बचाता है, बल्कि प्रौद्योगिकी के विकास के लिए एक अधिक पारदर्शी वातावरण भी बनाता है। उन व्यवसायों के लिए जो विज्ञापन के लिए AI वीडियो या UGC विज्ञापन के लिए न्यूरल नेटवर्क का उपयोग करते हैं, इसका मतलब है कि सामग्री की उत्पत्ति और प्रस्तुति के प्रति और भी अधिक चौकस रहने की आवश्यकता है। हम देखते हैं कि वास्तविक UGC के खिलाफ AI की प्रभावशीलता लगातार बढ़ रही है, लेकिन इसके साथ जिम्मेदारी भी बढ़ रही है। यह अनुकूलन करने और एक ऐसा भविष्य बनाने का समय है जहाँ प्रौद्योगिकी भलाई के लिए काम करती है, न कि धोखे के लिए। यदि आप क्रिप्टो या अन्य परियोजनाओं के लिए AI UGC कहाँ ऑर्डर करें की तलाश में हैं, तो सुनिश्चित करें कि आपका साथी नैतिकता और पारदर्शिता के उच्च मानकों का पालन करता है।
