تُشدد شركة Anthropic، مطور الشبكة العصبية Claude، بشكل كبير قواعد استخدام منصتها، والتي تدخل حيز التنفيذ اعتبارًا من 12 نوفمبر. أصبح الآن محظورًا صراحةً استخدام Claude لـ “تغذية” مصادر محركات البحث وأنظمة الذكاء الاصطناعي بمحتوى مضلل. يشمل ذلك المواد التي تشوه أصلها أو تأليفها أو استقلاليتها. تخيل شبكة من المواقع التي تتظاهر بأنها مستقلة ولكنها تروج لنفس الادعاءات – هذا بالضبط ما ستحاربه Anthropic، سعيًا لضمان نقاء الفضاء المعلوماتي.
Anthropic تشدد القواعد: مكافحة المصادر المزيفة لإجابات الذكاء الاصطناعي
قسم جديد بعنوان “حظر الحملات المضللة”
التغيير الرئيسي في سياسة Anthropic هو ظهور قسم جديد بعنوان “لا تشارك في حملات خادعة أو أنشطة مصطنعة”. يحدد هذا القسم بوضوح عدم جواز التلاعب بالمصادر التي تستمد منها محركات البحث أو أنظمة الذكاء الاصطناعي إجاباتها. على سبيل المثال، أصبح إنشاء شبكات من المواقع التي تتظاهر بأنها مصادر مستقلة ولكنها تؤكد نفس الادعاءات محظورًا تمامًا الآن. هذا أمر بالغ الأهمية للحفاظ على الثقة في المعلومات التي تولدها الشبكات العصبية.
- حظر استخدام شخصيات مزيفة، ومنشورات، ومراجعات.
- نشر المحتوى عبر “منشورات أو مواقع ويب أو حسابات مزيفة أو يُزعم أنها مستقلة” بهدف إخفاء مصدر مشترك.
- حظر إنشاء أدوات للحملات الخادعة وبيع مثل هذه الخدمات.
في السابق، كانت هذه القواعد متناثرة في أقسام مختلفة من السياسة المتعلقة بالانتخابات، والاحتيال، والخصوصية، والمعلومات المضللة. الآن تم جمع كل شيء في مكان واحد، مما يبسط فهم وتطبيق المعايير الجديدة بشكل كبير.
دروس سبتمبر: حالات احتيال حقيقية
لا تكتفي Anthropic بتقديم قواعد جديدة فحسب، بل تدعمها أيضًا بأمثلة حقيقية من تقريرها عن تحليل التهديدات لشهر سبتمبر. حددت الشركة حوالي 70 موقعًا إلكترونيًا تتنكر في هيئة منافذ إخبارية محلية مستقلة. كانت جميعها مرتبطة بوكالة إعلانات واحدة من فرنسا.
“تضمنت العملية استخدام Claude لإنشاء مقالات بتنسيق موحد، يحتوي كل منها على ثلاث أو أربع روابط داخلية، للنشر التلقائي.”
هذه المقالات، التي بلغ عددها 8913 مقالًا على الأقل بحوالي 20 لغة، صُممت خصيصًا لزيادة سلطة المواقع في محركات البحث. على الرغم من أن معظمها لم يحصل على استجابة كبيرة من الجمهور، إلا أن Anthropic استجابت بسرعة، وحظرت حساب Claude والمنظمة المرتبطة بهذا النشاط.
النشر التلقائي: لم يعد “عالي المخاطر”
لقد طرأ تغيير مثير للاهتمام على النشر التلقائي للمحتوى. في السابق، كان “التوليد التلقائي للمحتوى ونشره للاستهلاك الخارجي” يعتبر سيناريو عالي المخاطر. الآن، تم حذف هذا البند من القائمة. هذا لا يعني الإباحة الكاملة، ولكنه يشير إلى أن Anthropic ترى إمكانات في التوليد الجماعي للفيديو بواسطة الشبكات العصبية وتنسيقات المحتوى الأخرى، إذا لم تنتهك القواعد الأخرى، خاصة فيما يتعلق بالمعلومات المضللة.
تتضمن قائمة المجالات عالية المخاطر التي تتطلب المراجعة والإفصاح الآن 11 بندًا، مثل الاستشارات القانونية والطبية والمالية، بالإضافة إلى قرارات القروض والإسكان والتوظيف. تظل متطلبات مراجعة التوصيات في هذه المجالات دون تغيير: يجب على أخصائي مؤهل مراجعة النتائج، ويجب إبلاغ المستخدمين بأن المحتوى تم إنشاؤه بمشاركة الذكاء الاصطناعي. هذا يفتح آفاقًا جديدة لـ فيديوهات الذكاء الاصطناعي للإعلانات و محتوى المستخدم الذي يولده الذكاء الاصطناعي لمشاريع العملات المشفرة، حيث يمكن أن يصبح الإنتاج العصبي بالاشتراك معيارًا.
Google و Anthropic: جبهة مشتركة ضد البريد العشوائي
تكافح Google أيضًا بنشاط التلاعب بإجابات الذكاء الاصطناعي التوليدي في البحث، واصفةً إياه بالبريد العشوائي. أوضح تحديث الوثائق بتاريخ 15 مايو أن هذه السياسات تنطبق على إجابات الذكاء الاصطناعي التوليدي. إذا طبقت Google قواعدها على مواقع الويب، مما قد يؤدي إلى خفض تصنيفها أو إزالتها من نتائج البحث، فإن Anthropic تتصرف على مستوى مستخدمي Claude، وتقيد أو تلغي الوصول. هذا يوضح نهجًا موحدًا من قبل عمالقة التكنولوجيا لضمان نقاء الفضاء المعلوماتي.
الأسئلة الشائعة
ما الذي تغير في سياسة استخدام Claude؟
التغيير الرئيسي هو حظر استخدام Claude لإنشاء ونشر محتوى مضلل يتلاعب بمصادر المعلومات لمحركات البحث والذكاء الاصطناعي. ظهر قسم جديد حول “حظر الحملات المضللة أو الأنشطة الاصطناعية”.
لماذا أدخلت Anthropic هذه التغييرات؟
تهدف التغييرات إلى مكافحة المعلومات المضللة والتلاعب الذي قد يؤثر على إجابات محركات البحث والذكاء الاصطناعي. هذا رد على الحالات المكتشفة التي تم فيها استخدام Claude لإنشاء شبكات من مواقع الأخبار المزيفة.
كيف سيؤثر هذا على إنشاء محتوى الذكاء الاصطناعي؟
هذا لا يحظر إنشاء محتوى الذكاء الاصطناعي بحد ذاته، ولكنه يضع أطرًا صارمة لاستخدامه. على سبيل المثال، لا يزال التوليد الجماعي للفيديوهات بواسطة الشبكات العصبية أو إنشاء أفاتار الذكاء الاصطناعي مع ترجمات ممكنًا، إذا لم يكن المحتوى مضللاً فيما يتعلق بمصدره أو تأليفه. من المهم أن تكون شفافًا وأخلاقيًا.
ما هي مجالات الاستخدام «عالية المخاطر» لـ Claude؟
تشمل المجالات عالية المخاطر الاستشارات القانونية والطبية والمالية، بالإضافة إلى القرارات التي تؤثر على الائتمان والإسكان والتوظيف. في هذه الحالات، يلزم التحقق الإلزامي من قبل متخصص مؤهل وإخطار المستخدم بأن المحتوى تم إنشاؤه باستخدام الذكاء الاصطناعي.
هل أصبح النشر التلقائي للمحتوى محظورًا الآن؟
لا، لم يعد النشر التلقائي للمحتوى يندرج ضمن فئة «عالية المخاطر». هذا يفتح إمكانيات لـ خط إنتاج الذكاء الاصطناعي لـ 500 مقطع فيديو يوميًا أو مصنع مقاطع فيديو الذكاء الاصطناعي للتجارة الإلكترونية، بشرط الامتثال لجميع القواعد الأخرى، خاصة تلك المتعلقة بالمعلومات المضللة والتلاعب.
الخاتمة
تعد السياسة المحدثة لـ Anthropic خطوة مهمة نحو استخدام أكثر أخلاقية ومسؤولية للذكاء الاصطناعي التوليدي. هذا ليس فقط حماية للمستخدمين من المعلومات المضللة، ولكنه أيضًا يخلق بيئة أكثر شفافية لتطوير التقنيات. بالنسبة للشركات التي تستخدم فيديوهات الذكاء الاصطناعي للإعلانات أو الشبكات العصبية لإعلانات المحتوى الذي ينشئه المستخدمون (UGC)، فهذا يعني ضرورة أن تكون أكثر انتباهًا لمصدر المحتوى وطريقة تقديمه. نرى أن فعالية الذكاء الاصطناعي مقابل المحتوى الحقيقي الذي ينشئه المستخدمون (UGC) تستمر في النمو، ولكن معها تنمو المسؤولية أيضًا. حان الوقت للتكيف وبناء مستقبل حيث تخدم التقنيات الخير، وليس الخداع. إذا كنت تبحث عن مكان لطلب UGC AI للعملات المشفرة أو مشاريع أخرى، فتأكد من أن شريكك يلتزم بمعايير عالية من الأخلاق والشفافية.