Компанія Anthropic, розробник нейромережі Claude, значно посилює правила використання своєї платформи, що набувають чинності з 12 листопада. Тепер прямо заборонено використовувати Claude для «засівання» джерел пошукових систем та ШІ-систем оманливим контентом. Це стосується матеріалів, які спотворюють своє походження, авторство або незалежність. Уявіть собі мережу сайтів, які прикидаються незалежними, але просувають одні й ті самі твердження – саме з цим і боротиметься Anthropic, прагнучи забезпечити чистоту інформаційного простору.

Anthropic посилює правила: боротьба з фейковими джерелами для ШІ-відповідей

Новий розділ «Заборона на оманливі кампанії»

Ключова зміна в політиці Anthropic – поява нового розділу під назвою «Не беріть участь в оманливих кампаніях або штучній діяльності». Цей розділ чітко прописує неприпустимість маніпулювання джерелами, з яких пошукові системи або ШІ-системи черпають відповіді. Наприклад, створення мереж сайтів, що видають себе за незалежні джерела, але підтверджують одні й ті самі заяви, тепер суворо заборонено. Це критично для підтримки довіри до інформації, генерованої нейромережами.

• Заборона на використання підроблених персон, видань та відгуків.
• Розповсюдження контенту через «фальшиві або нібито незалежні видання, веб-сайти або акаунти» з метою приховати спільне джерело.
• Заборона на створення інструментів для оманливих кампаній та продаж таких послуг.

Раніше подібні правила були розкидані по різних розділах політики, що стосуються виборів, шахрайства, конфіденційності та дезінформації. Тепер все зібрано в одному місці, що значно спрощує розуміння та застосування нових норм.

Уроки вересня: реальні кейси обману

Anthropic не просто вводить нові правила, а й підкріплює їх реальними прикладами зі свого вересневого звіту з аналізу загроз. Компанія виявила близько 70 веб-сайтів, що маскуються під незалежні місцеві новинні видання. Всі вони були пов’язані з одним рекламним агентством із Франції.

«Операція полягала у використанні Claude для створення статей в єдиному форматі, кожна з яких містила три-чотири внутрішні посилання, для автоматичної публікації.»

Ці статті, а їх було не менше 8913 приблизно 20 мовами, були спеціально розроблені для підвищення авторитету сайтів у пошукових системах. Хоча більшість з них не отримали значного відгуку в аудиторії, Anthropic оперативно відреагувала, заблокувавши акаунт Claude та організацію, пов’язану з цією діяльністю.

автоматична публікація: більше не «високий ризик»

Цікава зміна торкнулася автоматичної публікації контенту. Раніше «автоматична генерація та публікація контенту для зовнішнього споживання» вважалася високоризиковим сценарієм. Тепер цей пункт виключено зі списку. Це не означає повну вседозволеність, але вказує на те, що Anthropic бачить потенціал у масовій генерації відео нейромережею та інших форматах контенту, якщо вони не порушують інші правила, особливо в частині дезінформації.

Список високоризикових областей, що вимагають перевірки та розкриття інформації, тепер включає 11 пунктів, таких як юридичні, медичні та фінансові консультації, а також рішення про кредити, житло та працевлаштування. Вимоги до перевірки рекомендацій у цих областях залишаються незмінними: кваліфікований фахівець повинен переглядати висновки, а користувачі повинні бути повідомлені про те, що контент створений за участю ШІ. Це відкриває нові горизонти для AI відео для реклами та AI UGC для криптопроектів, де нейро-продакшн за підпискою може стати стандартом.

Google та Anthropic: спільний фронт проти спаму

Google також активно бореться з маніпуляціями відповідями генеративного ШІ в пошуку, називаючи це спамом. Оновлення документації від 15 травня чітко вказало, що ці політики застосовні до відповідей генеративного ШІ. Якщо Google застосовує свої правила до веб-сайтів, що може призвести до зниження їхнього рейтингу або видалення з результатів пошуку, то Anthropic діє на рівні користувачів Claude, обмежуючи або відкликаючи доступ. Це демонструє єдиний підхід технологічних гігантів до забезпечення чистоти інформаційного простору.

Часто задавані питання

Що змінилося в політиці використання Claude?

Головна зміна – заборона на використання Claude для створення та розповсюдження оманливого контенту, який маніпулює джерелами інформації для пошукових систем та ШІ. З’явився новий розділ про «Заборону на оманливі кампанії або штучну діяльність».

Чому Anthropic запровадила ці зміни?

Зміни спрямовані на боротьбу з дезінформацією та маніпуляціями, які можуть впливати на відповіді пошукових систем та ШІ. Це відповідь на виявлені випадки, коли Claude використовувався для створення мереж фейкових новинних сайтів.

Як це вплине на створення AI контенту?

Це не забороняє створення AI контенту як такого, але встановлює суворі рамки для його використання. Наприклад, масова генерація відео нейромережею або створення AI-аватарів із субтитрами, як і раніше, можливі, якщо контент не вводить в оману щодо свого походження чи авторства. Важливо бути прозорим та етичним.

Що таке «високоризикові» області використання Claude?

До високоризикових областей належать юридичні, медичні, фінансові консультації, а також рішення, що впливають на кредити, житло та працевлаштування. У цих випадках потрібна обов’язкова перевірка кваліфікованим фахівцем та повідомлення користувача про те, що контент створений за допомогою ШІ.

Чи заборонена тепер автоматична публікація контенту?

Ні, автоматична публікація контенту більше не належить до категорії «високого ризику». Це відкриває можливості для AI конвеєра 500 роликів на добу або фабрики ШІ роликів для e-commerce, за умови дотримання всіх інших правил, особливо щодо дезінформації та маніпуляцій.

Висновок

Оновлена політика Anthropic – це важливий крок до більш етичного та відповідального використання генеративних ШІ. Це не тільки захист користувачів від дезінформації, а й створення більш прозорого середовища для розвитку технологій. Для бізнесу, який використовує AI відео для реклами або нейромережу для UGC реклами, це означає необхідність бути ще більш уважними до походження та подачі контенту. Ми бачимо, що ефективність AI проти реальної UGC продовжує зростати, але з нею зростає і відповідальність. Настав час адаптуватися та будувати майбутнє, де технології служать на благо, а не для обману. Якщо ви шукаєте, де замовити для крипти або інших проектів AI UGC, переконайтеся, що ваш партнер дотримується високих стандартів етики та прозорості.