З 12 листопада Anthropic можуть заблокувати акаунт Claude навіть за підозру, що через нього роблять мережі сайтів під відповіді пошуку й AI. Оновлена політика використання Claude забороняє маніпулювати джерелами, з яких пошукові системи й AI беруть відповіді. Як приклад там названі мережі сайтів, які видають себе за незалежні джерела й підтверджують одні й ті самі твердження.
Пункт входить у новий розділ політики про оманливі кампанії та штучну активність. Розділ належить до загальних правил, які діють для всіх користувачів і всіх способів використання Claude. Він забороняє використовувати продукти Anthropic, щоб:
- створювати або вести фальшиві персони, акаунти, медіа чи організації або видавати себе за справжніх людей, організації чи медіа, щоб обманути людей щодо походження контенту, того, наскільки поширена певна думка, або того, чи спілкуються вони з людиною. Приклади в політиці: фейкові акаунти, імітація масової підтримки, яку називають астротурфінгом, фейкові відгуки, боти, які видають себе за людей.
- неправдиво подавати або приховувати, хто спонсорує контент, яким хочуть вплинути на громадську думку, посадовців чи інших людей, що ухвалюють рішення.
- поширювати контент через мережі фальшивих чи нібито незалежних медіа, сайтів або акаунтів, щоб приховати, що в нього одне джерело.
- маніпулювати джерелами, з яких пошукові системи й AI беруть відповіді, наповнюючи їх контентом, який неправдиво подає своє походження, авторство чи незалежність.
- створювати, покращувати чи підтримувати інструменти й інфраструктуру для таких кампаній, зокрема для астротурфінгу, масового створення фейкових акаунтів, скоординованої неавтентичної поведінки і масової видачі себе за інших людей.
- рекламувати, продавати чи шукати фінансування під будь-що з цього переліку як продукт або послугу.
За дотриманням політики стежить команда безпеки Anthropic, яка займається виявленням і моніторингом порушень. Якщо Anthropic підозрюють порушення, вони можуть попередити користувача, обмежити швидкість чи обсяг запитів, тимчасово заблокувати або повністю закрити доступ до своїх продуктів. Обходити бан через інший акаунт, новий, наявний чи чужий, і координувати роботу кількох акаунтів, щоб уникнути виявлення, політика теж забороняє. Окремі відповіді Claude може блокувати в реальному часі, але сам такий блок порушенням політики не вважається.
У дописі про оновлення політики від 8 жовтня Anthropic пишуть, що таку діяльність їхня політика забороняла і раніше, але правила були розкидані по розділах про вибори, шахрайство, приватність і дезінформацію. Тепер їх звели в один розділ, і він стосується будь-якої оманливої діяльності, і політичної, і комерційної. Приводом Anthropic називають випадки, коли державні медіа, урядові відділи пропаганди і комерційні фірми використовували Claude для мереж фейкових акаунтів і вигаданих новинних сайтів.
У попередній версії політики, що діяла з 15 вересня 2025 року, були заборони на фейкові персони, фейкові відгуки і штучні політичні рухи. Пункту про мережі сайтів і про джерела, з яких відповідають пошук і AI, у ній не було.
Hanns Kronenberg, керівник SEO в Chefkoch, у своєму дописі про новий пункт політики пише, що десять сайтів можуть поширювати одну й ту саму правильну тезу, але якщо вона походить з одного джерела, це не десять незалежних підтверджень. Політика визначає лише те, для чого можна використовувати Claude. Чи AI-системи взагалі розрізняють, що десять сайтів повторюють одне джерело, з неї не видно, і Hanns хоче це перевірити окремим тестом.
Мені здається, що це більше пов'язано з виборами і політикою, у Штатах скоро вибори. Але всім, хто займається фермами під видимість в AI, наративами, консенсусами, робить ферми персон для соцмереж і управляє всім цим через Claude, варто якомога швидше продумати план Б.
Раніше Anthropic почали додавати невидиму вотермарку до текстів Claude. Google на початку жовтня назвали обманом вигадані профілі авторів.