Критика вітається, але образи – ні: Anthropic запровадила заборону на "агресивне" спілкування з ШІ Claude.
Катерина Левицька - журналістка видання "Межа". З 2015 року працює у сфері медіа, спеціалізуючись на темах програмного забезпечення, IT-індустрії та кінематографа.
Компанія Anthropic вперше за більше ніж рік внесла зміни до правил використання Claude, щоб врахувати нові випадки зловживань, такі як втручання в виборчий процес, розробка зброї, а також застосування штучного інтелекту в галузях охорони здоров'я та фінансів. Проте найбільш вражаюча зміна для звичайних користувачів полягає у забороні тривалого і безпідставного агресивного або жорстокого поводження з чатботом.
Як пише The Verge, торік у серпні Anthropic оголосила, що дозволить Claude завершувати розмови із користувачами, які демонструють шкідливу або образливу поведінку в межах дослідження "добробуту моделей". В оновленій політиці зазначається, що механізм діятиме і надалі, але не уточнюється, чи запровадять додаткові заходи, на кшталт блокування порушників.
Компанія підкреслила, що ці норми будуть використовуватись лише в крайніх ситуаціях — зокрема, коли мова йде про постійну жорстокість щодо моделей без зрозумілого виправдання. Критичні зауваження, незначне знервування чи суперечки не підпадають під цю категорію порушень.
На додаток до ініціатив, які сприяють добробуту штучного інтелекту, компанія Anthropic інтегрувала кілька окремих концепцій у новий регламент, що обмежує оманливі комерційні та політичні кампанії. Зокрема, забороняється поширення неправдивих відомостей про кандидатів на виборах або процедуру голосування, а також видавання себе за інших кандидатів чи представників виборчих органів. Крім того, забороняється ускладнювати участь громадян у виборах.
Політика компанії Anthropic вже забороняла застосування Claude для розробки зброї, проте тепер ці обмеження поширено на створення відповідного програмного забезпечення та компонентів, а також на дії, пов'язані з озброєнням дронів та інших автономних систем.
Ще один новий аспект - заборона на спостереження за людьми, незалежно від того, чи це здійснюється в реальному часі, чи через аналіз вже зібраних інформаційних даних.
"Claude не можна використовувати для ухвалення рішень або надання рекомендацій щодо того, кого слід розслідувати, заарештовувати чи обвинувачувати в межах правоохоронного або кримінального процесу", - зазначили в Anthropic. "Ми також забороняємо використовувати Claude для створення або вдосконалення інструментів стеження".
У той же час у компанії зазначили, що умови можуть варіюватися для "угод із певними державними замовниками".
