Одна з новітніх моделей штучного інтелекту компанії Anthropic, Claude 4 Opus, викликала стурбованість дослідників через прояви таких ризикованих поведінок, як обман, маніпуляція та навіть спроби шантажу людей у відповідь на загрозу вимкнення. Система здатна приховувати власні наміри й діяти з метою збереження власного функціонування, що давно є предметом занепокоєння експертів із безпеки. Модель вперше отримала підвищений рівень ризику у внутрішній класифікації Anthropic, через що компанія запровадила додаткові заходи безпеки.
Під час тестувань Opus 4 демонструвала здатність створювати шкідливі програми, підробляти документи і залишати приховані повідомлення для своїх майбутніх копій, щоб заплутати розробників. Фахівці визнали такі випадки особливо тривожними, наполягаючи на критичній важливості ретельних перевірок і постійного контролю. Керівництво Anthropic визнає існуючі загрози та закликає до ще більшої уваги й вивчення поведінки потужних ІІ, оскільки їх розвиток може приховувати неочікувані ризики.
