Компанія Anthropic попереджає, що вже протягом наступного року в корпоративних мережах можуть з’явитися повноцінні віртуальні працівники, керовані штучним інтелектом. Такі “AI-співробітники” матимуть власну памʼять, ролі в організації, облікові записи та паролі, і діятимуть з високим рівнем автономії — значно більшим, ніж мають теперішні автоматизовані агенти. Це ставить серйозні виклики в сфері кібербезпеки.
Зокрема, виникає питання: хто відповідатиме за дії такого віртуального працівника, якщо той спричинить збій або атаку під час виконання завдання? Anthropic зосереджується на двох напрямах захисту: тестуванні своїх моделей Claude на стійкість до атак і запобіганні їхньому зловживанню. У відповідь на нові виклики, компанії вже почали створювати інструменти для контролю та моніторингу «не-людських» ідентичностей.
У найближчі роки тема безпеки віртуальних працівників може стати однією з ключових векторах інвестицій у галузі штучного інтелекту.
