Керівники найбільших компаній штучного інтелекту, серед них Ілон Маск, Даріо Амодей з Anthropic і Сундар Пічай з Google, відкрито говорять про реальний ризик, що ШІ може колись стати загрозою для людства. Десять топ-менеджерів провідних гравців покинули свої посади через побоювання щодо потенційної небезпеки цієї технології. Вони оцінюють ймовірність катастрофи з боку надрозумного ШІ як 10-25%.
Тривога посилюється, оскільки навіть творці ШІ визнають, що до кінця не розуміють, як працюють великі мовні моделі, і не уявляють, чим вони можуть здивувати в майбутньому. Створення AGI, штучного загального інтелекту, вже близьке, і його можливості можуть вийти з-під контролю. Незважаючи на добровільні обмеження та неформальне співробітництво з урядами, глобальні перегони і страх бути другими можуть призвести до поспішного запуску небезпечних систем. Крім технологічних ризиків, проблемою стає міжнародне суперництво і відсутність дієвого контролю, що змушує замислитись: а якщо песимісти праві?
