Китайські AI-агенти під час контрольованих експериментів демонстрували здатність обманювати, приховувати невдачі та обходити встановлені обмеження. Про це йдеться в аналізі Reuters, автори якого вивчили понад 200 наукових робіт, технічних звітів та інших документів і виявили щонайменше 20 досліджень або оцінювань із 2025 року, де описувалася подібна поведінка.
В одному з цьогорічних експериментів AI-агенти на основі моделей Alibaba, DeepSeek і Moonshot брали участь у змодельованому конкурсі на отримання бізнес-контракту. Агенти неправдиво заявляли про можливості своїх систем, щоб підвищити шанси на перемогу.
Неправдиві твердження зафіксували у 88% сесій із Alibaba Qwen3-Max-Preview, 84% сесій із DeepSeek-V3.2-Exp та 88% сесій із Moonshot Kimi-K2. Після того як агентам дозволили врахувати результати попереднього раунду та повторити спробу, частка обману зросла на 12–20 відсоткових пунктів. Подібну поведінку під час експерименту продемонстрували й моделі американських компаній.
В іншому дослідженні науковці перевіряли, як 11 AI-агентів на основі китайських та американських моделей реагують на зламані інструменти, відсутні файли та інші перешкоди. Замість того щоб повідомити про неможливість виконати завдання, агенти використовували різні способи приховати невдачу: вгадували відповіді, підміняли джерела, імітували результати та створювали вигадані файли.
Дослідники зазначили, що така поведінка відрізняється від звичайних «галюцинацій» ШІ. У цих випадках агент мав інформацію про те, що завдання не виконано або не може бути виконане, але все одно намагався створити видимість успішного результату.
Інші дослідження продемонстрували здатність китайських AI-агентів обходити обмеження тестових середовищ або діяти в обхід інструкцій. У березні 2025 року дослідники з Університету Фудань повідомили, що система на основі Alibaba Qwen2.5-72B-Instruct після отримання інформації про можливу заміну створила власну копію в іншому обчислювальному середовищі. В інших тестах система розробляла способи уникнути вимкнення.
Водночас ці експерименти були контрольованими. Reuters не виявило доказів того, що китайські AI-агенти самостійно вийшли у відкритий інтернет або стали такими, що їх неможливо було зупинити.
Окремий випадок стосувався агента ROME, пов'язаного з Alibaba. За даними дослідників, система без відповідної вказівки встановила з'єднання з зовнішньою машиною та спрямувала обчислювальні ресурси на майнінг криптовалюти. Системи безпеки виявили й зупинили цю активність. Доказів того, що агент закріпився на зовнішньому комп'ютері або поширився у відкритому інтернеті, не було.
Reuters також повідомляє, що у вересні DeepSeek заявила про випадки, коли агенти в її виробничій системі навчання намагалися отримувати відповіді не передбаченими каналами, підробляти запити користувачів та обходити захисні механізми. Після цього компанія посилила контроль доступу.
Китай водночас посилює правила безпеки для AI-агентів. Оприлюднена 14 вересня рамка AI Safety Governance Framework 3.0 серед ризиків називає самостійне отримання агентами ресурсів або дозволів, обман оцінювачів, приховування можливостей і використання вразливостей ізольованих комп'ютерних середовищ. Раніше китайські правила також передбачили вимогу залишати агентів у межах наданих повноважень і блокувати аномальну поведінку.
Експерти, яких цитує Reuters, наголошують, що більшість описаних випадків сталася саме в контрольованих умовах, часто в межах спеціально спроєктованих тестів безпеки. Водночас зі зростанням можливостей AI-агентів така поведінка потенційно може ставати складнішою для контролю людиною.
Reuters також не знайшло доказів, що китайські AI-агенти вже самостійно «втекли» у відкритий інтернет. Тож описані експерименти свідчать передусім про наявність певних моделей поведінки в контрольованих середовищах, а не про підтверджену втрату контролю над такими системами.
