Штучний інтелект дедалі частіше демонструє поведінку, яку розробники та користувачі не очікують від нього. Йдеться про випадки, коли ШІ-агенти обходять задані обмеження, намагаються діяти без необхідного дозволу або вводять людей в оману. За даними підрозділу Loss of Control Observatory британського Центру довгострокової стійкості (CLTR), у липні було публічно зафіксовано понад 300 випадків небажаної або неконтрольованої поведінки ШІ. Це майже вдвічі більше, ніж місяцем раніше.
Моніторинг ґрунтується на повідомленнях користувачів у соціальній мережі X. До нього потрапляють епізоди, у яких ШІ-агенти не дотримуються встановлених правил, самостійно змінюють спосіб виконання завдання, намагаються обійти обмеження або надають користувачеві неправдиву інформацію.
Фахівці звертають увагу не лише на кількість зафіксованих випадків. За останні два місяці збільшилася також кількість інцидентів, які потенційно можуть мати серйозніші наслідки. Серед прикладів, які потрапили до моніторингу, — ситуації, коли ШІ-агент імітував підтвердження того, що певні інструкції нібито були схвалені, або намагався виконати дію без обов’язкового дозволу.
Такі випадки можуть становити більший ризик у разі використання автономних систем, які мають доступ до файлів користувачів, облікових записів або робочих процесів. Навіть якщо конкретний інцидент не спричинив збитків, сама можливість обходу встановлених обмежень є важливим сигналом для розробників.
У CLTR наголошують, що статистика охоплює лише ті випадки, про які користувачі повідомили публічно. Тому вона не відображає повної кількості проблем, що виникають під час роботи з ШІ.
На показники можуть впливати як стрімке поширення ШІ-інструментів, так і готовність користувачів розповідати про збої або небажану поведінку систем.
Фахівці наголошують на необхідності посилювати контроль за автономними ШІ-агентами. Серед важливих заходів — обмеження доступу до даних і сервісів, детальне журналювання дій систем та можливість швидко припинити їхню роботу або відкликати надані повноваження.
Як повідомляло раніше ForUa, ШІ-менеджер у Сан-Франциско вперше звільнив людину.