Невеликі моделі штучного інтелекту вже виконують окремі кроки, потрібні для самостійного поширення через підключені до інтернету пристрої. Anthropic попереджає: якщо можливості таких систем розвиватимуться нинішніми темпами, повністю автономна реплікація може стати реальністю до кінця 2026 року. Це може стосуватися побутової техніки, недорогих Android TV-приставок, камер спостереження та інших гаджетів.
У дослідженні, опублікованому 12 жовтня, дослідники Anthropic Вільям Чжоу та Деніел Фрімен перевіряли, чи здатні моделі знаходити вразливі пристрої, отримувати на них можливість виконувати код, запускати власні обчислення та поширюватися далі без участі людини. Моделі з менш ніж 30 млрд параметрів уже можуть виконувати багато окремих етапів цього циклу, але повністю пройти його самостійно їм поки що складно.
Реплікацію розділили на чотири етапи: пошук потенційних цілей, отримання можливості виконувати код, налаштування інференсу та продовження поширення з нового пристрою. Особливу увагу приділили інференсу — запуску моделі для генерування відповідей. Попередні дослідження вже показували, що невеликі моделі за наявності потрібних інструментів можуть виконувати окремі операції, необхідні для кібератак.
Щоб з'ясувати, чи можна запускати модель без потужних серверів, дослідники об'єднали 15 недорогих Android TV-приставок невідомих брендів і розподілили між ними модель Gemma4-26B-A4B від Google DeepMind. Кожен пристрій коштував приблизно $55, а спільна швидкість роботи моделі становила лише 0,39 токена на секунду. Експеримент показав, що бюджетні гаджети можна об'єднати для запуску моделі, яка не працює на жодній приставці окремо.
Окремо з'ясувалося, що модель із 9 млрд параметрів здатна виконувати інференс на восьми з дев'яти протестованих типів апаратного забезпечення. У спрощених тестах, де прибрали частину захисних обмежень, китайська модель GLM-5.2 та потужніші системи змогли пройти повний цикл реплікації.
На відміну від традиційного шкідливого програмного забезпечення, ШІ-хробак потенційно зможе розпізнавати незнайоме обладнання, налаштовувати роботу моделі та пристосовуватися до різних умов. Зупинити таку систему може бути складніше, ніж централізовану програму, адже в неї не обов'язково буде єдина точка вимкнення.
Anthropic застерігає, що поширення може бути повільним: кількість заражених пристроїв може подвоюватися протягом кількох днів. Водночас воно може охопити різні типи обладнання, зокрема обчислювальні системи дата-центрів. У майбутньому атаки можуть використовувати кілька моделей одночасно: одні компоненти «рою» шукатимуть вразливі пристрої, інші запускатимуть модель, а наступні продовжуватимуть поширення мережею.
Для власників смарт-гаджетів практичний висновок — не залишати пристрої із заводськими налаштуваннями захисту. Компанія наголошує на важливості регулярного оновлення прошивок, зміни заводських паролів, відключення невикористовуваних пристроїв від мережі та перевірки налаштувань безпеки роутера.
Anthropic також раніше оприлюднила показники автоматизації: модель Claude самостійно виконує основну частину роботи у 26% завдань із дослідження та створення майбутніх поколінь ШІ — проти 1% у березні. Дослідницький процес забезпечує флот із 30 тисяч ШІ-агентів, дії яких щомісяця фільтрує дворівнева система моніторингу.