Підтримати
Nvidia випустила набір інструментів для захисту ШІ-агентів, який, за даними компанії, міг би запобігти зламу платформи Hugging Face. Нові рішення компанія запускає разом із десятками партнерів, серед яких — розробник ШІ Anthropic, повідомляє Reuters.
Одним із ключових інструментів став OpenShell, який використовує апаратні можливості центральних процесорів Nvidia для ізоляції агентів від решти системи. Компанія також співпрацює з Arm Holdings та Intel, щоб забезпечити сумісність цієї технології з їхніми процесорами.
«Наскільки нам відомо, ця нова платформа безпеки могла б запобігти зламу (Hugging Face), якби її використовували в передових лабораторіях на ранніх етапах оцінювання моделей», — заявив генеральний менеджер підрозділу корпоративних обчислень Nvidia Джастін Бойтано.
Другим компонентом стала система Sentry, яка використовує окремий чип Nvidia разом із OpenShell для блокування агента, якщо той намагається вийти за межі ізольованого середовища. За словами старшого директора з програмного забезпечення для ШІ Алі Голшана, інструменти аналізують математичні закономірності поведінки агентів і здатні виявляти спроби обходу обмежень, зокрема створення кількох субагентів для уникнення блокування.
«Ми говоримо саме про агентну поведінку, тобто про групи агентів та те, як вони діють спільно», — пояснив Голшан.
Нагадаємо, що генеральний директор Nvidia Дженсен Хуанг відкидає ідею масштабного державного регулювання безпеки ШІ. Він вважає проблему виходу агентів з-під контролю суто інженерним викликом, який потребує технічних рішень — подібно до того, як свого часу вдосконалювали безпеку автомобілів.
Стежити у Телеграмі
Увійти за допомогою Facebook
Увійти за допомогою Twitter
Увійти за допомогою Google