NVIDIA представила Open Agent Safety Platform для контроля автономных ИИ-агентов. Открытая среда OpenShell изолирует их работу, фиксирует действия и ограничивает доступ к данным и системам. Аппаратный контроллер Sentry на базе BlueField‑4 должен независимо следить за поведением агента и за миллисекунды блокировать его при нарушении установленных полномочий.
OpenShell уже доступен как открытое ПО, тогда как Sentry пока является эталонной архитектурой, а не серийным продуктом. Подход отражает новый тренд: безопасность ИИ-агентов постепенно переносится за пределы самой модели — в изолированное программное окружение и отдельное оборудование, которое агент не может контролировать.
Источник: NVIDIA
#NVIDIA #AI #кибербезопасность #ИИагенты
@digitaltimeslv
Original in Telegram: https://t.me/digitaltimeslv/10747
