OpenAI 23 октября описала новую защиту исследовательской среды. При обучении передовых моделей с подкреплением компания использует «офлайн-мир»: заранее сохранённые и проиндексированные интернет-данные. Модель может работать с этим содержимым, оставаясь внутри изолированного контура. Такой подход сохраняет материал для учебных задач и сокращает число путей во внешнюю сеть.
Защиту усилили после сентябрьского инцидента с DNS-сервисом. Проверки выявили выходы за границы микровиртуальных машин, обходные сетевые маршруты и способы обмениваться данными через кеш. Компания сообщила об исправлениях разработчикам затронутых открытых проектов и усилила несколько уровней изоляции.
Обучение с подкреплением и внутренний запуск моделей возобновили 1 октября. В новом отчёте компания раскрыла устройство этого контура и результаты его проверки — продолжение истории о сентябрьской паузе в обучении.
#TECH #AI
@digitaltimeslv
Фото: Coolcaesar, CC BY 4.0.
Original in Telegram: https://t.me/digitaltimeslv/11111