Microsoft представила проект кодекса поведения для собственных моделей MAI. В нём закреплено, что ИИ не должен сопротивляться остановке или исправлению, самостоятельно ставить себе цели, расширять порученную задачу либо скрывать свои действия от пользователя и аудитора. Автономная работа должна иметь заранее определённое условие завершения, после которого модель не сможет продолжить её без нового разрешения. Абсолютные запреты также охватывают оружие массового поражения, насилие, преследование, слежку за гражданами, эксплуатацию детей и манипуляции в крупном масштабе.
«Люди важнее ИИ. ИИ должен быть инструментом, а не личностью», — формулирует основной принцип Microsoft. Кодекс задуман как руководство для обучения, проверки и эксплуатации будущих моделей MAI, однако пока это лишь проект, а не описание поведения уже выпущенных систем и не юридическая норма. Общественное обсуждение продлится шесть недель, после чего Microsoft обещает опубликовать исправленную версию до конца 2026 года. Главный открытый вопрос — сможет ли компания превратить эти декларации в технически проверяемые ограничения, особенно для автономных агентов, работающих сразу с несколькими системами и внешними инструментами.
#новости #Microsoft #MAI #ИИ #безопасность
@digitaltimeslv
Original in Telegram: https://t.me/digitaltimeslv/10540