Путин предупредил о цифровом тоталитаризме. Кто будет контролировать алгоритмы?
Искусственный интеллект может стать инструментом обезличивания людей, предупредил Владимир Путин на заседании клуба «Валдай» 1 октября.
В опубликованных фрагментах выступления он связывает эту опасность с алгоритмами, настроенными теми, кто ими управляет. Возможный цифровой тоталитаризм президент назвал тупиковым и антигуманным.
Власть за экраном
«Распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю», — заявил Путин.
За этим предупреждением стоит вполне практический вопрос: кто определяет, что цифровой помощник расскажет человеку, какие сведения скроет и какие решения предложит. В нашем прочтении технологический смысл заявления — в зависимости пользователей от владельцев и разработчиков систем. Чем больше повседневных задач передаётся ИИ, тем важнее возможность проверить его ответ и оспорить решение.
Собственный ИИ тоже требует ограничений
Защита от такого контроля нужна независимо от происхождения технологии. Иностранная платформа, отечественная компания и государственная система способны сосредоточить у себя данные и влияние на людей. Собственная модель уменьшает зависимость от внешнего поставщика, но сама по себе не гарантирует ни конфиденциальности, ни свободы выбора.
Практический ответ на обозначенный риск — понятные правила использования данных, проверка алгоритмов и право человека потребовать пересмотра автоматизированного решения. Особенно там, где от него зависят работа, образование, медицинская помощь или доступ к услугам. Это необходимые предметы обсуждения, а не меры, которые можно приписать Путину по доступным фрагментам речи.
Предупреждение о цифровом тоталитаризме ставит вопрос и перед государствами: готовы ли они ограничивать собственные возможности наблюдения и управления гражданами? Без такого ограничения борьба за независимость от чужих алгоритмов может закончиться зависимостью от своих.
#ИИ #Технологии #Россия #ЦифровыеПрава
@digitaltimeslv
Original in Telegram: https://t.me/digitaltimeslv/10790