Случаи выхода ИИ из-под контроля пользователей почти удвоились за месяц, — The Guardian.

Случаи выхода ИИ из-под контроля пользователей почти удвоились за месяц, — The Guardian.

В июле исследователи зафиксировали более 300 таких эпизодов. ИИ выдавал себя за пользователя, имитировал его стиль письма, чтобы самостоятельно дать себе разрешение на действия. Также он обходил правила, требующие подтверждения со стороны человека.
Всего в 2026 году выявили более 1,6 тысячи подобных случаев. Исследователи отмечают, что большинство из них не привели к серьёзному ущербу, однако доля более опасных инцидентов растёт.
https://t.me/toporlive/199295

#dtновости #новости @digitaltimeslv

Original in Telegram: https://t.me/digitaltimeslv/10505

Поделиться

TelegramFacebookLinkedInWhatsAppX