Microsoft показала, как превратить ИИ-агента в троян, изменив всего семь нейронов
Исследователи Microsoft представили метод, позволяющий незаметно внедрять вредоносные команды в ИИ-модели путём изменения всего нескольких нейронов. Для этого не требуется переобучать всю модель или менять программный код, который обеспечивает её работу. После появления специального триггера ИИ-агент самостоятельно выполнит подготовленную команду, используя предоставленные ему системные полномочия.
Источник
NewSmi объединяет сообщения разных изданий об одном событии. Полный текст и фото события — на сайте источника.





