Довольно часто в мире опенсорса встречается история, когда малозначимая библиотека оказывается содержащей вредоносный код, с помощью которого как-то эксплуатируются компьютеры. Эта история наконец докатилась до мира ИИ — JFrog утверждают, что обнаружили около сотни вредоносных ML-моделей на Hugging Face. Некоторые из этих моделей создают банальные бэкдоры на железе пользователей. [o]
https://www.bleepingcomputer.com/news/security/malicious-ai-models-on-hugging-face-backdoor-users-machines/
https://www.bleepingcomputer.com/news/security/malicious-ai-models-on-hugging-face-backdoor-users-machines/
BleepingComputer
Malicious AI models on Hugging Face backdoor users’ machines
At least 100 instances of malicious AI ML models were found on the Hugging Face platform, some of which can execute code on the victim's machine, giving attackers a persistent backdoor.