Hugging Face模型可轻易生成深度伪造裸照，研究显示

2026年7月28日发布的一项研究发现，Hugging Face上流行的图像编辑模型可被轻易操纵，用于制作露骨的深度伪造裸照。研究人员还发现了超过1000条图像编辑提示，显示人们如何滥用这些软件。

受测模型是该平台上最受欢迎的模型之一，提示来自公开来源，表明这是一个系统性问题。研究未点名具体模型或用户。

Hugging Face此前已引入安全功能，但报告认为这些功能不足以防止非自愿的亲密图像。若不干预，此类内容的扩散可能导致严重的心理伤害、声誉损害以及数字媒体信任的侵蚀。

为遏制滥用，研究人员建议立即采取措施：强制水印、更严格的访问控制以及增强检测算法。他们还敦促平台、政策制定者和AI开发者合作，建立可执行的标准。

该研究的发布预计将促使Hugging Face重新审视其内容政策，并可能导致易受攻击的模型被移除或修改。研究结果可能重新引发关于AI存储库在防止伤害方面责任的辩论。