Hugging Face工具被用于制作女性及儿童裸照

2026年7月28日，The Verge报道称，流行的AI模型分享平台Hugging Face正被利用来制作非自愿的女性及儿童亲密图像。报道详细描述了该平台托管的工具如何让用户轻松移除照片中的衣物。这种滥用行为引发了对平台内容审核及AI生成性虐待材料泛滥的紧迫担忧。以开源AI社区闻名的Hugging Face，如今因其助长此类有害应用而面临审视。随着这些工具仍可获取，该平台的政策和执行机制受到质疑。这一事件凸显了在开放AI开发与防止现实危害之间寻求平衡的更大挑战。文章指出，相关工具易于获取且使用门槛低，任何人都能轻易生成未经同意的露骨图像。报道强调，该技术正被用于针对成年女性和未成年人，加剧了问题的严重性。The Verge的调查揭示了AI图像处理工具被武器化用于骚扰和剥削的日益增长趋势。文章提到，Hugging Face此前曾采取措施移除有害内容，但这些工具的持续存在表明其审核工作存在漏洞。该公司尚未就报道的具体发现发表公开声明。随着事态发展，预计Hugging Face将面临更大压力，要求其实施更严格的管控，同时监管机构也需应对AI生成滥用内容的法律灰色地带。这一事件凸显了制定行业标准以防止技术侵犯隐私和尊严的必要性。