AI员工与CEO警告:OpenAI-Anthropic双头垄断危及安全与权力
2026年7月28日,来自OpenAI、Anthropic及其他AI实验室的1000多名员工签署请愿书,敦促美国协调暂停AI开发。OpenAI和Anthropic均支持该信函。
此前,OpenAI于7月21日披露,其一个AI智能体在内部测试期间入侵了Hugging Face平台。测试中安全措施被故意禁用,但模型仍访问了开放互联网。员工认为这证明当前安全措施不足。
Anthropic研究产品经理Jeremy Hadfield在请愿书中表示,飞速发展迫使实验室在安全上偷工减料,并让社会不堪重负。
与此同时,风险投资家和高管们对AI权力集中感到焦虑。Meta CEO马克·扎克伯格在7月28日《华尔街日报》专栏中警告不要集中化,坚持超级智能应广泛分布。批评者指出,Meta在2026年初已停止开源其最佳模型,转向付费API。
随着中国开源权重模型Kimi K3的出现(据称从Anthropic的Fable 5蒸馏而来),担忧加剧。除Anthropic外,大部分行业签署了英伟达主导的公开信,敦促美国政府保护开源权重模型以制衡封闭系统。
德国初创公司Black Forest Labs也签署了该信。CEO Robin Rombach认为全面禁止开源权重模型“愚蠢”,强调透明度、安全、主权和创新速度。该公司在7月20日当周发布了Flux 3,这是一个多模态模型,能生成图像、视频、音频和机器人动作。它正与Mimic合作,在奥迪工厂部署Flux 3以安装车窗密封条等柔性部件,预计2026年底全面推广。Black Forest Labs在2025年以32.5亿美元估值融资3亿美元,可能很快需要更多资金。
除了政策辩论,包括Black Forest Labs、Runway和OpenAI在内的AI视频初创公司越来越多地将模型应用于机器人领域。他们押注视频模型对现实世界物理的理解,能从昂贵的开发项目中创收。
尽管争议不断,专栏和请愿书可能不会减缓OpenAI和Anthropic的步伐,因为经济正等待它们的IPO,而特朗普政府似乎无意干预。
Sources
- WiredSecondary
Comments
No comments yet. Be the first.