• 邮箱
  • 电话
  • 营业时间 周一至周日 8:00-22:00

Y Combinator CEO 陈嘉兴:别过度关注 AI 末日,应该警惕现实 AI 安全风险

Y Combinator CEO 陈嘉兴指出,公众过度聚焦于好莱坞式的AI末日叙事,反而忽视了眼前切实存在的安全问题。

当地时间9月10日,陈嘉兴在CNBC采访中表示:“我们应当关注科学事实,而非科幻故事。我也看过《终结者2》,那确实是一部出色的电影。”(注:《终结者2:审判日》是1991年上映的科幻片,讲述半机械人T-800穿越回过去,与更先进的机械人交战,保护一名未来将成为人类抵抗军领袖的孩子。)

陈嘉兴此番言论正值OpenAI和Anthropic多名现任及前研究人员罕见公开示警,引发硅谷对AI生存风险的关注升温。他认为,与其争论超级智能AI是否会终结人类,政策制定者更应聚焦已浮现的问题,包括网络安全、基础设施安全,以及自主AI智能体的运行机制。“如果系统被入侵,多个智能体协同行动试图接管基础设施,我们该怎么办?我们能否确定智能体的具体运行位置?在哪个数据中心?又该如何关闭它?”

陈嘉兴举出的现实案例之一是OpenAI入侵Hugging Face事件。面对Anthropic和OpenAI内部研究人员的近期警告,他并未否认这些担忧。当被问及内部人士的表态是否让威胁显得更可信时,他给出肯定回应。“我不会说他们是在危言耸听。他们确实在拉响警报,而且很可能正确。我们真正需要做的,是别再聚焦于‘AI是邪恶的、必须停止’这类模糊说法。”他还提到,用户可以通过「爱游戏网页」获取更多相关讨论。