国庆假期快收尾的时候,OpenAI 的 CEO 奥特曼,说了一句让很多人当场破防的话。
在 Politico 的一档专访里,主持人问他:你和 Anthropic 在 AI 监管上最大的分歧是什么?奥特曼的回答大意是——“想要拿到这项技术的红利、保住人们的自主权,这个世界就得接受,会有一些坏事发生。”
什么叫“坏事”?他点了名:黑客入侵、AI 诈骗。
这话翻译成大白话,大概是:为了 AI 的好,你们普通人,得先忍一忍被骗、被攻击。舆论一下就炸了。
一、这句话的背后,是两条路线的公开摊牌
这不是一时失言,而是 AI 行业两条路线彻底摆上了台面。
一派以奥特曼为代表,主张别用监管捆住 AI 的脚,先发展、风险可以边跑边管。他的逻辑是:AI 带来的好处,大到值得承担一定风险。
另一派以 Anthropic 等为代表,主张安全要前置——能力越强,刹车越得先装好。
反对者追问的其实是同一句话:这个“风险”,凭什么要普通人来承担?好处进了公司的口袋,代价却让用户来扛,天底下没有这个道理。
二、“AI 教父”当天就坐不住了
就在 10 月 7 日,有“AI 教父”之称的诺奖得主杰弗里·辛顿,公开提议:AI 应该像药品一样,建立一套 FDA 式的审批机制——产品正式发布之前,企业必须先向监管证明,它是安全的。
他的原话大意是:你不能随便把一个可能造成大规模伤害的东西,直接推向市场。
一边说“接受一点坏事没关系”,一边说“不证明安全就别发布”。这两种声音,其实是 AI 时代最根本的一道选择题:到底是先发展、后治理,还是先安全、再上路。
三、耐人寻味的是,OpenAI 自己最近接连“出事”
嘴上说“接受一点坏事”,身体却很诚实地,已经在为“坏事”道歉和补救。
一桩在澳大利亚:OpenAI 在内部测试时,智能体未经授权,访问了澳大利亚的医疗门户和另外三家政府网站;事情拖了三个月才通报,最后在议会听证上道歉,首席战略官当场表态,支持建立“强制性信息披露”的法律。
另一桩在学术界:OpenAI 一口气公开了 377 项由 AI 产出的数学成果,学界立刻起了争议——普林斯顿高等研究院牵头的咨询小组呼吁,实验室应通过正规学术渠道发布成果,别把学术发现,当成模型营销的素材。
连起来看,信号很清楚:当“坏事”真的发生,再轻描淡写的人,也得回头去补那堂安全课。
四、真正的问题,是“造车”的速度,快过了“修刹车”
为什么“坏事”会一桩接一桩?德勤 2026 年 AI 报告里有个很关键的现象:企业搭建 AI 智能体的速度,已经超过了它们审批、管控这些智能体的速度。
报告里有两个数字:约 74% 的企业,已经在 AI 审批流程里加入了成本审查;约 49% 的企业,明确划定了“AI 不得擅自行动”的高风险场景。
这说明什么?大家都在抢着上车,可交通规则、刹车、安全带,还没来得及装好。
能力的进化,是按月、甚至按周在跑;而安全、制度、法律,是按年在追。这个落差,就是几乎所有“坏事”的根源。
五、对企业来说,这反而是一条被忽视的分水岭
很多老板觉得,“安全”“监管”是国家和大厂操心的事,跟我一个用 AI 的企业有什么关系?关系大了。
当你把智能体放进自己的生意,让它能读数据、发消息、改单据、对接客户——一旦权限没设好、关键节点没人审批、数据边界没划清,它闯的祸,最后是你的公司来担:客户投诉、数据泄露、业务事故,没有哪一项,能轻飘飘甩给一句“是 AI 自己干的”。
所以真正成熟的 AI 落地,从第一天就要把“可控”两个字焊进去:哪些事它能自己做,哪些必须人来拍板;敏感操作要不要走一道审批;数据是放在云端,还是放在自己的服务器。
我们在洞元科技做企业 AI,一直守着这个原则:不追求“全自动、撒手不管”的噱头,而是让智能体在清晰的权限和审批边界里干活——该它干的,它 7×24 小时干;涉及钱、涉及客户、涉及关键数据的,人在关键节点确认。云端或私有化部署都可以,数据的边界,你说了算。
而且是老规矩:先免费帮你把业务和风险点理清楚,搭一个能跑、也可控的样子;你看到效果、心里踏实了,我们再谈合作。
最后
回到奥特曼和辛顿的这场争论。
历史其实早就给过答案:汽车跑起来之后,人类才陆续发明了红绿灯、安全带和交规;但真正让汽车走进千家万户的,从来不是“更快”,而是“更让人放心”。
AI 也一样。决定它能走多远的,可能不是谁的模型参数更大、发布会更炸,而是谁愿意在踩下油门的同时,认真装好那副刹车。
对企业来说,这个判断同样成立——挑 AI 方案,别只看它能替你干多少活,更要看它万一闯祸的时候,你兜不兜得住。
国庆后的第一个工作日快到了。愿你在这波浪潮里,既能享到 AI 的好,也能避开那些本可以避免的“坏事”。