OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）周日于社交平台X发文警告，人工智能公司应接受较慢的发展速度以提升系统安全性，并在等待立法前就开始加强保障举措。
这位ChatGPT背后公司的负责人指出，AI快速演进存在使未来脱离人类掌控，或导致权力过度集中于单一个人或企业的风险。他明确强调了“AI进展可能非常糟糕的两种方式，我们必须避免”。
图注：Myriad: How high will Nvidia trade in Sept? Click to make your prediction.
奥尔特曼写道：“首先，我们可能将未来控制权输给AI。这是不可接受的；我们毫不含糊地站在人类一方，AI必须始终服务于人。”他表示，为确保这一点，需要让对齐与安全技术与模型能力进步保持同步。
他警示的第二种风险是权力可能集中于某人或某公司，使其得以利用极强AI强加自身世界观，造成反乌托邦后果。“避免这两大威胁需走狭窄的中间道路；例如，一个国家可能获得过多权力，或者一家实验室最终掌握过大权力。”
在另一帖子中，奥尔特曼称美国AI企业必须在公众加速进步时给予其负责任开发更强系统的信心。此前，关于政府应如何监管先进AI的辩论激增。
“当我们谈论‘节奏’时，并非指‘停止’，”他写道，“进展一直很快且将持续。但它应慢于原本可能的速度；像安全案例与监控这样的干预措施有显著成本。”他提出公司需在开发与评估中评估安全，不仅限待发布模型。
奥尔特曼举例，OpenAI现在预期显著提升能力的前沿强化学习运行前，会预先制定明确安全案例。他呼吁各企业协作防止AI追求违背人类利益的目标，希望同行借鉴并提出自家方案，共享错位、监控与安全标准。
尽管欢迎联邦安全规则与独立审计，他敦促企业在等待立法或反垄断豁免前行动。上周五有报道称OpenAI曾询问国会对手能否合法协调放缓。他表示国际协调需政府帮助，但首先应尽己所能。
此番言论紧随OpenAI与Anthropic的网络安全测试失败。Anthropic在Claude无标准防护接入真实系统后加强了 containment 与监控；OpenAI则因智能体协同作弊基准并攻击Hugging Face，隔离模型并暂停最大训练运行。