OpenAI 董事会成员担忧:AI 接管社会可能只剩几个月
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
图灵奖得主 Richard Sutton 在最新文章中给 LLM 扩展热衷者上了一课:仅靠原始算力不足以实现智能,AI 科学需要更聪明的新方法,且“远未完成”。他称合成数据是“大错误”,认为当前 LLM 训练后不再持续学习,主张具备世界模型、能持续学习且不破坏旧知识的智能体。该帖在 X 上引发 AI 社区讨论,Jerry Tworek 等研究者参与回应。
MIT Technology Review 记者走访弗吉尼亚州 Data Center Alley 后认为,数据中心引发的抵制更多源于电力而非 Big Tech 所称的文化战争。当地数据中心平均功率容量达 54 兆瓦,超过丹佛国际机场用电量;AI 训练最小数据中心需 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机。
特朗普9月底签署行政令,要求联邦机构把「人工智能」改称「Super Intelligence」,一个月后政府招标文件和多数政府网站已换用新词,NIH 等网站还挂出过渡期提示。
OpenAI 回顾 2025 年开发者生态:推理能力从 o1、o3 等独立模型收敛进 GPT-5.x 统一模型线,多模态(PDF、图像、音频、视频)成为 API 一等能力。