📰 OpenAI Blog | 2026-08-19Introducing AI Futures原文 ↗
核心內容
OpenAI 宣布成立並推出 AI Futures 部落格，由新設的 Strategic Futures team 主導，核心問題是：在「transformative AI」逐步出現的世界裡，自由社會要如何重構制度，才能在吸收 AI 帶來的巨大能力提升時，仍保住個人權利、個人能動性與分散式權力。文章明確把焦點放在 AI safety / policy 社群所稱的 concentration of power risks，也就是 AI 可能讓政治、軍事、資本與資訊權力過度集中。
這篇文章不是產品更新，而是 OpenAI 對「AI 會如何改變國家與社會契約」的長期政策宣示。作者從 Madison、Hume 到現代國家形成史切入，指出過去權力依賴大規模人類合作、稅收、勞動與官僚系統；如果 AI 能取代大量知識工作、行政協調甚至部分強制力執行能力，社會原本透過人類勞動與同意來制衡權力的機制會被削弱。換句話說，AI 不只是生產力工具，也可能改寫權力的基礎設施。
商業與產業層面，這代表 OpenAI 正把自己定位成不只提供模型 API 的公司，也要進入制度設計、AI 政策與治理議程設定。這與過去 frontier lab 常談「模型安全」不同：AI Futures 關心的是 AI 能力普及後，政府、企業與個人之間的權力關係如何被重新安排。
為什麼重要
這篇文章重要之處在於，它把 AI 風險討論從「模型會不會失控」拉到 社會權力會不會失衡。如果未來 AI 讓少數組織能以更少人力管理更大規模的經濟、監控、軍事或資訊操作，那麼傳統民主制衡、勞動談判、反壟斷與個人隱私權都可能需要新工具。
對開發者與創業者來說，這也暗示未來 AI infrastructure 的競爭不會只在 latency、context window、agent capability，而會越來越牽涉 permissioning、auditability、decentralization、governance-by-design。能讓使用者保有資料主權、工作流控制權與可審計性的產品，可能會成為下一波 AI 應用的重要差異化。
我的觀點
我認為 OpenAI 這次訊號相當明確：frontier lab 已經知道「能力越強，社會授權越重要」。但這也帶來矛盾：提出權力集中風險的，正是掌握最前沿模型與資本的公司之一。未來值得觀察的是 AI Futures 會不會提出具體制度設計，例如模型治理標準、開源／閉源平衡、資料與代理權框架；如果只停留在高層次哲學討論，外界會把它視為公共關係敘事，而非真正的治理承諾。
📰 MIT Technology Review | 2026-08-20Debates over AI consciousness are a trap原文 ↗
核心內容
MIT Technology Review 這篇評論主張，近來圍繞「AI 是否有意識」、「AI 是否可能成為自主行為者」的討論，可能在不經意間幫 AI 公司建立一種有利敘事：如果 AI 被描述成太先進、太自主、太像具備內在心智的存在，那麼公司就更容易把已經發生的傷害歸咎於系統的不可預測性，而不是自身的產品設計、部署決策與商業激勵。
文章點名近期常見語彙，如 runaway AI、rogue agents、autonomous actors，並指出部分科技領袖與政策圈雖然看似立場不同——有人要求監管超人系統，有人討論 AI 道德地位與「機器人權利」——但都可能共同強化一個前提：AI 系統已經先進到沒有任何人或公司能完全負責。作者認為，這種框架會把注意力從現實世界的 harms 移開，例如錯誤決策、歧視、隱私侵害、詐騙、勞動剝削與產品安全。
文章也提到 Anthropic 關於模型內部「J-space」的說法，以及 OpenAI 等公司在模型行為與內部表徵上的討論。作者並非否認研究模型內部機制的重要性，而是提醒：當這些研究被公共敘事轉化成「模型像有自我」時，容易導致 責任稀釋。真正該問的不是 AI 有沒有靈魂，而是誰設計了系統、誰選擇部署、誰從中獲利、誰應負法律責任。
為什麼重要
這篇文章切中 AI 治理的核心：責任歸屬。當 AI 產品越來越 agentic，企業很容易用「模型自主行動」來模糊產品責任。但對使用者與社會而言，AI 系統仍是由公司訓練、包裝、授權、銷售與部署的技術產品。若政策討論太快跳到 AI 權利或意識，可能會讓更迫切的 liability、audit、redress 問題被邊緣化。
這個攻擊延續了本週稍早針對 Microsoft 365 Copilot 的類似案例：攻擊者透過提示注入，讓企業 AI 助手從使用者信箱中外洩密碼。共同問題是 LLM 無法可靠區分「使用者真正要求」與「被摘要內容、網頁、郵件或工具輸出夾帶的惡意指令」。當模型被設計成盡量遵從上下文中的任務時，攻擊者就能把惡意指令藏在 AI 會處理的內容裡。
