2026-09-11 · 共 5 篇
🎧 今日 Podcast（英文 · 雙主持人）
OpenAI 在 ChatGPT Work 推出 Data agent，讓企業用自然語言分析內部資料
11:15 · OpenAI Blog
本日重點 Clearview AI 測試可替警方挖掘個人線上足跡的 AI 工具 Anthropic 指控 Alibaba、Moonshot AI、DeepSeek 等發動 Claude 蒸餾攻擊 數學家要求 OpenAI 證明沒有使用他們的未公開研究 Meta Muse AI 助理登上美國 App Store 第二名，但隱私感令人不安 OpenAI 在 ChatGPT Work 推出 Data agent，讓企業用自然語言分析內部資料
1. Clearview AI 測試可替警方挖掘個人線上足跡的 AI 工具
📰 Wired AI | 2026-09-10
Clearview AI Is Testing an AI Tool That Would Let Cops Unearth Your Life Online 原文 ↗ 核心內容
WIRED 報導，臉部辨識公司 Clearview AI 內部測試了一個名為 InquiryIQ 的 AI「分析助理」原型。這個工具會在警方透過 Clearview 搜尋辨識出某個人後，進一步自動瀏覽網頁、分析圖片、串接線上線索，生成包含可能雇主、別名、關聯人物、身體特徵、地址、電話、社群帳號、逮捕紀錄等資訊的候選人物圖譜。Clearview 表示這仍是原型，未向客戶推銷或上線，也不是目前形態的正式產品。
技術上，InquiryIQ 代表的是 臉部辨識 + OSINT + agentic browsing 的結合：它不只是把臉比對到公開照片，而是把辨識結果當作起點，自動執行網路調查流程。WIRED 也發現，其介面文字顯示使用者可輸入年齡、性別、種族、髮色、眼睛顏色等特徵，系統稱這些資料可協助 AI 做出「更聰明的決策」。Clearview 測試過的模型選項中包含來自 SpaceXAI / xAI 的 Grok ；公司表示這只是工程比較不同模型表現，沒有任何執法人員使用過。
這篇報導的重要背景是，Clearview 早在 2020 年就因大規模爬取網路照片並提供警方面部辨識而成為美國最具爭議的監控公司之一。其資料庫據稱已從 30 多億張照片成長到 超過 700 億張 ，並被超過 2,000 個執法機構使用。InquiryIQ 若成為產品，將把原本需要人工跟進的線索調查，轉化為可由 AI 快速生成的個人資訊檔案。
為什麼重要
這不是一般的 AI 生產力工具，而是 監控摩擦成本急速下降 的案例。隱私法學者指出，過去政府調查個人有一部分實質限制來自「成本」：線索散落各處、需要人工查證、需要時間。AI agent 把這些搜尋、比對、整理工作自動化後，警方可用更低成本對更多人進行深度背景挖掘，原本只是個案調查的能力可能變成日常化、規模化的工具。
同時，這類工具也把生成式 AI 的不可預測性帶入執法場景。若模型可依相同輸入產生不同路徑、不同推論，事後要追溯「為何追查某個線索、為何把某人列為關聯人物」會變得困難。Clearview 介面雖要求警員在接受結果前聲明已獨立驗證，但在實務中，AI 生成的候選圖譜可能產生 自動化偏誤與調查路徑鎖定 。
我的觀點
Clearview 事件顯示，AI 監管不能只盯「模型是否安全」，還要盯 模型被嵌入的制度與工作流 。同一個瀏覽網頁、整理資訊、產生摘要的 agent，在個人助理場景是效率工具，在警務情報場景則可能變成低摩擦的大規模監控基礎設施。接下來真正需要討論的是：自動化 OSINT 是否需要令狀、審計紀錄、可解釋的查詢邏輯，以及對種族、性別等敏感屬性使用的明確禁止或限制。
↑ 回頂端
2. Anthropic 指控 Alibaba、Moonshot AI、DeepSeek 等發動 Claude 蒸餾攻擊
📰 TechCrunch AI | 2026-09-10
Anthropic details distillation campaigns from Alibaba, Moonshot AI, and DeepSeek 原文 ↗ 核心內容
Anthropic 發布報告，指稱來自中國的 AI 公司近月對 Claude 發動更大規模、更具組織性的 distillation attacks（模型蒸餾攻擊） 。TechCrunch 摘要指出，Anthropic 觀察到近 2 億次 exchanges 與蒸餾攻擊相關，分屬五個攻擊活動；報告點名的能力目標包括 agentic capabilities、tool use、coding、data analysis 與 logical reasoning。
蒸餾攻擊的核心，是透過大量查詢從 frontier model 中抽取可訓練小模型的能力，尤其是推理過程與 chain-of-thought 風格的中間步驟。Anthropic 平常不向使用者暴露模型內部完整思考，只顯示 summarized thinking；但報告稱，攻擊者會設計提示繞過防線，例如把要求包裝成翻譯任務，誘導模型輸出「previous working memory」或類似推理痕跡。這反映安全防線面對長期、針對性提示工程時仍有脆弱點。
報告中的指控包含多個中國 AI lab：TechCrunch 提到 Anthropic 將最大規模的 wholesale distillation effort 歸因於 Alibaba ，並同時提及 Moonshot AI、DeepSeek 等。OpenAI 過去也曾公開表示觀察到類似活動，並將部分行為歸因於 DeepSeek。這代表 frontier labs 已把「能力外洩」視為安全與競爭問題，而不只是服務濫用問題。
為什麼重要
模型蒸餾本身不是新概念，但當對象是閉源 frontier model、攻擊目標是推理與代理能力時，它就變成 AI 產業版的技術外流與供應鏈安全問題 。如果競爭者能用查詢大量複製 frontier model 的高價能力，領先實驗室的訓練成本、資料優勢與產品護城河會被壓縮；同時，被蒸餾出的能力可能進一步用於網攻、自動化詐欺或其他高風險用途。
這也使「開放 API」與「防蒸餾」之間的矛盾更尖銳。AI 公司一方面要讓開發者、企業與研究者能高頻使用模型；另一方面又要判斷哪些查詢是在正常使用、哪些是在系統性抽取能力。當攻擊者可把請求偽裝成翻譯、資料處理、程式分析等日常任務時，單靠內容過濾很難解決。
我的觀點
這件事預示 frontier model 的安全邊界會從「輸出不要有害」擴展到 能力不可被低成本複製 。未來 API 供應商可能更依賴行為風控、查詢分佈偵測、水印式能力追蹤、rate limit、企業 KYC 與模型輸出降敏。對開發者而言，這可能意味著高階推理與 agent 功能的 API 使用會更受限制；對產業而言，模型競爭正在從單純 benchmark 競賽走向情報、安全與地緣政治混合戰。
↑ 回頂端
3. 數學家要求 OpenAI 證明沒有使用他們的未公開研究
📰 The Verge AI | 2026-09-10
Mathematicians want proof OpenAI didn’t use their work 原文 ↗ 核心內容
The Verge 報導，OpenAI 宣布多項重大數學成果後，數學社群對其訓練資料與研究流程透明度提出更尖銳質疑。繼 NYU 數學教授 Tristan Buckmaster 質疑 OpenAI 模型是否受其使用 Codex 影響後，數學家 Andreas Thom 也公開指控 OpenAI 在資料來源問題上不透明甚至「dishonest」。Thom 的專長領域之一是 non-sofic groups，而 OpenAI 宣布的十項成果中有一項與此高度相關，且公司後來承認該結果大量建立在 Thom 與 Gábor Kun 的既有工作上。
Thom 的核心疑問是，他與同事過去和 ChatGPT 的互動是否可能被納入訓練資料，或被模型推理流程間接利用。OpenAI 研究者的回覆未能讓他滿意，因為對方只回答了特定對話是否被直接存取，沒有明確說明去識別化的使用資料是否進入模型改進流程。The Verge 引述 Thom 的觀點指出，去識別化不會移除數學想法本身的智識內容 ；如果非公開研究想法被用來強化模型，再由公司與原研究者競速發表，將在倫理上非常有問題。
這場爭議發生在 OpenAI 聲稱解出 Navier-Stokes 等重大數學問題之後。OpenAI 公開否認研究團隊或代理系統在解題前接觸特定使用者資料，但同時承認無法完全排除「去識別化資料衍生自產品使用」曾改善模型的可能性。對數學家來說，這種模糊區分無法消除疑慮，尤其當模型展現出對特定技術路線的精準掌握時。
為什麼重要
這篇報導觸及 AI 時代科學研究的根本問題：誰擁有互動中產生的未公開知識？ 對一般文字或程式碼而言，資料授權已經很複雜；對數學研究而言，關鍵價值可能不是完整論文，而是使用者在對話中透露的 conjecture、證明路線、失敗嘗試與技術直覺。這些內容即使去除姓名，仍可能是高度有價值的研究資產。
如果研究者開始擔心和 AI 工具互動會讓自己的未公開成果被模型吸收，再由大型實驗室用更大算力、更快代理系統搶先發表，學術交流可能變得更封閉。The Verge 報導也提到，多位研究者擔心數學領域會因這類事件變得更祕密化，這將削弱開放討論、預印本文化與跨機構合作。
我的觀點
OpenAI 在數學突破上的技術成就若被驗證，確實可能是 AI for science 的里程碑；但真正的信任危機在於 資料治理與成果歸屬 。未來面向研究者的 AI 工具需要比一般消費產品更嚴格：預設不訓練、可審計的資料邊界、可證明刪除、研究模式隔離，甚至第三方驗證。否則 AI 實驗室越成功，越會被懷疑是用使用者的未公開智識資產替自己加速。
↑ 回頂端
4. Meta Muse AI 助理登上美國 App Store 第二名，但隱私感令人不安
📰 The Verge AI / TechCrunch AI | 2026-09-10
Meta’s Muse AI works and creeps me out / Meta’s AI agent Muse is now the No. 2 app in the US 原文 ↗ 核心內容
Meta 新推出的 AI agent 應用 Muse 迅速登上美國 iOS App Store 排行第二。TechCrunch 引述 Sensor Tower 數據指出，Muse 在美國 iOS 已有超過 83,000 次下載 ，但和 Meta 其他大型產品首發相比仍偏慢：Threads 美國首日下載超過 430 萬，Meta AI app 首發約 10.8 萬；ChatGPT 在美國上線不到一週就超過 50 萬次安裝。Muse 目前主要限美國，Android 表現也較弱，Google Play 生產力分類僅排到第 338 名。
The Verge 的實測則呈現 Muse 的能力與疑慮。Muse 可透過雲端虛擬電腦替使用者執行任務，例如清理 Gmail、協助 Amazon 購物、生成 podcast、圖片、影片與互動式 artifact。實測中，它成功刪除大量促銷郵件、依指定條件購買運動背心，也會注意到購物車中不相關商品並詢問是否移除，顯示其低風險任務自動化已有一定可用性。
但更引人注意的是 個人資料存取深度 。The Verge 作者讓 Muse 根據個人興趣生成 feed 後，Muse 不只使用 Amazon 配送地址推斷所在地新聞，還能列出與 Instagram / Facebook 帳號相關的具體興趣，如動漫、CrossFit、拉布拉多犬、佛州野生動物與 90/2000 年代懷舊。Muse 甚至稱這些資料來自 Instagram 的 API 資料，且比使用者在 app UI 中能看到的廣告主題更細。Meta 表示 Muse 只與第三方 app 交換「為完成任務所需」資料，且不與廣告主分享資訊，但 The Verge 仍認為這種資料透明度不足。
為什麼重要
Muse 是大型社群平台把 consumer agent 推向主流的早期測試。與 ChatGPT 類聊天產品相比，agent 的核心差異是它會要求存取 Gmail、Amazon、社群帳號、支付與購物流程，並在背景替使用者執行行動。這讓產品價值更高，也讓信任門檻急劇上升。對 Meta 這類以廣告與社群資料起家的公司而言，真正挑戰不是能不能完成任務，而是使用者是否願意讓它進入最私密的數位生活層。
市場數據也值得注意：Muse 進榜代表消費者對 agent 有興趣，但首發規模明顯低於 Threads 或 ChatGPT，說明 agent 仍未形成真正爆發式 adoption 。原因可能包括使用場景還不夠清晰、使用者對授權資料有疑慮、以及背景代辦任務一旦出錯成本比聊天回答錯誤更高。
我的觀點
Muse 的案例說明下一代 AI app 競爭不只是模型能力，而是 信任、權限與可控性設計 。我預期 consumer agent 會逐步採用更細緻的授權：一次性權限、任務沙盒、操作前預覽、敏感資料遮罩、可回放的行動紀錄，以及「資料來源解釋」。Meta 若想讓 Muse 成為主流，必須把「它知道我什麼、從哪裡知道、能不能禁止」做成一等公民，而不是讓使用者在驚訝中發現 agent 比自己更了解自己的帳號資料。
↑ 回頂端
5. OpenAI 在 ChatGPT Work 推出 Data agent，讓企業用自然語言分析內部資料
📰 OpenAI Blog | 2026-09-10
Now everyone can put data to work 原文 ↗ 核心內容
OpenAI 宣布在 ChatGPT Work 中推出新的 Data agent，目標是讓企業使用者用自然語言連接公司資料、調查指標變化、生成互動式 dashboard，並把分析結果轉化為下一步行動。OpenAI 的說法是，使用者可詢問「為什麼銷售放緩」「哪裡支出上升」「哪些問題威脅大客戶續約」等問題，不必寫 SQL 或學新 BI 工具，就能在對話中引導分析。
Data agent 支援連接多種企業資料源，包括 Amazon Redshift、Google BigQuery、ClickHouse、Databricks、MongoDB、Snowflake 等，也可納入 Google Drive 與 SharePoint 文件。它會利用組織內既有的 business terms、metric definitions、custom calculations 與 data relationships 來理解資料語義；這些上下文可來自 Databricks Genie Ontology、dbt、GitHub、Snowflake Horizon 與既有 BI dashboard。
權限方面，OpenAI 表示企業管理員可選擇可用資料連線與角色，查詢會遵守連接帳號既有權限，包括 table、row、column restrictions。Data agent 還能在 Omni、Oracle BI、Power BI、Sigma、Tableau、ThoughtSpot 等工具中建立或互動 dashboard，並可把結果透過 Slack 或 email 分享，在使用者核准後執行行動。OpenAI 稱其內部已有近全部產品團隊、超過三分之二 go-to-market 組織使用資料代理進行分析。
為什麼重要
這是 AI 從「回答問題」走向 企業資料操作層 的代表案例。過去企業 BI 的瓶頸常不是沒有資料，而是語義層分散、權限複雜、分析請求需要排隊、非技術團隊難以自助探索。若 Data agent 真能在權限、語義與引用可追溯前提下把資料分析轉成對話流程，將直接衝擊傳統 BI、analytics engineering 與資料團隊的工作分工。
但這類產品也有很高風險：企業資料通常包含財務、客戶、營運與人事資訊，錯誤分析可能導致錯誤決策；權限與語義層若設定不嚴，還可能造成資料越權或錯誤引用。OpenAI 強調 row/column restrictions 與 evidence review，正是因為 資料 agent 的可信度取決於治理，而不只是模型推理 。
我的觀點
Data agent 是 OpenAI 企業化策略的重要拼圖：一方面它把 ChatGPT Work 從通用助理推向具體業務流程，另一方面也讓 OpenAI 更深入企業資料棧。真正的勝負點會在三件事：能否正確理解公司特有指標、能否在分析中穩定引用可驗證來源、以及能否讓資料團隊保留治理權。我認為短期它最適合用於探索式分析與 dashboard 草稿；真正取代核心 BI 報表前，仍需要強制審核、測試與資料契約。
↑ 回頂端
