什麼是集體智慧計畫(Collective Intelligence Project,CIP)?
AI 應該如何表現,目前主要是由打造 AI 的公司決定。可是受到 AI 影響的,是我們每一個人。「能不能由一般人的討論,來決定 AI 的方向?」集體智慧計畫(Collective Intelligence Project,CIP)就是想用實際的機制回答這個問題的團體。
一句話說明
集體智慧計畫(CIP;《Plurality》日文版直接使用英文原名[1])是非營利團體。它研究並實際試行一些機制,讓 AI 這類大幅改變社會的技術「要怎麼打造、怎麼使用」,不只由少數企業或專家、也能由一般人的討論來決定[2][3]。
它在 2022 年底由 Divya Siddarth 與 Saffron Huang 創立[2][3]。
舉例來說
對齊大會(2023 年~)。 請一般人聚在一起討論「AI 應該如何表現」,再把結果傳達到 AI 企業與政府決策的做法。到 2023 年 11 月為止,CIP 已與英國政府的 AI 專家小組、OpenAI、Anthropic、臺灣的數位發展部等合作或實施[4]。臺灣的數位發展部在 2023 年 5 月成為 CIP 的正式合作夥伴[5]。詳見〈對齊大會〉。
Collective Constitutional AI(2023 年,與 Anthropic 合作)。 以能代表約 1,000 名美國成年人的方式選出人們,用整理意見的工具 Polis 詢問他們希望 AI 聊天機器人如何表現。再用據此製作的「大家的憲法」(AI 行為的規則),訓練實驗用的 AI[6]。
CIP 報告說,這個「大家的憲法」的 AI 在許多種類的偏見上偏差較小,數學與語言理解等能力則和標準的 AI 沒有差別[6]。
Global Dialogues 與 Weval(2025 年~)。 CIP 每兩個月向以能代表全世界的方式選出的人們,詢問與 AI 一起生活的情況。2025 年整理了對 70 個國家、6,000 人以上的 7 次調查,結果包括:58% 的人比起選舉產生的代表更信任 AI 聊天機器人;67% 的人至少每月一次用 AI 作為心靈支柱等[7]。
CIP 也打造了「Weval」,讓人們自己製作並分享依地區或領域評估 AI 的方法[8]。
深入了解
名字與開端
Siddarth 在 TED 演講中談到開端,大意是:與共同創辦人 Huang 一起辭去 Google DeepMind 與 Microsoft 的職位,成立了一個非營利團體,要打造民主治理變革性技術的新模式;取這個名字,是想表達持續培育讓大家都變得富足的集體智慧[3]。Siddarth 在 2025 年時擔任執行長[2]。
同時滿足三者的「第四條路」
CIP 的創立文件(白皮書)整理了關於如何對待大幅改變社會之技術的各種想法。白皮書說,每個陣營都容易在「進步」「參與」「安全」三者中犧牲一個[9]。
- 犧牲安全的,是只求快速前進的資本主義加速。
- 犧牲參與的,是由少數專家或掌權者決定的技術官僚統治。
- 犧牲進步的,是大家一起停下來的停滯。
CIP 揭示的,是不屬於其中任何一者的「第四條路」:研究並打造同時滿足三者的集體智慧機制[9]。這裡所說的集體智慧,是指擴大群體設定共同目標、並為此合作之能力的決策技術、程序與制度;白皮書認為市場與國家的民主也是其中一種[9]。
兩根支柱
白皮書把最初要處理的範圍定為兩項[9]。
- 引出價值 — 讓彼此重疊之群體的分歧價值浮現出來,並加以整合。
- 重新打造技術的組織 — 打造能實際執行所匯集之價值的組織,例如為利潤設上限之公司的原型。
最初的計畫中,除了用公民會議決定 AI 用法的嘗試之外,也列出了支持 Polis、我城對談(Talk to the City)(用 AI 整理大量意見的工具)、RadicalxChange 等相近的嘗試[9]。
不是從個人,而是從群體出發
在 2025 年的 podcast 中,CIP 把與技術的互動「從個人轉向群體」列為原則之一,也介紹了「社群模型」的嘗試:由某個社群討論,把 AI 調整到符合自己的價值[2]。
經濟的研究
Siddarth、Matthew Prewitt 與衛谷倫(E. Glen Weyl)的論文公開在 CIP 的網站上。論文主張,比起一個一個提供,集中提供給大量的人反而更便宜、更有效的東西(「超模」的東西),無法用公或私的二分法處理,需要大家一起供給、一起治理的機制[10]。詳見〈超模〉。
爭議與批評
- 書的記述與一手資料的落差。 《Plurality》英文版 5-4 章寫道,Anthropic 與 CIP 合作,用 Polis 收集了引導「最近發布的 Claude3 模型」行為的憲法[11]。但 CIP 方面的一手資料寫的是,用大家的憲法訓練的是用來比較的實驗用 AI,並沒有寫它被用在 Claude 3 上[6][12]。唐鳳(Audrey Tang)在 2024 年 4 月的訪談中說:「Anthropic 最近才推出了 Claude 3 的 Opus……而這個 Opus 這個模型就是用我剛剛分享的那個連結,也就是群眾討論出來的憲法來幫助對齊。」[13] 是否用在 Claude 3 上,需要以 Anthropic 自己的發表來確認。
在《Plurality》中的位置
《Plurality》英文版 5-4 章〈擴增審議〉把 CIP 稱為「⿻ 的 NGO」[11]。除了上面與 Anthropic 的合作,書中也寫道,OpenAI 與 CIP 密切合作,推動收集對 AI 之民主意見的補助機制,並以此為基礎正在成立專門的團隊[11]。
英文版 7-0 章〈政策〉把對齊大會列為公眾親自參與技術決策的手段之一,並附上 CIP 頁面的連結[14]。英文版的 3-2、4-3、5-0 章,在說明超模時引用了 CIP 網站上的論文[15][16]。目前的繁體中文版 5-4、7-0 章沒有提到 CIP[17]。
CIP 的部落格也刊出了 Siddarth、衛谷倫與安·瑪麗·斯勞特(Anne-Marie Slaughter)的〈要網路社會,不要網路國家〉(We need network societies, not network states)[18]。這是對網路國家的批評。
唐鳳自稱 CIP 的資深研究員(Senior Research Fellow)[19]。唐鳳與 Caroline Green 的關懷六力(6-Pack of Care)用語集,把對齊大會列為 CIP 為其命名、塑造形式的工具,也介紹 CIP 的 Weval 是大家共享之評估的實例[20][21]。這條脈絡也在〈仁工智慧〉中介紹。
延伸閱讀
- 唐鳳〈商周四月專欄訪談唐鳳部長〉(2024-04-09,中文,逐字稿,談對齊大會與群眾制定的憲法)— https://sayit.archive.tw/2024-04-09-%E5%95%86%E5%91%A8%E5%9B%9B%E6%9C%88%E5%B0%88%E6%AC%84%E8%A8%AA%E8%AB%87%E5%94%90%E9%B3%B3%E9%83%A8%E9%95%B7%E9%80%90%E5%AD%97%E7%A8%BF
- 數位發展部「對齊大會」(中文,官方頁面)— https://moda.gov.tw/major-policies/alignment-assemblies/1453
- Divya Siddarth, "How AI and democracy can fix each other"(英文,演講,TED)— https://www.ted.com/talks/divya_siddarth_how_ai_and_democracy_can_fix_each_other
- 《Plurality》英文版 5-4 "Augmented Deliberation"(英文,書)— https://www.plurality.net/v/chapters/5-4/eng/
- CIP 白皮書(英文,文件)— https://www.cip.org/whitepaper
- CIP, "CIP and Anthropic launch Collective Constitutional AI"(英文,文章)— https://www.cip.org/blog/ccai
- CIP, "How the World Lives with AI"(英文,報告)— https://blog.cip.org/p/2025gdindex
出處
- 《PLURALITY》日文版 5-4「拡張熟議」— https://www.plurality.net/v/chapters/5-4/jpn/ [CC0]
- Computer Says Maybe, "The Collective Intelligence Project"(2025-05-30,podcast)— https://share.transistor.fm/s/bf0d5209
- Divya Siddarth, "How AI and democracy can fix each other"(TED,2023)— https://www.ted.com/talks/divya_siddarth_how_ai_and_democracy_can_fix_each_other [CC BY-NC-ND 4.0]
- CIP, "Alignment Assemblies: Nine Months In"(2023-11-16)— https://www.cip.org/blog/alignment-assemblies-nine-months-in
- 數位發展部「對齊大會」— https://moda.gov.tw/major-policies/alignment-assemblies/1453
- CIP, "CIP and Anthropic launch Collective Constitutional AI"(2023-10-17)— https://www.cip.org/blog/ccai
- CIP, "How the World Lives with AI"(Global Dialogues 2025,2026-01-21)— https://blog.cip.org/p/2025gdindex
- CIP, "Notes on building collective intelligence into evals"(2025-09-29)— https://blog.cip.org/p/notes-on-building-collective-intelligence
- CIP 白皮書(2023)— https://www.cip.org/whitepaper
- Divya Siddarth, Matthew Prewitt, Glen Weyl, "Beyond Public and Private: Collective Provision Under Conditions of Supermodularity" — https://cip.org/supermodular
- 《Plurality》英文版 5-4 "Augmented Deliberation" — https://www.plurality.net/v/chapters/5-4/eng/ [CC0]
- Collective Constitutional AI(FAccT 2024 論文)— https://arxiv.org/abs/2406.07814 [CC BY 4.0]
- 唐鳳〈商周四月專欄訪談唐鳳部長〉(2024-04-09,逐字稿)— https://sayit.archive.tw/2024-04-09-%E5%95%86%E5%91%A8%E5%9B%9B%E6%9C%88%E5%B0%88%E6%AC%84%E8%A8%AA%E8%AB%87%E5%94%90%E9%B3%B3%E9%83%A8%E9%95%B7%E9%80%90%E5%AD%97%E7%A8%BF [CC0]
- 《Plurality》英文版 7-0 "Policy" — https://www.plurality.net/v/chapters/7-0/eng/ [CC0]
- 《Plurality》英文版 5-0 "Collaborative Technology and Democracy" — https://www.plurality.net/v/chapters/5-0/eng/ [CC0]
- 《Plurality》英文版 4-3 "Commerce and Trust" — https://www.plurality.net/v/chapters/4-3/eng/ [CC0]
- 《多元宇宙》5-4〈擴增審議〉— https://www.plurality.net/v/chapters/5-4/zh-tw/ ;7-0〈政策〉— https://www.plurality.net/v/chapters/7-0/zh-tw/ [CC0]
- Divya Siddarth, Glen Weyl, Anne-Marie Slaughter, "We need network societies, not network states"(2024-05-20)— https://www.cip.org/blog/network-societies
- audreyt.org — https://audreyt.org/
- civic.ai Glossary — https://civic.ai/glossary/ [CC0]
- civic.ai Measures — https://civic.ai/measures/ [CC0]