什麼是生成式基礎模型（GFM）？

打進一個問題，就能流暢地寫出回答的程式，現在很多人都在用。它通常被稱為「AI」（人工智慧），但《多元宇宙》這本書把它叫作「生成式基礎模型」（Generative Foundation Models，簡稱 GFM）。換個名字，是有明確理由的。

一句話說明

生成式基礎模型，是像 ChatGPT、Claude 這樣，從大量文字、圖像等例子中學習，產生文字、圖像、聲音的大型電腦程式[1]。「生成」是產生新東西，「基礎」表示它可以當作各種用途的底層。

書大多避免稱它為「AI」。書不把它當作機器獨自思考的存在，而是當作幫助人們跨越差異協作的工具[1]。

舉例來說

Anthropic 的「大家一起寫的憲法」（2023～24 年）。 書的 5-4 章寫道，像 Pol.is 這樣的系統，已被用於一些領先的大型基礎模型（如 Anthropic 的 Claude）的發展方向等主題的決策[2]。英文版說明，AI 公司 Anthropic 與非營利組織 Collective Intelligence Project 合作，用意見收集工具 Polis 收集引導模型行為的「憲法」（應遵守的原則）[2]。根據這項嘗試的論文，依美國成年人的組成（年齡、性別、收入、地區）選出的 1,002 人寫了 1,127 則陳述，投下 38,252 票[3]。→ 對齊大會

我城對談與東京都知事選舉（2024 年）。 書說，我城對談（Talk to the City）專案說明了如何用語言模型，來取代描述群體觀點的陳述列表，讓人們可以通過與互動代理對話來瞭解他們的觀點[4]。英文版還寫道，安野貴博的陣營用它把收到的意見視覺化；YouTube 上的 AI 分身「AIあんの」在 16 天內回答了約 7,400 個問題[4]，換算下來一天約 460 個。→ 安野貴博的 2024 年都知事選舉

用別人的聲音唱歌。 書介紹，音樂家 Holly Herndon、Mat Dryhurst 及其合作者利用 GFM，用不在場的歷史人物或其他人的聲音唱歌，也讓其他人用他們的聲音唱歌。書說：「在這個專案中，我們以簡單的方式混合了許多參與者的語音樣本，創建了用我們共同的聲音朗讀的音訊版本。」[5] → 創意協作

深入了解

為什麼不叫「AI」

書的 5-5 章說：「『人工智慧』一詞更多地是指一種願望，而不是指一套特定的工具。」[1]

20 世紀 70、80 年代的「老式 AI」（GOFAI），試圖把從專家那裡聽來的規則寫成層層巢狀的「決策樹」，將行政處理自動化，後來遇到了很大的障礙。書說，今天的 GFM 則是「根據實例，以概率的方式學習分類」，這一點決定性地不同[1]。

書也指出，GFM 有一種「有助於掩蓋創建條件的自主神祕性」[6]。英文版在這裡還寫道，書因此大多避免使用「AI」這個詞[6]。

「AI」是一種意識形態

這個態度的底子，是杰倫·拉尼爾（Jaron Lanier）與衛谷倫（E. Glen Weyl）2020 年的評論〈AI is an Ideology, Not a Technology〉（AI 是意識形態，不是技術）[7]。

兩人認為，「AI」不是指技術內容的詞，而是依看起來是不是需要智慧的工作這種人的感覺，把技術分類的詞。兩人舉分辨貓和狗的程式為例：與其說「機器學會了看」，也可以說成是許多人一起提供例子，第一次把貓和狗的區別嚴格定義了出來[7]。

任何智慧都不是完全獨立存在的，而是依賴別人建立的社會脈絡。兩人把這種看法稱為來自多元主義立場的異議[7]。拉尼爾 2023 年在《New Yorker》的文章，題目就是〈There Is No A.I.〉（AI 並不存在）[8]。

運作的大概

書的說明是：GFM「通常有數十億甚至數萬億個『節點』，它們相互接收輸入」，都是為了預測下一個單詞或圖像。基於這樣的過程，GFM 「能夠以快速擴展和基本可複製的方式，真實地再現出人類靈活分類、反應與推理能力」[1]。

書說：「GFM 的力量與其說源於『AI』，不如說源於其網絡化和概率性結構」，而這種結構也可以存在於人際關係網絡中[9]。

GFM 在書中扮演的角色

在書第 5 部的各章，GFM 以擴大協作的元件的身分登場。

• 5-1 章：以與想像力匹配的速度，生成我們思想的視覺呈現[10]。英文版還寫到能即時回應情緒與行動的虛擬環境。→ 後符號交流
• 5-3 章：「不僅翻譯語言，還能翻譯文化風格」；把我們的思想引向人類不太可能想到的方向；讓模擬人類社交媒體使用者的大型語言模型互動，測試動態消息演算法的影響[5]。
• 5-4 章：用語言模型解決廣泛傾聽的問題；以某個群體的文本訓練模型，讓它直接代表這個群體[4][11]。英文版還寫到即時向每位討論參與者提出有證據根據的建議。→ 擴增審議
• 5-5 章：作為行政流程的元件，接受多樣而非結構化的輸入，不必讓使用者填寫專門的表格也能回應[1]。→ 適應式行政

與權利的衝突

另一方面，在第 4 部，GFM 也以威脅的面貌出現。書說，GFM「可以輕鬆地模仿、修改內容」，讓身分方面的問題更為加劇[12]。→ 身分與人格權

書也寫道，線上廣泛共享的資訊構成了 GFM 的基礎，但用來訓練大型生成式基礎模型的資料集「至今仍未完整披露」，原本的創建者根本沒有意識到，更不用說同意了[13]。→ 資料尊嚴、財產與合約

是誰做出來的

書的 2-0 章指出：「儘管電腦最基礎的進步源於二戰和冷戰期間的民主國家政府，但政府現今在『基礎模型』這些革命性的電腦科學突破中幾乎完全沒有發揮作用。」書說，OpenAI 的創始人最初向公共資金尋求支持，屢次遭拒之後才轉向資本盈利導向的私人資助[14]。

爭議與批評

• 不透明、偏見與濫用。 書說，可能沒有任何一種技術的隱患和危險比它被討論得更多：「它們的不透明性、有助於掩蓋創建條件的自主神祕性、可能繼承其資料來源和創建者偏見的可能性以及濫用的可能性，所有這些都構成了重大危險。」用在行政上，「它們可以說進一步加劇了科層組織的不透明性」[6]。
• 審查與檢驗。 英文版 5-4 章寫道，人類能否真正檢驗能力更強的 GFM，是審議的一個限制；GFM 也可能盲目遵從指令，抹消特定觀點。書說，⿻ 的模型必須回應多樣而合理的答案，並依特定群體的情況調整[15]（目前的繁體中文版 5-4 章沒有這一段）。
• 創意變得千篇一律。 本應幫助協作的機制，可能把奇特的構想磨平成共識與可預測的東西。書也警告另一個危險：企業平台若挪用創作成果或將其變現，降低對創造力的激勵，「有可能扼殺創造力和多樣性這隻鵝，而創造力和多樣性，正是訓練 GFMs 的金蛋」[16]。
• 不叫「AI」只是文字遊戲？ 拉尼爾與衛谷倫認為，名稱會左右設計與責任的歸屬；「AI」的想法會讓人忽略人的責任。兩人還批評，「AI」是一種政治和社會的想法：少數技術專家設計的技術應該取代人、而不是幫助人；它與專家統治和中央計畫的想法相呼應[7]。

在《Plurality》中的位置

書不把 GFM 當作唯一的主角，而是當作橫跨第 5 部各種協作形式的工具[1][4]。→ 協作技術

那麼，由誰、怎麼引導 GFM？書說，集體審議和決策方法，「都可以自然而然地應用於界定合法的權力分配，從而直接塑造 GFM 的治理、其創造的經濟價值的分配以及集體引導其行為符合公衆意願的方式」[6]。這個問題延續到書出版之後唐鳳（Audrey Tang）等人展開的討論。→ 仁工智慧、關懷六力、地神、反向對齊

延伸閱讀

1. 《多元宇宙》5-5〈適應式行政〉（中文，書）— https://www.plurality.net/v/chapters/5-5/zh-tw/
2. 《多元宇宙》5-4〈擴增審議〉（中文，書）— https://www.plurality.net/v/chapters/5-4/zh-tw/
3. Jaron Lanier & E. Glen Weyl, "AI is An Ideology, Not A Technology"（英文，評論，WIRED 2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
4. 《Plurality》英文版 5-4 "Augmented Deliberation"（英文，書）— https://www.plurality.net/v/chapters/5-4/eng/
5. Collective Constitutional AI 的論文（英文，論文）— https://arxiv.org/abs/2406.07814
6. Jaron Lanier, "There Is No A.I."（英文，文章，New Yorker 2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai

出處

1. 《多元宇宙》5-5〈適應式行政〉談 GFM 的段落 — https://www.plurality.net/v/chapters/5-5/zh-tw/ ［CC0］
2. 《多元宇宙》5-4〈擴增審議〉— https://www.plurality.net/v/chapters/5-4/zh-tw/ ；與 Collective Intelligence Project 合作的說明見英文版 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
3. Huang 等, "Collective Constitutional AI: Aligning a Language Model with Public Input"（2024）— https://arxiv.org/abs/2406.07814 ［CC BY 4.0］
4. 《多元宇宙》5-4 談語言模型的段落 — https://www.plurality.net/v/chapters/5-4/zh-tw/ ；安野陣營的例子見英文版 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
5. 《多元宇宙》5-3〈創意協作〉的條列 — https://www.plurality.net/v/chapters/5-3/zh-tw/ ［CC0］
6. 《多元宇宙》5-5「行政管理的局限」一節 — https://www.plurality.net/v/chapters/5-5/zh-tw/ ；避免使用「AI」一詞的說明見英文版 — https://www.plurality.net/v/chapters/5-5/eng/ ［CC0］
7. Jaron Lanier & E. Glen Weyl, "AI is An Ideology, Not A Technology"（WIRED，2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
8. Jaron Lanier, "There Is No A.I."（New Yorker，2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai
9. 《多元宇宙》5-5 談 GFM 結構的段落 — https://www.plurality.net/v/chapters/5-5/zh-tw/ ［CC0］
10. 《多元宇宙》5-1〈後符號交流〉— https://www.plurality.net/v/chapters/5-1/zh-tw/ ；英文版 "Post-symbolic communication tomorrow" — https://www.plurality.net/v/chapters/5-1/eng/ ［CC0］
11. 《多元宇宙》5-4 談群體代表的段落 — https://www.plurality.net/v/chapters/5-4/zh-tw/ ；即時建議的說明見英文版 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
12. 《多元宇宙》4-1〈身分與人格權〉— https://www.plurality.net/v/chapters/4-1/zh-tw/ ［CC0］
13. 《多元宇宙》4-4〈財產與合約〉— https://www.plurality.net/v/chapters/4-4/zh-tw/ ［CC0］
14. 《多元宇宙》2-0〈資訊技術與民主：日益擴大的鴻溝〉— https://www.plurality.net/v/chapters/2-0/zh-tw/ ［CC0］
15. 《Plurality》英文版 5-4 "Limits of augmented deliberation" 一節 — https://www.plurality.net/v/chapters/5-4/eng/ ［CC0］
16. 《多元宇宙》5-3「創意協作」的局限一節 — https://www.plurality.net/v/chapters/5-3/zh-tw/ ［CC0］