什么是生成式基础模型（GFM）？

打进一个问题，就能流畅地写出回答的程式，现在很多人都在用。它通常被称为「AI」（人工智能），但《多元宇宙》这本书把它叫作「生成式基础模型」（Generative Foundation Models，简称 GFM）。换个名字，是有明确理由的。

一句话说明

生成式基础模型，是像 ChatGPT、Claude 这样，从大量文字、图像等例子中学习，产生文字、图像、声音的大型电脑程式[1]。「生成」是产生新东西，「基础」表示它可以当作各种用途的底层。

书大多避免称它为「AI」。书不把它当作机器独自思考的存在，而是当作帮助人们跨越差异协作的工具[1]。

举例来说

Anthropic 的「大家一起写的宪法」（2023～24 年）。 书的 5-4 章写道，像 Pol.is 这样的系统，已被用于一些领先的大型基础模型（如 Anthropic 的 Claude）的发展方向等主题的决策[2]。英文版说明，AI 公司 Anthropic 与非营利组织 Collective Intelligence Project 合作，用意见收集工具 Polis 收集引导模型行为的「宪法」（应遵守的原则）[2]。根据这项尝试的论文，依美国成年人的组成（年龄、性别、收入、地区）选出的 1,002 人写了 1,127 则陈述，投下 38,252 票[3]。→ 对齐大会

我城对谈与东京都知事选举（2024 年）。 书说，我城对谈（Talk to the City）项目说明了如何用语言模型，来取代描述群体观点的陈述列表，让人们可以通过与互动代理对话来了解他们的观点[4]。英文版还写道，安野贵博的阵营用它把收到的意见视觉化；YouTube 上的 AI 分身「AIあんの」在 16 天内回答了约 7,400 个问题[4]，换算下来一天约 460 个。→ 安野贵博的 2024 年都知事选举

用别人的声音唱歌。 书介绍，音乐家 Holly Herndon、Mat Dryhurst 及其合作者利用 GFM，用不在场的历史人物或其他人的声音唱歌，也让其他人用他们的声音唱歌。书说：「在这个项目中，我们以简单的方式混合了许多参与者的语音样本，创建了用我们共同的声音朗读的音讯版本。」[5] → 创意协作

深入了解

为什么不叫「AI」

书的 5-5 章说：「『人工智能』一词更多地是指一种愿望，而不是指一套特定的工具。」[1]

20 世纪 70、80 年代的「老式 AI」（GOFAI），试图把从专家那里听来的规则写成层层巢状的「决策树」，将行政处理自动化，后来遇到了很大的障碍。书说，今天的 GFM 则是「根据实例，以概率的方式学习分类」，这一点决定性地不同[1]。

书也指出，GFM 有一种「有助于掩盖创建条件的自主神秘性」[6]。英文版在这里还写道，书因此大多避免使用「AI」这个词[6]。

「AI」是一种意识形态

这个态度的底子，是杰伦·拉尼尔（Jaron Lanier）与卫谷伦（E. Glen Weyl）2020 年的评论〈AI is an Ideology, Not a Technology〉（AI 是意识形态，不是技术）[7]。

两人认为，「AI」不是指技术内容的词，而是依看起来是不是需要智慧的工作这种人的感觉，把技术分类的词。两人举分辨猫和狗的程式为例：与其说「机器学会了看」，也可以说成是许多人一起提供例子，第一次把猫和狗的区别严格定义了出来[7]。

任何智慧都不是完全独立存在的，而是依赖别人建立的社会脉络。两人把这种看法称为来自多元主义立场的异议[7]。拉尼尔 2023 年在《New Yorker》的文章，题目就是〈There Is No A.I.〉（AI 并不存在）[8]。

运作的大概

书的说明是：GFM「通常有数十亿甚至数万亿个『节点』，它们相互接收输入」，都是为了预测下一个单词或图像。基于这样的过程，GFM 「能够以快速扩展和基本可复制的方式，真实地再现出人类灵活分类、反应与推理能力」[1]。

书说：「GFM 的力量与其说源于『AI』，不如说源于其网络化和概率性结构」，而这种结构也可以存在于人际关系网络中[9]。

GFM 在书中扮演的角色

在书第 5 部的各章，GFM 以扩大协作的元件的身分登场。

• 5-1 章：以与想像力匹配的速度，生成我们思想的视觉呈现[10]。英文版还写到能即时回应情绪与行动的虚拟环境。→ 后符号交流
• 5-3 章：「不仅翻译语言，还能翻译文化风格」；把我们的思想引向人类不太可能想到的方向；让模拟人类社交媒体用户的大型语言模型互动，测试动态消息算法的影响[5]。
• 5-4 章：用语言模型解决广泛倾听的问题；以某个群体的文本训练模型，让它直接代表这个群体[4][11]。英文版还写到即时向每位讨论参与者提出有证据根据的建议。→ 扩增审议
• 5-5 章：作为行政流程的元件，接受多样而非结构化的输入，不必让用户填写专门的表格也能回应[1]。→ 适应式行政

与权利的冲突

另一方面，在第 4 部，GFM 也以威胁的面貌出现。书说，GFM「可以轻松地模仿、修改内容」，让身分方面的问题更为加剧[12]。→ 身分与人格权

书也写道，线上广泛共享的资讯构成了 GFM 的基础，但用来训练大型生成式基础模型的资料集「至今仍未完整披露」，原本的创建者根本没有意识到，更不用说同意了[13]。→ 资料尊严、财产与合约

是谁做出来的

书的 2-0 章指出：「尽管电脑最基础的进步源于二战和冷战期间的民主国家政府，但政府现今在『基础模型』这些革命性的电脑科学突破中几乎完全没有发挥作用。」书说，OpenAI 的创始人最初向公共资金寻求支持，屡次遭拒之后才转向资本盈利导向的私人资助[14]。

争议与批评

• 不透明、偏见与滥用。 书说，可能没有任何一种技术的隐患和危险比它被讨论得更多：「它们的不透明性、有助于掩盖创建条件的自主神秘性、可能继承其资料来源和创建者偏见的可能性以及滥用的可能性，所有这些都构成了重大危险。」用在行政上，「它们可以说进一步加剧了科层组织的不透明性」[6]。
• 审查与检验。 英文版 5-4 章写道，人类能否真正检验能力更强的 GFM，是审议的一个限制；GFM 也可能盲目遵从指令，抹消特定观点。书说，⿻ 的模型必须回应多样而合理的答案，并依特定群体的情况调整[15]（目前的繁体中文版 5-4 章没有这一段）。
• 创意变得千篇一律。 本应帮助协作的机制，可能把奇特的构想磨平成共识与可预测的东西。书也警告另一个危险：企业平台若挪用创作成果或将其变现，降低对创造力的激励，「有可能扼杀创造力和多样性这只鹅，而创造力和多样性，正是训练 GFMs 的金蛋」[16]。
• 不叫「AI」只是文字游戏？ 拉尼尔与卫谷伦认为，名称会左右设计与责任的归属；「AI」的想法会让人忽略人的责任。两人还批评，「AI」是一种政治和社会的想法：少数技术专家设计的技术应该取代人、而不是帮助人；它与专家统治和中央计划的想法相呼应[7]。

在《Plurality》中的位置

书不把 GFM 当作唯一的主角，而是当作横跨第 5 部各种协作形式的工具[1][4]。→ 协作技术

那么，由谁、怎么引导 GFM？书说，集体审议和决策方法，「都可以自然而然地应用于界定合法的权力分配，从而直接塑造 GFM 的治理、其创造的经济价值的分配以及集体引导其行为符合公众意愿的方式」[6]。这个问题延续到书出版之后唐凤（Audrey Tang）等人展开的讨论。→ 仁工智慧、关怀六力、地神、反向对齐

延伸阅读

1. 《多元宇宙》5-5〈适应式行政〉（中文，书）— https://www.plurality.net/v/chapters/5-5/zh-tw/
2. 《多元宇宙》5-4〈扩增审议〉（中文，书）— https://www.plurality.net/v/chapters/5-4/zh-tw/
3. Jaron Lanier & E. Glen Weyl, "AI is An Ideology, Not A Technology"（英文，评论，WIRED 2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
4. 《Plurality》英文版 5-4 "Augmented Deliberation"（英文，书）— https://www.plurality.net/v/chapters/5-4/eng/
5. Collective Constitutional AI 的论文（英文，论文）— https://arxiv.org/abs/2406.07814
6. Jaron Lanier, "There Is No A.I."（英文，文章，New Yorker 2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai

出处

1. 《多元宇宙》5-5〈适应式行政〉谈 GFM 的段落 — https://www.plurality.net/v/chapters/5-5/zh-tw/
2. 《多元宇宙》5-4〈扩增审议〉— https://www.plurality.net/v/chapters/5-4/zh-tw/ ；与 Collective Intelligence Project 合作的说明见英文版 — https://www.plurality.net/v/chapters/5-4/eng/
3. Huang 等, "Collective Constitutional AI: Aligning a Language Model with Public Input"（2024）— https://arxiv.org/abs/2406.07814
4. 《多元宇宙》5-4 谈语言模型的段落 — https://www.plurality.net/v/chapters/5-4/zh-tw/ ；安野阵营的例子见英文版 — https://www.plurality.net/v/chapters/5-4/eng/
5. 《多元宇宙》5-3〈创意协作〉的条列 — https://www.plurality.net/v/chapters/5-3/zh-tw/
6. 《多元宇宙》5-5「行政管理的局限」一节 — https://www.plurality.net/v/chapters/5-5/zh-tw/ ；避免使用「AI」一词的说明见英文版 — https://www.plurality.net/v/chapters/5-5/eng/
7. Jaron Lanier & E. Glen Weyl, "AI is An Ideology, Not A Technology"（WIRED，2020）— https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/
8. Jaron Lanier, "There Is No A.I."（New Yorker，2023）— https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai
9. 《多元宇宙》5-5 谈 GFM 结构的段落 — https://www.plurality.net/v/chapters/5-5/zh-tw/
10. 《多元宇宙》5-1〈后符号交流〉— https://www.plurality.net/v/chapters/5-1/zh-tw/ ；英文版 "Post-symbolic communication tomorrow" — https://www.plurality.net/v/chapters/5-1/eng/
11. 《多元宇宙》5-4 谈群体代表的段落 — https://www.plurality.net/v/chapters/5-4/zh-tw/ ；即时建议的说明见英文版 — https://www.plurality.net/v/chapters/5-4/eng/
12. 《多元宇宙》4-1〈身分与人格权〉— https://www.plurality.net/v/chapters/4-1/zh-tw/
13. 《多元宇宙》4-4〈财产与合约〉— https://www.plurality.net/v/chapters/4-4/zh-tw/
14. 《多元宇宙》2-0〈资讯技术与民主：日益扩大的鸿沟〉— https://www.plurality.net/v/chapters/2-0/zh-tw/
15. 《Plurality》英文版 5-4 "Limits of augmented deliberation" 一节 — https://www.plurality.net/v/chapters/5-4/eng/
16. 《多元宇宙》5-3「创意协作」的局限一节 — https://www.plurality.net/v/chapters/5-3/zh-tw/