多元宇宙地图

Aviv Ovadya 是谁？

为「桥接」（把意见分歧的人都一致支持的东西排到前面）这个想法命名的技术者暨研究者，也研究、提倡用市民讨论来决定社交媒体与 AI 方针的方法。

打开社交媒体，映入眼帘的尽是煽动愤怒的贴文——你是否有过这种感觉？因为许多社交媒体，反应越多的贴文就排得越前面。Aviv Ovadya 一直提议，把这种排序方式，改成把「平常对立的人都一致说好的东西」排到前面。

一句话说明

Aviv Ovadya 是在 2022 年为「桥接式排序」（bridging-based ranking）命名、并以论文提出的人。这种排序方式，把社交媒体推荐内容的顺序，从引发愤怒的东西，改成把平常对立的人都认为好的东西排到前面[1][2]。

Ovadya 也提倡「平台民主」（platform democracy），也就是用抽签选出的市民进行讨论，来决定巨型社交媒体的方针[3]，并把同样的想法延伸到 AI 的治理[4][5]。

与《Plurality》的关系

书中的介绍。 书的 5-4 章〈扩增审议〉介绍把意见画成地图的工具 Polis。繁体中文版写道：「著名多元技术专家 Aviv Ovadya 和 Luke Thorbur，将 Pol.is 称之为『集体回应系统』」[6]（「Thorbur」是书中的拼法，指 Luke Thorburn）。英文版把 Polis 介绍为两人所说的「集体回应系统」与「桥接系统」（bridging systems）的代表例子，并在注脚中列出两人的论文；日文版称两人为「一流的技术者」[13]。

关怀六力的词汇表。 唐凤（Audrey Tang）等人的关怀六力（6-Pack of Care）词汇表，把桥接式排序说明为「由 Aviv Ovadya 在 2022 年命名」的做法，并把 Ovadya 的论文列为参考文献[2]。→ 关怀六力

共同著作。 Ovadya 与唐凤、Divya Siddarth、Hélène Landemore 等人，共同撰写了 2024 年的综述论文 "AI and the Future of Digital Public Squares"[7]。

部分经历。 2022 年，Ovadya 从哈佛大学甘迺迪学院的贝尔弗中心（Belfer Center）发表论文 "Bridging-Based Ranking"[1]。Ovadya 在给 WIRED 的投稿中写道，自己在 GPT-4 公开之前，被 OpenAI 邀请担任外部的检验者（红队）[8]。2024 年 8 月，Ovadya 宣布成立 AI & Democracy Foundation[5]。

主要想法

桥接。 Ovadya 与 Thorburn 把「桥接系统」定义为：跨越分裂、增进理解与信任，为有益的对立、讨论与合作创造空间的机制。进一步，两人把社交媒体的推荐、集体回应系统，以及由人主持的讨论三者，都看作决定「人们的注意力要往哪里去」的机制，放在一起理解[9][10]。→ 桥接

桥接式排序。 不依反应的多寡排序，而把平常意见分歧的人之间支持重叠的东西排到前面。论文举了 X（原 Twitter）的社群备注（当时叫 Birdwatch）与 Polis 为例[1]。

集体回应系统。 Ovadya 用这个名字称呼这样的机制：向某个群体出题，收集回答与评价，让群体的意见浮现出来。2023 年的论文整理了它的结构与原则[11]。

平台民主。 这是一个提议：像发言规则这种意见分歧的方针，不交给公司高层或带党派色彩的政府施压来决定，而是用市民会议等讨论来决定。Ovadya 举了韩国的核电政策与爱尔兰的堕胎议题的市民讨论，作为成功的例子[3]。

紫队（violet teaming）。 这是一个提议：除了找出 AI 弱点的「红队」演练，也用同样的 AI 做出保护可能受害之制度与公共财的工具[8]。

用民主方式治理 AI。 Ovadya 区分出「AI 的民主化」一词有四种意思：使用、开发、利益与治理（与 Siddarth 等人合著）[12]。Ovadya 也提出了用等级表示关于 AI 的决定有多民主的框架「Democracy Levels」[4]。→ 对齐大会

延伸阅读

  1. 《多元宇宙》5-4〈扩增审议〉（中文，书）— https://www.plurality.net/v/chapters/5-4/zh-tw/
  2. Bridging Systems 网站（英文，解说）— https://bridging.systems/
  3. "Platform Democracy: a different way to govern"（英文，博客，2022）— https://reimagine.aviv.me/p/platform-democracy-a-different-way-to-govern
  4. "Bridging-Based Ranking"（英文，政策论文，2022）— https://www.belfercenter.org/publication/bridging-based-ranking
  5. "Bridging Systems"（英文，论文，2023）— https://arxiv.org/abs/2301.09976
  6. "Reimagining Democracy for AI"（英文，论文，Journal of Democracy，2023）— https://www.journalofdemocracy.org/articles/reimagining-democracy-for-ai/

出处

  1. Aviv Ovadya, "Bridging-Based Ranking"（Belfer Center，2022）— https://www.belfercenter.org/publication/bridging-based-ranking
  2. civic.ai 词汇表 — https://civic.ai/glossary/
  3. Aviv Ovadya, "Towards Platform Democracy"（Belfer Center，2021）— https://www.belfercenter.org/publication/towards-platform-democracy-policymaking-beyond-corporate-ceos-and-partisan-pressure
  4. "Democracy Levels" 框架（2024）— https://arxiv.org/abs/2411.09222
  5. Aviv Ovadya, "AI & Democracy Foundation: founding and hiring"（2024-08）— https://reimagine.aviv.me/p/ai-and-democracy-foundation-founding-and-hiring
  6. 《多元宇宙》5-4〈扩增审议〉— https://www.plurality.net/v/chapters/5-4/zh-tw/
  7. "AI and the Future of Digital Public Squares"（2024）— https://arxiv.org/abs/2412.09988
  8. Aviv Ovadya, "Red Teaming Improved GPT-4. Violet Teaming Goes Even Further"（WIRED，2023）— https://www.wired.com/story/red-teaming-gpt-4-was-valuable-violet-teaming-will-make-it-better/
  9. Ovadya, Thorburn, "Bridging Systems"（2023）— https://arxiv.org/abs/2301.09976
  10. Bridging Systems — https://bridging.systems/
  11. Aviv Ovadya, "'Generative CI' Through Collective Response Systems"（2023）— https://arxiv.org/abs/2302.00672
  12. Seger, Ovadya, Siddarth 等, "Democratising AI: Multiple Meanings"（2023）— https://arxiv.org/abs/2303.12642
  13. 《Plurality》英文版 5-4 "Augmented Deliberation" — https://www.plurality.net/v/chapters/5-4/eng/ ；日文版 5-4「拡张熟议」— https://www.plurality.net/v/chapters/5-4/jpn/
相关: 什么是桥接（bridging）？ ・ 什么是 Polis？ ・ 什么是社群备注（Community Notes）？ ・ 什么是扩增审议？ ・ 什么是对齐大会（Alignment Assemblies）？ ・ 什么是利社会媒体（prosocial media）？ ・ Divya Siddarth 是谁？ ・ Colin Megill 是谁？

欢迎回报文章错误或提出想知道的问题（「什么是…？」）。送出的内容会成为公开的 issue。

回报本文错误 ・ 提问