什麼是對齊大會(Alignment Assemblies)?
AI「可以回答什麼、應該拒絕什麼」,目前主要是由開發它的企業決定的。但 AI 關係到每個使用者的生活。既然如此,一般人不也應該參與決定嗎?對齊大會(Alignment Assemblies)就是想用實際的集會,來回答這個問題的嘗試。
一句話說明
在 AI 研究中,讓 AI 符合人的價值,稱為「對齊」(alignment)。對齊大會就是不讓對齊只在企業內部決定,而是召集一般人(assembly)來討論,再把結果送進 AI 企業和政府的決策[1][2]。
2023 年,美國的非營利組織集體智慧計畫(Collective Intelligence Project,CIP)發起了這項行動。臺灣的數位發展部(moda)也在同一年成為夥伴[1][2]。
舉例來說
Anthropic 與「大家一起寫的憲法」(2023 年)。 CIP 與 AI 公司 Anthropic,向具美國成年人代表性的樣本詢問「AI 應該怎麼表現」。使用的是讓人提出意見、投下贊成反對的工具 Polis。1,002 人寫了 1,127 則陳述,投了 38,252 票。從跨越不同立場群體都獲得支持的陳述中,做出「公眾的憲法」,並用它訓練語言模型(寫文章的 AI)。根據論文,這個模型比用 Anthropic 標準憲法訓練的模型,在全部 9 個社會面向上偏見都較小,而性能相當[3]。
臺灣:關於生成式 AI 的工作坊(2023 年)。 moda 在線上收集對生成式 AI 的意見(統計至 2023 年 8 月 1 日,有 403 人、8,591 次投票、126 則論述)。結果用把意見像地圖般呈現的工具我城對談整理,再以此為材料,由國立政治大學的團隊在臺北與臺南舉辦了共 95 人的實體工作坊[4][5]。
臺灣:「運用 AI 促進資訊完整性」公民審議大會(2024 年 3 月 23 日)。 透過政府官方的 111 簡訊平臺,隨機發送了 20 萬則邀請。從 1,760 份有效樣本中,依性別、年齡、居住地抽選,447 位公民分成 44 組在線上討論。主題是大型平臺如何運用 AI,在深偽(用 AI 做出的假影像)等威脅下維護資訊完整性。moda 寫道,這次的結果扣合了規範詐騙廣告與深偽廣告的打詐法案[6]。
運作方式
為什麼開始
CIP 的 Divya Siddarth 與 Saffron Huang 在 2023 年 5 月的發起文章中主張:把技術交給技術人員、要做什麼交給投資人、風險交給監管者——這種慣常的做法,對於像 AI 這樣影響整個社會的技術行不通[1]。交給市場,會偏向少數企業的利益;政策則又慢又粗略。所以兩人主張,必須把人們的意見,納入 AI 本身以及治理 AI 之機制的基礎[1]。
名稱也有含意:讓技術與人們的價值對齊(align),所以是 "alignment";召集一般人(assemble),所以是 "assemblies"[1]。發起團隊中也列有臺灣的唐鳳(Audrey Tang)[1]。
進行方式
CIP 在 2023 年 11 月的回顧中寫道,每一場大會一開始都會先決定四件事[7]:
- 想改變什麼(目標成果)
- 召集誰(相關的人們)
- 問什麼(討論的範圍)
- 怎麼進行(工具與程序)
特別重視的是,讓每場大會都連結到能夠實際產生影響的具體決策。工具以 Polis 等數位工具為主,也嘗試了和實體結合的形式[7]。
和誰一起做
截至 2023 年 11 月,CIP 已和英國政府的 AI 專責小組、OpenAI、Anthropic、臺灣的 moda 等合作或舉辦大會。和 OpenAI 與 Anthropic 合作的大會,各召集了約 1,000 人,年齡、性別、所得、地區的比例與美國人口相同[7]。
臺灣的想法
唐鳳在 2023 年 10 月與 OpenAI 的會面中主張,大會的最小單位應該是社群,而不是個人[8]。唐鳳的想法是,只把個人的聲音加總起來,就會失去社群互動之中的多元性[8]。在 2025 年 12 月的講座中,唐鳳這樣說明臺灣的大會:「我們的方式,對齊大會,從一方面看像是普通的公民大會。但從另一方面看,它也像是民調。所以你實際上可以不把它想成審議,而是一種民意調查,調查的對象不是個人,而是十人小組。」[9]
爭議與批評
- 停留在建議。 CIP 自己也承認,過去的參與式程序多半處於「建議」的位置,依賴相關方主動承諾,幾乎沒有產生追究責任的機制[7]。
- 數位參與的困難。 在和 OpenAI 的大會中,必須依方針改寫或刪除無意義、仇恨、離題或無法執行的陳述。CIP 也指出,依賴數位工具,會讓不熟悉工具的人被拋在後面[7]。
- 代表的是誰的聲音? 官方報告寫明,2023 年臺灣工作坊的參與者,多半是自願前來的人或受邀的專家,不代表整個社會[5]。2024 年的隨機邀請是一項改善,但發出 20 萬則簡訊,回應的只有 1,760 人,不到 1%[5]。
- 是「大會立了法」嗎? 日文書《廣泛傾聽》(DD2030 的有志成員著《政治・自治体・企業に広がるブロードリスニング》,2026 年)寫道,在 2024 年的大會上,85% 的市民支持平台應負起提升資訊完整性的主要責任,並連同 4 個月後打詐法律施行一事,把它描寫成討論推動了立法[5]。另一方面,唐鳳等人的關懷六力(6-Pack of Care)詞彙表則提醒:這場大會是在行政院法案已經在推動時,公開記錄了建議、建立了制度回應的途徑;它既不代表全體人口,也沒有制定法律[10]。
- 可以把討論交給 AI 嗎? 唐鳳在 2025 年的講座中提到一項研究:個別訪談人們、建立他們的數位孿生,讓它們彼此審議。唐鳳說:「如果我們只是依賴把審議委派給機器人,這就像派我們的機器人去健身房替我們舉重。」[9] 大會被定位為公民自己鍛鍊的「公民健身房」[9]。
在《Plurality》中的位置
《多元宇宙》在 2-2 章〈數位民主的日常〉中,把對齊大會列為臺灣的實踐之一:「臺灣率先召開,廣納公民共同參與 AI 基礎模型的監管和指導,這個模式已逐漸推廣到全球。」[11] 日文版譯作「アライメント集会」,繁體中文版譯作「對齊大會」[11][12]。詳見〈臺灣的數位民主〉。
書的 7-0 章〈政策〉也把它列為讓公眾參與技術決策的工具之一:「召開對齊大會,以及就技術發展方向進行其他數位增強的討論等等。」[13](日文版在這裡譯作「アライメント会議」。)
書出版之後,唐鳳等人的關懷六力把這種大會列入詞彙表,作為「工具」之一[10]。大會使用的 Polis 和我城對談,也是書中擴增審議的核心例子。就讓社會這一側為 AI 做好準備這一點來說,它也和反向對齊的想法相近。
延伸閱讀
- 數位發展部〈對齊大會 Alignment Assemblies〉(中文,官方頁面)— https://moda.gov.tw/major-policies/alignment-assemblies/1453
- 數位發展部〈「運用 AI 促進資訊完整性」公民審議大會〉(2024,中文,官方報告)— https://moda.gov.tw/major-policies/alignment-assemblies/2024-deliberative-assembly/1521
- 數位發展部〈AI 未來民主化審議式工作坊〉(2023,中文,官方報告)— https://moda.gov.tw/major-policies/alignment-assemblies/2023-ideathon/1459
- 唐鳳〈正命講座〉(2025-12-04,中文,逐字稿)— https://sayit.archive.tw/2025-12-04-%E6%AD%A3%E5%91%BD%E8%AC%9B%E5%BA%A7
- 《多元宇宙》2-2〈數位民主的日常〉「相關專案」(中文,書)— https://www.plurality.net/v/chapters/2-2/zh-tw/
- CIP, "We should all get to decide what to do about AI"(2023,英文,發起文章)— https://www.cip.org/blog/alignment
- CIP, "Alignment Assemblies: Nine Months In"(2023,英文,回顧)— https://www.cip.org/blog/alignment-assemblies-nine-months-in
- "Collective Constitutional AI: Aligning a Language Model with Public Input"(英文,論文)— https://arxiv.org/abs/2406.07814
出處
- CIP, "We should all get to decide what to do about AI"(2023-05-23)— https://www.cip.org/blog/alignment
- 數位發展部〈對齊大會 Alignment Assemblies〉— https://moda.gov.tw/major-policies/alignment-assemblies/1453
- Huang, Siddarth 等人, "Collective Constitutional AI: Aligning a Language Model with Public Input"(arXiv 2406.07814)— https://arxiv.org/abs/2406.07814 [CC BY 4.0]
- 數位發展部〈AI 未來民主化審議式工作坊〉(2023)— https://moda.gov.tw/major-policies/alignment-assemblies/2023-ideathon/1459
- 《ブロードリスニング》11.1〈台湾〉(日文)— https://github.com/digitaldemocracy2030/broad-listening-book/blob/f69c60c838a91b91668abf109d7093b240610139/11_01_%E5%8F%B0%E6%B9%BE.md [CC BY-NC 4.0]
- 數位發展部〈「運用 AI 促進資訊完整性」公民審議大會〉(2024)— https://moda.gov.tw/major-policies/alignment-assemblies/2024-deliberative-assembly/1521
- CIP, "Alignment Assemblies: Nine Months In"(2023-11-16)— https://www.cip.org/blog/alignment-assemblies-nine-months-in
- Audrey Tang, "Meeting with OpenAI"(2023-10-10,英文逐字稿)— https://archive.tw/2023-10-10-meeting-with-openai [CC0]
- 唐鳳〈正命講座〉(2025-12-04,逐字稿)— https://sayit.archive.tw/2025-12-04-%E6%AD%A3%E5%91%BD%E8%AC%9B%E5%BA%A7 [CC0]
- 6-Pack of Care 詞彙表 "Alignment Assembly"(英文)— https://civic.ai/glossary/ [CC0]
- 《多元宇宙》2-2〈數位民主的日常〉「相關專案」— https://www.plurality.net/v/chapters/2-2/zh-tw/ [CC0]
- 《Plurality》日文版 2-2〈デジタル民主主義の日常〉— https://www.plurality.net/v/chapters/2-2/jpn/ [CC0]
- 《多元宇宙》7-0〈政策〉— https://www.plurality.net/v/chapters/7-0/zh-tw/ [CC0]