アヴィヴ・オヴァジャ(Aviv Ovadya)ってどんな人?
SNS を開くと、怒りをあおる投稿ばかりが目に入る。そう感じたことはないでしょうか。多くの SNS は、反応が多い投稿ほど上に出すからです。この人は、その並べ方を「ふだん対立する人どうしが、そろって良いと言うもの」を上に出す形に変えよう、と提案してきました。
ひとことで言うと
アヴィヴ・オヴァジャ(Aviv Ovadya)は、SNS のおすすめの並べ方を、怒りを呼ぶものではなく、ふだん対立する人たちがともに良いと言うものを上に出すように変える「ブリッジング型ランキング(bridging-based ranking)」を 2022 年に名づけ、論文で提案した人です[1][2]。
あわせて、巨大な SNS の方針を、くじで選んだ市民の話し合いで決める「プラットフォーム民主主義」を唱え[3]、同じ考えを AI の統治にも広げています[4][5]。
Plurality とのかかわり
本の中の紹介。 本の 5-4 章「拡張熟議」は、意見を地図にする道具 Polis を、オヴァジャとルーク・ソーバーン(Luke Thorburn)が「集合応答システム」「橋渡しシステム」と呼ぶものの代表例として紹介しています。日本語版は二人を「一流の技術者」と呼び、脚注で二人の論文を挙げています[6]。
6-Pack of Care の用語集。 オードリー・タン らの 6-Pack of Care の用語集は、ブリッジング型ランキングを「2022 年に Aviv Ovadya が名づけた」考え方と説明し、オヴァジャの論文を参考文献に挙げています[2]。→ 6-Pack of Care
共著。 タン、ディヴィヤ・シッダールト、エレーヌ・ランデモアらと、2024 年の総説「AI and the Future of Digital Public Squares」を共著しています[7]。
経歴の一部。 2022 年、ハーバード大学ケネディ・スクールのベルファー・センターから論文「Bridging-Based Ranking」を出しました[1]。WIRED への寄稿では、GPT-4 の公開前に外部の検証役(レッドチーム)として OpenAI に招かれたと書いています[8]。2024 年 8 月には AI & Democracy Foundation を立ち上げたと告知しました[5]。
主な考え
ブリッジング。 オヴァジャとソーバーンは「橋渡しシステム」を、分断を越えて理解と信頼を高め、実りのある対立や話し合い、協力の余地をつくる仕組み、と定義しました。そのうえで、SNS のおすすめ、集合応答システム、人が進行する話し合いの三つを、どれも「人々の注意をどこに向けるか」を決める仕組みとしてまとめて捉えています[9][10]。→ ブリッジング
ブリッジング型ランキング。 反応の多さで並べる代わりに、ふだん意見の分かれる人たちのあいだで支持が重なるものを上に出す並べ方です。論文は、X(旧 Twitter)の Community Notes(当時は Birdwatch)や Polis を例に挙げています[1]。
集合応答システム。 ある集団にお題を出し、答えと評価を集めて、集団としての意見を浮かび上がらせる仕組みを、こう呼びました。2023 年の論文でその構造と原則を整理しています[11]。
プラットフォーム民主主義。 発言のルールのように意見が割れる方針を、会社のトップや党派的な政府の圧力ではなく、市民会議などの話し合いで決めよう、という提案です。韓国の原発政策やアイルランドの中絶をめぐる市民の話し合いを、うまくいった例として挙げています[3]。
バイオレット・チーミング。 AI の弱点を探す「レッドチーミング」に加えて、同じ AI を使い、被害を受けうる制度や公共の財産を守る道具を作ろう、という提案です[8]。
AI を民主的に治める。 「AI の民主化」という言葉には、使うこと・作ること・利益・統治の四つの意味があると区別しました(シッダールトらと共著)[12]。また、AI についての決定がどれだけ民主的かを段階で示す「Democracy Levels」という枠組みを提案しています[4]。→ Alignment Assemblies
もっと知りたい人へ
- Bridging Systems のサイト(英語・解説)— https://bridging.systems/
- 書籍『Plurality』5-4「Augmented Deliberation」(英語・本。日本語版は「拡張熟議」)— https://www.plurality.net/v/chapters/5-4/eng/
- 「Platform Democracy: a different way to govern」(英語・ブログ、2022)— https://reimagine.aviv.me/p/platform-democracy-a-different-way-to-govern
- 「Bridging-Based Ranking」(英語・政策論文、2022)— https://www.belfercenter.org/publication/bridging-based-ranking
- 「Bridging Systems」(英語・論文、2023)— https://arxiv.org/abs/2301.09976
- 「Reimagining Democracy for AI」(英語・論文、Journal of Democracy、2023)— https://www.journalofdemocracy.org/articles/reimagining-democracy-for-ai/
出典
- Aviv Ovadya「Bridging-Based Ranking」(Belfer Center、2022)— https://www.belfercenter.org/publication/bridging-based-ranking [CC BY-NC 4.0]
- civic.ai 用語集 — https://civic.ai/glossary/ [CC0]
- Aviv Ovadya「Towards Platform Democracy」(Belfer Center、2021)— https://www.belfercenter.org/publication/towards-platform-democracy-policymaking-beyond-corporate-ceos-and-partisan-pressure
- 「Democracy Levels」の枠組み(2024)— https://arxiv.org/abs/2411.09222 [CC BY 4.0]
- Aviv Ovadya「AI & Democracy Foundation: founding and hiring」(2024-08)— https://reimagine.aviv.me/p/ai-and-democracy-foundation-founding-and-hiring
- 『Plurality』5-4「Augmented Deliberation」— https://www.plurality.net/v/chapters/5-4/eng/ [CC0]
- 「AI and the Future of Digital Public Squares」(2024)— https://arxiv.org/abs/2412.09988 [CC BY-SA 4.0]
- Aviv Ovadya「Red Teaming Improved GPT-4. Violet Teaming Goes Even Further」(WIRED、2023)— https://www.wired.com/story/red-teaming-gpt-4-was-valuable-violet-teaming-will-make-it-better/
- Ovadya, Thorburn「Bridging Systems」(2023)— https://arxiv.org/abs/2301.09976
- Bridging Systems — https://bridging.systems/ [MIT]
- Aviv Ovadya「'Generative CI' Through Collective Response Systems」(2023)— https://arxiv.org/abs/2302.00672
- Seger, Ovadya, Siddarth ほか「Democratising AI: Multiple Meanings」(2023)— https://arxiv.org/abs/2303.12642 [CC BY 4.0]
記事の間違いや、知りたいこと(「〜ってなに?」)を受け付けています。送られた内容は公開の issue になります。