社会信用システム

この話、そのあとどうなったんだろうな 2019 AIがあなたの信用度を判断、日本にも 中国では14億人を格付けへ：朝日新聞GLOBE＋

「社会信用システム」は中国国務院が2014年6月、社会規範の向上を旗印に打ち出したプロジェクトだ。目標年次は2020年。 14億人の国民を対象に「社会信用」のスコアを整備するというものだ。… スコアのポイントは、交通安全や納税から、ネット上での振る舞いまで幅広い。 ネットでフェイクニュースを流布させたことが認定されれば、「社会信用」は下がる。 「社会信用」が低い人物はブラックリスト化され、飛行機や列車の搭乗が拒否されるなどの制裁措置も科される。 中国の英字紙「グローバル・タイムズ」によれば、すでに2018年4月末までに、「社会信用」を理由として、1114万人が航空機の、425万人が高速列車の搭乗を拒否された、としている。 … 広く知られているのが、中国のネット通販最大手「アリババ」傘下の「アント・フィナンシャル」が提供する信用評価システム「芝麻（ジーマ）信用」だ。#芝麻信用 ネット上での購買履歴、支払い履歴、サービス利用履歴、さらには交友関係まで、様々なデータをAIが判断。950点～350点の範囲で信用度のスコアをつける。このデータ収集には、警察など公的機関の情報も含まれるとしている。 このスコアによって、ホテルやレンタカーのデポジット（保証金）が不要になるなどの特典を受けられるという。 …あらゆる振る舞いがデータ化され、スコア化されるという、『一九八四年』的な懸念は根強い。

社会信用スコア MIT Tech Review: 中国「社会信用スコア」への誤解はなぜ生まれたか？

• AIアルゴリズムが市民を評価するという試みは、中国のような権威主義的国家が進めるディストピア的な政策だと批判されることが多い。だが、実際に普及が進んでいるのは西側諸国だ。

• by Melissa Heikkilä 2023.01.04

  

• 米国とEUが社会信用スコアに反対で合意
• EUがAI法制定に向けて交渉中
• 中国の社会信用システムは現実と異なる認識
• アリババの「セサミ・クレジット」が誤解の原因
• 西側でも類似システムが存在

  • 例えばアムステルダムでは、当局がアルゴリズムを利用し、恵まれない地域に住む若者を犯罪者になる可能性に応じてランク付けしている。犯罪を未然に防ぎ、より良質で的を絞った支援を提供するのがその目的である、と当局は主張する。

• 欧米立法者がAIガバナンスに共通理解を求める必要
• 行政当局や企業のAI利用に対する誠実かつ徹底的な監査が必要