from 日記2023-05-17 AI開発を止めることは米国の利益にならない、むしろ開発と規制の両軸で先導すべき
sla Sam Altmanが「AI開発は免許制にすべきと言った」というニュース、こういうのは日本語記事の見出しだけで類推すると誤解しがちなのでなるべく英語の詳細なソースに当たるようにしている。 OpenAI CEO Sam Altman Agrees AI Must Be Regulated | Time 今回はTIMESとForbesを読んだけど、やはりニュアンスは異なる（続）
sla この米議会の公聴会でSamが提案したのは以下の3つ。 ・「一定以上の機能・権限を持つ」AIモデル開発の免許制度 ・そのような高機能AIの安全性基準の策定（自己複製や移転の禁止など） ・開発者とも国とも独立した第三者専門家機関による監査 一方でAIモデルの透明性の担保については名言を避けた。
sla 公聴会には他にNY大学のGary Marcus教授とIBMのC. Montogomery (Chief Privacy & Trust Officer)も呼ばれており、彼/彼女らは透明性についても規制すべきという意見だった。
SamもOpenAIを含むAI企業が、コンテンツ作成者に学習データからのオプトアウトを提供すべきという点には合意した。
sla AI開発を止めることは米国の利益にならない、むしろ開発と規制の両軸で先導すべきというのは3者一致した意見だった。
議員から「民間側が技術の危険性を認めて規制に賛成するのは前例が思いつかない」という声もあり激しい意見対立は無かった。一方で技術や法規制でお互いの理解ギャップはあった。
sla 来年大統領選を控えているため、議員達は選挙への悪影響を特に気にしていた（過去SNSの濫用を防げなかった自戒も含め）
今回の公聴会は第一歩に過ぎないということで、今後もAI法規制のあり方については議論を続けていくことでは双方が合意している。
sla 規制の必要性で全員が一致しているので「OpenAIのポジショントーク」には当たらないだろう。「大企業だけを利する規制ではダメ」とも言っているし。
リスクの高いAIは誰が作るにせよ制限は必要だし、そうでなければオープンソースや自由な競争は制限されない。
Forbes。 OpenAI’s Sam Altman To Congress: Regulate Us, Please!
