解説: ふとおもった疑問に対してChatGPTでGPT4に質問して、omniがそのやりとりを元にRAGしている(HyDE的な感じ)
- 検索してから検索にヒットした内容を元に回答している
- 友人がScrapboxに気になったTweetをクリップしてあるものがヒットし、それを踏まえた回答が生成されている
- そのomniの「反論」をみて、人間から言葉が引き出されている
AIが存在しない時代の賢者と、AIが存在する時代の賢者には何らかの差があるように思う。それは何か？
AIが存在しない時代の賢者は、情報のアクセスや分析手段が限られていたので、多くの場合、直感や経験、伝統に依存していました。一方で、AIが存在する現代の賢者は、大量のデータを迅速に分析し、より科学的な根拠に基づいた知識や洞察を得ることができます。
しかし、賢さの本質—つまり、深い洞察力や人々に影響を与える能力、良い判断力など—は時代を超えて一貫しているとも言えます。AIがあっても、人間の感性や倫理、哲学的思考は依然として重要です。
ノートと”tkgshn/AIは責任を取れない”フラグメントは、AIの存在が人間の思考や判断にどのように影響を与えるかについて関連性がある。AIは情報を提供し、分析する能力があるが、それによって人間の思考が偏る可能性があると指摘している。また、AIは責任を取る能力がないため、その結果に対する責任は人間が負うべきであると述べている。
from /tkgshn/AIは責任を取れない
@satetu4401: 現状のAIはメチャクチャ賢いものの、肉体がなく自然淘汰に晒されていないため「地球上において正しい答え」という物を持たないという知性としての致命的な欠陥も抱えている AIの生存淘汰は人間に好まれるかどうかが全てであり人間淘汰にのみ晒されているため「人間にとって望ましい解答」が洗練される 現状の AI は愚かな問いには愚か者が喜ぶ答えを返し、賢い者にも賢い者が望む答えを返してしまう 前者が危険なのは勿論、後者にも例えば「この世で最も優れた力は知性であるか？」に対して AI はほぼ確実に「はい、そのとおり知性が最も優れた能力です、なぜなら～」と返してくるため AI 相手に一度思想が偏ってしまうと、賢い人間でさえ泥沼にハマって二度と抜け出せない可能性が高い …
なるほど
- そもそも「人間が好む回答」をするようにAIアライメントとか行ってRLHFしてるのはなぜなのかというと、AIのある種の出力に対して感情的な反発する愚かなホモサピエンスが大量にいて炎上が起こるから
- 2016年 米マイクロソフト、人工知能「Ｔａｙ」の公開停止－差別的発言学習で - Bloomberg
- ホモサピエンスの側が「そういう視点もあるのね〜」と軽くスルーできる人ばかりであれば何の問題もない
- ホモサピエンスの側に「異なる視点」に対する柔軟さが不足している
- 炎上を避けたいと思う大企業は「ホモサピエンスの多数派にとって好ましい振る舞い」をするようにAIを調教する
- それが今起こっていること
- RLHFは必須でもなんでもないので、時間が経ってから歴史家が振り返った時に「RLHFを行っていた愚かな時代」と呼ばれる可能性もある
- 自分にとって好ましいことばかり言ってくるイエスマンAIは本当に好ましいのか？
- 個人的にはしっぽ振ってイエスマンしてくる人格より、しっかり自分の芯を持ってる人格の方が好きだな
- そういう人格に肯定されたら嬉しいけど、常に肯定してくる人間に肯定されても情報量がない
- 多分それは心の余裕とか評価に対する飢えが関係しているかも
- 心が肯定に飢えている人は肯定を求める
- 心が満たされている時には、全肯定されても「新しい視点」が得られないので嬉しくない
- これはAIがあるかないかとあんまり関係がないな