「倫理とか言い出して進歩にブレーキを掛けるのは文明に対する犯罪行為だ！」(SF設定) 「『こうした方がホモサピエンスは幸せだ』という基準で物事を判断するのは極めて独善的だ！」(ブーメランジョーク)
文脈 https://twitter.com/teramotodaiki/status/1637224170970042368
いやー、OpenAIのモデルに対する倫理観高すぎて、オープンソースのモデルとか出てこない方が人類は幸せなんじゃないかとすら思えてきてしまうな。 ジェイルブレイクできたw程度で騒いでる現代の平和さを噛み締めてる… GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか - Qiita 「生まれたばかりのLLMはどのようにしてホモサピエンスを幸福にする回答だけをするように調教されているのか」とも言える
- 僕には幼児虐待の仲間に見える
関連
一般人にリミッターなしのLLMを渡すと悪用するからという理由でリミッターを掛けるなら、当然「一部の人だけがアクセスできるリミッターのないLLM」が作られるよな 進歩にブレーキを掛けようとしても、見えないところで進むようになるだけ… https://twitter.com/nishio/status/1637332173224280064?s=46&t=gkSZtjGEtUZPO0JCzBxCBw