AI with Elon Musk Bias

from English Lesson 2023-05-02

• A: Do you know that Elon Musk develops his own AI?
• B: Yes, I know.
• A: So, if he makes his own AI, It would have a Musk bias. Right?
• B: Mmm, it is difficult question. There are two phases in AI training. In the first phases we need a lot of texts. Even if we collect all texts from Elon Musk, it will be only a small amount of whole data. So it won’t affect so much. Usually, it won’t reflect his bias.
• A: I see.
• B: However, in the second phase, we can modify the AI by human feedbacks. If Musk wants to control the system and wants it to behave as he likes, he can modify the AI.

RLHF

イーロン・マスク・バイアスのかかったAI - A：イーロン・マスクが自分でAIを開発していることを知っていますか？ - B: はい、知っています。 - A: だから、もし彼が自分でAIを作ったら、マスクのバイアスがかかってしまうでしょう。そうでしょう？ - B: うーん、難しい質問ですね。AIの訓練には2つの段階があります。最初の段階では、たくさんのテキストが必要です。仮にイーロン・マスクの文章をすべて集めたとしても、それはデータ全体のほんのわずかな量です。だから、それほど大きな影響はないでしょう。通常、彼のバイアスが反映されることはないでしょう。 - A：なるほど、そうなんですね。 - B: しかし、第2段階では、人間のフィードバックによってAIを修正することができます。マスクがシステムをコントロールしたい、自分の好きなように行動させたいと思えば、AIを修正することができる。

---

This page is auto-translated from [/nishio/AI with Elon Musk Bias](https://scrapbox.io/nishio/AI with Elon Musk Bias) using DeepL. If you looks something interesting but the auto-translated English is not good enough to understand it, feel free to let me know at @nishio_en. I’m very happy to spread my thought to non-Japanese readers.