image

  • 勾配降下法の最適化アルゴリズム

  • 高次元の関数に関して、勾配が0である点(停留点)のほとんどは鞍点である。

    • 10次元の場合で99.8%
  • 効用関数の最大化という観点でとらえるならこういうストーリーになる

    • 今の製品からあまり離れない製品の中から、もっとも効用関数が大きくなる物を選ぶ
      • =今の製品で表現される点の勾配に基づいて、最も勾配が大きくなる方向へ更新する
    • それを繰り返していると鞍点に到達する
    • 鞍点に来るまでに進んできた方向に進んでも効用は減少する
    • まったく違う方向に進む必要がある
    • #要実験