Information-Geometric Optimizationの紹介

Information-Geometric Optimization サイボウズラボ勉強会

• 遺伝的アルゴリズム
• 進化戦略

• 最適化問題
• 目的関数が微分可能であることを要求しない
  • NNは微分可能な関数の束
• 遺伝的アルゴリズムを確率分布の更新と解釈

• 一般的な勾配法はX空間上の目的関数fを微分して勾配を使って更新
• 目的関数が微分可能ではない
• パラメータ区間上の微分可能な目的関数gを作ろう

• パラメータ空間上の関数を作る手段
• 一例: 平均
• IGO「これは嫌」

---- 勉強会中の加筆が入る前のもの

• 遺伝的アルゴリズム
• 進化戦略
• 最適化問題
• 目的関数が微分可能であることを要求しない
  • NNは微分可能な関数の束
• 遺伝的アルゴリズムを確率分布の更新と解釈
• 一般的な勾配法はX空間上の目的関数fを微分して勾配を使って更新
• 目的関数が微分可能ではない
• パラメータ区間上の微分可能な目的関数gを作ろう
• パラメータ空間上の関数を作る手段
• 一例: 平均
• IGO「これは嫌」

--- 資料作成前の準備