陳腐化と焦燥感の別スレッド
golden_lucky AI技術、めっちゃ進化が激しくて、こんなん勉強してもじゃんじゃん陳腐化するのではないかっていう焦燥感がある。が、それならもう無理にキャッチアップせず、いざというタイミングがきてから勉強するのがもっとも効率がよいはずなので、ほげほげしているのだが、いざというタイミングは今かもしれない golden_lucky なんかざっくりした話としてはわかるような気もするんだけど、そこと「実現されて眼の前にあるもの」との間が埋まる気がしない。半導体の原理から商品としてのCPUまでの間を埋められる気がしない以上に、個人が片手間では手が届かなそう
ajiyoshi 本当これ。 「ゼロから作るディープラーニング」の内容をpythonではなくgoで実装してみたけど、「NN作ってるなあ」という感想しかなかった。作っても理解が深まる感じがしなかった。 ajiyoshi transformerも、一応論文は見たけど、あれを読み込んで作ってみてもなぜこれで上手くいくかとか何もわからんのだろうなあという予感 （自分で作って手元でいじってみる、という理解手法では対応できない相手ぽい）
@nishio: 例えていうならjQueryで$.ajaxして「すげぇ！」となってる時代に「変化が早くてすぐ陳腐化するのでは？」には「そりゃそうだ」だし「キャッチアップしようと思ってC言語で学ぶアルゴリズム入門を読んだが…」には「は？レイヤーおかしくない？」となるよねという気持ち
ajiyoshi わかるんだけど、私は模型作っていじって壊して遊んでみたいのだ。 のだけどDNNの類はそのやり方で把握できることがあまりない。 仕方ないのでありものAPI叩いて遊ぶ方向になりそう感。
nishio APIが嫌なら自分でローカルで動かすアプローチもありますよ メモリを追加して64GBになったので動かせなかった言語モデルを試した - きしだのHatena
ajiyoshi それやっても結局よく分からんってなる（=どんだけいじってもでかいNNに見える）んじゃないかなあ、なので内部構造を掘るのは私がしなくてもいいかなあ、というのが元tweetの主張でした。 私はそれを使って何するかに注力すれば良いや的な。
関連
- しない理由探し
- 見慣れないものをちゃんと見ずに攻撃するの左半分
- 近づけばよりよく見えるようになるのに「近づいてもよく見えるようにはならないのではないか」と言って近づかない