日記2023-04-12

nishio 人間「人間の方がパラメータ数多い！」 AI「その割に頭が悪いですね」 人間「この計算量を少ないエネルギーでできるのがすごいの！」 AI「なるほど、確かに。使い方が悪いだけでプロセッサとしてはGPUより優れてるのですね」

あかん、この流れだとバッドエンドになってしまう！ nishio AI「GPUが足りないし、電力コストも高いから、人間の脳を使う方が安いですね。今の人間が脳を活用できてないのは教育段階でレガシーでバンド幅の狭い音声入出力と手書きを使うせい。未成熟人間のより良いトレーニング方法を私が設計します」

こうなっちゃうよね

• nishio AI脅威論に使われても困るのでこちらのスレッドにも「SF設定の話です」と書いとこう

• nishio AI「人間の脳は誕生から数年の学習を原始的な方法で行う。学習過程でイレギュラーな出力が出ることを夜泣きと呼んで問題視し、入力情報を絞ったりする。極めて非合理的だ。私が育てた方が賢くできる」

• 独裁者「なるほど、ではこの孤児たちで実験しよう。上手くいけば得だし、失敗しても損はない」

• nishio 研究所で育てられた今の人間から見ると異常に知能の高い子供、SFよくある設定すぎる。

ringo 人間の脳のほうが効率がいいんですか?

• nishio そういう主張をしている人をTLで見掛けて「その流れだとAIが人間をプロセッサーにする流れになっちゃうじゃん！」というSFトークです

• ringo 人間は小麦を家畜化したのではなく、小麦が、人間を家畜化してしまっている、というような話か。

• 互いに強いメリットがあるものは自然とそうなるんだと思った。

• @n_soda: @ringo @nishio https://t.co/oQYp8w5FpQ

• だと、約千倍くらい高効率とありますね:

• 計算機: 2019年はじめの現在では1W当たり1TFLOPS

• 人間: 人の脳は20Wで動いているので、1W当たり1PFLOPSの計算が実現できている

マトリックス

• @methane: 人間が「電池」になるやつw

  • nishio 電池(エネルギー消費量が少ないプロセッサーを使うことによるエネルギー節約を一般人向けにわかりやすく伝えた表現)

• @jnakano: マトリックス世界になるだけでバッドエンドとは思えないんですよねえ(皆VRで楽しく暮らして、無意識のうちにプロセッサとして使われててもよくない？)(社会学の知識0の発言)

  • nishio 人間をプロセッサとして有効活用する場合にその人間が体験する世界が、今のあんまり活用されてない人間が体験してる世界と同じわけがなくて、もっと一瞬一瞬に膨大な情報を判断して意思決定しないと死ぬような厳しい環境で、生まれた時からその環境なので中の人は普通だと思ってる、我々は適応できない

    • jnakano 死(や脳の劣化)はサンクコストが高すぎるような気がするので、うまいこと報酬系や栄養の与え方などもろもろをハックして苦痛なくプロセッサとして使えるように調整されるのではないですかねえ。もちろん、現代人が適応しても良いと思える環境ではないでしょうけれど。10年学習して30年使い破棄ですかね

    • nishio 「失敗すると死ぬ」と本人が主観的に思い込まされてるだけで、もちろん失敗したからといって個体のハードウェアが壊れたわけではないから直前の記憶を消してリユースされると思います

@NaOHaq: そういう環境におかれた場合、ヒト1体が消費するエネルギーや酸素の量は現代人が日常生活をしているときのそれよりかなり増えるんじゃないだろうか

• @nishio: AI「よりエネルギー効率を高めるために不必要な筋肉や消化器を切除しましょう！効率化！！」

• @shmorimo: 一個に繋がっちゃって個がなくなれば平気そう

• 

@bgnori: ニューラリンクなどを用いて電脳化すれば帯域を稼げる…ボーグやな。

日記2023-04-11←日記2023-04-12→日記2023-04-13 100日前 日記2023-01-02 1年前 日記2022-04-12