- 生成AIエントロピー戦争①トークン出力装置としての人間
- 生成AIエントロピー戦争②集団の形成と生存
- 生成AIエントロピー戦争③ミーム戦略
Introduction
どうも昔から英語というものに苦手意識があった(今も英語できるとは言ってない)。
というか、「世界共通語が得意な俺様は偉いんだ」みたいな傲慢さが滲み出ている英語教師が嫌いで嫌いで仕方がなかったんだと思う。
あまりにも嫌すぎて、どうにか反論できないかなと思って、言語学的アプローチを相当勉強した。つまり、言葉というものに対する様々な学説を広く浅くつまみ食いしてきた。
そんなわけで、私はLLMなんぞ出てくる前から人間なんて所詮は受け取った言葉に対してマルコフ連鎖的にそれっぽい言葉を返してるだけだろうと考えていた。かつてのAIの文脈でいうと、「中国語の部屋」が近いのだろうか。そこらへんの人間って、受け取った文字列に対してなんとなく妥当な文字列を返しているだけだよなと。
まあ実際にはLLMは過去の履歴を使いまくっているので狭義の意味ではマルコフ連鎖ではないが、全トークン列を状態だと思えば超巨大なマルコフ連鎖ともいえるようだ。
一方で、知性のある人間というのは、単なるマルコフ連鎖を超えた論理的思考のようなものが備わっているはずで、そこに理性があると、そういう希望も同時に抱いていた。傍から見たらクソ野郎だけど。
今やLLMは、当たり前のようにそこに在る、そういう時代になった。
みなさんはLLM、広義にとれば生成AIに対してどういう予測を立てているだろうか。
AI驚き屋たちは挙ってAI脅威論を唱える。にもかかわらず、全くもって人間が淘汰される気配がない。
なぜなのか?
従来の議論の構図はLLM vs 人間という二項対立で語られ、つまりLLMは人間より賢いだとか、人工知能がどうのこうのとか、人間らしさとはみたいなしょうもない議論が繰り広げられている。
それで、何か変わったのだろうか。
確かに何かは変わったと思う。それで、何かが解決しただろうか?
いま現実に起こっていることは、クソみたいなアウトプットが増えすぎて余計にストレスたまることだ。
「LLMは人間より賢い」はずなのに、何故世界は変わらないのか?
「AIは万能である」という論も、「AIは万能ではない」という論も、互いの反論も、実は弱いと思っている。むしろ、AIが引き起こす重大な問題を隠してしまっているのではないだろうか。
世間はそうやって「今更」驚いているがそういう観点から、LLMも人間もやってることは同じで、でも感覚として明確に差が出ている場合があると感じてもいて、ではそれは一体何なのか。
最初に私のスタンスを述べると、「AI脅威論」でも「AI楽観論」でもない。
ただ、「つまらなくなってきたな」という気はしている。どうすればよいのだろうか?
第1章:等価性
1-1 トークン出力装置という等価性
生成AIが進化した結果、仕事は奪われたのだろうか。AIが仕事を代わりにやってくれたのだろうか。
確かに一部は代替しているだろう。けれども、結局めんどくさいところは人間がまだやってる。
というか、結局LLMなくてもクソなやつはクソしか生み出してないし、魅力的コンテンツ生成できるやつはLLMなんぞない時から本来的に魅力的な人間なのだ。
一旦議論を進めるために、人間の脳が一旦LLMと等価であると仮定する(本当は等価ではないわけだが)。
つまり、人間の脳もLLMも、トークンを入力してトークンを吐き出すブラックボックスマシンだと思い込むことにしよう。
このブラックボックス、つまり、実際は何らかの機構(関数)であるはず。最終的には、これを解剖することによって、魅力的なコンテンツを吐き出せる人間、そうでない人間、LLMの間で、一体何が違うのかということを炙りだしたい。
一見この意味不明な仮定だが、なぜ私がAI=人間と言ってしまえるのかを説明しようと思う。
1-2 LLM = 人間
LLMと凡庸人の表面的類似性
LLMと人間の脳とで何が同じか。
大多数の凡庸な人間の出力がどうなっているか。
まずLLMの出力パターン:訓練分布への収束
凡庸な人間の出力パターン:既知の平均値への回帰
トークン入出力マシン、能動的推論の欠如
両者の同期性:省エネ戦略と統計的平均値依存
1-3 苛立ち
無秩序にLLMを使うと平均回帰が起こる。つまり、LLMによるクソの大量生産を引き起こす。
でもある種の「異端の」人間は、こういう凡庸な人間が素の自然状態であるような感じには逆らって、なにかをしているように思える。
明確に異なる。
LLMがあるなら僕が全知全能になっていたっておかしくないはずなのに、でも現実はそうはなっていないのである。残念ながら。この差は一体何なんだろうか?
第2章:差異
2-1 State
個人を「トークンを入力してトークンを吐き出すマシン」と定義したとき、個人レベルの格差は、内部のエネルギー効率と損失関数の抽象度で現れる
負ける個人:ステートレスLLM中継器
勝つ個人:圧縮器
- 凡庸人:膠着、脳の書き換えコストを拒否
- LLM:Stateless、外部ストレージでも内部重みは不変
- 異端の人間:ブドウ糖を消費してリアルタイムに脳を書き換える
2-2 損失関数
- 凡庸人:「生存・安定」→ 無難な出力
- LLM:「過去の統計平均」→ 機械的な沈静化
- 異端の人間:「進化・超越」→ エントロピー最小化への指向性
2-3 LLM vs 人間
- 理論的には正しい(State を動的に更新できる)
- だが集団を離脱すると、フィードバックループが失われる
- 環境の高エントロピー化を止められない
| *プレイヤー | *内部状態の動的変化(State) | *損失関数(評価軸)のあり方 |
| LLM | なし(常に一定の確率分布、コンテキスト依存) | 静的(事前の学習時のみ決定、推論時は固定) |
| 凡庸な人間 | 膠着(変化を拒む、硬直した認知) | 生存・安定(摩擦を避け、エントロピーを最大化する) |
| 異端の人間 | 激変(トークンの衝突で重みが随時変わる) | 進化・超越(エントロピーを下げ、新奇性を求める) |
平凡な人間は生物としてのカロリー消費を節約するために、脳内のシナプス結合の書き換えをサボっている
必然的に出力が既知のパターンか無難な同調になる
異端の人間は他からやってきたトークンを受けて脳内を再構築する
ブドウ糖を消費しまくって、常に高いストレスを受ける
個体レベルで見ると後者のほうが短命リスクがあるため、一見平凡な人間のほうが最強な気がするが、そうではない
彼らの生存戦略が有効なのは、「環境が変化しない」ときに限る
LLM=無限の凡庸トークン生成機
平凡な人間が省エネでやってきたこと→電力で簡単に生み出せるようになった→最早価値が無い
異端の人間の生存→自らの認知を更に拡張するための部品として取り込み、次の環境へ適応することができる
凡庸な人間→LLMを手抜きの道具として使う→集団全体の出力がLLMの統計的平均に収束→エラーを能動的に取りに行く意志がないので成果物のエントロピーが最大化し死ぬ
異端の人間→定型処理をLLMにアウトソーシングし、浮いた脳のエネルギーで複雑な課題の発見と解決に全振りする
省エネ戦略 → 既知パターンへの平均回帰
LLMがStatelessである理由、3つの超えられない壁
なぜ両者は本質的に同じか
身体性(20W、ブドウ糖消費)、State の動的更新
損失関数の抽象度の差異(生存 vs 進化・超越)
能動的推論、リアルタイムbackprop
主観的エントロピー(問いを立てる力
第3章:意志
LLMに足りないのは、能動的推論=主観的な意志
LLMの学習:おもみの固定、学習が過去に「完了」している、過去の統計的平均への収束にすぎない
勝つ個人:いま、この瞬間に直面しているノイズにリアルタイムにbackpropが走る
LLMに動的backpropagationがあっても、勝つ人間にはならない
→身体性(物理コスト)と主観的エントロピー(問いを立てる力)
LLM:アルゴリズムに従った機械的な沈静化、受動的な均衡
人間:謎や問いを創出する、能動的にエントロピーを跳ね上げる(自然に逆らって)
LLMにstateが無いという話、メモリやコンテキストの外部出力で再現はできないのだろうか
これ、外部ストレージであって、内部の重みは何も変わっていない
(天才的な重みが学習されていると見做すと…どうなる?)
3つの超えられない壁
①構造の自己組織化が起こらない
どれだけ外部ストレージでトークン増やしても、線形の足し算にしかならない
LLMが自発的にスリムに最適化することはない(少なくとも我々が使うモデルは)
②ランドアウアーの原理(情報消去のコスト)が機能しない
消去という痛みが伴わないので、情報が肥大化しつづけ、いずれはattentionが散ることになる
③指向性が生まれない
Stateがある脳は自分のStateが変わると世界の見え方(損失関数)が変わる
LLM自身が内発的な飢餓感を持つことはない
- 高エントロピー化に対する直接的な対抗
- 凡庸さそのもの(省エネ戦略)への批判
- クソ情報の大量生産に対する実質的な対抗
- 「LLMは万能ではない」という従来の反論は弱い
- だが「LLMが万能だからこそ、凡庸性が無限複製され、世界は何も変わらない」という反論は強い
- むしろLLMの強力さが、問題の深刻さを示している
次回予告
残念ながら、個人が強くなればいいのかというと、そういうわけにもいかない。
個人レベルでは異端の人間が凡庸人に優る。だが環境全体では、個人は負ける。
重要なことは、個別最適化では足りないということ。
LLMが登場したことで、誰でも同じレベルのトークンが出力可能になった。
つまりこれで何が起こったかというと、理解を超えた出力が機械的に可能になってしまったということ。
LLM以前では、自分の理解の範疇を超えた出力などそうそう出来るものではなかったが(出来るけど「量」はたかが知れている)、LLMのおかげで誰でも無秩序に情報を大量に生産することができるようになってしまった。
単に個人レベルではどうすることもできないというのは、この情報、必然的に環境を汚染するということになるからである。
つまりタイマン張れるなどという幸せな状態では決してなく、凡庸人 1人の出力(脳1個分の限定的なトークン)から凡庸人 × LLM(無限のトークン、無限の複製可能性)に対峙しないといけなくなってしまったということ。
個人レベルでは異端の人間が当然最強。だが環境においては敗北する。これは技術的な問題ではなく、戦略の問題である。個人最適化で満足することは、情報空間における環境汚染への事実上の加担であり、本当に勝つ気でいるなら、環境に対して能動的に働きかけなければならない。つまり、環境自体を書き換えなければならない。莫大なコストがかかることも事実ではあるが…
今回は、LLMによる個人格差がどのような原因で生まれるかを解剖した。
次回は、LLMだろうと人間だろうと、トークン出力マシンが集団になった時に一体何が起こるのか、これについて考察したい。




