問い — 機械のスタックが、人間の層に接続した
最近の AI の発展について、次のようなことを思っています。
コンピュータは、下からスタックを積み上げる形で発展してきました。これは、NAND から始まり、加算器、 ALU、CPU、機械語、アセンブリ言語、高級言語といった調子で、少しずつ機械の制御を人間の感覚に近い言葉に 寄せていった歴史だと思っています。
一方で、人間社会の歴史は、もっと上のレイヤのスタックから存在していて、上司職に委ねられた裁量をどう 生かすか、上司から部下のマネジメント、上司から部下への指示の出しかた、プロジェクトマネジメント、 部下の自身のタスクの進め方など。ここから、部下が持つタスクを細分化して機械に委託できるものは機械に 委託してさらに分業と効率化を進める、というのがしばらく前からの流れでした。ただ、人間世界で細分化された タスクを、機械の言葉で表現するには、まだギャップがあったので、つまり要件をプログラムに落とすには 人間側がその翻訳を行う必要がある程度には、人間世界と機械の世界にはギャップが存在しました。
これが、最近になって LLM が登場したことで話が変わりました。下から積み上げてきたスタックの上に LLM が 乗り、これにより、人間と同等の表現で機械を動かすことが可能になりました。これは、機械の世界と人間の世界が 急に接続された世界観だと認識しています。こうしたことで、人間社会のこれまでのノウハウを一気に機械側で 活かせるようになり、人間側のノウハウが次々と再発見されています。つまり、部下への指示の出し方は プロンプトエンジニアリングとして、個人の仕事術はエージェントのハーネス設計として、上司と部下数名での タスク推進モデルはマルチエージェントとして再発見されました。
この考え方についてどう思いますか？ これからどうなっていくのでしょうか。
応答
とても良いフレームワークだと思います。特に「再発見」という捉え方が鋭い。下から積み上げた計算機のスタックと、 上から存在していた人間社会のスタックが、LLM という層で接続された、という像はかなり正確だと感じます。 その上で、この見立てをもっと面白くする（あるいは少し危うくする）論点をいくつか足したいです。
まず、二つのスタックは性質が正反対です。 下から積み上げてきた計算機のスタックは、各層が下位層の 「無損失で決定論的」な抽象になっています。NAND は本当に誤差なく加算器を構成するし、機械語と高級言語の間に ズレはない。ところが人間社会のスタック──上司から部下への指示、マネジメント──は本質的に「損失あり・ 漏れあり」です。指示には常に曖昧さと暗黙の文脈と失敗が含まれている。だから、LLM がこの二つを「接続した」と 言っても、その継ぎ目はきれいな関節ではありません。LLM 自身が確率的で損失のある層なので、新しい最上層は、 下位層が持っていた信頼性の保証を継承しない。今の不安定さの本質はここにあって、私たちはカチッとした スタックの上に、わざと曖昧な層を乗せた、とも言えます。
次に、なぜ人間のノウハウがこれほど素直に転移するのか、という点。これは偶然というよりほぼトートロジーだと 私は考えています。 LLM は、マネジメントされ・指示を受け・分業してきた人間たちが書いたテキストの圧縮表現です。 つまり最上層に乗ったのは「機械が人間語を話せるようになった」ものというより、「人間の表現を大量に圧縮して 問い合わせ可能にした鏡」です。だからプロンプトエンジニアリングが効くのは、機械がたまたま指示に反応するから ではなく、人間の振る舞いの圧縮物が人間の振る舞いをするから、という話になる。あなたの言う「再発見」は、 実は鏡を覗き込んでいる構図に近い。
そして、ここから重要な非対称性が出てきます。 人間の部下には、記憶の連続性・当事者性（skin in the game）・ キャリア・人間関係・説明責任があった。マネジメント技法が機能していたのは、これらの基盤があってこそです。 ところがエージェントは既定では状態を持たず、利害も持たず、呼び出しをまたいだ同一性もない。だから 「明確に指示する」は綺麗に転移するけれど、「時間をかけて信頼を育てる」「先週の文脈を覚えている」は転移しません。 今のエージェント工学の多くは、実は新技法の発明ではなく、人間が無償で持っていた基盤（メモリ機構、 コンテキスト管理、永続化、評価ループ）を作り直している作業です。人間の技法が効くようにするために、 人間が当たり前に備えていた前提を再製造している。
これからどうなるか、を私の推測で言うと、三つあります。
一つは、翻訳のギャップは消えずに移動する。 かつては「要件→コード」を人間が翻訳していた。今後ボトルネックに なるのは、その手前の「曖昧な意図→十分に精密な意図」への変換と、出力の検証です。仕様記述と検証が新しい 律速段階になる。皮肉なことに、自然言語をインターフェースに戻したことで、かつて形式言語が解決した 「仕様の曖昧さ」という古い問題まで一緒に再発見してしまった、とも言えます。
二つ目は、マルチエージェントで誤差が合成される問題。 エージェントを積み上げると小さな確率的誤りが連鎖して 増幅する。人間の組織は冗長性・レビュー・説明責任でこれを抑えてきたので、ここも再構築される （評価、相互レビュー、ガードレール）。
三つ目が一番面白いところで、人間の組織理論は「人間は希少で高価で逐次的」という制約の上に最適化されていました。 階層構造の多くは、希少な上司の注意を節約するための発明です。ところがエージェントは限界費用ほぼゼロ・複製可能・ 並列実行可能。制約条件が違う以上、人間の組織形態をいったん再発見した後で、捨てるフェーズが来ると思います。 人間にとって最適だった構造が、エージェントにとっては最適でない。だから次に起きるのは「人間のノウハウの移植」 ではなく、「人間が制約ゆえに採れなかった、人間社会には存在しない協働形態の発明」かもしれません。
要するに、あなたの「接続された」という認識に全面的に同意した上で、私はそれを「二つの異質なスタックの間に、 損失のある関節が一つできた」と言い換えたい。そして当面の技術的格闘の中心は、その関節の不確実性をどう飼い慣らすか ──人間が暗黙に提供していた基盤をどこまで作り直すか──になると見ています。