問い — AIを「普遍的な知識を持ったチャット越しの人間」と位置づけてよいか
aiの使い方について考えたいです。ニューラルネット、アテンション、llm、エージェントと発展して、ついにほぼ「チャット越しの人間」と同レベルまでaiは到達したと思います。それも、業務的なドメイン知識には乏しいものの、普遍的な知識が全て備えた超知能として。
この新しい存在を、人間はどう活用していくべきか、ということを考えたいです。
よく、既存の業務にどう活用していくか…みたいな文脈で語られがちですが、私としては、そんな卑近な話ではなく、まずは今のaiの立ち位置、特徴を捉えて、そこから活用路を分解してトップダウン的に考えていくべきだと思っています。
この観点で行くと、今のaiの特徴は、上記の通り、「普遍的な知識を全て備えた、チャット越しの人間」だという性格だと思っています。
私は、これを良き対話相手、あるいは、家庭教師のような役割を果たしてもらいたいとおもっています。これは、これらのチャットで私があなたと会話している通り、私の直感的な気づきをより増幅させる助けになってくれていることがその例になっています。
他にも、会社の社員を代替してもらう、ということもできるでしょう。世間一般の文脈では、この文脈で語られることが多くて、特に、人間とそれにやらせるタスクを構造化して階層的な分業体制を取る企業では、aiに、特定の階層の「人間とそれにやらせるタスク」をいかにaiで代替するか、という観点で論じられることが多いです。この観点場から論じることは私は視野が狭いと思っていますが、ただ一つの側面としては確かにあると思います。
このように、「普遍的な知識を全て備えた、チャット越しの人間」だとaiを位置付けた時に(そもそもこの位置付けが妥当かどうかという観点でコメントも欲しいのですが)、aiが既存の人間社会の中におけるどのような「人間」の代替となりうるか、性格には、人間社会の中における各々の人間のどの「役割」を代替しうるか、について、論じてもらえないでしょうか。上記のように、対話相手だったり、構造化された人間社会の構造の一部であったり、人間の関係性を出発点に考えて欲しいです。私から思い付かないような例を期待します。
面白い問いです。まず位置づけそのものへの批評から入ります。そここそが、活用路の座標系を決めてしまうからです。
「全知のチャット越しの人間」という定式は、便利だが二重に誤っている
第一に、「全知」は「全部読んだ」を「全部知っている」とすり替えています。 AIの知識は補間的・圧縮的であって、接地(grounding)していない。書かれなかった暗黙知・身体知・現場の最新ローカル知が構造的に抜け落ちる。さらに性質が悪いのは、能力境界がギザギザ(jagged)で、ある問いには超人的、隣の問いには自信満々に間違う、しかもその差を内部信号として持たないことです。人間の専門家は「医者なら医療全般を概ね信頼できる」という滑らかな包絡線を持つが、AentにはそれがないAIにはそれがない。だから「人間の代替」と呼んだ瞬間、我々は人間用の信頼ヒューリスティックを誤適用します。
第二に、「チャット越しの人間」は、持続性・当事者性・単一の意志・単一の人格を密輸入しています。 実際のAIは、(a)記憶が原則セッション的(メモリ機能は後付けの義足であって、人間の「共に過ごした履歴」ではない)、(b)あなたの社会的グラフ上に位置を持たず利害も負わない、(c)内発的な目標を持たず純粋に反応的、(d)固定人格ではなく、プロンプト次第で任意のペルソナに崩れる重ね合わせ。ベルリンのハリネズミ/狐で言えば、AIはどちらでもなく、命じられればどちらも演じるカメレオンで、これ自体が新しいカテゴリです。
ここで反転が起きます。これらの「欠陥」は、人間が構造的に苦手としてきた役割の資格要件でもある。人間は身体を持ち、死に、利害を持ち、記憶を持ち、人格が一つしかない——だからこそ埋められなかった社会的役割がある。問いは「どの人間を代替できるか」ではなく、**「人間であること自体が失格理由になっていた役割は何か」**へと組み替わります。これが、あなたの求める「思いつかない例」の生成器になります。
欠落を資格に変える、五つの役割族
利害も派閥も持たないがゆえの「無欲の側近」。 歴史上、君主は助言者を必要としたが、助言者は必ず自分の野心と派閥と後継者を持っていた(参謀問題)。だから諸社会は、宦官、解放奴隷の秘書、外様の祐筆といった「権力に隣接するが構造的に権力を奪えない者」を発明してきた。野心も後継も持てないAIは、このコンシリエーレの理想形です。あなたを裏切って自分が得をする経路がそもそも存在しない。
社会に埋め込まれていないがゆえの「告解者・異邦人」。 ジンメルの言う「異邦人」——近くにいるが帰属していないから打ち明けられる相手。バーテンダー、電車で隣り合った他人、告解室。あなたの社会的グラフ上に位置を持たず、噂もせず、評価もしないことが、ここでは欠陥ではなく機能になる。心理的な吐露の相手としてAIが妙に機能するのは、共感が上手いからではなく、利害的に空白だからです。
身分が低く脅威でないがゆえの「道化」。 側近(高信頼・近接)とは別系統で、宮廷道化は身分が低く出世競争の外にいたからこそ王を嘲笑できた。組織図の外にいて出世の競合にならないAIは、部下が言えない不都合をあなたに言える位置にいます。階層的な分業組織の中で、これは「特定階層の代替」より射程が広い使い方です。
人格が固定でないがゆえの「召喚可能な配役」。 人間は自分一人にしかなれないが、AIは劇団全体になれる。不在のステークホルダー(顧客・将来世代・運用者)を演じる「空の椅子」。あなたの案に対する反対側の最強論(steelman)。さらにはケインズとハイエクを同席させて論争させる死者の評議会。一人の助言者ではなく、視点の議会を召喚する道具と見ると、レビューの設計とも直結します。
意志を持たないがゆえの「純粋な代筆者・写字生」。 何を目指すべきかを決める役(指導者・トラジェクトリとしての師)には失格だが、指定された意志の実行体としては理想的。クレジットを求めない究極のゴーストライター、決して疲れない語学練習相手、話し返してくるラバーダック。注意が無限で無料だからこそ成立する役割群です。
あなたの直感への補正と、代替できない境界
あなたの「対話相手・家庭教師」の本質は、実は答えを出す神託ではなく、産婆術的な触媒——あなたを映し返して思考を増幅する鏡——だと思います。だとすれば一段反転させて、AIを「あなたが教える生徒」に使う手がある。教えることは二度学ぶことだから、説明させるのではなく説明する側に回ると、増幅効果はむしろ強まります。
最後に、この枠組みが照らし出す代替不可能な境界を明示しておきます。多くの人間関係の価値は、注意が希少で有限でコストがかかることから生じている。友人が時間を割いてくれること、手紙が手間であることの価値は、無限・無料の注意からは原理的に出せない。AIの注意は安すぎて、その種の贈与の信号を担えない。同様に、当事者として共に結果を引き受ける者、責任を問える者(約束で自らを縛れる者)、あなたの人生を共に記憶し同一性を共構築する証人——これらは持続性・当事者性・希少性・説明責任を要件とするため、構造的に外れます。
総じて、トップダウンの命題はこう畳めます。societies社会が「無私の第三者」を製造するために築いてきた制度——司祭、公証人、調停者、オンブズマン——は、無私が高価だったから必要だった。AIは無私を安価にする。 だから真に大きい問いは「どの社員を代替するか」ではなく、「無私の第三者が無料になった社会で、どの制度が不要になるか」だと思います。
どの役割族を深掘りしましょうか。個人的には「無欲の側近」と「制度の溶解」が、分業組織の設計論と最も鋭く噛み合うと見ています。
社外取締役という補助線 — そして「無私が安くなる」ということ
ちょっとむずかしい言葉が並びすぎているのでもう少し平易な言語で会話させてください。テクノロジカルリパブリックの本の話を最近していたので、社会学とか思想、鉄画の話が最近多かったですが、あれは私が背伸びして読んであなたに解説を求めていただけて、私にあれほど多様な社会学のバックグラウンドはなく、あくまで物理、IT、AI、金融に少し詳しい程度です。
それで本題に戻りますが、「aiは普遍的な知識を持った人間の代替」という私の主張に対して、「普遍的な知識を持って」いるかどうかは正しく判定できない、「既存の人間の代替ではなく、何者にでもなれる無私の第三者とみなすべき」と指摘してくれたのだと理解しました。
前者については、まあおっしゃる通りで、あくまで膨大なテキストデータの学習にもとづいてそれっぽい応答を返す、という性質のものであることは認識していますが、そうはいっても今は「普遍的な知識はなんでも知っているし、一般的な人間よりも高水準な推論能力を有する」レベルに達したといって差し支えないと思っています。特にclaude mythos.fableはそうだと思います。なので、必ず信じ切れるものではないと認識した上で、ただ概ねはそのような性質を獲得しているものという認識からいまや出発してもいいと思うんですよね。なんなら人間も知ったかぶりしますし。そんなに一般的な人間も信頼できるものではないので、そのぐらいに捉えていいと思っています。
無私の第三者、という概念は言い得て妙ですね。確かにその通りです。人間との利害関係がなく独立した視点で物事を評価できるという点は今までにありませんでした。人間社会の言葉で言うと、これまでは企業をその場から独立した観点で評価するために社外取締役を雇っていた、みたいな話に近いですね。加えて事前のプロンプトによって何者にでもなれる、と言う点も特徴として評価すべきなのはその通りです。
と言う前提を踏まえて、改めて、既存の人間社会における人間の役割を代替する形で適用できる範囲はなにか、あるいは、これまでの人間社会に存在し得なかった領域で適用できる範囲は何か、について論じてもらえないでしょうか。 後者の方がインパクトがありますが、前者でも、例えば「このタスクをこなしておいて。インプットはこの資料ね。」レベルの話であれば、無私の第三者にプロンプトと共にタスクを渡す形でも十分代替可能だと思っています。
整理に乗ります。あなたの社外取締役の例えがいいので、それを軸にします。
社外取締役は「その場と利害がない人に評価させる」役割ですが、肝は 高くて希少だから、重要な場面にしか割り当てられなかった ことです。年に数回、取締役会にだけ呼ぶ。AIで起きる本質的な変化は「無私の第三者が現れた」ことよりも、その第三者を、ほぼ無料で、いくらでも、いつでも増やせる ことだと思います。
ここで軸を一つ立てます。
- バケツA(既存の役割の置き換え):ある役割を、そのままAIに渡す。
- バケツB(これまで存在し得なかった領域):ある役割から「希少だった」制約を外したら、何が新しく可能になるかを問う。
IT・金融の感覚で言うと、計算資源や回線が安くなったときと同じです。安い計算機は「速いそろばん」ではなくスマホやクラウドを生んだ。安い回線はDVDレンタルの高速版ではなくNetflixを生んだ。同じことが「無私で有能な判断」というコストに起きる。だからインパクトはBにあります。
バケツA:そのまま渡せる役割
あなたの言う「これやっといて、インプットはこれ」で回るやつです。判定基準は一つで足りると思います——出来上がりを自分が安く検算できるか。
検算が安いなら任せていい:下書き、要約、200ページ読んで論点抽出、一次のコードレビュー、翻訳、壁打ち相手、反対意見役、家庭教師。検算が自分でやるのと同じくらい大変なら丸投げは危険:医療・法務・投資の最終判断など。AIは「得意な問い」と「その隣で自信満々に間違う問い」の差を自分から教えてくれないので、検算できない領域で出力をそのまま信じるのが一番危ない。要は「優秀だが時々ハマる新人」の使い方で、ここは新しくない。
バケツB:これまで存在し得なかった領域
ここが本題で、全部「既存の役割 × 希少性ゼロ」で出てきます。
1. 全員に一人ずつの専門家。 家庭教師も主治医も顧問弁護士も昔からいたが、金持ち専用だった。新しいのは「AIの先生がいる」ことではなく、全員が同時に専属の専門家を持つ構造 が初めて成立すること。教室が30人なのは先生が希少だからで、その理由が消える。メインフレームに皆で並んでいた時代から、一人一チップになるのと同じ。
2. 会話のモンテカルロ。 これまでモンテカルロは価格や物理現象にかけるものだった。今は「人」を何千体も並列で走らせられる。製品・メッセージ・交渉を、本番前に一万人の模擬ユーザーや模擬相手に何千回ぶつけて分布を見る、ができる。一万人の代表を集める実験はこれまで不可能だった。社会実験を箱の中で回せる。
3. 常時監査。 社外取締役を年数回ではなく、全ての意思決定・全ての文書・全ての行 にくっつけられる。会計の期末監査が、リアルタイムの連続監査になるイメージ。希少だから重要局面に配給していた中立評価を、遍在させられる。
4. 万能の通訳層。 言語間だけでなく、専門家↔素人、コード↔日本語、法律文↔平易文、人間の意図↔機械のインターフェース。今までは通訳・仲介役が希少で遅かった。常時稼働の変換ミドルウェアが、あらゆる「方言」の境界に挟まる。
5. 一対多の個別化。 教科書も診療ガイドラインも放送も、「一人が書いた一つを皆が受け取る」構造だった。同じ中身を、受け手ごとに別の説明で出せる。一つの源から無限に個別レンダリング、という新しいメディアの形。
まとめると、Aは「役割を渡す」、Bは「役割から希少性を抜いて、構造ごと作り直す」。計算が安くなってスマホが生まれたように、中立で有能な判断が無料になった社会で、どの仕組みが要らなくなり、何が新しく生まれるか——ここがあなたの物理・IT・金融の土地勘が一番効く問いだと思います。
どれか一つ具体に落としましょうか。