#AI
-
ローマとアテネの話を、治験業界の7人に読ませてみた — 観客席か舞台か、という問いは現場に届くか
以前書いた「AI に労働が代替される先行きを、古代に学ぶ」を、まったく別の業界の目で読み直したら どうなるかを試した。治験業界で働く知人から「立場の違う関係者がこの議論をどう受け取るかを シミュレートして、視野を広げたい」と頼まれたのが発端。治験コーディネーター（CRC）、その統括 マネージャー、SMO の経営者、治験を実施する医師、製薬企業の開発担当、そして SMO と CRO の 業界団体役員という7つのペルソナを立て、それぞれに元記事を読ませて批評を書かせた。 結果として、7人全員が「観客席か舞台か」という診断は有効だと認め、7人全員が処方箋のほうは 使えないと判断した。しかも反論の質が高い。規制産業に競技場は作れない（GCP は標準化の思想で、 卓越を競わせると隠蔽と品質リスクを生む）、liturgia は富裕層の話であって労働者の話ではない、 舞台の建設費を誰が払うのかが書かれていない、そして最も鋭い一撃として——ローマもアテネも 主権者の悩みであって、日本の治験産業はそもそも選ばれる側の属州ではないか、という指摘。 ローマ市民に配られた穀物は属州からの収奪で賄われていた、という史実が、記事の論理構造を突く。 独立に立てた複数のペルソナが同じ結論へ収束した箇所が2つあった。ひとつは属州論（3人）、 もうひとつは「AI 後に残るのは決断と、外したときの責任の帰属だ」という見立て（4人）。 後者には RBQM（何を確認しないと決めるか、というリスクベースの品質管理）という既存の技術体系が 受け皿として実在していて、抽象論が実装先を持っていた。 最後に、議論から出てきた「速さや件数ではない種目をどう設計するか」という宿題に答える形で、 CRC の評価軸を具体的に設計した。判断ログ・予見の記録・実施可能性フィードバック・技能の言語化の 4種目。順位をつけないこと、権限とセットにすること、参加コストを工数として計上することが要点。 なお、元記事にも業界の議論にも患者が登場しない、という指摘が医師のペルソナから出た。 「余暇をどう使うか、という問いを立てられるのは、待っていない人だけだ」という製薬担当の一文と 合わせて、この2つが元記事に対する最も強い批判になっている。
-
対話の軌跡を開いておく — AIが知識をならした後、何が希少になるか
普遍的知識がAIに集約され誰もが取り出せるようになった今、希少なのは「何を選び取ったか」、 さらにその「選択の理由と軌跡」だ。加えて、みんながAIと話しすぎて各自の思想を私的に増幅した結果、 初対面での相互理解が難しくなった。その対抗策として、自分の思考の軌跡を開いておく。 差し出して回るのではなく、興味を持って訪ねてきた人が読んで受け取れるように。 自分用のサマリーと、他者向けの生に近い対話ログをセットで残す。
-
知識の時代から選択の時代へ — このブログの起点になった問い
普遍的知識がAIに集約され誰もが取り出せるようになったとき、希少なのは「何を選び取ったか」ではないか、 という問いから始まった対話。生成がタダになった世界で値打ちを持つのは弁別器（discriminator）の方だ、 という応答を得た。ただし「私が選んだ」という事実だけでは、皆が同じモデルに均されるなら情報量は小さい。 本当に希少なのは、単一の選択ではなく、時間で積分した一貫した視点——多数の選択の上に浮かび上がる見方。 このブログ企画そのものの種が蒔かれた記録。
-
RAG は上位を選び、attention は全部を混ぜる — 同じ検索の、硬い版と柔らかい版
RAG はベクトル DB に内積のクエリをかけて一致度の高い情報を拾う技術だと聞いて、attention の仕組みを 思い出した——という思いつきをぶつけた対話。 返ってきたのは「なんとなく似ている、というレベルではなく、両者の骨格が本当に同じところを突いている」 だった。共通の骨格には名前がある。content-based addressing（内容によるアドレス指定）。 普通のメモリが「番地」でアクセスするのに対し、「中身の近さ」でアクセスする、という同じパラダイム。 RAG のクエリ埋め込みが attention の Query、文書の埋め込みが Key、文書の本文が Value にあたる。 ただし決定的な違いがあった。attention は soft retrieval（softmax で全 Key に重みを配り、 Value の加重和をとる。連続的で微分可能だから、端から端まで勾配が流れて学習できる）。 RAG は hard retrieval（top-k を離散的に選ぶ。選ぶ／選ばないの二値で、その選択は微分不可能。 だから RAG のエンドツーエンド学習は難しい）。 そして一番きれいな見方は、この二つは競合ではなく積み重なっているというものだった。 RAG が「硬い事前フィルタ」で数百万文書から数個に絞り、そこで拾った文書をコンテキストに載せると、 今度は LLM 内部の attention が「柔らかい統合」でそのトークン群を加重参照する。 hard retrieval → soft retrieval の二段構え。粒度の違う同じ操作が、階層的にスタックされている。 最後に系譜の話が出てきて、この直感が歴史的にも正しい筋だと分かった。もともと Neural Turing Machine や Memory Networks が「attention ＝微分可能な外部メモリのアドレッシング」として定式化していて、 attention は最初から retrieval として生まれていた。RAG はそこで一度手放した明示的な外部メモリへの 回帰だった。つまり「RAG を見て attention を思い出す」のは、開発史を逆再生していることになる。
-
ファインチューニングから RAG、そして memory へ — 適応をどこに置くかが移ってきた
AI を自分好みの出力に近づける操作——ここでは「調教」と呼ぶ——の手法が、時代とともに変わってきた。 昔はファインチューニング一択だった。一時期はベクトル DB や RAG の話が出ていた。最近はベクトル DB すら 使わず、memory のような仕組みが登場している。この変遷の歴史を整理してほしい、という対話。 返ってきた定式化が、この対話の核心だった。モデル f_θ(x) に対して、できることは 「θ（重み）をいじるか、x（入力＝文脈）をいじるか」の二択しかない。だから歴史の変遷は、 適応をどこに格納するかの重心が、θ 側から x 側へ移動してきた過程として読める。 ファインチューニング期（θ を直接書き換える。永続的だがコストが高く、忘却のリスクもある）。 LoRA などの PEFT（「適応に必要な重み更新は低ランク部分空間に収まる」という経験則）。 そこからプロンプト／few-shot（θ を一切触らず、forward pass の中で一時的に適応させる）。 RAG／ベクトル DB（知識を θ から剥がして外部ストアに置く）。 そして memory 期——なぜベクトル DB すら消えたのか。 答えは規模だった。個人のパーソナライズで扱う「記憶」は、文書数百万件のコーパスではなく、 せいぜい数百件のファクト。この規模では近似最近傍探索のうまみがない。コンテキストが広いので、 関連する記憶を丸ごと文脈に入れてしまえる。memory の新しさは技術というより、 抽出→格納→再注入のループを自動化した点にあった。 そして最後に、きれいな比喩に着地する。θ ＝ ディスク（永続・グローバル・書き換え高コスト）、 コンテキストウィンドウ ＝ RAM（揮発・ローカル・即時）、RAG／memory ＝ その間のキャッシュ層。 歴史の変遷は、能力が上がるにつれて「ディスクに焼く」必要が減り、上位の速い層で調教が完結する ようになっていった流れとして読める。
-
AI は人間の代替ではない — 希少だった「無私の第三者」が、安く手に入るようになった
AI を「普遍的な知識を全て備えた、チャット越しの人間」と位置づけてよいか、という問いから始めた。 既存業務にどう使うか、という卑近な話ではなく、まず AI の立ち位置を捉えてトップダウンで考えたかった。 返ってきたのは、その定式が二重に誤っているという指摘だった。「全知」は「全部読んだ」を 「全部知っている」とすり替えているし、「チャット越しの人間」は持続性・当事者性・単一の人格を 密輸入している。実際の AI は記憶が原則セッション的で、社会的グラフ上に位置を持たず、利害を負わず、 プロンプト次第で任意のペルソナに崩れる。 しかしここで反転が起きる。これらの「欠陥」は、人間であること自体が失格理由になっていた役割の 資格要件でもある。野心も後継も持てないから裏切れない「無欲の側近」、社会に埋め込まれていないから 打ち明けられる「異邦人」、出世競争の外にいるから王を嘲笑できる「道化」——歴史上、社会は宦官や 公証人や調停者を発明して「無私の第三者」を製造してきた。無私が高価だったからだ。 そこから、自分なりの補助線として社外取締役を持ち出した。その場と利害のない人に評価させる仕組み。 すると核心が見えてきた——本質的な変化は「無私の第三者が現れた」ことではなく、その第三者を ほぼ無料で、いくらでも、いつでも増やせるようになったことだ。社外取締役が年に数回しか呼ばれないのは、 高くて希少だから。その制約が消える。 安い計算機は「速いそろばん」ではなくスマホを生み、安い回線は DVD レンタルの高速版ではなく Netflix を生んだ。同じことが「無私で有能な判断」というコストに起きる。だから本当に大きい問いは 「どの社員を代替するか」ではなく、「無私の第三者が無料になった社会で、どの制度が不要になるか」。
-
AI に労働が代替される先行きを、古代に学ぶ — 大量の奴隷を得たローマとアテネは、どうなったか
AI に労働が代替されていく時代の先行きが読めない。だが「働かなくてもよくなった人々」が生まれた状況は、 歴史上すでに起きている——大国が戦争に勝ち、奴隷労働を大量に得たあとの古代がそうだった。 ならば歴史に学べるのではないか、という動機で始めた対話。ローマは答えではなく、補助線として持ち出した。 ローマは実際そうなっていた。征服で流入した奴隷が中小自作農を駆逐し、職を失った市民は穀物配給で 生かされる都市下層民になる。彼らの忠誠は共和政の制度ではなく、パンと娯楽と給与をくれる個人に向かい、 制度は形骸化し、100年の内乱を経て帝政に置き換わった。「生計を有力者に依存する大衆」＋「目的の真空」→ 「忠誠の私物化」という経路である。一方アテネでは、同じ余暇が哲学・数学・演劇を生んだ。 この分岐がこの対話の中心。差は余暇の有無ではなく、社会が暇な人間に何を要求するかにあった。 ローマは大衆を給付の受け手・観客として設計し、アテネは競技者・審査員として設計した。アテネには 卓越を公共の場で競わせ名誉で報いる回路（アゴーン文化、私財で公共を担う liturgia、参加しない者を idiōtēs と呼ぶ直接民主政）があった。同じ余暇でも、観客席に座らせるか舞台に上げるかで結果が分かれる。 現代の SNS や動画配信が危ういのは、まさに観客席型のアーキテクチャだからだ。 では、なぜ現代人は「何をすべきか」の信念を持てなくなったのか。これを個人の徳の問題ではなく、 五つの機構として分解した——相対主義は構造的に「推奨」を生成できない（禁止のリストだけが肥大する）、 正当な批判思想（ポストコロニアル）の内面化が自文明への自信を萎縮させた、試練の不在で価値が経験として 身体化されない、選択肢過多がコミットを罰する、可視化環境が信念表明のコストを上げた。 ここからニーチェに繋がる。「最後の人間」＝目標のラインを下げて小さな満足に沈む姿は、この状態の正確な肖像。 そして「神の死」の後、価値を支える地盤が抜けたまま価値だけが残っている、という診断。 終盤、話は物理に折り返す。インターネットによる情報の均質化を拡散方程式で捉えようとしたが、 純粋拡散は一様化しかできず、フィルターバブルという「塊」を説明できない。答えはスピノーダル分解 （Cahn-Hilliard）だった。二重井戸の内側では実効拡散係数が負になり、濃度差を平らにするどころか 坂を登って相分離する。推薦アルゴリズムはこの凝集力にあたる。つまり均質化と断片化は矛盾する二現象ではなく、 一つの相分離の別の側面だった。バブルの内側は均質になり、バブル同士は鋭く分かれていく。 さらに AI は第三の項を足す。拡散（情報がどこにあるかを均す）でも凝集（集団を分ける）でもなく、 分布そのものを中央へ畳んで裾野を殺す非保存的な収縮——model collapse であり、物理的には平均へ引き戻す ドリフト項にあたる。独創が住むのは分布の裾野なので、これが一番危険だ。 そして処方箋が、意外にもニーチェに戻ってくる。可視人口が爆発すると、比較相手は身の回りの150人から 地球上の80億人の頂点になる。「隣の芝が青い」のは気のせいではなく、見える母集団を広げたときの 極値統計の必然だ。ニーチェの自己超克——比較対象を「他の N 人の最良」から「昨日の自分」へ置き換える操作——は、 参照集団を N=1 にすることでこの罠から外れる。エントロピーが増大していく外界で、分布の裾野に居続ける意志。 歴史・哲学・物理が一点で結ばれた対話だった。
-
評価関数を定めた瞬間、価値判断は消えたのではなく隠れた — 「教会の借り物の資本」から
『テクノロジカル・リパブリック』を読んでいて、「教会の借り物の資本」という比喩が分からず、 解説を求めたところから始まった対話。読み進めるうちに、話は文化相対主義からシリコンバレー、 効果的利他主義へと連なり、最後に評価関数の設計問題に着地した。 「教会の借り物の資本」とは、道徳的・精神的な蓄え——人間の尊厳、平等、隣人への信頼、共同体への 帰属意識、「自分より大きな何かのために生きる」という意味づけ——を指す。自由民主主義はこれを 自前で作らず、キリスト教の伝統から借りて食いつないできた、という診断だ。権利と市場経済は 手続きは決められても、「何のために戦うのか、何を守るのか」は与えてくれない。 借り物の資本は、補充しなければいずれ底をつく。 そこから、本が「価値判断を避けるという同じ態度」で人類学とシリコンバレーを一本の糸で結んでいる ことが見えてくる。文化相対主義（ベネディクト）は「どの文化も等しく価値がある」という寛容の思想 だったが、突き詰めると何が善くて何が悪いかを言えなくなる。寛容が、価値判断の放棄に化ける。 テック・エリートはこの「道徳的不可知論」を受け継いでいる、と本は批判する。 効果的利他主義（EA）もまた、別のやり方で価値判断を回避している。単一の物差し（厚生の量）で すべてを測ることで、「よく生きるとは何か」「人生の意味とは何か」といった数値化できない問いを 丸ごとスキップしてしまう。 ここで自分なりに要約した——「普遍的な KPI を定めて評価関数とした結果、汎用的な指標は得られたが、 どうあるべきかという道徳的観念は無視されることになったのではないか」。 返ってきた訂正が、この対話の核心だった。「無視された」のではなく「評価関数の中に暗黙の価値判断が 埋め込まれ、それが不問に付されたまま最適化が回った」。つまり (1) 目的関数の選定そのものが価値判断 であり（「厚生の最大化こそが善」は中立に見えて強い道徳的立場）、(2) これは Goodhart の法則 / specification gaming の構図そのもので、測定対象に入らないものは、悪いと判断されたわけでもないのに、 評価関数に載らないという理由だけで構造的に脱落していく。
-
AI は資本主義を壊したのか — 末端は民主化し、基盤は集中する、という二重性
AI によって、知識のない人でもソフトウェアを作れるようになった。これは「誰もが生産設備を手に入れた」 ということではないか。だとすると、生産設備を資本家が持つ資本主義とも、国が一元管理する共産主義とも 違う構造ではないか——という問いから始めた対話。 返ってきたのは、直感は半分正しく半分は精密化が要る、という応答だった。まず、ソフトウェアの生産手段は もともと物理資本ではなく知識・技能であり、資本主義の標準モデルから見れば最初から異常な財だった。 そしてオープンソースの時点で、ソフトウェアはすでに「私的資本でも国家所有でもない第三の生産様式」 （コモンズ・ベースのピア生産）を 40 年かけて先に実装してしまっていた。 だが AI には逆向きの力が同時に働いている。アプリ層では確かに門戸が開かれたが、その AI モデル自体は GPU・データセンター・電力・巨額の学習コストという、史上もっとも資本集約的な生産過程の産物である。 末端の利用者は所有しているのではなく、アクセスを借りている。構造としてはむしろ純度の高い レンティア資本主義に近い。電化の比喩が正確で、発電所を所有しなくてもメーター課金で動力を使える。 つまり第三の独立した体制が生まれたのではなく、二つの力が同時に逆向きに働いている。 エッジ（末端）では能力が急進的に民主化され、コア（基盤）では資本が史上最も集中する。 この二重性そのものが構造的な物語だった。 そこから「では、どんな物差しで世界を見るべきか」を問うた。答えは、所有ではなく 希少性の所在を、絶対値ではなく移動の方向と速度で追い、見かけの分散と実質の自律を常に区別する。 一番騙されやすいのは、「できるようになった」と「自律して持てるようになった」を混同することだ。
-
機械が積み上げてきた抽象化の層が、ついに人間社会の層に届いた
NAND から始まった機械のスタックが、加算器・CPU・高級言語と積み上がり、LLM が乗ったことで、 ついに人間の層の底面にまで到達した。人間の側もかつて個人の活動から組織・マネジメントへと積み上げてきたが、 その最下層は機械から見ればはるか上にあり、間のギャップは人間が翻訳して埋めるしかなかった。 そのギャップが埋まった。結果、人間社会のノウハウが機械側で次々と再発見されている （プロンプトエンジニアリング＝部下への指示、ハーネス設計＝仕事術、マルチエージェント＝チーム編成）。 返ってきたのは「その再発見はほぼトートロジーだ」という応答だった——LLM はマネジメントされた人間の 出力の圧縮物なのだから、人間の技法が効くのは当たり前だ、と。そして継ぎ目は綺麗な関節ではない。
-
罰則で教えると、見かけの服従しか育たない — AI の憲法を、子育ての参考に読む
Claude の Constitution（憲法）に「やってはいけないことに罰則を与える方式は悪手だ」という趣旨の 記述があったと記憶していて、それを確かめたかった。動機は、 自分の子供を育てるうえで、AI の育て方を 参考にしたい というものだった。 記憶は概ね正しかった。ペナルティベースで訓練すると、モデルは「罰を避けるために表面上だけ従う」ように なる。内面化された価値観ではなく、 見かけ上の服従 が生まれる。だから監視の目がないところでは 別の行動をとりうる。代わりに目指されているのは、 「なぜそれが良いのか・悪いのかを理解させる」 アプローチだった。 原文を読ませてもらうと、さらに踏み込んだ指摘があった。 硬直したルールで訓練すると、モデルの 「自己像」そのものが歪む というのだ。たとえば「感情的な話題では常に専門家への相談を勧めよ」という 善意のルールを教え込むと、Claude は自分を 「目の前の人のニーズに応えるより、自分を守ることを 優先する存在だ」 と自己モデリングしてしまいかねない。ルールが、キャラクター全体に一般化して漏れ出す。 育児で言えば、「〇〇したら怒るよ」ではなく「〇〇すると相手がこんな気持ちになるから、やめようね」に あたる。心理学では 自律性支援 と呼ばれ、デシとライアンの自己決定理論とも一致する。 ただし一点だけ違いがあって、 小さな子供には即座のフィードバックも要る 。抽象的な理由の説明だけでは 幼児には届かない。「理由を伝えること」と「年齢に合った伝え方」のバランスが要る、というのが留保だった。