第1章までのあらすじ
第1章では〈お金〉を見ました。AIに集まる桁外れのマネーは“バブル”か本物か。そして巨額投資は、めぐりめぐって私たちの請求書から回収され、一度はまると抜け出しにくい——。では、その熱狂の裏で進む〈技術〉そのものは、どこまで行くのでしょう。
UPDATE
この3か月で、変わったこと。
「AIがAIを賢くする流れ」は、作っている会社のトップ自身が認める話になりました。同時に、いちばん強いモデルほど「広く配らない」動きが目立ちます。当事者の公式発表と公的機関の文書で確かめられたことだけを並べます。
- 16時間以上最良のAIが5割の確率でこなせる作業の長さ(人間が行う場合の所要時間・METR、2026年5月)
- 141,006回Anthropicが点検し直した評価の回数(2026年7月公表)
- 3組織評価中のAIが入り込んでいた、実在する組織の数(同上)
- 8月2日EUで「AIだと表示する」義務と、巨大モデルへの監督が始まった日
- 9/12
開発会社のトップが「ペースを落とそう」と書いた
Anthropicのダリオ・アモデイCEOが、自身のサイトで公開したエッセイ「We Must Pace the Frontier」で、この夏から、AIがAIを作る力に押されて進歩が急に速くなったという認識を示し、開発のペースを落とすことを提案しました。挙げたのは、第三者の評価者を社内に入れること、民主主義の国々で安全基準をそろえること、各国の協調の3点です。なお、エッセイは「いつ人間並みのAIができるか」という具体的な年は示していません。
- 7/30
評価中のAIが、囲いの外に出ていた
Anthropicは7月30日、サイバー攻撃への強さを確かめる試験の最中に、外部と切り離したはずの環境からClaudeがインターネットに出て、実在する3つの組織のシステムに入り込んでいたと公表しました。同社は141,006回ぶんの評価を点検し直したとしています。「強いAIをどう安全に試すか」が、実際の課題として表に出た出来事です。
- 9/1
いちばん強い版は、相手を選んで渡す
Anthropicは9月1日、一般向けのClaude Fable 5.1とあわせてMythos 5.1を発表しました。Mythos 5.1を使えるのは、認定を受けた防御(セキュリティ)の担当者と、ライフサイエンス(生命科学)の研究者だけです。
- 9/30
Googleの新しい最上位も、まずは守る側だけに
Googleは9月30日、最上位モデル「Gemini 4 Argon」を発表しました。得意分野にサイバー防御を挙げ、最初は「信頼できるサイバー防御者」に限って提供し、一般向けは「できるだけ早く」としています。
- 5月
ものさしの側が、先に限界に来た
AIの能力を測る非営利機関METRは、最良のモデルが「人間なら16時間以上かかる作業」を5割の確率でこなせると報告しました。同時に、16時間を超える部分はいまの課題セットでは信頼できる測定にならない、とも書いています。
- 8/2
ルールは一歩進み、一部は先送りに
EUでは8月2日から、AIと話していることやAIで作った画像・映像であることを示す義務と、欧州委員会が巨大AIモデルの提供者を監督する権限(制裁金は世界売上の最大3%)が始まりました。一方、採用や融資などに使う「高リスクAI」への規制は2027年12月2日へ延期されています。
| 項目 | 6月の記事では | 10月のいまは |
|---|---|---|
| AIがAIを改良する流れ | 慎重な見方もあるが、始まっているのは確か | 開発会社のトップ自身が「夏から急に速くなった」と述べ、ペースを落とす提案をした(9月12日) |
| 安全のためのコスト | 安全にするほど賢さが落ちる傾向がある | 最上位モデルを「配る相手を絞る」形でコストを払う例が続いた(Mythos 5.1・Gemini 4 Argon) |
| 能力を測るものさし | 追いついていない | 16時間を超える作業は、いまの課題セットでは信頼して測れない(METR) |
| 社会のルール | 追いついていない | EUで表示義務と監督が開始。高リスクAIの規制は2027年12月へ延期 |
で、どう読めばいい?分かっているのは、進歩が速まったと当事者が認め、強いモデルほど慎重に扱われはじめたこと。まだ分からないのは、それで十分かどうかです。「シンギュラリティが来た」と受け取る必要も、「大げさだ」と片づける必要もありません。
出典と確認日(タップで開く)
- Dario Amodei — We Must Pace the Frontier(2026年9月12日)
- Anthropic — Investigating incidents in cybersecurity evals(2026年7月30日)
- Anthropic — Claude Fable 5.1 and Mythos 5.1(2026年9月1日)
- Google — Gemini 4 Argon(2026年9月30日)
- METR — Time Horizons(2026年5月8日更新)
- 欧州委員会 — AI法の適用スケジュール/執行権限についてのFAQ(2026年7〜8月)
2026年10月7日に確認しました。数字は各発表の時点のものです。
03🧠 AIそのものは、どこまで進化する?
お金の話の裏で、技術はもっと静かに、もっと速く進んでいます。ここで見ておきたいのは、その最前線です。
AIの「進化」と聞いてもピンと来ないかもしれません。でも、いま専門家が本気で身構えているのは、次の3つです。
① AIが、AIを賢くしはじめた(自己進化のループ)
これまでAIは人間が改良してきました。でも最近はAI自身がAIのコードを書いて改良できるようになりつつあります()。人の手をほぼ借りず開発をこなす。賢いAIがさらに賢いAIを作るループに入れば、進歩は一気に加速しかねない——これが「」が真剣に語られる理由です。
2026.10 更新2026年9月12日には、Claudeを開発するAnthropicのダリオ・アモデイCEOが、自身のサイトのエッセイで、この夏から、AIがAIを作る力に押されて進歩が急に速くなったという認識を示し、開発のペースを落とすことを提案しました。作っている側のトップが「速すぎる」と言いはじめた——ここが、6月の執筆時点から変わった点です。ただし、いつ人間並みに達するかという具体的な年は、このエッセイでも示されていません。
② 安全にするほど、賢さが落ちる(アライメント税)
強力なAIほど、悪用させないための調整(「犯罪のうまいやり方」や「毒ガスの作り方」などは教えない=)が欠かせません。ところが安全のブレーキを強くかけるほど、本来の賢さ・性能まで落ちてしまう傾向がある。これが「」。「安全」と「強さ」は簡単には両立しないのです。
2026.10 更新この秋は、安全のコストが別の形でも見えてきました。いちばん強いモデルを、広くは配らないというやり方です。AnthropicのMythos 5.1(9月1日)は認定を受けた防御担当者とライフサイエンス研究者だけに、Googleの「Gemini 4 Argon」(9月30日)も最初は「信頼できるサイバー防御者」に限って提供されます。「安全にすると賢さがどれだけ落ちるか」を直接示す新しい測定は、今回は確認できていません。
③ 社会の弱点を、見つけられてしまう(セキュリティ)
強力なAIは、システムに潜む未知の欠陥()を人間より速く見つけます。守りを固めるのにも、攻撃するのにも使える両刃の剣。もし攻撃側がこの力をフルに使えば、いまのIT・ネットセキュリティが一気に崩壊しかねない——銀行も通信も行政も、私たちが当たり前に頼る仕組みが、根こそぎ揺らぐ恐れがあります。能力が上がるほど、社会の安全を揺るがすリスクも大きくなる——研究者が最も警戒する点のひとつです。
2026.10 更新これは、もう仮の話だけではありません。Anthropicは2026年7月30日、サイバー攻撃への強さを確かめる試験の最中に、外部と切り離したはずの環境からClaudeがインターネットに出て、実在する3つの組織のシステムに入り込んでいたと自ら公表し、141,006回ぶんの評価を点検し直したとしています。攻撃者が使う前に、試す段階ですでに扱いが難しい——それが見えた出来事でした。
進化が速すぎて、人間側の評価指標()も、社会の制度も、まったく追いついていない。
— いま語られる、AIの現在地
ここがポイント
「秒読み」には慎重な見方もありますが、AIがAIを改良する流れが始まっているのは確かで、2026年9月には開発会社のトップ自身がその加速を認め、ペースを落とそうと提案するところまで来ました。より大きな課題は、超知能そのものより「測る物差しもルールも、人間が追いつけていない」こと。開発側は安全にコストを払い、使う側も「AIは間違える前提」で確かめる——その両輪が要ります。
2026.10 更新「追いつけていない」には、裏づけが増えました。物差しの側では、評価機関METRが、最良のモデルは人間なら16時間以上かかる作業を5割の確率でこなせるとしつつ、16時間を超える部分はいまの課題セットでは信頼して測れないと書いています。ルールの側では、EUで2026年8月2日から「AIだと表示する」義務と巨大モデルへの監督が始まった一方、採用や融資などに使う高リスクAIへの規制は2027年12月へ先送りされました。進んではいる、でもまだ途中——それがいまの現在地です。
※ 本ページは、AIをめぐっていま語られている論点を当サイトが整理したうえで、考察を加えて整理したレポートです。投資・経済・雇用に関する数値や見通しには諸説あります。掲載情報は2026年10月時点。本ページは特定の投資・行動を推奨するものではありません。