- 2025年を通じて、AIは単なるツールから自動化エージェントへと進化。Simon Willisonが実際のプロジェクトで達成している生産性の跳躍と、その陰にある予測不可能なリスクを語る。
- 安全機能を外した「YOLO モード」でコーディングエージェントを運用し、1日10,000行のコード生成を可能にしている一方で、AIが高い精度で完全自動化を実現した『ダークファクトリー』の出現を警告。
- 2025年の『11月の転換点』以降、AIは生産性を飛躍させたが、人間の検証やガバナンスが追いつかず、Challenger disaster のような大規模事故が迫っているという示唆で締める。
論点をもう少し詳しく読む
2025年の11月転換点：AIが『別のレベルの抽象化』に到達した瞬間
2025年はAIの転換年だった。特に11月以降、コーディングエージェント（Claude Code、OpenAI Codex など）が単にコード生成するだけでなく、自動テスト実行、ファイル編集、継続的な改善まで を行うようになった。Willison自身、1日で10,000行のコードを生成できるようになり、自分で入力したコードは全体の約5%に過ぎないという状況に。この変化は、エンジニアリングがそれまで「抽象化の層を積み重ねてきた」のと同じく、AIが新しい抽象化レイヤーを提供し始めたことを示唆している。
安全機能を無効にした『YOLO モード』での運用と生産性の爆発的向上
多くのユーザーはコーディングエージェントを安全モード（毎アクション確認）で使っており、その場合は『せがまれ続ける面倒な子ども』のような体験になる。しかし Willison は Claude Code for Web を『dangerously skipped permissions』（YOLO モード）で運用。サーバー側の実行なら最悪の場合も限定的（ソースコード流出程度）なため、4つのエージェントを並列実行してから紅茶を飲んで戻ることができる。電話からでも実行可能で、朝11時までに疲弊するほどの成果を出している。この方式は本質的に危険だが、25年のエンジニアリング経験があれば事前チェックで対応可能という判断。
『ダークファクトリー』：人間の検証を経ないフル自動化の出現
最も興味深い未来は『ダークファクトリー』と呼ばれる現象。これはAIエージェントが人間の介入なしに自律的に複雑なタスクを完遂し、その成果物（コード、レポート、デザインなど）がそのまま本番環境に流れ込む状況を指す。Willison は 12:41 付近で『本当に面白い未来がやってくる』と示唆。現在は人間がプルリクエストを査読する段階を経るが、キャッシュやコスト最適化が進めば、エージェントの出力がバイパスされる可能性がある。これは生産性とリスクの極端なバランスポイント。
Challenger disaster 的な大規模AI事故への警告と制度的過信のリスク
Challenger 号の事故同様、O-ring の不具合は周知の事実だったが、何度も成功が続くと組織は過信に陥った。現在のAI運用も同じ構図。毎回うまくいくコーディングエージェントに対して制度的な信頼が蓄積し、ますます危険な使い方が常態化している。必ず何らかの『Challenger disaster of AI』と呼ぶべき大規模な失敗が訪れるという予測。エンジニアリング規律と人間による検証の重要性を取り戻す必要があると示唆している。