気候変動、パンデミック、そしてAI。一見すると、これらはまったく異なる問題に見える。しかし、少し視点を変えてみると、そこには共通する一つの構造が見えてくる。

それは、モデルによって未来を描き、その未来を避けたり実現したりするために、現在の社会を動かしていくという考え方である。例えば、環境問題についてのバックキャスティングの方法が、これに該当する。私はこれを、ここでは「設計主義」と呼んでみたい。

モデルと現実のあいだ

現代社会では、複雑な現象を理解するためにモデルが使われている。気候モデル、経済モデル、疫学モデル、エネルギーシステムモデル、そしてAI。

モデルは現実を理解するための非常に強力な道具である。しかし、モデルは現実そのものではない。現実のすべてをモデルに取り込むことはできない。何を取り上げ、何を簡略化し、どのような数式やアルゴリズムで表現するかを決めなければならない。

つまり、モデルには必ず設計がある。

もちろん、それは「モデルが恣意的に作られている」という意味ではない。科学的な根拠に基づいて設計され、検証される。しかし、科学で解明されていない現象は多い。それでもなお、設計者による選択が存在することは変わらない。

だからこそ、モデルの結果を見るときには、「何が計算されたのか」だけでなく、「何を前提として、その結果が導かれたのか」を見る必要がある。

気候変動——シナリオから政策へ

この問題が最も大きな社会的影響を持っている例の一つが、気候変動である。将来の人口、経済成長、エネルギー利用などについてシナリオを設定する。それをもとに温室効果ガスの排出量を想定し、さらに気候モデルによって将来の気温や降水などをシミュレーションする。

ここには、次のような流れがある。

排出シナリオ → 気候モデル → シミュレーション → 結果の解釈 → 政策

ここで注意したいのは、最後の政策だけが「人間の判断」なのではないということである。どのようなシナリオを設定するか、どのモデルを使うか、どの結果を重視するかという段階にも、人間の意図や判断が入っている。つまり、『CO2が温暖化を引き起こしているかどうか』という物理の問題とは別に、この一連の流れ全体が、そもそも人間の判断によって組み立てられているという事実がある。

したがって、「モデルがそう言っているから、こうしなければならない」と簡単に結論づけることには慎重であるべきだろう。モデルの結果は重要である。しかし、それはあくまで一定の前提と条件のもとで得られた結果である。

パンデミック——予測が現実を変えるとき

新型感染症への対応でも、疫学モデルが重要な役割を果たした。感染者数や死亡者数が今後どのように推移するのかをシミュレーションし、その結果をもとに医療体制や社会活動への対応を考える。

ここでも、次のような流れが生じる。

疫学モデル → 将来の感染状況のシミュレーション → 政策判断

しかもパンデミックの場合には、モデルの予測を見て人間が行動を変える。人々が行動を変えれば、実際の感染状況も変わる。つまり、予測が社会に影響を与え、その影響によって予測そのものの前提が変わる。

これは非常に興味深い問題である。モデルは未来を単純に「予言」しているのではない。モデルの結果を見た人間が行動することで、未来そのものが変わるからだ。

AI——予測不能なモデルの登場

ここにAIが加わると、問題はさらに複雑になる。AIもまた、人間が設計したモデルである。しかし、現在の生成AIでは、大量のデータを学習することによって、設計者自身にも完全には予測できない能力や振る舞いが現れることがある。

AIについては、「将来、AIが人間を超え、人類に重大な危害を及ぼすのではないか」という議論もある。一方で、そのような破局シナリオについては、専門家の間でも見解が一致しているわけではない。

ここでも大切なのは、恐怖を煽ることではない。むしろ、どこまでが確認された事実で、どこからが仮定で、どこからがシナリオなのかを分けて考えることである。

AIが高度になるほど、「AIがこう答えた」という事実と、「その答えを現実の意思決定に使ってよい」という判断との間には、大きな距離がある。

「社会は設計できる」という誘惑

ここまで三つの例を見てくると、一つの共通点が見えてくる。現代社会では、複雑な現実をモデル化し、そのモデルによって将来を描き、その将来像をもとに現在の社会を動かそうとする傾向が強くなっている。これは決して悪いことではない。

道路も橋も発電所も、設計しなければ作ることはできない。問題は、本来、人間が完全には制御できない複雑な自然や社会まで、「設計できる」と考えてしまうことではないだろうか。

自然には予想外の変化がある。社会にも、人間の意思や価値観がある。そして、モデルには必ず限界がある。にもかかわらず、モデルの結果が高度で精密になるほど、人間はそれを「現実そのもの」に近いものとして受け止めてしまう。ここに、現代の「設計主義」の一つの危うさがあるのではないか。

計画経済という歴史的教訓

この発想には、歴史上、一つの類似する前例がある。かつての計画経済である。中央の計画者が、価格という分散した情報の伝達の仕組みを退け、生産や資源配分を一元的に設計しようとした結果、必要な知識を欠いたまま意思決定が行われ、最終的に立ち行かなくなった。

もちろん、気候変動対策やAI規制が、当時の計画経済とそのまま同じだというわけではない。市場も言論も科学的な検証も、なお機能している。政治体制としての強制力の度合いも大きく異なる。

しかし、「目標を先に定め、そこから逆算して現実を割り当てる」という発想の型そのものは、驚くほど似ている。設計主義の危うさは、特定の体制に固有のものではなく、体制の違いを超えて現れる、という点にこそあるのかもしれない。

モデルの結果より前提を問う

筆者は、科学技術に反対しているわけではない。むしろ逆である。科学技術を社会で有効に使うためには、そのプロセスを丁寧に見る必要があると思う。自然を観察する。仮説を立てる。モデルを構築する。計算する。実験や観測によって検証する。結果を解釈する。そして、その結果を社会にどう使うのかを判断する。

この一連のプロセスのどこに、事実があり、どこに仮定があり、どこに人間の判断があるのか。それを区別することが重要なのではないだろうか。「モデルがそう言ったから」ではなく、「このモデルは、どのような前提のもとで、どの程度まで現実を説明できるのか」を問う。これは気候変動でも、パンデミックでも、AIでも変わらない。

「設計された未来」とどう向き合うか

科学技術が高度になるほど、人間は未来を予測し、そして設計しようとする。それ自体は、人類の大きな力である。しかし、予測できることと、設計できることは同じではない。そして、設計できることと、設計すべきことも同じではない。

モデルは、未来を考えるための優れた道具である。だからこそ、その結果を安易に現実そのものとして扱ってはいけない。未来を設計する力が大きくなるほど、モデルの限界を知る謙虚さも必要になる。

現代社会に求められているのは、「設計すること」をやめることではない。むしろ、何を設計できるのか。何は設計できないのか。そして、誰が、どのような前提で、その未来を設計しているのか。そこを問い直すことなのではないだろうか。