No.273 - ソ連がAIを駆使したなら

No.237「フランスのAI立国宣言」で、国立情報学研究所の新井紀子教授が朝日新聞（2018年4月18日）に寄稿した "メディア私評" の内容を紹介しました。タイトルは、

仏のAI立国宣言
何のための人工知能か 日本も示せ

で、AIと国家戦略の関係がテーマでした。その新井教授が最近の "メディア私評" で再び AI についてのコラムを書かれていました（2019年10月11日）。秀逸な内容だと思ったので、その内容を紹介したいと思います。

実はそのコラムは、朝日新聞 2019年9月21日に掲載された、ヘブライ大学教授・歴史学者のユヴァル・ノア・ハラリ氏へのインタビュー記事に触発されて書かれたものです。そこでまず、そのハラリ教授の記事の関連部分を紹介したいと思います。ハラリ教授は世界的なベストセラーになった「サピエンス全史」「ホモ・デウス」の著者です。

---

AIが支配する世界

---

ユヴァル・ノア・ハラリ氏

朝日新聞が行ったハラリ教授へのインタビューは「AIが支配する世界」と題されています。サブの見出しは、

国民は常に監視下
膨大な情報を持つ独裁政府が現れる

データを使われ操作されぬため
己を知り抵抗を

です。まずハラリ教授は、現代が直面する大きな課題には３つあって、それは、

　① 核戦争を含む世界的な戦争
　② 地球温暖化などの環境破壊
　③ 破壊的な技術革新

だと言います。そして「③ 破壊的な技術革新」が最も複雑な課題であり、それはAIとバイオテクノロジーだとします。この２つは今後20～40年の間に経済や政治のしくみ、私たちの暮らしを完全に変えてしまうだろう、AIとロボットはどんどん人にとってかわり、雇用市場は激変すると予想します。そして以下に引用する部分が、新井教授のコラムの関係した部分です。

新たな監視技術の進歩で、歴史上存在したことのない全体主義的な政府の誕生につながるでしょう。AIとバイオテクノロジー、生体認証などの融合により、独裁政府が国民すべてを常に追跡できるようになります。20世紀のスターリンやヒットラーなどの全体主義体制よりもずっとひどい独裁政府が誕生する恐れがあります。 20世紀、中央集権的なシステムは非効率でした。中国やソ連の計画経済は情報を１カ所に集めようとしましたが、データを迅速に処理できず、極めて非効率で愚かな決定を下しました。 対照的に、西洋や日本では情報と権力は分散化されました。消費者や企業経営者は自分で決定を下すことができ、効率的でした。だから冷戦では、米国がソ連を打ち負かしました。しかし技術は進化している。いま、膨大な情報を集約し、AIを使って分析することは簡単で、情報が多ければ多いほどAIは有能になる。 例えば、遺伝学です。100万人のDNA情報を持つ小さな会社が多くあるより、10億人から集めた巨大なデータベースのほうが、より有能なアルゴリズム（計算方法）を得ることになる。危険なのは、計画経済や独裁的な政府が、民主主義国に対して技術的優位に立ってしまうことです。 「AIが支配する世界」 ユヴァル・ノア・ハラリ （朝日新聞 2019.9.21）

---

ソ連がAIを駆使したなら

---

新井教授が朝日新聞の "メディア私評" に書かれた「ソ連がAIを駆使したなら」と題するコラムは、上に引用したハラリ教授の文章の趣旨を、わかりやすく、比喩を交え、背景も含めて詳しく展開したものと言っていいでしょう。その展開のしかたがうまいと思ったので引用します。まず「もしも」という問題設定からはじまります。

「もしも」から考える　ソ連がAIを駆使したなら 歴史学者ユヴァル・ノア・ハラリ氏のインタビュー「AIが支配する世界」（9月21日付本誌オピニオン面）を読んだ。 歴史に「もしも」は禁物だ。だが、その禁をあえて犯してみたい。もし、1989年にベルリンの壁が崩壊せず、91年にソ連が踏みとどまり、今日のAI時代を迎えていたなら、どうなっていただろう、と。 ハラリ氏は、ソ連の計画経済が失敗したのは、20世紀の技術では膨大な情報を中央政府が迅速の処理できず、需給バランスをうまく調整できなかったから、と指摘する。当時は、各個人が市場経済で自己の利益を追求する「見えざる手」（アダム・スミス）を信頼する方が、最適解に達しやすかった。 新井紀子のメディア私評 「"もしも" から考える ソ連がAIを駆使したなら」 （朝日新聞 2019.10.11）

しかし自由主義市場経済は、自己の利益を追求することで最適解に到達するという信憑（「見えざる手」論）によって行動した結果、解決困難に思える問題を抱え込んでしまったように見えます。それは21世紀になると顕著に認識されるようになりました。新井教授は以下のように続けます。

一方で、「見えざる手」は公害などの外部不経済も生んだ。地球規模の環境変化は深刻だ。SDGs（引用注：Sustainable Development Goals。持続可能な開発目標）が叫ばれ、国連やG20で議題に上がり続け、紙面を賑にぎわしてはいるが、解決される希望を私たちは持てずにいる。「国際協調」などという「民主的」で生ぬるい方法では、直面する大きすぎる課題に対応できないのではないか、と。 東京オリンピックや大阪万博の頃、「世界」という言葉には、高揚感を誘う夢の響きがあった。それだけ「世界」にリアリティーがなく、地球は大きかった。しかし、「見えざる手」に導かれて、人とモノが地球を高速かつ大規模に移動しながら自己の利益を追求した結果、海はマイクロプラスチックで溢あふれかえり、アフリカ豚コレラは蔓延まんえんした。素朴に考えたほどには、地球は大きくなかったのである。 「同上」

日本の高度成長期も「自己の利益追求」をした結果、公害が蔓延しました。しかし当時の問題は日本の国の内部で解決可能でした。国民の利害の対立が激化すると（たとえば企業と住民）、メディアに取り上げられ、政府が調整に入り、民主的な手続きによって法律ができ、政府が法を強制することができたからです。

しかし21世紀に入って顕著になった課題（たとえば地球温暖化を筆頭とする環境破壊）はグローバルなものです。民主的な話合いで解決策を作ったとしても、それを強制する "グローバル政府" はありません。パリ協定から脱退したアメリカ（トランプ大統領と彼を支持する共和党）のように、協調はいやだ、勝手にやるんだと言えばそれを阻止はできない。

「見えざる手」論が国の内部に閉じているのらなまだしも、それをグローバルに拡大するのは無理が生じます。それでは、別の手段はないだろうか。「見えざる手」と真逆の経済運営をしたのが、旧ソ連の計画経済です。それは1980年代末で破綻したのだけれど、その時点ではなかった最新のAI技術を活用したらどうなるか。

そこで、もしも●●●、だ。ソ連が残り、現在のインターネットよりも中央集権的なネットワークを設計し、あらゆるものにセンサーをつけ情報をAIが理解できる形式で合理的に集め、21世紀初頭からデータサイエンスを高度化していたら、どうなっていただろうと。 実は、現在のAIの基盤である確率・統計の理論の多くがソ連発だ。コルモゴロフ、ヒンチンなどキラ星のごろく名前が並ぶ。これほど確率・統計学者が多いのは、計画経済を合理的に進めるための関心の高さゆえかもしれない。適切な刺激を与えることで特定の行動を導く「パブロフの犬」実験で知られるパブロフも、行動主義心理学に大きな影響を与えた。それらの理論は、現代の巨大テック企業のサービスの基礎になっている。 その結果、ソ連を中心とした東側諸国は、経済的に西側諸国を圧倒していたかもしれない。なにしろ、ソ連では西側と違って「人の配置の最適化」も厭いとわない。だからオリンピックも数学も強かった。子どもの行動や発達を生まれたときからモニタリングし、どんな職業に就かせるのが最適かを計算し、配置したことだろう。リクルートの内定辞退率予測どころではなく、グーグルのアルゴリズムですらトイ（玩具のようなプログラム）に見えていたかもしれない。 加えて、ソ連には、科学リテラシーに欠ける人物が、単に人気取りで大統領や首相に就くリスクがある民主的な選挙は、ない。ソ連だけでなく究極的には世界の人々を、平等に「幸せ」にするために、データサイエンスを、計画に基づき、段階的に正しく使いこなせる最も有能な人物が党大会で選出されるのである。それは現グーグルの最高経営責任者であるピチャイのような人物かもしれない。 そのとき、東側陣営は西側の敗北を見下してこう言っただろうか。「各人の自由な利益追求を野放しにすることで最適解にたどり着けるなど、『脳内お花畑』な資本主義は格差を拡大し、地球を危機に陥れた。次々とポピュリストが登場し、汚い言葉で罵ののしり合っている。知的な政治とは程遠い」と。 「同上」

新井教授も「ソ連がAIを駆使したら、計画経済はうまくいっただろう」などとは全く思っていないはずです。膨大なデータを集めて蓄積しても、それはその時点より過去のデータです。そのデータからの予測でうまく行く場合も多いだろうが、過去のデータから推測できないことも多々あります。前例がないからこそ価値があることも多い。また現在のAIがやっていることは人間の知的活動のごく一部の代行に過ぎず、さらには、人間の脳の働きや知的活動の仕組みのすべてが解明されているわけでもありません。

もっとも、歴史学者のハラリ氏が「ホモ・デウス」で可能性を指摘するように、人々が「エリート」と「無用者階級」に分断され、「無用者階級」はエリートがAIを駆使して作った "計画経済" 通りに動く、ということはありうるかもしれません。過去のデータから予測できない革新的なことや新しいアイデアに関わることはエリートが担当するというわけです。

しかし、そういった計画経済が１国の最適化にとどまっていたなら、なおかつ地球環境の破壊は起こります。現代の我々が "解決の希望を持てないでいる問題" は、なおかつ起きる。

「ソ連がAIを駆使した計画経済を行ったら」という「もしも●●●」は、本当に言いたいことを言うためのレトリックです。その新井教授が言いたいことは、次の文章に書かれています。

この「もしも●●●話」の意味は何か。 一つは、AI技術が目指していること ── あらゆるデータを収集することで未来を予測するという誘惑 ── は、葬り去られたはずの全体主義、計画経済のそれと驚くほど似ているということだ。自由の旗を掲げるシリコンバレーがその発祥の地であるのは皮肉だ。 もう一つは、「幸せ」のような質に関わることを、数字という量に換算できると考えることの危険性だ。かつて、蓮實重彦元東大総長は入学式の式辞で、学問研究の「質の評価を数で行うというのは、哲学的な誤り」と批判した。質を数字に置き換え、数字を用いて分析しなければ、近代科学にはならない。近代科学によりテクノロジーは発展したし、社会の矛盾は可視化された。数値化と数学には効用がある。だが、それは手段に過ぎない。手段が目的化したとき、私たちは再び全体主義の足音を聞くことになるだろう。 「同上」

世界的に著名な人物で「AI脅威論」を唱える方がいます。故スティーヴン・ホーキング博士や、テスラ社やSpaceXのCEOで起業家のイーロン・マスク氏などが有名です。その「AI脅威論」は、長期スパンでみると人間の知能を越えるAIが現れる可能性や、それが制御できなくなる可能性、悪用も含んでAIが社会に害毒を流す可能性、AIが人の雇用を決定的に奪ってしまう可能性などを指して言っているのでしょう。

ただ「AIが脅威」というなら、その直近の一番の脅威は、AIが全体主義を推進するツールとなる脅威だと考えられます。新井教授のコラムはそのことを言っているのだと思います。

全体主義者は、個々のモノや人の集合体に、独立した「全体」があると仮想します。その「全体」のために ････ しようとか、「全体」の幸福を実現しようとか、そういう論法を吹聴する。その「全体」の中身は、よく見ると空虚なものであるわけです。しかし「全体」は「個」に優先され、「全体」のために「個」が犠牲になっていく。

AIは全体主義の強力なツールになりうる。現に中国がその方向に向かっているように ･････（No.250「データ階層社会の到来」参照）。そのことを覚えておくべきでしょう。

---

数値化全体主義

---

このコラムは "メディア私評" と題するものです。では、どこがメディアを批評しているのでしょうか。

実はこのコラムは上に掲げた引用部分で終わっているのではなく、コラムの中に「ランキングの指標も」と題した囲み記事があります。その記事がメディアの批評になっています。

「ランキングの指標も」 アメリカの友人から嘆きのメールが届いた。大学に進学した息子の授業料が年5万2千ドル（約550万円）だという。日本の国立大学の標準授業料は年間約54万円。ざっと10倍だ。 彼が進学した大学は、英国誌「タイムズ・ハイヤー・エデュケーション」が毎秋発表する「世界大学ランキング（THE）」の上位校。論文の被引用数や留学生比率など「多様な」指標で大学を比較するが、なぜか授業料は考慮しない（引用注：THE は Times Higher Education の略）。 昨年の本誌「私の視点」で、安部憲明氏（現外務省企画官）は「ランキングの多くは統計家が処理した『作品』」に過ぎず、「客観的中立を装う数字の背後には、統計家や組織の、主張を証明したいという動機が潜」んでいるとした。 THEも、一商業誌による作品に過ぎない。それに一憂一喜するメディアは「数値化全体主義」にとって都合のよい幇間（ほうかん）といったところか。 「同上」

No.240「破壊兵器としての数学」で紹介したように、アメリカの数学者、キャシー・オニールは、時事雑誌「USニューズ」が発表している大学ランキングを批判するなかで、このランキングは授業料を考慮していないことを指摘していました。THEも同じということです。

この自由主義市場経済の中で、大学は "教育サービス" を提供しているわけですが、一般的にいって製品・サービスはコストをかけるほど品質が高くなるのはあたりまえです。しかし、裕福な人を対象とした嗜好品は別にして、それでは経営にならない。最高の品質の製品やサービスを提供して倒産した企業は一杯あります。いかにリーズナブルなコストで品質を高め、顧客満足度を向上させるかが経営なのです。ランキングを上げるために授業料を上げて高給で教授を引き抜く大学経営者は（たとえばの例です。実例は No.240 参照）、経営を語る資格など無さそうです。

引用されている外務省の安部憲明のりあき氏の文章は、朝日新聞の2018年6月21日に掲載されたものです。そのときの安部氏の肩書きは外務省OECD代表部参事官でした。この中で安部氏は、経済協力開発機構（OECD）が2017年秋に出した国別の「幸福度指標」に言及していました。この指標で「日本は対象38ヶ国の中で23位」だったのですが、安部氏はこれについて各種の視点から注意喚起をしています。次のような文章があります。

ランキングは、データや指標を選ぶ段階から、一定の価値判断を逃れられない。「幸福度」を測るには「１人当たりの部屋数」のデータも用いるが、これで本当に幸せが測れるなら、「サザエさん」のカツオ君とワカメちゃんの相部屋は解消すべし、と提言されよう。 また「健康」は、自己申告の健康と、平均寿命という客観指標を併用するが、日本は寿命で１位、自己申告で37位というのが皮肉だ。 安部憲明　 （外務省OECD代表部参事官） 「私の視点」朝日新聞（2018.6.21）

No.247「幸福な都道府県の第１位は福井県」で、日本総合研究所が出している "都道府県幸福度ランキング" の算出方法を詳述しました。それを見ても「データや指標を選ぶ段階から価値判断が入っている」のが分かります。もちろん特定のデータを「選ばない」という価値判断も含みます。まさに新井教授が引用した安部氏の文章にあるように「ランキングの多くは統計家が処理した『作品』」です。

ランキングというのは、単一数値の比較であれば、それほど問題がないわけです。「一人当たりのGDPのランキング」というのは（各国がGDPを正しく算定しているという前提で）問題はない。それは事実を提示する一つの方法です。

しかし「幸福度」とか「大学の教育・研究の卓越性」などは、一つの数値では表しようがないし、蓮實重彦元東大総長が批判するように、そもそも数値では表せないものです。

しかし、各国の幸福度を比較しよう、各大学の教育・研究の卓越性を比較しようとする "数値化全体主義者" は、何らかの共通数値化をし、各国全体、各大学全体を貫く統一指標を作成しようとします。その指標の中身を見ると、そこに鎮座しているのは一つの数学モデル（数式）です。それは作成者のもっともらしい説明がついているけれど、それがどういう意味を持つのか、誰にも分からない。少なくとも共通の理解は得られない空虚なものです。

我々としてはランキングのもとになった個々のデータを（データの正確さも含めて）注視する必要があります。それを分析してわかりやすく解説するのはメディアの責任ですが、現在のメディアはそうはなっていません。新井教授の、

（ランキングに）一憂一喜するメディアは「数値化全体主義」にとって都合のよい幇間ほうかん

という最後の一文が、このコラムの本来の主旨である「メディア私評」なのでした。

---

---

タグ：AI ソ連 "THE" ランキング 全体主義 タイムズ・ハイヤー・エデュケーション ユヴァル・ノア・ハラリ 数値化全体主義 新井紀子