■ 健全な人工知能（AI）の開発スタイルは、AI vs. 人間じゃない！
経営管理・管理会計をやっている筆者が、しつこく自身のブログでAIを取り上げるのは、ただ個人的に興味があるだけでなく、AIの可能性が、設計・製造・販売・サービスといったバリューチェーン上の生産性の向上と、トップマネジメントによる経営管理や経営判断に資するデータ分析をしてくれるとの期待からです。それゆえ、健全でかつ効果的なAIの進化を望む一人でもあります。
2016/3/19付 ｜日本経済新聞｜夕刊 囲碁ソフト世界大会 フェイスブックも参戦 東京で開幕、31チーム対局
「囲碁ソフトが世界トップクラスのプロ棋士を破り人工知能（ＡＩ）に注目が集まる中、日米欧などのソフト同士が対戦する世界最大規模のコンピューター囲碁大会が19日、東京都調布市の電気通信大で開幕した。
トップ棋士を破った米グーグル傘下企業のソフト「アルファ碁」は不参加だが、グーグルと並びＡＩ開発に力を入れる米フェイスブックのソフトが初登場した。」
（注）日本経済新聞の記事へ直接リンクを貼ることは同社が禁じています。お手数ですが、一旦上記リンクで同社TOPページに飛んでいただき、上記リード文を検索すればお目当ての記事までたどり着くことができます
今回の大会は、「AI」対「人間」という構図ではなく、AIソフト同士の闘いとなります。筆者としては、こちらの方が健全なAIの鍛え方、AIを使った競い方だと考えています。
「大会は９回目で、日本のほか米国や韓国、フランスなどから集まった過去最多の31チームが２日間の日程で戦う。企業が支援するチームもあるが、多くは研究者や学生、プログラマーなどの個人という。対戦は碁盤を介することなく、持ち込んだパソコンをネットにつないで行われた。優勝と準優勝のソフトは23日の「電聖戦」で小林光一名誉碁聖と対戦する。
伊藤助教（実行委員長の伊藤毅志電気通信大助教）によると、日本とフランスのソフトにアルファ碁でも使われたディープラーニング（深層学習）という最新のＡＩ技術が導入され、成果が期待できるという。」
ディープラーニング技術により、AIソフト同士が人間業では再現できないスピードで自動対戦を繰り返し、自分たちで新たな棋譜を学習して腕を磨いていきます。このプロセスは、対人戦を必要とはしません。深層学習とか機械学習で勝手にAIが強くなっていく。そこには、もはや人間の知恵は不要なのか。たまには新手・奇手を人間が教えてあげないと、AIも強くならないのか。そこは、囲碁の名人を筆頭とするプロとの対戦ではなく、開発者によるアルゴリズム改変のインプットでも事足りるはずです。わざわざ、AI対人間の構図を作り出す必然性は無い、というのが筆者の主意なのです。
■ コンピューター囲碁世界大会は、日本の「Zen」の優勝で幕を閉じました
前章でご紹介した大会は、日本のソフトの優勝に終わり、次は小林光一名誉碁聖と対戦が待っています。
2016/3/21付 ｜日本経済新聞｜朝刊 コンピューター囲碁世界大会、日本のソフト優勝 グーグル系は不参加
「日米欧などの囲碁ソフト同士が対戦する世界最大規模の「コンピューター囲碁大会」の決勝戦が20日、東京都調布市の電気通信大で開かれ、日本のチームが開発した「Ｚｅｎ」が優勝した。」
（下記は、記事添付の大会の模様を写した写真を転載）
「決勝戦で初参加となる米フェイスブックのソフトを破った。両ソフトは23日に行われる「電聖戦」に進出しハンディをもらって小林光一名誉碁聖と対戦する。
世界のトップ棋士に勝った米グーグル系企業の「アルファ碁」は不参加。大会で上位に残ったソフトの実力はアルファ碁には及ばないものの、アマチュアのトップクラスに近づきつつあるという。
過去最多の31チームが参加し、ソフト同士がネットを通じて対戦した。アルファ碁にも使われ、人工知能（ＡＩ）の判断力を高めるディープラーニング（深層学習）という手法を上位チームが取り入れたのが特徴。昨年優勝のフランスのチームは３位だった。実行委員長の伊藤毅志電気通信大助教は「怪物的なアルファ碁ほどではないが、昨年よりはっきりと強くなっている」と振り返った。」
興業的に、AI対人間の対戦を組んだ方が、人々の話題にも乗り、商業的なエンターテイメントとしては盛り上がって成功するのかもしれません。しかし、筆者は、次の2点からAI対人間の構図による対戦形式の催し物は、あまり感心しません。
１）AIは、人間社会をよりよくするツールで、決して人間と対立する存在ではない。または、対立するものと誤認するような対戦形式の催し物は控えるべきである
２）AI対人間の対戦が、必ずしもAIの意味のあるアルゴリズム強化につながるかは微妙である
ただでさえ、「AIが人間の仕事を奪う」式の論調が後を絶ちません。その主張も、ある特定の職業にとっては確かに真実です。テクノロジーの盛衰によって、新たに生まれる職業もあれば、消滅する職業も当然存在します。一概に、AIが人間の労働機会を奪う、というのは暴論にすぎません。
「電話交換手」という職種は完全に無用になりましたが、ITの進化により、情報システムの開発や運用・保守の仕事は、新たに創出・拡大されました。
（参考）
⇒「（経済教室）人工知能は職を奪うか(下)意思疎通能力、一層重要に 労働市場の整備カギ 柳川範之 東京大学教授」
⇒「（経済教室）人工知能は職を奪うか(上)日本、生産性向上の好機に 労働者の再教育カギ オックスフォード大学准教授 Ｍ・オズボーン、オックスフォード大学フェロー Ｃ・フレイ」
⇒「（核心）人工知能の時代に何を学ぶ 意外に重み増す文系科目 本社コラムニスト 平田育夫」
⇒「日曜に考える（創論）ロボット普及が変える世界 －人工知能（AI）について」
⇒「（エコノミクス トレンド）技術革新は職を奪うか 新たな仕事生む面も 鶴光太郎 慶大教授」
また、２）については、次の投稿をまず読んで頂きたいです。
⇒「将棋電王戦 人間が初勝利で人工知能（AI）との付き合い方を考える」
ここでは、勝負にこだわるあまり、人間側があえて奇手を用い、ソフトに勝利した一局の功罪を述べています。こうした奇手・新手をAIが覚えて、強くなり、AIの汎用性や道具性が高まるのなら問題ないのですが、それもアルゴリズムを相手にするプログラミングの世界のお話し。あえて、対局形式にする必要はありません。
将棋の方は、「碁」より先を行っていて、人間とAIのタッグ戦に衣替えして次大会が行われます。どうAIを使いこなすか、その技を競う段階に来たのではないでしょうか。
■ 「囲碁AI」が証明してくれた、AIの凄味と有用性とは？
ITPro掲載記事を改題した、日経電子版の次の記事が大変良く読まれました記事の週間1位をとっていました。
2016/3/17付 ｜日本経済新聞｜電子版 圧勝「囲碁ＡＩ」が露呈した人工知能の弱点
「米グーグルの研究部門であるGoogle DeepMindが開発した囲碁AI（人工知能）「AlphaGo（アルファ碁）」と、韓国のプロ棋士イ・セドル氏が2016年3月9日～15日に韓国で相まみえた五番勝負は、イ・セドル氏が第四局で一矢を報いたものの、4勝1敗でAlphaGoの圧勝に終わった。この五番勝負は、“第三次AIブーム”を牽引するディープラーニング（深層学習：多層のニューラルネットによる機械学習）のデモンストレーションという枠を超え、その強みと弱点、ビジネス応用の方向性を浮き彫りにした。」
（下記は、記事添付の対局の模様を伝えた写真を転載）
グーグルの人工知能「アルファ碁」とトップ級棋士の囲碁対決。第４局は人間が勝利して一矢を報いましたが、改めて、今回の五番勝負が改めて示したディープラーニングの強みは、このAI技術が用途によらず、極めて汎用的に使えることを示したとも言えます。しかし、ちょっと怖いのは、次の事実です。
「AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない。過去の棋譜をニューラルネットに入力する「教師あり学習」と、勝利を報酬に囲碁AI同士を対局させて鍛える「強化学習（教師なし学習）」だけで、世界最強と称されるプロ棋士を破るまでに成長させた。
AlphaGoは2015年10月の時点で、3000万局もの自己対局をこなしたという。地球上にプロ棋士が1000人いるとして、毎日対局したとしても1年当たり約20万局。少なくとも、未知の定石や打ち筋といったイノベーションを生むスピードで言えば、コンピューターは囲碁の領域で「シンギュラリティ（技術的特異点）」に達した、と言わざるを得ない。今後は、コンピューターとプロ棋士の組み合わせが生み出すイノベーションへと焦点が移るだろう。」
AIと人間がうまく共存というか、AIをうまく使いこなすことが、これからの「AIあり社会」のスマートな生き方となります。それは同記事でも次のように説明が付されています。
「プレーヤーが全情報を把握できる「完全情報ゲーム」でなくとも、ディープラーニングは適切な「入力データ」と「教師データ」「報酬データ」を用意できれば威力を発揮できる。これまで人間が担っていた「認識」「検知」に関わる領域、例えば画像認識、音声認識、顔認証から、防犯カメラに映った人間の振るまい解析、サイバー攻撃の予兆検知、医療用画像の解析などで、人間を超える精度を実現しつつある。」
AIは常識を知らない、と批判されますが、その批判はある意味あたっていますが、またおはずれとも言えます。だって、「インプットデータ」「思考のためのアルゴリズム」「目的（報酬）」だけがあれば、その情報系の中で完結した答えを導くだけです。社会的常識なんてAIには不要です。それは、AIを使い倒す人間側の問題です。
■ 「囲碁AI」が露呈させた、AIの意外な弱点とは？
同記事には、続いてAIの弱点の解説が述べられています。
「今回の五番勝負は、ディープラーニングの強みに加えて、ディープラーニングを実社会に応用する上での二つの弱点を露呈させた。
一つは、AIが明らかに誤りと思える判断を出力した場合にも、その原因の解析が極めて困難であることだ。イ・セドル氏が勝利した第四局では、AlphaGoは明らかな悪手を繰り返した後に敗北したが、その原因は当のDeepMindのメンバーにも分からなかった。通常のプログラムであればコードを追跡してデバッグできるが、ディープラーニングには人間が読める論理コードはなく、あるのは各ニューラルネットの接続の強さを表すパラメーターだけ。アルゴリズムは人間にとってブラックボックスになっている。」
このAIのアルゴリズム制御問題は、その昔の「フレームワーク問題」を彷彿とさせます。AIの作り手の思考の限界をAI自身に超克してもらうための「ディープラーニング」技術ではありませんか。
「もう一つは、高度に訓練されたAIは、例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合があることだ。特にAlphaGoが勝利した第二局では、プロ棋士の解説者は「なぜAlphaGoの奇妙な打ち手が勝利につながったのか、理解できない」といった言葉を繰り返した。
この点は、AIと人間が共存する環境、あるいはAIの判断が人間の生死に関わるような用途では、大きな問題となる。例えば、自動運転車のAIが、周囲の人間には理解しがたい運転を繰り返すようでは、人間の運転ミスを誘発しかねない。」
これは、人間とAIの作業・役割分担の問題。膨大なデータ（もうビッグデータとはいわなくなりました？）をAIに喰わせて、AIが出した答えを、人間が最終判断すればよろしい。AIのストリーミングな反応が必要な領域では、十分に枯れたアルゴリズムでAIを使うだけのことです。弱点やリスクというより、AIってそういうもんです。ただのツールだから。
■ それより、「AI」開発技術を持っている企業が産業の覇権を握る可能性の方に気を配りましょう！
同記事では、「AI研究でますます高まるグーグルの吸引力」と題して、
「今回の五番勝負は、IT（情報技術）企業によるAI開発競争において、巨大なITインフラを保有する企業ほど有利となる現状を見せつけるものでもあった。
従来のディープラーニング技術は、複数台のサーバーが分担して処理する「分散化」を苦手としていた。だが米グーグルは、自社のディープラーニングソフトウエアライブラリ「TensorFlow」の分散化機能を強化。AlphaGoでも、本番対局では分散処理バージョンを使った。
2015年10月に欧州のプロ棋士と勝負した際は、1202台のCPUと176台のGPU（グラフィカル・プロセシング・ユニット）で並列処理させたという。自己対局による強化学習でも、グーグルのIaaS（Infrastructure as a Service）「Google Cloud Platform」が持つ大量のコンピューティング資源を活用した。」
と、IT企業の力技の凄さを指摘したうえで、
「かつて米IBMは、自社のハードウエアを使って1997年にチェス王者を、2011年にクイズ王を下し、その技術力を誇示した。グーグルは今回の五番勝負で、こうしたIBMのPR戦略のお株を奪った格好だ。大量のデータを蓄積し、豊富なITインフラを湯水のごとく使える――。優秀なAI技術をひきつけるグーグルの吸引力が、今回の五番勝負でますます高まったのは間違いないだろう。」
と、次のITに限りません、広く産業の覇権構図を塗り替える可能性をAIが秘めている、ということを指摘しています。
これについては、既存の産業界でもリアクションがきちんとあります。
2016/3/25付 ｜日本経済新聞｜朝刊 （Voice）車、製造下請けになる恐れ
「「今ある企業が自動車業界の鴻海（ホンハイ）精密工業（台湾）になることだってある」。独ダイムラーのディーター・ツェッチェ社長は新たな脅威が生じていると語る。系列店を経由し顧客に接するモデルが変わり、デジタル化で「第三者がメーカーと消費者の間に割り込むようになってくる」。メーカーが米グーグルのように付加価値を生めなければ製造下請けに成り下がる恐れがあるとみる。
（下記は、同記事添付のインタビューに答えたツェッチェ社長の写真を転載）
「焦点の一つとみるのが自動運転車だ。「グーグルや米アップルが何をするかは分からないが、彼らのスキルや能力を過小評価してはいけない」と指摘。ダイムラーは部分的な自動運転技術を最新モデルで次々と実用化してきた。「彼らはこの分野で相当進んでいる。我々もそうだ」と対抗心をむき出しにしている。」
その昔、製造業における「スマイルカーブ」という概念（台湾のエイサー(宏碁電脳)社のスタン・シー会長がパソコンの各製造過程での付加価値の特徴を述べたのが始まりとされている）を用いて、製造業における付加価値は、上流の部材・設計技術と、下流のカスタマーサービスにシフトし、中流の製造プロセスは低付加価値で、外注に出した方が良いということで、電子機器を受託生産するEMS (Electronics Manufacturing Service) 企業が台頭した経緯があります。
そのEMSの代表格の一社である「鴻海（ホンハイ）精密工業」を引き合いに出して、自動運転技術が取りざたされている自動車産業界において、既存メーカーが危機感を募らせているというわけです。エレクトロニクス業界で一敗地に塗れた日本企業。すわっ、次は自動車業界か。自動車業界の行く末は？ 時間があれば、次はその話題も語りましょうか。(^^;)
コメント