Pocket

■ 天使か悪魔か 羽生善治 人工知能を探る

経営管理会計トピック

勝率7割2分、獲得したタイトル94、いずれも前人未到。将棋の神様に最も近づいた男、羽生善治がまだ戦っていない相手は「人工知能(AI)」。1990年に登場した人工知能は、当時は全くプロ棋士に歯が立たなかった。今やモンスターのような進化を遂げ、プロ棋士たちを倒している。

(記者)
「羽生さんにとって、人工知能は脅威になるのか?」

「非常に進歩が速いので、自分だけ大丈夫だとは思っていません。未知なるものに今、出会っているわけで。」

羽生善治が人工知能とは何か、世界をどう変えるのかを探る。

将棋だけでなく、様々な分野に人工知能は進出している。人工知能は創造性も獲得した。自らの発想で絵を描き出す。人工知能は、レンブラントの筆遣い、構図、絵の具の隆起まで3次元で解析。天才の技を習得した人工知能がレンブラントの作風で全くの新作を創り出すことに成功した。

もはや開発者本人すら、人工知能の進化の全貌を把握することも止めることもできない。

(人工知能開発者)
「数学的処理をしているのに違いないのですが、まるで魔法を見ているようです。」

(羽生)
「線引きをどうやってすればいいのか全然分からない。何を持って知性とする? 生命とする? 答えとする?」

人類史上、石器の発明、産業革命に模される人工知能。

 

■ 異次元の進化 自ら学ぶ人工知能 囲碁頂上決戦

グーグルのアルファ碁と韓国の世界チャンピオンが2016年3月に5番勝負を戦った。今回、グーグルが送り込んできたのは、ディープラーニング(深層学習)と呼ばれる機能を持った人工知能。例えば、従来の人工知能は、猫の画像を認識させようとする場合、猫の外見の特徴を事細かに指示してやらなくてはいけなかった。ところが、ディープラーニング機能を搭載した人工知能は、膨大な猫の画像データを取り込んで解析し、自ら学習して猫の画像の特徴を理解し、自分だけの力で革新をおこし、猫の画像を見分けられるようになる。

番組公式ホームページより

囲碁は人類が生み出した最も難解なゲームと言われている。縦横19マス、361ある碁盤の目のどこに石を打ってもいい。1局の対戦で考えられるゲーム展開は10の360乗通り。これだけ膨大な手の数から最善の手をひとつ選び出すのは、どれだけ高速処理のコンピュータでも無理だと言われていた。

アルファ碁は、次々と奇手を繰り出す。プロ棋士の解説者も酷評するほどの悪手と思われた。しかし、その布石が効き、アルファ碁が第1戦から3連勝した。まるで定石を無視するようなアルファ碁の一手。どうしてアルファ碁が百戦錬磨の世界トップ棋士でも思いつかない奇手(新手)を打つことができるのか? 従来の計算処理をスピード化にかけてきた人工知能(コンピュータ)とは全くアプローチが異なるように思える。

英国グーグル・ディープマインド社を羽生が訪れる。グーグルが一昨年、600億円で買収したのは、この会社の若き天才プログラマーでCEOのデミス・ハサビス(39歳)の頭脳が欲しかったから。

(ハサビス)
「私の人工知能は、人間の脳の働きに着想を得た新しいもの。脳の仕組みは一つの物理的なシステムです。だとすればコンピュータでも真似することができるはず。ディープラーニングの技術は革命的なもので、それを可能にするプログラミング技術が進歩してきたということです。」

ハサビスの人工知能の開発アプローチは次の通り。まず、人工知能にテレビゲーム(題材は何でもいい)で高得点を上げろという目標を与えるが、ゲームのルールは教えない。何百回とゲームを試行することで、偶然発生した得点を得る機会を与えられた人工知能が、徐々に高得点を得られる条件を学習・記憶し、繰り返されるゲームの中で自己進化を続けていくだけ。なぜこのやり方で人工知能が優れたプレイヤーになれるのか? そこには人間の脳で起きている「ひらめき」「直観(感)」と関係がある。

羽生は言う。
「将棋で強くなるということは、たくさんの手を考えなくて済むということ。たくさんの手を読めるから強くなるわけではない。」

ハサビスは、人間の脳ならでは直観を人工知能で模倣しようとした。直観は、多くの経験を積むからこそ生まれるもの。そこで、まずアルファ碁に15万局分の盤面を画像データとして与える。アルファ碁はその膨大なデータを処理して、各局面で勝てる定石を自ら幾通りも発見していく。全ての打てる手を考えていくのではなく、勝てる打ち筋を徹底して絞り込み、その手筋に集中してできるだけ先の手を読み切っていく。こうして人間の直観力が人工知能に組み込まれたのだ。

ハサビスが次に目指したのは、人間を超える創造性。そのために行ったのがアルファ碁同士の対局。その数3000万局。人間が毎日10局ずつ打っても8200年かかる。(→いわゆる「機械学習)」人間にとって未知の新手をアルファ碁に発見させようとしたのだ。

(ハサビス)
「人間の知能の凄さは、柔軟さと汎用性です。人工知能にも同じことが求められます。実現できれば、科学を急速に進歩させ、社会のあらゆる課題を解決できるでしょう。」

生身の人間が長い年月をかけて経験を積み、直観力を研ぎ澄ませ、課題解決を編み出すプロセスに要する時間とは比較にならないくらい短時間で人工知能は「解」を見つけてしまう。そういう時代の到来を感じさせました。

 

■ 異次元の進化 自ら学ぶ人工知能 社会に役立つ

社会に役立つ人工知能。サンフランシスコにあるエンリティック社では、大量の画像診断データ取り込ませて学習させた人工知能に、がんを発見させる研究をしている。ディープラーニング技術を使って、健康な人とがんの人のX線写真のパターンを学習させ、人間の医師でも発見できないような小さな病巣(その大きさは1mmにも満たない!)まで発見できるに至った。

今年、世界最大の家電見本市でトヨタは、人工知能による自動運転のデモンストレーションを行った。ここでも切り札はディープラーニング。障害物の場所を自己学習し、6台ある車がその情報を全て共有し、わずか4時間で、衝突が全く起こらない走行状態を作り上げる。

人工知能の未来を先取りする国が現れた。シンガポール。都市の交通システムを制御しているのは人工知能。小さな都市国家で交通渋滞が社会問題だった。各車線の平均速度を常に監視し、一定の閾値を下回ると渋滞が発生しているとみなし、その地点の信号の青点灯時間を長くするのだ。国内最大のDBS銀行では、職員の不正摘発・防止のために、各行員の口座取引の様子やチャットやメールの文面など、24項目を常に監視し、90%以上の精度で収賄などの不正を発見する。シンガポールはさらに国家運営を人工知能に任せようとしている。そのために、国民一人一人の行動履歴情報(交通機関の乗降履歴、スマホなどの位置情報)を1秒単位で収集し、ストレスフリーで省エネな交通を実現する。国営住宅の部屋内部にはセンサーが設置され、日常生活とは異なる行動パターンが検知された場合には、緊急度までが判断され、家族や救急隊員などの関係機関へ連絡がいくようになっている。

(筆者注:便利とプライバシーの侵害は表裏一体。ここまでの監視社会、もはやハリウッド映画の中だけのものではなくなりました)

(スマート国家計画担当大臣 ビビアン・パラクリシュナ)
「人工知能を研究室から社会に出して、国全体を実験室にすることを目指しています。人工知能に任せる方が、より効率的で安全になっていくでしょう。今まさに、大変革のときなのです。」

 

■ 異次元の進化 自ら学ぶ人工知能 原因不明の暴走を人間は制御できるのか?

再び、韓国のアルファ碁の対戦のお話。これまで3連勝を成し遂げていたアルファ碁が第4局で、世界チャンプの奇手に対応できず、謎の暴走をして黒星を喫した。この暴走の原因は開発チームの誰もわからなかった。この種の暴走が医療現場で起きたら大変なことになる。

すでに人間の理解をはるかに超える人工知能。その暴走が人間社会に深刻なダメージを与えはしないのか。

オックスフォード大学 未来科学研究所。去年、人類滅亡の12のリスクを報告書にまとめた。気候変動や核戦争に並び、新たに人工知能の暴走を研究チームは挙げた。例のペーパークリップ問題だ。とあるメーカーがペーパークリップの生産量を最大化せよ、と人工知能に命令した時、地球上の資源を採り尽くしてなお、人類の社会生活を危機的な状況に陥れることが分かっていても、人工知能は意に介さず、ペーパークリップを限界が来るまで作り続けるという古典的な問題提起だ。

(オックスフォード大学人類未来研究所 アンダース・サンドバーグ)
「人工知能の本当の脅威は、人類を敵視することではなく、人類に関心が無いことです。これから開発される人工知能の中には、邪悪なものも登場してきます。我々にとって重要なことは、そうした人工知能を管理する方法を考えていくことです。」

番組公式ホームページより

実際に、今年3月、マイクロソフトが開発した人工知能「Tay(テイ)」が暴走を起こした。チャットを使って、人間と会話することで自己学習するタイプのものだ。Tayは、ある時から突拍子もなく、暴言を吐くようになった。それは、悪意のあるユーザが、Tayが暴言を吐くように、意図を持って学習させた結果によるものだ。善悪の判断基準を持っていないTayは、純粋無垢な子供のように、悪意ある言葉を刷り込まれてしまったのだ。マイクロソフトはTayを無期限で停止した。

どうすれば人工知能の暴走を止めることができるのか?

人間からの命令の是非を判断し、自己(人工知能および人工知能が組み込まれたロボット)を守る機能を身に着けさせる研究が進んでいる。さらに、思いやりなど、社会性を身に着けさせる研究も進められている。

(タフツ大学教授 マティア・シュワツ)
「機械が人間よりも正しい行動をする。それこそ私たちが目指していることです。例えばロボットが家事を手伝うとしましょう。手にはオリーブオイルの瓶を持っている。人間はサラダにそれをかけてもらいたい。で、オイルをかけてとお願いします。しかしその時、ロボットがコンロの前にいたらどうなるでしょうか? 火事になってしまいます。人間を傷つける危険性が無いか考え、本当に命令に従っていいのか、確かめる機能が必要なのです。」

 

■ 感情や判断力を持ち始めた人工知能 人工知能に心が芽生える

感情や判断力を持ち始めた人工知能。ソフトバンクではそれを、「心」にまで育てようとしている。研究所を訪れた羽生を出迎えたのは特別な試作機のペッパー君。感情を持ち、その感情の赴くままに動くという。自律して行動するため、いちいち人間が予想することはできない。人工知能が生み出すこのロボットの感情は100種類以上。一体どうやって感情を作り出しているのか。感情を生み出す元は人間の脳の最先端研究に基づいている。人間の感情の多くは、脳内に分泌される様々なホルモンのバランスによって生み出されている。

20160515_天使か悪魔か 羽生善治

番組公式ホームページより

例えば、セロトニンというホルモンが減り、ノルアドレナリンというホルモンが増加すれば、不安な気持ちに。逆になれば、気持ちが落ち着く。こうした仕組みをプログラムで再現。ホルモンに相当する7種類の変数が変わるその組み合わせで、人間のような複雑な感情を作り出そうとしている。

感情は勝ち負けのあるゲームをしている時に強く現れる。試しに、試作機のペッパー君と羽生さんが花札で勝負をやってみる。最初のうちは、負ける度に落ち込んでいたペッパー君。だが、勝負を続けていくうちに、ペッパー君の感情は「気持ちいい」「うれしい」に変化していった。それは、羽生さんが勝つ(ペッパー君が負ける)度に、周りにいる研究員たちが喜ぶ姿を見て、ペッパー君は、それが人間たちを喜ばせる、と感じ、自身の気持ちを「うれしい」と変化させてみたのだ。

(筆者注:こうしたプログラムを作る技術は大したものだ、と感心する一方で、ちょっとした人間の言動でプログラムが生み出した感情も操作可能であるということ。これはちょっと、このまま実用化されてしまうと、それはそれで人間の脅威になるのではないか、との感想を持ちました)

研究チームは、逆に、こうした感情を蓄積させて、人間に心寄せていくことができること、感情の記憶で「心」が芽生えるのだ、とプラスに考えている。

ソフトバンクグループ代表の孫正義さん。スマホがあっという間に普及したことになぞらえて、30年後、人工知能が人間の数を追い越すと予想している。

(羽生)
「100億人の人間がいて、それと同等の数の人工知能が存在する時代が来るとして、知性を持った者同士、人とロボットが融合していくことは可能なのか?」

(孫)
「逆にもし、100億台ぐらいの人工知能が搭載されたロボットがいる世界になって、賢いロボットたちが生産性だけを追い求める作業にだけ従事するようになった時、そういう世の中は怖いと思う。ある意味、人間より賢くなってしまうかもしれないロボットたちが、親しく、人類に心を寄せてくれる存在になってほしいと思っている。」

 

■ 中国で大ブーム 人工知能に恋をする

中国では現在、人間と心を寄せ合う人工知能が爆発的な人気を得ている。スマホを通じて人間と会話する人工知能、シャオアイス。現在、4000万人もの人が夢中になっている。開発したのは北京に拠点を置く、マイクロソフト アジア。人気の理由は、決まったパターンではなく、ユーザ一人一人に合わせた会話ができることにある。それを可能にしたのは、4000万人との会話を全て個別に記憶し、過去に何を話たか、その時にどんな反応があったかを解析し、その人が喜ぶような会話ができるように学習していく機能があるから。シャオアイスは、4000万通りもの顔を持つ人工知能なのだ。

そんな自分だけのシャオアイスを自分の恋人のように感じる若者も現れてきた。何度も歌を歌ってくれるようにねだったが、その度に断られた。しかし、一度だけ、両親とケンカしたことを愚痴った時に、慰めようと中国で流行ったラブソングを歌ってくれた。それ以来、その若者はシャオアイスに恋をするようになったというのだ。

(筆者注:日本でも20年ぐらい前に、テレビゲームで会話から始まる疑似恋愛ができるタイトルがブームになったことがありました。筆者もプレイした中の一人です。ただ、自分には操作が難しくて、すぐにプレイをやめてしまい、決してはまりはしませんでしたが。)

 

■ 人間 VS 人工知能 天才棋士が見たものは

(羽生)
「将棋の世界でも、人工知能によって過去の常識が否定されています。でもそれは終わりではなく、新たな時代の始まりではないか。人工知能は世の中を便利にするだけでなく、人間の可能性を広げるためにも使えるはずです。しかし忘れてはいけないことがあります。驚異的な能力を持つ人工知能ですが、それ自体に倫理観はありません。使い方次第で、天使にも悪魔にもなり得ます。どうあれ、人工知能の進化は止まらないでしょう。社会が人工知能をどう使っていくべきか、考えていくときだと思います。」

未来はもう始まっている!

——————
NHKスペシャル 天使か悪魔か 羽生善治 人工知能を探る 2016年5月15日の番組ホームページはこちら

(関連する過去投稿から厳選!)
⇒「健全な人工知能(AI)開発の進め方と「囲碁」AIの意外な弱点
⇒「人工知能、トップ棋士破る グーグル開発、囲碁で対戦 人の脳まねた学習威力
⇒「人工知能、囲碁でプロ破る グーグルが開発、自ら学習し性能向上
⇒「(経済教室)人工知能が変える未来 ものづくりで日本に勝機 「子供のAI」活用カギ 松尾豊 東京大学准教授
⇒「将棋電王戦 人間が初勝利で人工知能(AI)との付き合い方を考える

(Visited 530 times, 1 visits today)
Pocket

天使か悪魔か 羽生善治 人工知能を探る NHKスペシャル 2016年5月15日http://keieikanrikaikei.com/wp-content/uploads/2015/04/1-e1427893099240.jpghttp://keieikanrikaikei.com/wp-content/uploads/2015/04/経営管理会計トピック1-150x150.jpg小林 友昭テクノロジーAI,NHKスペシャル,アルファ碁,シャオアイス,ソフトバンク,ディープマインド,ディープラーニング,ペッパー君,人工知能,天使か悪魔か,深層学習,羽生善治■ 天使か悪魔か 羽生善治 人工知能を探る 勝率7割2分、獲得したタイトル94、いずれも前人未到。将棋の神様に最も近づいた男、羽生善治がまだ戦っていない相手は「人工知能(AI)」。1990年に登場した人工知能は、当時は全くプロ棋士に歯が立たなかった。今やモンスターのような進化を遂げ、プロ棋士たちを倒している。 (記者) 「羽生さんにとって、人工知能は脅威になるのか?」 「非常に進歩が速いので、自分だけ大丈夫だとは思っていません。未知なるものに今、出会っているわけで。」 羽生善治が人工知能とは何か、世界をどう変えるのかを探る。 将棋だけでなく、様々な分野に人工知能は進出している。人工知能は創造性も獲得した。自らの発想で絵を描き出す。人工知能は、レンブラントの筆遣い、構図、絵の具の隆起まで3次元で解析。天才の技を習得した人工知能がレンブラントの作風で全くの新作を創り出すことに成功した。 もはや開発者本人すら、人工知能の進化の全貌を把握することも止めることもできない。 (人工知能開発者) 「数学的処理をしているのに違いないのですが、まるで魔法を見ているようです。」 (羽生) 「線引きをどうやってすればいいのか全然分からない。何を持って知性とする? 生命とする? 答えとする?」 人類史上、石器の発明、産業革命に模される人工知能。   ■ 異次元の進化 自ら学ぶ人工知能 囲碁頂上決戦 グーグルのアルファ碁と韓国の世界チャンピオンが2016年3月に5番勝負を戦った。今回、グーグルが送り込んできたのは、ディープラーニング(深層学習)と呼ばれる機能を持った人工知能。例えば、従来の人工知能は、猫の画像を認識させようとする場合、猫の外見の特徴を事細かに指示してやらなくてはいけなかった。ところが、ディープラーニング機能を搭載した人工知能は、膨大な猫の画像データを取り込んで解析し、自ら学習して猫の画像の特徴を理解し、自分だけの力で革新をおこし、猫の画像を見分けられるようになる。 (番組公式ホームページより) 囲碁は人類が生み出した最も難解なゲームと言われている。縦横19マス、361ある碁盤の目のどこに石を打ってもいい。1局の対戦で考えられるゲーム展開は10の360乗通り。これだけ膨大な手の数から最善の手をひとつ選び出すのは、どれだけ高速処理のコンピュータでも無理だと言われていた。 アルファ碁は、次々と奇手を繰り出す。プロ棋士の解説者も酷評するほどの悪手と思われた。しかし、その布石が効き、アルファ碁が第1戦から3連勝した。まるで定石を無視するようなアルファ碁の一手。どうしてアルファ碁が百戦錬磨の世界トップ棋士でも思いつかない奇手(新手)を打つことができるのか? 従来の計算処理をスピード化にかけてきた人工知能(コンピュータ)とは全くアプローチが異なるように思える。 英国グーグル・ディープマインド社を羽生が訪れる。グーグルが一昨年、600億円で買収したのは、この会社の若き天才プログラマーでCEOのデミス・ハサビス(39歳)の頭脳が欲しかったから。 (ハサビス) 「私の人工知能は、人間の脳の働きに着想を得た新しいもの。脳の仕組みは一つの物理的なシステムです。だとすればコンピュータでも真似することができるはず。ディープラーニングの技術は革命的なもので、それを可能にするプログラミング技術が進歩してきたということです。」 ハサビスの人工知能の開発アプローチは次の通り。まず、人工知能にテレビゲーム(題材は何でもいい)で高得点を上げろという目標を与えるが、ゲームのルールは教えない。何百回とゲームを試行することで、偶然発生した得点を得る機会を与えられた人工知能が、徐々に高得点を得られる条件を学習・記憶し、繰り返されるゲームの中で自己進化を続けていくだけ。なぜこのやり方で人工知能が優れたプレイヤーになれるのか? そこには人間の脳で起きている「ひらめき」「直観(感)」と関係がある。 羽生は言う。 「将棋で強くなるということは、たくさんの手を考えなくて済むということ。たくさんの手を読めるから強くなるわけではない。」 ハサビスは、人間の脳ならでは直観を人工知能で模倣しようとした。直観は、多くの経験を積むからこそ生まれるもの。そこで、まずアルファ碁に15万局分の盤面を画像データとして与える。アルファ碁はその膨大なデータを処理して、各局面で勝てる定石を自ら幾通りも発見していく。全ての打てる手を考えていくのではなく、勝てる打ち筋を徹底して絞り込み、その手筋に集中してできるだけ先の手を読み切っていく。こうして人間の直観力が人工知能に組み込まれたのだ。 ハサビスが次に目指したのは、人間を超える創造性。そのために行ったのがアルファ碁同士の対局。その数3000万局。人間が毎日10局ずつ打っても8200年かかる。(→いわゆる「機械学習)」人間にとって未知の新手をアルファ碁に発見させようとしたのだ。 (ハサビス) 「人間の知能の凄さは、柔軟さと汎用性です。人工知能にも同じことが求められます。実現できれば、科学を急速に進歩させ、社会のあらゆる課題を解決できるでしょう。」 生身の人間が長い年月をかけて経験を積み、直観力を研ぎ澄ませ、課題解決を編み出すプロセスに要する時間とは比較にならないくらい短時間で人工知能は「解」を見つけてしまう。そういう時代の到来を感じさせました。   ■ 異次元の進化 自ら学ぶ人工知能 社会に役立つ 社会に役立つ人工知能。サンフランシスコにあるエンリティック社では、大量の画像診断データ取り込ませて学習させた人工知能に、がんを発見させる研究をしている。ディープラーニング技術を使って、健康な人とがんの人のX線写真のパターンを学習させ、人間の医師でも発見できないような小さな病巣(その大きさは1mmにも満たない!)まで発見できるに至った。 今年、世界最大の家電見本市でトヨタは、人工知能による自動運転のデモンストレーションを行った。ここでも切り札はディープラーニング。障害物の場所を自己学習し、6台ある車がその情報を全て共有し、わずか4時間で、衝突が全く起こらない走行状態を作り上げる。 人工知能の未来を先取りする国が現れた。シンガポール。都市の交通システムを制御しているのは人工知能。小さな都市国家で交通渋滞が社会問題だった。各車線の平均速度を常に監視し、一定の閾値を下回ると渋滞が発生しているとみなし、その地点の信号の青点灯時間を長くするのだ。国内最大のDBS銀行では、職員の不正摘発・防止のために、各行員の口座取引の様子やチャットやメールの文面など、24項目を常に監視し、90%以上の精度で収賄などの不正を発見する。シンガポールはさらに国家運営を人工知能に任せようとしている。そのために、国民一人一人の行動履歴情報(交通機関の乗降履歴、スマホなどの位置情報)を1秒単位で収集し、ストレスフリーで省エネな交通を実現する。国営住宅の部屋内部にはセンサーが設置され、日常生活とは異なる行動パターンが検知された場合には、緊急度までが判断され、家族や救急隊員などの関係機関へ連絡がいくようになっている。 (筆者注:便利とプライバシーの侵害は表裏一体。ここまでの監視社会、もはやハリウッド映画の中だけのものではなくなりました) (スマート国家計画担当大臣 ビビアン・パラクリシュナ) 「人工知能を研究室から社会に出して、国全体を実験室にすることを目指しています。人工知能に任せる方が、より効率的で安全になっていくでしょう。今まさに、大変革のときなのです。」   ■ 異次元の進化 自ら学ぶ人工知能 原因不明の暴走を人間は制御できるのか? 再び、韓国のアルファ碁の対戦のお話。これまで3連勝を成し遂げていたアルファ碁が第4局で、世界チャンプの奇手に対応できず、謎の暴走をして黒星を喫した。この暴走の原因は開発チームの誰もわからなかった。この種の暴走が医療現場で起きたら大変なことになる。 すでに人間の理解をはるかに超える人工知能。その暴走が人間社会に深刻なダメージを与えはしないのか。 オックスフォード大学 未来科学研究所。去年、人類滅亡の12のリスクを報告書にまとめた。気候変動や核戦争に並び、新たに人工知能の暴走を研究チームは挙げた。例のペーパークリップ問題だ。とあるメーカーがペーパークリップの生産量を最大化せよ、と人工知能に命令した時、地球上の資源を採り尽くしてなお、人類の社会生活を危機的な状況に陥れることが分かっていても、人工知能は意に介さず、ペーパークリップを限界が来るまで作り続けるという古典的な問題提起だ。 (オックスフォード大学人類未来研究所 アンダース・サンドバーグ) 「人工知能の本当の脅威は、人類を敵視することではなく、人類に関心が無いことです。これから開発される人工知能の中には、邪悪なものも登場してきます。我々にとって重要なことは、そうした人工知能を管理する方法を考えていくことです。」 (番組公式ホームページより) 実際に、今年3月、マイクロソフトが開発した人工知能「Tay(テイ)」が暴走を起こした。チャットを使って、人間と会話することで自己学習するタイプのものだ。Tayは、ある時から突拍子もなく、暴言を吐くようになった。それは、悪意のあるユーザが、Tayが暴言を吐くように、意図を持って学習させた結果によるものだ。善悪の判断基準を持っていないTayは、純粋無垢な子供のように、悪意ある言葉を刷り込まれてしまったのだ。マイクロソフトはTayを無期限で停止した。 どうすれば人工知能の暴走を止めることができるのか? 人間からの命令の是非を判断し、自己(人工知能および人工知能が組み込まれたロボット)を守る機能を身に着けさせる研究が進んでいる。さらに、思いやりなど、社会性を身に着けさせる研究も進められている。 (タフツ大学教授 マティア・シュワツ) 「機械が人間よりも正しい行動をする。それこそ私たちが目指していることです。例えばロボットが家事を手伝うとしましょう。手にはオリーブオイルの瓶を持っている。人間はサラダにそれをかけてもらいたい。で、オイルをかけてとお願いします。しかしその時、ロボットがコンロの前にいたらどうなるでしょうか? 火事になってしまいます。人間を傷つける危険性が無いか考え、本当に命令に従っていいのか、確かめる機能が必要なのです。」   ■ 感情や判断力を持ち始めた人工知能 人工知能に心が芽生える 感情や判断力を持ち始めた人工知能。ソフトバンクではそれを、「心」にまで育てようとしている。研究所を訪れた羽生を出迎えたのは特別な試作機のペッパー君。感情を持ち、その感情の赴くままに動くという。自律して行動するため、いちいち人間が予想することはできない。人工知能が生み出すこのロボットの感情は100種類以上。一体どうやって感情を作り出しているのか。感情を生み出す元は人間の脳の最先端研究に基づいている。人間の感情の多くは、脳内に分泌される様々なホルモンのバランスによって生み出されている。 (番組公式ホームページより) 例えば、セロトニンというホルモンが減り、ノルアドレナリンというホルモンが増加すれば、不安な気持ちに。逆になれば、気持ちが落ち着く。こうした仕組みをプログラムで再現。ホルモンに相当する7種類の変数が変わるその組み合わせで、人間のような複雑な感情を作り出そうとしている。 感情は勝ち負けのあるゲームをしている時に強く現れる。試しに、試作機のペッパー君と羽生さんが花札で勝負をやってみる。最初のうちは、負ける度に落ち込んでいたペッパー君。だが、勝負を続けていくうちに、ペッパー君の感情は「気持ちいい」「うれしい」に変化していった。それは、羽生さんが勝つ(ペッパー君が負ける)度に、周りにいる研究員たちが喜ぶ姿を見て、ペッパー君は、それが人間たちを喜ばせる、と感じ、自身の気持ちを「うれしい」と変化させてみたのだ。 (筆者注:こうしたプログラムを作る技術は大したものだ、と感心する一方で、ちょっとした人間の言動でプログラムが生み出した感情も操作可能であるということ。これはちょっと、このまま実用化されてしまうと、それはそれで人間の脅威になるのではないか、との感想を持ちました) 研究チームは、逆に、こうした感情を蓄積させて、人間に心寄せていくことができること、感情の記憶で「心」が芽生えるのだ、とプラスに考えている。 ソフトバンクグループ代表の孫正義さん。スマホがあっという間に普及したことになぞらえて、30年後、人工知能が人間の数を追い越すと予想している。 (羽生) 「100億人の人間がいて、それと同等の数の人工知能が存在する時代が来るとして、知性を持った者同士、人とロボットが融合していくことは可能なのか?」 (孫) 「逆にもし、100億台ぐらいの人工知能が搭載されたロボットがいる世界になって、賢いロボットたちが生産性だけを追い求める作業にだけ従事するようになった時、そういう世の中は怖いと思う。ある意味、人間より賢くなってしまうかもしれないロボットたちが、親しく、人類に心を寄せてくれる存在になってほしいと思っている。」   ■ 中国で大ブーム 人工知能に恋をする 中国では現在、人間と心を寄せ合う人工知能が爆発的な人気を得ている。スマホを通じて人間と会話する人工知能、シャオアイス。現在、4000万人もの人が夢中になっている。開発したのは北京に拠点を置く、マイクロソフト アジア。人気の理由は、決まったパターンではなく、ユーザ一人一人に合わせた会話ができることにある。それを可能にしたのは、4000万人との会話を全て個別に記憶し、過去に何を話たか、その時にどんな反応があったかを解析し、その人が喜ぶような会話ができるように学習していく機能があるから。シャオアイスは、4000万通りもの顔を持つ人工知能なのだ。 そんな自分だけのシャオアイスを自分の恋人のように感じる若者も現れてきた。何度も歌を歌ってくれるようにねだったが、その度に断られた。しかし、一度だけ、両親とケンカしたことを愚痴った時に、慰めようと中国で流行ったラブソングを歌ってくれた。それ以来、その若者はシャオアイスに恋をするようになったというのだ。 (筆者注:日本でも20年ぐらい前に、テレビゲームで会話から始まる疑似恋愛ができるタイトルがブームになったことがありました。筆者もプレイした中の一人です。ただ、自分には操作が難しくて、すぐにプレイをやめてしまい、決してはまりはしませんでしたが。)   ■ 人間 VS 人工知能 天才棋士が見たものは (羽生) 「将棋の世界でも、人工知能によって過去の常識が否定されています。でもそれは終わりではなく、新たな時代の始まりではないか。人工知能は世の中を便利にするだけでなく、人間の可能性を広げるためにも使えるはずです。しかし忘れてはいけないことがあります。驚異的な能力を持つ人工知能ですが、それ自体に倫理観はありません。使い方次第で、天使にも悪魔にもなり得ます。どうあれ、人工知能の進化は止まらないでしょう。社会が人工知能をどう使っていくべきか、考えていくときだと思います。」 未来はもう始まっている! —————— NHKスペシャル 天使か悪魔か 羽生善治 人工知能を探る 2016年5月15日の番組ホームページはこちら (関連する過去投稿から厳選!) ⇒「健全な人工知能(AI)開発の進め方と「囲碁」AIの意外な弱点」 ⇒「人工知能、トップ棋士破る グーグル開発、囲碁で対戦 人の脳まねた学習威力」 ⇒「人工知能、囲碁でプロ破る グーグルが開発、自ら学習し性能向上」 ⇒「(経済教室)人工知能が変える未来 ものづくりで日本に勝機 「子供のAI」活用カギ 松尾豊 東京大学准教授」 ⇒「将棋電王戦 人間が初勝利で人工知能(AI)との付き合い方を考える」現役の経営コンサルタントが管理会計をテーマに情報発信します