本格的リニューアル構想中のため、一部表示に不具合があります m(_ _)m

AIの倫理基準、東芝の株式買い取り、静岡市の政令指定都市認定に学ぶ撤退基準、制御ルールの重要性について

所感
この記事は約8分で読めます。

■ 常にコンティンジェンシー・プランを持ち合わせている人が最強!

契約文化が浸透している欧米(特に米国?)では、結婚前に離婚時の財産分与や養育権などについて、予め契約書を交わしておいてから結婚生活に入るのが一般的?だそうです。つまり、何か事を起こそうとする際に、上手くいかなかったときの「exit plan」を必ず用意してから物事を進めるということです。

トム・クルーズが主演したミッション・インポッシブルで、作戦が失敗して敵方に追い詰められたときに一言、「プランBだ」。この一言は未だに私の脳に焼き付いて忘れることができません。(^^;)

2017/4/12付 |日本経済新聞|朝刊 (AIと世界)今そこにある未来(2)味方が敵にも 悪意抑え込めるか

(注)日本経済新聞の記事へ直接リンクを貼ることは同社が禁じています。お手数ですが、一旦上記リンクで同社TOPページに飛んでいただき、上記リード文を検索すればお目当ての記事までたどり着くことができます

「AIは使い方次第で敵にも味方にもなる。米グーグルと同じグループのディープマインドが「どんな人の声もまねできる」音声合成技術を発表すると、米国では「詐欺に使われかねない」との声が上がった。日本では「オレオレ詐欺」へ悪用されるかもしれない。」

米カリフォルニア州にある技術アーティスト、アレックス・レベン氏は、人のしゃべる速さを操る装置を作成しました。ヘッドホンからはソフトが特殊加工した間延びした自分の声が聞こえるようにして、耳から入る、自分自身のゆっくりした声に引きずられて、次第に口に出る言葉をさらに遅くさせ、最後はしゃべりたくても口を動かせなくなる原理です。つまり、こういう人間の五感を操作できる高度なAIならば、人の脳の自由を奪い、人間を操ることもたやすいのではないかという問題提起が目的で開発したのです。

「レベン氏はマサチューセッツ工科大学(MIT)でロボットを研究していた。IT企業で数年働くうちAIなどの技術は大きなリスクもあるとの思いを強めた。それを広く伝えるために、人を傷つけることもできる「邪悪なロボット」をあえて作ろうとしている。」

(下記は、同記事添付の「レベン氏は人を傷つけることもできるロボットをあえてつくる」を引用)

20170412_レベン氏は人を傷つけることもできるロボットをあえてつくる_日本経済新聞朝刊

 

2017/4/12付 |日本経済新聞|電子版 倫理観を持つAI 暴走の不安消えず 今そこにある未来(2)

「「人工知能(AI)が社会の構成員またはそれに準じるものとなるためには、研究者と同等に倫理指針を遵(じゅん)守できなければならない」。2月末、日本のAI研究者らで構成する人工知能学会がまとめた「倫理指針」の最終項目が世界のAI関係者の話題をさらった。指針は研究者などに法の順守や開発倫理を求めるものだが、人間に開発されたAI自体にも倫理観を備えさせるべきと踏み込んだのだ。」

(下記は同記事添付の「人工知能学会 倫理指針」を引用)

20170412_人工知能学会_倫理指針_日本経済新聞電子版

この倫理指針を見て、門外漢ながら私の感想は、何とも情緒的な、、、
倫理問題を問うて、これをAIも遵守すべき、と謳うだけでは何の実践性もありません。むしろ、同じ倫理性を問うなら、より具体性を持ち、そもそもAIの暴走や危険性を前提にしたルール設定を行うべきでしょう。

「スカイプの共同創業者のジャン・タリン氏は14年にAI開発の暴走を阻止するための団体「Future of Life Institute(FLI)」を立ち上げた。FLIは「高度に自律的なAIシステムは、目標と行動が人間の価値観と一致するようにする」などと定めた「アシロマAI23原則」を打ち出し、世界中の研究者から賛同を得ている。この原則に拘束力はないが、タリン氏は「指針を示すことで今後の研究者の考えに影響を与えられる」とその意義を認めている。」

(以下はAI の安全ガイドライン「アシロマ AI 23原則」 – 東京海上研究所 より一部抜粋)

20170412_2.倫理と価値観_アシロマAI23原則

20170412_3.将来の問題_アシロマAI23原則

(6)安全性、(7)障害の透明性、(8)法的透明性、(9)責任、という項目は、AIの設計上、盛り込まれていなければならない要求仕様を具体的に示したもので、(16)人間によるコントロール、(17)転覆活動の防止、(21)リスク、(22)再帰的自己進化等は、AI運用上のプロセスそのもの、運用ルールまたは実装されるべき制御ルーチンの基本思想になっています。

「転ばぬ先の杖」的な使用を盛り込んでおくこと、これがリスクマネジメントの肝要のひとつです。ものづくりに先行するスペックの作り込みに、リスクマネジメントの要求仕様がごく自然に入り込んでいる状態になるのが理想的で、特に上記のAI開発における倫理的な問題はその好例といえます。

(参考)
⇒「衛星「ひとみ」の破損、原因は人為的ミス JAXA、数値入力誤る - フールプルーフとフェイルセーフについて

 

■ 撤退基準を持つ人は、交渉時の想像力が豊かでしたたかな人である!

最近、東芝の原子力事業において、次々と東芝が株式買い取りをしている報道を一目見て、なぜ、東芝が致命的な赤字事業に追加投資をしているのか、疑問に思った方はいらっしゃいますでしょうか? それも契約の力を駆使して、リスクを予期した人のリスク回避・軽減・転換に関する知恵の賜物なのです。

2017/2/17付 |日本経済新聞|朝刊 東芝、IHIから米WH株を買い取り 189億円で

「東芝は17日、IHIが保有する米原子力子会社のウエスチングハウス(WH)の株3%すべてを約189億円で買い取ると発表した。東芝は5月17日付で買い取り、WHへの持ち分は9割となる。WHの米原子力建設サービス会社の買収を巡って東芝は巨額損失を計上する見込みで、IHIも損失リスクを抑えるため売却を検討していた。」

(下記は同記事添付の「ウエスチングハウス(WH)が原子炉を供給するボーグル原子力発電所の3、4号機(ジョージア州)」を引用)

20170217_ウエスチングハウス(WH)が原子炉を供給するボーグル原子力発電所の3、4号機(ジョージア州)_日本経済新聞朝刊

「IHIはWHへの出資を決めた際、東芝に保有する株式の買い取りを請求できる権利(プットオプション)を行使できる契約を結んでいた。同権利を使えるのは原則、2017年10月1日からとの取り決めがあったが、IHIとは一定の条件を満たした場合に早期に行使できる契約もあったことから、実際に前倒しした。」

デリバティブなどで用いられるオプション理論の研究が進むにつれ、法務的な契約にも反映され、損失額を一定に保つのみでなく、撤退することで初期投資の全部または一部を回収できる賢い契約を結んだ人は先を見通せる人。想像力が豊かでしたたかな人が最後に勝つ!

同様の件で、東芝は次々と苦杯を舐めています。

2017/4/4付 |日本経済新聞|朝刊 東芝、英原発運営会社の株買い取り 共同出資の仏社から

「経営再建中の東芝は4日、英国で新設を計画する原子力発電所の運営会社、ニュージェネレーション(ニュージェン)株を共同出資する仏電力大手エンジーから買い取ると発表した。米原子力子会社、ウエスチングハウス(WH)の法的整理に伴い契約で認められた買い取り請求権をエンジーが行使する。
 東芝はエンジーが持つニュージェン株の全て(40%相当)を153億円で買い取り、完全子会社とする。エンジーはニュージェンの英国での原発新設計画から撤退することになる。」

ここぞとばかり、東芝にオプション理論が襲い掛かります。弱り目に祟り目。オプション設定の場合、リスク回避的に動きたいなら、次のことに注意して下さい。

<原資産の価格が大幅に上昇するケース>
「コール売り」は際限なく損失が膨らみます

<原資産の価格が大幅に下落するケース>
「プット売り」は際限なく損失が膨らみます(今回の東芝の立場)

(下記は、5.コールとプット~損益のまとめ|オプション道場 より)

20170418_オプション理論

 

■ 出口戦略を持たない人は想像力不足! たちまち立往生して最後は頑張るしかないという精神論へ

量的緩和の上に、マイナス金利まで踏み込んだ日銀と日本政府。行くところまで行くしかない? とうとう禁断のシムズ理論まで持ち出して、、、まあ、金融政策は本投稿のテーマ外として解説は別の機会に。(^^;)

同様に、日本人の出口戦略を用意しない制度設計の好例が下記。

2017/4/11付 |日本経済新聞|朝刊 静岡市、70万人割れ 推計人口 若者流出、政令市で初

「静岡市の推計人口(4月1日現在)が69万9421人となったことが7日、分かった。若者の流出が主な要因で、20の政令指定都市で70万人を割るのは初めてとみられる。静岡市が政令市に移行した当時の人口要件は70万人だったが、総務省によると、人口減少で指定を取り消す規定はないという。」

少子高齢化と地方の過疎化も日本が抱える重要な課題ですが、今回取り上げたのは別の視点から。政令指定都市への移行要件のひとつである人口70万人ラインを割った際に、政令指定都市設定を外す規定がそもそも考えられていないという点を問題視するものです。これは洋の東西を問わず、行政サイドには「出口戦略」「撤退戦略」への感度が薄いようです。なぜそう言えるかというと、少し前から「Brexit(ブレグジット)」で揺れているEU。欧州の識者ですら、いったんEUに参加した国がEUを脱退する手続きを事前に用意していなかった事実が明らかになったからです。

「静岡市は県外の大学に進学した学生に新幹線の定期代を補助するほか、東京都内に開設した移住支援センターで希望者の相談を受け付けるなどの人口減少対策を進めている。田辺信宏市長は3月30日の記者会見で「一時的に70万人を切ってしまうのは仕方がない。25年には70万人にしたい」と話した。」

出口戦略・撤退戦略が無い人の口癖は、「頑張ります!」

はあっー。じゃあ頑張ってください。頑張ってもどうにもならないことを何とかすることを仕事にしてきた私からのエールです。私なら決して頑張りませんが。どうしてかって? なぜなら私にはそもそも根性が無いからです。(^^;)

(注)職業倫理の問題から、公開情報に基づいた記述に徹します。また、それに対する意見表明はあくまで個人的なものであり、筆者が属するいかなる組織・団体の見解とも無関係です。

コメント