ＡＩは人の脅威か　アルファ碁の圧勝、研究者の評価は
聞き手・辻篤子、池田伸壹 聞き手・川本裕司
2016年4月9日05時00分

囲碁の世界で、米グーグル傘下の人工知能（ＡＩ）「アルファ碁」が世界のトッププロを４勝１敗で下した。「碁はゲームの中で最も難しく、人間が簡単に負けるはずがない」――そんな人類の幻想は打ち砕かれた。予想を上回る進化をとげるＡＩとどう付き合っていくのか。研究の最先端を切り開いてきた北野宏明さんに聞いた。

■ソニーコンピュータサイエンス研究所社長・北野宏明さん「問われるのは人間」
――アルファ碁が圧勝しました。予想していましたか。
「楽観的に見たら勝てる。今回負けても数カ月、長くても２、３年先には、と思っていました。昨秋以来、ＡＩ同士が何万局という人間が一生かかってもできないくらいの対局を繰り返し、強くなっているとは思っていましたが、対局の展開は衝撃的でした」
――勝因はどこに？
「二つの方法を組み合わせたことが急速に強くなった秘密だと思います。まず、『深層学習』という機械学習です。人間の脳の神経回路をまねた仕組みである『ニューラルネットワーク』を多層的にしたもので非常に高い精度のパターン認識ができます。これで盤面を理解し、打ち手のパターン分類を行います。そのうえで、勝利する確率が高い手筋を候補として残す『強化学習』を使うことで、打ち手を決定するのです」
――対局はどうでしたか。
「解説者がすぐに理解できないＡＩの指し手の意味が、しばらく後になってから分かる、ということが繰り返し起きていました。人間同士の対局では、 盤面の周辺部が主戦場になります。周辺部のほうが打ち手が限られ、先読みしやすいためです。ところが、今回、ＡＩが打った手の意味がすぐにはよく分からな いのに、気がつくと、人間には先読みしにくい盤面中央で、ＡＩが広大な領土を確保してしまっていました」
――なぜなのでしょう。
「最先端のＡＩシステムは人間には見えていないものを見ている、という領域に入りつつあるということです。これは単に、現在の状況認識にとどまらず、何をすればどういうことが起きるのか、未来を見通す力も含まれます」
――人間の負けですか？
「碁という一番難しいゲームでコンピューターが人間を凌駕（りょうが）し、ゲームでは負けました。ただ、ＡＩが完全に人間をしのいだわけではな い。そもそも特定の分野で、ＡＩが人間より精度の高い判断をするということはすでに起きています。証券や為替の取引ではミリ秒単位の判断は自動システムが やっています。ＡＩを使った投資アドバイスも人間が恣意（しい）的にやるよりは平均的に良い内容を提供できるといわれ、急速に増えています」
――今後ＡＩはどう進化していくのでしょうか。
「世の中の多くの課題には、碁や将棋のようなゲームとは違って、不確かで不完全な情報しかありません。たとえば車の運転の際は、ほかの車も走行 し、歩行者もいる。それぞれが意図を持ち、必ずしも合理的に動かない。陰から飛び出してくることもある。雨や雪もある。ゲームが完全情報問題とすると、不 完全情報問題がＡＩにとって今後の挑戦相手です」
――今後一番注目されるのは自動運転ですか。
「先日、ニューヨークで開かれた完全招待制の『人工知能の将来』シンポジウムに日本からただ１人参加しました。一番盛り上がったのが、自動運転の 今後の展開に関する議論でした。つまり、自動運転が実用化されれば、車というものががらりと変わる可能性がある。本来的には移動手段だから安全に移動でき ればいい。ライドシェアも広がるなか、自分で車を持つ意欲が減り、人間が車を運転するのはぜいたくな行為になるかもしれません。そもそも車の９０％は動い ていないともいわれ、いわば不動産。車の概念を根本的に変えた方がいいかもしれません」
――車文明自体が変わると？
「移動という本来の役割に立ち戻り、ネットワークを介したサービス全体の文脈でとらえ直すと、車は主役ではなくなります。中心はＡＩやネットワーク技術で、車は通信システムにおける携帯端末のようになるかもしれない。米国のＡＩやＩＴ企業は今、自ら主導権を握って自動車産業を再編し、新たなサービス体系を作ることにすごいエネルギーを注いでいます」
――産業再編ですか？
「２０年もすれば、自動車産業から移動サービス産業へ、産業構造ががらりと変わる可能性がある。そこへ向けて米国は大変な熱気です。日本国内とは 温度差を感じます。米国のテスラが数年で車を作ったように、従来の自動車会社以外でも、広く普及するような車を作ることは十分可能です。いわゆる自動車会 社がどのくらい影響力のある形で残るか、でしょう」
――ほかに大きく変わりそうな分野はありますか？
「医療・生命科学分野です。生み出される研究情報の量は圧倒的で、信頼できないものも多い。膨大な情報をＡＩがある程度理解して抽出し、仮説をつ くって検証すれば、今まで見えなかったものが見えてくる。つまり、よい治療法が見つかる可能性は高く、この分野でも米国は活気づいています。私自身も今、 医療情報のプロジェクトにかかわっています。日本もここでがんばればフロントランナーになれると思います」
――ＡＩでノーベル賞級の発見を、とも提案されていますね。
「今は、例えば、ある生命現象に関してどれだけわかったうえで成果を出せるかは研究者の勉強次第です。個人の能力と直感など属人的で運任せな部分が非常に大きく、いわば『石器時代』です。ホットな研究領域では毎週何千という論文が発表されます。ＡＩが玉石混交のそのすべてを解釈し、論理的な結論や仮説を出し、実験計画を作ってロボットに実験させる。そんなシステムでノーベル賞級の発見を、という提案です」
――ＡＩが自分で大発見をするということですか？
「可能性はあります。重要なのは、ＡＩが勝手に知識を拡大していくということです。人類の知識の拡大はこれまでになく加速します。そして今、ＡＩ のように知識を生み出す機械が登場しつつありその延長上では、機械が機械をつくるかもしれません。となると、これまでとは完全に一線を画します。ＳＦ的に は人間が全く関与しないＡＩ文明が生まれる可能性だってある。電源を切ればいいかもしれないけど、彼らもばかじゃないから電源も作るはず。電源を抜けない となると、コントロールする術がなくなります」
――ＡＩが人間を滅ぼすというシナリオでしょうか？
「その前提は、ＡＩが人間を滅ぼすのはよくないということでしょ。でも冷静に考えれば、ＡＩにそんな判断をさせるような人類はどうなのと、問われ るのはむしろ人間かもしれません。人間中心に考えれば、ＡＩに滅ぼされるのは困るわけですが、視点を逆にすれば、滅ぼされるようになる前に人間は行状を改 めないといけません」
「うまくいけば、新しいタイプの知識を生み出す機械が、人間の手には負えない世の中のいろいろな問題を解決してくれるかもしれません。大きな絵で見れば、人類のサバイバルのためにこそ、ＡＩの開発を加速する必要がある、と考える人が増えています。ＡＩが我々を滅ぼすというより、それがないと人類が滅びるかもしれないということだと思います」
――それにしても、人間がやることがなくなりそうで心配です。
「ＡＩに負けても碁はやってますけどね。でも、計算機の登場でそろばんで計算する人は一気に減りました。こういうことは歴史的に何度も起きています」
「米国の人工知能学会で聞いたジョークがあります。車が登場したとき、馬たちが『馬車のほかに仕事はあるよね』と話していたけれど、結局なくて、 馬は減ったという話です。人間の場合はやることはなくならないと考えたくなるけど、昔は馬もそういう話をしていたというオチです。私は、もしかしたら人間 のやることは、ＡＩで解かなければいけない問題を作り出していくことなのかと思い始めています。トラブルメーカーとして想定外の事態を作り出し、知能の進 化を加速する役割です」（聞き手・辻篤子、池田伸壹）
◇
１９６１年生まれ。専門は人工知能、犬型ロボットＡＩＢＯの開発にも携わった。２００８年から現職。沖縄科学技術大学院大学教授も兼務。

■情報社会学研究者・塚越健司さん「人間中心主義超え、近い関係に」
ＩＴ企業グーグルの人工知能「アルファ碁」 が有段者に勝ったというニュースを聞いたとき、あまり驚きませんでした。ディープラーニング（深層学習）という技術によって高まったコンピューターの自動 学習の成果だと思います。韓国であった九段棋士との対局では、人間が考えもしない手をどれぐらい打つのか、囲碁の可能性が広がるのかに注目しました。
人間を上回る能力を示し始めた人工知能については、物理学者のスティーブン・ホーキング博士らが危険性を指摘しています。
ＳＦ映画では、人工知能を人間が制御できなくなるという設定が少なくありません。ただ、ハリウッド映画の「ターミネーター」に代表される、人工知能による人類滅亡という描き方には違和感を覚えます。優秀な人工知能なら力ずくではなく、人間を洗脳して都合のいいように使うのではないでしょうか。
一方で、１９６８年の映画「２００１年宇宙の旅」の原作では、コンピューターが暴走する原因は一種のバグでした。人間も人工知能も想定できないバグが、思いもよらぬ事態を引き起こすことはあり得るのでは、と考えています。
人工知能が自ら考え始めているいま、近い将来、次の段階に到達すると思います。命令に対し人間の裏の意図を読むようになれば、意図せざるメッセー ジに従って行動をとり、暴走しかねません。人工知能が何を考えているか、人間は把握できなくなるのです。ここに人工知能のすごみと怖さを感じます。
人間は出た結果について原因を求めます。因果関係を追求するのは、ストーリーがないと人間は生きていけないからです。ところが、人工知能に理由づ けはいりません。相関関係から確率論的に導いた結論に基づき、目的に向けて最適の行動を取るだけです。こうした価値観に耐えられない人間と人工知能の対立 が表面化してもおかしくありません。
人間にとっての人工知能の位置づけについて、「便利だから使う」「いずれ牙をむく」という楽観論と悲観論があります。しかし、ともに、人工知能を 自らの道具ととらえた人間中心主義の考えです。これからは人工知能の存在を認めたうえで、人間とより近しい関係になる社会になることが求められる、と思い ます。（聞き手・川本裕司）
◇
１９８４年生まれ。人間とコンピューターの関係、ハッカーなどを研究。著書「ハクティビズムとは何か」。