この記事は「nikkei BPnet」に2016年11月21日に掲載された「「知能」とは何か、AIはどこまで近づけるのか」を転載したものです。内容は基本的に掲載日時点のものとなります。

 対談も佳境を迎えた今回は、人工知能の研究の第一人者である中島氏と、近年は将棋の世界の枠を超え“知の探求者”として各界からの期待を一身に集める羽生氏が、いよいよ「知能とは何か」という最重要テーマの1つについて議論を深めていきます。
(左:将棋棋士の羽生善治氏、右:東京大学特任教授の中島秀之氏)
[画像のクリックで拡大表示]
(文・構成/佐保 圭、写真/涌井タダシ、協力/松原 仁=公立はこだて未来大学副理事長、高柳 浩=公立はこだて未来大学 客員教授、撮影協力/日本ビジネスシステムズ)


AIの脅威にAIで対抗する

羽生善治氏(以下、羽生): 現在のAIは、私企業によって開発されていますよね。政府で開発されているわけではないので、「現段階では、こういう研究をしています」ということが伏せられていて、基本的には、ある日突然、「こういうふうなものができました」と発表されます。そういう状況では、ルールをつくるとか、新たな倫理をつくるといっても、どうしても、後手後手になってしまうのではないかなと思うのですが。

中島秀之氏(以下、中島): ええ。

羽生: では、そのルールや倫理について、誰が、どこで、どういう形で決めるのか、という話になったとき、どういうふうに決めるのか、その枠組みですら、まだできていない段階では、雲をつかむような話になるのでは、とも思ったりします。

中島: そうですね。「社会の制度を変えていく」という議論は、当然、必要です。ただ、だからといって「AIを悪用しないような制度をつくれるか」というと、かなり難しい話だと思います。たとえ「企業は必ずAIの開発目標を提出しなさい」と言ったとしても、AIを悪用しようと考える人は、隠れてでもやりますから。

羽生: そうですね。

中島: そこはもう、どうしようもない部分だと思うので、何か対策を講じるとすれば「悪用された場合に備えた防衛の方も同時に進める」ということでしょうか。

羽生: 法律の整備や罰則を定めることになるのでしょうか。

中島: 今、一番表に出ている例としては「サイバーセキュリティ」です。インターネットの攻撃って、いろんな国が他国にしかけていますけど、それをやるなって言っても、やるわけですから。防衛のためにAIを使うという話も、実は、しっかりと議論しなければいけない。

羽生: アメリカだと、国務省がハッカーたちの中からリクルートしているという話もありますね。それこそ先ほどの文化の違いの話じゃないですけど、悪いことをしているハッカーたちに対して、罰するのではなく、むしろ「こっち側においで」「こっちの方が待遇がいいし、安全だよ」と言って、味方にしてしまう。

中島: ハッキングしている少年たちは、実は、リクルート活動してるんですね。政府や企業に雇ってもらおうと思って「自分はここまで侵入できるよ。それくらい優れた技術を持っているよ」って。

羽生: アピールしている?

中島: そう、アピールしているんです。「技術が諸刃の剣」だというのは、このハッカーの話によく表れています。攻撃にも防御にも使えるということなので、「その人をどちら側で使うか」というだけの話なんです。

羽生: 「サイバーテロなど大規模な破壊工作は、よほど知能が高い人じゃないとできないことだから、ハッカーを必要以上に恐れる必要はない」ということでしょうか。

中島: 国家がからんでくると、大規模な事態を引き起こすこともありえます。戦争をする代わりに、向こうの国のシステムを壊してしまえというケースもありますから。

羽生: なるほど。

[画像のクリックで拡大表示]
中島秀之(なかしま・ひでゆき): 東京大学大学院情報理工学系研究科 先端人工知能学教育寄付講座特任教授、公立はこだて未来大学名誉学長。1952年、兵庫県生まれ。
1983年、東京大学大学院情報工学専門博士課程を修了後、同年、当時の人工知能研究で日本の最高峰だった電総研(通商産業省工業技術院電子技術総合研究所)に入所。協調アーキテクチャ計画室長、通信知能研究室長、情報科学部長、企画室長などを歴任。
2001年、産総研サイバーアシスト研究センター長。2004年、公立はこだて未来大学の学長となり、教育と後輩の育成、情報処理研究の方法論確立と社会応用に力を注ぐ。2016年3月、公立はこだて未来大学学長を退任後、同年6月、同大学の名誉学長に。