階段下のがらくた部屋

ハリー・ポッターの感想・考察から日々の雑事まで。だったのが色々あって将棋とか。

「将棋脳と人工知能―人間はどこまで機械に勝てるのか」  

朝日カルチャーセンターで行われた「将棋脳と人工知能―人間はどこまで機械に勝てるのか」という講座を受講してきました。
講師は東京大学教授の言語脳科学者酒井邦嘉教授と、羽生善治三冠です。

結構高度な内容で、レジュメの端に走り書きで取ったメモを頼りに記憶を引っ張り出すのが大変でした。
ライトな内容の講演とかならメモなしでも割と流れで思い出せるんですが、そもそも内容が難しいと理解してないと思い出すこともできないので、メモから漏れてしまった部分は思い出すのが難しかったです。


グレー文字は私の注釈、
引用部
はスクリーンに表示されたレジュメ、
青文字は羽生三冠、褐色文字は酒井教授の発言

※ささいなメモを元に私の記憶だけを頼りにして書いています。いろいろ間違っているところもあるはずですが、その点はご了承ください。

-----------------------------------------------------------------------------------
新宿住友ビル10階の朝日カルチャースクールの一室。
小さめの講義室の机を取っ払って椅子をぎっしりつめた感じ。開講ぎりぎりに間に合い、運よく割と前のほうにひとつだけ空いた席があったので着席。

正面にスライドを映すスクリーンがあって、それを挟むように向かって左に羽生三冠、右側に酒井教授。
羽生三冠はスモークグレーのスーツに水色のネクタイ、白のワイシャツ。
寝ぐせは「アンテナ」じゃなく、左後頭部の広範囲がふわっと浮いた感じの「浮き寝ぐせ」。



十年前の羽生さんの言葉「私がコンピュータ将棋に関心を持っているのは、コンピュータ将棋がどれほど強くなるかよりも、人間と同じような手が指せるようになるか、についてです。(中略)あるいは、人間よりも強くなったコンピュータが考えた手が、はたして本当の意味でのベストなのかどうかを知りたいと思っています(「中央公論」2007年5月号)」

酒井教授(以下酒):2007年の中央公論にこういった羽生さんの言葉が掲載されていました。

羽生三冠(以下羽):2007年…もう10年経ってしまったんだなあ、という感じです。
春にやったNHKの番組でも出てきたレンブラントの絵を模倣するAIがありましたけど、あれが将棋でも可能なのか、という。
たとえば昔の棋士の棋風を模倣するAIができるのかどうか。

開発者の方に話を聞いても、皆一様に、機械学習からディープラーニングを経て出てきた結果は、ブラックボックスなんですね。

デミス・ハサビスさんに聞いたところ、音楽は数学的処理がしやすいのでAIで再現しやすいらしいんですが。


酒:その点言語は非常にハードルが高い分野。
演奏前にAIが作った音楽だと知らせると、シーンとなったそうです。観客にバイアスがかかるんですね。
AIが作ったミュージカルを上映して反応を見るという試みがあった。観客の中にはAIが作ったことを知ってる人もいれば知らない人もいた。AI開発者は「AIが作ったかどうかではなく、ミュージカルそのものを評価して欲しい」とのことだったそうです。


羽:人間の感情的に受け入れられるかどうか、というのは大事なこと。

酒:HNKの番組で羽生さんはペッパーと対面していましたね。

羽:あれは特別な機体で他のものとは違って、音声認識で人の感情を読み取らせるようになっていた。
でも、どこまで人間の快・不快を認識できるのかについては疑問。まだそこまで繊細に読み取れてはいない。

ただ、人間と同じ感情的なアプローチができなくても、アンドロイドは視覚や聴覚などは人間よりはるかに高い性能を持たせることができる。
人間と分かり合えるかどうかは別として、ロボットならではのそれに基づいた「優しさ」は持たせることができるのでは。


酒:ロボットが感情を持つようになって、大量に世の中に出回るようなことになったら、まずロボットの学校が必要だということです。
つまり感情を持つと未成熟なロボットをそのまま世の中に出してしまうわけにはいかないと。

どういう点で安心感を得るかというのは文化によってもだいぶ違ってくるのですが、アシモは目がなくて圧迫感がある。
以前アシモに会った時、開発者の人に「呼ぶと来ますよ」と言われたので呼んでみたが来てくれなくてショックだった(笑)
ペッパーは足は二足歩行ではなくて、でも、手はとても精巧に作られている。でも握手をしたら握り返しては来なかった。そういう設計にはなっていないんですね。

これを、握手をしたら適切な力で握り返すとか、ハグし返すとかしたら、人間が受ける安心感が全然違う。
『アンドリュー NDR114』という映画がありました。


羽:すいません、見たことありません。

酒:1体のロボットが家庭の中でだんだんと人間に寄り添って感情を学んでいって、
彫刻をさせたら非常に評判がよく、売れるようになり、次第にロボットが自ら受注をするようになる。
でもロボットが作ったものにお金を払うのか、とかいろんなことが問題になる。
ロボットに法人格を持たせたらどうかとか。
ロボットは人間に近づきたいと思うようになって生体パーツに部品を変えたりして、最終的に自ら200年で「寿命」が来るようにしてしまった。生物として生きるということはいずれ死ぬことだ、と。
死ぬならロボットは果たして生物と言えるのか?


羽:現在でも家庭用に掃除機ロボットなんかが普及していますが、ほかの電化製品と違って、ほかの電化製品は修理に出したら新品同様にして返すのが基本だが、掃除ロボの場合は新品同様にして戻すとクレームが来るそうです。
人間側が個体に愛着を持つようになっているんですね。



「知能」とは何か
「知識と才能。物事を的確に理解し判断する頭の働き。学習し、抽象的な思考をし、環境に適応する知的機能のもとになっている能力」
・知識より知恵:普遍的な経験則や処世訓
・才能:「物事をうまくなしとげるすぐれた能力。技術・学問・芸能などについての素質や能力(『大辞林』)

羽:AIは人間に難しいことを簡単にやる反面、人間にとって簡単なことが難しかったりする。
たとえば知らない人の家に行ってコーヒーが作れるか、という。
人間は初めて行く家でもだいたいここにコーヒーのフィルターがあって、とかコーヒーを出して、とかできるが、AIにはそれが難しい。ありとあらゆることが想定されるので複雑すぎるらしいんです。


酒:なので今ある機械は個別に用途に応じてデザインされている。
与えられた問題に答えるのではなく、問題、テーマを自ら考えられるようになって、知能を持ち自立したといえる。

人工知能の定義も開発者によって違う。



人工知能は「宇宙人」
「人工知能の研究は、計算機に人間と同じような知能を与えること、さらには、それを通して、人間の知能の働きやその情報処理原理を解明することを目指している(『深層学習』p.3)
・人工知能は、謂わば人間の行動データを分析できる「知的生命体」。地球外でも実現可能。
・人間やアンドロイドは、異質な存在に感情移入して、親切で友好的になろうとするだろうか?

酒:将棋で対局する相手としてはどうですか。宇宙人ととらえれば受け入れられるとか。

羽:人間には思考の死角があって、それは生存本能とか防衛本能と密接に結びついていると思う。
それはAIにはない。

ロボットの外見をどんどん人間に近づけるとあるところまでは親しみを感じる度合いが上がっていくのに、あるポイントを超えると急に拒絶反応が強くなる。「ブキミの谷」と呼ばれている。あまりに近くなると逆に違いが目に付いてしまうということがある。


酒:言語の分野に関してはAIはまだ単語の先読み予測の域を出ない。たとえばメーラーのSPAM判別機能は便利だが、単語を拾って判別しているだけ。フィルターを強くしすぎると大事なメールまで弾かれてしまう。まだ文脈を理解するには至っていない。

羽:AIは膨大な機械学習を経て性能を高めることができる。人間には物理的に不可能なことだがAIが出した成果から何かを得ることは可能かもしれない。


「人工知能」の光と影
・マイクロソフトの”Tay”(ツイッター参加型の人工知能)―悪意ある攻撃のため失敗
→「言語」だけでなく「心(人格)」の学習が必須
・患者の問診で精神病の判定―90%の一致
・大脳皮質の分類―96.6%の精度で自動化
・技術が先行し、悪用されることへの不安
・面倒な判断は人工知能へ任せた方が楽?
→効率重視、責任逃れ、考えない人が増加

酒:マイクロソフトのTayの例も悪用する人間によって失敗してしまった。
善悪の判断がつかない状態では問題。
マイクロソフトの失敗は言語のみでアプローチした点。
人格面のもアプローチも同時に取り組むべきだった。

医療の現場でもAIを取り入れる取り組みがなされている。精神病の患者の問診では90%の精度だった。これを90%もと見るか、10%もダメなのかと見るか。
がん細胞を見つけるAIについては人間の医師には見分けられないものも判別できる。

データの力というのは大きくて、医療のデータは膨大。AIはビッグデータを扱うのに非常に向いている。
ただ、人命にかかわるものは99%大丈夫だとしても1%ダメだとなると使えない。そこが非常に難しい。

大脳皮質の分類させたら96.6%の精度で自動化できた。人間の脳の形は人それぞれ異なるから、ここからここまでが大脳皮質、と判別するのは、人間にはもう無理。

アメリカのとある治安の悪い街で警官のパトロールするルートにAIを取り入れた例がある。
経験豊富な警官が今日はあのあたりを回った方がよさそうだ、というのではなくAIが指定した場所をパトロールする。
人間側にはどうして今日そこへパトロールする必要があるのか、理解できないこともある。
で、結果どうなったかというと、犯罪率が低下した。
AIは膨大なデータをもとにたとえば服役中だった囚人が今日あそこで釈放される、とかいったデータも元にしていたりする。
そういったものを総合的に判断してパトロールの最適化に成功した。


羽:今後AIがまるで洗濯機などの家電と同じように家庭レベルまで浸透したら、人間が考える機会が減っていく。考えない人が増える。
どんどんAIが浸透して生産活動もAIがやるようになって人間は余暇ができるという見方もあるが、じゃあそれは現在の資本主義と相いれるのかという問題もある。
カオスの問題や天気や政治の決定は人間のほうが得意なのではないか。
AIのほうが「正しい選択」をできるかもしれないが、それを人間が納得できるかどうかという問題がある。


酒:現在も車のナビを同乗者に頼むとスマートフォンなどでgoogleマップを利用して、間違えるとgoogleマップのせいにしたりする(笑)

手塚治虫の漫画で『火の鳥』という作品があって、その中で政治もAIに任せてしまって、各国でAIがあらゆる決定をする。で、どうなったかというと、各国のAIが同時に核のボタンを押して世界が終わってしまった。

AIがもっと深い意味での理解をできるようになると「人間に従わない」ということができるようになる。


羽:人に危害を与える危険のある命令を拒否するとか。

酒:現在のAI、ニューラルネットワークモデルはどうやって学習を強化しているのかというと、人間の脳の仕組みを応用している。
つまりすべてを並列に扱うのではなく、情報を処理する中でユニット間の結合の強さを「学習」によって変えることで重要な情報とそうでないものとの差をつけている。



人工知能の研究史
・1958~:ローゼンブラットのパーセプトロン(2層)
―学習機能を持つ初の計算機(パターン認識)
・1970~:特定の知識に対するエキスパートシステムの開発―記号と論理計算(シンボル)
・1986~:並列分散処理(PDPモデル、コネクショニズム)―分散表現(ノンシンボル)が対立
・2006~:ヒントンの深層学習―2層毎の事前学習(自己組織化)の結果を初期値とすると有効

(羽生三冠もこういった人工知能の研究史についてはすでにご存じの様子に見え、それはもう非常にたくさん勉強されてNHKの取材に取り組まれたことがとても伝わってきた)

酒:最初はローゼンブラットが2層のパーセプトロンで学習機能を持つ初の計算機を作り出したが、2層だったためにすぐに行き詰ってしまった。でも3層にしたらいけることがわかって、現在につながっている。これがディープラーニングの走り。

そしてヒントンが2層ごとに事前に予習をさせてそれを初期値として処理させると非常に有効なことがわかった。


羽:ヒントンさんは猫の画像認識の人ですね。

ニューラルネットワークって伝言ゲームのようなものだと思っていて、たとえば「今日朝日カルチャーセンターで講座をやります」ってことを伝言ゲームで伝えると、2、3人なら正確に伝わるが、50人くらい伝言ゲームすると「明日新宿で買い物をする」とかになってしまう(笑)
情報を誤って伝えてしまう人にはどいてもらって、情報を減らして考える、余計な情報を捨てるのが大事。ただ膨大な情報を足していくだけではなく、引き算的思考が必要。


酒:深層学習(ディープラーニング)は多くの層(深層)を含んだニューラルネットワークモデルによる機械学習の総称。
層に物理的な「重さ」を与えることによって学習を深めることができる。



人間の2つの「思考過程」
1.直列情報処理:論理的な思考力・分析力、意識下と言語化が可能な過程
2.並列情報処理:直感・ひらめき(ユーレ力)、意識化と言語化が困難な過程(結論が出たときのみ意識に上る)→脳の自動計算?

酒:羽生さんは将棋でこういったことを実感されていると思いますが、人間の思考過程には2つあって、ひとつは直列情報処理。理屈で論理的に考えて言語化が可能な思考過程。
もうひとつは意識しなくてもパッと頭に浮かんで言語化の難しい思考過程。考えてないで答えが出てくるので脳が裏で自動処理しているように見える。


(ここで羽生三冠がアルファ碁の名前が思い出せなかった?ようで苦笑されてた)
羽:googleの作ったあの囲碁のソフトは人間が意識していないことを数値として実行している。だからAIが思考法の参考になる、ということもあるのでは。

酒:人間と人工知能のいちばんの違いはインセンティブにある。人間には熱意とか好奇心、感動が必要。棋士の修行法として江戸時代の将棋無双・将棋図巧を解くというのがあると思うが、羽生さんも修業時代に解かれていたとか。非常に手数の長い詰将棋で、解いた時の感動があったからできたという話でしたね。

羽:将棋無双とかは非常に手数の長いものばかりで、長いものだと解くのに一か月かかったりする。そのモチベーションを保つのに必要な「解けた時の感動」というのは「やった、解けた」という達成感みたいなものではなくて、それだけではとても気持ちが続かないが、高い芸術性に感動することで解くモチベーションが得られた。

江戸時代の人がこんな高度な詰将棋を作っていたというのもすごいなあと思う。
ただ、江戸時代だったからそれが可能だったというのはある。江戸時代の棋士というのは将軍に召し抱えられて、詰将棋を献上するのが一番大事な仕事だった。一門の名誉をかけて最高の詰将棋を作っていた。

羽:実戦と詰将棋の違いというのはあって、詰将棋は作為を考えるとか、あと、詰めあがりを最初にこんな感じかなと想像して、その間を埋めていくというやり方をしたりする。

羽:インセンティブっていうので思い出したが、シェフ―のワトソンなんかはレシピはたくさん作るけど、自らはけっして味わえないっていう(笑)



「創造性」とは何か
・「創造」―「それまでなかったものを初めてつくり出すこと(『大辞林』)」
・新しい組み合わせを際限なく生み出すこと
・人間の言語自体が創造性
・人工知能も人間の知恵や創造の歴史の上に築かれる。データを作ってきたのは人間!

酒:ピジン言語、クレオール言語というのがあって、ある地域で不完全な英語を話す大人に囲まれて育った二世である子供は、完全な英語を話すことができるようになる。
手話での実験もあって、たとえば簡単な手話を小学生に見せる。すると誰も教える者がいなくても子供たちが勝手に手話を生み出してそれを使いこなしていく。
一番適した年齢というのもあって、それは小学校低学年。


羽:将棋のソフトがどんどん強くなっていて、将棋ソフトで強くなってプロになる、という棋士も出てくるだろう。ただ、ソフトを手本に強くなれるのか、過程や考え方を学ばずに強くなれるのかという疑問はある。

酒:新しい組み合わせを、際限なく生み出すことが創造性。言語はまさにそういうもの。
人間がAIを作ったという意味だけではなく、AIが使うデータも人間が歴史の中で作ってきたもの。
チョムスキーの喩えで『言語は「雪の結晶」』というのがある。これは詩的な表現に聞こえるがそうではなく、雪の結晶はひとつとして同じものはなくて、でも法則を持って無限の組み合わせがある。言語とはそういうものであると。


羽:言葉って可塑性っていう問題もありますね。
若い人の表現で「それな。」っていうのがあるんですけど、これは文法としては正しいんだろうか?とも思うわけです。
でも、文法から外れてもそれが認知されて成立している。それが言葉の面白いところかなと。



文法こそ創造性の源泉
入力と出力を直接結び付けるなら反射で十分:「脳」は不要
文法は入出力に対して中立で、新しい組み合わせを生み出す「エンジン」

酒:それまでの文法では間違っていてもそれが受け入れられていくんですね。完全に決まったルールというわけではなくて、文法は「エンジン」なんです。ここでいう文法というのは特定の言語ということではなく、普遍文法、人間全体の言語の体系のことです。

酒:創造性ということで一人の人物を挙げます。羽生さんもよくご存じのボビー・フィッシャーの映画がありましたね。Pawn Sacrifice。これはSacrifice、有名な彼のゲームのポーンを犠牲するというのと人生における犠牲とを掛けているわけですが」


羽:思考の過程などがリアルな映像になっていましたね。

酒:人間vs.機械ということではガルリ・カスパロフとディープ・ブルーが印象的ですね。
1997年にカスパロフがディープブルーに敗れたことで有名ですが、前年にも対戦してその時はカスパロフが勝利しています。
実はその時の敗因のひとつが指し手をディープブルーに入力した人が間違った手を入力したからだとか(笑)


羽:ははは(笑)

酒:NHKの取材でアルファ碁の対局はご覧になったんですか?

羽:対局そのものは見られませんでしたが、対局2週間前に行われた記者会見はリアルタイムで見ました。
イ・セドルさんはこの時アルファ碁がまさかあんなに強くなっているとは夢にも思っていなかったと思います。
というのもそれまでの囲碁のソフトの実力というのはプロに対して3子とかっていうレベルで、将棋でいうと飛車落ちとか飛車香落ちくらいだったんですね。それが対局時にはあれだけ強くなっていた。
アルファ碁がやった自己対戦は一手1秒とかっていうものだったそうですが、とにかくそれをgoogleの持つリソースのパワーで膨大な数の対局をして学習した。

驚いたのはアルファ碁は一手にかける時間が同じなんですね。難しい局面であっても同じ時間しか使わない。それでどうしてあんなに強いのか、不思議です。

ただ、将棋よりも囲碁のほうがパターン認識という点でAIにはやりやすい、というのはあるそうです。


酒:白と黒ですもんね。聞いて驚いたんですが、強い人同士だと黒石だけで対局できるとか…

羽:ここは配置として白石のはずだ、というのがわかるんです。

酒:将棋では2012年の米長永世棋聖とボンクラーズの対戦が電王戦のはじまりだったわけですが、米長先生の「われ敗れたり」という本で非常に感動した箇所がありました。

(「強くなるにはどうしたらいいか、米長先生が改めて考えて、詰将棋を解くことにした。勝つための知識を知っていることには意味はなく、自分の頭を使って考えることが重要なのだ、それを鍛えるのが肝要だ」という趣旨の一節を引用して)

酒:私は学生時代に数学の数式を覚えてこれさえ覚えれば問題が解ける、というような授業が大嫌いだったんです。
解くのにえんえんかかってやっと解けるような問題に取り組むのが好きだった。
米長先生のような方が「自分の頭で考えるのが大事」と書かれているのを見て感動しました。

これはつまり知識を知恵に変える、創造性を持つということにもつながります。



Human vs. Computer(denou.jp)

第2期 叡王戦

2017年 春の対局を目指して

酒:勝ち進むとソフトと対局することになる叡王戦に羽生さんも参戦されてますね。

羽:昨日もやってました(笑)
ここ1、2年で棋譜が非常に変化していると感じます。
これまでどおりのプロ棋士の積み重ねによる棋譜と、ソフトの影響を強く受けたものとが混在している状況。
これは技術のブレイクスルーになるのではないかと思っている。

ソフトをどう使うか、何を学ぶかが大事。
将棋ソフトはストックフィッシュというチェスのプログラムをベースに作られているものが多い。
ルールが全く違うゲームなのに応用できるのは面白い。


酒:アルファ碁の強みはその汎用性にあります。まったくそのまま流用できるわけでもないですが、ディープマインド社の技術は英国の厚生労働省で採用されたり、google社内の電力効率を改善するのに成功している。

羽:そんなすごいことをやっている会社なのに、ディープマインド社ってごく少数の人たちでやってるんですよね。実際取材してみて「本当にこの人たち人間なのかな」って思いました(笑)

(あなたが言いますか!!と心の中でツッコミ)

羽:将棋ソフトの開発者の方たちのすごいところって、データ量でもハードでもなく、ソフトの力を高めたっていうところ。

酒:羽生さんとponanzaの対戦が叶うのか…期待してます。
スポンサーサイト

category: 将棋

tb: 0   cm: 1

コメント

承認待ちコメント

このコメントは管理者の承認待ちです

 |  #
2016/11/23 01:11 | edit

コメントの投稿

Secret

トラックバック

トラックバックURL
→http://greeny.blog7.fc2.com/tb.php/424-4481506f
この記事にトラックバックする(FC2ブログユーザー)