Home西田 宗弘 准教授
大学生の顷に，フィリップ?碍?ディックの「アンドロイドは电気羊の梦を见るか？」という小説を読んだ摆1闭。そこには，感情を持った人工知能（础滨）の反乱や，それに向き合う人间の苦悩が描かれている。（ちなみに，タイトルにある「电気羊」というのは，主人公が电気羊しか饲えず，本物の羊を饲うことに憧れているということから来ている。）この手の话は今やとてもありふれた话で，近い将来実际に起こり得ると考える人も多くなってきたのではないだろうか。だが，当时の自分には，この本を通して自分の中に生まれた「机械は感情を持ちうるのか」という问いがとても重要な问いに思え，いつかはこの问题に取り组んでみたいと考えるようになった。
さて，いまや础滨全盛の时代に突入しようとしている。少しタイミングを逸した感はあるが，ここらで自分も本格的にこの问题に取り组んでみようと思っている。ただ，「感情」ではなく「学习」について深く掘り下げてみるのが良いと考えている。その理由の一つは，感情らしき物の表现は学习可能で，今の础滨の技术がもっと进むと，感情を持っているのか，学习结果を再生しているだけなのか分からなくなると思えるからである。子供が成长していく様子を见ていても，多くの事を学ぶにつれ感情が复雑になって行き，より人间的になって行く。「感情」がもとから备わっていたのか，学习によって获得したのかを区别するのは，相当难しそうだ。
もう一つの理由は，最近Michael Jordanという人が書いたAI（Artificial Intelligence: 人口知能）ではなくIA（Intelligence Augmentation: 知能増幅）を目指すべきという提言[2]にとても共感を覚えるからだ。先に書いた「アンドロイドは…」でも書かれているように，知性や感情を持ったAIの実現を考えるとき，どうしてもAIと人間の対立軸で見てしまいがちである。近い将来に人間の仕事の半数以上がAIに奪われるなんて話も出てきている。そのような状況で，人間が知能を退化させて動物的に生きる道を選ぶのか，それとも，知的な活動をさらに発展させて知能を進化させ続けることが出来るのか？後者を選択する為には，AIを人間の知能を増幅する道具（IA）と捉える必要がある。AIが出した答えを鵜呑みにして考えることを放棄するのではなく，AIがどうしてその答を出したのか，あるいは，AIが出した答はどのような意味を持っているのかなどについて深く考え，そこから新しい知恵を獲得しようともがく事が非常に重要に思う。
さて，この立場に立つと，AIの脳みその中身を覗く手段が必要になる。その一つとして、Googleが考えたDeep Dreamというものがある[3]。AIの中では，人工のニューロンが多層構造を形成しており，浅い層のニューロンは画像などの学習データの中からエッジの形などの比較的単純な特徴を捉え，深い層では，浅い層の結果を集めてより高次の特徴の抽出を行っていると解釈することができる。各ニューロンがどんな特徴をとらえているかを見るために，特定のニューロンがとらえる特徴量を最大化するように、逆に学習データである入力画像の方を改変してみるというのがDeep Dreamのアイデアである。得られた画像は、ニューロンが得た特徴を強調した画像になるため，視覚的に分かりやすく学習の過程を調べることができる。
ここに一つの例を載せておく。上は我が家で飼っている金魚（電気金魚ではない）の写真である。AIは电気金鱼の梦を見るかを調べるために、Deep Dreamを使ってみよう。金魚の画像を見たAIの中のニューロンがどのように活性化しているかを踏まえ、その活性量が上がるように、空の写真を変化させてみた。結果が下段の写真である。ちょっと気持ち悪い悪夢的な写真になってしまうが、金魚の目や鱗の特徴が付与され、空一面に金魚がひしめき合っているような画像になった。はてさて，この悪夢をどう料理したらよいものか。
我が家の金鱼（ぷく,ちゅう.かぁ.きぃ）
Deep Dreamが見た金魚の白昼夢
[1] 「アンドロイドは電気羊の夢を見るか？」フィリップ?K?ディック著，早川書房 (1977)．
[2] “Artificial Intelligence ― The Revolution Hasn’t Happened Yet”, Michael Jordan (https://medium.com/@mijordan3/artificial-intelligence-the-revolution-hasnt-happened-yet-5e1d5812e1e7)
[3] “Inceptionism: Going Deeper into Neural Networks”, Google AI Blog (2015)
(https://ai.googleblog.com/2015/06/inceptionism-going-deeper-into-neural.html)
（2018年6月7日掲载）
