アソシアトロン の原理

人工知能の分野では、ディープラーニングなどの階層的ニューラルネットワークが脚光を浴びている。確かに、驚くべき成果を挙げているのだから、それは当然のことである。しかし、それが人間の脳のニューラルネットワークをシミュレートしているかといえばそうではないだろう。ディープラーニングが、その基礎的パーツとして神経回路網的構造を持っていることは確かだが、人間の脳もそのようにシステマティックに階層化されたネットワーク層を積み重ねているとは到底思えない。

人間の脳は、もっと非構造的システムのはずだ。脳には、領域ごとに違った機能を果たしていることはわかっている。しかし、その領域そのものが莫大な冗長性を持ったものであり、漠然とした機能の瞬間的作用から、人間の意識を想像している感じなのである。

そのように考えていた時、アソシアトロン というものに出会った。実は、私が30年以上前、岩手大学にいた頃、今のディープラーニングにつながるニューラルネットワークを研究していた頃、すでにこのアソシアトロン というものは世に出されていた。名前は知っていたのだ。が、当時の、バックプロぱゲーションなどを実装した並列処理システム、ニューラルネットワークの勢いの中で、真剣に考えてみたいテーマではなかったから、具体的にどのように実装するなどというところまでは全く行かなかった。

しかし、今この時に、改めてその内容を捕まえてみると、とても興味深い。そうだ、人間の脳は、きっとこんな感じなのだと思わせる、単純で、それでいてニューラルネットワークらしい漠然として機能を有している気がしてきた。

改めて、その理論の中身を捉えてみた。それは以下にまとめておいた。

アソシアトロン の原理
アソシアトロン の原理

この原理説明のpdf文書を見ていただければ明らかなように、このアソシアトロン が必ずしもそのものではない情報から記憶を再現できるのは、パターンが、そのパターンの次元倍のネットワークの中に、パターン情報を分散させるからなのである。原理的なアイデアはこれに尽きると思う。

今日のコンピュータ機能の進化した状況の中で、この単純さと優れた機能は改めて見直されるべきだと思う。

prolog化した『羅生門』を二分木検索する

prologのファクト文に変換した「羅生門」をどう使っていくか、使う過程で、さらにprolog化の方法をどう改良していくかが、次の課題となっている。

どう使っていくかの手始めに、先の羅生門の全文二分木化したものを検索するルールを使ってみよう。先の二分木を改良したもの(したがってJAVAプログラムそのものも改良)に、ルールを加えたswi-prolog用のスクリプトをzipで圧縮したものを以下においておく。

rashomon.zip

ダウンロードし、unzipする。冒頭に、検索のprologルールが記載され、その後、羅生門全文の二分木になっている。冒頭のルールだけを再掲すると以下のようなものである。

%%%%%%%%%%%%%%%%%%%%%%%%%
%% 「羅生門」の二分木探索
%%%%%%%%%%%%%%%%%%%%%%%%%
%%% 節(1)
% 右葉の探索
% 見つけたら、その語以外(AおよびB)を取得する
rsearch(S,node(A,B,S),A,B).
% リストの場合も受け入れる
rsearch(S,node(A,B,L),A,B) :- member(S,L). %% リストの場合の処理
% 上で一致しなかったら、左右のノードの内側を調べる
rsearch(S, node(_, Y, _), A, B) :- rsearch(S, Y, A, B).
rsearch(S, node(_, _, Z), A, B) :- rsearch(S, Z, A, B).
% 左葉の探索:基本右葉と同じ
lsearch(S,node(A,S,B),A,B).
lsearch(S,node(A,L,B),A,B) :- member(S,L).
% ここは、右と全く同じになる
lsearch(S, node(_, Y, _), A, B) :- lsearch(S, Y, A, B).
lsearch(S, node(_, _, Z), A, B) :- lsearch(S, Z, A, B).

%%% 検索、表示(2)
% 検索語を右側にした部分文章
right(X) :- rashomon(P,T),rsearch(X, T, A, B),write(P),write(': '),printnode(B),printnode(A),printnode(X),nl.
% 検索語を左側にした部分文章
left(X) :- rashomon(P,T),lsearch(X, T, A, B),write(P),write(': '),printnode(X),printnode(A),printnode(B),nl.

%%% ノードの表示(3)
% 対象がatomならば、そのまま表示
printnode(N) :- atom(N),write(N).
% 対象が空でないリストならば、最初の項の表示
printnode(N) :- [X|_] = N,printnode(X). 
% 対象が空リストならば'/'(半角スラッシュの表示)
printnode(N) :- [] = N,write('/'). %% 空リストでもtrueにする
% 対象がnodeならば、元の言葉の順序で表示(葉がnodeならば再帰的に表示する:ただし、node語がnodeは含まない)
printnode(N) :- node(X,Y,Z) = N,printnode(Y),printnode(X),printnode(Z).

このprologは、二分木の右の葉から語句を検索するものと、左の葉から検索するものの、二つのルールからなっている。

実行例を以下に示そう。

$ swipl ← ターミナルからswirl-prologを起動する
Welcome to SWI-Prolog (threaded, 64 bits, version 7.6.4)
SWI-Prolog comes with ABSOLUTELY NO WARRANTY. This is free software.
Please run ?- license. for legal details.

For online help and background, visit http://www.swi-prolog.org
For built-in help, use ?- help(Topic). or ?- apropos(Word).

1 ?- ['rashomon.swi']. ← 解凍したRashomon.swiを読み込む
true.

2 ?- left(下人). ←  左の葉から、「下人」を検索する、パラグラフ、行番号とともに結果が出力される。1行しか示されないので、次を示すためには; セミコロンを入れる
line_0_1: 下人が羅生門の下で雨やみを待っていた/
line_3_6: 下人は七段/ある/石段の一番上の段に洗い/ざらした/紺の襖の尻を据えて/右の頬に出来た//大きな面皰を気にしながらぼんやり/雨のふるのを眺めていた/
line_4_0: 下人が雨やみ
line_4_1: 下人は雨がやんでも格別/どう/しようと云う/当てはない//
line_4_6: 下人が雨やみ
line_4_6: 下人が行き所がなくて/途方にくれていたと云う/方が適当である//
line_4_7: 下人のSentimentalismeに影響//
line_4_9: 下人は何をおいても差当り明日の暮しをどうにか/しようと云わば/どうにも/ならない事をどうにか/しようととりとめもない/考えをたどりながらさっきから朱雀大路にふる/雨の音を聞くともなく/聞いていたのである/
line_6_3: 下人の考え
line_6_5: 下人は手段
line_7_0: 下人は/大きな嚔をして/それから大儀/そうに立/上った//
line_8_0: 下人は頸をちぢめながら山吹の汗袗に重ねた/紺の襖の肩を高くして門のまわりを見まわした/
line_8_4: 下人はそこで腰にさげた/聖柄の太刀が鞘/走らないように気をつけながら藁草履をはいた/足をその/梯子の一番下の段へふみかけた/
line_9_4: 下人は始め
line_10_0: 下人は守宮のように足音をぬすんで/やっと/急な/梯子を一番上の段まで這うようにして上り//
line_12_0: 下人はそれらの死骸の腐爛/した/臭気に思わず/鼻を掩った/
line_13_0: 下人の眼はその/時/はじめて/その/死骸の中に蹲っている人間を見た//
line_14_0: 下人は六分の恐怖と四分の好奇心とに動かされて暫時は呼吸をするのさえ忘れていた/
line_15_0: 下人の心から
line_16_0: 下人には勿論/何故/老婆が死人の髪の毛を抜くかわからなかった/
line_16_2: 下人にとってはこの/雨の夜にこの/羅生門の上で死人の髪の毛を抜くと云う/事がそれだけで既に/許す/べからざる悪であった/
line_17_0: 下人は両足
line_20_0: 下人は老婆が死骸につまずきながら慌てふためいて/逃げようと行手を塞いで/こう/罵った//
line_20_2: 下人はまたそれを行かすまいと押しもどす//
line_20_5: 下人はとうとう/老婆の腕をつかんで/無理に/そこへ○/じ/倒した//
line_22_0: 下人は老婆
line_22_3: 下人は始めて/明白に/この/老婆の生死が全然/自分の意志に支配れていると云う/事を意識//
line_22_6: 下人は老婆
line_26_0: 下人は老婆の答が存外/平凡なのに失望//
line_29_0: 下人は太刀を鞘におさめて/その/太刀の柄を左の手でおさえながら冷然として/この/話を聞いていた/
line_29_2: 下人の心には/ある勇気が生まれて来た/
line_29_5: 下人は饑死をするか盗人になるかに迷わなかったばかりではない/
line_31_0: 下人は嘲るような声で念を押した//
line_33_0: 下人はすばやく/老婆の着物を剥ぎとった//
line_33_3: 下人は剥ぎとった/檜皮色の着物をわきにかかえて/またたく間に/急な/梯子を夜の底へかけ/下りた//
line_35_0: 下人の行方は誰も知らない/

3 ?- right(下人). % 続いて、右の葉から「下人」を検索する
line_4_5: 今/この/下人
line_15_4: この/下人
line_15_4: 恐らく/下人
line_16_3: 勿論/下人
line_20_1: それでも下人
line_24_0: その/下人
line_24_4: 喘ぎ喘ぎ/下人

左の葉から下人を選択すると、下人についてのアクティブな文章を出力される。右の葉の場合は、もっと、受動的なものとなるが、下人がそのような受動的な扱いをされている文章がより少ないことがわかる。それがどこの文章に当たるかは、冒頭の line_XX_XX の部分でわかる。

どのような文章を引き出すかは、その文章に関するリスト構造と、ルートフレーズをどのように設定してあるかに依存する。

芥川龍之介『羅生門』全文をprolog宣言文に変換した

この間作成したJAVAの変換プログラムで、青空文庫にある芥川龍之介「羅生門」の全文を、二分木のprologの宣言文にした(プログラムは、その後改定されているが、まだgithubには反映されていない)。結果は、ベタでここに載せるのは長すぎるので、以下のzipファイルをダウンロードし解凍して、適当なテキストエディタでご覧ください。

jprolog.swi.zip

具体的な手法などは、前の記事を参照のこと。変換にかかった時間は、1分2.832秒で、許容範囲。

swiprologに読み込にかかる時間は、ほんの一瞬。listingした結果(一部)は以下のような感じだ。

washida:~/Project/Robot/MakeKnowledge/JProlog/data $ swipl -f jprolog.swi 
Welcome to SWI-Prolog (threaded, 64 bits, version 7.6.4)
SWI-Prolog comes with ABSOLUTELY NO WARRANTY. This is free software.
Please run ?- license. for legal details.

For online help and background, visit http://www.swi-prolog.org
For built-in help, use ?- help(Topic). or ?- apropos(Word).

1 ?- listing.

:- dynamic exception/3.
:- multifile exception/3.


plsample19(line0, node(へ, node([], [], どこ), node([], 行く, []))).
plsample19(line1, node([], [], [])).

plsample11(line0, node(あるが, node(の, node(と, 見る, 楼), node(には, 内, node(に, 噂, node([], [聞いた, 聞く], node([], 通り, node(つかの, 幾, node(が, 死骸, node([], 無造作に, [棄てて, 棄てる])))))))), node(の, 火, node(の, 光, node([], 及ぶ, node(が, 範囲, node(より, [思った, 思う], node(ので, 狭い, node(は, 数, node(つとも, 幾, node(ない, [わから, わかる], []))))))))))).
plsample11(line1, node(である, node(ながら, node([], ただ, おぼろげ), node(は, 知れるの, node(に, node([], その, 中), node(と, node(の, 裸, 死骸), node(を, 着物, node([], [着た, 着る], node(とが, 死骸, node(と, ある, node([], いう, 事))))))))), [])).
plsample11(line2, node(いるらしい, node(には, node([], 勿論, 中), node(も, 女, node(も, 男, [まじって, まじる]))), [])).
plsample11(line3, node(だと, node(は, node([], node([], そうして, その), 死骸), node(が, node([], 皆, それ), node([], かつて, node(いた, [生きて, 生きる], 人間)))), node([], 云う, node(さえ, 事実, node(れる, [疑わ, 疑う], node([], ほど, node(を, 土, node([], [捏ねて, 捏ねる], node([], [造った, 造る], node(のように, 人形, node([], node(を, 口, [開いたり, 開く]), node(を, 手, node(して, [延ばしたり, 延ばす], node(の, node([], ごろごろ, 床), node(に, 上, node(いた, [ころがって, ころがる], [])))))))))))))))).
plsample11(line4, node(しかも, [], node(とか, 肩, node(とかの, 胸, node(なっている, 高く, node(に, 部分, node(の, node([], node([], ぼんやり, [した, する]), 火), node(を, 光, node([], [うけて, うける], node(の, node(なっている, 低く, 部分), node(を, 影, node([], 一層, node(しながら, 暗く, node(に, 永久, node(の如く, 唖, node(いた, [黙って, 黙る], [])))))))))))))))).

plsample35(line0, node(の, 下人, node(は, 行方, node(も, 誰, node(ない, [知ら, 知る], []))))).
・・・・・・
・・・・・・
以下延々と続く

使い方のヒントは、例えばこの記事を参考に。

『吾輩は猫である』冒頭のprolog化

作成したJAVAプログラムJPrologで、夏目漱石「吾輩は猫である」の冒頭部分のパラグラフ全体をprolog化してみた。KNPが一度の処理を300字くらいを限界にしているので、パラグラフ全体を一挙にはできず、文章一つづつのprolog化になり、全体で3.5秒ほどかかった。

まだ、形態素解析の部分や、ノードとリーフの語の形成に不満はあるが、それは後でじっくり治していこうと思う。まず、どれだけやれるのかを確かめたい。この後、さらに長い文書をやらせようと思っている。

swiprologに読み込ませたが、いくつか問題を克服したのち、以下の状態では、正常に読み込んでいる。主に問題は、動詞の活用形と原型のリストをめぐってのものだった。仕様を、いかに記載したように改訂した。

plsample(line0,
    node(は,
        吾輩,
        node(である,
            猫,
            [ ]
        )
    )
).
plsample(line1,
    node(は,
        名前,
        node([],
            まだ,
            node([],
                無い,
                [ ]
            )
        )
    )
).
plsample(line2,
    node(か,
        node(で,
            どこ,
            [生れた, 生れる]
        ),
        node([],
            とんと,
            node(が,
                見当,
                node(ぬ,
                    [つか, つく],
                    [ ]
                )
            )
        )
    )
).
plsample(line3,
    node(だけは,
        node(いた,
            node([],
                node(で,
                    node([],
                        node([],
                            node([],
                                node([],
                                    何でも,
                                    薄暗い
                                ),
                                じめじめ
                            ),
                            [した, する]
                        ),
                        所
                    ),
                    ニャーニャー
                ),
                [泣いて, 泣く]
            ),
            事
        ),
        node(いる,
            [記憶, [して, する]],
            [ ]
        )
    )
).
plsample(line4,
    node(は,
        吾輩,
        node(で,
            ここ,
            node([],
                [始めて, 始める],
                node(を,
                    node([],
                        node(と,
                            人間,
                            いう
                        ),
                        もの
                    ),
                    node([],
                        [見た, 見る],
                        [ ]
                    )
                )
            )
        )
    )
).
plsample(line5,
    node(しかも,
        [],
        node(と,
            node(で,
                あと,
                聞く
            ),
            node(は,
                それ,
                node(と,
                    書生,
                    node([],
                        いう,
                        node(中で,
                            人間,
                            node([],
                                一番,
                                node(な,
                                    獰悪,
                                    node(であったそうだ,
                                        種族,
                                        [ ]
                                    )
                                )
                            )
                        )
                    )
                )
            )
        )
    )
).
plsample(line6,
    node(は,
        node(と,
            node([],
                この,
                書生
            ),
            いうの
        ),
        node(を,
            node([],
                時々,
                我々
            ),
            node([],
                [捕まえて, 捕まえる],
                node([],
                    [煮て, 煮る],
                    node(と,
                        食う,
                        node([],
                            いう,
                            node(である,
                                話,
                                [ ]
                            )
                        )
                    )
                )
            )
        )
    )
).
plsample(line7,
    node(しかし,
        [],
        node(は,
            node([],
                その,
                当時
            ),
            node([],
                node([],
                    node([],
                        node(から,
                            node(も,
                                node(何という,
                                    [],
                                    考
                                ),
                                なかった
                            ),
                            別段
                        ),
                        恐
                    ),
                    [し, する]
                ),
                node([],
                    いとも,
                    node(なかった,
                        [思わ, 思う],
                        [ ]
                    )
                )
            )
        )
    )
).
plsample(line8,
    node(の,
        node([],
            ただ,
            彼
        ),
        node(に,
            掌,
            node(られて,
                [載せ, 載せる],
                node(と,
                    スー,
                    node(られた,
                        [[持ち, 持つ], [上げ, 上げる]],
                        node([],
                            時,
                            node([],
                                何だか,
                                node([],
                                    フワフワ,
                                    node([],
                                        [した, する],
                                        node(が,
                                            感じ,
                                            node(ばかりである,
                                                [あった, ある],
                                                [ ]
                                            )
                                        )
                                    )
                                )
                            )
                        )
                    )
                )
            )
        )
    )
).
plsample(line9,
    node(の,
        掌,
        node(で,
            上,
            node(の,
                node([],
                    node([],
                        少し,
                        [落ちついて, 落ちつく]
                    ),
                    書生
                ),
                node(を,
                    顔,
                    node(が,
                        [[見た, 見る], の],
                        node(いわゆる,
                            [],
                            node(と,
                                人間,
                                node([],
                                    いう,
                                    node(の,
                                        もの,
                                        node(であろう,
                                            見始め,
                                            [ ]
                                        )
                                    )
                                )
                            )
                        )
                    )
                )
            )
        )
    )
).
plsample(line10,
    node(が,
        node([],
            node(だと,
                node([],
                    node([],
                        node([],
                            この,
                            時
                        ),
                        妙な
                    ),
                    もの
                ),
                [思った, 思う]
            ),
            感じ
        ),
        node(でも,
            今,
            node(いる,
                [残って, 残る],
                [ ]
            )
        )
    )
).
plsample(line11,
    node(れ,
        node([],
            node(を,
                第一毛,
                [もって, もつ]
            ),
            [装飾, [さ, する]]
        ),
        node(の,
            べきはず,
            node(が,
                顔,
                node([],
                    つる,
                    node([],
                        [つるして, つるす],
                        node([],
                            まるで,
                            node(だ,
                                薬缶,
                                [ ]
                            )
                        )
                    )
                )
            )
        )
    )
).
plsample(line12,
    node(が,
        node([],
            node(にも,
                node([],
                    その後,
                    猫
                ),
                だいぶ
            ),
            [逢った, 逢う]
        ),
        node(が,
            node([],
                node(度も,
                    node(には,
                        node([],
                            こんな,
                            片輪
                        ),
                        一
                    ),
                    [出会した, 出会す]
                ),
                事
            ),
            node([],
                ない,
                [ ]
            )
        )
    )
).
plsample(line13,
    node([],
        [のみ, のむ],
        node(ず,
            [なら, なる],
            node(の,
                顔,
                node(が,
                    真中,
                    node([],
                        あまりに,
                        node(いる,
                            [突起, [して, する]],
                            [ ]
                        )
                    )
                )
            )
        )
    )
).
plsample(line14,
    node([],
        そうして,
        node(の,
            node([],
                その,
                穴
            ),
            node(から,
                中,
                node(を,
                    node(と,
                        node([],
                            時々,
                            ぷうぷう
                        ),
                        煙けむり
                    ),
                    node([],
                        吹く,
                        [ ]
                    )
                )
            )
        )
    )
).
plsample(line15,
    node(くて,
        node([],
            どうも,
            咽むせぽ
        ),
        node([],
            実に,
            node([],
                [弱った, 弱る],
                [ ]
            )
        )
    )
).
plsample(line16,
    node(が,
        これ,
        node(は,
            node(である,
                node([],
                    node(と,
                        node([],
                            node(の,
                                人間,
                                飲む
                            ),
                            煙草
                        ),
                        いう
                    ),
                    もの
                ),
                事
            ),
            node([],
                ようやく,
                node([],
                    この頃,
                    node([],
                        [知った, 知る],
                        [ ]
                    )
                )
            )
        )
    )
).

KNPのサーバーモードとJPrologの処理速度

先の記事で示した、JPrologのソースを見ていただければわかるように、JumanとKNPは、サーバーモードで起動している。理由は、その方が、JAVAからストリーム処理を真剣にしなくてもいいので、プログラムが簡素になることと、何よりも、スピードが違うらしいからである。

確かにcabochaと比べるとKNPは遅い感じはある。一つの文章を処理させるのにかかるトータルな時間は、実感としてKNPは遅いが、KNPをサーバーで立ち上げて、多分、データの読み込みなどのオーバーヘッドを吸収するので、複数の文章を処理させれば早くなりそうだ、ということである。

それでもcabochaよりは遅いのだろうが、実感としての遅さは感じない。

JAVAによるKNPをベースにしたprolog化

KNPをベースに、文章をprolog化するJPrologが一通りできた。

これまでも用いている芸人の定義をprolog化するとその出力は次のようになった。なお、プログラムそのものは、GitHubのJPrologレポジトリにおいてある。Cabochaバージョンは、これによって上書きされたので消去された。
https://github.com/toyowa/JProlog

run:
Jumanをサーバーモードでスタートさせました
KNPをサーバーモードでスタートさせました
Juman および KNP クライアントを開始しました
Juman: KILLシグナルを送りました PID = 25064
KNP: KILLシグナルを送りました PID = 25063
%%--------------------------------
%% 「芸人とは、なんらかの技芸や芸能の道に通じている人、または身に備わった技芸や芸能をもって職業とする人のことを指す日本特有の概念である」のprolog化
%%--------------------------------
No.0 芸人,とは 	Kakari:16 type:D score:991
No.1 なんらか,の 	Kakari:3 type:D score:1000
No.2 技芸,や 	Kakari:3 type:P score:1000
No.3 芸能,の 	Kakari:4 type:D score:1000
No.4 道,に 	Kakari:5 type:D score:997
No.5 [通じて, 通じる],いる 	Kakari:6 type:D score:400
No.6 人,または 	Kakari:14 type:P score:1100
No.7 身,に 	Kakari:8 type:D score:997
No.8 [備わった, 備わる],[] 	Kakari:10 type:D score:-1
No.9 技芸,や 	Kakari:10 type:P score:1000
No.10 芸能,を 	Kakari:11 type:D score:1000
No.11 [もって, もつ],[] 	Kakari:13 type:D score:-1
No.12 職業,と 	Kakari:13 type:D score:988
No.13 する,[] 	Kakari:14 type:D score:-1
No.14 人,の 	Kakari:15 type:D score:1000
No.15 こと,を 	Kakari:16 type:D score:1000
No.16 指す,[] 	Kakari:19 type:D score:-1
No.17 日本,[] 	Kakari:18 type:D score:-1
No.18 特有の,[] 	Kakari:19 type:D score:-1
No.19 概念,である 	Kakari:-1 type: score:400
%% フレーズ番号リストのトークン = [ r0 [ 1 2 3 4 5 r6 [ 7 8 r9 10 11 12 13 ] 14 15 ] 16 17 18 19 ] 
%% Prolog宣言
pl001(a01,
    node(とは,
        芸人,
        node(または,
            node(いる,
                node(に,
                    node(の,
                        node(や,
                            node(の,
                                なんらか,
                                技芸
                            ),
                            芸能
                        ),
                        道
                    ),
                    [通じて, 通じる]
                ),
                人
            ),
            node(や,
                node([],
                    node(に,
                        身,
                        [備わった, 備わる]
                    ),
                    技芸
                ),
                node(を,
                    芸能,
                    node([],
                        [もって, もつ],
                        node(と,
                            職業,
                            node([],
                                する,
                                node(の,
                                    人,
                                    node(を,
                                        こと,
                                        node([],
                                            指す,
                                            node([],
                                                日本,
                                                node([],
                                                    特有の,
                                                    node(である,
                                                        概念,
                                                        [ ]
                                                    )
                                                )
                                            )
                                        )
                                    )
                                )
                            )
                        )
                    )
                )
            )
        )
    )
).

後半のprologの宣言文は、swiprologで問題なく解釈されている。listingすると、次のようになっている。

pl001(a01, node(とは, 芸人, node(または, node(いる, node(に, node(の, node(や, node(の, なんらか, 技芸), 芸能), 道), [通じて, 通じる]), 人), node(や, node([], node(に, 身, [備わった, 備わる]), 技芸), node(を, 芸能, node([], [もって, もつ], node(と, 職業, node([], する, node(の, 人, node(を, こと, node([], 指す, node([], 日本, node([], 特有の, node(である, 概念, [])))))))))))))).

KNPの係り受け解析をもとにしている。「フレーズ番号リストのトークン」のところにある、リスト構造がわかりやすい。

(1)「芸人とは」の主語は、係り受け解析の結果から、そこでの第16番目の句にかかっているので、そこは、うまくとらえている。

(2)または、という接続詞が大きな構造を作っているが、それが「人」にかかっているところは、まあまあ、とらえている。

この後のものは、特に、cabochaでは、うまくとらえられなかったので、大いに良い。が、
「wikipedia「芸人」の定義とprolog(3)リスト処理追加」

の記事で示した、私の直感的なものよりも、何かしらもう一つ劣っている感は否めない。形態素解析ツールがmecabからjumanに変わったので、ノード語とリーフ語で、取れてないものが増えて空リスト [ ]になっているが、これは修正可能で、また、大きな問題でもない。

KNPの解説サイトで使われていた、「私は傘を買い、そして家に帰った」という文章を解析して、出力した結果は次のようなものである。

%%--------------------------------
%% 「私は傘を買い、そして家に帰った。」のprolog化
%%--------------------------------
No.0 私,は 	Kakari:4 type:D score:991
No.1 傘,を 	Kakari:2 type:D score:1000
No.2 [買い, 買う],そして 	Kakari:4 type:P score:1100
No.3 家,に 	Kakari:4 type:D score:997
No.4 [帰った, 帰る],[] 	Kakari:-1 type: score:-1
%% フレーズ番号リストのトークン = [ r0 [ 1 r2 3 ] 4 ] 
%% Prolog宣言
pl001(a01,
    node(は,
        私,
        node(そして,
            node(を,
                傘,
                [買い, 買う]
            ),
            node(に,
                家,
                node([],
                    [帰った, 帰る],
                    [ ]
                )
            )
        )
    )
).

「私は」が二つの文節にかかっている状況は捉えている。KNPの構文解析が踏まえられている。

全体として、もう少し調整する必要がある。

構文解析器の変更:CabochaからKNP

これまで数年、一貫して構文解析器としては、Cabochaを使ってきた。最初にこれを選んだ理由はもう思い出せない。ロボットネタの作成にか交わすところも、すべてこれでやってきた。

他にKNPという解析ツールがあることはもちろん知っていた。

この間、ここでの文章知識のprolog化をするにあたって、構文解析器が重要な役割を果たすはずなのだが、Cabochaがどうにも思い通りに結果を表示しないので、Cabochaは、フレーズを出力する手段としてのみ使っていた。

例えば、この間使っていた例文「芸人とは、なんらかの技芸や芸能の道に通じている人、または身に備わった技芸や芸能をもって職業とする人のことを指す日本特有の概念である」をこのCabochaにかけ、構造だけ出力させると次のようになる。

のびたラーメンのような結果で、構造は何も表現されていない。

フレーズを切り取るだけならば、Macabから、そう難儀せずにできそうで、あえてCabochaを使うまでもないという気持ちはあったが、そこも面倒なので、Cabochaを使っているという感じだった。

JPrologで、どう構造化するという時に、ある意味仕方なく、自前の、必要な範囲の構文解析を行なっているのだが、なんとも不満足なものであることは確かだ。

そこで、改めて、KNPを試してみた。正直、驚くほど凄かった。例えば先の芸人の定義をKNPにかけると次のようになる。(構造だけ出力させる)

ほぼ、完璧である!!

「または」という接続詞が果たしている役割や、主語の「とは」の捉え方、最後の「日本特有の概念」のところ、「や」の並列性の捉え方、全部正しい。

これほどの違いとは知らなかった。今までがなんだったのか。衝撃が大きすぎる。

JPrologのすべてを、KNPで書き直そうと思う。

文章をprolog化するJAVAプログラム(3)

前の記事では、仮想的文章をprolog化することを示したが、実際の文章を与えてprolog化するJAVAプログラムを作成した。以下から、ダウンロードして実行できる。

https://github.com/toyowa/JProlog

ただし、cabochaが必要なので、そのREADMEテキストの指示に従って呼び出せるようにする必要がある。

これまでも例に使ったwikipediaの芸人の定義文書をprolog化する。
「芸人とは、なんらかの技芸や芸能の道に通じている人、または身に備わった技芸や芸能をもって職業とする人のことを指す日本特有の概念である」

まず、cabochaで、フレーズに分解すると次のようになる(JAVAプログラム出力の一部)。

%% ------ フレーズリスト ---------
% 助詞・助動詞,名詞・動詞,接続詞,原型
% No.0: とは, 芸人, , 
% No.1: , [[なんらかの], 技芸], や, 
% No.2: の, 芸能, , 
% No.3: に, 道, , 
% No.4: , 通じ, ている, 通じる
% No.5: , 人, または, 
% No.6: に, 身, , 
% No.7: た, 備わっ, , 備わる
% No.8: , 技芸, や, 
% No.9: を, 芸能, , 
% No.10: , もっ, て, もつ
% No.11: と, 職業, , 
% No.12: [ところの,という], する, , する
% No.13: の, 人, , 
% No.14: を, こと, , 
% No.15: [ところの,という], 指す, , 指す
% No.16: の, 日本特有, , 
% No.17: である, 概念, , 
%%--------------------------------

ただし、これまでと少し改定した点は、cabocha(あるいは、mecab)の助詞の第二品詞が「副助詞/並立助詞/終助詞」、「接続助詞」、「並列助詞」を助詞ではなく、接続詞扱いしている点にある(詳細な手続きは、プログラムを見ていただきたい)。その理由は、ここでの目的は、文章の中にある部分知識を得ることで、その点で、接続詞の前後が部分知識になっている可能性が高いからである。

その視点から、フレーズリストをリストに構造化すると次のようになる(JAVAプログラム出力の一部)。

[ [ 0 1 2 r3 ] r4 [ r5 [ 6 7 r8 [ 9 r10 [ 11 12 13 r14 15 16 17 ] ] ] ] ] 

rのついたフレーズ番号は、その部分リストのルートフレーズである(この辺りはこれまでの記事で解説ずみ)。ルールとしてフレーズが3個より短いサブリストは作らないことにした。

重要な点は、通常助詞よりも、接続詞をルートフレーズ化する場合の優先度を高めた。つまり、接続詞があれば、それを助詞よりも優先的にルートフレーズかするということである。

サブリストも含めたルートフレーズは、改めて具体的に表示すると、次のようになる。

%% ルート句: No.4 助詞/動詞: 語:通じ 接続詞:ている 原型:通じる
%% ルート句: No.3 助詞/動詞:に 語:道 接続詞: 原型:
%% ルート句: No.5 助詞/動詞: 語:人 接続詞:または 原型:
%% ルート句: No.8 助詞/動詞: 語:技芸 接続詞:や 原型:
%% ルート句: No.10 助詞/動詞: 語:もっ 接続詞:て 原型:もつ
%% ルート句: No.14 助詞/動詞:を 語:こと 接続詞: 原型:

これを先の記事で示したツリー化と表示クラスに咥えこませると、次の結果を得る。

%% Prolog宣言
pl000(
    node(ている,
        node(に,
            node(の,
                node(や,
                    node(とは,
                        芸人,
                        [[なんらかの], 技芸]
                    ),
                    芸能
                ),
                道
            ),
            通じ
        ),
        node(または,
            人,
            node(や,
                node(た,
                    node(に,
                        身,
                        備わっ
                    ),
                    技芸
                ),
                node(て,
                    node(を,
                        芸能,
                        もっ
                    ),
                    node(を,
                        node(の,
                            node([ところの,という],
                                node(と,
                                    職業,
                                    する
                                ),
                                人
                            ),
                            こと
                        ),
                        node([ところの,という],
                            指す,
                            node(の,
                                日本特有,
                                node(である,
                                    概念,
                                    [ ]
                                )
                            )
                        )
                    )
                )
            )
        )
    )
).

swiprologは、問題なく通過する。listingで表示させると、次のような1行になっている。

pl000(node(ている, node(に, node(の, node(や, node(とは, 芸人, [[なんらかの], 技芸]), 芸能), 道), 通じ), node(または, 人, node(や, node(た, node(に, 身, 備わっ), 技芸), node(て, node(を, 芸能, もっ), node(を, node(の, node([ところの, という], node(と, 職業, する), 人), こと), node([ところの, という], 指す, node(の, 日本特有, node(である, 概念, []))))))))).

以前の記事の出力結果と比べると大きく違っている。うねりが蛇のように複雑になった。それは、フレーズリストがサブリストの複雑な再帰的構造を持っている結果である。

われわれがもともと意識したというか、直感的に確実に持っている「または」という接続詞が二つの「人」を分けていることは表現できなかった。ここは、本当に文章の意味がわからなければ捉えられない。意識的にそのような構造をフレーズリストに反映させればそれは実ガン可能なのだが、今のところはそうしない。

右側の山の出っ張りのあたりに、この「芸人」の定義の大事な要素がにじみ出ている。その理由は、この山を小刻みに作っているのが、接続詞による分割が行われているためである。

また、「国境の長いトンネルを抜けると雪国であった」をprolog化すると次のようになる。

%% ------ フレーズリスト ---------
% 助詞・助動詞,名詞・動詞,接続詞,原型
% No.0: の, 国境, , 
% No.1: を, [[長い], トンネル], , 
% No.2: , 抜ける, と, 抜ける
% No.3: であった, 雪国, , 
%%--------------------------------
%% 「国境の長いトンネルを抜けると雪国であった」のprolog化
%%--------------------------------
%% ルート句: No.1 助詞/動詞:を 語:[[長い], トンネル] 接続詞: 原型:
%% フレーズ番号リスト = [ 0 r1 2 3 ] 
%% Prolog宣言
pl000(
    node(を,
        node(の,
            国境,
            [[長い], トンネル]
        ),
        node(と,
            抜ける,
            node(であった,
                雪国,
                [ ]
            )
        )
    )
).

こちらは、これまでとほぼ同じ結果になる。接続詞が一つもないからである。

課題としては、次のようなものがある。(1)接続詞を無条件にルート化するというのは、やや無謀だ。(2)「は」とか「とは」は、接続詞よりも高めたほうがいい。(3)あっさり、プライオリティー水準をいろいろな基準で作ったほうがいいかもしれない。

文章をprolog化するJAVAプログラム(2)

前の(1)の記事で示したプログラムは、ごちゃごちゃして醜かった。この記事の前の二つの記事を踏まえて、基幹部分を全面的に書き直した。要点は次のとおりである。

(1)二分木であることをしっかりと踏まえる。句番号のリストを与えると、二分木が自然にできることを示したが、そのアルゴリズムはシンプルなのだ。
(2)二分木の作成と、それに文章のフレーズを実際に乗せてprolog化するプロセスを完全に分離すること。前者は上に述べたような単純さがあり、後者は複雑な一面を持つ。分離することにより、後者の複雑さに対応しやすくなる。

javaで二分木を扱うについては以下のページがとても参考になる。そこに記載されているアルゴリズムは、基本、そのままここでも使うことができる。これを踏まえて、これまでも使った抽象的文章をprolog化するプログラムを以下のように作成した。(以下のGitHubディレクトリのPhraseTree.java)を参照。

phrasetree/PhraseTree.java

このプログラムは、仮想的な文章を使っていて、cabochaなどの構文解析やparseの必要がないので、このjavaファイルだけで実行できる。

やり方は、このファイルを PhraseTree.java という名前で保存し、jdkがインストールしてあれば、javacで

$ javac PhraseTree.java

とすれば、コンパイルされclassファイルができるので、引数など何も指定せずに、

$ java PhraseTree

とやれば、仮想的文章の解析を行った結果を出力するはずである。($はコマンどうプロンプトである)

プログラムに組み込まれている仮想文章は、

「aあbいcうdえeおfかgきhく」

というもので、小文字のアルファベットが名詞や動詞、ひらがなが助詞や助動詞、接続詞などを表している。アルファベット1文字と、ひらがな1文字のペアを一つの句とみなすと、全部で8個ある。句に0番から7番までの番号をつける。(アルファベットの小文字にしたのは、大文字にすると、prologの変数と間違われてしまうからである)

ここで、これまでの記事の中の例と同様に句リストを、プログラム中に次のようなものとして与えている。

[ [ 0 1 r2 3 4 ] r5 6 7 ]

全体のルート句が「か」が助詞となった5番目の句、0番から4番がサブリストで、それは2番目の句が「または」のような接続詞になっていると同時に、それがサブリストのルートにもなっているというものである。(ルートの句番号にはrがついている)

そのまま実行すると、出力は、次のようになる。後半部分に、prolog の宣言文となっているものが出力されている。プログラム中の310行目あたりにある、クリストを変えると、文章の構造が変わる。試して見られるといい。

リストのトークン化
[ [ 0 1 r2 3 4 ] r5 6 7 ] 
rootから左側のフレーズ番号を調べます
rootから左側のフレーズ番号を調べます
リスト/サブリストのフレーズシーケンスを作成しました
rootから右側のフレーズ番号を調べます
リスト/サブリストのフレーズシーケンスを作成しました
リスト/サブリストのフレーズシーケンスを作成しました
rootから右側のフレーズ番号を調べます
リスト/サブリストのフレーズシーケンスを作成しました
フレーズ番号: 5
フレーズ番号: 2
フレーズ番号: 1
フレーズ番号: 0
フレーズ番号: 3
フレーズ番号: 4
フレーズ番号: 6
フレーズ番号: 7
pl000(
    node(か,
        node(う,
            node(い,
                node(あ,
                    a,
                    b
                ),
                c
            ),
            node(え,
                d,
                node(お,
                    e,
                    f
                )
            )
        ),
        node(き,
            g,
            node(く,
                h,
                [ ]
            )
        )
    )
).

 

文章の二分木とprolog

これまでのシステムを、二分木だとは考えていたが、とても特殊なものだと思っていた。しかし、前の記事までの考察を踏まえると、実は、普通の二分木であることに気付いた。

前の記事と同様に、次のような抽象的文章(あるいは、一般化された日本語文章)を考える。

句番号、リーフ語、ノード語
0, A, あ
1, B, い
2, C, う
3, D, え
4, E, お
5, F, か
6, G, き
7, H, く

この抽象的文章は次のようなものである。

「AあBいCうDえEおFかGきHく」

これをルート語を5番の句として、2番の句を接続詞として、0,1番と3,4番のサブツリーをつなげているとし、句番号のリストとすると(カンマを省略)、

[[0 1 (2) 3 4] (5) 6 7]

という表し方が可能である。全体のリストのルートは5番、サブリスト[0 1 2 3 4]のルートが2番となっている。

今この情報をもとに、再帰的にツリーを作り上げていくことを考える。このツリーは、常に左側の句番号が、右側の句番号よりも小さいことを前提にする。そして、ルートから順番に値を入れていく。

入れていく句番号については、次のようなルールで入れる。

(1)そのリストのルート句番号を最初に入れる
(2)ルートの句番号に近いものから値をとばさず順次入れる
(3)サブリストに入った時は、そのリストを上記二つのルールで先行して処理する

ツリーが作られていく様子は次のように表される。

出来上がったものは、先の記事で書いた抽象的文章の二分木に他ならない。

右に接続詞があった場合も、基本的にストーリーは同じである。