機械学習下準備〜文章フォーマット作成〜

 前回発覚した問題が以下のふたつ。

  • 名詞,形容動詞語幹
  • 名詞,形容詞語幹

 このあたり日本語のややこしいところで、例えば前回引っかかった「好き」。

  • 好き:名詞,形容詞語幹
  • 好く:形容詞
  • 好かない:動詞

……とまあ散々な有様。ちなみに「好み/好む」については

  • 好み:名詞,一般
  • 好む:動詞

 という状態。名詞一般……。これは学習よりも出力に問題が出そうな……どっちかっていうと形容動詞語幹に振り分けてくれた方が文章としては適切な気がします。好みだ。好みの%noun%。好きも形容動詞語幹に入れてほしいですね。好きだ。好きな%noun%。

 というわけでろくろく解決策も思いつかないので一旦先に進みます。
 辞書ファイルをどうにかできればいいのでは? と思ってファイル漁ったんですけどなんかどうにもなりそうにないというか、dicファイルの編集方法がわからない。小学生男児なのでunk.dicを見かけたときに「うんこだ! うんこ!!」という気持ちになり、深追いするのをやめました。何の略なんだろうunk……

テンプレートを作成する

 ここで言う「テンプレート」とは、「○○は××ね」という種類のものです。もうちょっとスクリプトてきに書くと「%noun%は%adjective%ね」てきなものです。ここに昨日学習した「白い猫」「可愛い」を当てはめてやると「白い猫は可愛いね」となります。
 活用形の処理はまた考えないといけないかもなーと思っています。こっちは正解がある話ですし機械学習でできそうな匂いがするのでちょっと本とか読みながら考えます。ここまで書いておいて可能なのかどうか。いつでもいきあたりばったりです。

閑話休題。

 テンプレートの作成について、理論的には

  1. 入力値を形態素解析にかける
  2. 昨日作ったロジックを流用して「白い猫」の部分を%noun%に、「可愛い」の部分を%adjective%に置き換える
  3. 置き換えた文章「%noun%は%adjective%ね」をパターン辞書に登録する

という具合になります。

 返答の際は入力値と連想辞書を突き合わせた結果をパターン辞書の構文に当てはめて「白い猫は可愛いね」を返却できるようにします。理論的には「白い猫は好き?」と聞けば「白い猫は可愛いね」という文章が返ってくる、はずです。※「好き」が名詞判定されるのをどうにかできればの話

具体的にはこう。

    def study_format(self, text, parts):
        text = self.make_format(text, parts)
        """ユーザーの発言textをランダム辞書に保存する。
        すでに同じ発言があった場合は何もしない。"""
        if not text in self._format:
            self._format.append(text)

    def make_format(self, text, parts):
        fmt = ""
        for word, part in parts:
            if self.is_noun(part):
                fmt+="%noun%"
            elif self.is_adjective(part):
                fmt+="%adjective"
            else:
                fmt+=word
        return fmt

    @staticmethod
    def is_adjective(part):
        return bool(re.match(r'(形容詞|名詞,形容動詞語幹)', part)); # 保留

これでOKかな〜とか思ってたら「白い猫は可愛い」と登録したときの辞書が %adjective%%noun%は%adjective% になって昨日作ったロジックと矛盾することになったのでもうちょっと書きます。

    def make_format(self, text, parts):
        noun = ""
        for word, part in parts:
            if self.is_noun(part):
                noun+=word
            else:
                if noun != "":
                    phrases = self.get_predicate(noun)
                    noun = self.get_modifier(noun) + noun
                    text = text.replace(noun,'%noun%')
                    text = text.replace(phrases,'%adjective%')
                noun = ""
        if noun != "":
            phrases = self.get_predicate(noun)
            noun = self.get_modifier(noun) + noun
            text = text.replace(noun,'%noun%')
            text = text.replace(phrases,'%adjective%')

        return text

 これで登録結果が %noun%は%adjective% になりました。原理的には昨日書いたロジックと同じですね。
 しかしまだ主語の判別ができていません。「黒は車屋の黒である」と入力してみたら「%noun%である」と登録されてしまいましたので、このあたりもなんとかしていきます(例文が悪いという気もする)。
 次回の目標は「黒/は/車屋の黒/である」と認識すること、「%noun%は%noun%である」と登録させることです。

機械学習下準備〜CaboCha組み込み〜

 前々回MeCabに対応させた人工知能にCaboChaを組み込みます。
 とか言ってCaboCha、「美しい水車小屋の乙女」を以下のように展開してくださるのでちょっと不安ではある。

美しい => 水車小屋の
水車小屋の => 乙女
乙女 => None

美しい水車小屋/の/乙女(美しいとは言っていない)

 現在は「名詞,(一般|代名詞|固有名詞|サ変接続|形容動詞語幹)」に合致するものがあれば辞書に登録、というロジックになっていますが、この名詞にかかる修飾も一緒に辞書登録していきましょう。

  • 入力「白い猫は可愛い」
  • 現在の実装による辞書登録「猫 白い猫は可愛い」
  • 目標とする辞書登録「白い猫 可愛い」

 その他、名詞が連続する場合(フルネームや地名がバラける傾向にある)はひとかたまりとして認識するなどの操作も必要になります。
 具体的にこう

    def study_pattern(self, text, parts):
        """ユーザーの発言textを、形態素partsに基づいてパターン辞書に保存する。"""
        noun = ""
        for word, part in parts:
            if self.is_noun(part):
                # 品詞が名詞であれば連結
                noun+=word
            else:
                # 品詞が名詞でなければ
                if noun != "":
                    # かつnounが空でなければ
                    duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
                    if duplicated:
                        if not text in duplicated['phrases']:
                            # かつファイルに重複がなければ(pattern, phrase双方)
                            # 新しいパターンを辞書に登録
                            duplicated['phrases'].append(text)
                    else:
                        # 既に登録されている場合はパターンを追加
                        self._pattern.append({'pattern': noun, 'phrases': [text]})
                    noun = ""
        if noun != "":
            # おなじ
            duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
            if duplicated:
                if not text in duplicated['phrases']:
                    duplicated['phrases'].append(text)
            else:
                self._pattern.append({'pattern': noun, 'phrases': [text]})
            noun = ""

 リファクタリングはしましょう。こうすることにより「東京都郊外にある小さなアパート」という文章が以下のように登録されます。

東京都郊外   東京都郊外にある小さなアパート
アパート    東京都郊外にある小さなアパート

 名詞の塊を取得することができたのでこれにかかる修飾子を取得していきます。このままだと例文が悪いので「白い猫は可愛い」に本題を戻します。
 かぼちゃパイの結果はこう

$ python cabocha.py 
白い => 猫は
猫は => 可愛い
可愛い => None

 MeCabの解析はこう

白い  形容詞,自立,*,*,形容詞・アウオ段,基本形,白い,シロイ,シロイ
猫   名詞,一般,*,*,*,*,猫,ネコ,ネコ
は   助詞,係助詞,*,*,*,*,は,ハ,ワ
可愛い 形容詞,自立,*,*,形容詞・イ段,基本形,可愛い,カワイイ,カワイイ
EOS

 ここから「白い猫」が取れればOKです。
 今思うとこれパターン辞書に登録する予定のものじゃないのであとでごっそりリファクタリングしなくてはならないな……

import re
from MeCab import Tagger
import CaboCha
import itertools


class Dictionary:
〜略〜
    def study(self, text):
        """かぼちゃパースはあらかじめやっておく"""
        cp = CaboCha.Parser('-n 0')
        tree = cp.parse(text)
        tokens = self.to_tokens(tree)

        self._head_tokens = [token for token in tokens if self.has_chunk(token)]
        self._lasts = self.chunk_by(self.has_chunk, tokens)

        links = [x.chunk.link for x in self._head_tokens]
        self._link_words = [self.concat_tokens(x, self._head_tokens, self._lasts) for x in links]
        """ランダム辞書、パターン辞書をメモリに保存する。"""
        self.study_random(text)
        self.study_pattern(text, Dictionary.analyze(text))

〜略〜
    def study_pattern(self, text, parts):
        """ユーザーの発言textを、形態素partsに基づいてパターン辞書に保存する。"""
        noun = ""
        for word, part in parts:
            if self.is_noun(part):  # 品詞が名詞であれば学習
                noun+=word
            else:
                if noun != "":
                    phrases = self.get_predicate(noun) # 述語(可愛い)を取得
                    noun = self.get_modifier(noun) + noun # 主語(白い+猫)を取得
                    duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
                    if duplicated:
                        if not phrases in duplicated['phrases']:
                            duplicated['phrases'].append(phrases)
                    else:
                        self._pattern.append({'pattern': noun, 'phrases': [phrases]})
                    noun = ""
        if noun != "":
            phrases = self.get_predicate(noun)
            noun = self.get_modifier(noun) + noun
            duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
            if duplicated:
                if not phrases in duplicated['phrases']:
                    duplicated['phrases'].append(phrases)
            else:
                self._pattern.append({'pattern': noun, 'phrases': [phrases]})
            noun = ""

    def get_predicate(self, needle):
        for(i, to_word) in enumerate(self._link_words):
            from_word = self.concat_tokens(i, self._head_tokens, self._lasts)
            if(type(from_word) == str and re.match(needle, from_word)):
                return to_word

    def get_modifier(self, needle):
        for(i, to_word) in enumerate(self._link_words):
            from_word = self.concat_tokens(i, self._head_tokens, self._lasts)
            if(type(to_word) == str and re.match(needle, to_word)):
                return from_word

    def chunk_by(_, func, col):
        '''
        `func`の要素が正のアイテムで区切る
        '''
        result = []
        for item in col:
            if func(item):
                result.append([])
            else:
                result[len(result) - 1].append(item)
        return result

    def has_chunk(_, token):
        '''
        チャンクがあるかどうか
        チャンクがある場合、その単語が先頭になる
        '''
        return token.chunk is not None

    def to_tokens(_, tree):
        '''
        解析済みの木からトークンを取得する
        '''
        return [tree.token(i) for i in range(0, tree.size())]

    def concat_tokens(_, i, tokens, lasts):
        '''
        単語を意味のある単位にまとめる
        '''
        if i == -1:
            return None
        word = tokens[i].surface
        last_words = [x.surface for x in lasts[i]]
        return word + ''.join(last_words)

〜略〜

 で、結果(辞書ファイル)がこう

白い猫 可愛い

 やったぜ!
 これで入力から言葉を覚えてくれるようになりました。ねこはかわいいのだ。

 ……と喜んだのもつかの間、「ケーキは好き?」と聞いてみたら「好き」が名詞として判定されることがわかり……形容詞語幹……。
 もうちょっと調整に時間がかかりそうです。ぐぬぬ。

機械学習下準備〜CaboChaで係り受けの解析〜

CaboChaインストール

取り敢えず形態素解析はできたので文法沼に沈む前にCaboChaのインストールに移ります。
この時点で「係り受けの判定が入ったらまた大幅に書き直すことになるのでは?」と気が付きちょっと暗澹としています。
目論見としては

  1. 係り受けを意識した主語の判定
  2. 係り受けを意識した述語/形容の判定

あたりができるようになるといいなと。
「佐藤さんの家の猫は白くて可愛い」のような文章があったときに、「佐藤さんの家の猫」「白い」「可愛い」あたりを取得したいのだけど、MeCabだけでやると「猫」「白い」「可愛い」になってしまうのでこの辺の調整です。猫は必ずしも白くない、みたいな。例文が思いつかなくて青空文庫をうろうろしましたがちょうどいい文章が見つからなかった……。

参考サイトはこちら:係り受け解析器CaboChaをPythonから使う – Spot
2016年で更新止まってるし見た感じ消し忘れた過去のページって雰囲気(ヘッダのリンク切れてるし)なのでここ近い内に消えるのかもな……

CaboChaオフィシャルサイトはこちら:CaboCha/南瓜
titleタグがカオボチャになっとる……なんだか悲惨な響き……っていうかこれ最終更新15年って大丈夫か? と思ったらダウンロードページには17年版がありました。サイトが更新されてないだけか。

インストールコマンド

$ tar xvfz cabocha-0.69.tar.bz2 
$ cd cabocha-0.69
$ ./configure --with-mecab-config=`which mecab-config` --with-charset=UTF8
$ make && make check
$ sudo make install
$ cd python
$ python setup.py build
$ python setup.py install

tarコマンドは専門学校時代から合わせて八年は叩いてるはずなんですが未だにxvfz部分が覚えられない。頻度が低いとはいえそろそろ何も見ずに打てるようになりたい……。

んでまあインストールが終わったのでコンソールから適当に叩いてみたのですけど

python
Python 3.6.5 (default, Aug  6 2018, 11:02:37) 
[GCC 4.2.1 Compatible Apple LLVM 9.1.0 (clang-902.0.39.2)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import CaboCha
>>> import itertools
>>> cp = CaboCha.Parser('-f1')
>>> tree = cp.parse('東京のラーメン屋がいつも混雑しているわけではない')
>>> tokens = [tree.token(i) for i in range(0, tree.size())]
>>> print(tokens)
[<CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c02b600> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c02b090> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c02b630> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c02b660> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3060> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3240> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3300> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b32d0> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3330> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b33f0> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3420> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3450> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b3480> >, <CaboCha.Token; proxy of <Swig Object of type 'CaboCha::Token *' at 0x10c4b34b0> >]

んん。
MeCabのようにサクッと中身が見えたりはしません。参考サイトのソースを拝借してcabocha.pyとしてファイル保存してテストします。
どうでもいいけどかぼちゃパイって美味しそうですね。ふかした南瓜をなめらかに潰してはちみつとかで甘みを足して、焼いた後でかけるのは生クリームでもカラメルソースでもいいですね。中身に歯ごたえがないので生地にかぼちゃの種とかナッツ類を混ぜ込んでも美味しいと思います。何の話?

ただし参考サイトのソースはPython2系で書かれているらしく、そのまま動かそうとしても 'filter' object is not subscriptable と言われて落ちます。

Python3用に書き直したソース

# -*- coding: utf-8 -*-
import CaboCha
import itertools

def chunk_by(func, col):
    '''
    `func`の要素が正のアイテムで区切る
    '''
    result = []
    for item in col:
        if func(item):
            result.append([])
        else:
            result[len(result) - 1].append(item)
    return result

def has_chunk(token):
    '''
    チャンクがあるかどうか
    チャンクがある場合、その単語が先頭になる
    '''
    return token.chunk is not None

def to_tokens(tree):
    '''
    解析済みの木からトークンを取得する
    '''
    return [tree.token(i) for i in range(0, tree.size())]

def concat_tokens(i, tokens, lasts):
    '''
    単語を意味のある単位にまとめる
    '''
    if i == -1:
        return None
    word = tokens[i].surface
 -     last_words = map(lambda x: x.surface, lasts[i])
 +     last_words = [x.surface for x in lasts[i]]
    return word + ''.join(last_words)

raw_string = u'東京のラーメン屋がいつも混雑しているわけではない'

cp = CaboCha.Parser('-f1')
tree = cp.parse(raw_string)
tokens = to_tokens(tree)

 - head_tokens = filter(has_chunk, tokens)
 + head_tokens = [token for token in tokens if has_chunk(token)]
 - words = map(lambda x: x.surface, head_tokens)
 + words = [x.surface for x in head_tokens]

lasts = chunk_by(has_chunk, tokens)

 - links = map(lambda x: x.chunk.link, head_tokens)
 + links = [x.chunk.link for x in head_tokens]
 - link_words = map(lambda x: concat_tokens(x, head_tokens, lasts), links)
 + link_words = [concat_tokens(x, head_tokens, lasts) for x in links]

for (i, to_word) in enumerate(link_words):
    from_word = concat_tokens(i, head_tokens, lasts)
    print("{0} => {1}".format(from_word, to_word))
$ python cabocha.py
東京の => ラーメン屋が
ラーメン屋が => 混雑しているわけではない
いつも => 混雑しているわけではない
混雑しているわけではない => None

よろしい。
次回はこれを人工知能に組み込んでいきます。