機械学習下準備〜文章フォーマット作成〜

 前回発覚した問題が以下のふたつ。

  • 名詞,形容動詞語幹
  • 名詞,形容詞語幹

 このあたり日本語のややこしいところで、例えば前回引っかかった「好き」。

  • 好き:名詞,形容詞語幹
  • 好く:形容詞
  • 好かない:動詞

……とまあ散々な有様。ちなみに「好み/好む」については

  • 好み:名詞,一般
  • 好む:動詞

 という状態。名詞一般……。これは学習よりも出力に問題が出そうな……どっちかっていうと形容動詞語幹に振り分けてくれた方が文章としては適切な気がします。好みだ。好みの%noun%。好きも形容動詞語幹に入れてほしいですね。好きだ。好きな%noun%。

 というわけでろくろく解決策も思いつかないので一旦先に進みます。
 辞書ファイルをどうにかできればいいのでは? と思ってファイル漁ったんですけどなんかどうにもなりそうにないというか、dicファイルの編集方法がわからない。小学生男児なのでunk.dicを見かけたときに「うんこだ! うんこ!!」という気持ちになり、深追いするのをやめました。何の略なんだろうunk……

テンプレートを作成する

 ここで言う「テンプレート」とは、「○○は××ね」という種類のものです。もうちょっとスクリプトてきに書くと「%noun%は%adjective%ね」てきなものです。ここに昨日学習した「白い猫」「可愛い」を当てはめてやると「白い猫は可愛いね」となります。
 活用形の処理はまた考えないといけないかもなーと思っています。こっちは正解がある話ですし機械学習でできそうな匂いがするのでちょっと本とか読みながら考えます。ここまで書いておいて可能なのかどうか。いつでもいきあたりばったりです。

閑話休題。

 テンプレートの作成について、理論的には

  1. 入力値を形態素解析にかける
  2. 昨日作ったロジックを流用して「白い猫」の部分を%noun%に、「可愛い」の部分を%adjective%に置き換える
  3. 置き換えた文章「%noun%は%adjective%ね」をパターン辞書に登録する

という具合になります。

 返答の際は入力値と連想辞書を突き合わせた結果をパターン辞書の構文に当てはめて「白い猫は可愛いね」を返却できるようにします。理論的には「白い猫は好き?」と聞けば「白い猫は可愛いね」という文章が返ってくる、はずです。※「好き」が名詞判定されるのをどうにかできればの話

具体的にはこう。

    def study_format(self, text, parts):
        text = self.make_format(text, parts)
        """ユーザーの発言textをランダム辞書に保存する。
        すでに同じ発言があった場合は何もしない。"""
        if not text in self._format:
            self._format.append(text)

    def make_format(self, text, parts):
        fmt = ""
        for word, part in parts:
            if self.is_noun(part):
                fmt+="%noun%"
            elif self.is_adjective(part):
                fmt+="%adjective"
            else:
                fmt+=word
        return fmt

    @staticmethod
    def is_adjective(part):
        return bool(re.match(r'(形容詞|名詞,形容動詞語幹)', part)); # 保留

これでOKかな〜とか思ってたら「白い猫は可愛い」と登録したときの辞書が %adjective%%noun%は%adjective% になって昨日作ったロジックと矛盾することになったのでもうちょっと書きます。

    def make_format(self, text, parts):
        noun = ""
        for word, part in parts:
            if self.is_noun(part):
                noun+=word
            else:
                if noun != "":
                    phrases = self.get_predicate(noun)
                    noun = self.get_modifier(noun) + noun
                    text = text.replace(noun,'%noun%')
                    text = text.replace(phrases,'%adjective%')
                noun = ""
        if noun != "":
            phrases = self.get_predicate(noun)
            noun = self.get_modifier(noun) + noun
            text = text.replace(noun,'%noun%')
            text = text.replace(phrases,'%adjective%')

        return text

 これで登録結果が %noun%は%adjective% になりました。原理的には昨日書いたロジックと同じですね。
 しかしまだ主語の判別ができていません。「黒は車屋の黒である」と入力してみたら「%noun%である」と登録されてしまいましたので、このあたりもなんとかしていきます(例文が悪いという気もする)。
 次回の目標は「黒/は/車屋の黒/である」と認識すること、「%noun%は%noun%である」と登録させることです。

機械学習下準備〜CaboCha組み込み〜

 前々回MeCabに対応させた人工知能にCaboChaを組み込みます。
 とか言ってCaboCha、「美しい水車小屋の乙女」を以下のように展開してくださるのでちょっと不安ではある。

美しい => 水車小屋の
水車小屋の => 乙女
乙女 => None

美しい水車小屋/の/乙女(美しいとは言っていない)

 現在は「名詞,(一般|代名詞|固有名詞|サ変接続|形容動詞語幹)」に合致するものがあれば辞書に登録、というロジックになっていますが、この名詞にかかる修飾も一緒に辞書登録していきましょう。

  • 入力「白い猫は可愛い」
  • 現在の実装による辞書登録「猫 白い猫は可愛い」
  • 目標とする辞書登録「白い猫 可愛い」

 その他、名詞が連続する場合(フルネームや地名がバラける傾向にある)はひとかたまりとして認識するなどの操作も必要になります。
 具体的にこう

    def study_pattern(self, text, parts):
        """ユーザーの発言textを、形態素partsに基づいてパターン辞書に保存する。"""
        noun = ""
        for word, part in parts:
            if self.is_noun(part):
                # 品詞が名詞であれば連結
                noun+=word
            else:
                # 品詞が名詞でなければ
                if noun != "":
                    # かつnounが空でなければ
                    duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
                    if duplicated:
                        if not text in duplicated['phrases']:
                            # かつファイルに重複がなければ(pattern, phrase双方)
                            # 新しいパターンを辞書に登録
                            duplicated['phrases'].append(text)
                    else:
                        # 既に登録されている場合はパターンを追加
                        self._pattern.append({'pattern': noun, 'phrases': [text]})
                    noun = ""
        if noun != "":
            # おなじ
            duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
            if duplicated:
                if not text in duplicated['phrases']:
                    duplicated['phrases'].append(text)
            else:
                self._pattern.append({'pattern': noun, 'phrases': [text]})
            noun = ""

 リファクタリングはしましょう。こうすることにより「東京都郊外にある小さなアパート」という文章が以下のように登録されます。

東京都郊外   東京都郊外にある小さなアパート
アパート    東京都郊外にある小さなアパート

 名詞の塊を取得することができたのでこれにかかる修飾子を取得していきます。このままだと例文が悪いので「白い猫は可愛い」に本題を戻します。
 かぼちゃパイの結果はこう

$ python cabocha.py 
白い => 猫は
猫は => 可愛い
可愛い => None

 MeCabの解析はこう

白い  形容詞,自立,*,*,形容詞・アウオ段,基本形,白い,シロイ,シロイ
猫   名詞,一般,*,*,*,*,猫,ネコ,ネコ
は   助詞,係助詞,*,*,*,*,は,ハ,ワ
可愛い 形容詞,自立,*,*,形容詞・イ段,基本形,可愛い,カワイイ,カワイイ
EOS

 ここから「白い猫」が取れればOKです。
 今思うとこれパターン辞書に登録する予定のものじゃないのであとでごっそりリファクタリングしなくてはならないな……

import re
from MeCab import Tagger
import CaboCha
import itertools


class Dictionary:
〜略〜
    def study(self, text):
        """かぼちゃパースはあらかじめやっておく"""
        cp = CaboCha.Parser('-n 0')
        tree = cp.parse(text)
        tokens = self.to_tokens(tree)

        self._head_tokens = [token for token in tokens if self.has_chunk(token)]
        self._lasts = self.chunk_by(self.has_chunk, tokens)

        links = [x.chunk.link for x in self._head_tokens]
        self._link_words = [self.concat_tokens(x, self._head_tokens, self._lasts) for x in links]
        """ランダム辞書、パターン辞書をメモリに保存する。"""
        self.study_random(text)
        self.study_pattern(text, Dictionary.analyze(text))

〜略〜
    def study_pattern(self, text, parts):
        """ユーザーの発言textを、形態素partsに基づいてパターン辞書に保存する。"""
        noun = ""
        for word, part in parts:
            if self.is_noun(part):  # 品詞が名詞であれば学習
                noun+=word
            else:
                if noun != "":
                    phrases = self.get_predicate(noun) # 述語(可愛い)を取得
                    noun = self.get_modifier(noun) + noun # 主語(白い+猫)を取得
                    duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
                    if duplicated:
                        if not phrases in duplicated['phrases']:
                            duplicated['phrases'].append(phrases)
                    else:
                        self._pattern.append({'pattern': noun, 'phrases': [phrases]})
                    noun = ""
        if noun != "":
            phrases = self.get_predicate(noun)
            noun = self.get_modifier(noun) + noun
            duplicated = next((p for p in self._pattern if p['pattern'] == noun), None)
            if duplicated:
                if not phrases in duplicated['phrases']:
                    duplicated['phrases'].append(phrases)
            else:
                self._pattern.append({'pattern': noun, 'phrases': [phrases]})
            noun = ""

    def get_predicate(self, needle):
        for(i, to_word) in enumerate(self._link_words):
            from_word = self.concat_tokens(i, self._head_tokens, self._lasts)
            if(type(from_word) == str and re.match(needle, from_word)):
                return to_word

    def get_modifier(self, needle):
        for(i, to_word) in enumerate(self._link_words):
            from_word = self.concat_tokens(i, self._head_tokens, self._lasts)
            if(type(to_word) == str and re.match(needle, to_word)):
                return from_word

    def chunk_by(_, func, col):
        '''
        `func`の要素が正のアイテムで区切る
        '''
        result = []
        for item in col:
            if func(item):
                result.append([])
            else:
                result[len(result) - 1].append(item)
        return result

    def has_chunk(_, token):
        '''
        チャンクがあるかどうか
        チャンクがある場合、その単語が先頭になる
        '''
        return token.chunk is not None

    def to_tokens(_, tree):
        '''
        解析済みの木からトークンを取得する
        '''
        return [tree.token(i) for i in range(0, tree.size())]

    def concat_tokens(_, i, tokens, lasts):
        '''
        単語を意味のある単位にまとめる
        '''
        if i == -1:
            return None
        word = tokens[i].surface
        last_words = [x.surface for x in lasts[i]]
        return word + ''.join(last_words)

〜略〜

 で、結果(辞書ファイル)がこう

白い猫 可愛い

 やったぜ!
 これで入力から言葉を覚えてくれるようになりました。ねこはかわいいのだ。

 ……と喜んだのもつかの間、「ケーキは好き?」と聞いてみたら「好き」が名詞として判定されることがわかり……形容詞語幹……。
 もうちょっと調整に時間がかかりそうです。ぐぬぬ。

機械学習下準備〜MeCabで形態素解析〜

MeCabインストール

参考サイトはこちら:今更ながらPythonとMeCabで形態素解析してみた – イノベーション エンジニアブログ

$ brew install mecab-ipadic

$ mecab
すもももももももものうち
すもも 名詞,一般,*,*,*,*,すもも,スモモ,スモモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
の   助詞,連体化,*,*,*,*,の,ノ,ノ
うち  名詞,非自立,副詞可能,*,*,*,うち,ウチ,ウチ
EOS

すっもっもっもっももっもっ。
あとMeCabをPythonから使うために mecab-python3 も入れます。

$ pip install mecab-python3

$ python
Python 3.6.5 (default, Aug  6 2018, 11:02:37) 
[GCC 4.2.1 Compatible Apple LLVM 9.1.0 (clang-902.0.39.2)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import MeCab
>>> m = MeCab.Tagger()
>>> print(m.parse("すもももももももものうち"))
すもも 名詞,一般,*,*,*,*,すもも,スモモ,スモモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
の   助詞,連体化,*,*,*,*,の,ノ,ノ
うち  名詞,非自立,副詞可能,*,*,*,うち,ウチ,ウチ
EOS

参考サイトのソースをMeCabで書き直し

先人のリソースありがたやありがたや。
ちなみに途中からやりたかったのでMasterからコピーするのではなく途中のコミットからコピーしてます。→79b4b990da6220543208879551737ac31e6cddf0
一番困ったのはjanome.tokenizer.Tokenオブジェクトが無くなったことです。これにより t.surface とかのあたりが使えなくなり、かつMeCabの解析結果がStringだったのでなんかごにょごにょとパースするはめになりました。このあたりはjanomeの方が便利なんだなという印象。
Pythonの標準では複数文字を指定したsplitもできなかったのでreを使って下記のごとく処理しました。

[re.split('[\t,]',line) for line in re.split('[\n]',m.parse("すもももももももものうち"))]

"""結果"""
[
    ['すもも', '名詞', '一般', '*', '*', '*', '*', 'すもも', 'スモモ', 'スモモ'], 
    ['も', '助詞', '係助詞', '*', '*', '*', '*', 'も', 'モ', 'モ'], 
    ['もも', '名詞', '一般', '*', '*', '*', '*', 'もも', 'モモ', 'モモ'], 
    ['も', '助詞', '係助詞', '*', '*', '*', '*', 'も', 'モ', 'モ'], 
    ['もも', '名詞', '一般', '*', '*', '*', '*', 'もも', 'モモ', 'モモ'], 
    ['の', '助詞', '連体化', '*', '*', '*', '*', 'の', 'ノ', 'ノ'], 
    ['うち', '名詞', '非自立', '副詞可能', '*', '*', '*', 'うち', 'ウチ', 'ウチ'], 
    ['EOS'], 
    ['']
]

なんかEOSとか空行とかいらないものもありますがこの辺は手動でアレしましょう。

修正前(janome)

def analyze(text):
    """文字列textを形態素解析し、[(surface, parts)]の形にして返す。"""
    return [(t.surface, t.part_of_speech) for t in TOKENIZER.tokenize(text)]

修正後(MeCab)

def analyze(text):
    """文字列textを形態素解析し、[(surface, parts)]の形にして返す。"""
    tokens = [re.split('[\t,]',line) for line in re.split('[\n]',Dictionary.TAGGER.parse(text))]
    return [(t[0], ','.join([t[1], t[2], t[3], t[4]])) for t in tokens if len(t)==10]

ゴミを取り除くために if len(t)==10 とか書いてるんですけどどうなんですかねこれ。初心者なのでいまいち正しさがわかりません。Pythoner(Pythonist?)てきには気持ち悪い書き方だったりするかしら。
おとなしくオブジェクトクラス自作しちゃった方がソースが綺麗だったかもしれない……。後の課題にしましょう。
ちょっと動かしてみた感じだと形容動詞連体詞周りがヤバい。「大きな桃」だと連体詞判定、「大きい桃」だと名詞,形容動詞語幹になるのでこのあたりをパースして辞書に突っ込むのがはちゃめちゃに面倒臭そう。

形態素解析周りで「すもももももももものうち」をいっぱい見たせいで最強○×計画を聞きたくなり最強○×計画→ふぃぎゅ@メイト→巫女みこナースからニコニコ組曲に飛んでYoutubeの再生履歴がここだけ00年代。