機械学習下準備〜MeCabで形態素解析〜

MeCabインストール

参考サイトはこちら:今更ながらPythonとMeCabで形態素解析してみた – イノベーション エンジニアブログ

$ brew install mecab-ipadic

$ mecab
すもももももももものうち
すもも 名詞,一般,*,*,*,*,すもも,スモモ,スモモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
の   助詞,連体化,*,*,*,*,の,ノ,ノ
うち  名詞,非自立,副詞可能,*,*,*,うち,ウチ,ウチ
EOS

すっもっもっもっももっもっ。
あとMeCabをPythonから使うために mecab-python3 も入れます。

$ pip install mecab-python3

$ python
Python 3.6.5 (default, Aug  6 2018, 11:02:37) 
[GCC 4.2.1 Compatible Apple LLVM 9.1.0 (clang-902.0.39.2)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import MeCab
>>> m = MeCab.Tagger()
>>> print(m.parse("すもももももももものうち"))
すもも 名詞,一般,*,*,*,*,すもも,スモモ,スモモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
も   助詞,係助詞,*,*,*,*,も,モ,モ
もも  名詞,一般,*,*,*,*,もも,モモ,モモ
の   助詞,連体化,*,*,*,*,の,ノ,ノ
うち  名詞,非自立,副詞可能,*,*,*,うち,ウチ,ウチ
EOS

参考サイトのソースをMeCabで書き直し

先人のリソースありがたやありがたや。
ちなみに途中からやりたかったのでMasterからコピーするのではなく途中のコミットからコピーしてます。→79b4b990da6220543208879551737ac31e6cddf0
一番困ったのはjanome.tokenizer.Tokenオブジェクトが無くなったことです。これにより t.surface とかのあたりが使えなくなり、かつMeCabの解析結果がStringだったのでなんかごにょごにょとパースするはめになりました。このあたりはjanomeの方が便利なんだなという印象。
Pythonの標準では複数文字を指定したsplitもできなかったのでreを使って下記のごとく処理しました。

[re.split('[\t,]',line) for line in re.split('[\n]',m.parse("すもももももももものうち"))]

"""結果"""
[
    ['すもも', '名詞', '一般', '*', '*', '*', '*', 'すもも', 'スモモ', 'スモモ'], 
    ['も', '助詞', '係助詞', '*', '*', '*', '*', 'も', 'モ', 'モ'], 
    ['もも', '名詞', '一般', '*', '*', '*', '*', 'もも', 'モモ', 'モモ'], 
    ['も', '助詞', '係助詞', '*', '*', '*', '*', 'も', 'モ', 'モ'], 
    ['もも', '名詞', '一般', '*', '*', '*', '*', 'もも', 'モモ', 'モモ'], 
    ['の', '助詞', '連体化', '*', '*', '*', '*', 'の', 'ノ', 'ノ'], 
    ['うち', '名詞', '非自立', '副詞可能', '*', '*', '*', 'うち', 'ウチ', 'ウチ'], 
    ['EOS'], 
    ['']
]

なんかEOSとか空行とかいらないものもありますがこの辺は手動でアレしましょう。

修正前(janome)

def analyze(text):
    """文字列textを形態素解析し、[(surface, parts)]の形にして返す。"""
    return [(t.surface, t.part_of_speech) for t in TOKENIZER.tokenize(text)]

修正後(MeCab)

def analyze(text):
    """文字列textを形態素解析し、[(surface, parts)]の形にして返す。"""
    tokens = [re.split('[\t,]',line) for line in re.split('[\n]',Dictionary.TAGGER.parse(text))]
    return [(t[0], ','.join([t[1], t[2], t[3], t[4]])) for t in tokens if len(t)==10]

ゴミを取り除くために if len(t)==10 とか書いてるんですけどどうなんですかねこれ。初心者なのでいまいち正しさがわかりません。Pythoner(Pythonist?)てきには気持ち悪い書き方だったりするかしら。
おとなしくオブジェクトクラス自作しちゃった方がソースが綺麗だったかもしれない……。後の課題にしましょう。
ちょっと動かしてみた感じだと形容動詞連体詞周りがヤバい。「大きな桃」だと連体詞判定、「大きい桃」だと名詞,形容動詞語幹になるのでこのあたりをパースして辞書に突っ込むのがはちゃめちゃに面倒臭そう。

形態素解析周りで「すもももももももものうち」をいっぱい見たせいで最強○×計画を聞きたくなり最強○×計画→ふぃぎゅ@メイト→巫女みこナースからニコニコ組曲に飛んでYoutubeの再生履歴がここだけ00年代。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です