テスト結果をつらつら書いてると長くなりそうなので記事を分けた.
情報量にidf値を用いてやってみた.
単語Aが出たら単語Bも出るっていう確率は分子で行っているので,
分母はidfってゆー,対極的重み付けのスコアを使ってみる.
相互情報量 = log(
(全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度)
/
(単語Aのidf値 * 単語Bのidf値)
)
発行したSQLは以下の通り.
select
t1.id,
t1.name,
t2.id,
t2.name,
log(
-- T1
(
-- 語の総数
(select count(id) from terms as t_cnt)
*
-- AとBの共起回数
(
select …[さらに読む]