色々試してみてたら,
共起語の各共起回数が少ない場合に相互情報量を使うのは
一つの手段としてアリなのかもとか思った.
例1:相互情報量のが意味がありそうな結果
例2:どっちもまぁまぁ
例3:共起語のが良い結果
Ideas, releases, practical guides, and perspectives from the people building with MySQL.
テスト結果をつらつら書いてると長くなりそうなので記事を分けた.
情報量にidf値を用いてやってみた.
単語Aが出たら単語Bも出るっていう確率は分子で行っているので,
分母はidfってゆー,対極的重み付けのスコアを使ってみる.
相互情報量 = log( (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aのidf値 * 単語Bのidf値) )
発行したSQLは以下の通り.
select
t1.id,
t1.name,
t2.id,
t2.name,
log(
-- T1
(
-- 語の総数
(select count(id) from terms as t_cnt)
*
-- AとBの共起回数
(
select
count(term_id) as co_cnt
from document_terms a
join terms b
on a.term_id = b.id
where
document_id in (
select document_id …[さらに読む]
テスト結果をつらつら書いてると長くなりそうなので記事を分けた.
情報量にidf値を用いてやってみた.
単語Aが出たら単語Bも出るっていう確率は分子で行っているので,
分母はidfってゆー,対極的重み付けのスコアを使ってみる.
相互情報量 = log( (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aのidf値 * 単語Bのidf値) )
発行したSQLは以下の通り.
select
t1.id,
t1.name,
t2.id,
t2.name,
log(
-- T1
(
-- 語の総数
(select count(id) from terms as t_cnt)
*
-- AとBの共起回数
(
select
count(term_id) as co_cnt
from document_terms a
join terms b
on a.term_id = b.id
where
document_id in (
select document_id …[さらに読む]
テスト結果をつらつら書いてると長くなりそうなので記事を分けた.
情報量にidf値を用いてやってみた.
単語Aが出たら単語Bも出るっていう確率は分子で行っているので,
分母はidfってゆー,対極的重み付けのスコアを使ってみる.
相互情報量 = log(
(全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度)
/
(単語Aのidf値 * 単語Bのidf値)
)
発行したSQLは以下の通り.
select
t1.id,
t1.name,
t2.id,
t2.name,
log(
-- T1
(
-- 語の総数
(select count(id) from terms as t_cnt)
*
-- AとBの共起回数
(
select …[さらに読む]
推薦の勉強の一環のメモです。
相互情報量とは、単語Aが出たら単語Bも文書Xに出るという
情報量の計算に使えそうな理論。
これをクラスタリングする際の指標に使えないかと模索中です。
数式は下記の通り。
数Aとか数Bが超苦手だったので、
解釈があっているのかアレなのですが、
この式をこんな風に解釈できるんじゃないかと考えてみました。
(正しい数式じゃないのでご注意ください)
相互情報量 = log( (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aの出現頻度 * 単語Bの出現頻度) )
多分色々間違ってるような気もするけど。
で、作ったのが以下のSQL。 …
[さらに読む]推薦の勉強の一環のメモです。
相互情報量とは、単語Aが出たら単語Bも文書Xに出るという
情報量の計算に使えそうな理論。
これをクラスタリングする際の指標に使えないかと模索中です。
数式は下記の通り。
数Aとか数Bが超苦手だったので、
解釈があっているのかアレなのですが、
この式をこんな風に解釈できるんじゃないかと考えてみました。
(正しい数式じゃないのでご注意ください)
相互情報量 = log( (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aの出現頻度 * 単語Bの出現頻度) )
多分色々間違ってるような気もするけど。
で、作ったのが以下のSQL。 …
[さらに読む]
関西オープンソース2009
関西コミュニティ大決戦
開始しました。今年は参加者も少し少なめかな?セミナー数も例年より少なく感じました。Zen
Cartでお世話になっているオビタスターさんに、Openbravo POSを教えてもらう。オープンソースのPOS!かっこいい。
木村自身は先日告知したとおり、東京と同じMySQL
Workbenchネタをやりました。MyQueryのオチがあまりうけなくて残念。
私の前のコマでは、以前CLUB
DB2でRoRについて語ってもらった大場さんがここでもRoRについて語ってらっしゃいました。