Community journal

The latest from the MySQL community

Ideas, releases, practical guides, and perspectives from the people building with MySQL.

Follow the feed
Showing entries 2621 to 2630 of 3189 « Previous | Next »
[MySQL]相互情報量(mutual information)についてのメモ3

色々試してみてたら,

共起語の各共起回数が少ない場合に相互情報量を使うのは

一つの手段としてアリなのかもとか思った.


例1:相互情報量のが意味がありそうな結果



例2:どっちもまぁまぁ


例3:共起語のが良い結果

[MySQL]相互情報量(mutual information)についてのメモ3

色々試してみてたら,

共起語の各共起回数が少ない場合に相互情報量を使うのは

一つの手段としてアリなのかもとか思った.


例1:相互情報量のが意味がありそうな結果



例2:どっちもまぁまぁ


例3:共起語のが良い結果

相互情報量(mutual information)についてのメモ3

色々試してみてたら,
共起語の各共起回数が少ない場合に相互情報量を使うのは
一つの手段としてアリなのかもとか思った.



例1:相互情報量のが意味がありそうな結果




例2:どっちもまぁまぁ



例3:共起語のが良い結果

[MySQL]相互情報量(mutual information)についてのメモ2

テスト結果をつらつら書いてると長くなりそうなので記事を分けた.


情報量にidf値を用いてやってみた.

単語Aが出たら単語Bも出るっていう確率は分子で行っているので,

分母はidfってゆー,対極的重み付けのスコアを使ってみる.

相互情報量 = log(
  (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度)
   / 
  (単語Aのidf値 * 単語Bのidf値)
)


発行したSQLは以下の通り.

select
  t1.id,
  t1.name,
  t2.id,
  t2.name,
  log(
    -- T1
    (
      -- 語の総数
      (select count(id) from terms as t_cnt)
      *
      -- AとBの共起回数
      (
        select
          count(term_id) as co_cnt
        from document_terms a
        join terms b
          on a.term_id = b.id
        where
          document_id in (
            select document_id …
[さらに読む]
[MySQL]相互情報量(mutual information)についてのメモ2

テスト結果をつらつら書いてると長くなりそうなので記事を分けた.


情報量にidf値を用いてやってみた.

単語Aが出たら単語Bも出るっていう確率は分子で行っているので,

分母はidfってゆー,対極的重み付けのスコアを使ってみる.

相互情報量 = log(
  (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度)
   / 
  (単語Aのidf値 * 単語Bのidf値)
)


発行したSQLは以下の通り.

select
  t1.id,
  t1.name,
  t2.id,
  t2.name,
  log(
    -- T1
    (
      -- 語の総数
      (select count(id) from terms as t_cnt)
      *
      -- AとBの共起回数
      (
        select
          count(term_id) as co_cnt
        from document_terms a
        join terms b
          on a.term_id = b.id
        where
          document_id in (
            select document_id …
[さらに読む]
相互情報量(mutual information)についてのメモ2

テスト結果をつらつら書いてると長くなりそうなので記事を分けた.


情報量にidf値を用いてやってみた.
単語Aが出たら単語Bも出るっていう確率は分子で行っているので,
分母はidfってゆー,対極的重み付けのスコアを使ってみる.


相互情報量 = log(
(全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度)
/
(単語Aのidf値 * 単語Bのidf値)
)


発行したSQLは以下の通り.

select
  t1.id,
  t1.name,
  t2.id,
  t2.name,
  log(
    -- T1
    (
      -- 語の総数
      (select count(id) from terms as t_cnt)
      *
      -- AとBの共起回数
      (
        select …
[さらに読む]
[MySQL]相互情報量(mutual information)についてのメモ

推薦の勉強の一環のメモです。


相互情報量とは、単語Aが出たら単語Bも文書Xに出るという

情報量の計算に使えそうな理論。

これをクラスタリングする際の指標に使えないかと模索中です。


数式は下記の通り。


数Aとか数Bが超苦手だったので、

解釈があっているのかアレなのですが、

この式をこんな風に解釈できるんじゃないかと考えてみました。

(正しい数式じゃないのでご注意ください)


相互情報量 = log(
  (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aの出現頻度 * 単語Bの出現頻度)
)


多分色々間違ってるような気もするけど。

で、作ったのが以下のSQL。 …

[さらに読む]
[MySQL]相互情報量(mutual information)についてのメモ

推薦の勉強の一環のメモです。


相互情報量とは、単語Aが出たら単語Bも文書Xに出るという

情報量の計算に使えそうな理論。

これをクラスタリングする際の指標に使えないかと模索中です。


数式は下記の通り。


数Aとか数Bが超苦手だったので、

解釈があっているのかアレなのですが、

この式をこんな風に解釈できるんじゃないかと考えてみました。

(正しい数式じゃないのでご注意ください)


相互情報量 = log(
  (全文書に出現した単語の総数 * 単語Aと単語Bの共起頻度) / (単語Aの出現頻度 * 単語Bの出現頻度)
)


多分色々間違ってるような気もするけど。

で、作ったのが以下のSQL。 …

[さらに読む]
相互情報量(mutual information)についてのメモ

推薦の勉強の一環のメモです。


相互情報量とは、単語Aが出たら単語Bも文書Xに出るという
情報量の計算に使えそうな理論。
これをクラスタリングする際の指標に使えないかと模索中です。


数式は下記の通り。


数Aとか数Bが超苦手だったので、
解釈があっているのかアレなのですが、
この式をこんな風に解釈できるんじゃないかと考えてみました。
(正しい数式じゃないのでご注意ください)



…
[さらに読む]
KOF2009 一日目



関西オープンソース2009
関西コミュニティ大決戦

開始しました。今年は参加者も少し少なめかな?セミナー数も例年より少なく感じました。Zen Cartでお世話になっているオビタスターさんに、Openbravo POSを教えてもらう。オープンソースのPOS!かっこいい。

木村自身は先日告知したとおり、東京と同じMySQL Workbenchネタをやりました。MyQueryのオチがあまりうけなくて残念。

私の前のコマでは、以前CLUB DB2でRoRについて語ってもらった大場さんがここでもRoRについて語ってらっしゃいました。