トップページ ▶ 人工知能，実世界DB ▶ word vector, document vector の利用 ▶ gensim を使ってみる

サイトマップ

サイト内検索

用語集

アクセスログ

金子邦彦研究室

gensim を使ってみる

前準備

Python のインストール，pip と setuptools の更新，Python 開発環境

• Windows での Python のインストール，pip と setuptools の更新: 別ページで説明している．（あとのトラブルが起きにくいような手順を定めている）
• Ubuntu の場合:

  システム Python を使うことができる（その場合，Python のインストールは行わない）

  システム Python を用いるときは，pip, setuptools の更新は次のコマンドで行う．

  sudo apt -y update
  sudo apt -y install python3-pip python3-setuptools
  

  Ubuntu で，システム Python 以外の Python をインストールしたい場合は pyenv が便利である: 別ページで説明している．

Python の URL: http://www.python.org/

gensim パッケージのインストール

1. Windows で，コマンドプロンプトを管理者として実行する．
2. gensim をインストール

   python -m pip install -U gensim
   
3. インストール終了の確認

Word2Vec に関するサンプルプログラムを動かしてみる

次のページで公開されているプログラムを使用する．

https://radimrehurek.com/gensim/auto_examples/tutorials/run_word2vec.html#sphx-glr-auto-examples-tutorials-run-word2vec-py

上のページの注意書きにもある通り，2G バイトのファイルがダウンロードされます．

1. データのダウンロードと語彙の確認

   import gensim.downloader as api
   wv = api.load('word2vec-google-news-300')
   for i, word in enumerate(wv.vocab):
       if i == 10:
           break
       print(word)
   
2. 単語ベクトルの表示

   words = ['car', 'minivan', 'bicycle', 'airplane', 'cereal', 'communism']
   for w in words:
       print(wv[w])
   
3. 2単語間の類似度

   pairs = [
       ('car', 'minivan'),   # a minivan is a kind of car
       ('car', 'bicycle'),   # still a wheeled vehicle
       ('car', 'airplane'),  # ok, no wheels, but still a vehicle
       ('car', 'cereal'),    # ... and so on
       ('car', 'communism'),
   ]
   for w1, w2 in pairs:
       print('%r\t%r\t%.2f' % (w1, w2, wv.similarity(w1, w2)))
   
4. 単語の類似検索

   print(wv.most_similar(positive=['car', 'minivan'], topn=5))
   

   本サイトは金子邦彦研究室のWebページである．

   資料等の公開では，原則，「クリエイティブコモンズ BY NC SA」として公開するようにしている． PDFファイル，パワーポイントファイルなどには， 「クリエイティブコモンズ BY NC SA」を明記するとともに，ロゴを記載するようにしている（作業が間に合っていない分もあるのでご容赦ください）．

   公開している資料をご利用になる場合の，再配布の条件，剽窃の防止などについて，別ページで説明している． 再配布や資料改変の際には，そのページをご確認ください．

   サイトマップは，サイトマップのページをご覧下さい． 本サイト内の検索は，サイト内検索のページをご利用下さい．

   問い合わせ先： 金子邦彦（かねこ くにひこ）