はじめに
Tensorflowを使う際にコードによって若干の違いが見られたのでその点を理解しておきたいと思います。
- run() と eval()
- InteractiveSession() と Session()
この2点に違いについて説明します。
run() vs eval()
例えば、以下のような簡単なMLPの実装の一部を見て下さい。
続きを読むLSTMについての説明が中心。 RNNのRがrecurrentの頭文字であることからも表されるように、RNNは同じネットワークを繰り返して前のネットワークで学習した結果の一部を後続のネットワークに渡すようなことをしています。それは前のネットワークの情報も現在のネットワークで使えるからいいよねって話なのですが、場合によっては直前の情報だけじゃなくて結構前のネットワークの情報も使いたいわけです。それをいい感じにやってくれるのがLSTMというわけです。以下の記事がこのあたりの説明をもっとちゃんと、詳しくしてくれてる記事です。 最近のアテンションというやつについても機会があればまとめたいところです。
続きを読むXGBoostは、Gradient Boostingのframeworkを提供してくれるライブラリです。Gradient Boostingは決定木のような弱学習機をアンサンブルする形態のモデルを生み出します。
高い精度が期待出来るためコンペでもよく登場するライブラリです。Deep Leaningより気軽に使えるところも嬉しいです。
続きを読む