メニュー

技術ブログ

Denso IT Lab.社員による技術情報の紹介

Denso IT Laboratory researcher's blog sites

数式

RSS

ページトップへ

Deep Learning 勉強会 Chapter 12

研究の方ではなかなか触る機会が無いのですが,知識だけは入れておきたいということで最近は社外の人達が主催しているDeep Learning勉強会に参加させてもらっています.

こちらでは輪講資料として以下のサイトで公開されている書籍のドラフト版を使用しています.

https://www.deeplearningbook.org/

なかなか知識不足という事もあって,細かい部分は分からなかったりするのですけど,12章は自然言語処理の話も含まれていることから私の担当となりました.広い内容をカバーしていることもあって私としても非常に勉強になりました.

勉強会の中では Chen and Goodman の資料は 1998 ではないかと書いたのですが,1999の物もありました.ということで,資料の方でのリファレンスの指摘は私の間違いです.

http://www2.denizyuret.com/ref/goodman/chen-goodman-99.pdf

使用した資料は以下で公開しております.十分に理解しているわけではないので,間違い等ありましたら教えて頂けると助かります.


PDF化してスライドシェアにアップしたところ,背景が非常に見づらくなってしまっているので,読む場合はダウンロードすることをお勧めします.

このエントリーをはてなブックマークに追加

DSIRNLP#7

DSIRNLP#7 で言語処理学会で発表した内容をもう少しわかりやすくして話をしました.

実は少し前に,別の場所でお話をさせて頂いていた資料の使い回しだったりもします.
NLP の専門家でない人にも伝わるようにということで,NLP の人だと説明が不要そうな単語にも簡単な説明を入れた資料だったのですが,ふたを開けてみるとその場では私が一番 NLP 歴が短く,ngram のふんわりとした説明をする時など正直つらかったです.

一方で今回の DSIRNLP では3割ほど NLP ではない人たちもいらしていたので,そういう方たちにも分かってもらえていれば良いなと思います.

ちなみに当社では,私は資料の分かりにくさで定評があり,今回は事前に非 NLPer の先輩方に事前に見てもらいました.
案の定ボコボコにされ,半分以上のスライドを作り直すはめになりました.


このエントリーをはてなブックマークに追加

gamglm

持橋先生が公開されているガンマ一般線形回帰で,部分文字列から単語の最大長を予測して形態素解析のラティスの圧縮をしています.
社内の勉強会で軽く紹介をしたのでそのスライドを公開します.


出力ラベルが連続値で,ラベル間に依存があるようなタスクでは非常に強力な手法です.
今回は単語の最大長を予測するという目的で使用しましたが,他にもいろいろなタスクに適用できるのではないかと思います.

このエントリーをはてなブックマークに追加