LLMを学習時の教師にするLATTE:銀行取引系列の意味を軽量モデルへ移す
長い銀行取引履歴をLLMへ直接入力せず、統計要約から生成した文章と取引系列を対照学習でそろえるLATTEを、精度、推論速度、再現性から解説します。
Personal notes since 2020
技術や日々の試行錯誤を、あとから読み返せる形で残しています。
Latest
長い銀行取引履歴をLLMへ直接入力せず、統計要約から生成した文章と取引系列を対照学習でそろえるLATTEを、精度、推論速度、再現性から解説します。
Pinterestの広告推薦論文を題材に、LLMによる広告主予測、SFTとGRPO、Semantic ID、既存のretrieval・rankingへの統合、オンラインRoAS改善と制約を解説します。
EMNLP 2025のRARE論文をもとに、LLMが短い商用意図を生成し、転置インデックスから広告を引く仕組み、60ms以内の推論設計、オフライン評価と本番A/Bテストの読み方を解説します。