こんにちは、私たちはnju_newbiewです。 私たちのチームは南京大学出身で、yy、cold rain、sf です。 グループには newbiew という名前の大物がいたようだが、それは偶然の一致だ. ここでは、この大物に与えた苦痛をお詫び申し上げます。

今週の優勝で、とても幸運でした。 実際、今週のチャンピオンは、私たちのAリストの最高のスコア0.101717は、実際には、複数のモデルの加重平均であり、シングルモデルの最高のスコアは、後のビッグバンよりも優れている、我々はモデルが比較的早く統合されたので、今週のチャンピオンは、より多くのと言うことができます。 

1、データ処理

決勝に進出すると、データ量が多くなり、ファイルの読み書きが遅くなり、メモリ不足になることがよくなります. 生データを簡単に処理し int8 で保存し、h5 形式でファイルを格納し、読み取りと書き込みが非常に高速になります。 次に、どのデータをトレーニングに使用するかについて説明します。 現在、私たちは全集でトレーニングを行っていますが、いくつかの異常データを削除し、データを少し見ると、これらの異常データを見つけると思います。

2、下の検証セット

      私は、誰もがオフラインで上昇し、オンラインでドロップする状況に遭遇していると信じています。 ラインの下の検証セットを構築するのは本当に難しいことですが、先週の週チャンピオンのThreeIdiotsと同じ意見で、テストセットは時系列関係に厳密に従って構築され、そうでなければ情報漏えいが起こりやすいです。 通常、27 日、28 日、29 日の 3 日間のパラメータまたはモデルのセットをテスト セットとして比較します。

3、特徴工学

      特徴のこの部分は私たちのショートボードともいえるが、今でもグループのみんなの言うtrickが分からない. 私たちの特性は、主にいくつかの基本的な統計であり、最高の単一モデルは、元の特性を40以上の次元で計算します。 グループ内で最も議論されたコンバージョン率については、グローバル統計、ウィンドウ統計、平滑化、平滑化を試してみましたが、あまり違いはありません。 現在採用しているコンバージョン率は クリック日以前のコンバージョン率を カウントしています が 出現回数が少なすぎるのは 単純で スピードが速く 複雑な手法に劣らず モデル内では コンバージョン率が重要でない可能性があるからです 次に、Word2vec や Doc2vec などのアイデアを使用して user や app で低次元ベクトルの特性を学習しましたが、実験結果は理想的ではなく、インストール リストの使用を断念しました。

4、モデル

先週の週チャンピオンのThree Idiotsと再び一致し、GBDTやFFMなどのモデルを使用して、オンラインGBDTがFFMよりも優れたパフォーマンスを示し、決勝は逆でした。 特徴工学に注目するのとは違い、私たちはほとんどの時間をモデルパラメータとモデル改善に取り組み(純粋に興味があり、それが正しいとは言わない)、最高のシングルモードはFFMモデルであり、wide&deepモデルも良い結果を持っています。 私たちの最近の取り組みは モデルのトレーニング効率の改善に 主に焦点が当てされています モデルのトレーニング速度はあまりにも重要で 特にstackingが必要な場合には 経験したと思います 最終週は、モデル融合の改善に主に焦点を当てるべきでしょう。

最後に 2 つの発言をすると、自分への励ましにもなります: 試合を楽しみとして、苦しめるのではなく、楽しんでください. 他の人のレース経験や関連論文を見る時間があり、コンテストの最終的な目的は学習です。

私はすべての良い結果をお祈りします。