お知らせ
2019/03/20 学習用データ、評価用データ1の棚画像の向きを、棚の上部が上になるよう揃えました。
2019/03/25 学習用データのアノテーションの銘柄コード(category)に一部不備がありましたので修正しました。
2019/03/25 チュートリアルを公開しました。
2019/04/12 学習用データのアノテーション(train_040.json,train_060.json)の銘柄コードに一部不備がありましたので修正しました。
2019/04/15 学習用データのアノテーションの銘柄コード、マスタ画像データ(3147,3242,4238)、マスタテキストデータの名称(2088,4533)に不備がありましたので修正しました。
2019/04/17 FAQを掲載しました。
2019/05/10 表彰式・懇親会開催の案内をスケジュールに掲載しました。
2019/06/08 ステージ2ページを公開しました。



本コンペティションは2部ステージ制となります。ステージ1終了までに、最終選択した投稿結果の学習済モデルを学習済モデル提出ページから提出ください。詳細については「コンペティションの流れ」をご確認ください。





背景

~加熱式たばこ等の登場によるたばこ銘柄増~
近年の技術革新により、従来の紙巻たばこに加え、新しいスタイルのたばこ製品として、加熱式たばこ等が登場してきており、銘柄が増えております。

~棚画像情報からたばこ商品を検出する機械学習アルゴリズムを提案いただきます~
販売店舗の方への売り場支援の一環として、棚割りのご提案を行うにあたり、棚における各銘柄の配置確認を行っています。本確認をより早く正確に行う上で、新たな機械学習アルゴリズムを募集します。



タスク説明

たばこの銘柄1つ1つを正面から撮影した画像データ(以下「マスタ画像」)と、たばこが陳列した棚を撮影した画像データ(以下「棚画像」)から、たばこの矩形領域を、bounding box = (x1, y1, x2, y2) として割り当て、銘柄の1つを付与していただきます。画像の左上を原点(0,0)とし、オブジェクト領域の左上の座標(x1, y1)、右下の座標(x2, y2)の4つを指定することで、bounding box は表現されます。

棚画像の数:(学習用)184画像、(評価用)109画像
マスタ画像数(=銘柄数):223画像

なお、検出対象は、以下のとおりとします。
・棚に置かれているたばこ(テーブルに積まれているものは対象外)
・パッケージ全体が写っているたばこ(画像の端で見切れているものは対象外)
・プレート上端より上の領域



コンペティションの流れ

本コンペティションは、ステージを2つに分けて開催します。

<ステージ1>

ステージ1では、モデル作成に取り組んでいただき、評価用データ1への予測結果を投稿ください。また、ステージ1終了までに、最終選択した投稿結果の学習済モデルも提出いただく必要があります。

・モデルを複数回提出した場合は、最後に提出したモデルが最終選択した投稿結果の学習済モデルと見なされます。
・ステージ1終了後は学習済モデルが提出できなくなりますので、コンペ終了間近の際は十分にご注意ください。
・特にモデルのサイズが大きい場合は提出に時間がかかりますので、余裕を持ったご対応をお勧めします。


<ステージ2>

ステージ1で作成いただいたモデルの汎化性能評価の為に、ステージ1終了後、ステージ2専用ページと新しい評価用データ2を公開します。ステージ1で最終選択した投稿結果を出力するモデル(ステージ1と同一のモデル)に評価用データ2を入力し、同一の推論方法を用いて出力された予測結果を、"一度だけ"投稿してください。この評価用データ2に対する予測精度により、最終順位を決定します。

・ステージ1で提出した学習済モデルを、ステージ2で変更・改変をしてはいけません。
・ステージ1で提出した学習済モデルと最終提出物に含まれる学習済モデルが同一でなければ失格となります。
・乱数の取り扱いには十分に注意頂き、事前に学習済モデル及び予測結果の同一性を確認いただく等のご対応をお願いします。
・ステージ2のスコアボードは、コンペ実施中はダミースコアの"0"が表示され、コンペ終了時に自動的に最終評価に切り替わります。



SIGNATE コンペティション参加規約への追加事項
・2019年3月18日時点で20歳以上であること。
・JTグループ社員の参加は可能ですが、入賞対象外となります。


In order to participate in the Competitions, you are required to agree to these Terms, in addition to the Terms of Use of SIGNATE.JP Site (hereinafter referred to as the "Terms of Use"). You should participate in the Competition after reading carefully and agreeing to these Terms. If you agree, these Terms, the matters that are added to these Terms as "additional matters", the Terms of Use and other terms and conditions that you have agreed to shall be binding on the relevant parties as integral documents.


Article 1. Definitions

1.For the purpose of these Terms, the following terms shall be defined as follows:

(1)"Site" means the website "SIGNATE (https://signate.jp)" on which the Competitions are posted.
(2)"Competition" means any competition on AI development or data analysis on the Site as held by the Host.
(3)"Host" is the host(s) of the Competitions. The Host may be SIGNATE, Inc. (hereinafter referred to as the "Company") or the Company’s client companies, affiliated companies, schools or organizations, etc. (hereinafter referred to as the "Client(s)").
(4)"Participant(s)" means the member(s) who participate in a Competition.
(5)"Submissions" means, collectively, the analysis and prediction results and reports, etc. as submitted in the Competition.
(6)"Final Submissions" means the Submissions that are specified by a Participant on the prescribed page in the Site by the time of completion of a Competition.
(7)"Winner Candidate" means the Participant who has received a notice from the Company that he/she is nominated as a winner candidate.
(8)"Submissions for Final Judgment" means the analysis and prediction model and learning data, etc. as submitted by a Winner Candidate pursuant to the instructions of the Company.
(9)"Final Judgment" means the acceptance inspection and judgment, including reproducibility verification, by the Company for the Final Submissions and Submissions for Final Judgment of a Winner Candidate.
(10)"Winner" means the Winner Candidate who is informed by the Company that he/she has won a prize.
2.Unless otherwise defined in these Terms, the terms used in these Terms that are defined in the Terms of Use shall have the same meaning as defined in the Terms of Use.

Article 2. Competition

1.A member who desires to participate in a Competition shall be required to agree to these Terms and to satisfy the conditions for participation as specified in each such Competition. Any person who is not a member shall not participate in any Competition.
2.Participants shall participate in each Competition in the manner as advised by the Company and shall be obligated to comply with the rules as prescribed in each Competition.
3.Participants may submit the Submissions for the assignment of each Competition during the period of such Competition and submit a proposal on the method of solving the problem to the Host by the end of the period of the said Competition.
4.Participants may submit the Final Submissions in the form specified in each Competition by the time specified by the said Competition.
5.The Final Submissions as submitted shall be evaluated by the evaluation method as specified in each Competition and the final rank order shall be determined based on such evaluation.
6.Any Participant may, as a general rule, check the evaluation results of the Participant him/herself and each of the other Participants on the Site for the Submissions that may be evaluated quantitatively.
7.Participants shall be liable or otherwise responsible for their own Submissions, including their legality.
8.Participants shall not submit any Submissions that have no direct relationship to each Competition.
9.Unless otherwise provided for, Participants shall not directly communicate to, consult with, make a request to, solicit or take any other actions with the Host in respect of the matters related to a Competition during the period of the said Competition.
10.Any Participant who has uncertainty or questions about any Competition shall make sure to contact the Company or its designee through the procedures prescribed by the Company as posted on the Site.
11.The Company shall not be obligated to pay any remuneration or other consideration other than those prescribed in the following Article for any act of the Participants as prescribed in paragraphs hereof.

Article 3. Reward and Vesting of Rights

1.Unless otherwise provided for, any Participant shall satisfy the following requirements in order to be entitled to receive a reward in any Competition that offers a reward:

(1)To be a winner;
(2)To agree to transfer to the Host and the relevant transferee of rights in such Competition all transferable rights, such as copyrights, rights to obtain patents and know-how, etc. in and to all analysis and prediction results, reports, written explanations on analysis and prediction model, algorism, source code and reproduction method, etc., and the Submissions contained in the Final Submissions and Submissions for Final Judgment (including the rights as prescribed in Article 27 and Article 28 of the Copyright Act and the rights to obtain patents; hereinafter referred to as the "Rights");
(3)To agree that any relevant transferee of rights exclusively has the right to use the know-how contained in the Final Submissions and Submissions for Final Judgment for its own business and other purpose without any restriction;
(4)To agree not to exercise moral rights to the Rights against the relevant transferee of rights;
(5)To enter into an agreement for the transfer of the Rights with the relevant eligible transferee of rights, including the agreement to the matter in the preceding three (3) items and other reasonable provisions;
(6)To have the personal identity of such Participant verified by the Company.
(7)Not to breach any provision of these Terms and the Terms of Use.

2.Any Winner Candidate shall, after having received a notice from the Company that he/she is nominated as a winner candidate, submit the Submissions for Final Judgment on or before the designated date and communicate the matters requiring confirmation or response in relation to the Final Submissions and the Submissions for Final Judgment to the Company on or before the designated date, in accordance with the instructions of the Company. The Company shall carry out the final judgment based on such matters requiring confirmation or response. If the Company receives no confirmation or response satisfactory to the Company on or before the designated date, the Company may exclude such Winner Candidate from the subject of the final judgment.
3.If the Company considers that the Final Submissions or Submissions for Final Judgment need to be amended or modified, or there occur any additional matters requiring confirmation, in the course of the final judgment, any Winner Candidate shall take action or make response in relation to the matters that require amendment, etc. or the detailed information on the matters requiring confirmation, on or before the designated date in accordance with the instructions of the Company. If the Company receives no action or response satisfactory to the Company on or before the designated date, the Company may exclude such Winner Candidate from the final judgment.
4.The Company shall determine the Winner through the final judgment and inform the Winner to that effect.

Article 4. Confidentiality

1.Participants shall treat any information, data, or content transmitted through the service where they receive from the Company in relation to each Competition (hereinafter referred to as the "Company-Provided Information") as confidential information and shall not disclose the same to any third party and use the same for any purpose other than for such Competition and purpose specified by the Company separately; provided, however, that the confidential information shall not include any information that falls under any of the following items:

(1)Information that is known to the public at the time of the disclosure;
(2)Information that is already possessed by the Participant at the time of the disclosure (only in the case where such Participant may demonstrate such fact by reasonable means);
(3)Information that becomes known to the public without the fault of the Participant after the disclosure;
(4)Information that is independently developed by the Participant without reference to any information as disclosed (except for those Submissions of the person eligible for a prize which are evaluated); or
(5)Information that is rightfully disclosed by any third party having a right to do so without the obligations of confidentiality (only in the case where such Participant may demonstrate such fact by reasonable means).

2.Any Participant shall delete or return to the Company the Company-Provided Information immediately after the completion of each Competition.
3.Any Winner shall handle his/her Final Submissions and Submissions for Final Judgment in the same manner as prescribed in paragraph 1 hereof.
4.If there is any separate arrangement in relation to the confidential information in each Competition, the provisions of such arrangement shall prevail over the provisions of these Terms.
5.If any dispute occurs between the Host or other third party and the Company due to the breach by any Participant of the provisions of this Article and such other party makes any claim against the Company, such Participant shall compensate for any damage, loss, expenses (including, but not limited to, attorneys’ fees), lost profits and lost revenues, etc. incurred by the Company.
6.The provisions of this Article shall survive the termination of the relevant Competition or the Participant’s completion of the procedures for withdrawal from the service of the Company, with respect to the Company-Provided Information and the Winner’s Final Submissions and Submissions for Final Judgment for a period of five (5) years thereafter.

Article 5. Prohibited Acts of Participants

1.The Company shall prohibit Participants from engaging in any of the following acts in any Competition:

(1)An act of cracking, cheating, spoofing other misconduct;
(2)An act of directly communicating to, consulting with, making a request to, soliciting or responding to solicitation or other activities to other Participants or the Host (other than the Company) without the involvement of the Company;
(3)Any profitmaking activities using the Competition (including solicitation or scouting activities, and use for a third party in educational business, etc.) without the prior approval of the Company in writing or any other manner specified by the Company;
(4)Transfer, offering as collateral or other disposition of the status as a Participant or the rights or obligations as a Participant (except with the prior written consent of the Company); and
(5)Any other act in breach of the Terms of Use.

2.If the Company deems that a Participant engages in any of the prohibited acts as prescribed in the preceding paragraph, the Company may, without prior notice to the Participant, disqualify the Participant from the Competition in which the Participant participates, temporarily suspend the Participant from using the service of the Company, withdraw the Participant’s membership, claim damages from the Participant or take any other measures deemed necessary by the Company.

Article 6. Change, Discontinuation or Termination of Provision of Services under These Terms

1.The Company may change or temporarily suspend the services provided by the Company under these Terms without prior notice to the members.
2.Upon one (1) month prior notice to the members, the Company may suspend for a long period of time or terminate the services provided by the Company under these Terms.
3.The Company shall not be liable for any results or damage arising from the measures taken by the Company under this Article.

Article 7. Modification of Terms

1.The Company may modify, add or delete any provisions of these Terms from time to time without the approval of the members.

Enforced on April 1, 2018
Last updated on January 18, 2019

評価関数
・評価関数「F1Score@IoU=0.5」を使用します。
・評価値は0~1の値をとり、精度が高いほど大きな値となります。

評価関数の詳細
 ①各画像に対して、予測領域と正解領域(矩形)の重なり(IoU)が0.5 を超えた場合、領域が検出できたと判定
 ②各画像に対する「F1Score」を計算
 ③評価対象の全画像の③の平均を計算 




最終順位の決定
1. ステージ2で評価された評価指標を元に最終順位を決定します。(※ステージ2のスコアボードは、コンペ実施中はダミースコアの"0"が表示され、コンペ終了時に自動的に最終評価に切り替わります) 
2. ステージ2における評価指標が、タイ(同値)の場合は、ステージ1における評価指標が高い方が上位となります。また、ステージ1もタイの場合は、ステージ1で早い日時でご応募いただいた参加者を上位とします。
3. 入賞候補者の方には順位確定の際に下記の情報を提出していただきます。
・予測モデルのソースコード
・学習済モデル
・予測結果の再現の為の手順書(前処理部分、学習部分、予測部分が分かるよう明記)
・実行環境(OSのバージョン、使用ソフトウェア及び解析手法) 
・乱数シード(Random Forest等の乱数を利用した手法の場合)
・各説明変数の予測モデルへの寄与度(寄与度の算出が可能な手法を用いた場合)
・データの解釈、工夫点、モデリングから得られる示唆等
4. 再現性検証期間中、入賞候補者及び、その提出モデルが下記いずれかに該当する場合は懸賞の獲得資格を失います。
・事務局からの手続き上の連絡・要求に対して指定された期限内に対応しない
・参加条件やルールを満たしていない
・モデルの予測結果を再現できない
・ステージ1で提出された学習済モデルと、最終審査用提出物に含まれる学習済モデルが異なる
・新しい棚画像に対して予測できない

参加資格
・2019年3月18日時点で20歳以上であること。
・JTグループ社員の参加は可能ですが、入賞対象外となります。

心構え

・企業課題の達成、社会問題の解決、研究成果の共有等、大前提となる目的に合わせ、実用性を意識したアプローチで臨んでください。

システムの利用
・利用アカウントは1人につき1つまで。ただし、アカウントが1つという条件の下であれば、チームでの参加も可能とします。

情報の取り扱い
・他の参加者と本コンペの予測に関連するデータ・ソースコードを共有する行為は禁止とします。

データの利用
・手動でラベル付けした結果を提出することは禁止します。
・学習データのラベルを書き換えてモデルを学習することは禁止します。ただし、学習用データを画像処理手法により自動で水増しして学習用データとして利用することは可能です。
・配布するデータ以外のデータを用いてモデルを学習することは禁止します。
・画像内のたばこのパッケージにプリントされた文字情報を、推論の手がかりとして利用することも可能とします。
・Google Cloud Vision APIなどのAPIの使用は禁止します。ただし、 オープンソース(ソースが明確で、誰でもアクセスでき、かつ商用ではない) の学習済モデルやライブラリ(tensorflow, chainer, keras, etc)は使用可能です。学習済モデルを使用する際は、ソース(論文のリンク等)を明記してください。

実装方法
・モデルの学習に利用するツールは、オープン且つ無料なもの(python, R 等)に限定します。
配布する学習用の棚画像の中に存在しない銘柄に対してもマスタ画像があれば予測ができるよう、マスタ画像と予測対象の棚画像の両方を入力として、棚のどこに何のたばこがあるかを出力するモデルを実装してください(下図参照)。棚画像だけを入力として予測するようなアルゴリズムは禁止です。
 ※本ルールは、実運用を想定した際に、新発売の銘柄に対して、それが陳列した大量の棚画像を用意して再学習することなく、マスタ画像さえ撮影すれば予測できるようにすることを目的としています。

・ソースコードは、以下のように、前処理、学習、予測、の3つに分け、それぞれを実行すれば処理が進むように実装すること。

①preprocess
 提供データを読み込み、データに前処理を施し、モデルに入力が可能な状態でファイル出力するモジュール。
 get_train_dataやget_test_dataのように、学習用と評価用を分けて前処理を行う関数を定義。
②train
 ①で作成したファイルを読み込み、モデルを学習するモジュール。
 学習済モデルや特徴量、クロスバリデーションの評価結果を出力する関数等を定義。
③predict
 ①で作成したテストデータ及び②で作成したモデルを読み込み、予測結果をファイルとして出力するモジュール。


Q. マスタ画像に対してアノテーションを付けることは可能ですか?
A. 何らかの画像処理アルゴリズムによって自動的に付けることは可能ですが、手動で付けることは禁止となります。


Q. 学習用アノテーションデータに対して画像処理に応じて自動的に書き換えることは可能ですか?
A. 可能です。


Q. stage2でもstage1と同じマスタ画像を使用する予定でしょうか?
A. はい。仮に違うマスタ画像を使用したとしても推論が可能なようにアルゴリズムを作成してください。


Q. Imagenet等で事前学習することは禁止されていますか?
A. はい。ただし、オープンソース(ソースが明確で、誰でもアクセスでき、かつ商用ではない) の学習済モデルは使用可能です。学習済モデルを使用する際は、ソース(論文のリンク等)を明記してください。


Q. 銘柄分類を行う際、学習用の棚画像データの切り抜きを利用することは可能でしょうか?
A. 可能です。利用する際はマスタ画像も必ず併用するようにしてください。また、棚画像データ内に存在しない場合でも推論可能なようにアルゴリズムを作成してください。