背景

近年、ディープラーニングをはじめとするAIを用いたデータ解析技術の発達に伴い、AIを用いて、正確な気象状況の把握や高精度の予測を実現しようという取り組みが本格化してきています。各地点、各高度において、刻一刻と蓄積される膨大な気象データはAIと相性が良く、AIの活用によって、予測精度の向上や今まで難しかった予測の実現が期待されています。

また、気象データをビックデータの一部とし、他のデータと組み合わせて分析することで、流通や農業、金融など、様々な分野における課題解決へ応用する取り組みも始まっています。数ある気象データの中でも、衛星データは、地上観測器の設置が難しい海上や山岳地帯、観測器のない国や地域のデータも一様に取得できる上、ひまわり8号に代表されるように、近年、観測性能が飛躍的に向上していることから、その有効活用が特に期待されているデータの一つです。

現在の気象予測は、物理方程式に基づく気象予測モデルを用いることが一般的なため、衛星雲画像データを用い、画像解析技術によって未来の雲画像を予測する今回のコンペティションは、気象業界にとって非常に革新的なチャレンジです。

以上を踏まえ、本コンペティションでは、これまでとは異なる新たなアプローチ方法で天気予報の可能性にチャレンジしていただき、未来の雲画像を予測するアルゴリズムを募集いたします。


タスク説明

気象衛星ひまわり8号により撮影された過去96時間の日本全域の雲画像と、対応する気象解析データを使って未来の雲の変化を予測し、向こう24時間の雲画像を生成するアルゴリズムを作成していただきます。

雲画像は配布した雲画像と同じ緯度経度の範囲で1時間毎に作成できることが必須要件となりますが、評価のためご提出いただく雲画像は本州付近に範囲を絞った6・12・18・24時間後の雲画像となります。

タスクの説明

データは3年分をご提供します。2016年・2017年の2年間を学習期間とし、学習にはこの期間のデータを使用して下さい。

2018年の1年間は評価期間に設定します。評価期間ではおよそ1週間毎にウインドウを50個に分割しており、各ウインドウの頭4日分(96時間分)を入力として、翌1日分(24時間分)を1時間毎に予測します。


提出ファイルは6・12・18・24時間後の予測雲画像とします。具体的な推論対象日時はCSVファイルにまとめましたので、データのダウンロードページより『評価期間の詳細日時情報 (inference_term.csv)』をご参照下さい。

また提出ファイルの領域(=評価領域)は本州付近に絞っていただきます。具体的な範囲は以下の図に示した通り、左上端の座標を(0, 0)として、(130, 40)から縦420ピクセル・横340ピクセルの範囲になります。切り取り方法は、チュートリアルでもご紹介しています。

評価領域の説明

実際の提出ファイルは、画像ファイルそのものではなく、256階調の画素値を以下のフォーマットでCSV形式で作成し投稿して下さい。

1. 評価対象時刻の予測画像を用意します。具体的な時刻は『評価期間の詳細日時情報 (inference_term.csv)』ファイルの「Evaluation_06hr, Evaluation_12hr, Evaluation_18hr, Evaluation_24hr」カラムを参照して下さい。

2. 評価領域に合わせて切り取った縦420ピクセル・横340ピクセルのデータを、そのままの形で縦方向に日時の古い方から順番に結合して下さい。

3. 0列目に0〜83999番までの通し番号をつけて下さい。

4. ヘッダなしの、84000行・341列のCSVファイルとして出力して下さい。応募用サンプルファイル (sample_submit.csv) もご参照下さい。

提出ファイルのフォーマット


提供データ概要

分析用データとして、以下が与えられます。

データ概要

※ 各データはコンペティション開催中1日に3回だけダウンロードできます。
※ データのダウンロードの際、実際にダウンロードが始まるまで数分の待ち時間がある場合があります。
※ データの詳細については、サイドメニューの「データ詳細」をご参照下さい。
※ ファイルの詳細についてはデータのダウンロードページをご参照下さい。

評価関数

・評価計算は全200枚の予測画像について、1ピクセルごとに正解画像との誤差を計算します。
・評価関数は「Mean Absolute Error(MAE:平均絶対誤差)」を使用します。
・評価値は0以上の値をとり、精度が高いほど小さな値となります。
・全200枚の予測画像の全ピクセルに、n = 200枚 x 縦420 x 横340 = 28,560,000番までの通し番号をつけた時、評価関数の数式は以下のようになります。

評価関数

(1マスが画像の1ピクセルを表し、数字は通し番号を表す)


最終順位の決定
チャレンジ中の評価(暫定評価)は評価用データセットの一部で評価し、チャレンジ終了後の評価(最終評価)は評価用データセットの残りの部分で評価します。
リーダーボードはチャレンジ終了後時に自動的に最終評価に切り替わり、それを元に最終順位を決定します。このため、チャレンジ中とチャレンジ終了後では順位が大きく変動する場合もあります。

システムの利用
・1日3回まで投稿が可能です。
・1参加者につき1アカウントが必要です。1人で複数アカウントを利用、1アカウントを複数人で共有することは禁止です。
・チームでの参加はできません。

情報の取り扱い
・本コンペティション参加者が、自身で開発したアルゴリズム及びその他本コンペティションへの参加に関連して作成した資料等を自身のSNSやブログ等で一般公開することについては、公開時に本コンペティションの参加に関連して作成したものであることを明記する場合においては、何ら制限しません。
・ただし、本コンペのフォーラム以外で公開した際には、全ての参加者が閲覧できるよう、フォーラムにその旨(リンク等含む)明記してください。

データやオープンソースの利用
・配布するデータ以外のデータを用いたモデルの学習、および推論・予測をすることは禁止します。
・配布したデータであっても、予測対象の日時より未来のデータを使用したモデルの学習、および推論・予測は禁止します。
・Google Cloud Vision APIなどのAPIの使用は禁止します。ただし、 オープンソース(ソースが明確で、誰でもアクセスでき、かつ商用ではない) の学習済モデルやライブラリ(tensorflow, chainer, keras, etc)は使用可能です。学習済モデルを使用する際は、ソース(論文のリンク等)を明記してください。
・オープンソースであっても、気象の数値予報モデルの使用は禁止します(WRF, MPAS, NCEP/GFSなど)。

実装方法
・配布した衛星画像と同じ緯度経度の範囲で、24時間先まで1時間毎に予測できることが必須要件です。

衛星画像について

静止気象衛星ひまわり8号が観測した赤外画像を使用します。

赤外画像は地表面・雲・大気から放射される赤外線を観測して温度を推定(輝度温度)し、低い温度を白く、高い温度を黒く表現して作られます。一般に高い高度にある雲ほど白く明るく表現され、低い高度の雲は暗く表現されるため、地表との区別が難しくなります。
今回配布するデータは輝度温度から256階調のPNG画像に変換したものになります。

なお衛星画像は1時間ごとにありますが、ファイルが欠損している時間があります。またファイルがあっても中身のデータが一部欠損している場合があります。詳しくはチュートリアルもご参照下さい。


気象データについて

本コンペティションで配布する気象データは、地球大気を3次元で格子状に区切り、その各点における気象要素をコンピュータで数値解析したデータで、GPV(格子点値)と呼ばれます。1つのファイルは、1つの気象要素・1つの高度・1つの対象時刻における2次元水平面のGPVとなります。

データフォーマットはgzip圧縮されたバイナリデータで、1グリッドあたり4バイトの単精度浮動小数点データとなっています。またバイトオーダーはリトルエンディアンになります。格子点は縦168行・横128列となっており、値は北西端から南東端への順番で並んでいます。まず0行目の値128個が西から東の順で並び、その次に2行目・3行目…167行目と続きます。Pythonによるバイナリデータの読み込みについては、チュートリアルもご参照下さい。

気象データは3時間ごとにあります。ファイルに欠損はありませんが、元データの制約で中身に欠損箇所があります。有効な値のある範囲は『行は2〜153行目・列は8列目以降』となっています(0を最初の行・列として表記しています)。欠損箇所は0(ゼロ)で埋めています。


等圧面について

気象分野では高さ方向の軸を気圧で取ることがあり、ある気圧の高さの平面を等圧面と呼びます

テレビの天気コーナーなどで見かける地上天気図は、海抜0mを基準として気圧が等しい線=等圧線が描かれています。気圧が低いところが低気圧、高いところが高気圧となります。

これに対して気象予報士が使う上空の天気図は特定の気圧(例えば850hPaなど)を基準としており、気圧が等しい高度の線=等高線が描かれます。この場合も、その気圧の平面=等圧面において高度が低いところが低気圧、高度が高いところが高気圧となります。

等圧面の説明


気象の分野では慣例的に850hPa, 700hPa, 500hPa, 300hPaの天気図を使います。これに飛行機が飛ぶ高さの200hPaを加え、5層の等圧面データを提供します。各気圧面とおおよその高度の対応表を掲載します。

代表的な等圧面

単位について、Pa(パスカル)は圧力を表す単位で、100倍を表すh(ヘクト)を付けたhPa(ヘクトパスカル)が気圧の単位として用いられます。海抜0mにおける標準的な気圧はおよそ1013hPaとなります。


地上の気象データについて

地表面近くの気象データです。厳密な高さは要素によって異なります。

気象要素 要素名 高度名 (例)ファイル名 解説
海面気圧 PRMSL msl PRMSL.msl.3.2018101503.gz 海抜0mにおける気圧です。テレビなどで見る天気図の気圧は海面気圧になります。単位はhPaです。
気温 TMP 1p5m TMP.1p5m.3.2018101503.gz 地上1.5mにおける気温です。単位はK(ケルビン)です。
湿度 RH 1p5m RH.1p5m.3.2018101503.gz 地上1.5mにおける相対湿度です。単位は%です。
東西風 UGRD 10m UGRD.10m.3.2018101503.gz 地上10mにおける、風の東西方向成分です。西風(西から東に向かって吹く風)がプラスの値となります。単位はm/sです。
南北風 VGRD 10m VGRD.10m.3.2018101503.gz 地上10mにおける、風の南北方向成分です。南風(南から北に向かって吹く風)がプラスの値となります。単位はm/sです。


気象分野では風の表現として風向・風速で表す場合もありますが、今回は東西風・南北風での配布となります。詳しくはチュートリアルもご参照下さい。


上空の気象データについて

850hPa, 700hPa, 500hPa, 300hPa, 200hPaの5層の等圧面データです。200hPaの湿度のみありませんが、それ以外は等圧面による要素の違いはありません。以下850hPa等圧面を例にとって記述します。

気象要素 要素名 高度名 (例)ファイル名 解説
高度 HGT 850 HGT.850.3.2018101503.gz 等圧面における高度です。地形図の等高線を思い浮かべてもらえれば良いです。単位はm(メートル)です。ジオポテンシャル高度とも呼びます。
気温 TMP 850 TMP.850.3.2018101503.gz 等圧面における気温です。単位はK(ケルビン)です。
湿度 RH 850 RH.850.3.2018101503.gz 等圧面における相対湿度です。単位は%です。元データの関係で、200hPaの湿度はありません。
東西風 UGRD 850 UGRD.850.3.2018101503.gz 等圧面における風の東西方向成分です。西風(西から東に向かって吹く風)がプラスの値となります。単位はm/sです。
南北風 VGRD 850 VGRD.850.3.2018101503.gz 等圧面における風の風の南北方向成分です。南風(南から北に向かって吹く風)がプラスの値となります。単位はm/sです。
鉛直流 VVEL 850 VVEL.850.3.2018101503.gz 等圧面における鉛直方向の流れです。単位はPa/sです。先述したように高さ方向の軸を気圧で取っているので、上昇流は気圧の低い方向に向かう流れとなりマイナスの値を持ちます。逆に下降流はプラスの値となります。

各データについて、元コンペページのチュートリアルで一部を可視化しています。よろしければご参照下さい。

Disclosure policy

As a general rule, in accordance with Article 4, Paragraph 1 of the terms of participation, diclosing any contents such as insights and deliverables transmitted through the information or data provided by our company in relation to this competition is not permitted, however, only after the completion of this competition and for non-commercial purposes, it will be possible to disclose the contents within the score of the table below
Model *1
Public
Analysis results *2
Public
Public : Posting to social media sites, blogs and source repositories, and citing to papers
Restricted : Using in a limited range from research, education to seminars, where many unspecified people cannot access
*1 Execution unit source code and learned models
*2 The insights obtained using the information and data provided, or the solutions including scripts and processed data such as summary statistics

※Notes

・SOTA challenge は参加者毎に終了日が異なるため、参加規約に同意いただいた後であれば公開可能です。
・本コンペのフォーラム以外で公開する際は、本コンペの参加に関連して作成したものであることを明記してください。
・本コンペのフォーラム以外で公開した際は、全ての参加者が閲覧できるよう、フォーラムにその旨(リンク等含む)明記してください。

▼本コンペティションにおける特別規約
・本コンペティションで配布するデータは、コンペティション終了後に削除いただく必要はありません。ただし、本コンペティションへの参加を目的とする場合に限り利用できるものとします。
・本コンペティション参加者が、自身で開発したアルゴリズム及びその他本コンペティションへの参加に関連して作成した資料等を自身のSNSやブログ等で一般公開することについては、公開時に本コンペティションの参加に関連して作成したものであることを明記する場合においては、何ら制限しません。ただし、本コンペのフォーラム以外で公開した際には、全ての参加者が閲覧できるよう、フォーラムにその旨(リンク等含む)明記してください。
・本特別規約と、本コンペティション参加規約とに競合があった場合は、本特別規約が優先されます。



In order to participate in the Competition, you are required to agree to these Terms, in addition to the Terms of Use of SIGNATE.JP Site (hereinafter referred to as the “Terms of Use”). You should participate in the Competition after reading carefully and agreeing to these Terms. If you agree, these Terms, the matters that are added to these Terms as "additional matters", the Terms of Use and other terms and conditions that you have agreed to shall be binding on the relevant parties as integral documents.


Article 1. Definitions

1.For the purpose of these Terms, the following terms shall be defined as follows:

(1)"Site" means the website "SIGNATE (https://signate.jp)” on which the Competitions are posted.
(2)"Competition" means any competition on AI development or data analysis on the Site as held by the Host.
(3)"Host" is the host(s) of the Competitions. The Host may be SIGNATE, Inc. (hereinafter referred to as the “Company”) or the Company’s client companies, affiliated companies, schools or organizations, etc. (hereinafter referred to as the “Client(s)”).
(4)"Participant(s)" means the member(s) who participate in a Competition.
(5)"Submissions" means, collectively, the analysis and prediction results and reports, etc. as submitted in the Competition.
(6)"Final Submissions" means the Submissions that are specified by a Participant on the prescribed page in the Site by the time of completion of a Competition.
(7)"Winner Candidate" means the Participant who has received a notice from the Company that he/she is nominated as a winner candidate.
(8)"Submissions for Final Judgment" means the analysis and prediction model and learning data, etc. as submitted by a Winner Candidate pursuant to the instructions of the Company.
(9)"Final Judgment" means the acceptance inspection and judgment, including reproducibility verification, by the Company for the Final Submissions and Submissions for Final Judgment of a Winner Candidate.
(10)"Winner" means the Winner Candidate who is informed by the Company that he/she has won a prize.
2.Unless otherwise defined in these Terms, the terms used in these Terms that are defined in the Terms of Use shall have the same meaning as defined in the Terms of Use.

Article 2. Competition

1.A member who desires to participate in a Competition shall be required to agree to these Terms and to satisfy the conditions for participation as specified in each such Competition. Any person who is not a member shall not participate in any Competition.
2.Participants shall participate in each Competition in the manner as advised by the Company and shall be obligated to comply with the rules as prescribed in each Competition.
3.Participants may submit the Submissions for the assignment of each Competition during the period of such Competition and submit a proposal on the method of solving the problem to the Host by the end of the period of the said Competition.
4.Participants may submit the Final Submissions in the form specified in each Competition by the time specified by the said Competition.
5.The Final Submissions as submitted shall be evaluated by the evaluation method as specified in each Competition and the final rank order shall be determined based on such evaluation.
6.Any Participant may, as a general rule, check the evaluation results of the Participant him/herself and each of the other Participants on the Site for the Submissions that may be evaluated quantitatively.
7.Participants shall be liable or otherwise responsible for their own Submissions, including their legality.
8.Participants shall not submit any Submissions that have no direct relationship to each Competition.
9.Unless otherwise provided for, Participants shall not directly communicate to, consult with, make a request to, solicit or take any other actions with the Host in respect of the matters related to a Competition during the period of the said Competition.
10.Any Participant who has uncertainty or questions about any Competition shall make sure to contact the Company or its designee through the procedures prescribed by the Company as posted on the Site.
11.The Company shall not be obligated to pay any remuneration or other consideration other than those prescribed in the following Article for any act of the Participants as prescribed in paragraphs hereof.

Article 3 Reward and Vesting of Rights

1.Unless otherwise provided for, any Participant shall satisfy the following requirements in order to be entitled to receive a reward in any Competition that offers a reward:

(1)To be a winner;
(2)To agree to transfer to the Host and the relevant transferee of rights in such Competition all transferable rights, such as copyrights, rights to obtain patents and know-how, etc. in and to all analysis and prediction results, reports, analysis and prediction model, algorithm, source code and documentations for the model reproducibility, etc., and the Submissions contained in the Final Submissions and Submissions for Final Judgment (including the rights as prescribed in Article 27 and Article 28 of the Copyright Act and the rights to obtain patents; hereinafter referred to as the "Rights");
(3)To agree that any relevant transferee of rights exclusively has the right to use the know-how contained in the Final Submissions and Submissions for Final Judgment for its own business and other purpose without any restriction;
(4)To agree not to exercise moral rights to the Rights against the relevant transferee of rights;
(5)To enter into an agreement for the transfer of the Rights with the relevant eligible transferee of rights, including the agreement to the matter in the preceding three (3) items and other reasonable provisions;
(6)To have the personal identity of such Participant verified by the Company.
(7)Not to breach any provision of these Terms and the Terms of Use.

2.Any Winner Candidate shall, after having received a notice from the Company that he/she is nominated as a winner candidate, submit the Submissions for Final Judgment on or before the designated date and communicate the matters requiring confirmation or response in relation to the Final Submissions and the Submissions for Final Judgment to the Company on or before the designated date, in accordance with the instructions of the Company. The Company shall carry out the final judgment based on such matters requiring confirmation or response. If the Company receives no confirmation or response satisfactory to the Company on or before the designated date, the Company may exclude such Winner Candidate from the subject of the final judgment.
3.If the Company considers that the Final Submissions or Submissions for Final Judgment need to be amended or modified, or there occur any additional matters requiring confirmation, in the course of the final judgment, any Winner Candidate shall take action or make response in relation to the matters that require amendment, etc. or the detailed information on the matters requiring confirmation, on or before the designated date in accordance with the instructions of the Company. If the Company receives no action or response satisfactory to the Company on or before the designated date, the Company may exclude such Winner Candidate from the final judgment.
4.The Company shall determine the Winner through the final judgment and inform the Winner to that effect.

Article 4 Confidentiality

1.Participants shall treat any information, data, or such contents as insights and deliverables transmitted through the service where they receive from the Company in relation to each Competition (hereinafter referred to as the "Company-Provided Information") as confidential information and shall not disclose the same to any third party and use the same for any purpose other than for such Competition and purpose specified by the Company separately; provided, however, that the confidential information shall not include any information that falls under any of the following items:

(1)Information that is known to the public at the time of the disclosure;
(2)Information that is already possessed by the Participant at the time of the disclosure (only in the case where such Participant may demonstrate such fact by reasonable means);
(3)Information that becomes known to the public without the fault of the Participant after the disclosure;
(4)Information that is independently developed by the Participant without reference to any information as disclosed (except for those Submissions of the person eligible for a prize which are evaluated); or
(5)Information that is rightfully disclosed by any third party having a right to do so without the obligations of confidentiality (only in the case where such Participant may demonstrate such fact by reasonable means).

2.Any Participant shall delete or return to the Company the Company-Provided Information immediately after the completion of each Competition.
3.Any Winner shall handle his/her Final Submissions and Submissions for Final Judgment in the same manner as prescribed in paragraph 1 hereof.
4.If there is any separate arrangement in relation to the confidential information in each Competition, the provisions of such arrangement shall prevail over the provisions of these Terms.
5.If any dispute occurs between the Host or other third party and the Company due to the breach by any Participant of the provisions of this Article and such other party makes any claim against the Company, such Participant shall compensate for any damage, loss, expenses (including, but not limited to, attorneys’ fees), lost profits and lost revenues, etc. incurred by the Company.
6.The provisions of this Article shall survive the termination of the relevant Competition or the Participant’s completion of the procedures for withdrawal from the service of the Company, with respect to the Company-Provided Information and the Winner’s Final Submissions and Submissions for Final Judgment for a period of five (5) years thereafter.

Article 5 Prohibited Acts of Participants

1.The Company shall prohibit Participants from engaging in any of the following acts in any Competition:

(1)An act of cracking, cheating, spoofing other misconduct;
(2)An act of directly communicating to, consulting with, making a request to, soliciting or responding to solicitation or other activities to other Participants or the Host (other than the Company) without the involvement of the Company;
(3)Any profitmaking activities using the Competition (including solicitation or scouting activities, and use for a third party in educational business, etc.) without the prior approval of the Company in writing or any other manner specified by the Company;
(4)Transfer, offering as collateral or other disposition of the status as a Participant or the rights or obligations as a Participant (except with the prior written consent of the Company); and
(5)Any other act in breach of the Terms of Use.

2.If the Company deems that a Participant engages in any of the prohibited acts as prescribed in the preceding paragraph, the Company may, without prior notice to the Participant, disqualify the Participant from the Competition in which the Participant participates, temporarily suspend the Participant from using the service of the Company, withdraw the Participant’s membership, claim damages from the Participant or take any other measures deemed necessary by the Company.

Article 6. Change, Discontinuation or Termination of Provision of Services under These Terms

1.The Company may change or temporarily suspend the services provided by the Company under these Terms without prior notice to the members.
2.Upon one (1) month prior notice to the members, the Company may suspend for a long period of time or terminate the services provided by the Company under these Terms.
3.The Company shall not be liable for any results or damage arising from the measures taken by the Company under this Article.

Article 7 Modification of Terms

1.The Company may modify, add or delete any provisions of these Terms from time to time without the approval of the members.

Enforced on April 1, 2018
Last updated on January 18, 2019