こんにちは.研究開発室の牧野と北村です.研究開発室においてOperations Research (OR)のビジネス活用について研究を行っております.
さて,先日の2024年11月4日~7日にかけて第27回情報論的学習理論ワークショップ (IBIS2024)が大宮にて開催されました.そこで行われたポスターセッションにおいてフレクト研究開発室から1件のポスター発表をさせていただきました.そこで,本稿では我々の発表内容,IBISの様子などについてお伝えできればと思います.
IBISについて
情報論的学習理論ワークショップ(IBIS)は機械学習に関連した国内最大規模のワークショップです.今回は258件のポスター発表に加えて,様々な企画セッション,招待講演,ノーベル賞に関連した特別企画が行われました.特に甘利先生の特別講演は印象に残った方も多いのではないかと思います.
理論,学術寄りの発表が多いと聞いていましたが,応用に関する発表も多くある印象を個人的には受けました.また,昨今のLLMの台頭を念頭に人間とAIの関わり方,これからの社会について考えさせられるような企画もありました.
我々の発表について
ここで,我々のポスター発表の内容について紹介します.
発表の著者は牧野です. まず,我々がこのテーマに取り組んでいる背景,課題について簡単に説明します. ORの文脈では様々な場面で組合せ最適化問題が現れます. その際の代表的な解法として,混合整数計画問題 (MIP)として定式化した後にGurobiやSCIPなどの汎用ソルバーで求解することが挙げられます.汎用性があり,最適解を保証付きで求められるのがこの手法のメリットではありますが,問題の規模が大きくなると計算に時間がかかる,場合によっては現実的な時間で解くことができないといった問題点があります. そのような場合に候補に上がるのがヒューリスティクスと呼ばれる解法です. この解法では解の最適性の保証はありませんが,比較的短い計算時間で許容できる解を求めることができる場合があります.
ヒューリスティクスの難しい点として,それを作成するのにアルゴリズムに関する高度な知識と実装力に加えて,実際の問題に関する深い考察が必要になることがあります.フレクトでのソリューションにしていくことを考えた時に,工数や専門的な知識を持った人材の確保などの点で課題があると考えています.形式的な定式化と近年の発展が著しいGPUなどのアクセラレーターを使用してヒューリスティクスを作成できないか?ということが我々の課題意識としてあります.
幸いなことに,同じような課題感を持った人々が海外を中心に存在しており,研究が進めれらています. この分野はNeural Combinatorial Optimization (NCO)と呼ばれています. 詳細は以前の記事をご覧ください.
さて,今回のポスター発表の内容ですが,NCOの中でも代表的なencoder-decoderモデルによる手法(Kool et al., 2020)をInventory Routing Problem (IRP)と呼ばれる問題に適用したということになります. IRPにはいくつかのバリエーションがあるのですが,今回はArchetti et al., 2007で提案されたシンプルなモデルを扱っています.IRPでは位置に加えて時間も考慮する必要があるので,MIPで定式化した場合には変数の数が多くなる傾向があります.また,オンラインの問題設定もあり,強化学習のようなオンライン最適化の手法と相性が良いのでは?といったところが問題の選定の背景としてあります.実験結果についてはポスター内のTableを参照していただきたいのですが,計算時間は期待通りに短い一方で,ベースラインとして実装した汎用ソルバーの結果と比べると解の質が少し物足りない結果となりました.今後の課題として考察を続けていきたいと考えています.
印象深かったセッション
本節では北村から,特に印象に残ったセッションについて抜粋して概要を述べたいと思います.
企画セッション1 サイエンスと機械学習 『工学・理学研究への情報科学応用の課題と展望』
沓掛 健太朗先生による講演です.インフォマティクス応用研究について,概要から事例紹介まで幅広く解説していただきました.講演では,「いかにして課題を明確化し,情報科学の問題に帰着させるか?」といった問題設定や,「どのようにしてお互いの専門知識を取り入れると良いのか?」などのドメイン知識の取り入れ技術について扱われました.これらの問題はまだ教科書がないような領域であると述べられていました.
事例紹介では,半導体などの製造機器のインフォマティクス研究が扱われました.ベイズ最適化の結果を元に,ドメイン知識を活用してさらに次の研究の着想を得るといった,「最適化からのメカニズム解明」という新たな研究の流れについても紹介されていました.また,「対象が複雑」で「データが少ない」ような非常にspecificな領域にこそ,ものづくり産業における情報科学の需要があるのだということも述べられていました.
個人的に「実問題に情報科学を適用していくためにはどのような姿勢で挑めば良いのか」がより明確になった印象深い講演でした.
チュートリアル3 『反実仮想学習の基礎と実応用』
講師は齋藤 優太先生です.実務での応用を軸として,反実仮想学習に限らず,機械学習や数理最適化などの数理科学を社会に適用していくための指針となるようなチュートリアルでした.
講演では,世の中には本当は意思決定の問題なのに予測の問題として解かれてしまっている問題が多く存在すると述べられており,更には,意思決定の問題として解くために,「適切にKPIを定め,目的関数そして推定量を上手く設計できる人はほとんどいないのだ」ということも指摘されていました.
我々研究開発室としても,このように予測だけで終わらずに意思決定の問題としてアプローチしていくために,ORの手法を活用していくことが重要であると感じました.
なお,反実仮想(機械)学習について詳しく知りたい方は講演者の齋藤先生が書かれた反実仮想機械学習などをご参照いただければと思います.
所感
フレクト研究開発室として,そして個人としても機械学習の分野の学会で発表をするのは初めての試みでした.組織としては勿論ですが,個人としても貴重な経験をすることができたと思います. 発表の当日までは不安もあったのですが,現地では暖かな雰囲気の中で議論を行うことができました.運営委員会の皆様,当日に議論をしてくださった方々に感謝申し上げます.今後もフレクト研究開発室から学会などの場で継続的に発表ができるように邁進していきたいと思います.
最後に
最後までお読みいただきありがとうございます.フレクトでは今後もお客様にとって付加価値となるような新たな分野や技術に関して開拓を行っていきます.今後も新たな技術の情報や取り組みの進展がありましたら,引き続き記事などで紹介していく予定です.その際は是非ご覧いただければと思います.今回ご紹介したような取り組み以外にも,フレクトでは業務上の意思決定に関したその他のAIやORの研究を行っております.ご興味がありましたら是非ご相談ください.