北海道大学 大学院情報科学研究院

卒業生とその進路

リザーバコンピューティングによる機械の力学系の獲得と異常検知応用に関する研究


小島 聖奈

2023 年度 卒 ／修士（情報科学）

修士論文の概要

本研究は、時系列データ処理において注目されているリザーバコンピューティングの実用化に関するものである。リザーバコンピューティングは、再帰的な結合を持つニューラルネットワークの一形態であり、その軽量な学習手法が特徴である。従来、この手法はシミュレーションや標準的なベンチマークタスクにおける性能評価に主に使用されてきた。しかし、本研究では、実環境のデータを用いて機械の動的システムを正確にモデル化することに挑戦した。

実環境の力学系を獲得する上での主な課題は、ノイズや不規則性を伴うデータの頻繁な発生である。これらの複雑なデータに対してリザーバコンピューティングを適用する試みは、これまで十分に検討されていなかった。特に、ノイズや他の不規則な要因が混在する環境では、機械の力学系を正確に捉えることが極めて困難である。そこで本研究では、一般的な機械学習で用いられる前処理手法や、リザーバコンピューティング独自の記憶容量を維持するためのリサンプリングを適用し、力学系の獲得を試みた。

その結果、構築した3種類の力学系全てにおいて、リザーバコンピューティングによる力学系の獲得が可能であることを実証した。さらに、実環境におけるノイズの影響や特定のシナリオでの予測性能、異常検知能力に関しても評価を行った。一定のノイズに対して耐性を持ち、特定のシナリオでも十分な予測が可能であることが確認された。また、異常状態を発生させた際の予測評価では、実測値と予測値の間に大きな誤差が発生し、これが異常検知への応用可能性を示唆した。

さらに、実用化に向けた課題として、安価なデバイスでのリザーバコンピューティングの実装が求められている。リザーバの重みのメモリ使用量は、その実装のボトルネックとなる。そこで、リザーバの重みを再利用する新たな手法を提案し、その結果、従来手法に比べてメモリ使用量を約60%削減しつつも、リザーバの性能を維持することに成功した。

学術論文

  1. Kojima S., Minagawa K., Saito T., Ando K., and Asai T., "Acquisition of physical kinetics of permanent magnet DC motor by reservoir computing," Nonlinear Theory and Its Applications, vol. E15-N, no. 4, pp. 899-909 (2024).

国際会議

  1. Minagawa K., Saito T., Kojima S., Ando K., and Asai T., "Out-of-distribution data detection using Bayesian convolutional neural network with variational inference," International Joint Conference on Neural Networks (IJCNN 2024), PACIFICO Yokohama, Yokohama, Japan (Jun. 30-Jul. 5, 2024).
  2. Minagawa K., Saito T., Kojima S., Ando K., and Asai T., "Out-of-distribution detection using Bayesian neural network toward hardware implementation," The 5th International Symposium on Neuromorphic AI Hardware, RIHGA Royal Hotel Kokura, Kitakyushu, Japan (Mar. 1-2, 2024).
  3. Kojima S., Minagawa K., Saito T., Ando K., and Asai T., "Acquisition of physical kinetics of machines by reservoir computing and its applications to anomaly detection," The 12th RIEC International Symposium on Brain Functions and Brain Computer, Research Institute of Electrical Communication, Tohoku University, Sendai, Japan (Feb. 27-28, 2024).
  4. Minagawa K., Saito T., Kojima S., Ando K., and Asai T., "Examination of data preprocessing for detection of out-of-distribution image data using Bayesian neural network," The 10th Anniversary Korea-Japan Joint Workshop on Complex Communication Sciences (KJCCS 2024), Kamenoi Hotel, Beppu, Japan (Jan. 29-31, 2024).

受賞

  1. Minagawa K., Saito T., Kojima S., Ando K., and Asai T., "Examination of data preprocessing for detection of out-of-distribution image data using Bayesian neural network," The 10th Anniversary Korea-Japan Joint Workshop on Complex Communication Sciences - Best Student Paper Award, Jan. 30, 2024.
  2. 小島 聖奈, "リザーバコンピューティングによる機械の力学系の獲得," 電子情報通信学会複雑コミュニケーションサイエンス研究会 - 2022年度若手研究奨励賞, Jun. 10, 2023.

国内学会

  1. 小島 聖奈, 皆川 昂輝, 齋藤 大成, 安藤 洸太, 浅井 哲也, "リザーバコンピューティングのハードウェア実装にむけたメモリ削減手法の検討," 電子情報通信学会複雑コミュニケーションサイエンス研究会（CCS）, 番屋の湯, (石狩), 2023年8月3-4日.
  2. 皆川 昂輝, 齋藤 大成, 小島 聖奈, 浅井 哲也, "ベイジアンニューラルネットワークによる分布外画像データ検出のための前処理検討," 電子情報通信学会複雑コミュニケーションサイエンス研究会（CCS）, 番屋の湯, (石狩), 2023年8月3-4日.
  3. 小島 聖奈, 皆川 昂輝, 齋藤 大成, 浅井 哲也, "リザーバコンピューティングを用いたFORCE学習による機械の力学系の獲得," 2023年電子情報通信学会NOLTAソサイエティ大会, 東京都市大学, (東京), 2023年6月10日.
  4. 皆川 昂輝, 齋藤 大成, 小島 聖奈, 浅井 哲也, "ベイジアンニューラルネットワークとCNNアンサンブルにおける未学習データと学習済みデータの分類性能評価," 電子情報通信学会複雑コミュニケーションサイエンス研究会, 北海道ルスツリゾートホテル&コンベンション, (北海道), 2023年3月26-27日.
  5. 小島 聖奈, 皆川 昂輝, 齋藤 大成, 浅井 哲也, "リザーバコンピューティングによる機械の力学系の獲得," 電子情報通信学会複雑コミュニケーションサイエンス研究会, 北海道ルスツリゾートホテル&コンベンション, (北海道), 2023年3月26-27日.

Copyright © 1999-2024 Tetsuya ASAI & Laboratories for Advanced LSI Engineering (LALSIE), Hokkaido University. All Rights Reserved.