Transformerニューラルネット産業現場応用の研究動向

セミナー趣旨

近年注目を浴びている生成AIであるGPTの基盤技術は革新的なニューラルネットである”Transformer”です。その自然な会話のカギは単語の時系列予測するTransformerを使った内部計算アルゴリズムにあります。
本セミナーでは，まずAI機械学習の入り口である「ニューラルネットとは？」から初めて，その時系列データや単語系列へ適用を学びます。そのうえで，大規模言語モデルの内部コアであるTransformerニューラルネットのベクトル行列計算の基礎を説明します。
そして，Transformerの言語応用にとどまらず画像や予測や制御といった産業現場応用への適用を目指す最先端研究の実例紹介し将来を展望します。

セミナープログラム

　1　はじめに
　　1.1　AI機械学習の位置づけ（教師有／無し学習，ニューラルネット，強化学習）
　　1.2　産業応用への適用現状（事例：欠陥画像と検査，切削音と工具寿命，他）
　　
　2　ニューラルネットの基礎
　　2.1　MLP型ディープラーニング　（ベクトル行列計算，活性化関数とは）事例：設備電力制御に適用・性能評価
　　2.2　系列型LSTM　（再帰型系列ニューラルネットの基礎原理）事例：突発事象予測に適用・性能評価

　3　言語機械学習の基礎
　　3.1　単語符号化（埋込みベクトル化，単語意味の演算，文脈意味分布）
　　3.2　生成AIの登場（大規模言語モデル：GPT・BERT）

　4　生成AIのTransformerニューラルネット
　　4.1　生成AIの技術基盤Transformer（Transformerの内部アーキテクチャ概要）
　　4.2　豊富な情報を与える単語位置ベクトル
　　4.3　単語間の関係性を抽出するQKV Attention機構
　　4.4　Transformer応用：自然言語から産業現場へ（自然言語応用のみならす系列データ処理の素質）

　5　Transformer産業応用の研究事例
　　5.1　画像処理（画像Patch系列による注意個所抽出。路面凍結，など）
　　5.2　系列予測（時系列変化点抽出の説明。気温変化，株価変化，ネジ緩み，など）
　　5.3　構造予測（AlfaFold2によるタンパク質構造生成予測）
　　5.4　ロボット（RT-2による汎用言語指示ロボット）

　6　産業への可能性と課題
　　6.1　Transformerと産業現場の相性　（産業現場データ収集困難さ，内部計算説明性）
　　6.2　展望

　7　まとめと質疑応答

セミナー講師

蜷川忠三（にながわちゅうぞう）氏　 　　　
N研究所株式会社　代表取締役社長（博士（工学））　兼任　岐阜大学　工学部　電気電子情報工学科　客員教授
 ＜略歴＞
　1988年　University of Washington大学院　修士課程修了（電気工学専攻）
　2007年　三菱重工業株式会社　技監
　2012年　岐阜大学　工学部　電気電子工学科　教授
　2023年　技術コンサル会社　N研究所株式会社設立　代表取締役社長
＜専門＞
  　機械学習，電力工学，制御工学
＜主な著書＞
  　「AI時系列制御」（コロナ社，2022年），「分散型ビル空調IoT・AI制御」（技報法堂出版，2021年）、他、和洋専門書7冊

セミナー受講料

お1人様受講の場合　53,900円[税込]／1名
1口でお申込の場合　66,000円[税込]／1口（3名まで受講可能）
受講申込ページで2～3名を同時に申し込んだ場合、自動的に1口申し込みと致します。

受講について

• 本セミナーの受講にあたっての推奨環境は「Zoom」に依存しますので、ご自分の環境が対応しているか、お申込み前にZoomのテストミーティング（http://zoom.us/test）にアクセスできることをご確認下さい。
• インターネット経由でのライブ中継ため、回線状態などにより、画像や音声が乱れる場合があります。講義の中断、さらには、再接続後の再開もありますが、予めご了承ください。
• 受講中の録音・撮影等は固くお断りいたします。