JP6966395B2 - 最適化システム及び最適化方法 - Google Patents
最適化システム及び最適化方法 Download PDFInfo
- Publication number
- JP6966395B2 JP6966395B2 JP2018156620A JP2018156620A JP6966395B2 JP 6966395 B2 JP6966395 B2 JP 6966395B2 JP 2018156620 A JP2018156620 A JP 2018156620A JP 2018156620 A JP2018156620 A JP 2018156620A JP 6966395 B2 JP6966395 B2 JP 6966395B2
- Authority
- JP
- Japan
- Prior art keywords
- node
- value
- variable
- calculated
- optimization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0499—Feedforward networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Operations Research (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
100 ノード
200 プロセッサ
201 メモリ
202 ネットワークインタフェース
210 制御モジュール
211 学習モジュール
212 ADMM演算モジュール
213 目的関数値算出モジュール
220 ノード接続情報
221 履歴情報
Claims (10)
- プロセッサ、前記プロセッサに接続されるメモリ、及び前記プロセッサに接続されるネットワークインタフェースを有する複数のノードから構成される対象システムを最適化する最適化システムであって、
前記複数のノードの各々は、
交互方向乗数法を用いて、前記複数のノードの各々を制御するパラメータを表す決定変数を変数とする目的関数及び制約関数により与えられる第一最適化問題の解として前記決定変数の最適値を算出する演算処理部と、
前記決定変数の値及び前記目的関数の値から構成される学習データを用いた学習処理によって構築された演算モデルに基づいて、前記決定変数の値の入力を受け付け、前記目的関数の値を算出する関数値算出部と、
前記演算処理部によって算出された前記決定変数の最適値に基づいて前記ノードを制御する制御部と、を有し、
前記演算処理部は、
任意の前記決定変数の値を前記関数値算出部に入力し、前記関数値算出部によって算出された前記目的関数の値及び前記任意の決定変数の値を、前記第一最適化問題の双対変換によって、双対変数を変数とする関数及び前記目的関数により与えられる第二最適化問題に代入することによって前記双対変数の値を算出する処理を、前記双対変数の値が所定の条件を満たすまで繰り返し実行し、
前記ネットワークインタフェースを介して、他のノードによって算出された前記双対変数の値を取得して、前記メモリに格納し、
自ノード及び前記他のノードが算出した前記双対変数の値に基づいて、前記自ノードの前記決定変数の最適値を算出して、前記メモリに格納することを特徴とする最適化システム。 - 請求項1に記載の最適化システムであって、
前記複数のノードの各々は、前記演算モデルを構築する学習部を有し、
前記複数のノードの各々は、前記関数値算出部によって算出された前記目的関数の値及び前記決定変数の最適値から構成される履歴データを蓄積し、
前記学習部は、前記履歴データを前記学習データとして用いた学習処理を実行することによって前記演算モデルを構築することを特徴とする最適化システム。 - 請求項2に記載の最適化システムであって、
前記演算モデルは、ニューラルネットワークであることを特徴とする最適化システム。 - 請求項2に記載の最適化システムであって、
前記演算処理部は、前記自ノードと相互作用するノードにアクセスするための情報を格納するノード接続情報を管理し、
前記対象システムに新たに追加される新規ノードの前記制御部は、
前記自ノードと相互作用するノードを決定し、
前記決定されたノードに接続要求を送信し、
前記決定されたノードにアクセスするための情報を取得することによって前記ノード接続情報を生成し、
前記決定されたノードから前記履歴データを取得し、
前記新規ノードの前記学習部は、前記決定されたノードから取得した前記履歴データを用いた学習処理を実行することによって前記演算モデルを構築し、
前記接続要求を受信したノードは、前記ノード接続情報に前記新規ノードにアクセスするための情報を追加することを特徴とする最適化システム。 - 請求項4に記載の最適化システムであって、
前記新規ノードの前記制御部は、
前記決定されたノードとの間の相互作用の強さに基づいて、前記決定されたノードから取得する前記履歴データのデータ量を算出し、
前記算出された履歴データのデータ量を含む取得要求を、前記決定されたノードに送信することを特徴とする最適化システム。 - 複数のノードから構成される対象システムにおける最適化方法であって、
前記ノードは、
プロセッサ、前記プロセッサに接続されるメモリ、及び前記プロセッサに接続されるネットワークインタフェースを有し、
交互方向乗数法を用いて、前記複数のノードの各々を制御するパラメータを表す決定変数を変数とする目的関数及び制約関数により与えられる第一最適化問題の解として前記決定変数の最適値を算出する演算処理部と、
前記決定変数の値及び前記目的関数の値から構成される学習データを用いた学習処理によって構築された演算モデルに基づいて、前記決定変数の値の入力を受け付け、前記目的関数の値を算出する関数値算出部と、
前記演算処理部によって算出された前記決定変数の最適値に基づいて前記ノードを制御する制御部と、を有し、
前記最適化方法は、
前記演算処理部が、任意の前記決定変数の値を前記関数値算出部に入力し、前記関数値算出部によって算出された前記目的関数の値及び前記任意の決定変数の値を、前記第一最適化問題の双対変換によって、双対変数を変数とする関数及び前記目的関数により与えられる第二最適化問題に代入することによって前記双対変数の値を算出する処理を、前記双対変数の値が所定の条件を満たすまで繰り返し実行するステップと、
前記演算処理部が、前記ネットワークインタフェースを介して、他のノードによって算出された前記双対変数の値を取得して、前記メモリに格納するステップと、
前記演算処理部が、自ノード及び前記他のノードが算出した前記双対変数の値に基づいて、前記自ノードの前記決定変数の最適値を算出して、前記メモリに格納するステップと、を含むことを特徴とする最適化方法。 - 請求項6に記載の最適化方法であって、
前記複数のノードの各々は、前記演算モデルを構築する学習部を有し、
前記複数のノードの各々は、前記関数値算出部によって算出された前記目的関数の値及び前記決定変数の最適値から構成される履歴データを蓄積し、
前記最適化方法は、
前記学習部が、前記履歴データを前記学習データとして用いた学習処理を実行することによって前記演算モデルを構築するステップを含むことを特徴とする最適化方法。 - 請求項7に記載の最適化方法であって、
前記演算モデルは、ニューラルネットワークであることを特徴とする最適化方法。 - 請求項7に記載の最適化方法であって、
前記演算処理部は、前記自ノードと相互作用するノードにアクセスするための情報を格納するノード接続情報を管理し、
前記最適化方法は、
前記対象システムに新たに追加される新規ノードの前記制御部が、前記自ノードと相互作用するノードを決定するステップと、
前記新規ノードの前記制御部が、前記決定されたノードに接続要求を送信するステップと、
前記新規ノードの前記制御部が、前記決定されたノードにアクセスするための情報を取得することによって前記ノード接続情報を生成するステップと、
前記新規ノードの前記制御部が、前記決定されたノードから前記履歴データを取得するステップと、
前記新規ノードの前記学習部が、前記決定されたノードから取得した前記履歴データを用いた学習処理を実行することによって前記演算モデルを構築するステップと、
前記接続要求を受信したノードが、前記ノード接続情報に前記新規ノードにアクセスするための情報を追加するステップと、を含むことを特徴とする最適化方法。 - 請求項9に記載の最適化方法であって、
前記決定されたノードから前記履歴データを取得するステップは、
前記新規ノードの前記制御部が、前記決定されたノードとの間の相互作用の強さに基づいて、前記決定されたノードから取得する前記履歴データのデータ量を算出するステップと、
前記新規ノードの前記制御部が、前記算出された履歴データのデータ量を含む取得要求を、前記決定されたノードに送信するステップと、を含むことを特徴とする最適化方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018156620A JP6966395B2 (ja) | 2018-08-23 | 2018-08-23 | 最適化システム及び最適化方法 |
| US16/410,217 US11574165B2 (en) | 2018-08-23 | 2019-05-13 | Optimization system and optimization method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018156620A JP6966395B2 (ja) | 2018-08-23 | 2018-08-23 | 最適化システム及び最適化方法 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2020030691A JP2020030691A (ja) | 2020-02-27 |
| JP2020030691A5 JP2020030691A5 (ja) | 2020-12-03 |
| JP6966395B2 true JP6966395B2 (ja) | 2021-11-17 |
Family
ID=69583782
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018156620A Expired - Fee Related JP6966395B2 (ja) | 2018-08-23 | 2018-08-23 | 最適化システム及び最適化方法 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US11574165B2 (ja) |
| JP (1) | JP6966395B2 (ja) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021179778A (ja) * | 2020-05-13 | 2021-11-18 | 富士通株式会社 | 情報処理装置、求解方法、及び求解プログラム |
| CN111714124B (zh) * | 2020-06-18 | 2023-11-03 | 中国科学院深圳先进技术研究院 | 磁共振电影成像方法、装置、成像设备及存储介质 |
| KR102549144B1 (ko) * | 2021-01-18 | 2023-06-30 | 성균관대학교산학협력단 | 중단 없는 기계학습 클러스터 재구성 방법 |
| CN113028613B (zh) * | 2021-03-10 | 2022-03-25 | 浙江大学 | 基于快速admm的变风量系统分布式优化控制方法 |
| JP7522076B2 (ja) * | 2021-06-01 | 2024-07-24 | 日本電信電話株式会社 | 変数最適化システム |
Family Cites Families (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000301262A (ja) * | 1999-04-20 | 2000-10-31 | Hitachi Metals Ltd | 金型寿命の予測方法及びそれを用いた金型材の最適物性値の予測方法 |
| JP2008022166A (ja) * | 2006-07-11 | 2008-01-31 | Canon Inc | プロトコル差分学習結果転送システム、プロトコル差分学習結果転送方法、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体 |
| FR2905465B1 (fr) * | 2006-09-06 | 2008-12-05 | Michelin Soc Tech | Procede de determination d'un coefficient d'adherence maximal d'un pneumatique |
| JP5734820B2 (ja) * | 2011-12-05 | 2015-06-17 | 日本電信電話株式会社 | ランキング関数学習装置、方法、及びプログラム |
| EP3129922A4 (en) * | 2014-04-08 | 2017-07-05 | Microsoft Technology Licensing, LLC | Deep learning using alternating direction method of multipliers |
| US9804617B2 (en) | 2015-11-20 | 2017-10-31 | Texas Instruments Incorporated | Detecting an inductor coupled to a power control circuit |
| US10579926B2 (en) * | 2015-12-21 | 2020-03-03 | Disney Enterprises, Inc. | Method and device for multi-agent path planning |
| US10210398B2 (en) * | 2017-01-12 | 2019-02-19 | Mitsubishi Electric Research Laboratories, Inc. | Methods and systems for predicting flow of crowds from limited observations |
| CN107370802A (zh) * | 2017-07-10 | 2017-11-21 | 中国人民解放军国防科学技术大学 | 一种基于交替方向乘子法的协同存储调度方法 |
| US10740431B2 (en) * | 2017-11-13 | 2020-08-11 | Samsung Electronics Co., Ltd | Apparatus and method of five dimensional (5D) video stabilization with camera and gyroscope fusion |
| JP7007659B2 (ja) * | 2018-03-26 | 2022-01-24 | 日本電気株式会社 | 変換した凸最適化問題を使用するカーネル学習装置 |
| US11593634B2 (en) * | 2018-06-19 | 2023-02-28 | Adobe Inc. | Asynchronously training machine learning models across client devices for adaptive intelligence |
| US10795330B2 (en) * | 2018-07-30 | 2020-10-06 | Mitsubishi Electric Research Laboratories, Inc. | Symmetry alternating direction method of multipliers |
| US20200372363A1 (en) * | 2019-05-23 | 2020-11-26 | Kneron (Taiwan) Co., Ltd. | Method of Training Artificial Neural Network Using Sparse Connectivity Learning |
| US12361260B2 (en) * | 2020-10-28 | 2025-07-15 | Siemens Aktiengesellschaft | Determining at least one node |
-
2018
- 2018-08-23 JP JP2018156620A patent/JP6966395B2/ja not_active Expired - Fee Related
-
2019
- 2019-05-13 US US16/410,217 patent/US11574165B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US20200065652A1 (en) | 2020-02-27 |
| US11574165B2 (en) | 2023-02-07 |
| JP2020030691A (ja) | 2020-02-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6966395B2 (ja) | 最適化システム及び最適化方法 | |
| EP2742648B1 (en) | Network capacity management system and method | |
| Frank et al. | Optimal design of centralized computer networks | |
| US20140188451A1 (en) | Distributed processing management server, distributed system and distributed processing management method | |
| CN116389266A (zh) | 一种基于强化学习的数字孪生网络切片的方法和装置 | |
| CN110837981B (zh) | 一种调度与控制协同处理方法及相关设备 | |
| CN112365219B (zh) | 订单处理方法、装置、存储介质和电子设备 | |
| CN108921448B (zh) | 电能交易方法、装置、设备及存储介质 | |
| CN116720642A (zh) | 车辆与无人机协同配送的路径优化方法和系统 | |
| JP6689316B2 (ja) | 計算機システム及び学習制御方法 | |
| JP2009296211A (ja) | ネットワーク設計装置、ネットワーク設計方法およびネットワーク設計システム | |
| US7962650B2 (en) | Dynamic component placement in an event-driven component-oriented network data processing system | |
| CN113837382B (zh) | 图神经网络的训练方法和系统 | |
| CN106650025A (zh) | 多电源配电网辐射状拓扑约束判断方法与系统 | |
| Zhou et al. | Optimization of buffer allocation in unreliable production lines based on availability evaluation | |
| CN117519927A (zh) | 一种云际计算环境中的混合工作流调度方法、系统及介质 | |
| CN108536447B (zh) | 运维管理方法 | |
| KR102327029B1 (ko) | Poi 추천 방법 및 이를 수행하는 추천 제공 시스템 | |
| JP6758344B2 (ja) | 計算機システム及び学習制御方法 | |
| JP2019082857A (ja) | 計算機システム及びデータ処理の制御方法 | |
| JP2018022281A (ja) | 負荷分散制御プログラム、装置及び方法 | |
| JP6880774B2 (ja) | 通信システム、分散計算システム、ノード、情報共有方法及びプログラム | |
| CN113220414B (zh) | 一种基于改进贫富优化算法的云工作流调度方法 | |
| JP7283549B2 (ja) | ネットワーク設計装置、ネットワーク設計方法、及びプログラム | |
| JP2021033959A (ja) | 分散制御装置、情報処理システム、及び分散制御方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201020 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201020 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210831 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211005 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211021 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6966395 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |