[go: up one dir, main page]

TW202240476A - 模型訓練裝置、模型訓練方法及電腦可讀取媒體 - Google Patents

模型訓練裝置、模型訓練方法及電腦可讀取媒體 Download PDF

Info

Publication number
TW202240476A
TW202240476A TW110112661A TW110112661A TW202240476A TW 202240476 A TW202240476 A TW 202240476A TW 110112661 A TW110112661 A TW 110112661A TW 110112661 A TW110112661 A TW 110112661A TW 202240476 A TW202240476 A TW 202240476A
Authority
TW
Taiwan
Prior art keywords
detection model
sample
anomaly detection
anomaly
abnormal
Prior art date
Application number
TW110112661A
Other languages
English (en)
Other versions
TWI774312B (zh
Inventor
朱仕任
Original Assignee
和碩聯合科技股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 和碩聯合科技股份有限公司 filed Critical 和碩聯合科技股份有限公司
Priority to TW110112661A priority Critical patent/TWI774312B/zh
Priority to CN202210020871.4A priority patent/CN115249063A/zh
Priority to US17/669,050 priority patent/US20220327381A1/en
Application granted granted Critical
Publication of TWI774312B publication Critical patent/TWI774312B/zh
Publication of TW202240476A publication Critical patent/TW202240476A/zh

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/194—Calculation of difference between files
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Neurology (AREA)
  • Detection And Correction Of Errors (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Automatic Analysis And Handling Materials Therefor (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)

Abstract

本發明實施例提供一種模型訓練裝置、模型訓練方法及電腦可讀取媒體。模型訓練方法將被標記的異常樣本輸入至異常偵測模型。異常偵測模型是基於自編碼器架構。模型訓練方法藉由最大化異常樣本經異常偵測模型的輸出與異常樣本之間的重建誤差，以優化異常偵測模型。

Description

模型訓練裝置、模型訓練方法及電腦可讀取媒體
本發明是有關於一種機器學習(machine learning)技術，且特別是有關於一種模型訓練裝置、模型訓練方法及電腦可讀取媒體。
機器學習演算法可透過分析大量資料以推論這些資料的規律，從而對未知資料進行預測。近年來，機器學習已廣泛應用在影像辨識、自然語言處理、醫療診斷、錯誤偵測或語音辨識等領域上。其中，作為機器學習領域分支的人工神經網路(Artificial Neural Network，ANN)在近年來也快速發展，且在各領域都逐漸達到預期的功效。
值得注意的是，針對異常偵測，自編碼器(Autoencoder)是常見的人工神經網路，並可基於重建誤差(Reconstruction Error)進行異常偵測。圖1A是現有自編碼器-訓練階段的示意圖。請參照圖1A，在異常偵測模型的訓練階段過程中，視為正常樣本的原始輸入OI經編碼器E編碼成壓縮表現(compressed representation)CR，再經解碼器D解碼成重建輸入RI。一般而言，訓練階段都是為了讓異常偵測模型學習如何重建正常樣本。例如，重建誤差Er1越小代表正常樣本重建後的誤差較小。然而，由於異常偵測模型並沒有學習如何重建異常樣本，因此重建異常樣本後的重建誤差有可能會大於重建正常樣本的誤差，進而導致誤判。圖1B是現有自編碼器-測試階段的示意圖。請參照圖1B，，在測試階段中，視為異常樣本的原始輸入OI2經編碼器E編碼成壓縮表現CR2，再經解碼器D解碼成重建輸入RI2。此時，預期的重建誤差Er2應大於門檻值TH甚至明顯大於重建誤差Er1，但如圖1B中所示，可能發生重建誤差Er3小於或接近重建誤差Er1的情形。
有鑑於此，本發明實施例提供一種模型訓練裝置、模型訓練方法及電腦可讀取媒體，可改進異常樣本的誤判情形。
本發明實施例的模型訓練方法包括下列步驟：將被標記的異常樣本輸入至異常偵測模型。異常偵測模型是基於自編碼器架構。最大化異常樣本經異常偵測模型的輸出與異常樣本之間的重建誤差，以優化異常偵測模型。
本發明實施例的模型訓練裝置包括儲存器及處理器。儲存器儲存程式碼。處理器耦接儲存器。處理器載入且執行程式碼以經配置用以將被標記的異常樣本輸入至異常偵測模型，並最大化異常樣本經異常偵測模型的輸出與異常樣本之間的重建誤差，以優化異常偵測模型。異常偵測模型是基於自編碼器架構。
本發明實施例的電腦可讀取媒體，其係經由處理器載入程式碼執行下列步驟：將被標記的異常樣本輸入至異常偵測模型。異常偵測模型是基於自編碼器架構。最大化異常樣本經異常偵測模型的輸出與異常樣本之間的重建誤差，以優化異常偵測模型。
基於上述，依據本發明實施例的模型訓練裝置、模型訓練方法及電腦可讀取媒體，針對異常樣本的重建，最大化其重建誤差，並據以優化用於重建的異常偵測模型。藉此，可避免將異常樣本重建的結果過於接近原始輸入，進而減少誤判情形。
為讓本發明的上述特徵和優點能更明顯易懂，下文特舉實施例，並配合所附圖式作詳細說明如下。
圖2是依據本發明一實施例的模型訓練裝置100的元件方塊圖。請參照圖2，模型訓練裝置100包括儲存器110及處理器130。模型訓練裝置100可以是桌上型電腦、筆記型電腦、智慧型手機、平板電腦、伺服器、影像辨識裝置、醫療檢測儀器、光學檢測儀器或其他運算裝置。
儲存器110可以是任何型態的固定或可移動隨機存取記憶體(Radom Access Memory，RAM)、唯讀記憶體(Read Only Memory，ROM)、快閃記憶體(flash memory)、傳統硬碟(Hard Disk Drive，HDD)、固態硬碟(Solid-State Drive，SSD)或類似元件。在一實施例中，儲存器110用以記錄程式碼、軟體模組、組態配置、資料(例如，樣本、重建結果、神經網路架構相關參數、重建誤差等)或其他檔案，並待後文詳述其實施例。
處理器130耦接儲存器110，處理器130並可以是中央處理單元(Central Processing Unit，CPU)、圖形處理單元(Graphic Processing unit，GPU)，或是其他可程式化之一般用途或特殊用途的微處理器(Microprocessor)、數位信號處理器(Digital Signal Processor，DSP)、可程式化控制器、現場可程式化邏輯閘陣列(Field Programmable Gate Array，FPGA)、特殊應用積體電路(Application-Specific Integrated Circuit，ASIC)、神經網路加速器或其他類似元件或上述元件的組合。在一實施例中，處理器130用以執行模型訓練裝置100的所有或部份作業，且可載入並執行儲存器110所記錄的程式碼、軟體模組、檔案及資料。
下文中，將搭配模型訓練裝置100中的各項裝置、元件及/或模組說明本發明實施例所述之方法。本方法的各個流程可依照實施情形而隨之調整，且並不僅限於此。
圖3是依據本發明一實施例的模型訓練方法的流程圖。請參照圖3，處理器130將被標記的異常樣本輸入至異常偵測模型(步驟S310)。具體而言，異常偵測模型是基於自編碼器架構、由編碼器及解碼器組成的學習架構、或其他用於重建正常樣本或其他指定樣本的神經網路架構。另一方面，異常樣本不同於正常樣本。正常樣本是預期經異常偵測模型重建成相同或相似的正常樣本。而異常樣本是預期經異常偵測模型重建成不同於異常樣本或與異常樣本相差較大的結果。例如，正常樣本是數字7，則異常偵測模型對正常樣本的重建結果也應是數字7或接近7。而異常樣本是數字3，則異常偵測模型對異常樣本的重建結果可能不同於數字3。
圖4是依據本發明一實施例的類別判斷的流程圖。請參照圖4，在一實施例中，處理器130可判斷輸入資料的類別(步驟S410)。輸入資料例如是影像、或經編碼的二維矩陣。類別對應於異常樣本及正常樣本中的一者。也就是說，處理器130可先判斷輸入資料為異常樣本或是正常樣本。確認類別之後，處理器130可將被標記為正常樣本的輸入資料輸入至異常偵測模型(步驟S430)或是將被標記為異常樣本的輸入資料輸入至異常偵測模型(步驟S310)。
在另一實施例中，處理器130已知輸入資料的類別。例如，輸入資料夾帶或附加額外資訊，且此額外資訊記錄其所述類別。
處理器130可最大化異常樣本經異常偵測模型的輸出與異常樣本之間的重建誤差，以優化異常偵測模型(步驟S330)。具體而言，在對新創的異常偵測模型訓練或對已訓練的異常偵測模型優化的過程中，可基於輸入資料進一步優化異常偵測模型。即，改變異常偵測模型的內部結構及/或參數(例如，路徑、權重或函數)。而針對異常樣本，本發明實施例預期最大化異常偵測模型的重建結果(即，其輸出)與原始輸入的差異(即，重建誤差)。
在一實施例中，若輸入資料被標記為異常樣本，則處理器130可選擇異常樣本對應的第一損失函數。此第一損失函數經設定為目標值與預測值之間的預測誤差大於誤差門檻值。例如，第一損失函數為預測誤差之倒數、預設值與預測誤差的絕對值之間的差值、sinc函數等。處理器130可透過第一損失函數最大化重建誤差。例如，異常樣本對應的目標函數為最大化第一損失函數。即，找出第一損失函數的值域中的最大值。而預測誤差即對應於當前異常樣本的重建誤差。
在一實施例中，處理器130可直接修改異常偵測模型的參數或另外輸入修改的輸入資料，以符合重建誤差大於誤差門檻值的要求。
在一實施例中，處理器130可將異常樣本經異常偵測模型的編碼器編碼的壓縮表現作為目標值，將異常偵測模型的重建結果經編碼器編碼的另一壓縮表現作為預測值，並據以決定目標值與預測值之間的預測誤差。
在另一實施例中，處理器130可將輸入至異常偵測模型的原始異常樣本作為目標值，將異常偵測模型的重建結果作為預測值，並據以決定對應的預測誤差。
在一實施例中，處理器130可將被標記的正常樣本輸入至異常偵測模型，並最小化正常樣本經異常偵測模型的第二輸出與正常樣本之間的第二重建誤差，以優化異常偵測模型。針對正常樣本，本發明實施例預期最小化異常偵測模型的重建結果(即，其第二輸出)與原始輸入的差異(即，第二重建誤差)。
在一實施例中，若輸入資料為正常樣本，則處理器130可選擇正常樣本對應的第二損失函數。此第二損失函數經設定為目標值與預測值之間的預測誤差小於誤差門檻值。例如，第二損失函數均方誤差(Mean-Square Error，MSE)、平均絕對值誤差(Mean Absolute Error，MAE)、交叉熵(Cross Entropy)或焦點損失(Focal Loss)。處理器130可透過第二損失函數最小化重建誤差。例如，正常樣本對應的目標函數為最小化第二損失函數。即，找出第二損失函數的值域中的最小值。而第二損失函數的預測誤差即對應於當前正常樣本的第二重建誤差。
在一實施例中，處理器130可輸入序列的輸入資料至異常偵測模型。序列的輸入資料可能包括一筆或更多筆異常樣本及一筆或更多筆正常樣本，且本發明實施例不加以限制其樣本的排列順序。
在一實施例中，用於第一或第二損失函數的誤差門檻值可基於輸入資料的辨識度或內容而被調整。辨識度越高或內容較接近異常或正常樣本，處理器130可降低誤差門檻值。
為了幫助讀者理解發明精神，以下再舉一實施例說明。
圖5是依據本發明一實施例的自編碼器的示意圖。請參照圖5，在自編碼器的模型訓練過程中，正常樣本O1輸入至編碼器501得出壓縮表現C1，且壓縮表現C1輸入至解碼器503得出重建結果R1。處理器130最小化正常樣本O1的重建誤差E1 (如其右箭頭所示減少重建誤差E1的數值)。
另一方面，異常樣本O2輸入至編碼器501得出壓縮表現C2，且壓縮表現C2輸入至解碼器503得出重建結果R2。處理器130最大化異常樣本O2的重建誤差E2(如其右箭頭所示增加重建誤差E2的數值)。
在一實施例中，處理器130可使用已更新的/尚未更新的異常偵測模型對後續的待測資料進行異常偵測、影像辨識、病灶檢測或其他應用，並使用前述模型訓練方法進一步優化異常偵測模型。
本發明的另一實施例提出一種電腦可讀取媒體，其記錄載入到處理器中的電腦程式，以執行上述模型訓練方法的各個步驟(圖2~圖5所示實施例)。此電腦程式可包括多個程式碼，且處理器130載入並執行這些程式碼之後，可完成上述的模型訓練方法以及實現模型訓練裝置100的功能。
綜上所述，在本發明實施例的模型訓練裝置、模型訓練方法及電腦可讀取媒體中，最大化異常樣本經異常偵測模型的重建誤差，並最小化正常樣本經異常偵測模型的重建誤差。藉此，可改善預測準確度，進而避免誤判。
雖然本發明已以實施例揭露如上，然其並非用以限定本發明，任何所屬技術領域中具有通常知識者，在不脫離本發明的精神和範圍內，當可作些許的更動與潤飾，故本發明的保護範圍當視後附的申請專利範圍所界定者為準。
OI、OI2:原始輸入 E、501:編碼器 D、503:解碼器 CR、CR2、C1、C2:壓縮表現 RI、RI2:重建輸入 R1、R2:重建結果 Er1、Er2、Er3、E1、E2:重建誤差 TH:門檻值 100:模型訓練裝置 110:儲存器 130:處理器 S310~S330、S410~S430:步驟 O1:正常樣本 O2:異常樣本
圖1A是現有自編碼器-訓練階段的示意圖。 圖1B是現有自編碼器-測試階段的示意圖。 圖2是依據本發明一實施例的異常更新裝置的元件方塊圖。 圖3是依據本發明一實施例的異常更新方法的流程圖。 圖4是依據本發明一實施例的類別判斷的流程圖。 圖5是依據本發明一實施例的自編碼器的示意圖。
S310~S330:步驟

Claims (11)

  1. 一種模型訓練方法，包括： 將被標記的一異常樣本輸入至一異常偵測模型，且該異常偵測模型是基於一自編碼器(autoencoder)架構；以及 最大化該異常樣本經該異常偵測模型的一輸出與該異常樣本之間的一重建誤差，以優化該異常偵測模型。
  2. 如請求項1所述的模型訓練方法，其中最大化該異常樣本經該異常偵測模型的該輸出與該異常樣本之間的該重建誤差的步驟包括： 選擇該異常樣本對應的一損失函數，其中該損失函數經設定為目標值與預測值之間的一預測誤差大於一誤差門檻值；以及 透過該損失函數將該重建誤差最大化，其中該預測誤差對應於該重建誤差。
  3. 如請求項1所述的模型訓練方法，其中將被標記的該異常樣本輸入至該異常偵測模型的步驟之前，更包括： 判斷一輸入資料的類別，其中該類別對應於該異常樣本及該正常樣本中的一者。
  4. 如請求項1所述的模型訓練方法，更包括： 將被標記的一正常樣本輸入至該異常偵測模型；以及 最小化該正常樣本經該異常偵測模型的一第二輸出與該正常樣本之間的一第二重建誤差，以優化該偵測模型。
  5. 如請求項1所述的模型訓練方法，更包括： 使用該異常偵測模型對待測資料進行異常偵測。
  6. 一種模型訓練裝置，包括： 一儲存器，儲存一程式碼；以及 一處理器，耦接該儲存器，載入且執行該程式碼以經配置用以： 將被標記的一異常樣本輸入至一異常偵測模型，其中該異常偵測模型是基於一自編碼器架構；以及 最大化該異常樣本經該異常偵測模型的一輸出與該異常樣本之間的一重建誤差，以更新該異常偵測模型。
  7. 如請求項6所述的模型訓練裝置，其中該處理器更經配置用以： 選擇該異常樣本對應的一損失函數，其中該損失函數經設定為目標值與預測值之間的一預測誤差大於一誤差門檻值；以及 透過該損失函數將該重建誤差最大化，其中該預測誤差對應於該重建誤差。
  8. 如請求項6所述的模型訓練裝置，其中該處理器更經配置用以： 判斷一輸入資料的類別，其中該類別對應於該異常樣本及該正常樣本中的一者。
  9. 如請求項6所述的模型訓練裝置，其中該處理器更經配置用以： 將被標記的一正常樣本輸入至該異常偵測模型；以及 最小化該正常樣本經該異常偵測模型的一第二輸出與該正常樣本之間的一第二重建誤差，以優化該異常偵測模型。
  10. 如請求項6所述的模型訓練裝置，其中該處理器更經配置用以： 使用該異常偵測模型對待測資料進行異常偵測。
  11. 一種非暫態的電腦可讀取媒體，經由一處理器載入程式碼以執行下列步驟： 將被標記的一異常樣本輸入至一異常偵測模型，其中該異常偵測模型是基於一自編碼器架構；以及 最大化該異常樣本經該異常偵測模型的一輸出與該異常樣本之間的一重建誤差，以更新該異常偵測模型。
TW110112661A 2021-04-08 2021-04-08 模型訓練裝置、模型訓練方法及電腦可讀取媒體 TWI774312B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
TW110112661A TWI774312B (zh) 2021-04-08 2021-04-08 模型訓練裝置、模型訓練方法及電腦可讀取媒體
CN202210020871.4A CN115249063A (zh) 2021-04-08 2022-01-10 模型训练装置、模型训练方法及计算机可读取媒体
US17/669,050 US20220327381A1 (en) 2021-04-08 2022-02-10 Model training apparatus, model training method, and computer-readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW110112661A TWI774312B (zh) 2021-04-08 2021-04-08 模型訓練裝置、模型訓練方法及電腦可讀取媒體

Publications (2)

Publication Number Publication Date
TWI774312B TWI774312B (zh) 2022-08-11
TW202240476A true TW202240476A (zh) 2022-10-16

Family

ID=83509429

Family Applications (1)

Application Number Title Priority Date Filing Date
TW110112661A TWI774312B (zh) 2021-04-08 2021-04-08 模型訓練裝置、模型訓練方法及電腦可讀取媒體

Country Status (3)

Country Link
US (1) US20220327381A1 (zh)
CN (1) CN115249063A (zh)
TW (1) TWI774312B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI888138B (zh) * 2024-05-16 2025-06-21 瑞昱半導體股份有限公司 通過權重排列優化模型運算的方法與計算系統

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115909141A (zh) * 2022-11-02 2023-04-04 重庆邮电大学 伪异常引导的3d卷积自编码视频异常检测方法
CN115981903A (zh) * 2022-12-21 2023-04-18 国家电网有限公司信息通信分公司 指标异常检测与标签生成方法和装置
CN116910526B (zh) * 2023-01-16 2026-01-30 中国移动通信有限公司研究院 模型训练方法、装置、通信设备及可读存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10452951B2 (en) * 2016-08-26 2019-10-22 Goodrich Corporation Active visual attention models for computer vision tasks
US10825219B2 (en) * 2018-03-22 2020-11-03 Northeastern University Segmentation guided image generation with adversarial networks
CN110895705B (zh) * 2018-09-13 2024-05-14 富士通株式会社 异常样本检测装置及其训练装置和训练方法
US20220243943A1 (en) * 2019-04-23 2022-08-04 3M Innovative Properties Company Systems and Methods for Monitoring the Condition of an Air Filter and of an HVAC System
KR20190098107A (ko) * 2019-08-02 2019-08-21 엘지전자 주식회사 딥 러닝을 위한 신경망 학습 장치 및 그 방법
CN111079805A (zh) * 2019-12-03 2020-04-28 浙江工业大学 一种结合注意力机制及信息熵最小化的异常图像检测方法
CN112148955B (zh) * 2020-10-22 2024-06-18 南京航空航天大学 一种物联网时序数据异常检测方法及系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI888138B (zh) * 2024-05-16 2025-06-21 瑞昱半導體股份有限公司 通過權重排列優化模型運算的方法與計算系統

Also Published As

Publication number Publication date
CN115249063A (zh) 2022-10-28
US20220327381A1 (en) 2022-10-13
TWI774312B (zh) 2022-08-11

Similar Documents

Publication Publication Date Title
TWI774312B (zh) 模型訓練裝置、模型訓練方法及電腦可讀取媒體
US11816442B2 (en) Multi-turn dialogue response generation with autoregressive transformer models
US20250013753A1 (en) Systems and methods for reverse engineering-based detection of vulnerabilities
JP2022544019A (ja) 単語重複ベースのクラスタリングクロスモーダル検索
EP3355203A1 (en) Translation method and apparatus, and translation system
CN112417463B (zh) 软件漏洞预测方法、装置、计算机设备及存储介质
CN118737293B (zh) 多肽活性的可解释性分析方法、装置、设备、介质及产品
US20150120682A1 (en) Automated recognition of patterns in a log file having unknown grammar
CN117010723A (zh) 碳排放量预测方法、系统、设备及计算机可读存储介质
CN113887722A (zh) 神经网络的测试方法、装置、计算机设备及存储介质
CN116595541A (zh) 基于Transformer的源代码漏洞检测方法、装置、计算机设备及介质
WO2019092868A1 (ja) 情報処理装置、情報処理方法及びコンピュータ読み取り可能な記録媒体
CN117235096A (zh) Kpi数据的时序异常检测方法、装置、设备及介质
CN118820772A (zh) 用于日志异常检测的模型训练及应用方法、设备和介质
WO2016110125A1 (zh) 高维向量的哈希方法、向量量化方法及装置
CN120338086B (zh) 一种基于对比监督和跨阶段蒸馏的通用信息抽取方法
CN110991124A (zh) 集成电路修补方法及装置、存储介质、电子设备
US20240404281A1 (en) Abnormality analysis apparatus, abnormality analysis method, and non-transitory computer-readable medium
CN117290856B (zh) 基于软件自动化测试技术的智能测试管理系统
JP6547345B2 (ja) テストケース生成プログラム、テストケース生成方法およびテストケース生成装置
CN113312006A (zh) 硬盘更换判别方法、装置、设备及可读存储介质
CN117311800A (zh) 代码重构的方法、装置、电子设备及存储介质
US20220207867A1 (en) Method and device for detecting defects, electronic device using method, and non-transitory storage medium
CN108664368B (zh) 处理器性能指标评估方法及设备
CN116340141B (zh) 基于偏离度分析的数据摘要方法、系统及故障诊断方法