[go: up one dir, main page]

TWI892075B - 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備 - Google Patents

用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備

Info

Publication number
TWI892075B
TWI892075B TW112103333A TW112103333A TWI892075B TW I892075 B TWI892075 B TW I892075B TW 112103333 A TW112103333 A TW 112103333A TW 112103333 A TW112103333 A TW 112103333A TW I892075 B TWI892075 B TW I892075B
Authority
TW
Taiwan
Prior art keywords
data
deep learning
response data
learning processor
training
Prior art date
Application number
TW112103333A
Other languages
English (en)
Other versions
TW202321960A (zh
Inventor
馬修 Ｃ 樸特曼
強恩 Ｂ 樸特曼
巴迪姆 皮斯基
安德魯 桑斯壯
詹姆斯 三世 威廉斯
Original Assignee
美商奈米創尼克影像公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US16/900,124 external-priority patent/US11086988B1/en
Application filed by 美商奈米創尼克影像公司 filed Critical 美商奈米創尼克影像公司
Publication of TW202321960A publication Critical patent/TW202321960A/zh
Application granted granted Critical
Publication of TWI892075B publication Critical patent/TWI892075B/zh

Links

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/04—Programme control other than numerical control, i.e. in sequence controllers or logic controllers
    • G05B19/042—Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
    • G05B19/0428—Safety, monitoring
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/04—Programme control other than numerical control, i.e. in sequence controllers or logic controllers
    • G05B19/05—Programmable logic controllers, e.g. simulating logic interconnections of signals according to ladder diagrams or function charts
    • G05B19/058—Safety, monitoring
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/4184—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by fault tolerance, reliability of production system
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/52—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow
    • G06F21/53—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems during program execution, e.g. stack integrity ; Preventing unwanted data erasure; Buffer overflow by executing in a restricted environment, e.g. sandbox or secure virtual machine
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/552—Detecting local intrusion or implementing counter-measures involving long-term monitoring or reporting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
    • G06F21/566—Dynamic detection, i.e. detection performed at run-time, e.g. emulation, suspicious activities
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/31—From computer integrated manufacturing till monitoring
    • G05B2219/31455—Monitor process status
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
    • G06F2221/033—Test or assess software
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2149—Restricted operating environment
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Automation & Control Theory (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Virology (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Manufacturing & Machinery (AREA)
  • Quality & Reliability (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本發明揭示一種控制器模仿器，其耦合至使該控制器模仿器暴露於來自外部源之輸入，向一程序模擬器及一深度學習程序提供一或多個控制信號之一介面。作為回應，該程序模擬器模擬提供至該深度學習處理器之回應資料。該深度學習處理器為該一或多個控制信號產生預期回應資料及預期行為模式資料，以及為該模擬回應資料產生實際行為模式資料。執行該模擬回應資料與該預期回應資料以及該實際行為模式資料與該預期行為模式資料之至少一者之比較以判定是否偵測到異常活動。作為偵測異常活動之一結果，執行一或多個操作以解決該異常活動。

Description

用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備
本發明大體上係關於用於智慧地模仿工廠控制系統及模擬回應資料以成功地吸引針對工廠之惡意軟體攻擊並分析其行為之系統、器件及方法。
對工廠之惡意軟體攻擊正在激增且變得非常複雜。進一步言之，此等惡意軟體攻擊通常能夠穿透隔離及封閉之電腦網路以及連接至外部網路(例如4G及5G網路)之機器。此等攻擊之許多者通常針對控制一工廠之實體設備及程序之操作之工廠控制系統。如本文中所使用，惡意軟體係指引起(例如)對一電腦、伺服器、控制器、電腦網路、電腦控制設備、資料或一最終輸出之品質或產量之影響損壞、破壞或未經授權之存取或操縱之任何硬體或軟體。惡意軟體可包含電腦病毒、蠕蟲、特洛伊木馬、間諜軟體、後門或通常可對一電腦系統有害之任何程式或檔案。惡意軟體可設計成針對一工廠控制系統且對工廠之實體設備及程序之操作進行微妙改變，該等改變通常能夠逃避習知資訊技術(IT)安全解決方案或習知程序控制系統。
為了幫助識別對一工廠控制系統之威脅，可建立一種稱為一蜜罐之安全機構來模仿一工廠控制系統、設備及處理器以便吸引可能針對一工廠之生產控制系統之相同惡意軟體。惡意軟體攻擊之設計者意識到存在蜜罐以消除此等攻擊，因此藉由設計惡意軟體來偵測蜜罐，例如藉由搜索與目標工廠控制系統相關聯之特定識別符來相應提高其惡意軟體之複雜性且藉由測試此等系統之預期回應。若識別符或回應看起來並非真實，則可向惡意軟體發出警報，告知其偵測到一蜜罐且可隱藏其存在以破壞蜜罐之目的。
進一步言之，惡意軟體可跨許多不同地點之一工廠控制系統引入，包含(但不限於)以下：電腦、電腦網路、程序控制器、可程式化邏輯控制器(PLC)、分佈式控制系統(DCS)、監督控制及資料採集系統(SCADA)及一工廠處部署之其他數位設備。據此，設計一種能夠模擬一整個工廠控制系統並欺騙一複雜惡意軟體攻擊之現實蜜罐非常困難。
據此，期望提供一種新機構用於智慧地模仿一工廠生產控制系統，以及模擬類似於由一工廠在生產期間之程序、設備及控制系統產生之回應資料之回應資料，以便成功地吸引針對此等系統之惡意軟體攻擊並分析其行為。
在一實例中，一種電腦實施方法包含：藉由耦合至一介面之一控制器模仿器，向一程序模擬器及一深度學習處理器提供一或多個控制信號，其中該介面使該控制器模仿器暴露於來自一外部源之輸入；回應於接收到該一或多個控制信號，由該程序模擬器模擬提供給該深度學習處理器之回應資料；由該深度學習處理器為該一或多個控制信號產生預期回 應資料及預期行為模式資料；由該深度學習處理器為該模擬回應資料產生實際行為模式資料；對以下至少一者進行比較：(i)該模擬回應資料與該預期回應資料，以及(ii)該實際行為模式資料與該預期行為模式資料，以判定是否偵測到異常活動；及作為偵測到該異常活動之一結果，執行一或多個操作以解決該異常活動。
在一些實例中，該深度學習處理器包含一經調節機器學習模型。
在一些實例中，該模擬回應資料包含提供給該控制器模仿器之一控制值。
在一些實例中，該一或多個操作包含關閉因為該異常活動而處於危險中之一或多個工廠程序、設備及控制(P/E/C)系統。
在一些實例中，該一或多個操作包含產生一通知，其中該通知指定該異常活動，及其中將該通知提供給一操作員以查核該異常活動。
在一些實例中，該異常活動係作為該模擬回應資料與指示一偏差之該預期回應資料之一比較之一結果而偵測。
在一些實例中，該異常活動係作為該實際行為模式資料與指示一偏差之該預期行為模式資料之一比較之一結果而偵測。
在一些實例中，該一或多個操作包含：判定該異常活動是否係由該控制器模仿器自該介面接收之一惡意軟體攻擊，其中作為該異常活動之一信賴度得分滿足對應於該惡意軟體攻擊之偵測之一信賴度臨限值之一結果產生該異常活動係該惡意軟體攻擊之一判定。
在一實例中，一種系統包含：一或多個處理器；及記憶 體，其上儲存指令，該等指令因為由該一或多個處理器執行而致使該系統執行：自耦合至一介面之一控制器模仿器接收一或多個控制信號，其中該介面使該控制器模仿器暴露於來自一外部源之輸入；回應於接收到該一或多個控制信號，模擬包含控制值之回應資料；為該一或多個控制信號產生預期回應資料及預期行為模式資料；產生行為模式資料，其中該行為模式資料係使用該模擬回應資料產生；對以下至少一者進行比較：(i)該模擬回應資料與該預期回應資料，以及(ii)該實際行為模式資料與該預期行為模式資料，以判定是否偵測到異常活動；且作為偵測到該異常活動之一結果，執行一或多個操作以解決該異常活動。
在一些實例中，該一或多個處理器包含一經調節機器學習模型。
在一些實例中，該一或多個操作包含通信一警報協定以使該控制器模仿器關閉因為該異常活動而處於危險中之一或多個工廠程序、設備及控制(P/E/C)系統。
在一些實例中，使該一或多個處理器執行該一或多個操作以解決該異常活動之該等指令進一步致使該系統：基於所偵測之該異常活動，判定與該異常活動相關聯之一信賴度；且基於該信賴度識別該一或多個操作。
在一實例中，一種非暫時性、電腦可讀儲存媒體，在其上儲存可執行指令，該等可執行指令因為由一電腦系統執行而致使該電腦系統：自耦合至一介面之一控制器模仿器接收一或多個控制信號，其中該介面使該控制器模仿器暴露於來自一外部源之輸入；回應於接收到該一或多個控制信號，模擬包含控制值之回應資料；為該一或多個控制信號產生預 期回應資料及預期行為模式資料；產生行為模式資料，其中該行為模式資料係使用該模擬回應資料產生；對以下至少一者進行比較：(i)該模擬回應資料與該預期回應資料，以及(ii)該實際行為模式資料與該預期行為模式資料，以判定是否偵測到異常活動；及作為偵測到該異常活動之一結果，執行一或多個操作以解決該異常活動。
在一些實例中，該一或多個操作包含：判定該異常活動是否係由該控制器模仿器自該介面接收之一惡意軟體攻擊；且作為該異常活動係該惡意軟體攻擊之一判定之一結果，通信一警報協定以使該控制器模仿器關閉因為該惡意軟體攻擊而處於危險中之一或多個工廠程序、設備及控制(P/E/C)系統。
1:步驟
2:步驟
3:步驟
4:步驟
5:步驟
6:步驟
118:深度學習處理器
120:站控制器
121:控制信號
121a:控制信號
121b:控制信號
122:加工站
124:中間輸出
125:控制值
125a:控制值
125b:控制值
126:控制輸入
127:獨立感測器
128:站值
134a:中間輸出值
136:通用輸入
137:獨立感測器
138:功能先驗
139:經驗先驗
140:站控制器
141:控制信號
141a:控制信號
141b:控制信號
142:加工站
144:中間輸出
144a:中間輸出值
145:控制值
145a:控制值
145b:控制值
146:控制輸入
148:站值
150:步驟
160:步驟
190:信號調節器
191:信號調節器
192:信號調節器
193:信號調節器
205:步驟
210:步驟
215:步驟
225:回應資料
226:步驟
227:步驟
228:步驟
229:步驟
235:步驟
236:步驟
237:步驟
238:步驟
239:步驟
241:步驟
245:步驟
300:智慧蜜罐
302:曲線圖
310:實際或模仿程序控制器
318:深度學習處理器
323:獨立控制值
325:控制值
328:站值
334:中間輸出值
344:最終輸出值
348:站值
400:方法
510:資料記錄及輸出模組
515:步驟
605:匯流排
610:一處理單元
612:記憶體快取
615:系統記憶體
620:唯讀記憶體(ROM)
625:RAM
630:儲存裝置
635:輸出裝置
640:通信介面
645:輸入裝置
670:成像處理裝置
800:本地或中央資料處理伺服器
820:步驟
830:步驟
840:步驟
為了描述可獲得本發明之上述及其他優點及特徵之方式，將藉由參考在附圖中繪示之其特定實施例來演現上文簡要描述之原理之一特定描述。在理解此等附圖僅描繪本發明之例示性實施例且因此不應認為係對其範疇之限制之後，通過使用附圖，以額外特徵及細節來描述及解釋本文中之原理，其中：圖1繪示在一工廠程序之操作及控制期間向一深度學習處理器提供輸入之一實例方法；圖2展示用於訓練一深度學習處理器及程序模擬器之一實例方法；圖2B展示由一工廠之P/E/C系統產生之回應資料之一子集之一實例行為模式；圖3展示根據一些實施例之一實例智慧蜜罐； 圖4展示根據各種實施例之用於運行一模擬程序以吸引惡意軟體攻擊之一實例方法；圖5展示用於記錄資料之一實例方法；且圖6展示根據各種實施例之包含使用一連接彼此電通信之各種組件之一計算系統架構之一繪示性實例。
本申請案主張2020年2月28日申請之題為「Method,Systems and Apparatus for Intelligently Emulating Factory Control Systems and Simulating Response Data」之美國臨時申請案第62/983,510號之權利，該案之全部內容以引用的方式併入本文中。本申請案與2019年10月24日申請之題為「Predictive Process Control for a Manufacturing Process」之美國專利申請案第16/663,245號有關，該案之全部內容以引用的方式併入本文中。進一步言之，本申請案係關於2020年2月4日申請之題為「Dynamic Monitoring and Securing of Factory Processes,Equipment and Automated Systems」之美國專利申請案第16/781,193號，該案之全部內容以引用的方式併入本文中。另外，本申請案係關於2020年2月28日申請之題為「Dynamic Monitoring and Securing of Factory Processes,Equipment and Automated Systems」之美國專利申請案第62/983,487號，該案之全部內容以引用的方式併入本文中。本申請案亦主張2020年6月12日申請之題為「Method,Systems and Apparatus for Intelligently Emulating Factory Control Systems and Simulating Response Data」之美國專利申請案第16/900,124號之權利，該案之全部內容以引用的方式併入本文中。
根據所揭示標的物之一些實施例，揭示用於智慧地模仿一工廠控制系統並模擬類似於由一工廠之生產程序、設備及控制系統產生之回應資料之回應資料之機構(其可包含系統、方法、裝置、器件等等)，以成功吸引針對工廠之惡意軟體攻擊並分析其行為。
以下闡述之詳細描述旨在作為對本技術之各種組態之一描述，而不意欲表示其中可實踐本技術之唯一組態。附圖併入於本文中並構成詳細描述之一部分。詳細描述包含特定細節用於提供對本技術之一更透徹理解。然而，將清楚且明白，本技術不限於本文中所闡述之特定細節且可在沒有此等細節之情況下實踐。在一些例項中，以方塊圖形式展示結構及組件以避免使本技術之概念模糊。
一工廠之製程係複雜的且包括由不同加工站(或「站」)加工之原材料，直至生產一最終產品(本文指稱「最終輸出」)為止。除最後加工站之外，各加工站接收一輸入用於處理且輸出一中間輸出，該中間輸出將傳遞至一隨後加工站用於額外處理。最後加工站接收一輸入用於處理且輸出最終輸出。
工廠依靠許多包含自動控制之實體設備之加工站。此等自動控制之加工站容易受到惡意軟體之攻擊，若不及早偵測，可造成干擾或對設備及產品良率造成不可修復之損害。儘管本發明之智慧蜜罐機構係指在一工廠環境中模仿控制系統及模擬設備及程序，但智慧蜜罐機構亦可應用於部署工業控制系統之任何工業或關鍵基礎設施，諸如發電廠、電網、公用事業、電信、金融、衛生、運輸設施。智慧蜜罐機構亦可應用於離散物聯網(IoT)裝置之控制系統。題為「Dynamic Monitoring and Securing of Factory Processes,Equipment and Automated Systems」之美國專利申 請案第16/781,193號中描述包含一工廠程序、設備、控制系統之一工廠環境之額外細節，該案之全部內容以引用的方式併入本文中。
各加工站之操作可由一或多個程序控制器管理。在一些實施方案中，各加工站具有經程式化以控制加工站之操作之一或多個程序控制器(在本文中指稱「一站控制器」或「一程序控制器」)(程式化演算法在本文中指稱「控制演算法」)。然而，在一些態樣中，一單一程序控制器可經組態以控制兩個或更多個加工站之操作。一程序控制器之一個實例係一可程式化邏輯控制器(PLC)。一PLC可經程式化以操作工廠之程序及系統。PLC或其他程序控制器可基於預程式化參數及指令接收來自經連接感測器或輸入裝置之資訊、處理資料並產生輸出(例如，控制一相關聯加工站之控制信號)。程序控制器之其他實例包含分佈式控制系統(DCS)及監督控制及資料採集系統(SCADA)。
一操作員或控制演算法可為程序控制器提供程序控制器設定點(或「設定點」或「控制器設定點」或CSP)，該等設定點表示各控制值之一所需單一值或值範圍。在一站設備或加工之操作期間可量測之值可分類為控制值或站值。由一程序控制器控制之一值在本文中將分類為控制值，其他量測值將在本文中分類為站值。控制值及/或站值之實例包含(但不限於)：速度、溫度、壓力、真空、旋轉。
控制演算法亦可包含用於監測控制值、將控制值與對應設定點進行比較及判定當控制值不等於(或不在其之一經界定範圍內)一對應程序控制器設定點時採取何種措施之指令。例如，若站溫度之所量測當前值低於設定點，則可由程序控制器發送一信號以增加站之熱源溫度，直至站之當前值溫度等於設定點為止。製程中用來控制一站之習知程序控制器 受限，因為其等遵循靜態演算法(例如，開/關控制、PI控制、PID控制、超前/滯後控制)用於規定當一控制值偏離一設定點時所採取之措施。
一或多個感測器可包含於各加工站內或耦合至各加工站。此等可為存在於與深度學習處理器118(如圖1中所展示)之操作無關之一工廠程序中之類比或數位之實體或虛擬感測器，以及可經添加以執行由深度學習處理器118所需之任何額外量測之任何新感測器。感測器可用於量測由一工廠程序產生之值，諸如：站值、控制值、中間及最終輸出值。實例感測器可包含(但不限於)：用於偵測位置及速度之旋轉編碼器；用於偵測接近度、壓力、溫度、位準、流量、電流及電壓之感測器；用於偵測狀態(諸如存在或行進極限)之限位開關。如本文中所使用之感測器包含一感測裝置及信號調節。例如，感測裝置對站值或控制值做出反應，且信號調節器將該反應轉換為可由深度學習處理器或站控制器使用及解釋之一信號。對溫度做出反應之感測器之實例係RTD、熱電偶及鉑電阻探頭。應變感測器對壓力、真空度、重量、距離變化等做出反應。當物體彼此之間相距一定距離或位於一特定範圍內時，接近感測器對物體做出反應。對於所有此等實例，必須將反應轉譯為可由一站控制器或深度學習處理器使用之一信號。在許多情況下，感測器之信號調節功能產生一數位信號，該數位信號由站控制器解釋。信號調節器亦可產生一類比信號或TTL信號等。虛擬感測器(亦指稱軟感測器、智慧型感測器或估計器)包含可接收及加工來自實體感測器之資料之系統模型。
如本文中所使用，一加工值係指跨作為工廠程序之部分之一整個系列之站(或站之一子集)聚合或平均之一站值或控制值。加工值可包含(例如)總通量時間、所使用之總資源、平均溫度、平均速度。
除站值及加工值之外，亦可量測一加工站之產品輸出(即中間輸出或最終輸出)之各種特性，例如：溫度、重量、產品尺寸、機械、化學、光學及/或電性質、設計缺陷之數目、一缺陷類型之存在或不存在。可量測之各種特性將通常稱為「中間輸出值」或「最終輸出值」。中間/最終輸出值可基於與中間/最終輸出相關聯之一組指定特徵來反映一中間/最終輸出之一單一量測特徵或一總分，其等根據一預定公式經量測及加權。
惡意軟體可經設計成依多種方式來破壞一工廠程序、設備及控制(「P/E/C」)系統之正常功能。例如，在一計算裝置上執行之惡意軟體可致使一程序控制器向其相關聯加工站發送控制信號以使其對設備本身或其輸出有害之位準操作。另外，此惡意軟體可致使控制值以一有害速率或有害增量波動。進一步言之，執行惡意軟體或其他惡意應用程式之計算裝置可向程序控制器提供錯誤反饋，使得控制器不會意識到一相關聯加工站處之有害狀況，且因此可能無法進行所需調整。惡意軟體亦可經設計成以一或多個感測器為目標以操縱或破壞由一工廠P/E/C系統產生之量測值。惡意軟體亦可經設計成攔截或監測由一工廠P/E/C系統產生之資料或一工廠P/E/C系統中之組件(諸如站處理器、控制器、資料處理伺服器、感測器)之間通信之資料。由於一工廠之設備及程序由控制系統(例如PLC、DCS、SCADA)控制，因此惡意軟體通常將一工廠處之控制系統作為目標以影響工廠之程序及設備。
為避免由設置用於誘騙惡意軟體之工廠誘餌(例如蜜罐)偵測，惡意軟體將搜索與目標工廠之控制系統相關聯之特定識別符且測試此等系統之預期回應。僅當惡意軟體確信已識別真實工廠生產控制器時，該 惡意軟體才釋放其攻擊。
據此，期望提供一種新機構(在本文中指稱一「智慧蜜罐」)用於智慧地模仿一工廠之生產控制系統並模擬在生產期間類似於一工廠之程序、設備及控制系統產生之回應資料之回應資料以成功地吸引以此等系統作為目標之惡意軟體攻擊並分析其行為。如本文中所使用，一模仿器係指模仿另一系統之確切行為並嚴格遵守模仿系統之參數及規則之硬體或軟體；一模擬器係指能夠在某些態樣模擬另一系統之操作、寬鬆地遵守其他系統規則及參數之一電腦程式。智慧蜜罐可包含一經調節深度學習處理器118，該處理器已接受來自一工廠P/E/C系統之大量資料之訓練。在進一步實施例中，深度學習處理器亦可接受來自其他工廠之P/E/C系統之資料及綜合資料之訓練。智慧蜜罐可耦合至一介面以接收外部輸入並使智慧蜜罐暴露於惡意軟體攻擊。智慧蜜罐可為能夠執行命令、儲存資料、輸入及輸出與實際程序相關聯之所有信號之任何裝置且包含電腦、單板電腦、微處理器、微電腦及微電腦晶片設計等。
一基於機器學習(ML)或人工智慧(AI)模型之深度學習處理器可用於評估控制值、站值、加工值、資料輸出及/或中間及最終輸出值(統稱「回應資料」)連同相關聯站控制器設定點、功能先驗(functional priors)、經驗先驗(experiential priors)及/或通用輸入以訓練機器學習模型以識別與典型工廠控制及操作之任何不同。如熟習此項技術者所理解，基於機器學習之技術可取決於所需實施方案而變化，而不背離所揭示之技術。例如，機器學習技術可單獨或組合使用以下之一或多者：隱藏之馬爾可夫模型；遞歸神經網路；卷積神經網路(CNN)；深度學習；貝葉斯符號方法；強化學習、一般對抗網路(GAN)；支持向量機；影像配準方法；長 期、短期記憶體(LSTM)；及其類似者。
機器學習模型亦可基於聚類演算法(例如，一Mini-batch K-means聚類演算法)、一推薦演算法(例如，一Miniwise Hashing演算法或Euclidean Locality-Sensitive Hashing(LSH)演算法)及/或一異常偵測演算法，諸如一局部異常因數。機器學習模型可基於監督及/或非監督方法。
圖1繪示一實例深度學習處理器118，其可經組態以在一製程中動態地監測任意數目個(在本文中指稱「N」)加工站之操作及控制。在圖1中，一製程之N個加工站由加工站122及142表示。加工站可串列或並行操作。
設定點、演算法、初始輸入及操作指令、系統及加工更新及至站控制器120及140之其他控制輸入(分別為步驟820及840)可由一本地或中央資料處理伺服器800提供。在一些實施例中，資料處理伺服器800可為一網路上之一或多個電腦。在一些實施例中，步驟820及840可由一操作員人工執行。在一些實施例中，資料處理伺服器800亦可接收由站控制器120及140產生之資料輸出，以及由耦合至加工站122或142或在其內之感測器產生或自獨立感測器127及137之資料。資料輸出包含(但不限於)：(i)在製程期間產生之資料(例如，與實體感測器、加工站組件或站控制器組件耦合之資料日誌)；(ii)由各加工站或站控制器接收或自其傳輸之資料；及(iii)個別或任意數目個加工站或站控制器之資料通信及資料產生模式(例如，高資料量、低資料量、不穩定資料量、基於一天中之時間、資料之來源或目的地之異常資料通信或資料產生)。在進一步實施例中，資料處理伺服器800可接收所有回應資料，如結合圖2所界定。在一些實 施例中，可將資料輸出提供給深度學習處理器118(步驟830)。在其他實施例中，為了隔離深度學習處理器118，資料處理伺服器將不向深度學習處理器118提供任何輸入。在一些實施例中，資料處理伺服器800亦可接收來自發生在遠端地理位置之相關製程之資料並提供此資料給深度學習處理器118。在進一步實施例中，一工廠收集之用於執行分析之資料以及分析資料(諸如在一控制室中)可由資料處理伺服器800收集。並非所有至資料處理伺服器800之資料輸入皆展示於圖1中。
可將通用輸入136、經驗先驗139、功能先驗138及來自N個工作站(例如122及142)之各者之值提供給深度學習處理器118。在其他實施例中，可使用任何數目個額外深度學習處理器且經組態以訓練深度學習處理器118及程序模擬器。在一些實施例中，通用輸入136、經驗先驗139、功能先驗138可包含程序控制器及工廠P/E/C系統之其他組件之空間掃描。空間掃描可提供產品標識號及在電路板上找到之其他資訊之一來源且可與來自電路板日誌(bios)中之資訊組合或交叉引用。
如本文中所使用，功能先驗係指個別或共同地與一製程中之各加工站之功能及已知限制有關之資訊。加工站所用設備之規格以及所有產品模型及識別資訊均被視為功能先驗。實例功能先驗可包含(但不限於)：一螺桿驅動之擠出機，其具有螺桿可旋轉之一最小及最大速度；一溫度控制系統，其具有基於其加熱及冷卻能力可達到之一最高及最低溫度；一壓力容器，其具有在其爆炸之前將容納之一最大壓力；一可燃液體，其具有在燃燒之前可達到之一最高溫度。功能先驗亦可包含作為一製程之部分之個別工作站執行其等功能之一順序。進一步言之，功能先驗可包含正常加工變化及正常加工雜訊。正常加工變化可包含機器容差(例 如，溫度控制變化+/-1攝氏度、輸送機速度變化+/-0.1m/min、壓力變化+/-3 kPa)；原材料變化、冷卻水溫度變化、歸因於操作員錯誤及正常加工雜訊之變化可包含(例如)電信號中之抖動及資料收集及記錄中之捨入誤差。
如本文中所使用之經驗先驗係指通過(例如)執行相同或類似製程之先驗經驗；操作相同或類似站；產生相同或類似中間/最終輸出；對製程及解決方案之最終輸出中之缺陷或故障進行根本原因分析而獲得之資訊。經驗先驗亦可包含來自所有一工廠P/E/C系統之日誌資料，以及由資料處理伺服器800收集之資料。
如本文中所使用，通用輸入係指不特定於一特定加工站之一值，而係指整個製程之一態樣，例如，一日期、一天中之時間、環境溫度、濕度或其他環境狀況，其可影響製程、操作員、操作員之技能水準及錯誤可能性、加工中使用之原材料、原材料規格(諸如色彩、黏度、顆粒大小)以及特定於原材料之其他特徵、特定批號及原材料成本、各站之設備/工具之使用期限、識別資訊(諸如生產工單號、批次、批號、成品號及成品序列號)。
注意，為功能先驗、經驗先驗及通用輸入之各者提供之實例表示對此等實例分類之一種方式，可使用其他合適分類。例如，對提供給深度學習處理器118之輸入分類之另一種方式係：預加工輸入(例如，經驗先驗、功能先驗、材料性質、調度要求)；加工中輸入(例如，通用輸入、控制值、站值、中間值、最終輸出值、加工值)；加工後輸入(例如，製造效能指標及其他分析數據)。進一步言之，可跨製程動態更新功能及經驗先驗。
各加工站可由一或多個相關聯站控制器控制(例如，站控制器120控制加工站122且站控制器140控制加工站142)。在一實施例中，一單一站控制器可控制多個加工站或控制與一單一加工站相關聯之多個控制值。在一些實施例中，深度學習處理器118可基於預測性程序控制或預程式化演算法向各加工站控制器提供控制輸入(由126及146表示)。預測性程序控制描述於題為「Predictive Process Control for a Manufacturing Process」之美國專利申請案第16/663,245號中，該案之全部內容以引用的方式併入本文中。在其他實施例中，深度學習處理器不向站控制器提供任何輸入。
可包含一信號調節器190、191、192及193(例如一信號分配器、放大器、數位至類比轉換器、類比至數位轉換器、TTL)以劃分控制信號(例如，將121劃分成121a及121b且將141劃分成141a及141b)及控制值(例如將125劃分成125a及125b且將145劃分成145a及145b)，使得將控制信號及控制值兩者發送至深度學習處理器118及相關站控制器(例如120或140)。控制值可為類比或數位信號。進一步言之，根據一些實施例，一信號調節器可包含於深度學習處理器內且可將所有類比值轉換成數位值或執行其他調節。各站控制器可提供一或多個控制信號(例如121及141)，該等信號提供用於調節一站之控制值(例如控制值125及145)之命令。各站輸出一中間輸出(例如124及144)，該中間輸出具有一中間輸出值(分別為134a及144a)。將來自加工站之所有中間輸出值及最終輸出值(例如144，若加工站142係該加工中之最終加工站)提供給深度學習處理器118。各站亦輸出可提供給深度學習處理器118之站值(例如128及148)。圖1亦繪示中間輸出124經發送(步驟150)至一或多個隨後站，其可表示一單 一站或任何數目個多個站。如圖1中所展示，站142可接收(步驟160)來自任何數目個先驗站之一中間輸入。在一些實施例中，可將由站控制器(例如，控制器120及140)使用之設定點值發送至深度學習控制器118。進一步言之，與製程有關之值可由獨立感測器(例如，獨立感測器127及137)量測並提供給深度學習控制器118。
應理解，深度學習處理器118、站控制器、加工站及資料處理伺服器800之間之通信可使用提供與一或多個其他裝置通信及/或與一電腦網路進行資料交易之能力之任何合適通信技術。藉由實例，經實施之通信技術可包含(但不限於)：類比技術(例如中繼邏輯)、數位技術(例如，RS232、乙太網或無線)、網路技術(例如，區域網路(LAN)、一廣域網路(WAN)、網際網路、藍牙技術、近場通信技術、安全RF技術及/或任何其他合適通信技術。在一些實施例中，為了隔離深度學習處理器118免受任何惡意軟體感染，深度學習處理器118可不接收來自任何程序控制器、資料處理伺服器800或來自連接至一網路之任何電腦的任何輸入。在一些實施例中，來自程序控制器或資料處理伺服器800之輸入可人工輸入至深度學習處理器118中或在已針對任何惡意軟體清除一記憶體裝置(例如一拇指驅動器)之後經由該記憶體裝置輸入。
在一些實施例中，可使用任何合適輸入裝置(例如，鍵盤、滑鼠、操縱桿、觸摸、觸控螢幕等等)將操作員輸入通信至深度學習處理器118及/或站控制器或加工站之任何者。
根據所揭示標的物之一些實施例，圖2提供一種方法200，用於調節(訓練)機器學習模型並創建待併入至一智慧蜜罐中之一程序模擬器。方法200可由一控制系統或其他計算系統執行，該控制系統或其他計 算系統可提供經組態以實施深度學習處理器118之硬體及/或軟體。圖2描述一工廠之P/E/C系統。在一些實施例中，一工廠中之一特定機器或程序可採用一類似方法。
在步驟205中，可使用習知控制方法初始化一製程中各站控制器之設定點、演算法及其他控制輸入。進一步言之控制演算法/操作員可提供初始控制或站值。可將控制演算法、初始設定點值及初始控制及站值提供給深度學習處理器118(步驟215)。在其他實施例中，如美國專利申請案第16/663,245號「Predictive Process Control for a Manufacturing Process」中所描述，可使用預測性程序控制將一製程中各站控制器之設定點、演算法及其他控制輸入提供給站控制器(步驟245)。應注意，提供給一站控制器之控制值、控制演算法、設定點及任何其他資訊(例如，加工時序、設備指令、警報警報、緊急停止)可統稱為「站控制器輸入」或「控制輸入」。進一步言之，可將其他輸入(如同功能先驗138、經驗先驗139及通用輸入136)提供給深度學習處理器118。
在步驟210中，製程使用習知或預測性程序控制方法在一預定時間段內及或基於另一合適狀況(例如，一穩健資料集之產生)遍歷所有加工站。本文中所討論之加工站可串列或並行操作。進一步言之，一單一站可執行：多次(循序或不循序地)一單一加工步驟，或對於一製程之一單次迭代，不同加工步驟(循序或不循序地)。加工站產生中間輸出，或若係一最終站，則產生一最終輸出。中間輸出在製程中傳輸至隨後(下游)站，直至產生一最終輸出為止。在進一步實施例中，用於一最終輸出之組件之製造可為異步的且在地理上分散。換言之，用於一最終輸出之組件可在任何時間或任何地點製造，而不必在將組件組裝成一最終輸出之一時間 或地點製造。例如，可在組裝具有前照燈之一汽車之前幾個月製造一汽車前照燈。
當加工遍歷各站時，與以下相關聯之所有值：一個別站(例如控制值)；一個別站之一輸出(例如，站值、中間/最終輸出值、資料輸出)或多個站(例如加工值)經量測或計算並提供至深度學習處理器118(步驟226、227、228、229)以調節其機器學習模型。在一些實施例中，在習知控制下製程之製造效能指標(例如，一指定時間段之生產量、一指定時間段之生產停工時間、一指定時間段所使用之資源或一指定數目之最終輸出、一指定時間段內不符合規格之產品之百分比、一特定操作員之生產量、與一指定數目之最終輸出相關聯之材料成本)可經計算且提供給深度學習處理器118(步驟229)。
儘管未展示，但可將由站控制器回應於來自一加工站之一經接收控制值或其他控制輸入採取之任何動作(或所產生之控制信號)提供給深度學習處理器118。此等動作可包含調整溫度、速度等等。
注意，對深度學習處理器118之所有輸入可由一操作員以電子方式或經由人工方式輸入。進一步言之，可直接或經由一記憶體裝置間接提供輸入，使得可在將資料提供給深度學習處理器之前針對任何惡意軟體清除記憶體裝置。
深度學習處理器118之機器學習模型之調節(步驟236至238)可通過無監督學習方法達成。除功能先驗138、經驗先驗139、輸入至深度學習處理器118之通用輸入136之外，深度學習處理器118僅藉由分析在製程之迭代期間收集之經接收資料(例如，步驟226、227、228及229)進行推斷。在其他實施例中，機器學習模型之調節(步驟236至238)可 經由監督學習方法或監督與無監督方法或類似機器學習方法之一組合來調節。進一步言之，可藉由以下來增強機器學習模型之調節：向深度學習處理器118提供模擬資料或來自一類似製程之資料。在一個實施例中，可藉由將深度學習處理器118實施為一類似製程並在目標製程中之實施期間對深度學習處理器進行微調來調節機器學習模型。即，可使用在將深度學習處理器118部署至一目標製造環境中之前執行之一訓練程序來執行深度學習處理器118之訓練。
如圖2中所展示，深度學習處理器118採用機器學習(ML)模型(步驟235)。此等機器學習模型可藉由分析工廠操作及控制資料(步驟236)、針對在製程迭代通過加工站時產生之回應資料產生行為模式資料(步驟237)及藉由判定正常加工變化資料及雜訊資料(步驟238)來調節。
工廠操作及控制資料(步驟236)可包含以下：(i)對應於設定點之特定控制值；(ii)由經識別加工站產生之其他控制值(及其等對應設定點)；(iii)由經識別加工站產生之站值；(iv)由經識別加工站產生之中間輸出值；(v)由其他加工站產生之控制值(及其等對應設定點)、站值、中間及最終輸出；(vi)通用輸入、功能先驗、經驗先驗；(vii)提供給各加工站之控制信號及其他指令；(viii)提供給各站控制器之控制輸入；(ix)資料輸出；(x)從獨立感測器所接收之與工廠控制及操作有關之量測值。獨立感測器可係指超過正常製程中包含之感測器之提供量測之感測器。由於獨立感測器並非係正常製程之部分，因此通常保護其等免受惡意軟體滲透。在一些實施例中，此等獨立感測器不直接綁定至一單一機器或加工步驟且可流體地用於量測來自任何機器或加工步驟之值(例如，在製程期間隨機進行量測之一手持式裝置)。在一些實施例中，除一深度學習處理器118之外 或代替一深度學習處理器118，獨立感測器可將其輸出值提供給一經耦合監測器。根據一些實施例，可將僅提供給一監測器之值人工輸入至深度學習處理器118中。
在一單一時間點或一段時間內為一單一站及跨站之回應資料產生行為模式(步驟237)可包含識別：正相關；負相關；頻率；振幅；上升或下降趨勢；各控制值或站值之一變化率；對於一經識別回應資料，若經識別回應資料改變，則將影響或將不受影響之其他回應資料。回應資料225不僅包含與用於一經識別加工站之一特定設定點相關聯之控制值，而且包含以下資料類型之一或多者：(i)與用於經識別加工站之其他設定點相關聯之控制值；(ii)與經識別加工站相關聯之站值；(iii)與經識別加工站相關聯之中間輸出值；(iv)與其他加工站相關聯之控制值；(v)與其他加工站相關聯之站值；(vi)與其他加工站相關聯之中間輸出值；(vii)最終輸出值；(viii)資料輸出；(ix)從獨立感測器所接收之與工廠控制及操作有關之量測值。
注意，資料通常以一預定速率自感測器收集。頻率分析可考慮此速率且相應地調整其輸出值，使得輸出值反映真實頻率速率，且不反映包含自感測器收集資料所需時間之一速率。在一些實施例中，頻率分析亦可展示在一上升或下降以及一短暫穩定期之後一控制值之快速變化。穩定期可能太短，幾乎不可偵測。此可為一攻擊之一實例。代替提供穩定在一高點或一低點之一控制值，可提供一惡意信號以將控制值之增加或減小保持在超過一可接受上下限。藉由在穩定之後立即增加或減少，攻擊看起來係正常的且與控制值之先前增加或減少一致。
基於分析：工廠操作及控制資料(步驟235)，所產生之行為 模式資料(步驟236)及至深度學習處理器之其他輸入，深度學習處理器118可判定正常加工變化及正常加工雜訊以進一步調節其機器學習模型。正常加工變化可包含機器容差(例如，溫度控制變化+/-1攝氏度、輸送機速度變化+/-0.1m/min、壓力變化+/-3kPa)；原材料變化、冷卻水溫度變化、歸因於操作員誤差及正常加工雜訊之變化可包含(例如)電信號中之抖動及資料收集及記錄中之捨入誤差。
為了創建用於機器學習模型調節之一穩健資料集，可依一系統方式(例如，自一最小值至一最大值)對於將產生符合規格最終輸出之每個值(或值之一子集)調整對應於各加工站之各控制值之設定點(或其他控制輸入)。在進一步實施例中，可依一系統方式(例如，自一最小值至一最大值)對於一加工站能夠操作之每個值(即一加工站能夠操作之整個值範圍，而非僅限於將產生符合規格最終輸出之值)(或值之一子集)調整對應於各加工站之各控制值之設定點(或其他控制輸入)。進一步言之，可出於訓練目的而調整設定點之任何數目及組合(步驟205)。設定點(或其他控制輸入)可藉由預程式化演算法或藉由預測性程序控制人工調整。
在一些實施例中，可將一或多個設定點(或其他控制輸入)調整為將在已知工廠中斷(例如，一機器之磨損、一錯誤組件之插入)期間發生之與惡意軟體攻擊無關之值，即使彼等值產生不符合規格之最終輸出。
在一些實施例中，深度學習處理器118可連同與一工廠加工之操作及控制相關聯之習知標準程序控制系統一起實施。深度學習處理器118可使用與提供給一工廠加工之操作及控制中使用之任何標準程序控制系統相同之資料來訓練其機器學習演算法，而非使用與一工廠加工之操 作及控制相關聯之所有資料。
對於各設定點調整或一組設定點調整(步驟205)，製程可針對一預定組設定點調整及/或當發生一經界定事件(例如，收集一預定義量之回應資料)時遍歷加工站(步驟210)一預定時間段，且提供設定點(步驟215)且產生回應資料225(例如，站值及控制值(步驟228)、中間及最終輸出值(步驟227)、資料輸出(步驟226)、加工值及製造效能指標(步驟229)至深度學習處理器118。深度學習處理器118使用在製程遍歷加工站時接收之不同輸入來調節其機器學習模型(步驟236至238)。
之後，方法200已完成遍歷加工站(例如，在一預定時間段之後、在一預定組設定點調整之後及/或在發生一經界定事件時(例如，產生一穩健資料集))，接著機器學習模型之調節(步驟236至238)可視作完整的且可創建一程序模擬器(步驟239)，該程序模擬器可模擬回應資料，該回應資料準確地反映來自一工廠生產P/E/C系統之回應資料。使用機器學習模型來創建能夠動態模擬生產回應資料之一程序模擬器，更有可能掩蓋智慧蜜罐係一工廠生產系統而非一誘餌之複雜惡意軟體攻擊。
具有其經調節機器學習模型及程序模擬器之深度學習處理器118可部署至一智慧蜜罐(步驟241)。一實例智慧蜜罐展示於圖3中。根據一些實施例，深度學習處理器118與任何生產系統斷開連接，可清除任何惡意軟體，且併入至一智慧蜜罐中。在其他實施例中，智慧蜜罐具有其自身深度學習處理器且僅將經清除之任何惡意軟體之經調節機器學習模型及創建之程序模擬器上載至包含與一智慧蜜罐中之深度學習處理器。
圖2B展示回應資料之一子集之一實例行為模式。如結合圖2所描述，可藉由實際地調整與一加工站相關聯之設定點來憑經驗導出回 應資料。x軸表示站X之一設定點值，且y軸表示回應資料值。曲線圖302中所展示之不同線表示與站X相關聯之值之回應資料之正常行為模式，以及與另一站，站Y相關聯之值之回應資料之行為模式。在此實例中，沿x軸增加之設定點表示速度。曲線圖302中所展示之回應資料包含：對於站X：控制值325(即表示速度)，其與增加設定點相關聯；獨立控制值323，其可表示(例如)功率；站值328，其可表示黏度；及中間輸出值334，其可表示直徑。如曲線圖302中所展示，站Y之回應資料包含可表示溫度之站值348及可表示重量之最終輸出值344。圖2展示各回應之振幅。其亦展示當速度之設定點增加時回應資料如何行為：站之功率(如由323表示)增加，直徑(如由334表示)增加，黏度(如由328表示)減小。站X之設定點之一變化亦影響站Y，例如，站Y之溫度(如由348表示)增加且重量(如由344表示)增加。行為模式可非常複雜，涉及跨不同站之數千個資料點，且不可藉由人工計算實行識別異常行為模式。因此，需要機器學習分析來產生或學習回應資料之行為模式並分析異常活動之彼等行為模式。
圖3展示根據一些實施例之一實例智慧蜜罐300。智慧蜜罐包含已調節一預定時間段或基於另一合適準則而訓練之一深度學習處理器318，如結合圖2所描述。智慧蜜罐未連接至一工廠之生產P/E/C系統。在一些實施例中，深度學習處理器可定期自一工廠之生產P/E/C系統接收更新資料。為了確保更新資料不會引入惡意軟體-自工廠之生產P/E/C系統至智慧蜜罐或自智慧蜜罐至一工廠之生產P/E/C系統，更新均不直接自工廠之生產P/E/C系統至智慧蜜罐。相反，可首先將資料上載至一記憶體裝置(例如拇指驅動器)，清除所有惡意軟體，且接著將其提供給深度學習處理器318。
深度學習處理器318涵蓋一經訓練程序模擬器(如結合圖2所描述)，其可經組態以自一程序控制器或模仿器接收控制信號且回應於類似控制信號產生類似於在一工廠之P/E/C系統之操作及控制期間之生產中產生之回應資料之模擬回應資料。
深度學習處理器318及程序模擬器之訓練模型可彼此持續不斷之雙向通信。智慧蜜罐之部分亦係一或多個程序控制器，其等可經程式化以產生類似於在一工廠之P/E/C系統之操作期間由程序控制器產生之控制信號之控制信號。程序控制器可為一工廠之生產P/E/C系統中使用之相同類型之PLC或其他程序控制器，或可為一模仿程序控制器(統稱為「控制器模仿器」)。實際或模仿程序控制器可耦合至深度學習處理器318(如由310表示)以向程序模擬器提供控制信號且自程序模擬器接收控制值。一模仿器係指模仿其正在模仿之系統之確切行為並嚴格遵守模擬系統之參數及規則之硬體或軟體。模仿器將包含來自日誌(BIOS)序列號、型號、製造日期或與正在模仿之系統有關之其他所有識別資訊。
進一步言之，智慧蜜罐300耦合至允許智慧蜜罐(經由程序控制器或控制器模仿器)與網路技術(例如，區域網路(LAN)、一廣域網路(WAN)、網際網路、藍牙技術、近場通信技術、安全RF技術及/或任何其他合適通信技術，或用於接收輸入之資料裝置(例如，拇指驅動器、快閃驅動器、USB驅動器))連接之一介面。該介面可使智慧蜜罐暴露於一惡意軟體攻擊。
圖4展示用於實施一智慧蜜罐之一實例方法400(如圖3中所描述)。
在步驟1處，控制器模仿器可自耦合至網路技術或其他資 料裝置之一介面接收外部輸入。在一些實施例中，可經由一外部輸入將一惡意軟體攻擊引入至智慧蜜罐。
在步驟2處，模擬程序經啟動。程序模擬器可運行一預定時間或在發生一預定義事件時運行。
在步驟3處，控制器模仿器向程序模擬器及深度學習處理器輸出一或多個控制信號。
在步驟4處，程序模擬器接收一或多個控制信號且模擬包含控制值之回應資料。程序模擬器將控制值輸出至控制器模仿器且將模擬回應資料輸出至深度學習處理器。
在步驟5處，深度學習處理器採用其經調節機器學習模型且分析自控制器模仿器接收之控制信號以預測並產生預期回應資料及行為模式資料。基於深度學習處理器對工廠操作及控制資料以及此等資料與特定控制信號之相關性之理解，深度學習處理器可為所接收之控制信號預測預期回應資料及對應行為模式。
在步驟6處，深度學習處理器自所接收之模擬資料產生實際行為模式資料且將模擬回應資料與預期回應資料進行比較及/或將實際行為模式資料與預期行為模式資料進行比較。實際行為模式資料係指為所接收之模擬回應資料產生之行為模式資料，且與基於預測回應資料之預期行為模式資料區分開。
藉由將經調節機器學習模型併入至深度學習處理器318中，如結合圖2所討論，包含：(1)在生產期間跨工廠之P/E/C系統擷取大量且多樣資料及(2)在一工廠操作期間分析工廠之P/E/C系統中之變化及正常加工變化及雜訊資料，以及P/E/C系統中之組件如何回應彼等改變及變 化，深度學習處理器318可學會識別模擬回應資料及實際行為模式資料中之任何偏差，甚至將與一單一組件或跨一工廠之P/E/C系統中之許多組件之預期回應資料及行為模式之偏差最小化。深度學習處理器318可識別異常活動及惡意軟體攻擊，並產生一信賴度(步驟7)。在一些態樣中，信賴度可表示為用於預測之準確度之一數值概率，在其他態樣中，信賴度可表示為一區間或概率範圍。
一操作員或演算法可將臨限值分配給與異常活動相關聯之信賴度，且亦可基於所產生之信賴度來判定異常活動之類型。基於異常活動之類型，運行一或多個操作(本文中指稱「警報協定」)以解決異常活動(步驟8)。例如，對於接收一高信賴度分數之異常活動，一警報協定可由深度學習處理器318啟始並通信至一控制器模仿器以運行該啟始的警報協定，而對於接收較低信賴度分數之異常活動，可提示一操作員在啟始一警報協定之前查核該異常活動。在一個實施例中，可將信賴度劃分成三個區間：高、中及低，且可將一臨限值分配給各區間。在其他實施例中，信賴度可劃分成兩個或更多個區間。進一步言之，可將待執行之動作分配給各區間。例如，對於落入高信賴度區間之信賴度，可啟始一警報協定，對於落入中信賴度區間之信賴度，可提示一操作員查核該異常活動，對於落入低信賴度區間之信賴度，可標記並偶爾檢查該異常活動。可查核及調整臨限值及區間範圍以最小化假陽性或假陰性。在其他實施例中，信賴度可劃分成兩個或更多個區間。
在一些實施例中，可將不同警報協定分配給不同區間。例如，若一異常活動具有對應於一高區間之一信賴度，則警報協定可觸發一強動作，如同關閉可能有風險之一關聯工廠之P/E/C系統或在一些情況下 關閉智慧蜜罐。而若異常活動擊具有對應於一較低區間之一信賴度，則一警報協定可觸發一更溫和動作，如同產生一報告、電子郵件或其他通知。在進一步實施例中，可將不同警報協定分配給所偵測之滿足一預定義信賴度臨限值之不同異常類型。經啟始警報協定可為旨在補償或校正所偵測之異常活動類型之一組動作。
警報協定可為機械的(例如，由警報器、閃光燈或其他指示器發信號通知一警報)、數位的(例如，列印一報告、向管理員發送一電子郵件、通知一控制台)、功能性的(例如，停止任何或全部程序模擬器或控制器模仿器、調整程序模擬器或控制器模仿器之設置)或以上之任何組合。警報協定可由深度學習處理器318啟始並與控制器模仿器通信以運行警報協定。可藉由與一控制器模仿器通信(例如，將控制信號發送至程序模擬器)來實施功能協定。該協定可為個別中繼器之一數位啟動、由TTL邏輯、梯形邏輯或與外部裝置(諸如站控制器、PLC或其他者)通信之其他可程式化命令控制。協定及命令結構經併入至深度學習處理器318中。深度學習處理器318可包含程式化以允許此等之任何者。在一些實施例中，可經由由鍵盤輸入之人工輸入來執行對深度學習處理器318之輸入。此協助維持深度學習處理器318之完整性。在進一步實施例中，亦可允許數位輸入，諸如使用一拇指驅動器或網路連接。
進一步言之，深度學習處理器318可識別異常活動是否係一惡意軟體攻擊，及識別對其識別之一信賴度。例如，當行為模式資料指示回應資料中與預期行為資料不同之重大、突然、快速或意外變化時。在一個實施例中，深度學習處理器318可分析行為模式資料是否與並非為一惡意軟體攻擊之已知破壞活動之行為模式資料一致。在一些實施例中，深 度學習處理器318使用在製程期間產生之資料輸出及/或來自一資料記錄模組之資料來判定異常活動由一攻擊或由一些其他故障(例如，所使用之材料有缺陷，安裝一錯誤組件)引起。
一操作員或演算法可將臨限值分配給與經識別為一惡意軟體攻擊之活動相關聯之信賴度且可預定義待在滿足一臨限值時啟始之動作(本文中指稱「警報協定」)。例如，對於所偵測之接收一高信賴度分數之惡意軟體攻擊，一警報協定可由深度學習處理器318啟始並通信至控制器模仿器以運作警報協定，而對於所偵測之接收較低信賴度分數之惡意軟體攻擊，可提示一操作員在啟始一警報協定之前查核所偵測之惡意軟體攻擊。在一個實施例中，可將信賴度劃分成三個區間：高、中及低，且可將一臨限值分配給各區間。在其他實施例中，信賴度可劃分成兩個或更多個區間。進一步言之，可將待執行之動作分配給各區間。例如，對於落入高信賴度區間之信賴度，可啟始一警報協定，對於落入中信賴度區間之信賴度，可提示一操作員查核所偵測之惡意軟體攻擊，對於落入低信賴度區間之信賴度，可標記並偶爾檢查所偵測之惡意軟體攻擊。可查核及調整臨限值及區間範圍以最小化假陽性或假陰性。
在一些實施例中，可將不同警報協定分配給不同區間。例如，若所偵測之惡意軟體攻擊具有對應於一高區間之一信賴度，則警報協定可觸發一強動作，如同關閉可處於危險之一相關聯工廠之P/E/C系統或在一些情況下智慧蜜罐自身。而若所偵測之惡意軟體攻擊具有對應於一較低區間之一信賴度，則一警報協定可觸發一更溫和動作，如同產生一報告、電子郵件或其他通知，其等可識別惡意軟體攻擊並建議立即採取校正措施以對付攻擊。在進一步實施例中，可將不同警報協定分配給所偵測之 滿足一預定義信賴度臨限值之不同類型之惡意軟體攻擊，且當深度學習處理器318超過一預定義信賴度時，由深度學習處理器318針對所偵測之攻擊啟始適當警報協定。警報協定可為旨在補償或校正所偵測之惡意軟體攻擊類型之一組動作。
在一些實施例中，當信賴度超過指示一惡意軟體攻擊之一預定義限制時，深度學習處理器1318可自動運作一生成對抗網路或一第二人工智慧模型(統稱為一確認測試)以確認或拒絕攻擊。若確認測試已確認，則惡意軟體攻擊位準可提高至最高警報。若確認測試被拒絕，則可假定原始模型之信賴度且恢復至第二高警報位準。如先前所指示，可為各警報位準指定單獨警報協定。
在一些實施例中，深度學習處理器318可經組態以與現有IT安全系統通信以將異常活動通知給系統。在進一步實施例中，深度學習處理器318可經組態以與一資料記錄模組通信。此通信可提供警報，其指定惡意軟體攻擊之準確來源且亦用於重新組態防火牆及其他IT基礎結構以更佳保護工廠加工及設備。在一些實施例中，深度學習處理器318可經組態以與一工廠之生產P/E/C系統中之一電腦系統通信以執行一警報協定，糾正一漏洞或異常，偏轉或抵消一所識別之惡意軟體攻擊及/或關閉一工廠之生產P/E/C系統之一或多者。
可繼續透過智慧蜜罐300之操作來調節深度學習處理器318之機器學習模型。
圖5展示一實例資料記錄及輸出模組510，其可經組態以接收來自深度學習處理器318及資料處理伺服器800之資料以分析資料並產生報告、電子郵件、警報、日誌檔案或其他資料彙編(步驟515)。例如， 資料記錄模組510可經程式化以搜索預定義觸發事件之經接收資料，並產生報告、電子郵件、警報、日誌文件、一監測儀表板之更新或其他資料彙編，其顯示與彼等觸發事件相關聯之相關資料(步驟515)。例如，可將異常活動之識別界定為一觸發事件且可報告以下資料：與預期行為模式相比，回應資料之行為模式、受異常活動影響之站、控制器或感測器、產生觸發事件之感測器、識別意外之特定回應資料、異常活動發生之日期及時間、與觸發事件相關聯之信賴度、異常活動對其他站及中間或最終輸出之影響。可界定其他合適觸發器，且可報告其他合適資料。在一些實施例中，資料記錄模組510可包含於深度學習處理器118內。在一些實施例中，可將來自資料記錄模組之資料作為回應資料之部分提供給深度學習處理器118，如結合圖2及圖4所討論或啟始一警報協定。
如圖6中所展示，深度學習處理器118可包含一處理單元(例如，CPU及/或處理器)610及匯流排605，匯流排605將各種系統組件(包含系統記憶體615(諸如唯讀記憶體(ROM)620及隨機存取記憶體(RAM 625)))耦合至處理單元610。處理單元610可包含一或多個處理器，諸如來自Motorola微處理器家族或MIPS微處理器家族之一處理器。在一替代實施例中，處理單元610可為用於控制深度學習處理器118之操作並執行預測性程序控制之專門設計之硬體。當在適當軟體或韌體之控制下起作用時，處理模組610可執行本文中所描述之各種機器學習演算法及計算。
記憶體615可包含具有不同效能特徵之各種記憶體類型，諸如記憶體快取612。處理器610可耦合至儲存裝置630，該儲存裝置630可經組態以儲存用於實施一或多個功能模組及/或資料庫系統所需之軟體 及指令。此等模組及/或資料庫系統之各者可經組態以控制處理器610以及一專用處理器，其中軟體指令併入至實際處理器設計中。
為了使操作員能夠與深度學習處理器互動，輸入裝置645可表示任何數目各輸入機構，諸如用於語音之一麥克風、用於手勢或圖形輸入之一觸敏螢幕、鍵盤、滑鼠、運動輸入等。一輸出裝置635亦可為熟習此項技術者已知之許多輸出機構(例如，列印機、監測器)之一或多者。在一些例項中，多模式系統可使得一操作員能夠提供多種類型之輸入以與深度學習處理器通信。通信介面640通常可組織及管理操作員輸入及系統輸出，以及自作為一製程之部分之其他組件(諸如站控制器、加工站、資料記錄模組及所有相關聯感測器及影像擷取裝置)接收及發送至其之所有電子輸入。對於在任何特定硬體配置上之操作沒有限制且因此在開發其等時，此處之基本特徵可容易替代經改良硬體或韌體配置。自深度學習處理器輸出之資料可可視地顯示、列印或以檔案形式產生並儲存於儲存裝置630中或傳輸至其他組件用於進一步處理。
通信介面640可經提供為介面卡(有時指稱「線卡」)。一般而言，其等控制網路上資料封包之發送及接收且有時支援與路由器一起使用之其他周邊裝置。可提供之介面係乙太網介面、訊框中繼介面、電纜介面、DSL介面、符記環介面及其類似者。另外，可提供各種非常高速之介面，諸如快速符記環介面、無線介面、乙太網介面、千兆乙太網介面、ATM介面、HSSI介面、POS介面、FDDI介面及其類似者。一般而言，此等介面可包含適合與適當媒體通信之埠。在一些情況下，其等亦可包含一獨立處理器，且在一些例項中包含揮發性RAM。獨立處理器可控制通信密集型任務，諸如封包交換、媒體控制及管理。藉由為通信密集型任務提 供單獨處理器，此等介面允許處理單元610有效地執行機器學習及實施預測性程序控制所必需之其他計算。通信介面640可經組態以與作為一製程之部分之其他組件(諸如站控制器、加工站、資料記錄模組及所有相關聯感測器及影像擷取裝置)通信。
在一些實施例中，深度學習處理器可包含一成像處理裝置670，該成像處理裝置670處理由各種影像擷取裝置(諸如攝像機)接收之影像，該等影像擷取裝置耦合一或多個加工站且能夠監測及擷取中間及最終輸出之影像。此等影像可經由通信介面640傳輸至深度學習處理器，並由影像處理裝置670處理。影像可經處理以提供可由深度學習處理器使用之資料(諸如缺陷之數目及類型、輸出尺寸、通量)以計算中間及最終輸出值。在一些實施例中，影像處理裝置可在深度學習處理器外部且經由通信介面640向深度學習處理器提供資訊。
儲存裝置630係一非暫時性記憶體且可為一硬碟或其他類型之電腦可讀媒體，其可儲存可由一電腦存取之資料，諸如磁帶、快閃記憶體卡、固態記憶體裝置、數位多功能光碟、盒式磁帶、隨機存取記憶體(RAM)625、唯讀記憶體(ROM)620及其混合。
在實踐中，儲存裝置630可經組態以接收、儲存及更新至深度學習處理器之輸入資料及來自深度學習處理器之輸出資料，例如功能先驗、經驗先驗、通用輸入；預加工輸入；加工中輸入及加工後輸入。
在一些實施例中，深度學習處理器318可包含與圖6中所展示之針對深度學習處理器118之相同組件，除了通信介面耦合至允許智慧蜜罐之一介面(經由程序控制器或控制器模仿器)以與網路技術連接，例如區域網路(LAN)、一廣域網路(WAN)、網際網路、藍牙技術、近場通信技 術、安全RF技術及/或任何其他合適通信技術或資料裝置(例如，拇指驅動器、快閃驅動器、USB驅動器)以接收輸入。該介面可使智慧蜜罐暴露於一惡意軟體攻擊。進一步言之，該通信介面不耦合至任何生產製程組件。
在一些實施例中，任何合適電腦可讀媒體可用於儲存用於執行本文中所描述之功能及/或程序之指令。例如，在一些實施例中，電腦可讀媒體可為暫時性的或非暫時性的。例如，非暫時性電腦可讀媒體可包含媒體，諸如非暫時性磁性媒體(諸如硬碟、軟碟等等)、非暫時性光學媒體(諸如光碟、數位視訊碟、藍光碟等等)、非暫時性半導體媒體(諸如快閃記憶體、電可程式化唯讀記憶體(EPROM)、電可擦除可程式化唯讀記憶體(EEPROM)等等)、不會短暫或沒有傳輸期間任何永久性外觀之任何合適媒體及/或任何合適有形媒體。作為另一實例，瞬態電腦可讀媒體可包含網路上之信號、電線、導體、光纖、電路及在傳輸期間短暫且沒有任何永久性外觀之任何合適媒體及/或任何合適無形媒體。
本文中所描述之各種系統、方法及電腦可讀媒體可經實施為一雲端網路環境之部分。如本文中所使用，一基於雲端之計算系統係向客戶端裝置提供虛擬化計算資源、軟體及/或資訊之一系統。可藉由維護邊緣裝置可通過一通信介面(諸如一網路)存取之集中服務及資源來虛擬化計算資源、軟體及/或資訊。雲端可經由雲端元素提供各種雲端計算服務，諸如軟體即服務(SaaS)(例如，協作服務、電子郵件服務、企業資源計劃服務、內容服務、通信服務等等)、基礎架構即服務(IaaS)(例如，安全服務、網路服務、系統管理服務等等)、平台即服務(PaaS)(例如，web服務、流服務、應用程式開發服務等等)及其他類型之服務，諸如桌面即服務(DaaS)、資訊技術管理即服務(ITaaS)、託管軟體即服務(MSaaS)、行 動後端即服務(MBaaS)等等。
本文中所描述之實例之提供(以及用片語表達為「諸如」、「例如」、「包含」及其類似者之條款)不應解釋為將所主張標的物限於特定實例；相反，該等實例僅旨在繪示許多可行態樣之一些。一般技術者將理解，術語「機構」可涵蓋硬體、軟體、韌體或其任何合適組合。
除非另外具體說明，否則如自上文討論明白，應瞭解，貫穿說明書，利用諸如「判定」、「提供」、「識別」、「比較」或其類似者之術語之討論係指在一電腦系統記憶體或暫存器或其他此等資訊儲存、傳輸或顯示裝置中操縱及轉換表示為實體(電子)量之資料之一電腦系統或類似電子計算裝置之動作及程序。本發明之某些態樣包含本文中以一演算法形式描述之程序步驟及指令。應注意，本發明之程序步驟及指令可體現於軟體、韌體或硬體中，且當體現於軟體中時，可經下載以駐留於由即時網路操作系統使用之不同平台上並自其操作。
本發明亦係關於用於執行本文中之操作之一器件。此器件可經特殊構造用於所需目的，或其可包括由儲存於可由電腦存取之一電腦可讀媒體上之一電腦程式選擇性地啟動或重新組態之一通用電腦。此一電腦程式可儲存於一電腦可讀儲存媒體中，諸如(但不限於)任何類型之磁碟，包含軟碟、光碟、CD-ROM、磁光碟、唯讀記憶體(ROM)、隨機存取記憶體(RAM)、EPROM、EEPROM、磁卡或光卡、專用積體電路(ASIC)或適用於儲存電子指令之任何類型之非暫時性電腦可讀儲存媒體。此外，說明書中提及之電腦可包含一單一處理器或可為採用多個處理器設計以提高計算能力之架構。
本文中所提出之演算法及操作與任何特定電腦或其他器件 沒有固有關聯。各種通用系統亦可與根據本文中之教示之程式一起使用，或其可證明構造更專用器件以執行所需方法步驟及與系統相關之動作很方便。熟習此項技術者將明白各種此等系統之所需結構連同等效變型。另外，未參考任何特定程式化語言來描述本發明。應瞭解，可使用各種程式化語言來實施如本文中所描述之本發明之教示，且提供對特定語言之任何引用以揭示本發明之實現例及最佳模式。
各個實施例之邏輯操作經實施為：(1)在一通用電腦內之一可程式化電路上運作之一序列電腦實施步驟、操作或程序，(2)在一專用可程式化電路上運作之一序列電腦實施步驟、操作或程序；及/或(3)在可程式化電路內之互連機器模組或程式引擎。該系統可實踐全部或部分所述方法，可為所述系統之一部分，及/或可根據所述非暫時性電腦可讀儲存媒體中之指令操作。此等邏輯操作可經實施為經組態以根據模組之程式化來控制處理器以執行特定功能之模組。
應理解，所揭示之程序中步驟之任何特定順序或階層係例示性方法之一圖解說明。基於設計偏好，應理解，可重新配置程序中步驟之特定順序或階層，或僅執行所繪示步驟之一部分。一些步驟可同時執行。例如，在某些情況下，多任務及並行處理可係有利的。此外，上文所描述之實施例中之各種系統組件之分離不應理解為在所有實施例中需要此分離，且應理解，所描述之程式組件及系統通常可整合在一單一軟體產品中或封包至多個軟體產品中。已具體參考此等所繪示實施例詳細描述用於智慧地模仿工廠控制系統並模擬回應資料之設備、方法及系統。然而，將明白，可在如先前說明書中所描述之本發明之精神及範疇內進行各種修改及改變，且此等修改及改變應視為本發明之等效物及部分。
118:深度學習處理器
120:站控制器
121:控制信號
121a:控制信號
121b:控制信號
122:加工站
124:中間輸出
125:控制值
125a:控制值
125b:控制值
126:控制輸入
127:獨立感測器
128:站值
134a:中間輸出值
136:通用輸入
137:獨立感測器
138:功能先驗
139:經驗先驗
140:站控制器
141:控制信號
141a:控制信號
141b:控制信號
142:加工站
144:中間輸出
144a:中間輸出值
145:控制值
145a:控制值
145b:控制值
146:控制輸入
148:站值
150:步驟
160:步驟
190:信號調節器
191:信號調節器
192:信號調節器
193:信號調節器
800:本地或中央資料處理伺服器
820:步驟
830:步驟
840:步驟

Claims (20)

  1. 一種用以產生智慧蜜罐之電腦實施方法，其包括：接收一訓練資料集，該訓練資料集包含用於一製程之回應資料；訓練一深度學習處理器之一或多個機器學習模型，以基於該回應資料產生預期行為模式資料；基於該訓練以判定該一或多個機器學習模型已經被調節；響應判定該一或多個機器學習模型已經被調節，產生一程序模擬器，該程序模擬器經組態以產生使用該一或多個機器學習模型之該製程期間反映目標回應資料的模擬回應資料；及將包含該程序模擬器之該深度學習處理器部署到一智慧蜜罐中。
  2. 如請求項1之電腦實施方法，其中該訓練資料集係從該製程接收到的。
  3. 如請求項1之電腦實施方法，其中接收該訓練資料集包含：接收該製程中所涉及的複數個站的效能指標。
  4. 如請求項1之電腦實施方法，其中訓練該深度學習處理器之該一或多個機器學習模型以基於該回應資料產生該預期行為模式資料包含：使用來自一類似製程的額外回應資料來增強訓練。
  5. 如請求項1之電腦實施方法，進一步包含： 在部署該深度學習處理器之後，以額外的訓練資料微調該深度學習處理器。
  6. 如請求項1之電腦實施方法，進一步包含：提供一或多個實際控制信號至該程序模擬器；及藉由該程序模擬器模擬該一或多個實際控制信號以產生要被提供至該深度學習處理器之實際回應資料。
  7. 如請求項6之電腦實施方法，進一步包含：藉由該深度學習處理器基於該一或多個實際控制信號以產生實際預期回應資料及實際預期行為模式資料；及藉由該深度學習處理器基於該實際回應資料以產生實際行為模式資料。
  8. 一種用以產生智慧蜜罐之系統，其包括：一或多個處理器；及一記憶體，其上儲存有程式指令，該等程式指令當被一或多個處理器執行時，使一電腦系統執行下列操作，包含：接收一資料訓練集，該資料訓練集包含用於一製程之回應資料；訓練一深度學習處理器之一或多個機器學習模型，以基於該回應資料產生預期行為模式資料；基於該訓練以判定該一或多個機器學習模型已經被調節；響應判定該一或多個機器學習模型已經被調節，產生一程序模擬 器，該程序模擬器經組態以產生該製程期間反映目標回應資料的模擬回應資料；及將包含該程序模擬器之該深度學習處理器部署到一智慧蜜罐中。
  9. 如請求項8之系統，其中該訓練資料集係從該製程接收到的。
  10. 如請求項8之系統，其中接收該訓練資料集包含：接收該製程中所涉及的複數個站的效能指標。
  11. 如請求項8之系統，其中訓練該深度學習處理器之該一或多個機器學習模型以基於該回應資料產生該預期行為模式資料包含：使用來自一類似製程的額外回應資料來增強訓練。
  12. 如請求項8之系統，其中該操作進一步包含：在部署該深度學習處理器之後，以額外的訓練資料微調該深度學習處理器。
  13. 如請求項8之系統，其中該操作進一步包含：提供一或多個實際控制信號至該程序模擬器；及藉由該程序模擬器模擬該一或多個實際控制信號以產生要被提供至該深度學習處理器之實際回應資料。
  14. 如請求項13之系統，其中該操作進一步包含： 藉由該深度學習處理器基於該一或多個實際控制信號以產生實際預期回應資料及實際預期行為模式資料；及藉由該深度學習處理器基於該實際回應資料以產生實際行為模式資料。
  15. 一種非暫時性、電腦可讀媒體，其包含一或多個指令序列，該指令序列被一多個處理器執行時，使一電腦系統執行下列操作，包含：接收一訓練資料集，該訓練資料集包含用於一製程之回應資料；訓練一深度學習處理器之一或多個機器學習模型，以基於該回應資料產生預期行為模式資料；基於該訓練以判定該一或多個機器學習模型已經被調節；響應判定該一或多個機器學習模型已經被調節，產生一程序模擬器，該程序模擬器經組態以產生使用該一或多個機器學習模型之該製程期間反映目標回應資料的模擬回應資料；及將包含該程序模擬器之該深度學習處理器部署到一智慧蜜罐中。
  16. 如請求項15之非暫時性、電腦可讀媒體，其中該訓練資料集係從該製程接收到的。
  17. 如請求項15之非暫時性、電腦可讀媒體，其中接收該訓練資料集包含：接收該製程中所涉及的複數個站的效能指標。
  18. 如請求項15之非暫時性、電腦可讀媒體，其中訓練該深度學習處理器之該一或多個機器學習模型以基於該回應資料產生該預期行為模式資料包含：使用來自一類似製程的額外回應資料來增強訓練。
  19. 如請求項15之非暫時性、電腦可讀媒體，進一步包含：在部署該深度學習處理器之後，以額外的訓練資料微調該深度學習處理器。
  20. 如請求項15之非暫時性、電腦可讀媒體，進一步包含：提供一或多個實際控制信號至該程序模擬器；藉由該程序模擬器模擬該一或多個實際控制信號以產生要被提供至該深度學習處理器之實際回應資料；藉由該深度學習處理器基於該一或多個實際控制信號以產生實際預期回應資料及實際預期行為模式資料；及藉由該深度學習處理器基於該實際回應資料以產生實際行為模式資料。
TW112103333A 2020-02-28 2021-02-26 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備 TWI892075B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US202062983510P 2020-02-28 2020-02-28
US202062983487P 2020-02-28 2020-02-28
US62/983,510 2020-02-28
US62/983,487 2020-02-28
US16/900,124 US11086988B1 (en) 2020-02-28 2020-06-12 Method, systems and apparatus for intelligently emulating factory control systems and simulating response data
US16/900,124 2020-06-12

Publications (2)

Publication Number Publication Date
TW202321960A TW202321960A (zh) 2023-06-01
TWI892075B true TWI892075B (zh) 2025-08-01

Family

ID=77491981

Family Applications (2)

Application Number Title Priority Date Filing Date
TW112103333A TWI892075B (zh) 2020-02-28 2021-02-26 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備
TW110107186A TWI794756B (zh) 2020-02-28 2021-02-26 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備

Family Applications After (1)

Application Number Title Priority Date Filing Date
TW110107186A TWI794756B (zh) 2020-02-28 2021-02-26 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備

Country Status (6)

Country Link
EP (1) EP4111339A4 (zh)
JP (1) JP7458097B2 (zh)
KR (1) KR102837527B1 (zh)
CN (1) CN115136080B (zh)
TW (2) TWI892075B (zh)
WO (1) WO2021173961A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11669617B2 (en) * 2021-09-15 2023-06-06 Nanotronics Imaging, Inc. Method, systems and apparatus for intelligently emulating factory control systems and simulating response data
CN115292007B (zh) * 2022-09-28 2022-12-30 广东河海工程咨询有限公司 基于云服务的水利模型仿真计算系统及计算方法
TWI833495B (zh) * 2022-12-09 2024-02-21 新唐科技股份有限公司 用於開發控制器的雲端系統、控制器開發方法與控制器
KR102772222B1 (ko) * 2023-02-06 2025-02-21 한국건설기계연구원 제스처 인식을 이용한 안전 지원 장치 및 방법
CN116088349B (zh) * 2023-03-07 2023-06-27 东方空间技术(山东)有限公司 基于lstm的火箭半实物仿真数据异常评估方法及决策装置
KR102812818B1 (ko) * 2024-07-09 2025-05-27 주식회사 알세미 인공지능을 기반으로 하는 소자 시뮬레이션의 이상 탐지 방법, 프로그램 및 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060058898A1 (en) * 2004-09-10 2006-03-16 Emigholz Kenneth F System and method for abnormal event detection in the operation of continuous industrial processes
US20160170996A1 (en) * 2014-08-21 2016-06-16 Affectomatics Ltd. Crowd-based scores for experiences from measurements of affective response
US20180248905A1 (en) * 2017-02-24 2018-08-30 Ciena Corporation Systems and methods to detect abnormal behavior in networks
US20190138897A1 (en) * 2017-11-08 2019-05-09 Samsung Electronics Co., Ltd. System and method for circuit simulation based on recurrent neural networks
TW201941194A (zh) * 2018-02-14 2019-10-16 成真股份有限公司 使用標準商業化可編程邏輯ic晶片之邏輯驅動器

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9009084B2 (en) 2002-10-21 2015-04-14 Rockwell Automation Technologies, Inc. System and methodology providing automation security analysis and network intrusion protection in an industrial environment
EP1999925B1 (en) * 2006-03-27 2011-07-06 Telecom Italia S.p.A. A method and system for identifying malicious messages in mobile communication networks, related network and computer program product therefor
US9989958B2 (en) * 2013-05-09 2018-06-05 Rockwell Automation Technologies, Inc. Using cloud-based data for virtualization of an industrial automation environment
US9703902B2 (en) * 2013-05-09 2017-07-11 Rockwell Automation Technologies, Inc. Using cloud-based data for industrial simulation
US9171160B2 (en) * 2013-09-30 2015-10-27 Fireeye, Inc. Dynamically adaptive framework and method for classifying malware using intelligent static, emulation, and dynamic analyses
US20160352762A1 (en) * 2015-05-26 2016-12-01 International Business Machines Corporation Probabilistically Detecting Low Intensity Threat Events
US20170134405A1 (en) * 2015-11-09 2017-05-11 Qualcomm Incorporated Dynamic Honeypot System
WO2017160913A1 (en) * 2016-03-15 2017-09-21 Sri International Intrusion detection via semantic fuzzing and message provenance
WO2018044410A1 (en) * 2016-09-01 2018-03-08 Siemens Aktiengesellschaft High interaction non-intrusive industrial control system honeypot
US20180165602A1 (en) * 2016-12-14 2018-06-14 Microsoft Technology Licensing, Llc Scalability of reinforcement learning by separation of concerns
EP3379357B1 (en) * 2017-03-24 2019-07-10 ABB Schweiz AG Computer system and method for monitoring the technical state of industrial process systems
US10419468B2 (en) * 2017-07-11 2019-09-17 The Boeing Company Cyber security system with adaptive machine learning features
US10579494B2 (en) * 2018-01-05 2020-03-03 Nec Corporation Methods and systems for machine-learning-based resource prediction for resource allocation and anomaly detection
WO2019182913A1 (en) * 2018-03-20 2019-09-26 Tokyo Electron Limited Self-aware and correcting heterogenous platform incorporating integrated semiconductor processing modules and method for using same
US10686807B2 (en) * 2018-06-12 2020-06-16 International Business Machines Corporation Intrusion detection system
US10685159B2 (en) * 2018-06-27 2020-06-16 Intel Corporation Analog functional safety with anomaly detection
CN109167796B (zh) * 2018-09-30 2020-05-19 浙江大学 一种基于工业scada系统的深度包检测平台
CN110677408B (zh) * 2019-07-09 2021-07-09 腾讯科技（深圳）有限公司 攻击信息的处理方法和装置、存储介质及电子装置
CN110851834B (zh) * 2019-11-18 2024-02-27 北京工业大学 融合多特征分类的安卓恶意应用检测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060058898A1 (en) * 2004-09-10 2006-03-16 Emigholz Kenneth F System and method for abnormal event detection in the operation of continuous industrial processes
US20160170996A1 (en) * 2014-08-21 2016-06-16 Affectomatics Ltd. Crowd-based scores for experiences from measurements of affective response
US20180248905A1 (en) * 2017-02-24 2018-08-30 Ciena Corporation Systems and methods to detect abnormal behavior in networks
US20190138897A1 (en) * 2017-11-08 2019-05-09 Samsung Electronics Co., Ltd. System and method for circuit simulation based on recurrent neural networks
TW201941194A (zh) * 2018-02-14 2019-10-16 成真股份有限公司 使用標準商業化可編程邏輯ic晶片之邏輯驅動器

Also Published As

Publication number Publication date
KR102837527B1 (ko) 2025-07-22
EP4111339A1 (en) 2023-01-04
JP7458097B2 (ja) 2024-03-29
TW202321960A (zh) 2023-06-01
TWI794756B (zh) 2023-03-01
CN115136080B (zh) 2025-02-25
WO2021173961A1 (en) 2021-09-02
EP4111339A4 (en) 2023-08-16
JP2023515161A (ja) 2023-04-12
KR20220163948A (ko) 2022-12-12
TW202203208A (zh) 2022-01-16
CN115136080A (zh) 2022-09-30

Similar Documents

Publication Publication Date Title
TWI892075B (zh) 用於智慧地模仿工廠控制系統及模擬回應資料之方法、系統及設備
JP7740748B2 (ja) 工場のプロセス、機器、および自動化システムの動的な監視および保護
US12111922B2 (en) Method, systems and apparatus for intelligently emulating factory control systems and simulating response data
US12155673B2 (en) Dynamic monitoring and securing of factory processes, equipment and automated systems
US12118089B2 (en) Method, systems and apparatus for intelligently emulating factory control systems and simulating response data
TWI910657B (zh) 電腦實施方法、用於工廠加工、設備及控制系統之動態監測及保護之系統、及非暫時性電腦可讀儲存媒體