關(guān)于機(jī)器學(xué)習(xí)與工業(yè)智能,這些觀(guān)點(diǎn)不容錯(cuò)過(guò)!
2018 CUHK Shenzhen-TBSI機(jī)器學(xué)習(xí)與工業(yè)智能?chē)?guó)際論壇,這場(chǎng)匯聚全球一流工程、自動(dòng)控制等專(zhuān)業(yè)教授的論壇,究竟討論了些什么,又帶來(lái)了怎樣新鮮的成果呢?讓我們來(lái)快速盤(pán)點(diǎn)一下,在工業(yè)智能、智能制造、智能操作和控制、工業(yè)物聯(lián)網(wǎng)、不確定性處理,以及機(jī)器學(xué)習(xí)領(lǐng)域知識(shí)整合方面的最新觀(guān)點(diǎn)。

?
鄭立中
麻省理工學(xué)院電氣與計(jì)算機(jī)科學(xué)系教授
演講主題:在神經(jīng)網(wǎng)絡(luò)中連接數(shù)據(jù)和專(zhuān)業(yè)領(lǐng)域知識(shí)(Connect Data with Domain Knowledge in Neural Networks?)

演講精華:神經(jīng)網(wǎng)絡(luò)的能力源于它是一種非常通用的,幾乎是“盲目”的工具,可以直接從數(shù)據(jù)中提取有用的信息。與傳統(tǒng)的數(shù)據(jù)分析方法不同,它不假設(shè)任何數(shù)據(jù)統(tǒng)計(jì)模型,結(jié)構(gòu),關(guān)系或約束的知識(shí),但試圖使用通用的網(wǎng)絡(luò)結(jié)構(gòu)來(lái)學(xué)習(xí)和表示所有類(lèi)型的模型。另一方面,如果我們對(duì)模型有一些了解,原則上我們應(yīng)該能夠使推理算法更有效率。
我們?cè)撊绾握{(diào)整神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)以反映我們對(duì)統(tǒng)計(jì)模型和數(shù)據(jù)結(jié)構(gòu)的了解?這是本次演講的主題。從概念上講,我們需要確定在學(xué)習(xí)過(guò)程中神經(jīng)網(wǎng)絡(luò)內(nèi)部發(fā)生了什么,找出正在計(jì)算的統(tǒng)計(jì)量以及它們?nèi)绾未鎯?chǔ)在網(wǎng)絡(luò)中。為此,我們制定了新的問(wèn)題稱(chēng)為“通用特征選擇”,我們需要從高維數(shù)據(jù)中選取低維特征用來(lái)解決一個(gè)系列的推理問(wèn)題。我們解決了這個(gè)問(wèn)題,并證明了解決方案與一些信息論和統(tǒng)計(jì)學(xué)中的概念緊密相關(guān),比如HGR相關(guān)和公共信息,以及一些學(xué)習(xí)算法如PCA,CCA,矩陣分解,神經(jīng)網(wǎng)絡(luò),能隱含地解決同樣的問(wèn)題。然后,我們展示了對(duì)神經(jīng)網(wǎng)絡(luò)的理論上的理解如何幫助我們建立性能上限并更系統(tǒng)地設(shè)計(jì)網(wǎng)絡(luò)參數(shù);并在新網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)中包含特定知識(shí)。
?
Sigurd Skogestad
挪威科技大學(xué) 全職教授
演講主題:流程優(yōu)化的代理模型(Surrogate Models for Process Optimization)

演講精華:使用商業(yè)模擬器的過(guò)程優(yōu)化是耗時(shí)且不可靠的。我們通過(guò)仿真生成替代模型,因?yàn)槟M是耗時(shí)的,所以減少模擬次數(shù)(“樣本”)非常重要。 替代模型與精確的物料平衡相結(jié)合,以避免替代模型需要“學(xué)習(xí)”物料守恒。 為了使替代模型覆蓋相關(guān)的操作條件(通常意味著避免強(qiáng)非線(xiàn)性區(qū)域),選擇適當(dāng)?shù)淖宰兞渴呛苤匾?,這里我們使用控制理論中的思想,包括自我優(yōu)化控制。 這項(xiàng)工作是基于Julian Straus(2018)的博士論文。
?
Rolf Findeisen
德國(guó)馬格德堡大學(xué)系統(tǒng)理論與自動(dòng)控制實(shí)驗(yàn)室教授兼主任
演講主題:對(duì)聯(lián)網(wǎng)自治系統(tǒng)的預(yù)測(cè)、學(xué)習(xí)支持控制(Predictive, Learning Supported Control for Connected Autonomous Systems)

演講精華:由于通信和信息技術(shù)系統(tǒng)的快速發(fā)展,系統(tǒng)越來(lái)越多地與相鄰系統(tǒng)或云端系統(tǒng)交換信息。 例如智能電網(wǎng),生產(chǎn)系統(tǒng)或多模式運(yùn)輸系統(tǒng)。雖然系統(tǒng)互聯(lián)提供了許多誘人的可能性,但它們也存在一些挑戰(zhàn),比如什么是合適的可擴(kuò)展控制和監(jiān)控技術(shù),可以促進(jìn)自治、即插即用操作并同時(shí)實(shí)現(xiàn)全局最優(yōu);如何將這些方法與機(jī)器學(xué)習(xí)相結(jié)合來(lái)應(yīng)對(duì)不確定性。 我們提出了基于協(xié)議的預(yù)測(cè)控制策略,它支持復(fù)雜系統(tǒng)的模塊化設(shè)計(jì),這有利于系統(tǒng)的分層和分散自主操作。
?
高福榮 香港科技大學(xué)講座教授、
博士生導(dǎo)師,浙江大學(xué)求是教授,
演講主題:智能制造工廠(chǎng)研究面臨的挑戰(zhàn)和機(jī)遇(Smart Manufacturing Plant Research Challenges and Opportunities)

演講精華:一個(gè)常規(guī)的工廠(chǎng)是由一些生產(chǎn)線(xiàn)組成的,每條生產(chǎn)線(xiàn)由多個(gè)設(shè)備組合而成。每個(gè)設(shè)備由不同的制造商提供。產(chǎn)品的改變需要這些設(shè)備的重新整合。在現(xiàn)代通信使得大型工業(yè)數(shù)據(jù)日益普及的今天,對(duì)于控制/自動(dòng)化研究人員來(lái)說(shuō),他們正在面臨著一些開(kāi)放的挑戰(zhàn)和機(jī)遇。對(duì)于研究界和教育界如何利用這一優(yōu)勢(shì)來(lái)應(yīng)對(duì)制造業(yè)挑戰(zhàn),演講者希望以熱塑性塑料注塑成型為例來(lái)說(shuō)明和討論智能制造工廠(chǎng)面臨的挑戰(zhàn)和機(jī)遇。
?
S. Joe Qin
自動(dòng)控制專(zhuān)家,美國(guó)南加州大學(xué)Fluor講席教授。
國(guó)際電機(jī)及電子工程師學(xué)會(huì)(IEEE)院士、國(guó)際自動(dòng)控制聯(lián)合會(huì)院士,現(xiàn)任香港中文大學(xué)(深圳)教授
演講主題:用于操作和制造過(guò)程智能的高維數(shù)據(jù)分析(High Dimensional Data Analytics for Operations and Manufacturing Process Intelligence)

演講精華:制造過(guò)程系統(tǒng)通過(guò)計(jì)算機(jī)控制系統(tǒng)從日常操作中收集和存儲(chǔ)大量的數(shù)據(jù)。大量的數(shù)據(jù)為操作和控制系統(tǒng)的故障診斷提供了有價(jià)值的依據(jù)。然而,迄今為止的大多數(shù)控制理論和實(shí)踐研究都集中在系統(tǒng)辨識(shí)上,其中數(shù)據(jù)是通過(guò)精心設(shè)計(jì)的實(shí)驗(yàn)收集的,或者是在假設(shè)正常過(guò)程模型被假定為可用的故障檢測(cè)的情況下。在這些領(lǐng)域中發(fā)展良好的理論和缺乏反饋控制下的常規(guī)操作數(shù)據(jù)分析方法之間存在明顯的差距。這些海量數(shù)據(jù)通常是動(dòng)態(tài)的,但遠(yuǎn)未被完全開(kāi)發(fā)。因此,需要理論和方法來(lái)分析這些數(shù)據(jù),其中動(dòng)態(tài)僅存在于高維測(cè)量空間的子空間中。
在本次講座中,我們首先提供了基于隱變量建模方法和機(jī)器學(xué)習(xí)的過(guò)程數(shù)據(jù)分析的歷史觀(guān)點(diǎn),以及在常規(guī)操作下從測(cè)量數(shù)據(jù)中提取期望的組件或特征的目標(biāo)。然后將這些方法擴(kuò)展到建模高維動(dòng)態(tài)時(shí)間序列數(shù)據(jù),以提取動(dòng)態(tài)潛變量。不同于僅對(duì)提取的分量最大化方差的主成分分析,動(dòng)態(tài)潛變量方法從其過(guò)去值提取最佳預(yù)測(cè)的動(dòng)態(tài)分量。我們展示了一個(gè)工業(yè)案例研究如何有效地模擬真實(shí)的過(guò)程數(shù)據(jù)。使用這些動(dòng)態(tài)方法提取過(guò)程操作和控制的特征,從而引出關(guān)于工藝數(shù)據(jù)對(duì)于制造過(guò)程的故障診斷、診斷和有效控制的新視角。
?
Jin Wang?
美國(guó)奧本大學(xué)化學(xué)工程系教授
演講主題:智能制造大數(shù)據(jù)分析面臨的挑戰(zhàn)和機(jī)遇:我們從支持物聯(lián)網(wǎng)的制造技術(shù)試驗(yàn)臺(tái)(MTT)中學(xué)到了什么(Challenges and Opportunities in Big Data Analytics for Smart Manufacturing: What We Learned from IoT-enabled Manufacturing Technology Test Beds (MTTs))

演講精華:從消費(fèi)者服務(wù)和產(chǎn)品行業(yè)開(kāi)始,物聯(lián)網(wǎng)(IOT)技術(shù)在各個(gè)行業(yè)引起了越來(lái)越多的興趣。盡管工業(yè)物聯(lián)網(wǎng)仍處于起步階段,但包括醫(yī)療保健庫(kù)存和供應(yīng)鏈管理、運(yùn)輸、工作場(chǎng)所和家庭支持、安全和監(jiān)視等各個(gè)行業(yè)在內(nèi)的相關(guān)許多應(yīng)用正在逐步開(kāi)發(fā)和部署。由于IOT傳感器通常比傳統(tǒng)傳感器便宜得多,更小,因此有可能用大量傳感器來(lái)檢測(cè)制造系統(tǒng)。前提是,從IOT傳感器收集的大數(shù)據(jù)可以用于提取工業(yè)智能和推進(jìn)制造業(yè)。因此,大數(shù)據(jù)分析,特別是數(shù)據(jù)驅(qū)動(dòng)的統(tǒng)計(jì)過(guò)程監(jiān)控(SPM)預(yù)計(jì)將顯著促進(jìn)智能制造的進(jìn)步。然而,這種類(lèi)型的物聯(lián)網(wǎng)應(yīng)用并沒(méi)有引起學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注。一個(gè)可能的原因是這樣的應(yīng)用的好處還沒(méi)有被認(rèn)可或測(cè)試。在這篇文章中,我們簡(jiǎn)要回顧了現(xiàn)有的物聯(lián)網(wǎng)智能制造的最新技術(shù),并提出了兩個(gè)IOT使能制造技術(shù)試驗(yàn)臺(tái)(MTT),現(xiàn)有兩個(gè)IOT使能制造技術(shù)試驗(yàn)臺(tái)(MTT),探討IOT傳感器的制造潛力,了解IOT傳感器產(chǎn)生的數(shù)據(jù)特征。此外,我們還討論了與大數(shù)據(jù)分析相關(guān)的潛力和挑戰(zhàn)。提出了面向物聯(lián)網(wǎng)的智能制造系統(tǒng),并提出了基于統(tǒng)計(jì)模式分析(SPA)的框架作為智能制造的有前途的SPM工具。
?
Sirish L. Shah
加拿大阿爾伯塔大學(xué)名譽(yù)教授
加拿大工程學(xué)院和加拿大化學(xué)研究所研究員
演講主題:流程行業(yè)的大數(shù)據(jù)和分析:不僅僅是炒作?(Big Data and Analytics in the Process Industry: More than just hype?)

演講精華:流程行業(yè)中擁有多年來(lái)保存的所有類(lèi)型的數(shù)據(jù):傳感器數(shù)據(jù)(主要是數(shù)字?jǐn)?shù)據(jù)),具有操作的二值警報(bào)數(shù)據(jù)(分類(lèi)數(shù)據(jù)),去“導(dǎo)航”流程在期望的條件下去操作,以及識(shí)別和監(jiān)控應(yīng)用于高級(jí)控制流程模型。除此之外,包括有關(guān)流程拓?fù)湫畔⑷ゲ东@過(guò)程中的材料和信息流路徑也很重要。來(lái)自這些不同流程的數(shù)據(jù)源的信息融合是設(shè)計(jì)用于自主過(guò)程操作的智能分析平臺(tái)策略的關(guān)鍵步驟。本次研討會(huì)的目的是介紹關(guān)于我們預(yù)測(cè)性監(jiān)測(cè)和最佳自主或半自動(dòng)流程操作的相關(guān)實(shí)驗(yàn)結(jié)果和方法。
?
Jay H. Lee
韓國(guó)先進(jìn)科技學(xué)院,化學(xué)和生物分子工程專(zhuān)業(yè),教授
演講主題:通過(guò)結(jié)合強(qiáng)化學(xué)習(xí)和數(shù)學(xué)規(guī)劃最優(yōu)化多尺度決策(OptimalMulti-scale Decision-Making by Combining / Reinforcement Learning andMathematical Programming)

演講精華:一般而言,順序控制決策過(guò)程,如控制系統(tǒng),采取閉環(huán)系統(tǒng),觀(guān)察由所采取的決策和不確定性所導(dǎo)致的動(dòng)態(tài)隨機(jī)環(huán)境的響應(yīng)。這種動(dòng)態(tài)隨機(jī)決策問(wèn)題存在于工業(yè)和制造系統(tǒng)、機(jī)器人、金融應(yīng)用、醫(yī)療應(yīng)用、計(jì)算和通信、游戲和電力系統(tǒng)等領(lǐng)域。在一些應(yīng)用中,決策過(guò)程發(fā)生在多個(gè)時(shí)間尺度的不同級(jí)別上,這被稱(chēng)為多尺度決策問(wèn)題。例如,在過(guò)程系統(tǒng)工程共同體所采用的標(biāo)準(zhǔn)決策層次中,高層次的戰(zhàn)略或規(guī)劃問(wèn)題提供了一組較長(zhǎng)時(shí)間尺度上的決策(例如,目標(biāo)、設(shè)定點(diǎn)),然后將其作為輸入,輸入到較低級(jí)別的操作子問(wèn)題(例如,調(diào)度,控制),目的是在更快的時(shí)間尺度上獲得完整的執(zhí)行解決方案。本研究著重于具有不同時(shí)間尺度的決策層之間的聯(lián)系。通過(guò)解決不同層次之間的不一致性,決策過(guò)程邊界的擴(kuò)展可以提供更加健全和靈活的管理和控制策略。為此,強(qiáng)化學(xué)習(xí)(RL)能夠通過(guò)與環(huán)境的相互作用不斷改進(jìn)決策策略,并以相互補(bǔ)充的方式與傳統(tǒng)的數(shù)學(xué)規(guī)劃相結(jié)合,因?yàn)槊糠N方法的優(yōu)缺點(diǎn)是與決策層次中的高級(jí)別或低級(jí)別的特征相關(guān)的。本文提出了可再生微電網(wǎng)網(wǎng)絡(luò)和煉油廠(chǎng)管理的實(shí)際例子,來(lái)闡釋上述方法,并給出了基準(zhǔn)案例研究的數(shù)值結(jié)果。
?
Dominique Bonvin
瑞士洛桑聯(lián)邦理工學(xué)院自動(dòng)控制專(zhuān)業(yè)教授
演講主題:通過(guò)修飾符適應(yīng)和高斯過(guò)程對(duì)不確定過(guò)程系統(tǒng)的實(shí)時(shí)優(yōu)化(Real-Time Optimization of Uncertain Process Systems via Modifier Adaptation and Gaussian Processes)

演講精華:在靜態(tài)實(shí)時(shí)優(yōu)化的背景下, 測(cè)量的使用允許以工廠(chǎng)模型不匹配和干擾的形式處理不確定性。修飾適應(yīng)(MA)是基于測(cè)量的方案,使用對(duì)模型成本和約束函數(shù)的一階校正,以便在收斂時(shí)實(shí)現(xiàn)工廠(chǎng)模型最優(yōu)性。然而,一階校正主要依賴(lài)于工廠(chǎng)模型梯度的估計(jì),這通常需要耗費(fèi)大量工廠(chǎng)模型實(shí)驗(yàn)。本文提出通過(guò)MA實(shí)現(xiàn)實(shí)時(shí)優(yōu)化,但使用遞歸高斯過(guò)程來(lái)表示工廠(chǎng)模型不匹配性并估計(jì)工廠(chǎng)模型梯度。通過(guò)這種方式,可以(1)減弱噪聲測(cè)量的影響,(2)通過(guò)有限差分方案和額外的工廠(chǎng)實(shí)驗(yàn)來(lái)避免工廠(chǎng)模型梯度估計(jì)。我們使用穩(wěn)態(tài)優(yōu)化數(shù)據(jù)來(lái)構(gòu)建高斯過(guò)程回歸函數(shù)。通過(guò)Williams-Otto反應(yīng)堆問(wèn)題的約束變體說(shuō)明了所提出的方案的效率。
?
Bhushan Gopaluni
加拿大不列顛哥倫比亞大學(xué)化學(xué)與生物工程系本科研究教授兼副主任
演講主題:對(duì)過(guò)程控制的深度強(qiáng)化學(xué)習(xí):機(jī)會(huì)和挑戰(zhàn)(Deep Reinforcement Learning for Process Control: Opportunities and Challenges)

演講精華:設(shè)計(jì)控制器的傳統(tǒng)方法涉及廣泛的數(shù)據(jù)收集,數(shù)學(xué)模型的開(kāi)發(fā)以及最終設(shè)計(jì)適當(dāng)?shù)目刂破?。該方法可能相?dāng)耗時(shí)并且需要頻繁地維護(hù)模型以響應(yīng)過(guò)程條件的變化。對(duì)于非線(xiàn)性,高維和隨機(jī)的復(fù)雜系統(tǒng),控制器設(shè)計(jì)和模型維護(hù)沒(méi)有很好的解決方案。我們提出了一種算法,該算法使用強(qiáng)化學(xué)習(xí)來(lái)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)以學(xué)習(xí)最優(yōu)控制策略。強(qiáng)化學(xué)習(xí)的關(guān)鍵挑戰(zhàn)之一是學(xué)習(xí)過(guò)程通常需要大量的數(shù)據(jù),這些數(shù)據(jù)在實(shí)踐中很難從物理過(guò)程中獲得。為了解決這個(gè)問(wèn)題,我們的算法從過(guò)程觀(guān)察的分布中抽樣,并使用離線(xiàn)設(shè)計(jì)的模型預(yù)測(cè)控制器(MPC)來(lái)做預(yù)測(cè)。該算法將過(guò)程觀(guān)察映射到控制策略,并且學(xué)習(xí)過(guò)程由MPC的輸出引導(dǎo)。引導(dǎo)式策略搜索可降低訓(xùn)練數(shù)據(jù)的要求。這種設(shè)計(jì)控制器的方法有幾個(gè)優(yōu)點(diǎn):(1)減少訓(xùn)練數(shù)據(jù)集的大小(2)不需要顯式模型(3)不需要明確的控制方法(4)模型維護(hù)由強(qiáng)化學(xué)習(xí)算法處理(5)該算法適用于復(fù)雜的多維非線(xiàn)性過(guò)程。
?
Jong Min Lee
韓國(guó)首爾國(guó)立大學(xué)(SNU)
化學(xué)和生物工程學(xué)院副教授,
工程發(fā)展研究中心(EDRC)主任
演講主題:基于模型的深度強(qiáng)化學(xué)習(xí)化學(xué)過(guò)程的隨機(jī)控制:最新進(jìn)展和未來(lái)方向(Model-based Deep Reinforcement Learning for Stochastic Control of Chemical Processes: Recent Advances and Future Directions)

演講精華:在動(dòng)態(tài)優(yōu)化問(wèn)題的方法中,由于“維數(shù)詛咒”,動(dòng)態(tài)規(guī)劃(DP)被認(rèn)為是不切實(shí)際的。盡管如此,DP在存在不確定性的情況下提供閉環(huán)最優(yōu)解,并且沒(méi)有在線(xiàn)計(jì)算負(fù)擔(dān)。因此,旨在獲得DP的近似解的強(qiáng)化學(xué)習(xí)(RL)已經(jīng)在各個(gè)領(lǐng)域中被廣泛研究。RL的最新進(jìn)展是植根兩個(gè)無(wú)關(guān)的特點(diǎn):第一,深層神經(jīng)網(wǎng)絡(luò)的發(fā)展(DNNS)通過(guò)自動(dòng)提取域的特征,二是算法不需要結(jié)構(gòu)啟用的高維非線(xiàn)性函數(shù)逼近系統(tǒng)和成本。雖然無(wú)模型設(shè)置可以成功應(yīng)用于允許大量試錯(cuò)數(shù)據(jù)采集的領(lǐng)域,例如游戲和機(jī)器人,但這種試錯(cuò)法不能應(yīng)用于流程操作。因此,應(yīng)該利用知識(shí)模型來(lái)提高數(shù)據(jù)效率。在此,該演示文稿介紹了基于模型的RL。我們?yōu)橛邢迺r(shí)域跟蹤問(wèn)題演示了基于模型的RL的合適公式。簡(jiǎn)要回顧了經(jīng)典DP,RL的最新進(jìn)展,并討論了未來(lái)的研究方向。
?
文:王勇、關(guān)鳴悅
編輯:馬小帥
