閱讀 | 訂閱
閱讀 | 訂閱
3D新聞

前沿研究丨基於神經網絡的機器學習方法在3D打印中的應用

星之球科技 來源:3DScienceValley2021-03-31 我要評論(0 )   

得益於(yu) 規模龐大的數據集、計算能力的提高和計算模型的優(you) 化改善,神經網絡算法已成為(wei) 機器學習(xi) 算法中使用最廣泛的模型。當前一個(ge) 明顯的趨勢是,神經網絡算法的經驗成果正...

得益於(yu) 規模龐大的數據集、計算能力的提高和計算模型的優(you) 化改善,神經網絡算法已成為(wei) 機器學習(xi) 算法中使用最廣泛的模型。當前一個(ge) 明顯的趨勢是,神經網絡算法的經驗成果正在向傳(chuan) 統製造領域進行遷移,並對製造行業(ye) 的產(chan) 品設計、製造、質檢到交付等價(jia) 值鏈環節,產(chan) 生了深遠而廣泛的影響。

中國工程院院刊《Engineering》刊發《將基於(yu) 神經網絡的機器學習(xi) 方法應用於(yu) 增材製造——應用現狀、當前挑戰和未來前景》,綜述了神經網絡算法在增材製造全鏈條中的模型設計、實時監測、質量評價(jia) 等方麵的應用進展。文章介紹了增材製造技術和神經網絡算法的發展情況,概述了當前將神經網絡應用於(yu) 增材製造所遇到的挑戰以及針對這些問題的可能解決(jue) 方案,並討論了未來趨勢以對這一跨學科領域進行探討。

歐洲5G工業(ye) 園

引言

相對於(yu) 傳(chuan) 統的減材製造技術,增材製造(AM)是現代工業(ye) 範式中一種前景廣闊的數字化加工方法,其已引起全世界的廣泛關(guan) 注。

AM通過三維(3D)計算機輔助設計(CAD)模型逐層構造物體(ti) ,擁有以下優(you) 勢:

它能創造具有複雜形狀的產(chan) 品,如拓撲優(you) 化結構,該結構難以用傳(chuan) 統鑄造或鍛造工藝製得;可以用它來產(chan) 生新的材料特性,如位錯網絡,這一點對學術研究人員非常有吸引力;它能減少材料浪費,節省工業(ye) 成本。然而,AM部件也存在許多獨有的缺陷,這些缺陷與(yu) 鑄造和鍛造部件中出現的缺陷不同,例如由於(yu) 未熔合和氣體(ti) 捕獲導致的孔隙率、在相對於(yu) 打印方向的垂直和平行方向上嚴(yan) 重的各向異性微觀結構,以及由高冷卻速率和大溫度梯度引起殘餘(yu) 應力過大而導致的畸變。因此,研究者們(men) 必須更好地理解粉末冶金參數、打印工藝以及AM部件的微觀結構和機械性能之間的複雜關(guan) 係。

整個(ge) AM流程總是涉及許多可以決(jue) 定最終產(chan) 品性能的基本參數。例如,在選擇性激光熔化(SLM)中,激光功率、掃描速度、掃描間距和層厚等加工參數都能顯著影響所製造的部件質量。但是,這些參數與(yu) 最終質量之間的關(guan) 係過於(yu) 複雜而難以為(wei) 人們(men) 所理解,因為(wei) SLM是一個(ge) 多物理、多尺度過程,包括微觀尺度下粉末-激光相互作用、介觀尺度下熔池動力學和柱狀晶生長,以及宏觀尺度下熱力耦合。為(wei) 了能以更清晰、更準確的方式對這種關(guan) 係進行描述,研究人員已嚐試建立各種物理模型。例如,Acharya等提出了計算流體(ti) 動力學(CFD)和相場模型,以模擬激光粉末床融合(PBF)過程中沉積態的晶粒結構演化。Fergani等提出了一種解析模型,用以評估金屬材料AM過程中的殘餘(yu) 應力。此外,Chen等采用有限元模型來研究熔池形狀和焊縫形狀。可以看出,上述各個(ge) 模擬方法從(cong) 粉末尺度到部件尺度都不相同,並且由於(yu) 缺乏對AM的深入理解,這些模擬研究隻能集中於(yu) 整個(ge) 製造過程的一個(ge) 或兩(liang) 個(ge) 方麵。

目前,通過這些物理驅動的方法不可能在短時間內(nei) 快速準確地預測整個(ge) AM過程。除了上述物理驅動模型外,數據驅動的模型也已廣泛應用於(yu) AM領域,這些模型統一稱為(wei) 機器學習(xi) 算法(ML)。這種模型的壓倒性優(you) 勢在於(yu) 其不需要構建一係列基於(yu) 物理過程的方程。取而代之的是,它們(men) 會(hui) 根據以前的數據自動學習(xi) 輸入特征和輸出目標之間的關(guan) 係。在機器學習(xi) 方法中,神經網絡(NN)算法最為(wei) 廣泛使用,並且由於(yu) 當前大量可用的數據和計算資源,以及其先進的算法結構,該算法目前正在快速發展。例如,NN是計算機視覺、語音識別、自然語言處理和自動駕駛等領域的主要驅動力。NN在識別上述任務中潛在的複雜模式方麵表現出了它的強大優(you) 勢,其中大部分模式曾被認為(wei) 隻有人類有可能分辨出來。此外,一個(ge) 明顯的趨勢是,在這些領域中利用NN的經驗成果正在向傳(chuan) 統的製造領域(包括AM)進行遷移。NN對製造行業(ye) 中的整個(ge) 價(jia) 值鏈創新,從(cong) 產(chan) 品設計、製造、質檢到交付等,都產(chan) 生了深遠而廣泛的影響,並且其帶來的影響將越來越強烈。

本文概述了研究人員將NN算法應用於(yu) AM的最新進展。文章組織結構如下:第2部分簡要介紹了AM技術和NN算法;第3部分總結了NN在AM中的詳細應用;第4部分概述了當前應用過程中的挑戰和可能的解決(jue) 方案;第5部分描述了該交叉領域的未來趨勢。

方法

AM技術

AM是一個(ge) 相對於(yu) 傳(chuan) 統減材製造[即鑄造、鍛造和計算機數控(CNC)]的概念術語,其根據不同的打印技術可進一步分為(wei) 多種類別。其中,粉末床熔融成型(PBF)、黏合劑噴射(BJ)和材料擠出成型(ME)是3種廣泛使用的技術。PBF使用熱源燒結或熔化金屬(或塑料)粉末來逐層構建部件。根據不同的應用場景,PBF可進一步分為(wei) 選區激光燒結(SLS)、選區激光熔化(SLM)、電子束熔化(EBM)等。SLS和SLM都使用激光作為(wei) 熱源,但是,SLM工藝中材料完全熔化,而SLS中材料進行燒結。與(yu) 基於(yu) 激光的技術相比,EBM的熱源是電子束,其具有殘餘(yu) 應力小、氧化不嚴(yan) 重等優(you) 點。BJ工藝使用兩(liang) 種材料:粉末材料和黏合劑,黏合劑選擇性地沉積在粉末床的區域上,並將這些區域黏合在一起,一次形成一層固體(ti) 部分。熔融沉積成型(FDM)是一種ME技術。在打印過程中,由於(yu) 熔融材料在擠出後立即硬化,材料從(cong) FDM打印機的噴嘴擠出後將分層構築。可以看到,現在已有各種各樣的AM技術,並且這些技術產(chan) 生不同種類的數據類型。如何以統一格式組織這些數據,並將數據流集成到後續ML算法中是一項具有挑戰性的任務。

NN算法

NN是一種監督式的機器學習(xi) 方法,與(yu) 之相對的是無監督學習(xi) 。區分這兩(liang) 種模式最簡單的方法是檢查它們(men) 所作用的數據集是否有標記。換言之,在NN算法中,數據被標記是指模型已被告知輸入的“答案”。監督式學習(xi) 適用於(yu) AM,因為(wei) 該種製造技術總是有明確的目標和驗證方法。

NN具有很強的評估擬合能力,它可以表示輸入和輸出特征之間複雜的、高度非線性的關(guan) 係,並且研究表明,隻有一個(ge) 隱層但有足夠的神經元的網絡就可以表達任意函數。NN的體(ti) 係結構由3種類型的層組成,分別為(wei) 輸入層、隱藏層和輸出層。每一層都由節點或神經元組成,這借鑒了神經科學的觀點。

NN中的參數或係數稱為(wei) 權重,表示相鄰層中神經元之間的連接程度。通過迭代訓練NN來確定權重值,以便最小化預測和實際輸出之間的損失函數。在這種過程中,最著名、最廣泛使用的更新權重的方法稱為(wei) 反向傳(chuan) 播,它使用數學鏈式法則迭代計算每層的梯度。一旦訓練可以實現,NN將有能力根據先前未見的輸入推斷出輸出。研究人員在其發展的幾十年中已經提出了許多種特定的NN。

以下3類NN的價(jia) 值已得到證明,並廣受歡迎。

多層感知器(MLP)是最典型的NN,其常見的數學運算是線性求和以及非線性激勵(如sigmoid函數)。其廣泛應用於(yu) 處理表格類型的數據。卷積神經網絡(CNN)主要用於(yu) 圖像處理,它可考慮圖像像素之間的空間關(guan) 係,該網絡以數學中的“卷積”運算而得名。遞歸神經網絡(RNN)在處理時間動態數據中起著關(guan) 鍵作用,因為(wei) 它在一層中的節點之間建立連接。最著名的RNN是長短期記憶網絡(LSTM),在後文中可以看出其能準確再現有限元模擬。應用

AM是一個(ge) 包含許多方麵的價(jia) 值鏈條,包括模型設計、材料選擇、製造和質量評估。此部分主要介紹NN在AM以下部分中的應用:設計、實時監測和工藝-性能-使役性能的聯係。

AM 設計

AM設計(DfAM)是為(wei) 了建立AM部件的CAD模型,這是整個(ge) 工藝鏈條的第一步也是至關(guan) 重要的一步。然而,由於(yu) 加工結果中變形引入的殘餘(yu) 應力,CAD模型和打印部件之間總是存在幾何偏差。因此,通常選擇補償(chang) 方法以獲得具有高精度的AM部件。

Chowdhury和Anand提出了一種NN算法來直接補償(chang) 部件的幾何設計,這有助於(yu) 抵消製造過程中的熱收縮和變形。整個(ge) 過程如下:①準備所需部件的CAD模型,提取其表麵3D坐標作為(wei) NN模型的輸入。②使用熱力耦合的有限元分析軟件(如ANSYS或ABAQUS),然後定義(yi) 一組過程參數來模擬AM過程。提取變形表麵坐標作為(wei) NN模型的輸出。③訓練一個(ge) 具有14個(ge) 神經元和損失函數為(wei) 均方誤差(MSE)的NN模型來學習(xi) 輸入和輸出之間的差異。④將訓練好的網絡應用於(yu) STL文件,從(cong) 而進行所需的幾何校正,這樣就可以使用修改過的幾何形狀來製造部件,從(cong) 而得到尺寸精確的成品。

Koeppe等提出了一個(ge) 結合實驗、有限元方法(FEM)模擬和NN的框架,如圖1所示。首先,他們(men) 進行了實際實驗來驗證有限元方法模擬。接下來,使用有限元方法運行85個(ge) 模擬樣本,模擬參數是全局負載、位移和支柱半徑以及單元尺寸的不同組合。這些是NN的輸入特征,而輸出特征是最大的Von Mises等效應力和等效主應力。NN的架構為(wei) :一個(ge) 具有1024個(ge) 整流線性神經元的全連接層、兩(liang) 個(ge) 分別具有1024個(ge) 神經元的長短期記憶網絡,以及一個(ge) 全連接的線性輸出層。這裏需要注意的是,選擇長短期記憶網絡是因為(wei) 它在處理時間序列事件上表現出色。在訓練之後,NN可以很好地重現加載曆史,與(yu) 有限元方法模擬結果相吻合。從(cong) 這一點出發,NN可以替代傳(chuan) 統的、運行速度較低的數值模擬方法。

圖1 應用NN模型預測AM結構的變形。(a)在受控加載條件下製造和測試的樣本;(b)有限元模擬結果,其已經過實驗驗證;(c)NN模型,其通過由FEM生成的數據進行訓練,然後以比FEM更快的方式預測變形曆史。FC:全連接層。經Elsevier許可轉載自參考文獻,2018

與(yu) 上述兩(liang) 種將NN應用於(yu) AM設計的情況不同,McComb等試圖建立一個(ge) 自編碼器(一種從(cong) 輸入中學習(xi) 然後嚐試高精度地重建輸入的NN)來學習(xi) 部件設計的低維表示。除了這種自編碼器之外,還訓練其他3個(ge) 網絡以確定幾何形狀設計和其他3個(ge) AM設計屬性(即部件質量、支撐材料質量和構建時間)之間的關(guan) 係。通過這種方式,可以利用這4個(ge) NN的組合來評估為(wei) AM設計的部件的屬性。將機器學習(xi) 應用於(yu) AM設計的另一個(ge) 有趣的實例與(yu) 3D打印過程的安全評估有關(guan) 。Li等訓練CNN檢測和識別通過AM製造的非法組件(如槍支)。當CNN構建完善後,將它整合到打印機中以便能在早期檢測相關(guan) 槍支的打印,從(cong) 而及時終止製造過程。對應於(yu) 原始3D模型的投影結果,作者收集了61 340個(ge) 二維(2D)圖像的數據集,包括槍支和其他非槍支對象。整個(ge) CNN模型由兩(liang) 個(ge) 卷積層、兩(liang) 個(ge) 池化層和一個(ge) 全連接層組成。根據實驗結果,分類錯誤率可降至1.84%。

實時監測

實時監測從(cong) 多個(ge) 傳(chuan) 感器獲取數據,其提供了AM過程中產(chan) 品質量的第一手信息。如果可以同步且準確地分析這些實時數據,那麽(me) 就能實現對製造過程的全閉環控製。數據源分為(wei) 3種類型,包括一維(1D)數據(如光譜)、2D數據(如圖像)和3D數據(如層析成像)。每種數據類型都有其優(you) 缺點。例如,處理1D數據的速度較快且其硬件相對便宜。但是,其可提供的信息比其他類型少。這裏將使用兩(liang) 個(ge) 實例來演示如何使用這些不同類型的信號數據。Shevchik等介紹了一項使用聲發射(AE)和NN對SLM進行現場質量監測的研究,如圖2所示。使用布拉格光纖光柵傳(chuan) 感器記錄AE信號,而選擇的NN算法是波譜卷積神經網絡(SCNN),它是對傳(chuan) 統CNN的延伸。模型的輸入特征是小波包變換的窄頻帶的相對能量。輸出特征是對打印層的質量為(wei) 高、中或差的分類。據報道,使用SCNN對工件質量為(wei) 高、中、差的分類精度分別高達83%、85%和89%。

圖2 AM質量監測和分析係統的方案。工作流程如下:在AM過程中發出聲信號,然後由傳(chuan) 感器捕獲。最終將SCNN模型應用於(yu) 所記錄的數據,以便判定打印層的質量是否合適。經Elsevier許可轉載自參考文獻,2018

最近,Zhang等構建了一個(ge) 帶有高速攝像頭的視覺係統,用於(yu) 過程圖像采集。該係統可以檢測3個(ge) 對象的信息,包括熔池、羽流和飛濺,如圖3所示。這些對象的特征是根據作者對工藝的物理機製的理解而仔細提取的,以便將它們(men) 納入傳(chuan) 統的機器學習(xi) 算法。然而,作者強調CNN模型不需要這個(ge) 特征提取步驟,同時它在質量水平識別中仍然具有92.7%的高精度。目前普遍的共識是,CNN具有在工業(ye) 應用中實現實時監控的巨大潛力。上述案例主要集中在對AM過程的原位監測。然而,NN模型的質量結果不能反過來影響實際製造。相反,以下情況通過無縫集成基於(yu) 視覺的技術和NN技術來用於(yu) 液態金屬噴墨打印(LMJP),實現了該過程的閉環控製。首先,Wang等開發了一個(ge) 帶有電荷耦合器件(CCD)相機的視覺係統,用於(yu) 捕獲包含各種液滴圖案的噴墨圖像。其次,為(wei) 了建立電壓等級和液滴特征之間的複雜關(guan) 係,他們(men) 構建了NN模型。因此,通過NN模型,可以將實時噴墨行為(wei) 和理想行為(wei) (其中輸入信號的每個(ge) 脈衝(chong) 僅(jin) 產(chan) 生具有足夠體(ti) 積且其後沒有隨體(ti) 的單個(ge) 液滴)轉換成精確的電壓值。最後,使用比例積分微分(PID)控製技術來比較這些數值,從(cong) 而相應地調節驅動電壓並穩定打印過程。

圖3 SLM過程監控配置的方案。高速攝影機用於(yu) 捕獲構建過程的連續圖像,CNN模型用於(yu) 識別質量異常。ROI:感興(xing) 趣區域。經Elsevier許可轉載自參考文獻,2018

工藝-性能-使役性能的聯係

從(cong) 技術和經濟上的觀點來看,過程參數的選擇對優(you) 化AM性能是必需的。在工藝、性能和使役性能之間建立直接聯係是科學家和工程師非常感興(xing) 趣的。這種聯係通常是高度非線性的,因為(wei) 輸入變量的數量通常大於(yu) 3個(ge) 。因此,很難確定這種聯係的基礎數學公式。由於(yu) NN模型固有的非線性特性,它已被應用於(yu) 為(wei) 各種AM過程建立這些數學關(guan) 係。表1總結了NN在AM中的應用(實際上,NN在這裏稱為(wei) MLP,因為(wei) 所有數據集都是表格類型),並列出了作為(wei) 輸入的工藝參數值和作為(wei) 輸出的性能/使役性能。從(cong) 表1中可以看出,不同的AM技術應該選擇不同的輸入特征,因為(wei) 確定AM部件的關(guan) 鍵因素是不同的。此外,由於(yu) 大量參數會(hui) 對最終成品產(chan) 生影響,所以確定選擇哪些參數需要深入了解AM過程。

表1 NN應用程序,用於(yu) 構建過程-性質-性能聯係

SL: stereolithography; LMD: laser metal deposition; WAAM: wire and arc additive manufacturing

NN算法的詳細設置總結在表2中。確定NN結構的典型超參數通常由4部分組成:隱藏層數目、單層中神經元數量、激活函數和損失函數。

表2 有關(guan) NN算法的詳細信息

MAE: mean absolute error; RMSE: root mean square error; SSE: sum square error

(1)隱藏層數目。在表2的“Layer/neuron”列中,“5-8-1”表示該NN結構包含3層:輸入層有5個(ge) 神經元,唯一的隱藏層有8個(ge) 神經元,輸出層有一個(ge) 神經元。從(cong) 表中可以看出,一個(ge) 隱藏層足以應對大多數AM問題。

(2)單層神經元數量。輸入層和輸出層的神經元數由問題本身決(jue) 定。然而,需要仔細選擇唯一隱藏層的神經元數量,因為(wei) 它與(yu) ML中的欠擬合和過擬合問題直接相關(guan) 。根據表2,我們(men) 建議至少以5~10個(ge) 神經元作為(wei) 隱藏層神經元的最佳數量。

(3)激活函數。激活函數是輸入信號的非線性變換,它決(jue) 定是否應該激活神經元。這對NN至關(guan) 重要,因為(wei) 沒有激活函數的網絡隻是一個(ge) 線性回歸模型,無法處理複雜的任務。一些流行的激活函數類型如下:

在實際應用過程中,sigmoid和tanh函數的任一側(ce) 以及ReLU函數負軸的梯度將會(hui) 很小,甚至趨於(yu) 零,因此,在學習(xi) 期間權重無法得到更新調節。這種情況就是典型的梯度消失問題。使用Max-min歸一化技術將輸入特征的範圍變更為(wei) (0, 1),其可以有效地避免這個(ge) 問題。如有必要,還可使用批標準化技術,以便繼續細化每一層的輸入信號。

(4)損失函數。損失函數應由確切的問題確定,並且通常帶有實際的解釋。例如,均方根誤差(RMSE)和平均絕對誤差(MAE)都是評估預測值和目標值兩(liang) 個(ge) 向量之間距離的方法。其表達方式如下:

式中,i 是樣本索引;yi 是預測值;yt 是目標值。它們(men) 之間存在一些小的變化:計算RMSE對應於(yu) L2範數(即歐幾裏德範數),這是最常見的歐式距離;計算MAE對應於(yu) L1範數(即曼哈頓範數),其測量從(cong) 原點到目標的矩形網格中的距離。一般來說,Lp規範由下式表示:

式中,p是範數指數。p值越大,則它對較大的值越敏感。例如,由於(yu) L2範數使誤差平方,因此模型將產(chan) 生比L1範數大得多的誤差。如果這種情況是一個(ge) 異常值,L2範數將更加關(guan) 注這個(ge) 單一的異常情況,因為(wei) 許多其他常見情況的誤差較小。換句話說,如果考慮每個(ge) 異常值都很重要的話,RMSE方法是更好的選擇。反之則MAE適用於(yu) 可以安全有效地忽略異常值的情形。應當注意的是,在某些特殊情況下,可能有必要考慮自定義(yi) 設計損失函數。

挑戰和可能的解決(jue) 方案

小數據集

由於(yu) NN方法是數據驅動的,因此其性能與(yu) 可訪問數據量直接相關(guan) 。一些領域已經建立了自己的大型數據集用於(yu) 訓練,如用於(yu) 圖像識別的ImageNet,用於(yu) 光學字符識別的MNIST,用於(yu) 自然語言處理的SQuAD和用於(yu) 視頻分類的YouTube-8M。大型數據集的存在使得NN在這些領域中展現出了巨大的力量。相比之下,AM沒有龐大的數據集,因為(wei) 收集訓練數據總是很昂貴的。此外,出於(yu) 經濟方麵的考慮限製了相關(guan) 方創建自己的開源數據集。由於(yu) 這種困境,建立AM工藝的小數據集至關(guan) 重要。事實上,某些稱為(wei) 生成模型的方法可以實現數據增強,以便人為(wei) 地擴大數據集。例如,自編碼器是一種代表性技術,能夠隨機生成看起來與(yu) 訓練數據非常相似的新數據。其使用編碼器將輸入轉換為(wei) 內(nei) 部表示,然後使用解碼器生成與(yu) 基於(yu) 此表示的輸入類似的新輸出。一種基於(yu) 基本的自編碼器的著名擴展稱為(wei) 變分自編碼器(VAE)。它將輸入轉換為(wei) 具有平均值μ 和標準偏差σ 的高斯分布;當解碼器從(cong) 該概率分布中采樣點時,生成新的輸入數據。其他生成模型,如生成對抗網絡(GAN)和對抗性自編碼器(AAE、AE和GAN的組合),也可以提供數據增強的方法。

缺乏標記數據的經驗

如前所述,大多數NN用例都是監督學習(xi) ,需要輸出作為(wei) 學習(xi) 目標。但是,有時標記數據非常困難。例如,如何將圖3中的不同物體(ti) 分別精確地標記為(wei) 熔池、羽流或飛濺?圖3的作者認為(wei) ,許多飛濺在形狀、尺寸和灰度值方麵具有與(yu) 熔池相似的特征。換句話說,這些判斷很大程度上依賴於(yu) 分析人員對焊接過程的深入了解。這種依賴性將極大地阻礙NN在AM領域的發展。這意味著NN在AM領域的大規模應用需要計算機科學家和材料科學家之間進行深入合作。

缺乏選擇合適特征的知識

許多工藝參數可能嚴(yan) 重影響AM部件的屬性,而其他參數可能影響較小。同時,對於(yu) 有限的數據集,過多的輸入特征極易導致模型過擬合。因此,確保NN算法在一組良好的特征上運行至關(guan) 重要。對輸入數據進行“特征工程”的預處理可以為(wei) 研究帶來好處,它可以分為(wei) 兩(liang) 個(ge) 方麵:

① 特征選擇——旨在從(cong) 現有特征中選擇最有用的特征作為(wei) 輸入。例如,人們(men) 可以選擇“道間距”“激光功率”和“粉末層厚”作為(wei) 影響部件性質的最重要因素。在這種情況下,選擇原則依賴於(yu) 研究人員對AM的經驗和了解,即對AM過程的機製進行深入研究,而不僅(jin) 僅(jin) 是反複地進行實驗。另一種有用的方法是使用統計工具進行定量分析。以下是統計學中一些廣泛使用的參數。皮爾森相關(guan) 性係數是衡量兩(liang) 個(ge) 特征之間線性關(guan) 係的良好參數,當它接近1/–1時,表明這兩(liang) 個(ge) 輸入之間存在強烈的正/負相關(guan) 關(guan) 係。肯德爾相關(guan) 性係數是衡量兩(liang) 個(ge) 特征之間的非線性關(guan) 係的參數。散布矩陣則是一種用於(yu) 繪製每個(ge) 數學屬性與(yu) 其他所有數學屬性關(guan) 係的數學工具。通過計算這些參數,可以得知哪些屬性與(yu) 目標屬性更接近。

② 特征組合——旨在對輸入特征進行降維,從(cong) 而集中於(yu) 新生成的特征。一旦知道轉換規則,手動生成特征便成為(wei) 可能。例如,研究已經發現,能量密度對AM加工期間的凝固和冶金以及所製造部件的微觀結構和機械性能具有明顯的影響。能量密度在SLM中表示如下:

式中,P 是激光功率;v 是掃描速度;h 是艙口間距;d 是層厚度。如上式所示,這4個(ge) 特征可以轉換為(wei) 新的但影響更顯著的特征E。此外,仍然可以使用數學工具來提供幫助,例如應用主成分分析(PCA)根據特征的數值而不是其性質來減少維度。

過擬合和欠擬合的問題

良好的泛化能力是NN算法的關(guan) 鍵目標,用來衡量算法是否能夠準確預測先前未知數據。然而,NN算法表現差的原因是由於(yu) 過擬合或欠擬合。過擬合意味著NN算法試圖擬合訓練集中的每個(ge) 數據點;因此,該模型非常容易受到噪聲或異常值的影響。相反,欠擬合意味著NN算法無法提取訓練集中數據點之間的合理關(guan) 係。避免過擬合和欠擬合的技術包括添加正則項和隨機丟(diu) 棄神經元等。

對未來的前瞻

數據

1. 加強API的數據采集互操作性

隨著AM的快速發展,每天都會(hui) 產(chan) 生大量數據。但是,這些數據在不同的研究團體(ti) 中交流傳(chuan) 播並不容易,因為(wei) 這些“孤島”中的數據通常具有不一致的應用程序編程接口(API)。因此,統一的數據采集API將有利於(yu) 該領域的每個(ge) 利益相關(guan) 者。這種API的合格範例應該包括明確定義(yi) 的材料的熱力學屬性和工藝參數、用於(yu) 微觀結構表征的統一圖像類型,以及用於(yu) 鑒定的相同測試標準。通過這種方式,數據的流動障礙將會(hui) 減少甚至消除,並且將在社區中實現更緊密的電子協作。

2. 數據預處理

數據預處理是數據驅動的NN算法的必要先決(jue) 條件,因為(wei) 它會(hui) 對“廢”數據進行清洗並將正確的數據提供給模型。但是,此步驟通常包括許多需要完成的繁瑣任務。例如,目前有一批掃描電子顯微鏡(SEM)圖像,其中包含晶粒、裂紋和孔隙度信息,而相應的NN模型僅(jin) 需要裂紋特征作為(wei) 輸入。那麽(me) 問題就歸結為(wei) 如何準確地從(cong) 晶粒圖像中提取裂紋分布。對於(yu) 沒有紮實的圖像處理和分析經驗的人來說,識別這些結構特征的數字表達可能是一項挑戰。為(wei) 數據(尤其是圖像數據)的預處理建立標準和進行最佳實踐是一項必要的任務,其之後可以將成功的經驗遷移到更廣泛的領域。

3. 數據庫建設

在材料的許多領域,研究人員開發了知名的數據庫,用於(yu) 以數字化方式組織/存儲(chu) /訪問數據,如MatWeb、OQMD和Citrine。鑒於(yu) AM的高度複雜性和多樣性,有必要構建一個(ge) 統一的數據庫平台來托管不同研究組和不同機器每天生成的大量數據。目前可訪問的項目是AM材料數據庫(AMMD),它由美國國家標準與(yu) 技術研究院(NIST)開發。該數據管理係統采用非關(guan) 係型的數據庫(NoSQL)引擎構建,其靈活的數據結構非常適合AM情形。AMMD由Django框架進行Web可視化,因此非常易於(yu) 訪問。對於(yu) 應用程序開發,AMMD還為(wei) 第三方調用提供REST API接口。

傳(chuan) 感

1. 硬件

如3.2節所示,研究人員開發了幾種傳(chuan) 感器係統,以便提供有關(guan) AM的實時信息。傳(chuan) 感器用於(yu) 精確地檢測光學、熱學、聲學和超聲波信號,並提供有價(jia) 值的見解來加深對AM的理解。然而,搭建可靠的傳(chuan) 感器係統仍然存在巨大的困難。例如,安裝在打印機內(nei) 部的傳(chuan) 感器必須能夠在惡劣的環境中正常工作很長時間。在EBM技術中,由真空環境中的高能電子束產(chan) 生的金屬蒸氣可能會(hui) 破壞相機鏡頭。此外,傳(chuan) 感器係統必須足夠靈敏以捕獲熔池的中心位置,因為(wei) 激光的掃描速度通常非常快。從(cong) 這個(ge) 角度來看,AM的快速發展非常需要優(you) 質的傳(chuan) 感器係統作為(wei) 支撐。

2. 軟件

傳(chuan) 感器硬件需要由功能強大的操作軟件所控製。控製軟件的基本模式包括監視、記錄、分析和存儲(chu) 數據。在一般情況下,例如在SLM過程期間,一旦硬件將捕獲的熔池圖像傳(chuan) 遞給軟件,它就可以計算溫度曲線並提取熱量和尺寸度量以進行下一步的分析。其他令人關(guan) 注的功能也可以添加到傳(chuan) 感軟件中,例如為(wei) 軟件配備檢測孔洞、未熔合或孔隙等的算法(特別是機器學習(xi) 算法)。

控製/優(you) 化

AM逐層構建零件,每層的質量對最終產(chan) 品的性能會(hui) 產(chan) 生很大的影響。因此,有必要確保每一層的質量。多種類型的傳(chuan) 感器,例如捕獲光子、電、聲和熱信號的傳(chuan) 感器,可以提供AM過程中的原位測量。通過應用ML可以實現閉環控製,以便同步分析該信息,然後將其輸出饋送到機器的控製器中。其潛在用途是訓練CNN以基於(yu) 由高速相機捕獲的層圖片來判斷層的質量是否合適。在這種情況下,NN算法必須快速響應輸入圖像。所幸的是,一些模型壓縮技術已經可用,如參數剪枝和共享、低秩分解和知識蒸餾。

全鏈條連接

第3.2和3.3節分別展示了NN在構建結構-性能和工藝-性能之間關(guan) 係方麵的強大功能。此外,研究人員還構建了其他模型來建立工藝-結構-性能-使役性能(PSPP)聯係。例如,Azimi等利用全連接卷積神經網絡(FCNN)對低碳鋼中的馬氏體(ti) /貝氏體(ti) /珠光體(ti) 相進行分類,如圖4所示。其分類精度可達93.94%,大大超過了目前其精度僅(jin) 為(wei) 48.89%的最先進方法。雖然這種情況不在AM的範圍內(nei) ,但其概念很容易遷移到AM;可以預測的是,使用神經網絡建立PSPP聯係方麵會(hui) 出現爆發性的增長,因為(wei) 與(yu) 其他方法和模型相比,神經網絡在複雜模型識別中具有內(nei) 在優(you) 勢。

圖4 使用CNN的馬氏體(ti) /貝氏體(ti) /珠光體(ti) 分類方法的工作流程。經Springer Nature許可轉載自參考文獻,2018

建模

如前所述,基於(yu) 物理的模型是重現AM過程的傳(chuan) 統計算方法。然而,就時間、硬件和軟件而言,它需要大量的計算成本。如3.1節所示,可以從(cong) 先前累積的數值數據集中學習(xi) 並提取輸入和模擬輸出之間的嵌入式鏈接。換句話說,物理模擬的數值可以是ML算法的數據源,並且可以起到與(yu) 實驗數據相同的作用。Popova等開發了一個(ge) 數據科學工作流程,將ML與(yu) 物理模擬結合起來,然後將該工作流程應用於(yu) 使用Potts動力學蒙特卡羅(kMC)方法獲得的一組AM微觀結構(原始數據存放於(yu) 哈佛大學Dataverse數據庫中)。Karpatne等提出理論指導數據科學(TGDS)的概念作為(wei) 整合基於(yu) 物理的模型和數據驅動模型的新範例。他們(men) 確定了5大類將科學知識與(yu) 不同學科的數據科學相結合的方法。在不久的將來,這兩(liang) 種模型的結合肯定會(hui) 解決(jue) 當前缺乏實驗性AM數據及NN模型不可解釋等問題。

結論

最近在製造業(ye) 和信息技術領域出現了兩(liang) 個(ge) 爆發性發展的技術:AM和NN算法。AM具有數字CAD模型集成以及構建具有複雜形態的零件的能力等優(you) 點,而NN則擅長於(yu) 避免構建和解決(jue) 複雜的多尺度和多物理數學模型。AM和NN的結合已經證明了在工業(ye) 中實現“敏捷製造”概念的巨大潛力。本文全麵概述了將NN算法應用於(yu) 從(cong) 設計到後處理的完整AM鏈條的當前進展。這項工作的範圍涵蓋了各種應用場景中的NN的許多變體(ti) ,包括:用於(yu) 鏈接AM工藝、性能和使役性能的傳(chuan) 統MLP;用於(yu) AM熔池識別的CNN;用於(yu) 再現有限元模擬結果的LSTM和用於(yu) 數據增強的VAE。然而,正如人們(men) 所說,“每枚硬幣都有兩(liang) 麵”:由於(yu) 神經網絡強烈依賴數據采集,所以很難控製AM部件的質量。因此,這個(ge) 跨學科領域仍然存在一些挑戰。我們(men) 為(wei) 這些挑戰提出了相應的潛在解決(jue) 方案,並概述了我們(men) 對該領域未來趨勢的看法。

改編原文:

Xinbo Qi, Guofeng Chen, Yong Li, Xuan Cheng, Changpeng Li.Applying Neural-Network-based Machine Learning to Additive Manufacturing: Current Applications, Challenges, and Future Perspectives[J].Engineering,2019,5(4):721-729.


轉載請注明出處。

免責聲明

① 凡本網未注明其他出處的作品,版權均屬於(yu) fun88网页下载,未經本網授權不得轉載、摘編或利用其它方式使用。獲本網授權使用作品的,應在授權範圍內(nei) 使 用,並注明"來源:fun88网页下载”。違反上述聲明者,本網將追究其相關(guan) 責任。
② 凡本網注明其他來源的作品及圖片,均轉載自其它媒體(ti) ,轉載目的在於(yu) 傳(chuan) 遞更多信息,並不代表本媒讚同其觀點和對其真實性負責,版權歸原作者所有,如有侵權請聯係我們(men) 刪除。
③ 任何單位或個(ge) 人認為(wei) 本網內(nei) 容可能涉嫌侵犯其合法權益,請及時向本網提出書(shu) 麵權利通知,並提供身份證明、權屬證明、具體(ti) 鏈接(URL)及詳細侵權情況證明。本網在收到上述法律文件後,將會(hui) 依法盡快移除相關(guan) 涉嫌侵權的內(nei) 容。

網友點評
0相關評論
精彩導讀