基于深度學(xué)習(xí)的可解釋特征準(zhǔn)確預(yù)測(cè)混凝土抗壓強(qiáng)度

作者：

Ziyue Zeng（Key Laboratory of Advanced Civil Engineering Materials of Ministry of Education, Tongji University, Shanghai 201804, China）

GZheyu Zhu（School of Materials Science and Engineering, Tongji University, Shanghai 201804, China）

Wu Yao（School of Materials Science and Engineering, Tongji University, Shanghai 201804, China）

Zhenhua Wei（Department of Ocean Science and Engineering, Southern University of Science and Technology, Shenzhen 518055, China）

Xingquan Guan（Department of Civil and Environmental Engineering, University of California, Los Angeles, CA 90095, USA）

期刊：Construction and Building Materials

Q1

文章提出的工程問(wèn)題是什么？

有什么實(shí)際工程價(jià)值？

混凝土年產(chǎn)量達(dá)數(shù)十億噸，是迄今為止人類(lèi)歷史上使用最多的建筑材料。在建筑行業(yè)，混凝土配合比和強(qiáng)度設(shè)計(jì)基于一系列試錯(cuò)測(cè)試，以確定配合比對(duì)一個(gè)參數(shù)的屬性依賴(lài)性，這非常耗時(shí)且耗費(fèi)人力/能源。眾所周知，混凝土強(qiáng)度在很大程度上取決于諸如水灰比 (w/b) 和水泥類(lèi)型等因素，但其他因素（例如砂與骨料的比例）的影響混凝土的強(qiáng)度發(fā)展鮮為人知。

在世界各地的許多建筑工地，混凝土強(qiáng)度和施工質(zhì)量在很大程度上取決于有經(jīng)驗(yàn)的人員的混合設(shè)計(jì)和利用設(shè)備在 28 天內(nèi)測(cè)試配比混凝土的抗壓強(qiáng)度。這個(gè)過(guò)程可能會(huì)受到不同操作者的主觀判斷和操作，特別是考慮到環(huán)境條件可能會(huì)在這么長(zhǎng)時(shí)間內(nèi)發(fā)生變化。因此，需要一種能夠可靠地估計(jì)具有特定配合比的混凝土的抗壓強(qiáng)度的預(yù)測(cè)模型，以實(shí)現(xiàn)高通量混凝土配合比設(shè)計(jì)和施工質(zhì)量的自動(dòng)化無(wú)損檢測(cè)。

Q2

文章提出的科學(xué)問(wèn)題是什么？

有什么新的學(xué)術(shù)貢獻(xiàn)？

近年來(lái)，深度學(xué)習(xí)——它是更廣泛的基于具有表示學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)方法家族的一部分——使得開(kāi)發(fā)優(yōu)秀的預(yù)測(cè)模型成為可能。例如，深度學(xué)習(xí)已成功應(yīng)用于預(yù)測(cè)房地產(chǎn)和股票市場(chǎng)的價(jià)格變化，其中多個(gè)因素充當(dāng)了決定房地產(chǎn)和股票實(shí)時(shí)交易價(jià)格的變量。作為混凝土抗壓強(qiáng)度也受到各種因素的影響，可以想象它可以通過(guò)深度學(xué)習(xí)以類(lèi)似的方式進(jìn)行預(yù)測(cè)。

在這項(xiàng)研究中，提出了一種基于深度學(xué)習(xí)的“因素到強(qiáng)度”方法，該方法考慮了多個(gè)可解釋的特征，因此充分利用了混凝土工程師的先驗(yàn)知識(shí)和現(xiàn)場(chǎng)配比信息，用于混凝土強(qiáng)度預(yù)測(cè)。不是使用成分含量作為模型輸入，而是使用九個(gè)關(guān)鍵特征（即水泥強(qiáng)度等級(jí)、水灰比、砂骨料比、膏骨料比、再生粗骨料替代比例、粉煤灰替代比例、硅灰替代比例、渣置換率和坍落度）被輸入到深度神經(jīng)網(wǎng)絡(luò)用于數(shù)據(jù)訓(xùn)練和分析。除了強(qiáng)度預(yù)測(cè)外，本研究還揭示了每個(gè)可解釋特征對(duì)混凝土強(qiáng)度發(fā)展的影響，以及各種特征在確定混凝土抗壓強(qiáng)度方面的相互作用。

Q3

文章提出的技術(shù)路線是什么？

有什么改進(jìn)創(chuàng)新之處？

本文主要進(jìn)行了基于深度學(xué)習(xí)的利用可解釋特征預(yù)測(cè)混凝土抗壓強(qiáng)度模型的構(gòu)建，具體分以下部分：

① 數(shù)據(jù)集。

用于開(kāi)發(fā)深度學(xué)習(xí)模型的數(shù)據(jù)集來(lái)自?xún)蓚€(gè)資源——實(shí)驗(yàn)和相關(guān)文獻(xiàn)。從文獻(xiàn)中收集的數(shù)據(jù)集包括多達(dá) 380 組混凝土混合物及其相應(yīng)的 28 天抗壓強(qiáng)度。更具體地說(shuō)，這些數(shù)據(jù)包括 121 組常規(guī)混凝土、105 組強(qiáng)度在 60 MPa 和 100 MPa 之間的高強(qiáng)度混凝土和 154 組再生骨料混凝土。從文獻(xiàn)中收集的數(shù)據(jù)集被分成兩個(gè)子數(shù)據(jù)集——80% 作為訓(xùn)練集，20% 作為測(cè)試集——分別用于訓(xùn)練和測(cè)試 CNN 模型。實(shí)驗(yàn)收集的數(shù)據(jù)包括 16 組再生骨料混凝土配合比、16 組常規(guī)混凝土和 16 組從其他實(shí)驗(yàn)室獲得的高強(qiáng)混凝土。這部分?jǐn)?shù)據(jù)表示為實(shí)驗(yàn)集，用于評(píng)估通過(guò)文獻(xiàn)數(shù)據(jù)訓(xùn)練和測(cè)試的不同模型的穩(wěn)健性。

所有這些數(shù)據(jù)集包括十一種成分水泥強(qiáng)度等級(jí)、水泥含量、含水量、沙子含量、天然骨料含量、再生骨料含量、外加劑（粉煤灰、硅灰、礦渣）含量、28天固化后的坍落度和抗壓強(qiáng)度。選擇或組合九個(gè)可解釋的特征來(lái)預(yù)測(cè)混凝土抗壓強(qiáng)度。特征為水泥強(qiáng)度等級(jí)、水灰比、砂骨料比、漿料比、再生粗骨料替代比例,粉煤灰置換比例、硅灰置換比例、礦渣置換比例、坍落度。表 7列出了 11 種成分和 9 種可解釋特征的限制值，其中包括來(lái)自文獻(xiàn)和實(shí)驗(yàn)的數(shù)據(jù)。只有當(dāng)輸入?yún)?shù)的值落在最小和最大限制值之間時(shí)，模型才能有效地預(yù)測(cè)混凝土強(qiáng)度。

② 卷積神經(jīng)網(wǎng)絡(luò)CNN

CNN 是一個(gè)典型的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，在過(guò)去的二十年中發(fā)展起來(lái)。特別是它起源于計(jì)算機(jī)視覺(jué)，在計(jì)算機(jī)視覺(jué)領(lǐng)域發(fā)揮了重要作用。最近，它被用于混凝土強(qiáng)度的預(yù)測(cè)，并取得了令人滿意的性能。因此，我們嘗試基于 CNN 預(yù)測(cè)混凝土強(qiáng)度。要建立一個(gè)CNN，首先要定義一個(gè)損失函數(shù)。在本文中，選擇了廣泛接受的平方誤差損失函數(shù)。對(duì)于具有c個(gè)類(lèi)和N個(gè)訓(xùn)練示例的多類(lèi)問(wèn)題，誤差由下式給出：

CNN算法采用多個(gè)卷積層和池化層來(lái)轉(zhuǎn)換數(shù)據(jù)特征。最后一個(gè)轉(zhuǎn)換是通過(guò)全連接進(jìn)行的，采用傳統(tǒng)的分類(lèi)模型。在卷積層，前一層的輸出與可學(xué)習(xí)的內(nèi)核進(jìn)行卷積，并通過(guò)激活函數(shù)形成卷積層的輸出。在數(shù)學(xué)上，它表示為：

每個(gè)卷積層都有多個(gè)內(nèi)核k和偏置b，兩者都應(yīng)用于輸入層以獲得通道數(shù)與內(nèi)核數(shù)相對(duì)應(yīng)的輸出層。這種布置的示意圖如圖1（a）所示。

圖 1：(a) 卷積和 (b) 池化過(guò)程的示意圖。

本文綜合考慮了特征數(shù)量和數(shù)據(jù)集的規(guī)模，增加了更多的隱藏層。CNN的結(jié)構(gòu)被調(diào)整為包括一個(gè)輸入層、一個(gè)卷積層、兩個(gè)全連接層和一個(gè)傳統(tǒng)的輸出層。輸入層是3×3矩陣，由九個(gè)選定的可解釋特征組成。在卷積層中，放置了 128 個(gè)卷積核（k）和 128 個(gè)偏置（b），并采用 ReLU 函數(shù)作為激活函數(shù)。為了確定隱藏層中神經(jīng)元的最佳數(shù)量，嘗試并排列了六個(gè)值（范圍從 4 到 128）以生成總共 36 個(gè)不同的模型，如表 8 所示。然后對(duì)這 36 個(gè)模型進(jìn)行了 10 次重復(fù)訓(xùn)練和測(cè)試，并使用以下方法測(cè)量其預(yù)測(cè)性能R2，如圖2 所示。第 28 個(gè)模型，在第一和第二全連接層中都有 64 個(gè)神經(jīng)元，具有最高的R2在訓(xùn)練集和測(cè)試集中。

圖2：(a) 訓(xùn)練集和 (b) 測(cè)試集中的 36 個(gè)模型中的R 2個(gè)。灰線代表 10 次重復(fù)的訓(xùn)練或測(cè)試結(jié)果，藍(lán)線代表 10 次重復(fù)的平均 R 2。

基于上述過(guò)程，最終確定的全連接層有 64 個(gè)神經(jīng)元，并采用 ReLU 作為激活函數(shù)。對(duì)于僅包含一個(gè)神經(jīng)元的輸出層，選擇 sigmoid 函數(shù)作為激活。總而言之，卷積層提取了九個(gè)可解釋特征與混凝土抗壓強(qiáng)度之間的關(guān)系。然后兩個(gè)全連接層使關(guān)系更加明顯和穩(wěn)定。最后，輸出層從最后一個(gè)全連接層中捕獲64個(gè)值，綜合生成一個(gè)作為混凝土抗壓強(qiáng)度的預(yù)測(cè)值。CNN模型結(jié)構(gòu)如圖3所示。

圖3：卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)（CG：水泥強(qiáng)度等級(jí)，W/B：水膠比；SR：砂比，P/A：漿料比，RA/A：再生粗骨料置換比，F(xiàn)/B : 粉煤灰置換比例, SF/B: 硅灰置換比例, S/B: 礦渣置換比例)。

基于上述內(nèi)容，本文有以下創(chuàng)新點(diǎn)：

1.本文開(kāi)發(fā)了一個(gè)具有九個(gè)可解釋特征作為輸入的CNN模型，用于預(yù)測(cè)各種混凝土的抗壓強(qiáng)度，包括普通混凝土、高強(qiáng)度混凝土和再生骨料混凝土。

2.本文從文獻(xiàn)中總共收集了 380 組數(shù)據(jù)來(lái)訓(xùn)練 CNN 模型，另外還準(zhǔn)備了 16 組再生骨料混凝土并進(jìn)行了測(cè)試，以驗(yàn)證訓(xùn)練后的 CNN 的可靠性。基于訓(xùn)練有素的 CNN 模型，進(jìn)行了敏感性研究，以量化三個(gè)重要特征對(duì)混凝土抗壓強(qiáng)度的影響。

3.本研究報(bào)告的研究結(jié)果使混凝土工程師能夠在混凝土配方的可解釋特征方面使用他們的先驗(yàn)知識(shí)，從而促進(jìn)對(duì)施工現(xiàn)場(chǎng)成分對(duì)混凝土強(qiáng)度發(fā)展的影響的理解，并更好地服務(wù)于混凝土強(qiáng)度設(shè)計(jì)的實(shí)際施工需求。

Q4

文章是如何驗(yàn)證和解決問(wèn)題的？

為了可視化所開(kāi)發(fā)的CNN模型的預(yù)測(cè)性能，CNN模型生成的預(yù)測(cè)混凝土抗壓強(qiáng)度的訓(xùn)練和測(cè)試結(jié)果如圖4所示。縱軸代表CNN模型預(yù)測(cè)的強(qiáng)度，橫軸是觀察到的強(qiáng)度。總體而言，訓(xùn)練和測(cè)試集中的數(shù)據(jù)點(diǎn)都聚集在對(duì)角線附近，表明該模型提供了對(duì)抗壓強(qiáng)度的準(zhǔn)確估計(jì)。使用以下指標(biāo)進(jìn)一步測(cè)量 CNN 模型的預(yù)測(cè)性能。

圖4：(a) 訓(xùn)練集和 (b) 測(cè)試集上的實(shí)際抗壓強(qiáng)度和基于 CNN 的抗壓強(qiáng)度之間的關(guān)系。

此外，均方根誤差(RMSE)、平均絕對(duì)百分比誤差 (MAPE) 和平均絕對(duì)誤差(MAE) 也使用方程式計(jì)算。分別為(12)、(13)和(14)。性能指標(biāo)總結(jié)在表 9中。

除了這些宏觀指標(biāo)外，還繪制了一個(gè)直方圖來(lái)顯示在訓(xùn)練集和測(cè)試集上觀察到的相對(duì)誤差的分布，如圖 5所示. 訓(xùn)練集的最大和最小相對(duì)誤差分別為 34.3% 和 0.04%，測(cè)試集分別為 21.06% 和 0.04%。同時(shí)，近 90% 的訓(xùn)練集相對(duì)誤差小于 10%，測(cè)試集 85% 的相對(duì)誤差小于 10%。訓(xùn)練集和測(cè)試集的相對(duì)誤差超過(guò) 20% 的比例分別僅為 1% 和 2%。所有這些觀察結(jié)果表明，CNN 模型能夠?yàn)槿N類(lèi)型的混凝土（包括普通混凝土、高強(qiáng)度混凝土和再生骨料混凝土）提供可靠和準(zhǔn)確的抗壓強(qiáng)度估計(jì)。

圖5：訓(xùn)練集和測(cè)試集的實(shí)際值和預(yù)測(cè)值的相對(duì)誤差直方圖。

為了進(jìn)一步證明 CNN 的優(yōu)越性，將其與三種流行的機(jī)器學(xué)習(xí)模型（包括支持向量機(jī)(SVM)、人工神經(jīng)網(wǎng)絡(luò)(ANN) 和自適應(yīng)提升 (Adaboost)）進(jìn)行了比較，所有這些模型都是使用相同的訓(xùn)練開(kāi)發(fā)的和測(cè)試集。圖 6顯示了三種機(jī)器學(xué)習(xí)模型和 CNN 在測(cè)試集上的性能。顯然，CNN 生成的預(yù)測(cè)大多接近于觀察到的抗壓強(qiáng)度，并且 CNN 的決定系數(shù)（R 2）在四個(gè)模型中最高。這四個(gè)模型的誤差指標(biāo)（圖 7）也證實(shí)了 CNN 的性能最好。

圖6：(a) SVM、(b) ANN、(c) Adaboost 和 (d) CNN預(yù)測(cè)的實(shí)際抗壓強(qiáng)度和抗壓強(qiáng)度之間的關(guān)系。

圖7：四個(gè)模型的指標(biāo)比較。

為了證明采用可解釋特征的優(yōu)越性，使用不同的數(shù)據(jù)集開(kāi)發(fā)了一個(gè)具有相同架構(gòu)的額外 CNN 模型，其中僅包含無(wú)法解釋的特征。如圖8所示，具有無(wú)法解釋特征的 CNN 模型具有R20.881，低于具有可解釋特征的對(duì)應(yīng)物（圖 5）。表 10比較了具有可解釋和不可解釋特征的 CNN 模型的誤差指標(biāo)。在所有誤差指標(biāo)中，具有可解釋特征的 CNN 模型的值低于具有無(wú)法解釋特征的模型，這表明可解釋特征更適合預(yù)測(cè)混凝土抗壓強(qiáng)度。

圖8：CNN使用 (a) 訓(xùn)練集和 (b) 測(cè)試集的無(wú)法解釋的特征，計(jì)算實(shí)際抗壓強(qiáng)度和預(yù)測(cè)抗壓強(qiáng)度之間的關(guān)系。

Q5

文章有什么可取和不足之處？

邏輯結(jié)構(gòu)：本文的outline呈現(xiàn)在下文：

1.Introduction

深度學(xué)習(xí)能夠開(kāi)發(fā)良好的預(yù)測(cè)模型，將深度學(xué)習(xí)應(yīng)用到混凝乳強(qiáng)度預(yù)測(cè)當(dāng)中是可行的。

2. Materials and methods

2.1Materials

混凝土混合物由以下主要成分制備：I 型波特蘭水泥42.5 R (C)、自來(lái)水 (W)、人工洗滌的山砂 (S)、I 級(jí)粉煤灰 (F)、硅灰(SF)密度2.26g/cm 3，比表面積20m 2 /kg，水溶性SM型三聚氰胺減水劑（SP）。

2.2Concrete mix design, sample preparation, and testing

介紹了混凝土的配合比以及準(zhǔn)備、制造、測(cè)試的過(guò)程

2.3Data set

用于開(kāi)發(fā)深度學(xué)習(xí)模型的數(shù)據(jù)集來(lái)自?xún)蓚€(gè)資源——實(shí)驗(yàn)和相關(guān)文獻(xiàn)。從文獻(xiàn)中收集的數(shù)據(jù)集包括多達(dá) 380 組混凝土混合物及其相應(yīng)的 28 天抗壓強(qiáng)度（見(jiàn)補(bǔ)充表 1詳情）。更具體地說(shuō)，這些數(shù)據(jù)包括 121 組常規(guī)混凝土、105 組強(qiáng)度在 60 MPa 和 100 MPa 之間的高強(qiáng)度混凝土和 154 組再生骨料混凝土。從文獻(xiàn)中收集的數(shù)據(jù)集被分成兩個(gè)子數(shù)據(jù)集——80% 作為訓(xùn)練集，20% 作為測(cè)試集——分別用于訓(xùn)練和測(cè)試 CNN 模型。

2.4Convolutional neural network (CNN)

CNN 是一個(gè)典型的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，在過(guò)去的二十年中發(fā)展起來(lái)。特別是它起源于計(jì)算機(jī)視覺(jué)，在計(jì)算機(jī)視覺(jué)領(lǐng)域發(fā)揮了重要作用。最近，它被用于混凝土強(qiáng)度的預(yù)測(cè)，并取得了令人滿意的性能。

3. Results and discussion

3.1Predictive performance of the CNN model

為了可視化所開(kāi)發(fā)的CNN模型的預(yù)測(cè)性能，CNN模型生成的預(yù)測(cè)混凝土抗壓強(qiáng)度的訓(xùn)練和測(cè)試結(jié)果用圖表表示

3.2 Comparison between CNN and other method

為了進(jìn)一步證明 CNN 的優(yōu)越性，將其與三種流行的機(jī)器學(xué)習(xí)模型（包括支持向量機(jī)(SVM)、人工神經(jīng)網(wǎng)絡(luò)(ANN) 和自適應(yīng)提升 (Adaboost)）進(jìn)行了比較，所有這些模型都是使用相同的訓(xùn)練開(kāi)發(fā)的和測(cè)試集。

3.3Performance comparison between results from explainable and unexplainable features

為了證明采用可解釋特征的優(yōu)越性，使用不同的數(shù)據(jù)集開(kāi)發(fā)了一個(gè)具有相同架構(gòu)的額外 CNN 模型，其中僅包含無(wú)法解釋的特征。

4. Conclusion

開(kāi)發(fā)了一個(gè)具有九個(gè)可解釋特征作為輸入的CNN模型，用于預(yù)測(cè)各種混凝土的抗壓強(qiáng)度，包括普通混凝土、高強(qiáng)度混凝土和再生骨料混凝土。從文獻(xiàn)中總共收集了 380 組數(shù)據(jù)來(lái)訓(xùn)練 CNN 模型，另外還準(zhǔn)備了 16 組再生骨料混凝土并進(jìn)行了測(cè)試，以驗(yàn)證訓(xùn)練后的 CNN 的可靠性。基于訓(xùn)練有素的 CNN 模型，進(jìn)行了敏感性研究，以量化三個(gè)重要特征對(duì)混凝土抗壓強(qiáng)度的影響。

從上述內(nèi)容可以看出，本文主要采用縱式結(jié)構(gòu)，以研究展開(kāi)的順序先后介紹了材料和方法，實(shí)驗(yàn)和結(jié)果，總結(jié)幾部分內(nèi)容，整體形成了“實(shí)驗(yàn)-分析-綜合”的邏輯。

研究方法：本文在研究的過(guò)程中，使用了深度學(xué)習(xí)的方法，構(gòu)建混凝土強(qiáng)度的預(yù)測(cè)模型，使用的是9個(gè)與混凝土強(qiáng)度相關(guān)的可解釋特征，并與其他預(yù)測(cè)方法進(jìn)行比較，得到CNN的準(zhǔn)確性更好，實(shí)驗(yàn)結(jié)果更加嚴(yán)謹(jǐn)可靠。

并且，進(jìn)行了多參數(shù)和單參數(shù)敏感性分析，以量化這些特征及其組合對(duì)混凝土強(qiáng)度發(fā)展的影響關(guān)系。

圖9：九個(gè)輸入特征與抗壓強(qiáng)度的關(guān)系。

圖10：受三個(gè)主要特征組合影響的混凝土抗壓強(qiáng)度等值線圖：（a）水膠比和砂比，（b）水膠比和漿料比，以及（c）砂比和漿料比；顏色條代表抗壓強(qiáng)度，單位為MPa。

圖表形式：本文的圖表形式集中于結(jié)果分析的過(guò)程中，圖片種類(lèi)豐富，變現(xiàn)的規(guī)范具體，表格主要為實(shí)驗(yàn)混凝土的具體數(shù)值的展示，準(zhǔn)確豐富。

① 使用泰勒?qǐng)D進(jìn)行分析，圖中的標(biāo)出點(diǎn)為模型結(jié)果，底部的點(diǎn)代表實(shí)際的樣本，左圖數(shù)據(jù)放射狀分布在中間區(qū)域，相比之下右圖集中于模型下半部分且呈現(xiàn)弧形，表明與樣本標(biāo)準(zhǔn)差較為接近。如圖8所示

文字表達(dá)：本文使用的專(zhuān)業(yè)詞匯較多，總體上表達(dá)都比較準(zhǔn)確。

Q6

文章對(duì)自身的研究有什么啟發(fā)？

本文開(kāi)發(fā)了一個(gè)具有九個(gè)可解釋特征作為輸入的CNN模型，用于預(yù)測(cè)各種混凝土的抗壓強(qiáng)度，包括普通混凝土、高強(qiáng)度混凝土和再生骨料混凝土。

將人工智能方法應(yīng)到用混凝土質(zhì)量預(yù)測(cè)和檢測(cè)的研究思路值得學(xué)習(xí)。

本文來(lái)自網(wǎng)絡(luò)或網(wǎng)友投稿，如有侵犯您的權(quán)益,我們將第一時(shí)間刪除。

審核編輯 黃昊宇