專利名稱：基于構造－剪枝混合優化rbf網絡的煤灰熔點預測方法
技術領域：
本發明涉及一種煤灰熔點的預測方法，尤其涉及一種融合了神經網絡構造算法與剪枝算法優點的混合優化RBF網絡的煤灰熔點預測方法。
背景技術：
灰熔點對鍋爐結渣特性與熱效率都有很大影響，很多國家都制定了以灰熔點來評 判鍋爐結渣特性的指標，國內有些電廠也把灰熔點作為衡量煤質的重要指標。對于固態排 渣鍋爐，通常需要燃用較高灰熔點的煤以防止爐內結渣，當煤灰變形溫度高于爐膛出口煙 溫50 100°C時就不會造成對流受熱面結渣；而對于液態排渣鍋爐則燃用灰熔點低的煤以 防止流渣不暢，減少爐膛結渣。因此，對煤灰熔點進行準確預測至關重要。煤灰中含有多種氧化物，包括5丨02，六1203斤6203^30，]\%0，1102，1(20及妝20。很 多學者研究表明，煤灰中各氧化物決定了煤灰熔點。基于該結論，有一些傳統的計算煤灰熔 點的方法，如常見的經驗回歸公式。然而使用這類靜態的方法進行預測是一個極其復雜的 問題，其中摻雜著很多不確定的又相互作用的影響因素。此外，一些相關的參數有時還不準 確。所以使用這類傳統的計算煤灰熔點的方法往往得不到理想的預測效果。鑒于神經網絡技術有著強大的非線性映射的能力，一些學者采用了神經網絡技術 對煤灰熔點進行建模，以實現非線性映射。由于BP網絡比較簡單，目前使用的神經網絡絕 大部分都是BP網絡。但是，BP網絡本身依然存在許多問題易陷入局部最小點，收斂速度 較慢，很難確定學習精度，結構設計困難等。另外，如何選擇合理的拓撲結構也是一個很現 實的問題。這些問題給基于BP網絡的煤灰熔點預測建模帶來了難度。RBF網絡是非線性系統建模時另一種應用十分廣泛的模型。相比BP網絡，RBF網 絡在模型的建立、預測的精度以及模型的精簡度等方面都有明顯的優勢。然而，RBF網絡在 實際應用中的性能還與網絡的結構設計密切相關。RBF網絡設計的核心問題是確定隱節點 的數目及相應的數據中心，設計出滿足目標誤差要求的盡可能小的神經網絡，以保證神經 網絡的泛化能力。

發明內容
發明目的本發明的目的在于針對現有灰熔點預測方法精度不高，模型結構不合 理、泛化能力不強等問題，提供一種基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方 法，以達到預測精度高，網絡結構精簡、泛化能力好、魯棒性強的目的。技術方案本發明所述的基于構造-剪枝混合優化RBF網絡的煤灰熔點預測方法， 該方法分為“粗調”和“精調”兩個階段，粗調階段按照以使能量函數最小為原則動態增加 隱節點數目，選取相應的樣本輸入作為數據中心，直至隱節點數滿足停止準則時停止；精調 階段用Gaussian正則化方法對粗調得到的RBF網絡的結構和參數作進一步調整，調整對象 為數據中心調整、輸出權值調整、冗余隱節點刪除和正則化系數的動態調整；基于煤灰的化 學組成成分建立相應的構造_剪枝混合優化RBF網絡，并以該網絡預測煤灰熔點。
所述粗調具體步驟如下(Al)先從樣本輸入中選取網絡的第一個數據中心，然后每次增加一個隱節點， 逐步調整該數據中心的值，新的隱節點數據中心的選取以使能量函數最小為原則；采用 Gaussian正則化方法時的能量函數為Ε = ψ- PmWJ (7 - PmW)+ XWtW⑴其中，Y= [yi，y2，...，yN]T為神經網絡的教師輸出向量，r = k，％，...，^J為權 值向量，Pm =[^,尸2,...,&]，凡= I(X1)A(X2)^t(Xiv)Jr為隱節點的響應函數向量，λ為 正則化系數。(Α2)當下式滿足時，停止粗調
_3] c{PM+lTPM+l)>CmaxO)其中，C(A)= I |A I I Ia-1II 為矩陣 Α 的條件數，I |A| I 為 Frobenius 范 數；= [p p2,...,pM,Sl],p, = [^1(X1), ^ (X2),..., φ0ι(χΝ)]為隱節點的響應函數向量，
^[^(。，么^，…么“訃為新增隱節點的響應函數向量，xi為新隱節點的數據中心；Cmax 是一個需預先確定的量，一般可選為IO6量級。選取網絡的第一個數據中心的方法為從樣本輸入中選擇某一 Xi,使相應的&在 Y上的投影最大，即E1(Xi) = max{YTSi，i = 1，2，· · ·，N}(2)其中，& =[么(X1),么(X2),...,么(Xw)Jr為以Xi為數據中心的新增隱節點的響應函數
向量，Y = [Y1, y2，...，yN]T為神經網絡的教師輸出向量。所述精調具體步驟如下(Bi)數據中心調整調節數據中心，對樣本(\，1.)，數據中心(^的調節量為{χ,^；)=4-{χ, -crK(y； - f(xj)k(4)
rr其中，η為學習率，A為擴展常數，Q=氏(xj，f(Xj)為神經網絡對應樣本輸入Xj.
的輸出，Wi為該隱節點前一時刻的輸出權值；第i個隱節點的調節公式為c. ^ ^ + . IjAU(5)
(XjJJ)SAi其中，Ci為已有的數據中心，Aci (Xj，yj)為數據中心Ci的調節量，Ai = {(xj; Yj) I I Xj-CiI < Kri, j = 1,2, ...,N}為參與調節的目標樣本，K為重疊系數，ri SRBF 函數的擴展常數。(B2)輸出權值調整當網絡的數據中心確定后，最優權值可通過最小化能量函數直接得到，即[w w2,...,wM,bf =Wm(6)其中，Wi為第i個隱節點到輸出節點的權值，b是輸出偏移常數。(B3)冗余隱節點刪除通過正則化方法，當某隱節點輸出權值Wi滿足以下條件時，則刪除該隱節點
abs (Wi) < Wmin(7)
其中，Wi為第i個隱節點到輸出節點的權值，b是輸出偏移常數。(B4)正則化系數λ的動態調整每次數據中心調整后，隨之對λ進行調節，具體調節規則如下(1).如果 E(t) < E(t-l)，或者 E(t) <D，則 λ (t) = λ (t-D + Δ λ ；(2).如果 E(t)彡 E(t-l)，E(t) < A(t)，而且 E(t)彡 D，貝U λ (t)= λ (t-D-Δ λ ；(3).如果 E(t)彡 E(t_l)，E(t)彡 A(t)，而且 E(t)彡 D，則 λ (t) = P λ (t_l)；其中，E(t-l)為前一次數據中心調節時的誤差，D為期望誤差值，A(t)為當前時刻 的加權平均誤差，定義為A (t) = yA(t-l) + (l-y)E(t), μ、P均為接近于1的數。所述的RBF網絡具有8輸入1輸出的結構，其中8個輸入分別對應組成煤灰的8 個氧化物，即SiO2, Al2O3，Fe2O3，CaO, MgO, TiO2, K2O及Na2O,輸出為煤灰熔點的軟化溫度。為使神經元的輸入工作在較靈敏的區域，將所有樣本輸入歸一到
范圍內。有益效果本發明與現有技術相比，其有益效果是本發明給出的構造-剪枝混合 優化算法constructive-pruning hybrid method (CPHM)，有效地融合了構造算法和剪枝算 法的優點，不僅能動態調節RBF網絡的隱節點數，還能使網絡的數據中心自適應變化；與現 有的RBF設計方法遞歸正交最小二乘法(ROLS)和資源分配網絡(RAN)相比，所設計的網絡 具有較小的結構、較好的泛化能力和較強的魯棒性；實驗證明，基于煤灰的化學組成成分， 建立相應的構造-剪枝混合優化RBF網絡，并以該網絡預測煤灰熔點，取得了較好的預測效^ ο


圖1為構造-剪枝混合優化算法流程圖。圖2為用于煤灰熔點預測的神經網絡結構圖。圖3為煤灰熔點預測時RAN預測效果圖。圖4為煤灰熔點預測時CPHM預測效果圖。
具體實施例方式下面結合附圖，對本發明技術方案進行詳細說明，但是本發明的保護范圍不局限 于所述實施例。圖1所示為本發明的構造-剪枝混合優化算法流程圖，CPHM的實現步驟如下1).根據式(2)選擇RBF網絡第一個數據中心，并計算輸出權值。E1(Xi) = max{YTSi，i = 1，2，· · ·，N}(2)其中，& =[么(X1),么(X2),...,么(Xw)Jr為以Xi為數據中心的新增隱節點的響應函數 向量，Y = [Y1, y2，...，yN]T為神經網絡的教師輸出向量。2).粗調階段，以使式(1)最小為標準，選取RBF網的數據中心，直至滿足停止準則 ⑶。
_/ \τ / \ 〒 Ε = ψ- PmWJ (7 - PmW)+ XWtW⑴
其中，Y= [yi，y2，...，yN]T為神經網絡的教師輸出向量，伊^巧，乂，…， ！“為權 值向量，Pm =[^,尸2,...,&]，凡= I(X1)A(X2)^t(Xiv)Jr為隱節點的響應函數 向量，λ為 正則化系數。c{PM+lTPM+l)>CmaxO)其中，c㈧=I |A I I Ia-1I I為矩陣Α的條件數，I |a| I為Frobenius范 數；= [p p2,...,pM,Sl],p, = [^1(X1), ^ (X2),..., φ0ι(χΝ)]為隱節點的響應函數向量，
^[^(。，么^，…么“訃為新增隱節點的響應函數向量，xi為新隱節點的數據中心；Cmax
是一個需預先確定的量，一般可選為IO6量級。3).精調階段，根據式⑷和(5)調節網絡各數據中心的值。{χ,^；)=4-{χ, -crK(y； - f(xj)k(4)
rr其中，η為學習率，r,為RBF函數的擴展常數，Ci為已有的數據中心，Ot =φ 為Gaussian型徑向基函數，f (Xj)為神經網絡對應樣本輸入Xj的輸出，Wi為該隱節點前一 時刻的輸出權值。第i個隱節點的調節公式為c. ^ ^ + . IjAU(5)
(XjJJ)SAi其中，Ci為已有的數據中心，Aci (Xj，yj)為數據中心Ci的調節量，Ai = {(xj; Yj) I I Xj-CiI < Kri, j = 1,2, ...,N}為參與調節的目標樣本，K為重疊系數，ri SRBF 函數的擴展常數。4).根據式(6)，調整網絡的輸出權值和輸出偏移。[w w2,...,wM,bf =Wm(6)其中，Wi為第i個隱節點到輸出節點的權值，b是輸出偏移常數。5).根據式(7)，對冗余隱節點進行剪枝。abs (Wi) < Wmin(7)其中，Wmin為臨界權值。6).計算當前所有訓練樣本的總誤差E (t)和平均誤差A (t)。7).如果E(t)已達到給定值D，或算法已達到給定運算次數，則結束算法，否則轉 步驟8)。8).根據E(t)，A(t)和D間的關系調整正則化系數，然后轉步驟3)，繼續進行精調。圖2所示為用于煤灰熔點預測的神經網絡，具有8輸入1輸出的結構，其中8個輸 入分別對應組成煤灰的8個氧化物，即SiO2, Al2O3，Fe2O3，CaO, MgO, TiO2, K2O及Na2O，輸出 為煤灰熔點的軟化溫度。在鎮江諫壁電廠動力配煤過程中，通過試驗一共獲得205個樣本，前155個樣本用 于訓練，后50個樣本用于測試。為使神經元的輸入工作在較靈敏的區域，將所有樣本輸入 歸一到W，l]范圍內。輸入量歸一化時的最大、最小值如表1所示。表1歸一化時各輸入量的最大、最小值
權利要求
一種基于構造 剪枝混合優化RBF網絡的煤灰熔點預測方法，其特征在于該方法分為“粗調”和“精調”兩個階段，粗調階段按照以使能量函數最小為原則動態增加隱節點數目，選取相應的樣本輸入作為數據中心，直至隱節點數滿足停止準則時停止；精調階段用Gaussian正則化方法對粗調得到的RBF網絡的結構和參數作進一步調整，調整對象為數據中心調整、輸出權值調整、冗余隱節點刪除和正則化系數的動態調整；基于煤灰的化學組成成分建立相應的構造 剪枝混合優化RBF網絡，并以該網絡預測煤灰熔點。
2.根據權利要求1所述的基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方法，其 特征在于所述粗調具體步驟如下(Al)先從樣本輸入中選取網絡的第一個數據中心，然后每次增加一個隱節點，逐步調 整該數據中心的值，新的隱節點數據中心的選取以使能量函數最小為原則；采用Gaussian 正則化方法時的能量函數為
3.根據權利要求2所述的基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方法，其 特征在于選取網絡的第一個數據中心的方法為從樣本輸入中選擇某一\，使相應的^在 Y上的投影最大，即E1(Xi) = max{YTSi，i = 1，2，· · ·，N}(2)其中4 =|^(。，么(x2)，...，< (Xw)Jr為以Xi為數據中心的新增隱節點的響應函數向量，Y=[Y1,12,..., yN]T為神經網絡的教師輸出向量。
4.根據權利要求1所述的基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方法，其 特征在于所述精調具體步驟如下(Bi)數據中心調整調節數據中心，對樣本(\，yP，數據中心^的調節量為 Aci(x;,^)= (χ -ct^(y; -/(x;⑷rr其中，η為學習率，A SRBF函數的擴展常數，Ci為已有的數據中心d=氏(xj為 Gaussian型徑向基函數，f(Xj)為神經網絡對應樣本輸入Xj的輸出，Wi為該隱節點前一時 刻的輸出權值；第i個隱節點的調節公式為2其中，Ci為已有的數據中心，Aci (Xj，Yj)為數據中心Ci的調節量，Ai= {(xj; Yj) I I Xj-CiI < Kri, j = 1,2, ...,N}為參與調節的目標樣本，κ為重疊系數，ri SRBF 函數的擴展常數；(B2)輸出權值調整當網絡的數據中心確定后，最優權值可通過最小化能量函數直接得到，即 [W15W2,...,^, ^f =Wm(6)其中，Wi為第i個隱節點到輸出節點的權值，b是輸出偏移常數； (B3)冗余隱節點刪除通過正則化方法，當某隱節點輸出權值Wi滿足以下條件時，則刪除該隱節點 abs (Wi) < Wmin (7)其中，Wmin為臨界權值；(B4)正則化系數λ的動態調整每次數據中心調整后，隨之對λ進行調節，具體調節規則如下(1).如果E(t) <E(t-l)，或者E(t) <D，則 λ (t) = λ (t-D + Δ λ ；(2).如果E(t)彡 E(t-l)，E(t) < A(t)，而且 E(t)彡 D，則 λ (t) = λ (t-l)-A λ ；(3).如果E(t)彡 E(t-l)，E(t)彡 A(t)，而且 E(t)彡 D，則 λ (t) = P λ (t_l)； 其中，E(t-l)為前一次數據中心調節時的誤差，D為期望誤差值，A(t)為當前時刻的加權平均誤差，定義為A (t) = yA(t-l) + (l-y)E(t), μ、P均為接近于1的數。
5.根據權利要求1所述的基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方法，其 特征在于所述的RBF網絡具有8輸入1輸出的結構。
6.根據權利要求1所述的基于構造_剪枝混合優化RBF網絡的煤灰熔點預測方法，其 特征在于將所有樣本輸入歸一到W，l]范圍內。
全文摘要
本發明公開一種基于構造－剪枝混合優化RBF網絡的煤灰熔點預測方法，其特征在于該方法分為“粗調”和“精調”兩個階段，粗調階段按照以使能量函數最小為原則動態增加隱節點數目，選取相應的樣本輸入作為數據中心，直至隱節點數滿足停止準則時停止；精調階段用Gaussian正則化方法對粗調得到的RBF網絡的結構和參數作進一步調整；基于煤灰的化學組成成分建立相應的構造－剪枝混合優化RBF網絡，并以該網絡預測煤灰熔點。本發明給出的構造－剪枝混合優化算法(CPHM)，有效地融合了構造算法和剪枝算法的優點，不僅能動態調節RBF網絡的隱節點數，還能使網絡的數據中心自適應變化；具有較小的結構、較好的泛化能力和較強的魯棒性。
文檔編號G06N3/08GK101968832SQ201010521088
公開日2011年2月9日 申請日期2010年10月26日 優先權日2010年10月26日
發明者丁維明, 吳小麗, 魏海坤 申請人:東南大學