嵌入式開發的一元線性回歸算法介紹

? ?線性回歸是最經典的最小二乘法、卡爾曼、維納濾波器的基礎，也是我在研究生階段接觸的第一個算法，第一次使用也是給導師做項目的時候用到的，工作之后發現這些算法在工程中無處不在，但是不幸的是很多朋友不會用這些數學算法，只會用滑動均值濾波、平均值濾波、低通、高通、帶通、陷波這些簡單的算法，這些算法雖然簡單，但是它的作用確實沒有最小二乘、卡爾曼濾波這些算法的效果好。前提是要正確運用這些算法，否則用了還不如不用。

其實回歸算法是相對分類算法而言的，與我們想要預測的目標變量y的值類型有關。如果目標變量y是分類型變量，如預測用戶的性別（男、女），預測月季花的顏色（紅、白、黃……），預測是否患有肺癌（是、否），那我們就需要用分類算法去擬合訓練數據并做出預測，學術上一般用SVM(支持向量機)、粒子群算法、神經網絡算法等。但是在嵌入式開發尤其是單片機開發過程中，這些復雜算法因其復雜程度和運算量的關系，無法得到工程化應用，一般則用計算量較小更容易實現的卡爾曼或最小二乘法，然而一元線性回歸則是最簡單、理解起來最容易接受，也是應用最廣泛的算法，當然也是現在比較火熱的機器學習行業的入門算法。

? ? ??一元線性回歸

一元線性回歸顧名思義就是一個自變量（可以是ADC采集到的電壓值、DS18B20采集到的溫度值、也可以是光敏傳感器采集的光照強度值）。下面我們以工作中最常見的電壓采集為例，用一元線性回歸的方法來預測我們的電壓采集的線性方程，以我們物聯網開發板的電壓采集系統為例：

圖1 輸入電壓12VADC電壓采集電路

因為單片機可以采集的電壓范圍是0-3.3V（基本上采集滿量程電壓百分之六十是最準確的，往往硬件工程師在設計電路的時候也是這么考慮的），大家可以看到硬件電路采用分壓電阻，將12V的電壓分成1/11，將這個值送給單片機ADC，單片機采集到這個電壓值，乘以11就是我們采集的電壓值，這個我們很容易能夠理解，因為輸入電壓基本上在12V上位微笑波動的數值，很容易我們能夠反向回推。現實中我們也可以這么做，當然前提是我們要求采集的精度不高。但是在工控領域或者要求精度較高的測控領域，我們就要用到線性回歸的的方法了。

假設電壓輸入范圍是4-12V，因為ADC模塊采集會有各種各樣的誤差（積分誤差、微分誤差、零漂、電路中電阻的精度誤差）導致我們采集到的電壓值有一定的誤差，此時要很好地解決這個問題，我們就可以用最小二乘法來預測線性方程（用到的就是一元線性回歸）。當然假設我們的系統是線性系統，這個要我們硬件設計的小伙伴盡量從硬件角度多考慮（電路阻抗匹配的設計、PCB的走線、ADC參考電壓等方面去考慮），保證系統最大化接近線性就可以，系統不可能完全線性的。硬件偏差太大，軟件也是有心殺賊無力回天了，從這個角度可以說軟件是輔助硬件，加上算法是最大化輔助硬件。