1、優(yōu)化查詢SQL語句

　　在對(duì)海量數(shù)據(jù)進(jìn)行查詢處理過程中，查詢的SQL語句的性能對(duì)查詢效率的影響是非常大的，編寫高效優(yōu)良的SQL腳本和存儲(chǔ)過程是數(shù)據(jù)庫工作人員的職責(zé)，也是檢驗(yàn)數(shù)據(jù)庫工作人員水平的一個(gè)標(biāo)準(zhǔn)，在對(duì)SQL語句的編寫過程中，例如減少關(guān)聯(lián)，少用或不用游標(biāo)，設(shè)計(jì)好高效的數(shù)據(jù)庫表結(jié)構(gòu)等都十分必要。

?

　　2、使用文本格式進(jìn)行處理

　　對(duì)一般的數(shù)據(jù)處理可以使用數(shù)據(jù)庫，如果對(duì)復(fù)雜的數(shù)據(jù)處理，必須借助程序，那么在程序操作數(shù)據(jù)庫和程序操作文本之間選擇，是一定要選擇程序操作文本的，原因?yàn)椋撼绦虿僮魑谋舅俣瓤?對(duì)文本進(jìn)行處理不容易出錯(cuò);文本的存儲(chǔ)不受限制等。例如一般的海量的網(wǎng)絡(luò)日志都是文本格式或者csv格式（文本格式），對(duì)它進(jìn)行處理牽扯到數(shù)據(jù)清洗，是要利用程序進(jìn)行處理的，而不建議導(dǎo)入數(shù)據(jù)庫再做清洗。

　　3、 定制強(qiáng)大的清洗規(guī)則和出錯(cuò)處理機(jī)制

　　海量數(shù)據(jù)中存在著不一致性，極有可能出現(xiàn)某處的瑕疵。例如，同樣的數(shù)據(jù)中的時(shí)間字段，有的可能為非標(biāo)準(zhǔn)的時(shí)間，出現(xiàn)的原因可能為應(yīng)用程序的錯(cuò)誤，系統(tǒng)的錯(cuò)誤等，這是在進(jìn)行數(shù)據(jù)處理時(shí)，必須制定強(qiáng)大的數(shù)據(jù)清洗規(guī)則和出錯(cuò)處理機(jī)制。

　　4、 建立視圖或者物化視圖

　　視圖中的數(shù)據(jù)來源于基表，對(duì)海量數(shù)據(jù)的處理，可以將數(shù)據(jù)按一定的規(guī)則分散到各個(gè)基表中，查詢或處理過程中可以基于視圖進(jìn)行，這樣分散了磁盤I/O，正如10根繩子吊著一根柱子和一根吊著一根柱子的區(qū)別。

　　5、 避免使用32位機(jī)子（極端情況）

　　目前的計(jì)算機(jī)很多都是32位的，那么編寫的程序?qū)?nèi)存的需要便受限制，而很多的海量數(shù)據(jù)處理是必須大量消耗內(nèi)存的，這便要求更好性能的機(jī)子，其中對(duì)位數(shù)的限制也十分重要。

　　6、考慮操作系統(tǒng)問題

　　海量數(shù)據(jù)處理過程中，除了對(duì)數(shù)據(jù)庫，處理程序等要求比較高以外，對(duì)操作系統(tǒng)的要求也放到了重要的位置，一般是必須使用服務(wù)器的，而且對(duì)系統(tǒng)的安全性和穩(wěn)定性等要求也比較高。尤其對(duì)操作系統(tǒng)自身的緩存機(jī)制，臨時(shí)空間的處理等問題都需要綜合考慮。