大數(shù)據(jù)會影響質(zhì)量，因為大數(shù)據(jù)的定義特征是數(shù)量，種類和速度使驗證變得困難難以捉摸的“第四”，即準確性組件（關(guān)于數(shù)據(jù)可靠性），由于可能會聚集大量的數(shù)據(jù)源而面臨挑戰(zhàn)，每個數(shù)據(jù)源可能會遇到不同的質(zhì)量問題，大數(shù)據(jù)還釋放了可能引入新類型數(shù)據(jù)錯誤的新的和更復(fù)雜的查詢的可能性，同時由于非結(jié)構(gòu)化數(shù)據(jù)比結(jié)構(gòu)化數(shù)據(jù)具有更大的不確定性，因此非結(jié)構(gòu)化數(shù)據(jù)會產(chǎn)生問題，并且機器學(xué)習算法傾向于充當“黑匣子”，其中數(shù)據(jù)中包含的偏差可能永遠不會消失。

您的數(shù)據(jù)質(zhì)量工具箱盡管已經(jīng)開發(fā)了許多工具來解決數(shù)據(jù)質(zhì)量問題，但是如果不小心應(yīng)用自動條目更正本身可能會降低數(shù)據(jù)質(zhì)量，所有影響數(shù)據(jù)清晰度的因素（例如準確性，一致性，及時性，重復(fù)性，易失性，完整性和相關(guān)性）都可能導(dǎo)致進一步的問題，因為企業(yè)會更正數(shù)據(jù)并將其調(diào)整為適合處理的形式，每個轉(zhuǎn)換都可能會丟失可能與給定查詢相關(guān)的信息，當前的數(shù)據(jù)質(zhì)量工具由主要的分析公司，利基公司和開源提供，它們提供諸如數(shù)據(jù)清理，數(shù)據(jù)概要分析，數(shù)據(jù)匹配，數(shù)據(jù)標準化，數(shù)據(jù)豐富和數(shù)據(jù)監(jiān)視之類的功能，諸如金融服務(wù)之類的利基工具專注于特殊類型的問題，并且正在開發(fā)新的工具，這些工具采用機器學(xué)習技術(shù)進行數(shù)據(jù)分類和數(shù)據(jù)清理。在將大數(shù)據(jù)與機器學(xué)習相結(jié)合的地方，還會出現(xiàn)其他質(zhì)量問題為規(guī)范化數(shù)據(jù)而進行的更改可能導(dǎo)致機器學(xué)習算法在解釋上出現(xiàn)偏差，大型數(shù)據(jù)存儲中錯誤發(fā)生的頻率相對較低，可以說使得對數(shù)據(jù)質(zhì)量檢查的需求變得不那么重要了，但現(xiàn)實情況是，質(zhì)量問題只是轉(zhuǎn)移到了其他領(lǐng)域，自動校正和一般假設(shè)可能會在整個數(shù)據(jù)集中引入隱藏的偏差。

保持真實必須根據(jù)業(yè)務(wù)需求了解數(shù)據(jù)質(zhì)量，在某些情況下，需要采用涉及無數(shù)變量的嚴格方法，但是對于許多查詢而言，更寬容的方法是可以接受的，在及時性和準確性，查詢值和數(shù)據(jù)清理以及準確性和可接受的錯誤之間始終需要權(quán)衡取舍，在復(fù)雜的數(shù)據(jù)和分析環(huán)境中，沒有一個適合所有大小的空間，查詢需要不同級別的準確性和及時性。

以一種方式構(gòu)造的數(shù)據(jù)可能適用于某些用途，但會導(dǎo)致其他用途的結(jié)果不準確或有偏差。數(shù)據(jù)質(zhì)量的最終測試是它是否產(chǎn)生所需的結(jié)果這要求進行嚴格的測試，并考慮引入錯誤的潛在原因，盡管用于數(shù)據(jù)清理，規(guī)范化和整理的工具越來越受歡迎，但可能的因素的多樣性意味著這些過程不會在短期內(nèi)完全實現(xiàn)自動化，隨著自動化的普及，您必須確保自動化解決方案不會由于轉(zhuǎn)換規(guī)則而在數(shù)據(jù)流中引入新問題。確定性的不確定性由于數(shù)據(jù)集和結(jié)構(gòu)化數(shù)據(jù)有限，因此數(shù)據(jù)質(zhì)量問題相對明確，創(chuàng)建數(shù)據(jù)的過程通常是透明的，并且會遇到已知錯誤：數(shù)據(jù)輸入錯誤，表格填寫不正確，地址問題，重復(fù)等，可能的范圍相當有限，并且要嚴格定義處理的數(shù)據(jù)格式，隨著機器學(xué)習和大數(shù)據(jù)的出現(xiàn)，數(shù)據(jù)清理的機制必須改變，除了更多，更快的數(shù)據(jù)外，非結(jié)構(gòu)化數(shù)據(jù)的不確定性也大大增加，數(shù)據(jù)清理必須解釋數(shù)據(jù)并將其放入適合處理的格式，而不會引入新的偏差，此外質(zhì)量過程將根據(jù)特定用途而有所不同。數(shù)據(jù)質(zhì)量比絕對質(zhì)量更重要。

根據(jù)研究目標和業(yè)務(wù)目標，需要使查詢與數(shù)據(jù)集更好地匹配，數(shù)據(jù)清理工具可以減少數(shù)據(jù)流中的一些常見錯誤，但始終存在潛在的意外偏見，同時查詢需要及時且負擔得起，從未迫切需要一種謹慎的數(shù)據(jù)質(zhì)量方法，機器學(xué)習和高級軟件工具無疑提供了解決方案的一部分，從而有可能為質(zhì)量問題帶來新的方法，但是沒有萬能藥，更高級別的復(fù)雜性意味著需要更仔細地檢查數(shù)據(jù)。
責任編輯：YYX