顯示具有 SQL-Data Quality Service 標籤的文章。 顯示所有文章
顯示具有 SQL-Data Quality Service 標籤的文章。 顯示所有文章

2014年1月28日 星期二

資料重覆問題

在企業中,主要資料( Master Data)的來源常常會經由不同系統匯入,此時最大的挑戰就是「識別對應(identity mapping)」和「資料重複(de-duplication)」問題。

例如:來自不同系統的客戶資料,他們使用不同的識別碼,但卻表示同一位客戶,在建置主資料時,你該如何識別它們,以剔除這樣子的重複性。 另一種狀況是像名字或地址這類資料,常常因為輸入打字的原故,彼此之間有些微的不同,但是卻又代表相同的資料,在建置主資料時,也應該要剔除這樣子的重複性。

2014年1月27日 星期一

資料品質專案

在安裝 Data Quality Services 之後,你就可以開始使用 DQS 提升資料品質。 DQS 中的「資料品質專案(Data Quality Project)」是一種改善來源資料品質的一種專案, 它會利用知識庫(KB)中的資訊,執行「資料比對(matching)」和「資料清理(cleansing)」活動(Activity),然後將執行結果匯出到 SQL Server 資料庫或 .csv 檔案。

下表先簡單整理解決「資料清理(cleansing)」「資料比對(matching)」問題,可用的工具:

2014年1月22日 星期三

管理 Master Data

設計 Master Data Services (MDS)

Master Data Services

Master Data Services(MDS)主要用途就是要用來執行主要資料管理(Master Data Management, MDM)。 主要資料指的是單位組織對其非交易之資料進行探索與定義,以便匯編成一份可維護的主要清單。 成功的 MDM 方案可產生可靠的集中式資料,以利資料分析,以便導出更好的商業性決策。

也就是說,MDS 主要用來維護一個精確且集中式的資料(即主要資料),確保整個組織的所有應用程式都能夠共同參考這一份資料。 例如:ERP, HMS, CRM 等不同系統,他們都必參照到"人"的資料,就可以透過 MDS 建立一份人的主要資料,以便當做這些應用程式的中央資料單位。 或者像郵遞區號,通常也都是當做主要資料。

MDM 專案一般包含內部商業程序的評估與重組,以及 MDM 技術的實作。 只要透過適當的訓練,大部分商務使用者應該都可以實作 Master Data Services 方案。 此外,您還可以使用 MDS 管理任何網域(domain);它不是單指管理客戶、產品或帳戶的清單。 首次安裝 MDS 時,它不包含任何網域的結構,但您可以經由建立模型來定義所需要的網域。

安裝與維護 Data Quality Servies (DQS)

企業資訊管理解決方案 (EIM)

SQL Server 2012 在單一產品中提供了有效企業資訊管理 (EIM) 解決方案所需的所有元件。 可幫助您建置 EIM 解決方案的主要 SQL Server 2012 元件包括:

  • SSIS : SQL Server Integration Services
    提供強大的 ETL 功能,整合各種不同的來源資料。
  • MDS : SQL Server Master Data Services
    該服務可用來維護一個精確且集中式的資料集,確保主要資料在不同應用程式之間的完整性和一致性。
  • DQS : SQL Server Data Quality Services
    該服務可讓您清理、比對、標準化及充實資料,籍此維護資料的品質,並確保資料適合其商業用途。

什麼是 Data Quality Services (DQS)

  • DQS 是一種利用知識驅動(knowledge-driven)以提升資料品質的服務。
  • DQS 可讓您建立知識庫,然後使用該知識庫執行各種重要的資料品質工作,包括更正(correction)、充實(enrichment)、標準化(standardization)及刪除重複(de-duplication)資料。
  • 你也可以在 DQS 中使用雲端參考資料當作參考資料提供者,以更執行資料清理。
  • DQS 也提供您整合資料品質工作(data-quality tasks),讓您分析資料的完整性。

DQS 包含 Data Quality Server 和 Data Quality Client,兩者都會安裝成 SQL Server 2012 的一部分。

  • Data Quality Server:一個 SQL Server 執行個體功能。其中包含具有資料品質功能與儲存的三個 SQL Server 目錄。
  • Data Quality Client:一個 SQL Server 共用功能。 操作者(商務使用者、資訊工作者以及 IT 專業人員)可以使用該功能來執行電腦輔助的資料品質分析(自動),或者以互動方式來管理資料品質(人工)。