數據科學技術如今已在許多組織中占有一席之地,數據科學家正迅速成為以數據為中心的組織最受歡迎的角色之一。數據科學的應用程序利用機器學習等技術和大數據的力量來獲取深入的見解和新的功能,其中包括預測分析、圖像和對象識別、會話人工智能系統等。
事實上,那些沒有在數據科學上進行充分投資的組織可能很快落后于在數據科學方面獲得顯著競爭優勢的競爭對手。
數據科學家可以做些什么以提供這種變革性的業務收益?數據科學領域是一些關鍵要素的集合:準確提取可量化數據的統計和數學方法;使用先進的分析技術和方法從科學角度解決數據分析的技術和算法,有助于處理大型數據集;以及可以幫助將大量數據整理成獲得高質量見解的所需格式的工具和方法。
以下將更深入地研究數據科學家使用的常見統計和分析技術。其中一些數據科學技術植根于數世紀的數學和統計工作,而另一些技術則相對較新,利用了機器學習、深度學習和其他形式的高級分析的研究成果。
數據科學如何發現數據之間的關系
當識別大量數據中的信息時,數據科學家首先需要辨別不同的數據元素如何相互關聯。例如,如果在一張圖上繪制了一堆數據點,那么如何知道它們是否有意義?
數據科學家最廣泛使用的有三種統計和分析技術。也許數據表示兩個或多個變量之間的關系,而其工作是繪制某種最能描述這種關系的曲線或多維平面?;蛘撸砭哂心撤N親和力的集群。其他數據可能代表不同的類別。通過發現這些關系,可以使數據的其他隨機性具有意義,然后可以對其進行分析和可視化,以提供組織可以用來制定決策或計劃策略的信息。
以下了解可用于執行分析的各種數據科學技術和方法:
分類技術
在分類問題中,數據科學家要回答的首要問題是:“這些數據屬于什么類別?”將數據分類的原因很多。也許數據是手繪的圖像,人們需要知道圖像代表什么字母或數字。或者代表貸款申請的數據,想知道它應該屬于“已批準”還是“已拒絕”類別。其他分類可以集中在確定患者治療方案或電子郵件是否是垃圾郵件。
數據科學家用來將數據過濾到類別中的算法和方法包括:
•決策樹。這些是分支邏輯結構,使用機器生成的參數和數值樹將數據分類為已定義的類別。
•貝葉斯分類器。利用概率的力量,貝葉斯分類器可以幫助將數據分為簡單的類別。
•支持向量機(SVM)。支持向量機的目標是繪制一條寬邊距的曲線或平面,將數據分成不同的類別。
•K-近鄰算法。該技術使用一種簡單的“惰性決策”方法,根據數據集中最鄰近的類別來確定數據點應該屬于哪個類別。
•邏輯回歸。盡管使用了分類技術,但它使用將數據擬合到一條線的想法來區分每一邊的不同類別。這條線的形狀使數據可以移至某個類別。
•神經網絡。這種方法使用訓練有素的人工神經網絡,尤其是具有多個隱藏層的深度學習網絡。神經網絡已經顯示出強大的分類能力,其中包含大量的訓練數據。
回歸技術
如果不知道數據屬于哪一類,而是想知道不同數據點之間的關系該怎么辦?回歸的主要思想是回答以下問題:“這個數據的預測值是多少?”一個簡單的概念來自“均值回歸”的統計概念,它可以是一個獨立變量和一個因變量之間的直接回歸,也可以是一個試圖找到多個變量之間關系的多維回歸。
例如決策樹支持向量機(SVM)和神經網絡一些分類技術,也可以用來進行回歸。此外,數據科學家可以使用的回歸技術包括:
•線性回歸。作為數據科學中應用最廣泛的方法之一,這種方法試圖根據兩個變量之間的相關性找到最適合所分析數據的曲線。
•套索回歸。Lasso(套索)是“最小絕對收縮和選擇算符”的縮寫,是一種通過在最終模型中使用數據子集來提高線性回歸模型預測準確性的技術。
•多元回歸。這涉及尋找適合可能包含多個變量的多維數據的線或平面的不同方法。
聚類和關聯分析技術
另一組數據科學技術側重于回答這樣一個問題:“這些數據是如何分組的,不同的數據點屬于哪些組?”數據科學家可以發現相關數據點的聚類,這些數據點具有共同的各種特征,從而在分析應用程序中產生有用的信息。
可用于聚類用途的方法包括:
•K-均值聚類。K-均值算法確定數據集中的一定數量的聚類,并找到“質心”,以標識不同聚類的位置,并將數據點分配給最接近的聚類。
•均值漂移聚類。另一種基于質心的聚類技術,它可以單獨使用,也可以通過移動指定的質心來改進k-均值聚類。
•DBSCAN。DBSCAN是“基于密度的帶噪空間聚類算法DBSCAN”的縮寫,是另一種發現聚類的技術,它使用一種更高級的方法來識別聚類的密度。
•高斯混合模型。高斯混合模型通過使用高斯分布將數據分組在一起而不是將數據視為奇點來幫助找到聚類。
•分層聚類。與決策樹類似,這種技術使用層次化的分支方法來查找聚類。
關聯分析是一種相關但獨立的技術。其背后的主要思想是找到描述不同數據點之間公共性的關聯規則。與聚類類似,人們正在尋找數據所屬的組。但是在這種情況下,試圖確定何時數據點一起出現,而不是僅僅識別它們的集群。在聚類中,其目標是將大數據集劃分為可識別的組,而通過關聯分析,人們正在測量數據點之間的關聯程度。
數據科學應用實例
數據科學工具帶中的上述方法和技術需要適當地應用于特定的分析問題以及可用于解決這些問題的數據。優秀的數據科學家必須能夠理解當前問題的本質——是聚類、分類還是回歸?以及在給定數據特征的情況下可以產生所需答案的最佳算法。這就是數據科學實際上是一個科學過程而不是具有嚴格規則的過程,并允許通過編程解決問題的原因。
使用這些技術,數據科學家可以處理廣泛的應用程序,其中許多應用程序通常出現在不同類型的行業和組織中。以下是一些例子:
·異常檢測。如果可以找到預期或正常數據的模式,那么也可以找到那些不符合模式的數據點。金融服務、醫療保健、零售和制造業等行業組織經常采用各種數據科學方法來識別其數據中的異常情況,以用于欺詐檢測、客戶分析、網絡安全和IT系統監控。異常檢測還可以用來消除數據集中的異常值,以提高分析的準確性。
·二分類和多分類。分類技術的一個主要應用是確定某物是否屬于某一特定類別。這就是所謂的二分類,因為人們可能會問諸如“圖片中是否有貓?”之類的問題。實際的業務應用是使用圖像識別在大量文件中識別合同或發票。在多類分類中,在數據集中有許多不同的類別,正在努力尋找最適合數據點的類別。例如,美國勞工統計局會對工傷進行自動分類。
·個性化。希望與客戶進行個性化交互或向客戶推薦產品和服務的組織首先需要將數據分組到具有共享特征的數據桶中。有效的數據科學工作可以使用推薦引擎和超個性化系統等技術,根據個人的具體需求和喜好量身來定制網站,推銷產品及更多內容,這些技術是通過匹配人員詳細資料中的數據來驅動的。
這只是數據科學應用程序的一些示例。通過采用數據分析的各種工具和方法,數據科學家可以幫助使用它們的組織獲得戰略和競爭優勢。
版權聲明:本文為企業網D1Net編譯,轉載需注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。