這套取代人的直覺與算法的系統，優于906個人類團隊中的615個團隊。
大數據分析包括尋找有某種預測能力的埋藏模式。但是，選擇哪些數據的“特征”來進行分析通常需要靠人類的直覺。在一個包含數據庫中，舉個例子，各種促銷和每周的利潤的開始和結束日期，其關鍵數據可能不是日期本身而是它們之間的跨度，或著不是總利潤，但平均跨越這些跨度。
麻省理工學院的研究人員的目標是，用一個不僅能搜索模式也能設計特征的新系統把人類元素從大數據分析中剝離出來。為了測試他們系統的第一個原型，他們參加了三個數據科學競賽，它與人類團隊比賽，在不熟悉的數據集中找到預測模式。906個團隊參與了三項比賽，研究人員的“數據科學機器”先于615個團隊完成。
在三項比賽中，數據科學機器的預測的準確率是94%和96%。第三個數字則是一個更為溫和的數字87%。人類的團隊通常需要進行好幾個月的預測算法，而數據科學機器產生它的每一個條目只花了2-12小時。
“我們把數據科學機器視為人類智能的自然補充，”Kanter說，他在麻省理工的碩士論文是《數據科學機器的基礎》。“有這么多的數據需要進行分析。現在它（機器）只是待在那里沒有做任何事。因此，也許我們可以拿出一個至少讓我們能夠開始著手、讓我們前進的解決方案。”
項目之間
Kanter和他的導師Kalyan Veeramachaneni，麻省理工學院計算機科學和人工智能實驗室的研究科學家（CSAIL），在他們的論文中描述了數據科學機器，Kanter將在下周的IEEE國際科學數據和先進分析會議上發表。
Veeramachaneni統一領導計算機科學與人工智能實驗室的所有成員組，在大數據分析的實際問題中采用機器學習技術，如依據風電場場址確定其發電能力或預測學生從在線課程中輟學的風險。
“我們從解決一些工業數據科學問題的經驗中觀察到的是一個非常關鍵的步驟，稱為特征工程，”Veeramachaneni說。“你要做的第一件事就是把你的數據從數據庫或結構中提取出來，為了做這個，你必須得有很多想法。”
例如，2個關鍵指標被用在預測輟學上：一個學生花多少時間解決一個問題集和一個學生相比他或她的同學花了多少時間在課程網站上。麻省理工學院的在線學習平臺MITx不記錄那些統計數字，但它可以從推斷中收集數據。
特色組成
Kanter和Veeramachaneni使用了一些技巧來制定數據分析候選特征。一種是利用數據庫設計中固有的結構關系。數據庫通常在不同的表中存儲不同類型的數據，使用數字標識表示它們之間的相關性。數據科學機器跟蹤這些相關性，將它們作為一個線索進行功能建設。
例如，一個表可以列出零售項目和它們的成本；另一個表可能包括在個別客戶購買的項目中列出的項目。數據科學機器將從第一個表中的第一個表輸入到第二個。然后，從第二表的關聯的幾個不同的項目中選擇相同的購買數量，它將執行一套操作，以產生候選功能：總成本，每個訂單，每個訂單的平均成本，最低成本，每個訂單，等等。作為跨表格的數字標識，數據科學機器會在各自層的頂端進行相互操作，找到最小的平均值、平均數、和等。
它也尋找所謂的分類數據，這似乎是限制在一個有限的范圍內的值，如一周的天數或品牌名稱。然后，它會依據劃分現有的跨類別的功能產生新的功能。
一旦它生成了一系列的備選項，它會減少它們的數量以確定這些值具有相關性。然后開始測試其樣本數據的簡化特征，使它們以不同的方式來優化它們預測收益率的準確性。
“數據科學機器是一個令人驚奇的、最前沿的研究解決實際問題的項目，是一種看問題的全新的方式。”Margo Seltzer說到，他是一個沒有參與這項工作的哈佛大學計算機科學教授。“我想他們所做的將迅速成為一種標準——很快就會。”
作者：Larry Hardesty 麻省理工學院新聞辦公室
京公網安備 11010502049343號