數據科學家最常用的十種演算法
最新一期的 KDnuggets 調查展示了一份數據科學家使用度最高的演算法列表,這份列表中包含了很多驚喜,包括最學術的演算法和面向產業化的演算法。
哪些方法/演算法是您在過去 12 個月中運用到一個實際的數據科學相關的應用程序中的?
這是基於 844 個投票者的結果
排名前十的演算法以及他們的投票者的比例分布如下:
圖 1 :數據科學家使用度最高的 10 大演算法
文末有全部演算法的集合列表
每個受訪者平均使用 8.1 個演算法,這相比於 2011 的相似調查顯示的結果有了巨大的增長
與 2011 年關於數據分析/數據挖掘的調查相比,我們注意到最常用的方法仍然是回歸、聚類、決策樹/Rules 和可視化。相對來說最大的增長是由 (pct2016 /pct2011 - 1) 測定的以下演算法:
Boosting,從 2011 年的 23.5% 至 2016 年的 32.8%,同比增長 40%
文本挖掘,從 2011 年的 27.7% 至 2016 年的 35.9%,同比增長 30%
可視化,從 2011 年的 38.3% 至 2016 年的 48.7%,同比增長 27%
時間序列/序列分析,從 2011 年的 29.6% 至 2016 年的 37.0%,同比增長 25%
異常/偏差檢測,從 2011 年的 16.4% 至 2016 年的 19.5%,同比增長 19%
集成方法,從 2011 年的 28.3%至 2016 年的 33.6%,同比增長 19%
支持向量機,從 2011 年的 28.6% 至 2016 年的 33.6%,同比增長 18%
回歸,從 2011 年的 57.9% 至 2016 年的 67.1%,同比增長 16%
最受歡迎演算法在 2016 年的調查中有了新的上榜名單:
K-近鄰,46%
主成分分析,43%
隨機森林,38%
優化,24%
神經網路 - 深度學習,19%
奇異值分解,16%
最大幅下降的有:
關聯規則,從 2011 年的 28.6% 至 2016 年的 15.3%,同比下降 47%
隆起造型,從 2011 年的 4.8% 至 2016 年的 3.1%,同比下降 36%
因素分析,從 2011 年的 18.6% 至 2016 年的 14.2%,同比下降 24%
生存分析,從 2011 年的 9.3% 至 2016 年的 7.9%,同比下降 15%
下表顯示了不同的演算法類型的使用:監督演算法、無監督演算法、元演算法,以及職業類型決定的對演算法的使用。我們排除 NA(4.5%)和其他(3%)的職業類型。
表 1:根據職業類型顯示的不同演算法使用度
我們注意到,幾乎每個人都使用監督學習演算法。
政府和產業業數據科學家比學生和學術研究人員使用更多不同類型的演算法,而產業數據科學家們更傾向於使用元演算法。
接下來,我們根據職業類型分析了前 10 名的演算法+深度學習使用情況。
表 2:根據職業類型分類的 10 大演算法+深度學習使用情況
為了更明顯的看到差異,我們計算了具體職業分類相比於平均演算法使用度的一個演算法偏差,即偏差(ALG,類型)=使用(ALG,類型)/使用(ALG,所有的)
圖 2:職業對演算法的使用偏好
我們注意到,產業數據科學家們更傾向於使用回歸、可視化、統計、隨機森林和時間序列。政府/非營利更傾向於使用可視化、主成分分析和時間序列。學術研究人員更傾向於使用主成分分析和深度學習。學生普遍使用更少的演算法,但多為文本挖掘和深度學習。
接下來,我們看看某一具體地域的參與度,表示整體的 KDnuggets 的用戶:
美國/加拿大,40%
歐洲,32%
亞洲,18%
拉丁美洲,5%
非洲/中東,3.4%
澳洲/紐西蘭,2.2%
由於在 2011 年的調查中,我們將產業/政府分在了一組,而將學術研究/學生分在了第二組,並計算了演算法對於業界/政府的親切度:
N(Alg,Ind_Gov) / N(Alg,Aca_Stu)
------------------------------- - 1
N(Ind_Gov) / N(Aca_Stu)
因此親切度為 0 的演算法表示它在產業/政府和學術研究人員或學生之間的使用情況對等。越高 IG 親切度表示演算法越被產業界普遍使用,反之越接近「學術」。
最「產業」的演算法是:
異常檢測,1.61
生存分析,1.39
因子分析,0.83
時間序列/序列,0.69
關聯規則,0.5
而 uplifting modeling 又是最「產業的演算法」,令人驚訝的發現是,它的使用率極低 - 只有 3.1% - 是本次調查的演算法中最低的。
最學術的演算法是:
常規神經網路,-0.35
樸素貝葉斯,-0.35
支持向量機,-0.24
深度學習,-0.19
EM,-0.17
下圖顯示了所有的演算法及其產業/學術親切度。
圖 3:KDnuggets 投票:最常被數據科學家使用的演算法:產業界 VS 學術界
下表有關於演算法的細節、兩次調查中使用演算法的比例、以及像上面解釋的產業親切度。
接下來的圖表展示了演算法的細節,按列
N:根據使用度排名
演算法:演算法名稱,
類型:S - 監督,U - 無監督,M - 元,Z - 其他,
在 2016 年調查中使用這種演算法的調查者比例
在 2011 年調查中使用這種演算法的調查者比例
變動(%2016 年/2011% - 1),
產業親切度(如上所述)
表 3:KDnuggets 2016 調查:數據科學家使用的演算法
來源:數據挖掘
編輯:Gemini
【寬客網路課堂】金融產品設計
專家點評:融會貫通各類金融產品,掌握其設計精髓,靈活運用於各種場景,解決各種需求;市場與營銷人員,也要學習產品設計,轉身變為「專業」銷售。
點擊展開全文
※2017年中國商業智能行業研究報告
※寬客網路課堂開張了
※Science發布:全世界最前沿的125個科學問題!
※全國多省市高考分數線劃定
TAG:大數據實驗室 |
※數據科學家必備的10種機器學習演算法
※數據科學家必須了解的六大聚類演算法:帶你發現數據之美
※數據科學家需要了解的5大聚類演算法
※每一位數據科學家都應掌握的5大機器學習演算法
※科學家提出超越傳統機器學習的量子演算法
※數據科學與數據科學家
※數據科學家的命令行技巧
※科學家最想「復活」的十種滅絕動物,太震撼!
※文字直接轉視頻,科學家用機器學習演算法實現這種操作
※還有這種操作?科學家用機器學習演算法實現「文字直接轉視頻」
※數據科學家不可錯過的機器學習模型開發利器
※動物界的科學家!蜜蜂能夠理解一個極其複雜的數學概念
※數據科學家必用的25個深度學習的開放數據集!
※中國最神秘的5個地方,科學家也無法解釋
※直擊:10大最常見的人類行為,有些科學家也無法解釋
※數據科學進階之路:了解數據科學工作,管理數據科學家團隊
※科學家預測計算機未來可用數據傳輸人類個性
※數據分析師、數據科學家、大數據專家三個職位的區別
※用細菌來繪畫 這些科學家有點酷
※科學家推斷出人類文明滅絕的三種方式