顯示具有 Johns Hopkins University: Data Science 標籤的文章。 顯示所有文章
顯示具有 Johns Hopkins University: Data Science 標籤的文章。 顯示所有文章

2015年5月10日

前往資料科學之道 - Developing Data Products

參與Coursera的課程:Developing Data Products些許心得

資料分析的最後一個步驟就是將結果呈現。

呈現的方式很多,包括文字報告、圖像、簡報、互動式網頁、或是R package。由於不同的呈現方式需要不同的技術,例如互動式網頁,會用到java script和html5等語法,R提供了很多套件,讓只會用R的人也可以很快速地做出成果。但是如果本身就會相關的技術,則不需用到這些懶人包。

2015年3月30日

前往資料科學之道 - Practical Machine Learning

參與Coursera的課程:Practical Machine Learning些許心得:

課程內容

此課程和其他Data Science課程相比,絕大部份都是介紹幾個常見的模型建立法,和相對應的R程式碼為主,幾乎沒有提到數學運算的部份。

Machine Learning 領域廣大,不同的學者提出不同的技術,就有不同的R package。這些package預設使用的方式有時並不一致,所以產生了caret 這個套件。讓我們有一個統一的介面使用這些不同的演算法。本課程主要使用caret建立各種模型。

2015年3月2日

前往資料科學之道 - Regression Models

參與Coursera的課程:Regression Models些許心得:

課程所涵蓋的概念:
  • simple linear regression
    • residual variation
  • multi variable regression
    • variance inflation
  • logistic regression 
必需預備的知識:
建議預備的知識:Exploratory Data Analysis

2015年2月2日

前往資料科學之道 - 統計推論

參與Coursera的課程:Statistical Inference些許心得:
  • 統計學基礎,像是:
    • Probability and Conditional Probability
    • Mean and Variance
    • Central Limit Theorem
    • Normal Distribution, Poisson Distribution
    • Confidence Intervals
    • Power
  • 使用Swirl對於沒接觸過統計的人是一大幫助。

前往資料科學之道 - 可重製之研究

參與Coursera的課程:Reproducible Research 些許心得:
  • 所有對資料進行的步驟都應該紀錄。
    • 是紀錄我們對資料的動作,而不是我們認為應該做的動作。
    • 一般圖形介面軟體很難達到這種要求,R等以文字描述執行動作的軟體則相對適合。
  • 如果文章內容不龐雜,將內容、資料處理步驟、結果放在同一個文件不失為一個好辦法。
    • R提供許多套件可以達成,knitr為其中之一。
    • 一個例子放在Rpubs.
  •  必須預備的知識(沒有的話無法完成作業):
  • 建議預備的知識(課堂中極少部份會要求此類知識)

2014年12月12日

前往資料科學之道 - 探索性資料分析

參與Coursera的課程:Exploratory Data Analysis些許心得:
  • 快速、簡單地用圖形顯示資料,用圖像方式看看有沒有什麼有趣的現象,如果發現有,再進一步處理。
  • 要和什麼比較?因為只有比較才能看出差異存在。
  • 別讓分析圖形的視角,侷限我們分析事物的視角。
  • 資料的屬性(數字、文字、還是日期)會影響R顯示圖形的預設方式
  • R至少有3種圖形系統(就以本課涵蓋範圍來說)
    • Base
    • lattice
    • ggplot2
  • 在這個環節中,以最快能讓我們看出數據中趨勢的圖形系統為先

2014年12月11日

前往資料科學之道 - 取得與清理資料

參與Coursera的課程: Getting and Cleaning Data些許心得:
  • 一般來說,我們在處理資料的時會經過下列流程:原始的資料 -> 整齊的資料 -> 溝通的資料
    • 原始的資料 -> 整齊的資料:由於原始的資料種類繁多,上自MariaDB, JSON, XML等等,下達csv、txt等。必須要先整理格式,才能使用進行分析。
    • 整齊的資料 -> 溝通的資料:資料進行分析後,依據使用環境,成為文字、表格、圖像、互動程式等等,將成果散布出去。
  • 這應該會是花最多時間的環節。
  • dplyr package 在這環節的實用性非常高。在執行這堂課的練習專案時可以明顯地感受到其效果。

2014年12月10日

前往資料科學之道 - R語言設計

參與Coursera的課程:R Programming些許心得
  • 一開始接觸R時,我們應該先把R當成一個互動式的資料分析環境,而不是一種程式語言。(we should think R as an interactive data analysis environment, not a programing language.)
  • stackoverflow是找答案,問問題的好地方。
  • 使用swirl學習是一個有趣的經驗,在R中直接學習部份課程, 並且回傳學習結果到Coursera網站。建議先使用這個功能,從中學習到的技巧可以應用於該課程的練習專案。
  • 這個課程其實可以和資料科學家的工具盒一起服用,因為後者只是安裝軟體。

其他參考資料:

2014年11月10日

前往資料科學之道 - 第一課:資料科學家的工具盒

第一課:The Data Scientist’s Toolbox

大慨介紹整個課程,及安裝設定處理數據的軟體。
會用到的軟體:
  • R:
    • 資料處理軟體
    • 程式語言
    • 運行環境
    • 開源碼計劃
    • 社群
  • R Studio:一種開發環境,協助撰寫R指令時更加方便。
  • Git:版本管理系統,安裝在本機
  • GitHub:一個網路服務,提供線上版本管理,可以將本機的R腳本上傳與他人分享。

一些比較重要的句子:
  • 最重要的是問對問題,資料只是其次。
  • 我們要的是適合的資料,而非大資料抑或是小資料。