Python數(shù)據(jù)處理

前言 xiii 第1　章 Python 簡介　1 1.1　為什么選擇Python　4 1.2　開始使用Python　4 1.2.1　Python 版本選擇　5 1.2.2　安裝Python　6 1.2.3　測試Python　9 1.2.4　安裝pip　11 1.2.5　安裝代碼編輯器　12 1.2.6　安裝IPython（可選）　13 1.3　小結　13 第2　章 Python 基礎　14 2.1　基本數(shù)據(jù)類型　15 2.1.1　字符串　15 2.1.2　整數(shù)和浮點數(shù)　15 2.2　數(shù)據(jù)容器　18 2.2.1　變量　18 2.2.2　列表　21 2.2.3　字典　22 2.3　各種數(shù)據(jù)類型的用途　23 2.3.1　字符串方法：字符串能做什么　24 2.3.2　數(shù)值方法：數(shù)字能做什么　25 2.3.3　列表方法：列表能做什么　26 2.3.4　字典方法：字典能做什么　27 2.4　有用的工具：type、dir 和help　28 2.4.1　type　28 2.4.2　dir　28 2.4.3　help　30 2.5　綜合運用　31 2.6　代碼的含義　32 2.7　小結　33 第3　章 供機器讀取的數(shù)據(jù)　34 3.1　CSV 數(shù)據(jù)　35 3.1.1　如何導入CSV 數(shù)據(jù)　36 3.1.2　將代碼保存到文件中并在命令行中運行　39 3.2　JSON 數(shù)據(jù)　41 3.3　XML 數(shù)據(jù)　44 3.4　小結　56 第4　章 處理Excel 文件　58 4.1　安裝Python 包　58 4.2　解析Excel 文件　59 4.3　開始解析　60 4.4　小結　71 第5　章 處理PDF 文件，以及用Python 解決問題　73 5.1　盡量不要用PDF　73 5.2　解析PDF 的編程方法　74 5.2.1　利用slate 庫打開并讀取PDF　75 5.2.2　將PDF 轉換成文本　77 5.3　利用pdfminer 解析PDF　78 5.4　學習解決問題的方法　92 5.4.1　練習：使用表格提取，換用另一個庫　94 5.4.2　練習：手動清洗數(shù)據(jù)　98 5.4.3　練習：試用另一種工具　98 5.5　不常見的文件類型　101 5.6　小結　101 第6　章 數(shù)據(jù)獲取與存儲　103 6.1　并非所有數(shù)據(jù)生而平等　103 6.2　真實性核查　104 6.3　數(shù)據(jù)可讀性、數(shù)據(jù)清潔度和數(shù)據(jù)壽命　105 6.4　尋找數(shù)據(jù)　105 6.4.1　打電話　105 6.4.2　美國政府數(shù)據(jù)　106 6.4.3　全球政府和城市開放數(shù)據(jù)　107 6.4.4　組織數(shù)據(jù)和非政府組織數(shù)據(jù)　109 6.4.5　教育數(shù)據(jù)和大學數(shù)據(jù)　109 6.4.6　醫(yī)學數(shù)據(jù)和科學數(shù)據(jù)　109 6.4.7　眾包數(shù)據(jù)和API　110 6.5　案例研究：數(shù)據(jù)調(diào)查實例　111 6.5.1　埃博拉病毒危機　111 6.5.2　列車安全　111 6.5.3　足球運動員的薪水　112 6.5.4　童工　112 6.6　數(shù)據(jù)存儲　113 6.7　數(shù)據(jù)庫簡介　113 6.7.1　關系型數(shù)據(jù)庫：MySQL 和PostgreSQL　114 6.7.2　非關系型數(shù)據(jù)庫：NoSQL　116 6.7.3　用Python 創(chuàng)建本地數(shù)據(jù)庫　117 6.8　使用簡單文件　118 6.8.1　云存儲和Python　118 6.8.2　本地存儲和Python　119 6.9　其他數(shù)據(jù)存儲方式　119 6.10　小結　119 第7　章 數(shù)據(jù)清洗：研究、匹配與格式化　121 7.1　為什么要清洗數(shù)據(jù)　121 7.2　數(shù)據(jù)清洗基礎知識　122 7.2.1　找出需要清洗的數(shù)據(jù)　123 7.2.2　數(shù)據(jù)格式化　131 7.2.3　找出離群值和不良數(shù)據(jù)　135 7.2.4　找出重復值　140 7.2.5　模糊匹配　143 7.2.6　正則表達式匹配　146 7.2.7　如何處理重復記錄　150 7.3　小結　151 第8　章 數(shù)據(jù)清洗：標準化和腳本化　153 8.1　數(shù)據(jù)歸一化和標準化　153 8.2　數(shù)據(jù)存儲　154 8.3　找到適合項目的數(shù)據(jù)清洗方法　156 8.4　數(shù)據(jù)清洗腳本化　157 8.5　用新數(shù)據(jù)測試　170 8.6　小結　172 第9　章 數(shù)據(jù)探索和分析　173 9.1　探索數(shù)據(jù)　173 9.1.1　導入數(shù)據(jù)　174 9.1.2　探索表函數(shù)　179 9.1.3　聯(lián)結多個數(shù)據(jù)集　182 9.1.4　識別相關性　186 9.1.5　找出離群值　187 9.1.6　創(chuàng)建分組　189 9.1.7　深入探索　192 9.2　分析數(shù)據(jù)　193 9.2.1　分離和聚焦數(shù)據(jù)　194 9.2.2　你的數(shù)據(jù)在講什么　196 9.2.3　描述結論　196 9.2.4　將結論寫成文檔　197 9.3　小結　197 第10　章 展示數(shù)據(jù)　199 10.1　避免講故事陷阱　199 10.1.1　怎樣講故事　200 10.1.2　了解聽眾　200 10.2　可視化數(shù)據(jù)　201 10.2.1　圖表　201 10.2.2　時間相關數(shù)據(jù)　207 10.2.3　地圖　208 10.2.4　交互式元素　211 10.2.5　文字　212 10.2.6　圖片、視頻和插畫　212 10.3　展示工具　213 10.4　發(fā)布數(shù)據(jù)　213 10.4.1　使用可用站點　213 10.4.2　開源平臺：創(chuàng)建一個新網(wǎng)站　215 10.4.3　Jupyter（曾名IPython notebook）　216 10.5　小結　219 第11　章 網(wǎng)頁抓取：獲取并存儲網(wǎng)絡數(shù)據(jù)　221 11.1　抓取什么和如何抓取　221 11.2　分析網(wǎng)頁　223 11.2.1　檢視：標記結構　224 11.2.2　網(wǎng)絡/ 時間線：頁面是如何加載的　230 11.2.3　控制臺：同JavaScript 交互　232 11.2.4　頁面的深入分析　236 11.3　得到頁面：如何通過互聯(lián)網(wǎng)發(fā)出請求　237 11.4　使用Beautiful Soup 讀取網(wǎng)頁　238 11.5　使用lxml 讀取網(wǎng)頁　241 11.6　小結　249 第12　章 高級網(wǎng)頁抓?。浩聊蛔ト∑髋c爬蟲　251 12.1　基于瀏覽器的解析　251 12.1.1　使用Selenium 進行屏幕讀取　252 12.1.2　使用Ghost.py 進行屏幕讀取　260 12.2　爬取網(wǎng)頁　266 12.2.1　使用Scrapy 創(chuàng)建一個爬蟲　266 12.2.2　使用Scrapy 爬取整個網(wǎng)站　273 12.3　網(wǎng)絡：互聯(lián)網(wǎng)的工作原理，以及為什么它會讓腳本崩潰　281 12.4　變化的互聯(lián)網(wǎng)（或腳本為什么崩潰）　283 12.5　幾句忠告　284 12.6　小結　284 第13　章 應用編程接口　286 13.1　API 特性　287 13.1.1　REST API 與流式API　287 13.1.2　頻率限制　287 13.1.3　分級數(shù)據(jù)卷　288 13.1.4　API key 和token　289 13.2　一次簡單的Twitter REST API 數(shù)據(jù)拉取　290 13.3　使用Twitter REST API 進行高級數(shù)據(jù)收集　292 13.4　使用Twitter 流式API 進行高級數(shù)據(jù)收集　295 13.5　小結　297 第14　章 自動化和規(guī)?；?98 14.1　為什么要自動化　298 14.2　自動化步驟　299 14.3　什么會出錯　301 14.4　在哪里自動化　302 14.5　自動化的特殊工具　303 14.5.1　使用本地文件、參數(shù)及配置文件　303 14.5.2　在數(shù)據(jù)處理中使用云　308 14.5.3　使用并行處理　310 14.5.4　使用分布式處理　312 14.6　簡單的自動化　313 14.6.1　CronJobs　314 14.6.2　Web 接口　316 14.6.3　Jupyter notebook　316 14.7　大規(guī)模自動化　317 14.7.1　Celery：基于隊列的自動化　317 14.7.2　Ansible：操作自動化　318 14.8　監(jiān)控自動化程序　319 14.8.1　Python 日志　320 14.8.2　添加自動化信息　322 14.8.3　上傳和其他報告　326 14.8.4　日志和監(jiān)控服務　327 14.9　沒有萬無一失的系統(tǒng)　328 14.10　小結　328 第15　章 結論　330 15.1　數(shù)據(jù)處理者的職責　330 15.2　數(shù)據(jù)處理之上　331 15.2.1　成為一名更優(yōu)秀的數(shù)據(jù)分析師　331 15.2.2　成為一名更優(yōu)秀的開發(fā)者　331 15.2.3　成為一名更優(yōu)秀的視覺化講故事者　332 15.2.4　成為一名更優(yōu)秀的系統(tǒng)架構師　332 15.3　下一步做什么　332 附錄A　編程語言對比　334 附錄B　初學者的Python 學習資源　336 附錄C　學習命令行　338 附錄D　高級Python 設置　349 附錄E　Python 陷阱　361 附錄F　IPython 指南　370 附錄G　使用亞馬遜網(wǎng)絡服務　374 關于作者　378 關于封面　378