Python for Data Mining Quick Syntax Reference — Valentina Porcu Python for Data Mining Quick Syntax Reference Valentina Porcu Python for Data Mining Quick Syntax Reference Valentina Porcu Nuoro, Italy ISBN-13 (pbk): 978-1-4842-4112-7 ISBN-13 (electronic): 978-1-4842-4113-4 https://doi.org/10.1007/978-1-4842-4113-4 Library of Congress Control Number: 2018966554 Copyright © 2018 by Valentina Porcu This work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the material is concerned, specifically the rights of translation, reprinting, reuse of illustrations, recitation, broadcasting, reproduction on microfilms or in any other physical way, and transmission or information storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now known or hereafter developed. Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol with every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in an editorial fashion and to the benefit of the trademark owner, with no intention of infringement of the trademark. The use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to proprietary rights. While the advice and information in this book are believed to be true and accurate at the date of publication, neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or omissions that may be made. The publisher makes no warranty, express or implied, with respect to the material contained herein. Managing Director, Apress Media LLC: Welmoed Spahr Acquisitions Editor: Todd Green Development Editor: James Markham Coordinating Editor: Jill Balzano Cover image designed by Freepik (www.freepik.com) Distributed to the book trade worldwide by Springer Science+Business Media New York, 233 Spring Street, 6th Floor, New York, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505, e-mail [email protected], or visit www.springeronline.com. Apress Media, LLC is a California LLC and the sole member (owner) is Springer Science + Business Media Finance Inc (SSBM Finance Inc). SSBM Finance Inc is a Delaware corporation. For information on translations, please e-mail [email protected], or visit http://www.apress. com/rights-permissions. Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales web page at http://www.apress.com/bulk-sales. Any source code or other supplementary material referenced by the author in this book is available to readers on GitHub via the book’s product page, located at www.apress.com/9781484241127. For more detailed information, please visit http://www.apress.com/source-code. Printed on acid-free paper Table of Contents About the Author ���������������������������������������������������������������������������������ix About the Technical Reviewer �������������������������������������������������������������xi Introduction ���������������������������������������������������������������������������������������xiii Chapter 1: Getting Started ��������������������������������������������������������������������1 Installing Python ���������������������������������������������������������������������������������������������������1 Editor and IDEs ������������������������������������������������������������������������������������������������������2 Differences between Python2 and Python3 ����������������������������������������������������������7 Work Directory ������������������������������������������������������������������������������������������������������8 Using a Terminal �������������������������������������������������������������������������������������������������10 Summary�������������������������������������������������������������������������������������������������������������11 Chapter 2: Introductory Notes ������������������������������������������������������������13 Objects in Python ������������������������������������������������������������������������������������������������13 Reserved Terms for the System ��������������������������������������������������������������������������14 Entering Comments in the Code �������������������������������������������������������������������������14 Types of Data ������������������������������������������������������������������������������������������������������15 File Format ����������������������������������������������������������������������������������������������������������16 Operators ������������������������������������������������������������������������������������������������������������16 Mathematical Operators ��������������������������������������������������������������������������������17 Comparison and Membership Operators �������������������������������������������������������18 Bitwise Operators ������������������������������������������������������������������������������������������21 Assignment Operators �����������������������������������������������������������������������������������22 iii TTaabbllee ooff CCoonnTTeennTTss Operator Order ����������������������������������������������������������������������������������������������������24 Indentation ����������������������������������������������������������������������������������������������������������25 Quotation Marks ��������������������������������������������������������������������������������������������������26 Summary�������������������������������������������������������������������������������������������������������������26 Chapter 3: Basic Objects and Structures ��������������������������������������������27 Numbers �������������������������������������������������������������������������������������������������������������27 Container Objects ������������������������������������������������������������������������������������������������28 Tuples ������������������������������������������������������������������������������������������������������������������29 Lists ��������������������������������������������������������������������������������������������������������������������32 Dictionaries ���������������������������������������������������������������������������������������������������������37 Sets ���������������������������������������������������������������������������������������������������������������������42 Strings �����������������������������������������������������������������������������������������������������������������44 Files ��������������������������������������������������������������������������������������������������������������������52 Immutability ��������������������������������������������������������������������������������������������������������53 Converting Formats ���������������������������������������������������������������������������������������������56 Summary�������������������������������������������������������������������������������������������������������������57 Chapter 4: Functions ��������������������������������������������������������������������������59 Some words about functions in Python ��������������������������������������������������������������59 Some Predefined Built-in Functions ��������������������������������������������������������������60 Obtain Function Information �������������������������������������������������������������������������������62 Create Your Own Functions ���������������������������������������������������������������������������������65 Save and run Your Own Modules and Files ���������������������������������������������������������67 Summary�������������������������������������������������������������������������������������������������������������68 iv TTaabbllee ooff CCoonnTTeennTTss Chapter 5: Conditional Instructions and Writing Functions ����������������69 Conditional Instructions ��������������������������������������������������������������������������������������69 if ��������������������������������������������������������������������������������������������������������������������70 if + else ���������������������������������������������������������������������������������������������������������70 elif������������������������������������������������������������������������������������������������������������������71 Loops ������������������������������������������������������������������������������������������������������������������73 for ������������������������������������������������������������������������������������������������������������������73 while ��������������������������������������������������������������������������������������������������������������78 continue and break ����������������������������������������������������������������������������������������80 Extend Functions with Conditional Instructions ��������������������������������������������������84 map( ) and filter( ) Functions ��������������������������������������������������������������������������������84 The lambda Function ������������������������������������������������������������������������������������������86 Scope ������������������������������������������������������������������������������������������������������������������87 Summary�������������������������������������������������������������������������������������������������������������88 Chapter 6: Other Basic Concepts ��������������������������������������������������������89 Object-oriented Programming ����������������������������������������������������������������������������89 More on Objects ��������������������������������������������������������������������������������������������89 Classes ����������������������������������������������������������������������������������������������������������90 Inheritance ����������������������������������������������������������������������������������������������������90 Modules ��������������������������������������������������������������������������������������������������������������92 Methods ��������������������������������������������������������������������������������������������������������������96 List Comprehension ��������������������������������������������������������������������������������������������98 Regular Expressions �������������������������������������������������������������������������������������������99 User Input ����������������������������������������������������������������������������������������������������������106 Errors and Exceptions ���������������������������������������������������������������������������������������108 Summary�����������������������������������������������������������������������������������������������������������111 v TTaabbllee ooff CCoonnTTeennTTss Chapter 7: Importing Files ����������������������������������������������������������������113 �c sv Format �������������������������������������������������������������������������������������������������������117 From the Web ����������������������������������������������������������������������������������������������������118 In JSON �������������������������������������������������������������������������������������������������������������119 Other Formats ���������������������������������������������������������������������������������������������������120 Summary�����������������������������������������������������������������������������������������������������������120 Chapter 8: pandas ����������������������������������������������������������������������������121 Libraries for Data Mining ����������������������������������������������������������������������������������121 pandas ��������������������������������������������������������������������������������������������������������������122 pandas: Series ���������������������������������������������������������������������������������������������122 pandas: Data Frames �����������������������������������������������������������������������������������130 pandas: Importing and Exporting Data ��������������������������������������������������������147 pandas: Data Manipulation ��������������������������������������������������������������������������153 pandas: Missing Values �������������������������������������������������������������������������������162 pandas: Merging Two Datasets ��������������������������������������������������������������������169 pandas: Basic Statistics ������������������������������������������������������������������������������174 Summary�����������������������������������������������������������������������������������������������������������176 Chapter 9: SciPy and NumPy ������������������������������������������������������������177 SciPy �����������������������������������������������������������������������������������������������������������������177 NumPy ���������������������������������������������������������������������������������������������������������������179 NumPy: Generating Random Numbers and Seeds ��������������������������������������191 Summary�����������������������������������������������������������������������������������������������������������200 Chapter 10: Matplotlib ����������������������������������������������������������������������201 Basic Plots ��������������������������������������������������������������������������������������������������������201 Pie Charts ����������������������������������������������������������������������������������������������������������215 Other Plots and Charts ��������������������������������������������������������������������������������������218 vi TTaabbllee ooff CCoonnTTeennTTss Saving Plots and Charts ������������������������������������������������������������������������������������228 Selecting Plot and Chart Styles �������������������������������������������������������������������������229 More on Histograms ������������������������������������������������������������������������������������������231 Summary�����������������������������������������������������������������������������������������������������������234 Chapter 11: Scikit-learn �������������������������������������������������������������������235 What Is Machine Learning?�������������������������������������������������������������������������������235 Import Datasets Included in Scikit-learn �����������������������������������������������������237 Creation of Training and Testing Datasets ���������������������������������������������������239 Preprocessing ����������������������������������������������������������������������������������������������240 Regression ���������������������������������������������������������������������������������������������������240 K-Nearest Neighbors �����������������������������������������������������������������������������������242 Cross-validation �������������������������������������������������������������������������������������������243 Support Vector Machine ������������������������������������������������������������������������������243 Decision Trees ���������������������������������������������������������������������������������������������244 KMeans ��������������������������������������������������������������������������������������������������������244 Managing Dates ������������������������������������������������������������������������������������������������245 Data Sources �����������������������������������������������������������������������������������������������������251 Index �������������������������������������������������������������������������������������������������255 vii About the Author Valentina Porcu is a computer geek with a passion for data mining and research, and a PhD in communication and complex systems. She has years of experience in teaching in universities in Italy, France, and Morocco—and online, of course! She works as a consultant in the field of data mining and machine learning, and enjoys writing about new technologies and data mining. She spent the past nine years working as freelancer and researcher in the field of social media analysis, benchmark analysis, and web scraping for database building, in particular in the field of buzz analysis and sentiment analysis for universities, startups, and web agencies across the United Kingdom, France, the United States, and Italy. Valentina is the founder of Datawiring, a popular Italian data science resource. ix About the Technical Reviewer Karpur Shukla is a research fellow at the Centre for Mathematical Modeling at Flame University in Pune, India. His current research interests focus on nonequilibrium fluctuation theorems for models of topological quantum field theories (with application to topological quantum computing) and models of reversible computing. He received an MS in physics from Carnegie Mellon University, with a background in theoretical analysis of materials for spintronics applications as well as Monte Carlo simulations for the renormalization group of finite- temperature spin lattice systems. xi
Description: