Pro Processing for Images and Computer Vision with OpenCV Solutions for Media Artists and Creative Coders — Teaching your computer to see — Bryan WC Chung Pro Processing for Images and Computer Vision with OpenCV Solutions for Media Artists and Creative Coders Bryan WC Chung Pro Processing for Images and Computer Vision with OpenCV Bryan WC Chung Academy of Visual Arts, Kowloon Tong, Hong Kong ISBN-13 (pbk): 978-1-4842-2774-9 ISBN-13 (electronic): 978-1-4842-2775-6 DOI 10.1007/978-1-4842-2775-6 Library of Congress Control Number: 2017951872 Copyright © 2017 by Bryan WC Chung This work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part of the material is concerned, specifically the rights of translation, reprinting, reuse of illustrations, recitation, broadcasting, reproduction on microfilms or in any other physical way, and transmission or information storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now known or hereafter developed. Trademarked names, logos, and images may appear in this book. Rather than use a trademark symbol with every occurrence of a trademarked name, logo, or image we use the names, logos, and images only in an editorial fashion and to the benefit of the trademark owner, with no intention of infringement of the trademark. The use in this publication of trade names, trademarks, service marks, and similar terms, even if they are not identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to proprietary rights. While the advice and information in this book are believed to be true and accurate at the date of publication, neither the authors nor the editors nor the publisher can accept any legal responsibility for any errors or omissions that may be made. The publisher makes no warranty, express or implied, with respect to the material contained herein. Cover image by Freepik (www.freepik.com). Managing Director: Welmoed Spahr Editorial Director: Todd Green Acquisitions Editor: Jonathan Gennick Development Editor: Laura Berendson Technical Reviewer: Kathleen Sullivan Coordinating Editor: Jill Balzano Copy Editor: Kim Wimpsett Distributed to the book trade worldwide by Springer Science+Business Media New York, 233 Spring Street, 6th Floor, New York, NY 10013. Phone 1-800-SPRINGER, fax (201) 348-4505, e-mail [email protected], or visit www.springeronline.com. Apress Media, LLC is a California LLC and the sole member (owner) is Springer Science + Business Media Finance Inc (SSBM Finance Inc). SSBM Finance Inc is a Delaware corporation. For information on translations, please e-mail [email protected], or visit www.apress.com/ rights-permissions. Apress titles may be purchased in bulk for academic, corporate, or promotional use. eBook versions and licenses are also available for most titles. For more information, reference our Print and eBook Bulk Sales web page at www.apress.com/bulk-sales. Any source code or other supplementary material referenced by the author in this book is available to readers on GitHub via the book’s product page, located at www.apress.com/9781484227749. For more detailed information, please visit www.apress.com/source-code. Printed on acid-free paper Contents at a Glance About the Author �����������������������������������������������������������������������������������������������������xi About the Technical Reviewer �������������������������������������������������������������������������������xiii Acknowledgments ���������������������������������������������������������������������������������������������������xv ■ Chapter 1: Getting Started with Processing and OpenCV ��������������������������������������1 ■ Chapter 2: Image Sources and Representations �������������������������������������������������39 ■ Chapter 3: Pixel-Based Manipulations ����������������������������������������������������������������71 ■ Chapter 4: Geometry and Transformation����������������������������������������������������������101 ■ Chapter 5: Identification of Structure ����������������������������������������������������������������133 ■ Chapter 6: Understanding Motion ����������������������������������������������������������������������177 ■ Chapter 7: Feature Detection and Matching ������������������������������������������������������219 ■ Chapter 8: Application Deployment and Conclusion������������������������������������������263 Index ���������������������������������������������������������������������������������������������������������������������289 iii Contents About the Author �����������������������������������������������������������������������������������������������������xi About the Technical Reviewer �������������������������������������������������������������������������������xiii Acknowledgments ���������������������������������������������������������������������������������������������������xv ■ Chapter 1: Getting Started with Processing and OpenCV ��������������������������������������1 Processing ������������������������������������������������������������������������������������������������������������������������1 OpenCV �����������������������������������������������������������������������������������������������������������������������������2 Processing Installation �����������������������������������������������������������������������������������������������������3 Install Processing �����������������������������������������������������������������������������������������������������������������������������������3 Run Processing ���������������������������������������������������������������������������������������������������������������������������������������5 OpenCV Installation ����������������������������������������������������������������������������������������������������������7 macOS ����������������������������������������������������������������������������������������������������������������������������������������������������9 Windows �����������������������������������������������������������������������������������������������������������������������������������������������17 Linux �����������������������������������������������������������������������������������������������������������������������������������������������������28 Test Run��������������������������������������������������������������������������������������������������������������������������34 Hello World �������������������������������������������������������������������������������������������������������������������������������������������34 Matrix Example �������������������������������������������������������������������������������������������������������������������������������������36 Conclusion ����������������������������������������������������������������������������������������������������������������������37 ■ Chapter 2: Image Sources and Representations �������������������������������������������������39 Digital Image Fundamentals�������������������������������������������������������������������������������������������39 Images in Processing �����������������������������������������������������������������������������������������������������40 Import an External Image ���������������������������������������������������������������������������������������������������������������������40 Create an Image in Processing �������������������������������������������������������������������������������������������������������������43 v ■ Contents Graphics and Images ����������������������������������������������������������������������������������������������������������������������������44 BufferedImage in Processing ���������������������������������������������������������������������������������������������������������������47 Moving Images in Processing ����������������������������������������������������������������������������������������48 Digital Movies ���������������������������������������������������������������������������������������������������������������������������������������49 Live Video Captures ������������������������������������������������������������������������������������������������������������������������������51 Matrices and Images in OpenCV ������������������������������������������������������������������������������������53 Image Conversion Between Processing and OpenCV �����������������������������������������������������58 From Processing to OpenCV �����������������������������������������������������������������������������������������������������������������60 From OpenCV to Processing �����������������������������������������������������������������������������������������������������������������62 Conclusion ����������������������������������������������������������������������������������������������������������������������70 ■ Chapter 3: Pixel-Based Manipulations ����������������������������������������������������������������71 Visual Properties ������������������������������������������������������������������������������������������������������������71 Position �������������������������������������������������������������������������������������������������������������������������������������������������72 Size �������������������������������������������������������������������������������������������������������������������������������������������������������72 Shape����������������������������������������������������������������������������������������������������������������������������������������������������73 Orientation ��������������������������������������������������������������������������������������������������������������������������������������������73 Color �����������������������������������������������������������������������������������������������������������������������������������������������������73 Value �����������������������������������������������������������������������������������������������������������������������������������������������������74 Pixel Color Manipulation �������������������������������������������������������������������������������������������������74 Color Change with Pixel Position ����������������������������������������������������������������������������������������������������������75 Color Change with Pixel Distance ���������������������������������������������������������������������������������������������������������79 Color Change with Trigonometric Functions �����������������������������������������������������������������������������������������82 Randomness �������������������������������������������������������������������������������������������������������������������86 Drawing with Existing Images ����������������������������������������������������������������������������������������90 Blending Multiple Images �����������������������������������������������������������������������������������������������97 Conclusion ��������������������������������������������������������������������������������������������������������������������100 ■ Chapter 4: Geometry and Transformation����������������������������������������������������������101 Image Transformation ��������������������������������������������������������������������������������������������������101 Image Orientation ���������������������������������������������������������������������������������������������������������104 vi ■ Contents Image Resizing �������������������������������������������������������������������������������������������������������������108 Affine Transform �����������������������������������������������������������������������������������������������������������110 Perspective Transform ��������������������������������������������������������������������������������������������������115 Linear vs� Polar Coordinates�����������������������������������������������������������������������������������������118 Three-Dimensional Space ��������������������������������������������������������������������������������������������120 General Pixel Mapping �������������������������������������������������������������������������������������������������130 Conclusion ��������������������������������������������������������������������������������������������������������������������132 ■ Chapter 5: Identification of Structure ����������������������������������������������������������������133 Image Preparation ��������������������������������������������������������������������������������������������������������133 Conversion to Grayscale ���������������������������������������������������������������������������������������������������������������������133 Conversion to a Black-and-White Image ��������������������������������������������������������������������������������������������135 Morphological Operations �������������������������������������������������������������������������������������������������������������������137 Blur Operations �����������������������������������������������������������������������������������������������������������������������������������140 Edge Detection �������������������������������������������������������������������������������������������������������������144 Line Detection ��������������������������������������������������������������������������������������������������������������146 Circle Detection ������������������������������������������������������������������������������������������������������������152 Contours Processing ����������������������������������������������������������������������������������������������������155 Finding the Contours ��������������������������������������������������������������������������������������������������������������������������156 Bounding Box �������������������������������������������������������������������������������������������������������������������������������������161 Minimum Area Rectangle �������������������������������������������������������������������������������������������������������������������162 Convex Hull �����������������������������������������������������������������������������������������������������������������������������������������164 Polygon Approximation �����������������������������������������������������������������������������������������������������������������������165 Testing a Point in Contour �������������������������������������������������������������������������������������������������������������������167 Checking Intersection �������������������������������������������������������������������������������������������������������������������������169 Shape Detection �����������������������������������������������������������������������������������������������������������172 Conclusion ��������������������������������������������������������������������������������������������������������������������175 vii ■ Contents ■ Chapter 6: Understanding Motion ����������������������������������������������������������������������177 Effects with Moving Images �����������������������������������������������������������������������������������������177 Mosaic Effect ��������������������������������������������������������������������������������������������������������������������������������������178 Slit-Scan Effect �����������������������������������������������������������������������������������������������������������������������������������179 Scrolling Effect �����������������������������������������������������������������������������������������������������������������������������������180 Visualization in 3D ������������������������������������������������������������������������������������������������������������������������������183 Frame Differencing �������������������������������������������������������������������������������������������������������186 Background Removal ���������������������������������������������������������������������������������������������������191 Optical Flow������������������������������������������������������������������������������������������������������������������196 Motion History ��������������������������������������������������������������������������������������������������������������205 Conclusion ��������������������������������������������������������������������������������������������������������������������218 ■ Chapter 7: Feature Detection and Matching ������������������������������������������������������219 Corner Detection ����������������������������������������������������������������������������������������������������������219 Sparse Optical Flow �����������������������������������������������������������������������������������������������������222 Identify the Feature Points������������������������������������������������������������������������������������������������������������������222 Improve the Accuracy �������������������������������������������������������������������������������������������������������������������������224 Calculate the Optical Flow ������������������������������������������������������������������������������������������������������������������226 Visualize the Flow Information �����������������������������������������������������������������������������������������������������������229 Feature Detection ���������������������������������������������������������������������������������������������������������235 Feature Matching ���������������������������������������������������������������������������������������������������������240 Face Detection �������������������������������������������������������������������������������������������������������������255 People Detection ����������������������������������������������������������������������������������������������������������260 Conclusion ��������������������������������������������������������������������������������������������������������������������261 ■ Chapter 8: Application Deployment and Conclusion������������������������������������������263 Developing Libraries in Processing ������������������������������������������������������������������������������263 Install the Eclipse Software ����������������������������������������������������������������������������������������������������������������264 Prepare the OpenCV and Processing Libraries �����������������������������������������������������������������������������������265 Build the CVImage Library ������������������������������������������������������������������������������������������������������������������267 viii ■ Contents Exporting Applications from Processing �����������������������������������������������������������������������278 Using System Commands in Processing ����������������������������������������������������������������������280 Optimizing Tracking with the Kalman Filter ������������������������������������������������������������������284 Other OpenCV Modules�������������������������������������������������������������������������������������������������287 Conclusion ��������������������������������������������������������������������������������������������������������������������287 Index ���������������������������������������������������������������������������������������������������������������������289 ix About the Author Bryan WC Chung is an interactive media artist and design consultant. He was the grand prize winner of the 19th Japan Media Arts Festival, Art Division, 2015. In 2009, his consultation work on the Coca-Cola Happy Whistling Machine won the Media Kam Fan Advertising Award. Bryan’s works have been exhibited at the World Wide Video Festival, Multimedia Art Asia Pacific, Stuttgart Film Winter Festival, Microwave International New Media Arts Festival, and China Media Art Festival. In the Shanghai Expo 2010, he provided interactive design consultancy to industry leaders in Hong Kong. Bryan also develops software libraries for the open source programming language Processing. He is the author of the book Multimedia Programming with Pure Data. Currently, he is an associate professor in the Academy of Visual Arts at Hong Kong Baptist University, where he teaches classes on interactive art, computer graphics, and multimedia. His personal website can be found at http://www. magicandlove.com. xi
Description: