Handbook of Differential Equations Advances in Applied Mathematics Series Editors: Daniel Zwillinger Quadratic Programming with Computer Programs Michael J. Best Introduction to Radar Analysis Bassem R. Mahafza CRC Standard Mathematical Tables and Formulas, 33rd Edition Edited by Daniel Zwillinger The Second-Order Adjoint Sensitivity Analysis Methodology Dan Gabriel Cacuci Operations Research A Practical Introduction, Second Edition Michael Carter, Camille C. Price, Ghaith Rabadi Handbook of Mellin Transforms Yu. A. Brychkov, O. I. Marichev, N. V. Savischenko Advanced Mathematical Modeling with Technology William P. Fox, Robert E. Burks Introduction to Quantum Control and Dynamics Domenico D’Alessandro Handbook of Radar Signal Analysis Bassem R. Mahafza, Scott C. Winton, Atef Z. Elsherbeni Separation of Variables and Exact Solutions to Nonlinear PDEs Andrei D. Polyanin, Alexei I. Zhurov Boundary Value Problems on Time Scales, Volume I Svetlin Georgiev, Khaled Zennir Boundary Value Problems on Time Scales, Volume II Svetlin Georgiev, Khaled Zennir Observability and Mathematics Fluid Mechanics, Solutions of Navier-Stokes Equations, and Modeling Boris Khots Handbook of Differential Equations, Fourth Edition Daniel Zwillinger, Vladimir Dobrushkin Experimental Statistics and Data Analysis for Mechanical and Aerospace Engineers James Middleton Advanced Engineering Mathematics with MATLAB®, Fifth Edition Dean G. Duffy Handbook of Fractional Calculus for Engineering and Science Harendra Singh, H. M. Srivastava, Juan J Nieto Advanced Engineering Mathematics A Second Course with MATLAB® Dean G. Duffy https://www.routledge.com/Advances-in-Applied-Mathematics/book-series/CRCADVAPPMTH?pd=publi shed,forthcoming&pg=1&pp=12&so=pub&view=list Handbook of Differential Equations Fourth Edition Daniel Zwillinger Vladimir Dobrushkin Fourth edition published 2022 by CRC Press 6000 Broken Sound Parkway NW, Suite 300, Boca Raton, FL 33487-2742 and by CRC Press 4 Park Square, Milton Park, Abingdon, Oxon, OX14 4RN © 2022 Taylor & Francis Group, LLC CRC Press is an imprint of Taylor & Francis Group, LLC Reasonable efforts have been made to publish reliable data and information, but the author and publisher cannot assume responsibility for the validity of all materials or the consequences of their use. The authors and publishers have attempted to trace the copyright holders of all material reproduced in this publication and apologize to copyright holders if permission to publish in this form has not been obtained. If any copyright material has not been acknowledged please write and let us know so we may rectify in any future reprint. Except as permitted under U.S. Copyright Law, no part of this book may be reprinted, reproduced, trans- mitted, or utilized in any form by any electronic, mechanical, or other means, now known or hereafter invented, including photocopying, microfilming, and recording, or in any information storage or retrieval system, without written permission from the publishers. For permission to photocopy or use material electronically from this work, access www.copyright.com or contact the Copyright Clearance Center, Inc. (CCC), 222 Rosewood Drive, Danvers, MA 01923, 978-750- 8400. For works that are not available on CCC please contact [email protected] Trademark notice: Product or corporate names may be trademarks or registered trademarks and are used only for identification and explanation without intent to infringe. Library of Congress Cataloging-in-Publication Data Names: Zwillinger, Daniel, 1957- author. | Dobrushkin, V. A. (Vladimir Andreevich) author. Title: Handbook of differential equations / Daniel Zwillinger, Department of Mathematical Sciences, Rensselaer Polytechnic Institute, Troy, New York, Vladimir Dobrushkin, Division of Applied Mathematics Brown University, Providence, Rhode Island. Description: Fourth edition. | Boca Raton : Chapman & Hall, CRC Press, 2022. | Series: Advances in applied mathematics | Includes bibliographical references and index. Identifiers: LCCN 2021021813 (print) | LCCN 2021021814 (ebook) | ISBN 9780367252571 (hardback) | ISBN 9781032118932 (paperback) | ISBN 9780429286834 (ebook) Subjects: LCSH: Differential equations. Classification: LCC QA371 .Z88 2022 (print) | LCC QA371 (ebook) | DDC 515/.35--dc23 LC record available at https://lccn.loc.gov/2021021813 LC ebook record available at https://lccn.loc.gov/2021021814 ISBN: 978-0-367-25257-1 (hbk) ISBN: 978-1-032-11893-2 (pbk) ISBN: 978-0-429-28683-4 (ebk) DOI: 10.1201/9780429286834 Publisher’s note: This book has been prepared from camera-ready copy provided by the authors. (cid:105) (cid:105) (cid:105) (cid:105) Contents Preface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xiii Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xv How to Use This Book . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xvii I.A Definitions and Concepts 1 Definition of Terms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 2 Alternative Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 3 Bifurcation Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 4 Chaos in Dynamical Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 5 Classification of Partial Differential Equations . . . . . . . . . . . . . . . . . . . . . . 24 6 Compatible Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 7 Conservation Laws. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 8 Differential Equations – Diagrams . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 9 Differential Equations – Symbols . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 10 Differential Resultants. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38 11 Existence and Uniqueness Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 12 Fixed Point Existence Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 13 Hamilton–Jacobi Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 14 Infinite Order Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 15 Integrability of Systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50 16 Inverse Problems. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 17 Limit Cycles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55 18 PDEs & Natural Boundary Conditions . . . . . . . . . . . . . . . . . . . . . . . . . . 58 19 Normal Forms: Near-Identity Transformations . . . . . . . . . . . . . . . . . . . . . . 60 20 q-Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64 21 Quaternionic Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66 22 Self-Adjoint Eigenfunction Problems. . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 23 Stability Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72 24 Stochastic Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 25 Sturm–Liouville Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76 26 Variational Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80 27 Web Resources . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84 28 Well-Posed Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 29 Wronskians & Fundamental Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . 88 30 Zeros of Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 I.B Transformations 31 Canonical Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95 32 Canonical Transformations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97 33 Darboux Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 99 34 An Involutory Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101 35 Liouville Transformation – 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 v (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) vi Contents 36 Liouville Transformation – 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 37 Changing Linear ODEs to a First Order System . . . . . . . . . . . . . . . . . . . . . 105 38 Transformations of Second Order Linear ODEs – 1 . . . . . . . . . . . . . . . . . . . 107 39 Transformations of Second Order Linear ODEs – 2 . . . . . . . . . . . . . . . . . . . 110 40 Transforming an ODE to an Integral Equation . . . . . . . . . . . . . . . . . . . . . . 112 41 Miscellaneous ODE Transformations. . . . . . . . . . . . . . . . . . . . . . . . . . . . 113 42 Transforming PDEs Generically . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117 43 Transformations of PDEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120 44 Transforming a PDE to a First Order System . . . . . . . . . . . . . . . . . . . . . . 124 45 Pru¨fer Transformation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126 46 Modified Pru¨fer Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127 II Exact Analytical Methods 47 Introduction to Exact Analytical Methods . . . . . . . . . . . . . . . . . . . . . . . . 129 48 Look-Up Technique∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130 48.1 Ordinary Differential Equations. . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 48.2 Partial Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136 48.3 Systems of Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . 141 48.4 Hamiltonians Representing Differential Equations. . . . . . . . . . . . . . . . . . 143 48.5 The Laplacian in Different Coordinate Systems . . . . . . . . . . . . . . . . . . . 145 48.6 Parametrized Differential Equations at Specific Values . . . . . . . . . . . . . . . 146 49 Look-Up ODE Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 II.A Exact Methods for ODEs 50 Use of the Adjoint Equation∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151 51 An Nth Order Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 52 Autonomous Equations – Independent Variable Missing . . . . . . . . . . . . . . . . . 155 53 Bernoulli Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157 54 Clairaut’s Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160 55 Constant Coefficient Linear ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161 56 Contact Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162 57 Delay Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 58 Dependent Variable Missing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170 59 Differentiation Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 60 Differential Equations with Discontinuities∗ . . . . . . . . . . . . . . . . . . . . . . . . 172 61 Eigenfunction Expansions∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174 62 Equidimensional-in-x Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 63 Equidimensional-in-y Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181 64 Euler Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183 65 Exact First Order Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185 66 Exact Second Order Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187 67 Exact Nth Order Equations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189 68 Factoring Equations∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190 69 Factoring/Composing Operators∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 70 Factorization Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196 71 Fokker–Planck Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198 72 Fractional Differential Equations∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202 73 Free Boundary Problems∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204 74 Generating Functions∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207 75 Green’s Functions∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209 76 ODEs with Homogeneous Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218 77 Hypergeometric Equation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 78 Method of Images∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 79 Integrable Combinations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227 (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) Contents vii 80 Integrating Factors∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228 81 Interchanging Dependent and Independent Variables. . . . . . . . . . . . . . . . . . . 230 82 Integral Representation: Laplace’s Method∗ . . . . . . . . . . . . . . . . . . . . . . . . 232 83 Integral Transforms: Finite Intervals∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . 236 84 Integral Transforms: Infinite Intervals∗ . . . . . . . . . . . . . . . . . . . . . . . . . . 239 85 Lagrange’s Equation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245 86 Lie Algebra Technique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247 87 Lie Groups: ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251 88 Non-normal Operators . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261 89 Operational Calculus∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263 90 Pfaffian Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266 91 Quasilinear Second Order ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269 92 Quasipolynomial ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272 93 Reduction of Order . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275 94 Resolvent Method for Matrix ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277 95 Riccati Equation – Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279 96 Riccati Equation – Scalars . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281 97 Scale-Invariant Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283 98 Separable Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285 99 Series Solution∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286 100 Equations Solvable for x . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 101 Equations Solvable for y . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291 102 Superposition∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293 103 Undetermined Coefficients∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294 104 Variation of Parameters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296 105 Vector ODEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 298 II.B Exact Methods for PDEs 106 Ba¨cklund Transformations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303 107 Cagniard–de Hoop Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 305 108 Method of Characteristics. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308 109 Characteristic Strip Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312 110 Conformal Mappings . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314 111 Method of Descent. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317 112 Diagonalizable Linear Systems of PDEs . . . . . . . . . . . . . . . . . . . . . . . . . . 318 113 Duhamel’s Principle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320 114 Exact Partial Differential Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322 115 Fokas Method / Unified Transform . . . . . . . . . . . . . . . . . . . . . . . . . . . . 323 116 Hodograph Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 117 Inverse Scattering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 333 118 Jacobi’s Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336 119 Legendre Transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 337 120 Lie Groups: PDEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340 121 Many Consistent PDEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 345 122 Poisson Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 346 123 Resolvent Method for PDEs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348 124 Riemann’s Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 351 125 Separation of Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 355 126 Separable Equations: Sta¨ckel Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . 359 127 Similarity Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361 128 Exact Solutions to the Wave Equation. . . . . . . . . . . . . . . . . . . . . . . . . . . 364 129 Wiener–Hopf Technique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 366 III Approximate Analytical Methods 130 Introduction to Approximate Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . 371 (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) viii Contents 131 Adomian Decomposition Method. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372 132 Chaplygin’s Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375 133 Collocation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 134 Constrained Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 378 135 Differential Constraints . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380 136 Dominant Balance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381 137 Equation Splitting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383 138 Floquet Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 384 139 Graphical Analysis: The Phase Plane . . . . . . . . . . . . . . . . . . . . . . . . . . . 387 140 Graphical Analysis: Poincar´e Map . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 392 141 Graphical Analysis: Tangent Field . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394 142 Harmonic Balance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396 143 Homogenization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398 144 Integral Methods. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401 145 Interval Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 403 146 Least Squares Method. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 405 147 Equivalent Linearization and Nonlinearization . . . . . . . . . . . . . . . . . . . . . . 407 148 Lyapunov Functional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 410 149 Maximum Principles. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 412 150 McGarvey Iteration Technique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 416 151 Moment Equations: Closure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 418 152 Moment Equations: Itoˆ Calculus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 420 153 Monge’s Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 422 154 Newton’s Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 155 Pad´e Approximants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426 156 Parametrix Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 429 157 Perturbation Method: Averaging. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 430 158 Perturbation Method: Boundary Layers . . . . . . . . . . . . . . . . . . . . . . . . . . 432 159 Perturbation Method: Functional Iteration . . . . . . . . . . . . . . . . . . . . . . . . 438 160 Perturbation Method: Multiple Scales . . . . . . . . . . . . . . . . . . . . . . . . . . . 442 161 Perturbation Method: Regular Perturbation . . . . . . . . . . . . . . . . . . . . . . . 445 162 Perturbation Method: Renormalization Group . . . . . . . . . . . . . . . . . . . . . . 447 163 Perturbation Method: Strained Coordinates . . . . . . . . . . . . . . . . . . . . . . . 452 164 Picard Iteration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 454 165 Reversion Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456 166 Singular Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457 167 Soliton-Type Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 460 168 Stochastic Limit Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462 169 Structured Guessing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464 170 Taylor Series Solutions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466 171 Variational Method: Eigenvalue Approximation . . . . . . . . . . . . . . . . . . . . . 469 172 Variational Method: Rayleigh–Ritz . . . . . . . . . . . . . . . . . . . . . . . . . . . . 471 173 WKB Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 474 IV.A Numerical Methods: Concepts 174 Introduction to Numerical Methods∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . 477 175 Terms for Numerical Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479 176 Finite Difference Formulas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 481 176.1 One Dimension: Rectilinear Grid . . . . . . . . . . . . . . . . . . . . . . . . . . . 481 176.2 Two Dimensions: Rectilinear Grid . . . . . . . . . . . . . . . . . . . . . . . . . . 482 176.3 Two Dimensions: Irregular Grid . . . . . . . . . . . . . . . . . . . . . . . . . . . 483 176.4 Two Dimensions: Triangular Grid . . . . . . . . . . . . . . . . . . . . . . . . . . 483 176.5 Numerical Schemes for the ODE: y(cid:48) =f(x,y) . . . . . . . . . . . . . . . . . . . . 484 176.6 Explicit Numerical Schemes for the PDE: au +u =0 . . . . . . . . . . . . . . 484 x t 176.7 Implicit Numerical Schemes for the PDE: au +u =S(x,t). . . . . . . . . . . . 485 x t (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) (cid:105) Contents ix 176.8 Numerical Schemes for the PDE: F(u) +u =0 . . . . . . . . . . . . . . . . . . 485 x t 176.9 Numerical Schemes for the PDE: u =u . . . . . . . . . . . . . . . . . . . . . . 485 x tt 177 Finite Difference Methodology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486 178 Grid Generation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 489 179 Richardson Extrapolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492 180 Stability: ODE Approximations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 494 181 Stability: Courant Criterion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 497 182 Stability: Von Neumann Test. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499 183 Testing Differential Equation Routines . . . . . . . . . . . . . . . . . . . . . . . . . . 501 IV.B Numerical Methods for ODEs 184 Analytic Continuation∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 503 185 Boundary Value Problems: Box Method . . . . . . . . . . . . . . . . . . . . . . . . . 505 186 Boundary Value Problems: Shooting Method∗ . . . . . . . . . . . . . . . . . . . . . . 507 187 Continuation Method∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 510 188 Continued Fractions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 512 189 Cosine Method∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 513 190 Differential Algebraic Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 516 191 Eigenvalue/Eigenfunction Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 520 192 Euler’s Forward Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 522 193 Finite Element Method∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524 194 Hybrid Computer Methods∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 531 195 Invariant Imbedding∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 533 196 Multigrid Methods. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 536 197 Neural Networks & Optimization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 538 198 Nonstandard Finite Difference Schemes . . . . . . . . . . . . . . . . . . . . . . . . . . 539 199 ODEs with Highly Oscillatory Terms . . . . . . . . . . . . . . . . . . . . . . . . . . . 540 200 Parallel Computer Methods. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 543 201 Predictor–Corrector Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 545 202 Probabilistic Methods∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 547 203 Quantum Computing∗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 549 204 Runge–Kutta Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 550 205 Stiff Equations∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 555 206 Integrating Stochastic Equations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 558 207 Symplectic Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 561 208 System Linearization via Koopman . . . . . . . . . . . . . . . . . . . . . . . . . . . . 564 209 Using Wavelets. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 565 210 Weighted Residual Methods∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 567 IV.C Numerical Methods for PDEs 211 Boundary Element Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 571 212 Differential Quadrature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 574 213 Domain Decomposition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 576 214 Elliptic Equations: Finite Differences . . . . . . . . . . . . . . . . . . . . . . . . . . . 579 215 Elliptic Equations: Monte–Carlo Method . . . . . . . . . . . . . . . . . . . . . . . . . 583 216 Elliptic Equations: Relaxation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 587 217 Hyperbolic Equations: Method of Characteristics . . . . . . . . . . . . . . . . . . . . 589 218 Hyperbolic Equations: Finite Differences . . . . . . . . . . . . . . . . . . . . . . . . . 591 219 Lattice Gas Dynamics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 594 220 Method of Lines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 596 221 Parabolic Equations: Explicit Method . . . . . . . . . . . . . . . . . . . . . . . . . . . 598 222 Parabolic Equations: Implicit Method . . . . . . . . . . . . . . . . . . . . . . . . . . . 601 223 Parabolic Equations: Monte–Carlo Method . . . . . . . . . . . . . . . . . . . . . . . . 604 224 Pseudospectral Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 609 (cid:105) (cid:105) (cid:105) (cid:105)