No Bullshit Guide to Linear Algebra (iPad format)

665 Pages·2021·17.48 MB·English

by  Ivan Savov

NO BULLSHIT GUIDE TO LINEAR ALGEBRA
IvanSavov
June4,2021
Nobullshitguidetolinearalgebra
byIvanSavov
Copyright c IvanSavov,2014,2017. Allrightsreserved.
(cid:13)
PublishedbyMinireferenceCo.
Montréal,Québec,Canada
minireference.com|@minireference|fb.me/noBSguide
Forinquiries,[email protected]
LibraryandArchivesCanadaCataloguinginPublication
Savov,Ivan,1982-,author
Nobullshitguidetolinearalgebra/IvanSavov. —Secondedition.
ISBN978-0-9920010-2-5(softcover)
1. Algebras,Linear–Textbooks. 2. Mathematics–Textbooks.
3. Textbooks. I.Title.
QA184.2.S292017 512’.5 C2017-902491-4
Coverimage: JimHefferonandNicholasLongo,CC-BY-SA-2.5
http://commons.wikimedia.org/wiki/File:Linalg_parallelepiped.png
Secondedition
v2.2
gitcommits master@1067:d370768 + vers/LA@1271:11193c2
ISBN 978-0-9920010-2-5
10 9 8 7 6 5 4 3 2 1
Contents
Preface ix
Introduction 1
1 Mathfundamentals 9
1.1 Solvingequations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2 Numbers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.3 Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.4 Functionsandtheirinverses . . . . . . . . . . . . . . . . . . . . . . . . 21
1.5 Basicrulesofalgebra . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
1.6 Solvingquadraticequations . . . . . . . . . . . . . . . . . . . . . . . . 33
1.7 TheCartesianplane . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
1.8 Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
1.9 Functionsreference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
1.10 Geometry. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
1.11 Trigonometry . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
1.12 Trigonometricidentities . . . . . . . . . . . . . . . . . . . . . . . . . . 90
1.13 Vectors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
1.14 Complexnumbers. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
1.15 Solvingsystemsoflinearequations . . . . . . . . . . . . . . . . . . . . 118
1.16 Setnotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
1.17 Mathproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
2 Introtolinearalgebra 150
2.1 Definitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
2.2 Vectoroperations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
i
2.3 Matrixoperations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
2.4 Linearity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
2.5 Overviewoflinearalgebra . . . . . . . . . . . . . . . . . . . . . . . . . 178
2.6 Introductoryproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
3 Computationallinearalgebra 185
3.1 Reducedrowechelonform . . . . . . . . . . . . . . . . . . . . . . . . 186
3.2 Matrixequations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
3.3 Matrixmultiplication . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
3.4 Determinants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
3.5 Matrixinverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
3.6 Computationalproblems . . . . . . . . . . . . . . . . . . . . . . . . . . 230
4 Geometricaspectsoflinearalgebra 237
4.1 Linesandplanes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
4.2 Projections . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
4.3 Coordinateprojections . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
4.4 Vectorspaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
4.5 Vectorspacetechniques . . . . . . . . . . . . . . . . . . . . . . . . . . 275
4.6 Geometricproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285
5 Lineartransformations 290
5.1 Lineartransformations . . . . . . . . . . . . . . . . . . . . . . . . . . . 290
5.2 Findingmatrixrepresentations . . . . . . . . . . . . . . . . . . . . . . 303
5.3 Changeofbasisformatrices . . . . . . . . . . . . . . . . . . . . . . . . 318
5.4 Invertiblematrixtheorem . . . . . . . . . . . . . . . . . . . . . . . . . 324
5.5 Lineartransformationsproblems . . . . . . . . . . . . . . . . . . . . . 332
6 Theoreticallinearalgebra 335
6.1 Eigenvaluesandeigenvectors . . . . . . . . . . . . . . . . . . . . . . . 336
6.2 Specialtypesofmatrices . . . . . . . . . . . . . . . . . . . . . . . . . . 351
6.3 Abstractvectorspaces . . . . . . . . . . . . . . . . . . . . . . . . . . . 359
6.4 Abstractinnerproductspaces . . . . . . . . . . . . . . . . . . . . . . . 364
6.5 Gram–Schmidtorthogonalization . . . . . . . . . . . . . . . . . . . . . 371
6.6 Matrixdecompositions . . . . . . . . . . . . . . . . . . . . . . . . . . . 375
6.7 Linearalgebrawithcomplexnumbers . . . . . . . . . . . . . . . . . . 382
6.8 Theoryproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400
7 Applications 408
7.1 Balancingchemicalequations . . . . . . . . . . . . . . . . . . . . . . . 409
7.2 Input–outputmodelsineconomics . . . . . . . . . . . . . . . . . . . . 411
7.3 Electriccircuits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 413
7.4 Graphs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 419
7.5 Fibonaccisequence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 421
7.6 Linearprogramming . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424
7.7 Leastsquaresapproximatesolutions . . . . . . . . . . . . . . . . . . . 426
7.8 Computergraphics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 437
7.9 Cryptography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449
7.10 Error-correctingcodes . . . . . . . . . . . . . . . . . . . . . . . . . . . 460
7.11 Fourieranalysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 469
7.12 Applicationsproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . 483
8 Probabilitytheory 494
8.1 Probabilitydistributions . . . . . . . . . . . . . . . . . . . . . . . . . . 494
8.2 Markovchains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 506
8.3 Google’sPageRankalgorithm . . . . . . . . . . . . . . . . . . . . . . . 512
8.4 Probabilityproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 520
9 Quantummechanics 522
9.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524
9.2 Polarizinglensesexperiment . . . . . . . . . . . . . . . . . . . . . . . 530
9.3 Diracnotationforvectors . . . . . . . . . . . . . . . . . . . . . . . . . 537
9.4 Quantuminformationprocessing . . . . . . . . . . . . . . . . . . . . . 545
9.5 Postulatesofquantummechanics . . . . . . . . . . . . . . . . . . . . . 549
9.6 Polarizinglensesexperimentrevisited . . . . . . . . . . . . . . . . . . 566
9.7 Quantummechanicsisnotthatweird . . . . . . . . . . . . . . . . . . 572
9.8 Quantummechanicsapplications . . . . . . . . . . . . . . . . . . . . . 577
9.9 Quantummechanicsproblems . . . . . . . . . . . . . . . . . . . . . . 594
Endmatter 598
Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 598
Socialstuff . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 600
Acknowledgements . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 601
Generallinearalgebralinks . . . . . . . . . . . . . . . . . . . . . . . . . . . 601
A Answersandsolutions 603
iv
B Notation 636
Mathnotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 637
Setnotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 638
Vectorsnotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 639
Complexnumbersnotation . . . . . . . . . . . . . . . . . . . . . . . . . . . 639
Vectorspacenotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 640
Abstractvectorspacesnotation . . . . . . . . . . . . . . . . . . . . . . . . . 640
Notationformatricesandmatrixoperations . . . . . . . . . . . . . . . . . 641
Notationforlineartransformations . . . . . . . . . . . . . . . . . . . . . . . 642
Matrixdecompositions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 643
Index 644
Concept maps
Figure1: Thisdiagramshowstheconceptsandtopicscoveredinthisbook.
Consult the index on page 644 to find the exact location in the book where each
conceptisdefined.
v
Figure2: Chapter5isaboutlineartransformationsandtheirproperties.
Figure3: Chapter6coverstheoreticalaspectsoflinearalgebra.
vi
Figure4: Matrixcomputationsplayanimportantrolethroughoutthisbook. Matricesare
usedtorepresentlineartransformations,systemsoflinearequations,andvariousgeomet-
ricoperations.
vii