Algoritmos Secuenciales y Paralelos para la Resolución del Problema Inverso de Valores Singulares

175 Pages·2012·0.92 MB·Spanish

Algoritmos Secuenciales y Paralelos para la
Resolucio(cid:19)n del Problema Inverso de Valores
Singulares
Trabajo de Tesis Doctoral
Presentado por Georgina Flores Becerra
Dirigido por Dr. Antonio M. Vidal Macia(cid:19)
Valencia, Espan~a
Noviembre 2005
(cid:19)
Indice general
1. Introduccio(cid:19)n 6
1.1. De(cid:12)nicio(cid:19)n del Problema Inverso de
Valores Singulares . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.1.1. Los Problemas Inversosde Valores Propios . . . . . . . . 8
1.1.2. Los Problemas Inversosde Valores Singulares . . . . . . . 10
1.2. Objetivos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.3. Estado del Arte . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.4. Planteamiento del Problema . . . . . . . . . . . . . . . . . . . . . 13
1.5. Resolucio(cid:19)n y Casos de Prueba . . . . . . . . . . . . . . . . . . . . 15
1.6. HerramientasHardware y Software de Entornos Paralelos . . . . 17
1.7. Evaluacio(cid:19)n de Algoritmos Paralelos . . . . . . . . . . . . . . . . . 21
1.8. Estructura del trabajo . . . . . . . . . . . . . . . . . . . . . . . . 23
2. M(cid:19)etodos y Algoritmos Secuenciales para la Resolucio(cid:19)n del PI-
AVS 24
2.1. M(cid:19)etodo Fuerza Bruta (FB) . . . . . . . . . . . . . . . . . . . . . 26
2.1.1. Algoritmo Fuerza Bruta . . . . . . . . . . . . . . . . . . . 28
2.1.2. Probando Fuerza Bruta . . . . . . . . . . . . . . . . . . . 29
2.2. M(cid:19)etodo I (MI) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.2.1. Automatizacio(cid:19)n del M(cid:19)etodo I . . . . . . . . . . . . . . . . 35
2.2.2. Pruebas Num(cid:19)ericas del M(cid:19)etodo I . . . . . . . . . . . . . . 36
2.3. M(cid:19)etodo Elevacio(cid:19)n-Proyeccio(cid:19)n(EP) . . . . . . . . . . . . . . . . . 40
2.3.1. Algoritmo secuencial Elevacio(cid:19)n-Proyeccio(cid:19)n. . . . . . . . . 43
2.3.2. Pruebas Num(cid:19)ericas de Elevacio(cid:19)n-Proyeccio(cid:19)n . . . . . . . . 44
2.4. M(cid:19)etodo III (MIII) . . . . . . . . . . . . . . . . . . . . . . . . . . 49
2.4.1. Algoritmo Secuencial del M(cid:19)etodo III . . . . . . . . . . . . 53
2.4.2. Pruebas Num(cid:19)ericas del M(cid:19)etodo III . . . . . . . . . . . . . 54
3. Implementacio(cid:19)n, An(cid:19)alisis y Evaluacio(cid:19)n de los Algoritmos del
PIAVS 59
3.1. Detalle de Operaciones de Algoritmos del PIAVS . . . . . . . . . 60
3.2. Algoritmos del PIAVS y Tiempos de Ejecucio(cid:19)n Teo(cid:19)ricos . . . . . 68
1
3.3. Ana(cid:19)lisis y Evaluacio(cid:19)n de los Algoritmos Secuenciales del PIAVS . 72
3.3.1. Requerimientos de Memoria . . . . . . . . . . . . . . . . . 72
3.3.2. Convergencia . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3. Exactitud de la solucio(cid:19)n . . . . . . . . . . . . . . . . . . . 73
3.3.4. Estimacio(cid:19)ndelacomplejidaddetiempoytiemposdeeje-
cucio(cid:19)n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
3.3.5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . 75
4. Algoritmos Paralelos para la Resolucio(cid:19)n del PIAVS 77
4.1. Paralelizacio(cid:19)nde Operaciones de Algoritmos del PIAVS . . . . . 78
4.1.1. Paralelizacio(cid:19)nde rutinas necesarias para FB. . . . . . . . 79
4.1.2. Paralelizacio(cid:19)nde rutinas necesarias para MI . . . . . . . . 81
4.1.3. Paralelizacio(cid:19)nde rutinas necesarias para EP. . . . . . . . 82
4.1.4. Paralelizacio(cid:19)nde rutinas necesarias para MIII . . . . . . . 83
4.2. Algoritmos Paralelos para el PIAVS y Tiempos de Ejecucio(cid:19)n
Teo(cid:19)ricos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
4.3. PrestacionesExperimentalesdelosAlgoritmosParalelosdelPIAVS 98
4.4. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
5. Resolucio(cid:19)n Paralela del PIEVS 109
5.1. Resoluciones Generales del PIEVS . . . . . . . . . . . . . . . . . 110
5.2. Propuestasde Resoluciones Espec(cid:19)(cid:16)(cid:12)cas del PIEVS . . . . . . . . 115
5.3. Paralelizacio(cid:19)nde Resoluciones Espec(cid:19)(cid:16)(cid:12)cas del PIEVS . . . . . . . 123
5.4. Prestacionesde Resoluciones Paralelasdel PIEVS. . . . . . . . . 132
5.5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
6. Algoritmos para la Resolucio(cid:19)n del PIVSVP 139
6.1. M(cid:19)etodo MTriIU . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
6.1.1. Algoritmo Secuencial del M(cid:19)etodo MTriIU . . . . . . . . . 143
6.1.2. Paralelizacio(cid:19)ndel Algoritmo MTriIU . . . . . . . . . . . . 145
6.1.3. Ana(cid:19)lisis de Prestaciones e Implementaciones del Algorit-
mo ParaleloMTriIU . . . . . . . . . . . . . . . . . . . . . 149
6.2. M(cid:19)etodo MBidiag . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
6.2.1. Algoritmo MBidiag y Experimentos Num(cid:19)ericos . . . . . . 158
6.3. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
7. Conclusiones y Perspectivas 165
2
(cid:19)
Indice de tablas
2.1. Puntos iniciales del caso ChuBai . . . . . . . . . . . . . . . . . . 25
2.2. Resultados esperados del caso ChuBai . . . . . . . . . . . . . . . 25
2.3. Dimensiones de F y J del algoritmo FB . . . . . . . . . . . . . . 29
2.4. Requerimiento de memoria del algoritmo FB . . . . . . . . . . . 29
2.5. Resultados y convergenciadel caso ChuBai con FB . . . . . . . . 30
2.6. Erroresdel caso ChuBai con FB . . . . . . . . . . . . . . . . . . 31
2.7. Resultados del caso Gral con FB . . . . . . . . . . . . . . . . . . 32
2.8. Requerimiento de memoria de algoritmo MI . . . . . . . . . . . . 36
2.9. Resultados del caso ChuBai con MI. . . . . . . . . . . . . . . . . 37
2.10.Erroresdel caso ChuBai con MI. . . . . . . . . . . . . . . . . . . 37
2.11.Resultados y convergenciadel caso Gral con MI . . . . . . . . . . 39
2.12.Requerimiento de memoria de EP. . . . . . . . . . . . . . . . . . 44
2.13.Resultados del caso ChuBai con EP . . . . . . . . . . . . . . . . 45
2.14.Erroresdel caso ChuBai con EP . . . . . . . . . . . . . . . . . . 45
2.15.Resultados del caso Gral con EP . . . . . . . . . . . . . . . . . . 47
2.16.Convergenciade EP para el caso Gral . . . . . . . . . . . . . . . 48
2.17.Requerimiento de memoria de MIII . . . . . . . . . . . . . . . . . 54
2.18.Resultados del caso ChuBai con MIII. . . . . . . . . . . . . . . . 55
2.19.Erroresde ChuBai con MIII . . . . . . . . . . . . . . . . . . . . . 55
2.20.Resultados del caso Gral con MIII . . . . . . . . . . . . . . . . . 57
2.21.Convergenciade MIII para el caso Gral . . . . . . . . . . . . . . 58
4.1. Tiempos de Ejecucio(cid:19)n Teo(cid:19)ricos de FB en Kefren . . . . . . . . . 97
4.2. Tiempos de Ejecucio(cid:19)n Teo(cid:19)ricos de MI en Kefren. . . . . . . . . . 97
4.3. Tiempos de Ejecucio(cid:19)n Teo(cid:19)ricos de EP en Kefren . . . . . . . . . 97
4.4. Tiempos de Ejecucio(cid:19)n Teo(cid:19)ricos de MIII en Kefren. . . . . . . . . 98
4.5. Tiempos de Ejecucio(cid:19)n Experimentales de FB . . . . . . . . . . . 99
4.6. Tiempos de Ejecucio(cid:19)n Experimentales de MI . . . . . . . . . . . 99
4.7. Tiempos de Ejecucio(cid:19)n Experimentales de EP . . . . . . . . . . . 100
4.8. Tiempos de Ejecucio(cid:19)n Experimentales de MIII . . . . . . . . . . 100
4.9. E(cid:12)ciencia Experimental de FB . . . . . . . . . . . . . . . . . . . 103
4.10.E(cid:12)ciencia Experimental de MI . . . . . . . . . . . . . . . . . . . 104
3
4.11.E(cid:12)ciencia Experimental de EP . . . . . . . . . . . . . . . . . . . 104
4.12.E(cid:12)ciencia Experimental de MIII . . . . . . . . . . . . . . . . . . 104
5.1. Tiempos de ejecucio(cid:19)n experimentales de MI y EP para el PIEVS 114
5.2. Tiemposdeejecucio(cid:19)nexperimentalesdeMIEyEPEparaelPIEVS121
5.3. Tiempos de ejecucio(cid:19)n experimentales de dos implementaciones
paralelasde la svd . . . . . . . . . . . . . . . . . . . . . . . . . . 127
5.4. Tiempos de ejecucio(cid:19)n y Speedup experimentales de MIE paralelo 134
5.5. Tiempos de ejecucio(cid:19)n y Speedup experimentales de EPE paralelo 135
5.6. E(cid:12)ciencia Experimental de MIE . . . . . . . . . . . . . . . . . . . 136
5.7. E(cid:12)ciencia Experimental de EPE . . . . . . . . . . . . . . . . . . 136
6.1. Resultados del caso Triu con MTriIU . . . . . . . . . . . . . . . . 145
6.2. TiemposdeEjecucio(cid:19)nExperimentalesdeMTriIUenKefren,con-
struyendo A en Proc . . . . . . . . . . . . . . . . . . . . . . . . 150
0
6.3. TiemposdeEjecucio(cid:19)nExperimentalesdeMTriIUenKefren,SIN
constru(cid:19)(cid:16)rA en Proc0 . . . . . . . . . . . . . . . . . . . . . . . . . 151
6.4. Speedup experimental de MTriIU en Kefren, sin construir A en
Proc , multiplicando el nu(cid:19)mero de procesadores por 2 y por 4 . . 151
0
6.5. Tiempos de Ejecucio(cid:19)n Experimentales de MTriIU en Aldebara(cid:19)n,
bajo el modelo de Memoria Compartida . . . . . . . . . . . . . . 154
6.6. E(cid:12)ciencia Experimental de MTriIU en Aldebara(cid:19)n. Modelo de
Memoria Compartida . . . . . . . . . . . . . . . . . . . . . . . . 155
6.7. ResultadosdelcasoBidiagconMBidiag,paran= 4;10;25;50;100 ,
f g
(0)
con c =c +(cid:14) (i=1;n) . . . . . . . . . . . . . . . . . . . . . 160
i (cid:3)i
6.8. ResultadosdelcasoBidiagconMBidiag,paran= 150;200;400;500;1000 ,
f g
(0)
con c =c +(cid:14) (i=1;n) . . . . . . . . . . . . . . . . . . . . . 161
i (cid:3)i
6.9. M(cid:19)etodos de Chu v.s. Li-Mathias v.s. MBidiag . . . . . . . . . . 162
4
(cid:19)
Indice de (cid:12)guras
4.1. Tiempos de ejecucio(cid:19)n teo(cid:19)ricos vs. experimentales de FB . . . . . 101
4.2. Tiempos de ejecucio(cid:19)n teo(cid:19)ricos vs. experimentales de MI . . . . . 101
4.3. Tiempos de ejecucio(cid:19)n teo(cid:19)ricos vs. experimentales de EP . . . . . 101
4.4. Tiempos de ejecucio(cid:19)n teo(cid:19)ricos vs. experimentales de MIII . . . . 102
4.5. Speedup experimental de FB y MI para m= 1000;2000;3000 . 102
f g
4.6. Speedup experimental de EP y MIII para m= 1000;2000;3000 103
f g
4.7. SpeedUp Escalado de los algoritmos paralelosdel PIAVS . . . . . 105
5.1. Tiempos de ejecucio(cid:19)n experimentales con algoritmos PIAVS vs
PIEVS sobre los mismos casis de prueba . . . . . . . . . . . . . . 122
5.2. Speedup experimentales de MIE y EPE en el cluster Kefren . . . 136
5.3. Speedup Escaladode los algoritmos paralelosdel PIEVS . . . . . 137
6.1. Speedup experimental de MTriIU en Kefren, SIN construir A en
Proc . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
0
6.2. Speedup experimentales de MTriIU en Aldebara(cid:19)n. Modelo de
Memoria Compartida . . . . . . . . . . . . . . . . . . . . . . . . 154
6.3. Speedup Escaladode MTriIU en Aldebara(cid:19)n. Memoria Compartida155
5
Cap(cid:19)(cid:16)tulo 1
Introduccio(cid:19)n
Elpropo(cid:19)sitodecoleccionardatosesobtenerinformacio(cid:19)nsigni(cid:12)cativaacerca
de un sistema o feno(cid:19)meno f(cid:19)(cid:16)sico. Si dada cierta informacio(cid:19)n sobre los valores
de un conjunto de para(cid:19)metros, tratamos de utilizar relaciones teo(cid:19)ricas para
obtenerinformacio(cid:19)nsobrelosvaloresdealgunascantidadesquepuedenmedirse,
se estara(cid:19) resolviendo, por de(cid:12)nicio(cid:19)n, un problema directo. En cambio, si dada
cierta informacio(cid:19)n sobre los valores de algunas cantidades medidas, se utilizan
relaciones teo(cid:19)ricas para obtener informacio(cid:19)n de los valores del conjunto de pa-
ra(cid:19)metros, entonces se estara(cid:19) resolviendo un problema inverso[TV82].
En un problema directo los valores de los para(cid:19)metros son los datos y los
valoresdealgunascantidadesobservablessonlasinco(cid:19)gnitas.Mientrasqueenun
problemainversolos datossonel resultadode algunasmedidas y lasinco(cid:19)gnitas
son los valores de los para(cid:19)metros. En otras palabras, se puede decir que un
problema inversoes aquel en el que se mide un efecto y se quiere determinar la
causa [TF03].
Los problemas directos pueden describirse como sigue [Gro99]
Entrada Proceso Salida
! !
o bien como
Causa Modelo Efecto
! !
SixsimbolizalaentradayK elproceso,entonceselproblemadirectoesencon-
trar Kx:
Entrada Proceso Salida
x ! K ! ?
Causa Modelo Efecto
6
Bajoesteesquema,cadaproblemadirectosugieredosproblemasinversosin-
mediatos:unodenominadoproblemadecausalidadyotrodenominadoproblema
de identi(cid:12)cacio(cid:19)n de modelo.
En el problema de causalidad, dado un modelo K y un efecto y, hay que
encontrar la causa del efecto:
Entrada Proceso Salida
? ! K ! y
Causa Modelo Efecto
mientras que en el problema de identi(cid:12)cacio(cid:19)n del modelo, dada informacio(cid:19)n de
causas-efectos, hay que identi(cid:12)car el modelo [Gro99]:
Entrada Proceso Salida
x ! ? ! y
Causa Modelo Efecto
Los problemas directos se caracterizan por tener solucio(cid:19)n u(cid:19)nica y estable,
no as(cid:19)(cid:16) los problemas inversos cuya solucio(cid:19)n puede no existir, puede ser u(cid:19)nica o
pueden ser mu(cid:19)ltiples.
De acuerdo a [Gro99] los diferentes tipos de problemas inversos y sus apli-
caciones son:
Problemas Inversos en C(cid:19)alculo. El ca(cid:19)lculo es particularmente
una fuente rica en problemas inversos. No es de sorprender si pen-
samos en la relacio(cid:19)n inversa que existe entre la diferenciacio(cid:19)n y la
integracio(cid:19)n. Problemas como ca(cid:19)lculo de trayectorias,determinacio(cid:19)n
deladeformacio(cid:19)nydistribucio(cid:19)ndemasas,distribucio(cid:19)nybalanceode
fuerzas, la meca(cid:19)nica orbital y la meca(cid:19)nica celeste son buenos repre-
sentantes de los Problemas Inversos en Ca(cid:19)lculo. Para su resolucio(cid:19)n
seempleanm(cid:19)etodosdeaproximacio(cid:19)nbasadosenladiscretizacio(cid:19)nde
derivadas e integrales, adema(cid:19)s de herramientas como la geometr(cid:19)(cid:16)a
anal(cid:19)(cid:16)tica.
Problemas Inversos en Ecuaciones Diferenciales. Muchos de
losproblemasencienciaytecnolog(cid:19)(cid:16)aesta(cid:19)nvinculadosconecuaciones
diferenciales.Ejemplaresdeestetipodeproblemassonlosrelaciona-
dos con: hidra(cid:19)ulica, teor(cid:19)(cid:16)a de irrigacio(cid:19)n, conduccio(cid:19)n de calor y sis-
temasdina(cid:19)micos.Paraatacarestetipodeproblemasseempleanhe-
rramientas matema(cid:19)ticas como m(cid:19)etodos de resolucio(cid:19)n de ecuaciones
7
diferenciales, transformada de Laplace, m(cid:19)etodos de diferencias (cid:12)ni-
tas y elementos (cid:12)nitos.
Problemas Inversos en Algebra Lineal. El problema ba(cid:19)sico
del a(cid:19)lgebra lineal, la resolucio(cid:19)n de un sistema de ecuaciones linea-
les, es un problema inverso. Adema(cid:19)s de los problemas ba(cid:19)sicos, se
cuentanlosrelacionadoscon:tomograf(cid:19)(cid:16)a,gravimetr(cid:19)(cid:16)a,estereograf(cid:19)(cid:16)a,
geof(cid:19)(cid:16)sica, astronom(cid:19)(cid:16)a. Los to(cid:19)picos matema(cid:19)ticos empleados incluyen
proyecciones en hiperplanos, integracio(cid:19)n mu(cid:19)ltiple, transformada de
Laplace,matricesinversas,resolucio(cid:19)ndem(cid:19)(cid:16)nimoscuadradosyana(cid:19)li-
sis de valores y vectores propios.
De acuerdo a qu(cid:19)e elementos se identi(cid:12)can como inco(cid:19)gnitas de un problema
inverso,(cid:19)estos se clasi(cid:12)can en dos grandes bloques [Gra98]:
Problemas inversos para estimar par(cid:19)ametros. Tratan de la
determinacio(cid:19)n de los valores de los para(cid:19)metros de un modelo que
permitan el mejorajuste entrelos resultadosdel modeloy los datos
medidos [Giu02].
Problemas inversos para estimar funciones. Involucran la de-
terminacio(cid:19)n de una funcio(cid:19)n desconocida.
Dentro de los problemas inversos para la estimacio(cid:19)n de para(cid:19)metros, se en-
cuentran clasi(cid:12)cados, entre otros: los Problemas Inversos de Valores Propios
(PIVP) y los Problemas Inversosde Valores Singulares (PIVS).
1.1. De(cid:12)nicio(cid:19)n del Problema Inverso de
Valores Singulares
Antes de de(cid:12)nirel ProblemaInversode ValoresSingulares,se de(cid:12)ne el Pro-
blema Inverso de Valores Propios, como importante y principal antecedente.
1.1.1. Los Problemas Inversos de Valores Propios
Este tipo de problemas tiene como propo(cid:19)sito la construccio(cid:19)n de una matriz
conunadeterminadaestructuraqueposeaciertoespectroprede(cid:12)nido.Sede(cid:12)nen
como sigue [Chu98]:
DadaunafamiliadematricesA(c) (cid:9),conc=[c ;c ; ;c ]t Fl
1 2 l
2 (cid:1)(cid:1)(cid:1) 2
y escalares (cid:21) ;(cid:21) ; ;(cid:21) F, encontrar un para(cid:19)metro c tal que
f (cid:3)1 (cid:3)2 (cid:1)(cid:1)(cid:1) (cid:3)ng(cid:26)
(cid:27)(A(c))= (cid:21) ;(cid:21) ; ;(cid:21) donde:
f (cid:3)1 (cid:3)2 (cid:1)(cid:1)(cid:1) (cid:3)ng
8
F representaelcampoescalardelosreales ode loscom-
<
plejos C
(cid:27)(A) denota el espectro de la matriz A
(cid:9) denota cierto conjunto de matrices cuadradas,que entre
otras, pueden ser:
S(n) elconjuntodetodaslasmatricessim(cid:19)etricas
en n n
(cid:2)
<
O(n) el conjunto de todas las matrices ortogo-
nales en n n
(cid:2)
<
D (n) elconjuntodetodaslasmatricesdiagonales
R
en n n
(cid:2)
<
H(n) el conjunto de todas las matrices Hermi-
tianas en Cn n
(cid:2)
D (n) elconjuntodetodaslasmatricesdiagonales
C
en Cn n
(cid:2)
En [Chu98]sepuedeencontrarunaclasi(cid:12)cacio(cid:19)ndeestosproblemasinversos,
entre ellos se especi(cid:12)can:
MVIEP. Problema Inverso Multivariable de Valores Propios
LSIEP. Problema Inverso de M(cid:19)(cid:16)nimos Cuadrados de Valores Propios
PIEP. Problema Inverso Parametrizadode Valores Propios
SIEP. Problema Inverso Estructuradode Valores Propios
PDIEP. Problema Inverso Parametrizadode Valores Propios
AIEP. Problema Inverso Aditivo de Valores Propios
MIEP. Problema Inverso Multiplicativo de Valores Propios
deloscualessondeparticularinter(cid:19)esen estetrabajoelLSIEP ocasosim(cid:19)etrico
aditivo [VA01][VA02]y elMIEP ocasosim(cid:19)etricomultiplicativo [FVA02], que
se de(cid:12)nen como:
LSIEP. Caso Aditivo Sim(cid:19)etrico.
Dado un conjunto de escalares (cid:21) ;(cid:21) ;:::;(cid:21) encon-
(cid:3)1 (cid:3)2 (cid:3)m (cid:26) <
trar una matriz
l
X A(c)=A + c A A S(n);i=0;l
0 i i i
2 ( j 2 )
i=1
X
y un conjunto (cid:28) = (cid:28) ;(cid:28) ;:::;(cid:28) de(cid:19)(cid:16)ndices, con 1 (cid:28) <
1 2 m 1
f g (cid:20)
(cid:28) < <(cid:28) n, tales que la funcio(cid:19)n
2 m
(cid:1)(cid:1)(cid:1) (cid:20)
m
1
F(X;(cid:28))= ((cid:21) (X) (cid:21) )2
2 (cid:28)i (cid:0) (cid:3)i
i=1
X
donde(cid:21) (X),i=1;n,sonvalorespropiosdelamatrizX,
i
sea minimizada.
9