DTIC AD1000053: Approximation by Ridge Functions and Neural Networks

43 Pages·0.65 MB·English

by  Defense Technical Information Center

Form Approved
REPORT DOCUMENTATION PAGE
OMB No. 0704-0188
The public reporting burden for this collection of information is estimated to average 1 hour per response, including the time for reviewing instructions, searching existing data
sources, gathering and maintaining the data needed, and completing and reviewing the collection of information. Send comments regarding this burden estimate or any other
aspect of this collection of information, including suggestions for reducing the burden, to Department of Defense, Washington Headquarters Services, Directorate for Information
Operations and Reports (0704-0188), 1215 Jefferson Davis Highway, Suite 1204, Arlington, VA 22202-4302. Respondents should be aware that notwithstanding any other
provision of law, no person shall be subject to any penalty for failing to comply with a collection of information if it does not display a currently valid OMB control number.
PLEASE DO NOT RETURN YOUR FORM TO THE ABOVE ADDRESS.
1. REPORT DATE (DD-MM-YYYY) 2. REPORT TYPE 3. DATES COVERED (From - To)
2/1/1997 Technical Report - Other 1/1/0001 - 1/1/0001
4. TITLE AND SUBTITLE 5a. CONTRACT NUMBER
Approximation by Ridge Functions and Neural Networks
5b. GRANT NUMBER
5c. PROGRAM ELEMENT NUMBER
6. AUTHOR(S) 5d. PROJECT NUMBER
5e. TASK NUMBER
5f. WORK UNIT NUMBER
7. PERFORMING ORGANIZATION NAME(S) AND ADDRESS(ES) 8. PERFORMING ORGANIZATION
University of South Carolina Columbia SC 242 REPORT NUMBER
9. SPONSORING/MONITORING AGENCY NAME(S) AND ADDRESS(ES) 10. SPONSOR/MONITOR'S ACRONYM(S)
Office of Naval Research Arlington 46 242
11. SPONSOR/MONITOR'S REPORT
NUMBER(S)
12. DISTRIBUTION/AVAILABILITY STATEMENT
1 1/1/0001 12:00:00 AM
13. SUPPLEMENTARY NOTES
14. ABSTRACT
We investigate the eciency of approximation by linear combinations of
ridge functions in the metric of L(cid:1)Bd(cid:2) with Bd the unit ball in Rd(cid:3) If Xn
is an n(cid:4)dimensional linear space of univariate functions in L(cid:1)I(cid:2)(cid:5) I
and
is a subset of the unit sphere Sd(cid:1) in Rd of cardinality m(cid:5) then the
space Yn (cid:11)(cid:6) spanfr(cid:1)x (cid:1) (cid:1)(cid:2) (cid:11) r (cid:2) Xn
15. SUBJECT TERMS
g is a linear space of ridge functions
of dimension (cid:3) mn(cid:3) We show that if Xn provides order of approximation
O(cid:1)nr(cid:2) for univariate functions with r derivatives in L(cid:1)I(cid:2)(cid:5) and
are properly
1c6h. o SsEeCnU sReITtsY oCfL AcaSrSdIFinICaAliTtyIO ON(cid:1) OnFd:(cid:1)(cid:2)(cid:5) then1 7Y. n L wIMilIlT pArToIOvNid Oe Fa pp1r8o. x NimUMatBioEnR o1f 9oar. d NeArME OF RESPONSIBLE PERSON
ABSTRACT OF
aO. (cid:1)REnPrdO(cid:2)RT(cid:1)(cid:2) fobr .e AvBeSryT RfuAnCcTtionc. fT (cid:2)HI SL (cid:1)PABGdE(cid:2) with smoothness of order r
PAGES
Ud U
19b. TELEPHONE NUMBER (Include area code)
in L(cid:1)Bd(cid:2)(cid:3) Thus(cid:5) the theorems we obtain show that this form of
Standard Form 298 (Rev. 8/98)
ridge approximation has the same eciency of approximation as other more
Prescribed by ANSI Std. Z39.18
traditional methods of multivariate approximation such as polynomials(cid:5) splines
or wavelets(cid:3) The theorems we obtain can be applied to show that a feed
forward neural network with one hidden layer of computational nodes given
by certain sigmoidal function (cid:4) will also have this approximation eciency
Minimal requirements are made of the sigmoidal functions and in particular
our results hold for the unit(cid:4)impulse function
I
NDUSTRIAL
M
ATHEMATICS
I
NSTITUTE
1997:18
Approximation by ridge functions
and neural networks
P.P. Petrushev

IMI
Department of Mathematics
Preprint Series University of South Carolina
Approximation by Ridge Functions
(cid:0)
and Neural Networks
Pencho P(cid:0) Petrushev
Abstract
We investigate the e(cid:0)ciency of approximation by linear combinations of
ridge functions in the metric of L(cid:0)(cid:1)Bd(cid:2) with Bd the unit ball in Rd(cid:3) If Xn
is an n(cid:4)dimensional linear space of univariate functions in L(cid:0)(cid:1)I(cid:2)(cid:5) I (cid:6) (cid:7)(cid:0)(cid:8)(cid:0)(cid:8)(cid:9)(cid:5)
and (cid:10) is a subset of the unit sphere Sd(cid:0)(cid:1) in Rd of cardinality m(cid:5) then the
space Yn (cid:11)(cid:6) spanfr(cid:1)x(cid:1)(cid:1)(cid:2) (cid:11) r (cid:2) Xn(cid:0)(cid:2) (cid:2) (cid:10)g is a linear space of ridge functions
of dimension (cid:3) mn(cid:3) We show that if Xn provides order of approximation
r
O(cid:1)n(cid:0) (cid:2) for univariate functions with r derivatives in L(cid:0)(cid:1)I(cid:2)(cid:5) and (cid:10) are properly
d (cid:1)
chosen sets ofcardinality O(cid:1)n (cid:0) (cid:2)(cid:5)then Yn will provide approximation oforder
O(cid:1)n(cid:0)r(cid:0)d(cid:0)(cid:0)(cid:2)(cid:1)(cid:0)(cid:0)(cid:2) for every function f (cid:2) L(cid:0)(cid:1)Bd(cid:2) with smoothness of order r (cid:12)
d(cid:3)(cid:13)(cid:0) (cid:8)(cid:3)(cid:13) in L(cid:0)(cid:1)Bd(cid:2)(cid:3) Thus(cid:5) the theorems we obtain show that this form of
ridge approximation has the same e(cid:0)ciency of approximation as other more
traditionalmethodsofmultivariate approximationsuchaspolynomials(cid:5) splines(cid:5)
or wavelets(cid:3) The theorems we obtain can be applied to show that a feed(cid:4)
forward neural network with one hidden layer of computational nodes given
by certain sigmoidal function (cid:4) will also have this approximation e(cid:0)ciency(cid:3)
Minimal requirements are made of the sigmoidal functions and in particular
our results hold for the unit(cid:4)impulse function (cid:4) (cid:6) (cid:5) (cid:3)
(cid:3)(cid:4)(cid:1) (cid:5)
(cid:1)
Keywords and phrases(cid:11) approximation error(cid:5) ridge functions(cid:5) neural net(cid:4)
works(cid:3)
AMS classi(cid:14)cation(cid:11) (cid:15)(cid:8)A(cid:8)(cid:16)(cid:5) (cid:15)(cid:8)A(cid:13)(cid:16)(cid:5) (cid:15)(cid:8)A(cid:13)(cid:17)
Abbreviated title(cid:11) Approximation by Ridge Functions
(cid:0) Introduction
A ridge function is a multivariatefunction of the formr(cid:0)x (cid:0)(cid:1)(cid:2) where r is a univariate
d (cid:0)d
function(cid:2) (cid:0) is a (cid:3)xed vector in R (cid:2) the variable x R (cid:2) and x (cid:0) is the inner
(cid:1) (cid:0)
product of x and (cid:0)(cid:4) These functions appear naturally in harmonic analysis(cid:2) special
function theory(cid:2) and in several applications such as tomography and neural networks(cid:4)
In most applications(cid:2) we are interested in representing or approximating a general
(cid:0)
This research was supported by ONR Research Contract N(cid:0)(cid:0)(cid:0)(cid:1)(cid:2)(cid:3)(cid:4)(cid:5)(cid:3)(cid:1)(cid:3)(cid:1)(cid:0)(cid:0)(cid:6)(cid:7)
(cid:5)
function f on a domain (cid:0) Rd by linear combinations of ridge functions(cid:4) It is
(cid:2)
surprising therefore that the most fundamental questions concerning the e(cid:6)ciency of
approximation by ridge functions are unanswered(cid:4)
d d
In this paper(cid:2) we shall consider approximating functions in L(cid:0)(cid:0)B (cid:1)(cid:2) B the
d
unit ball in R (cid:2) d (cid:7)(cid:2) by linear combinations of ridge functions(cid:4) Using extension
theorems(cid:2) the set B(cid:3)d can be replaced by more general sets (cid:0) Rd(cid:4)
(cid:2)
Let Xn be a linear space of univariate functions in L(cid:0)(cid:0)I(cid:1)(cid:2) I (cid:8)(cid:9) (cid:10) (cid:5)(cid:1)(cid:5)(cid:11) and let
d (cid:1) d (cid:1) d (cid:4)
(cid:12)n S (cid:0) be a (cid:3)nite subset of the unit sphere S (cid:0) in R (cid:4) Then(cid:2)
(cid:2)
Yn (cid:8)(cid:9) span r(cid:0)x (cid:0)(cid:1) (cid:8) r Xn(cid:1) (cid:0) (cid:12)n (cid:0)(cid:5)(cid:2)(cid:5)(cid:1)
f (cid:0) (cid:1) (cid:1) g
is a space of multivariate ridge functions of dimension n(cid:13)(cid:12)n(cid:2) where (cid:13)(cid:12)n is the
(cid:5)
cardinality of (cid:12)n(cid:4) We shall relate the approximation e(cid:6)ciency of Yn to that of Xn
d (cid:1)
and the distribution of the vectors of (cid:12)n in S (cid:0) (cid:4)
s
Let W (cid:0)L(cid:0)(cid:0)I(cid:1)(cid:1) denote the univariate Sobolev spaces(cid:4) We say that a sequence
of spaces Xn(cid:1)n (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2) dim(cid:0)Xn(cid:1) (cid:9) n(cid:2) provides approximation of order s if
s s
E(cid:0)g(cid:1)Xn(cid:1)L(cid:0)(cid:6)I(cid:5) c(cid:0)s(cid:1)n(cid:0) g Ws(cid:6)L(cid:0)(cid:6)I(cid:5)(cid:5)(cid:1) g W (cid:0)L(cid:0)(cid:0)I(cid:1)(cid:1)(cid:1) (cid:0)(cid:5)(cid:2)(cid:7)(cid:1)
(cid:5) k k (cid:1)
where
E(cid:0)g(cid:1)Xn(cid:1)L(cid:0)(cid:6)I(cid:5)(cid:5) (cid:8)(cid:9) inf g r L(cid:0)(cid:6)I(cid:5)
r Xnk (cid:4) k
(cid:2)
is the error in approximating the univariate function g in the L(cid:0)(cid:0)I(cid:1) norm by the
s d
elements of Xn(cid:4) We denote similarly the multivariate Sobolev space W (cid:0)L(cid:0)(cid:0)B (cid:1)(cid:1) on
d
B and the approximation error
E(cid:0)f(cid:1)Yn(cid:1)L(cid:0)(cid:6)Bd(cid:5)(cid:5) (cid:8)(cid:9) inf f R L(cid:0)(cid:6)Bd(cid:5)
R Ynk (cid:4) k
(cid:2)
d
for any f L(cid:0)(cid:0)B (cid:1)(cid:4) Our main result(cid:2) given in (cid:14)(cid:2) shows that for any sequence of
(cid:1) x
spaces Xn(cid:1)n (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2)whichprovideapproximationof orders(cid:2) and forappropriately
d (cid:1)
chosen sets (cid:12)n with (cid:13)(cid:12)n (cid:9) O(cid:0)n (cid:0) (cid:1)(cid:2) the sequence of spaces Yn(cid:1)n (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2) given in
(cid:0)(cid:5)(cid:4)(cid:5)(cid:1)(cid:2) provide the following approximation(cid:8) for (cid:3) (cid:8)(cid:9) s(cid:15)(cid:0)d (cid:5)(cid:1)(cid:4)(cid:7)(cid:2)
(cid:4)
(cid:2) (cid:2) d
E(cid:0)f(cid:1)Yn(cid:1)L(cid:0)(cid:6)Bd(cid:5) c(cid:0)(cid:3)(cid:1)n(cid:0) f W(cid:0)(cid:6)L(cid:0)(cid:6)Bd(cid:5)(cid:5)(cid:1) f W (cid:0)L(cid:0)(cid:0)B (cid:1)(cid:1)(cid:2) (cid:0)(cid:5)(cid:2)(cid:16)(cid:1)
(cid:5) k k (cid:1)
Note that there is in a certain sense an unexpected gain in the multivariate approx(cid:17)
imation order s(cid:15)(cid:0)d (cid:5)(cid:1)(cid:4)(cid:7) over the univariate order s(cid:4) This gain will be explained
(cid:4)
later (cid:0)see (cid:18)(cid:1)(cid:4)
x
One can generate the space Yn appearing in (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) by using very general uni(cid:17)
variate spaces Xn such as splines or wavelets(cid:4) In particular(cid:2) our results apply to
feed(cid:17)forward neural networks using a very general activation function (cid:5)(cid:4) A complete
discussionof theapplicationtoneural networksisgivenin (cid:18)(cid:4) Inthisintroduction(cid:2)we
x
wish to illustrate the typical result by considering the following simple example(cid:4) Let
(cid:5) (cid:9) (cid:6) and de(cid:3)ne Xn as the univariate space spanned by (cid:5)(cid:0)x k(cid:4)n(cid:1)(cid:2) (cid:19) k (cid:7) n(cid:4)
(cid:3)(cid:4)(cid:1) (cid:5)
(cid:1) (cid:4) (cid:5)
(cid:7)
Then(cid:2) de(cid:3)ning Yn for this Xn as described above(cid:2) we obtain a space of dimension
d
O(cid:0)n (cid:1) of certain piecewise constant functions(cid:4) The space Yn can be realized compu(cid:17)
d (cid:1)
tationally by a feed(cid:17)forward neural network with O(cid:0)n (cid:0) (cid:1) computational nodes(cid:4) In
d (cid:1)
this case (cid:0)see (cid:18) for details(cid:1)(cid:2) (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) provides the approximation order (cid:5) (cid:15) (cid:0) (cid:4) One
(cid:0)
x
might expect the estimate (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) to be (cid:5) since we are using piecewise constants in the
d (cid:1)
approximation(cid:4) As noted in (cid:0)(cid:5)(cid:4)(cid:16)(cid:1)(cid:2) the gain of (cid:0) in the approximation rate persists
(cid:0)
in general (cid:0)see also Theorem (cid:14)(cid:4)(cid:7)(cid:1)(cid:4)
There is a standard method in approximation theory (cid:0)see (cid:10)DL(cid:2) Chapter (cid:20)(cid:11)(cid:1)
which derives from (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) the estimate
(cid:1) r d
E(cid:0)f(cid:1)Yn(cid:1)L(cid:0)(cid:6)Bd(cid:5) c (cid:0)r(cid:0)f(cid:1)n(cid:0) (cid:1)L(cid:0)(cid:6)Bd(cid:5) (cid:15) f L(cid:0)(cid:6)Bd(cid:5)n(cid:0) (cid:1) f L(cid:0)(cid:0)B (cid:1) (cid:0)(cid:5)(cid:2)(cid:21)(cid:1)
(cid:5) k k (cid:1)
(cid:0) (cid:1)
with (cid:0)r the r(cid:17)th order modulus of smoothness of f(cid:4) In the case that Yn contains all
polynomials of total degree (cid:7) r (cid:0)in d variables(cid:1)(cid:2) the last term on the right can be
eliminated(cid:4)
d
Since Yn is a linear space of dimension O(cid:0)n (cid:1) then it follows from the general
theory of n(cid:17)widths that for all m (cid:8) (cid:19)(cid:2)
m
sup E(cid:0)f(cid:1)Yn(cid:1) c(cid:4)n(cid:0) (cid:0)(cid:5)(cid:2)(cid:22)(cid:1)
kfkWm(cid:1)L(cid:0)(cid:1)Bd(cid:2)(cid:2)(cid:3)(cid:1) (cid:3)
with c(cid:4) (cid:8) (cid:19) a constant depending only on m and d(cid:4) In this sense(cid:2) the estimates (cid:0)(cid:5)(cid:4)(cid:16)(cid:1)
cannot be improved(cid:4)
We also note that (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) shows that(cid:2) in general(cid:2) linear spaces of ridge functions
are at least as e(cid:6)cient as other methods of multivariate approximation such as poly(cid:17)
nomials(cid:2) wavelets(cid:2) and splines(cid:4)
This paper is an extension of the results from (cid:10)DOP(cid:11)(cid:2) where we considered the
case d (cid:9) (cid:7)(cid:4) Throughout the paper we assume that d (cid:8) (cid:7)(cid:2) although most of the
statements hold when d (cid:9) (cid:7)(cid:4)
The results of this paper di(cid:23)er from other work in this (cid:3)eld in the following
respects(cid:4) We are able to begin with a very general class of univariate spaces Xn(cid:4)
Other authors (cid:0)most notably Micchelliand Mhaskar (cid:10)MM(cid:11)(cid:2) (cid:10)MM(cid:5)(cid:11) and Mhaskar (cid:10)M(cid:11)(cid:1)
have also considered approximation problems of the type treated here(cid:4) The work of
Micchelli and Mhaskar does not give the best order of approximation(cid:4) Mhaskar (cid:10)M(cid:11)
has givenbest possible results but onlyin the case that Xn isgenerated using a rather
restrictive class of sigmoidal functions(cid:4)
Our results are(cid:2) for the present(cid:2) limitedto approximation in L(cid:0)(cid:2) and it remains
an important open question in ridge approximation to understand to what extent
results such as those presented in this paper are valid in Lp(cid:2) p (cid:9) (cid:7)(cid:4)
(cid:6) d (cid:1)
It is also an interesting question to understand which sets (cid:12)n S (cid:0) (cid:2) when
(cid:2)
used in de(cid:3)ning the spaces Yn(cid:2) will provide the approximation order of (cid:0)(cid:5)(cid:4)(cid:16)(cid:1)(cid:4) In the
(cid:1)
case d (cid:9) (cid:7)(cid:2) as was shown in (cid:10)DOP(cid:11)(cid:2) n equally spaced points on S are the most
d (cid:1)
natural choice(cid:4) There is no direct analogy of equally spaced points in S (cid:0) (cid:2) d (cid:8) (cid:7)(cid:4) It
will become clear from (cid:21) that any set (cid:12)n which permits a cubature formula that is
x
(cid:16)
exact for spherical polynomials of degree n and with good localization properties
(cid:5)
will provide spaces Yn which satisfy (cid:0)(cid:5)(cid:4)(cid:16)(cid:1)(cid:4) Since we could not (cid:3)nd in the literature
examples of such sets (cid:12)n(cid:2) we construct some in (cid:21)(cid:4) There should be more elegant
x
and more natural constructions than ours(cid:4) In some sense(cid:2) one might expect that a
natural quadrature formula might provide the analogue of equally spaced points in
d (cid:1)
S (cid:0) (cid:2) d (cid:8) (cid:7)(cid:4)
We prove (cid:0)(cid:5)(cid:4)(cid:16)(cid:1) by (cid:3)rst understanding well the structure of ridge polynomials(cid:4)
Ourmainvehicle(cid:0)givenin (cid:16)(cid:1)isa fundamentalorthogonal decompositionof ageneral
d x
function f L(cid:0)(cid:0)B (cid:1) into ridge polynomials(cid:4) This decomposition uses the univariate
(cid:1)
Gegenbauer polynomials(cid:4)
An outline of this paper is the following(cid:4) The properties we need about Gegen(cid:17)
bauer polynomials are given in (cid:7)(cid:4) In (cid:16)(cid:2) we give the fundamental orthogonal de(cid:17)
xd x
composition of functions in L(cid:0)(cid:0)B (cid:1) in terms of ridge polynomials(cid:4) In (cid:21)(cid:2) we give our
x
construction of cubature (cid:0)quadrature(cid:1) formulas(cid:4) In (cid:22)(cid:17)(cid:24)(cid:2) we introduce smoothness
xx
spaces (cid:0)the Sobolev spaces(cid:1) and recall their characterization by polynomial approxi(cid:17)
mation(cid:4) In (cid:20)(cid:2) we prove the main theorem about approximation by ridge functions(cid:4)
x
In (cid:14)(cid:2) we discuss how to improve the theorem of (cid:20) to be more amenable to applica(cid:17)
x x
tions(cid:4) In (cid:18)(cid:2) we give some applications of our results(cid:2) in particular to feed forward
x
neural networks(cid:4)
Throughout the paper(cid:2) the constants are denoted by c(cid:1)c(cid:1)(cid:1)(cid:2)(cid:2)(cid:2) and they may
vary at everyoccurrence(cid:4) The constants usually depend on some parameters(cid:0)likethe
dimension d(cid:1) that will be sometimes indicated explicitly(cid:4)
(cid:1) The Gegenbauer (cid:2)ultraspherical(cid:3) polynomials
Special functions appear naturally when we represent a general function in terms of
ridge polynomials as will be done in the next section(cid:4) In particular(cid:2) the Gegenbauer
polynomialswillplay an importantrole in this paper(cid:4) In this section(cid:2) we shall present
the essential properties of Gegenbauer polynomials and bring out their role in the
Radon transform(cid:4) We refer the reader to (cid:10)E(cid:11) and (cid:10)Sz(cid:11) as general references for this
section(cid:4)
The Gegenbauer polynomials are usually de(cid:3)ned by the following generating
function
(cid:0) (cid:2) (cid:1) (cid:2) m
(cid:0)(cid:5) (cid:7)tz (cid:15)z (cid:1)(cid:0) (cid:9) Cm(cid:0)t(cid:1)z (cid:1)
(cid:4) m(cid:7)(cid:4)
X
(cid:2)
where z (cid:7) (cid:5)(cid:1) t (cid:5)(cid:2) and (cid:3) (cid:8) (cid:19)(cid:4) The coe(cid:6)cients Cm(cid:0)t(cid:1) are algebraic polynomials
j j j j (cid:5)
of degree m which are called the Gegenbauer polynomials associated with (cid:3)(cid:4) The
(cid:2)
family of polynomials Cm (cid:1)m(cid:7)(cid:4) is a complete orthogonal system for the weighted
space L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:2) I (cid:8)(cid:9) (cid:10) (cid:5)f(cid:1)(cid:5)(cid:11)(cid:1)gw(cid:0)t(cid:1) (cid:8)(cid:9) w(cid:2)(cid:0)t(cid:1) (cid:8)(cid:9) (cid:0)(cid:5) t(cid:0)(cid:1)(cid:2)(cid:0)(cid:3)(cid:0) and we have
(cid:4) (cid:4)
(cid:21)
(cid:1)(cid:0)(cid:0)
(cid:2) (cid:2) (cid:19)(cid:1) m (cid:9) n (cid:9) (cid:0)(cid:7)(cid:3)(cid:1)n(cid:25)(cid:0)(cid:3)(cid:15)(cid:5)(cid:4)(cid:7)(cid:1)
Cm(cid:0)t(cid:1)Cn(cid:0)t(cid:1)w(cid:0)t(cid:1)dt (cid:9) (cid:6) with hn(cid:1)(cid:2) (cid:8)(cid:9) (cid:1) (cid:0)(cid:7)(cid:2)(cid:5)(cid:1)
I (cid:2) hn(cid:1)(cid:2)(cid:1) m (cid:9) n (cid:0)n(cid:15)(cid:3)(cid:1)n(cid:26)(cid:25)(cid:0)(cid:3)(cid:1)
Z
where we use here and later the standard notation
(cid:0)a(cid:1)(cid:4) (cid:8)(cid:9) (cid:19)(cid:1) (cid:0)a(cid:1)n (cid:8)(cid:9) a(cid:0)a(cid:15)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:0)a(cid:15)n (cid:5)(cid:1) (cid:9) (cid:25)(cid:0)a(cid:15)n(cid:1)(cid:4)(cid:25)(cid:0)a(cid:1)(cid:2)
(cid:4)
Also(cid:2) we have
(cid:2) n (cid:2) (cid:2) (cid:0)(cid:7)(cid:3)(cid:1)n (cid:2)
Cn(cid:0) t(cid:1) (cid:9) (cid:0) (cid:5)(cid:1) Cn(cid:0)t(cid:1)(cid:1) Cn(cid:0)(cid:5)(cid:1) (cid:9) (cid:1) and C(cid:4)(cid:0)t(cid:1) (cid:9) (cid:5)(cid:2) (cid:0)(cid:7)(cid:2)(cid:7)(cid:1)
(cid:4) (cid:4) n(cid:26)
TheGegenbauerpolynomialscanalsobede(cid:3)nedbythefollowingidentity(cid:0)called
Rodrigues(cid:27) formula(cid:1)(cid:8)
n
Cn(cid:2)(cid:0)t(cid:1) (cid:9) (cid:0) (cid:5)(cid:1)n(cid:10)n(cid:1)(cid:2)(cid:0)(cid:5) t(cid:0)(cid:1)(cid:0)(cid:2)(cid:2)(cid:0)(cid:3) d (cid:0)(cid:5) t(cid:0)(cid:1)n(cid:2)(cid:2)(cid:0)(cid:3)(cid:0)(cid:1) (cid:10)n(cid:1)(cid:2) (cid:8)(cid:9) n(cid:0)(cid:7)(cid:3)(cid:1)n (cid:1) (cid:2) (cid:0)(cid:7)(cid:2)(cid:16)(cid:1)
(cid:4) (cid:4) (cid:3)dt(cid:4) (cid:4) n(cid:26)(cid:7) (cid:0)(cid:3)(cid:15) (cid:0)(cid:1)n
There is an identity that relates Gegenbauer polynomials with di(cid:23)erent weights(cid:8)
m
d (cid:2) m (cid:2)(cid:2)m
Cn(cid:0)t(cid:1) (cid:9) (cid:7) (cid:0)(cid:3)(cid:1)mCn m(cid:0)t(cid:1)(cid:1) m (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2)(cid:1)n(cid:2) (cid:0)(cid:7)(cid:2)(cid:21)(cid:1)
(cid:3)dt(cid:4) (cid:0)
Special cases of the Gegenbauer polynomials are the Legendre polynomials Pn
and the Chebyshev polynomials of second kind Un which correspond to (cid:3) (cid:9) (cid:5)(cid:4)(cid:7) and
(cid:3) (cid:9) (cid:5)(cid:2) respectively(cid:4) Namely(cid:2)
n n
(cid:0) (cid:5)(cid:1) d (cid:0) n (cid:1)(cid:0)(cid:0)
Pn(cid:0)t(cid:1) (cid:8)(cid:9) (cid:4)n (cid:0)(cid:5) t (cid:1) (cid:9) Cn (cid:0)t(cid:1)(cid:1)
(cid:7) n(cid:26) (cid:3)dt(cid:4) (cid:4)
sin(cid:0)n(cid:15)(cid:5)(cid:1)arccost (cid:1)
Un(cid:0)t(cid:1) (cid:8)(cid:9) (cid:0) (cid:9) Cn(cid:0)t(cid:1)(cid:2)
p(cid:5) t
(cid:4)
The Chebyshev polynomials of the (cid:3)rst kind Tn(cid:0)t(cid:1) (cid:8)(cid:9) cosnarccost can be considered
(cid:4) (cid:0) (cid:1)(cid:0)(cid:0)
as the Gegenbauer polynomials Cn associated with the weight w(cid:4)(cid:0)t(cid:1) (cid:9) (cid:0)(cid:5) t (cid:1)(cid:0) (cid:4)
(cid:2) (cid:4)
We shall also need the Gegenbauer polynomials Cn when (cid:3) (cid:7) (cid:19) and(cid:2) in par(cid:17)
ticular(cid:2) when (cid:3) (cid:9) (cid:5)(cid:1) (cid:7)(cid:1)(cid:2)(cid:2)(cid:2) Note that (cid:10)n(cid:1)(cid:2) (cid:9) (cid:19) when (cid:3) (cid:9) (cid:5)(cid:1) (cid:7)(cid:1)(cid:2)(cid:2)(cid:2) and n (cid:8) (cid:7)(cid:11)(cid:4)
(cid:4) (cid:4) (cid:3) (cid:4) (cid:4)
Therefore(cid:2) we cannot use (cid:0)(cid:7)(cid:4)(cid:16)(cid:1) to de(cid:3)ne Cn(cid:0) when (cid:11) (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2) However(cid:2) we can
de(cid:3)ne (cid:0)see (cid:10)Sz(cid:2) Chapter IV (cid:11)(cid:1)
n
Cn(cid:2)(cid:0)t(cid:1) (cid:8)(cid:9) (cid:10)(cid:0)(cid:5) t(cid:0)(cid:1)(cid:0)(cid:2)(cid:2)(cid:0)(cid:3) d (cid:0)(cid:5) t(cid:0)(cid:1)n(cid:2)(cid:2)(cid:0)(cid:0)(cid:3)(cid:1) (cid:3) (cid:7) (cid:19)(cid:1) (cid:0)(cid:7)(cid:2)(cid:22)(cid:1)
(cid:4) (cid:3)dt(cid:4) (cid:4)
(cid:2)
where (cid:10) is any constant independent of t(cid:4) To our goals the normalization of Cn
(cid:0)(cid:3) (cid:7) (cid:19)(cid:1) is not essential(cid:4) Identity (cid:0)(cid:7)(cid:4)(cid:21)(cid:1) remains valid except for a constant factor (cid:0)see
(cid:10)Sz(cid:2) Chapter IV (cid:11)(cid:1)(cid:8) for any (cid:3)(cid:2) we have
m
d (cid:2) (cid:2)(cid:2)m
Cn(cid:0)t(cid:1) (cid:9) cCn m(cid:0)t(cid:1)(cid:1) m (cid:9) (cid:5)(cid:1)(cid:7)(cid:1)(cid:2)(cid:2)(cid:2)(cid:1)n(cid:1) (cid:0)(cid:7)(cid:2)(cid:24)(cid:1)
(cid:3)dt(cid:4) (cid:0)
(cid:22)
where c is independent of t(cid:4)
The Gegenbauer polynomials play a fundamental role in inverting the Radon
transform(cid:4) WeshallshowinLemma(cid:7)(cid:4)(cid:5)thatfollowsthattheGegenbauerpolynomials
(cid:2)
Cn for (cid:3) (cid:9) k and (cid:3) (cid:9) k(cid:15)(cid:5)(cid:4)(cid:7) (cid:0)k an integer(cid:1) are eigenfunctions for certain di(cid:23)erential
operators that occur in the Radon transform inversion formula(cid:4) These operators will
playan importantrolein de(cid:3)ning an equivalentnormfor the weightedSobolev spaces
s
W (cid:0)L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1) (cid:0)see (cid:14)(cid:1)(cid:4)
x
We begin with a brief discussion of the Hilbert transform H on R and its
analogue H for the interval I (cid:8)(cid:9) (cid:10) (cid:5)(cid:1)(cid:5)(cid:11)(cid:4) For any g L(cid:1)(cid:0)I(cid:1) we de(cid:3)ne
(cid:4) (cid:1)
g(cid:0)t(cid:1)(cid:1) t I(cid:1)
Hg (cid:8)(cid:9) Hg(cid:4) with g(cid:4)(cid:0)t(cid:1) (cid:8)(cid:9) (cid:1) (cid:0)(cid:7)(cid:2)(cid:20)(cid:1)
(cid:2) (cid:19)(cid:1) t (cid:0) (cid:1) (cid:1) I(cid:1)
(cid:1) (cid:4)(cid:7) (cid:7) n
where Hg(cid:4) is the Hilbert transform of g(cid:4)(cid:4) It follows that
(cid:5) g(cid:4)(cid:0)s(cid:1) (cid:5) g(cid:0)s(cid:1)
Hg(cid:0)t(cid:1) (cid:9) p(cid:2)v(cid:2) ds (cid:9) p(cid:2)v(cid:2) ds(cid:2)
(cid:9) R(cid:3) t s (cid:9) I t s
Z Z
(cid:4) (cid:4)
The analogue of the Hilbert transform on the circle T is the conjugate operator
(cid:0)see (cid:10)Z(cid:2) Chapter II(cid:11)(cid:1)(cid:4) If g L(cid:1)(cid:0)T(cid:1)(cid:2) we denote its conjugate function by
(cid:1)
(cid:5) (cid:12) (cid:13)
g(cid:28)(cid:0)(cid:12)(cid:1) (cid:8)(cid:9) p(cid:2)v(cid:2) g(cid:0)(cid:13)(cid:1)cot (cid:4) d(cid:13)(cid:2)
(cid:7)(cid:9) T (cid:7)
Z
(cid:4)
For any (cid:0)nonnegative(cid:1) weight function w(cid:2) let L(cid:0)(cid:0)I(cid:1)w(cid:1) be the space of all g
(cid:1)
L(cid:0)(cid:0)I(cid:1)w(cid:1)with weightedmeanvaluezero(cid:8) I g(cid:0)t(cid:1)w(cid:0)t(cid:1)dt (cid:9) (cid:19)(cid:4) The following proposition
gives some properties of H which we shall use(cid:4)
R
Proposition (cid:0)(cid:1)(cid:2) If g L(cid:1)(cid:0)I(cid:1)(cid:0) we de(cid:1)ne Tg(cid:0)(cid:13)(cid:1) (cid:8)(cid:9) sgn(cid:13)g(cid:0)cos(cid:13)(cid:1)sin(cid:13) for (cid:13) (cid:10) (cid:9)(cid:1)(cid:9)(cid:1)(cid:2)
(cid:1) (cid:1) (cid:4)
The Hilbert transform H satis(cid:1)es(cid:3)
(cid:0)a(cid:1) If g L(cid:1)(cid:0)I(cid:1) then
(cid:1)
(cid:5)
Hg(cid:0)cos(cid:12)(cid:1) (cid:9) Tg(cid:0)(cid:12)(cid:1) a(cid:2)e(cid:2) on (cid:0)(cid:19)(cid:1)(cid:9)(cid:1)(cid:2) (cid:0)(cid:7)(cid:2)(cid:14)(cid:1)
(cid:4)sin(cid:12)
(cid:1) g
(cid:0)b(cid:1) We have(cid:0) on (cid:0) (cid:5)(cid:1)(cid:5)(cid:1)(cid:0) Hw(cid:1)(cid:0) (cid:9) (cid:19)(cid:1)
(cid:4)
(cid:1)
H(cid:10)w(cid:1)(cid:0) Tn(cid:2)(cid:1)(cid:11) (cid:9) Un and H(cid:10)w(cid:1)Un(cid:11) (cid:9) Tn(cid:2)(cid:1) for n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:1) (cid:0)(cid:7)(cid:2)(cid:18)(cid:1)
(cid:4)
and hence
d
H (cid:10)w(cid:1)Un(cid:11) (cid:9) (cid:0)n(cid:15)(cid:5)(cid:1)Un(cid:2) (cid:0)(cid:7)(cid:2)(cid:5)(cid:19)(cid:1)
dt
(cid:1)
(cid:0)c(cid:1) The functions Vn (cid:8)(cid:9) w(cid:1)(cid:0) Tn(cid:0) n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2) (cid:4)in analogy to Un (cid:1)n(cid:7)(cid:4)(cid:5) form a
f g
complete orthogonal system for L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1)(cid:2)
(cid:24)
(cid:4)
(cid:0)d(cid:1) H is a one(cid:6)to(cid:6)one mapping of L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1) onto L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1) with
(cid:1) (cid:5)
H(cid:0) h (cid:9) H(cid:0)w(cid:1)h(cid:1) for h L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1)
(cid:4)w(cid:1) (cid:1)
and
(cid:4)
Hg L(cid:0)(cid:6)I(cid:1)w(cid:3)(cid:5) (cid:9) g L(cid:0)(cid:6)I(cid:1)w(cid:3)(cid:5) for g L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1)(cid:2) (cid:0)(cid:7)(cid:2)(cid:5)(cid:5)(cid:1)
k k k k (cid:1)
d
(cid:0)e(cid:1) The operators H and dt commute(cid:3) for any polynomial P(cid:0) we have
d d
H (cid:0)w(cid:1)P(cid:1) (cid:9) (cid:0)H(cid:0)w(cid:1)P(cid:1)(cid:1)(cid:2)
(cid:3)dt (cid:4) dt
Proof(cid:1) (cid:0)a(cid:1) We apply the substitution s (cid:9) cos(cid:13) to the integral that de(cid:3)nes Hg and
replace t by cos(cid:12)(cid:2) (cid:19) (cid:7) (cid:12) (cid:7) (cid:9) and obtain
(cid:4)
(cid:5) Tg(cid:0)(cid:13)(cid:1)
Hg(cid:0)cos(cid:12)(cid:1) (cid:9) p(cid:2)v(cid:2) d(cid:13)
(cid:9) (cid:4) cos(cid:12) cos(cid:13)
Z
(cid:4) (cid:4)
(cid:5) Tg(cid:0)(cid:13)(cid:1)
(cid:9) p(cid:2)v(cid:2) d(cid:13)(cid:1)
(cid:7)(cid:9) (cid:4) cos(cid:12) cos(cid:13)
Z(cid:0)
(cid:4)
(cid:4)
since the integrand is even(cid:4) Note that p(cid:2)v(cid:2) I (cid:2)(cid:2)(cid:2)ds (cid:9) p(cid:2)v(cid:2) (cid:4) (cid:2)(cid:2)(cid:2)d(cid:13) above since the
substituting function and its inverse are smooth enough(cid:4) Now(cid:2) we use the identity
R R
(cid:5) (cid:5) (cid:12) (cid:13) (cid:12) (cid:15)(cid:13)
(cid:9) cot (cid:4) (cid:15)cot
cos(cid:12) cos(cid:13) (cid:4)(cid:7)sin(cid:12) (cid:3) (cid:7) (cid:7) (cid:4)
(cid:4)
to obtain
(cid:4) (cid:4)
(cid:5) (cid:5) (cid:12) (cid:13) (cid:5) (cid:12) (cid:15)(cid:13)
Hg(cid:0)cos(cid:12)(cid:1) (cid:9) p(cid:2)v(cid:2) Tg(cid:0)(cid:13)(cid:1)cot (cid:4) d(cid:13)(cid:15) p(cid:2)v(cid:2) Tg(cid:0)(cid:13)(cid:1)cot d(cid:13) (cid:2)
(cid:4)(cid:7)sin(cid:12) (cid:5)(cid:7)(cid:9) (cid:4) (cid:7) (cid:7)(cid:9) (cid:4) (cid:7) (cid:6)
Z(cid:0) Z(cid:0)
After substituting (cid:13) (cid:9) (cid:13)(cid:5) in the second integral above and using that Tg is even(cid:2)
(cid:4)
we see that the two integrals are equal and therefore(cid:2) we obtain (cid:0)a(cid:1)(cid:4)
(cid:1) (cid:1)
(cid:0)b(cid:1) For any function g L(cid:1)(cid:0)I(cid:1)w(cid:1)(cid:0) (cid:1)(cid:2) we have T(cid:10)w(cid:1)(cid:0) g(cid:11)(cid:0)(cid:13)(cid:1) (cid:9) g(cid:0)cos(cid:13)(cid:1)(cid:4) Since the
(cid:1)
conjugate function of cosn(cid:13) is sinn(cid:13)(cid:2) n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2) the (cid:3)rst two statements in (cid:0)b(cid:1)
follow from (cid:0)a(cid:1)(cid:4) Similar calculations give the last two statements(cid:4)
(cid:0)c(cid:1) This is trivial(cid:4)
(cid:0)d(cid:1) This follows from (cid:0)b(cid:1) by using the two bases for L(cid:0)(cid:0)I(cid:1)w(cid:1)(cid:1) given in (cid:0)c(cid:1)(cid:4)
(cid:0)
(cid:0)e(cid:1) This follows from (cid:0)(cid:7)(cid:4)(cid:5)(cid:19)(cid:1)(cid:4)
We shall next show that the Gegenbauer polynomials are eigenfunctions of cer(cid:17)
tain di(cid:23)erential operators that arise in inverting the Radon transform(cid:4) For functions
d
g de(cid:3)ned on B (cid:2) we introduce the following di(cid:23)erential operators(cid:8)
d (cid:1)
d (cid:0)
(cid:29)g (cid:8)(cid:9) wd(cid:0)(cid:0)g (cid:1) (cid:0)(cid:7)(cid:2)(cid:5)(cid:7)(cid:1)
(cid:3)dt(cid:4)
h i
and
(cid:8)(cid:9) (cid:29)(cid:1) d odd(cid:2) (cid:8)(cid:9) H(cid:29)(cid:1) d even(cid:2) (cid:0)(cid:7)(cid:2)(cid:5)(cid:16)(cid:1)
D D
(cid:20)
d(cid:0)(cid:0)
Lemma (cid:0)(cid:1)(cid:2) Let d (cid:7) and de(cid:1)ne n (cid:8)(cid:9) Cn for n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2) Then(cid:0) we have
(cid:3) U
d(cid:0)(cid:3)
(cid:3) (cid:0) (cid:8)
n (cid:9) (cid:0) (cid:5)(cid:1) (cid:14)n n(cid:1) n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:1) (cid:0)(cid:7)(cid:2)(cid:5)(cid:21)(cid:1)
DU (cid:4) U
and
(cid:0) d (cid:1) (cid:0)
(cid:29) n (cid:9) (cid:0) (cid:5)(cid:1) (cid:0) (cid:14)n n(cid:1) n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:1) (cid:0)(cid:7)(cid:2)(cid:5)(cid:22)(cid:1)
U (cid:4) U
where
d (cid:1)
(cid:14)n (cid:9) (cid:0)n(cid:15)(cid:5)(cid:1)d (cid:1) n (cid:0) (cid:1) n (cid:9) (cid:19)(cid:1)(cid:5)(cid:1)(cid:2)(cid:2)(cid:2)(cid:2) (cid:0)(cid:7)(cid:2)(cid:5)(cid:24)(cid:1)
(cid:0) (cid:8)
Proof(cid:1) We (cid:3)rst consider (cid:0)(cid:7)(cid:4)(cid:5)(cid:21)(cid:1) in the case when d is odd(cid:2) d (cid:9) (cid:7)k (cid:15) (cid:5)(cid:4) From (cid:0)(cid:7)(cid:4)(cid:16)(cid:1)
and (cid:0)(cid:7)(cid:4)(cid:21)(cid:1)(cid:2) we (cid:3)nd
(cid:0)k n(cid:2)(cid:0)k
k(cid:2)(cid:1)(cid:0)(cid:0) d (cid:0)k k(cid:2)(cid:1)(cid:0)(cid:0) d (cid:0)n(cid:2)(cid:0)k
n (cid:9) Cn (cid:9) w(cid:1) Cn (cid:9) c w(cid:1)
DU D (cid:3)dt(cid:4) (cid:3)dt(cid:4)
k h i
d (cid:1)(cid:0)(cid:0) k(cid:2)(cid:1)(cid:0)(cid:0)
(cid:9) c(cid:1) Cn(cid:2)k (cid:9) c(cid:0)Cn (cid:9) c(cid:0) n(cid:2)
(cid:3)dt(cid:4) U
n k
By examiningthe coe(cid:6)cientsof t we obtain that c(cid:0) (cid:9) (cid:0) (cid:5)(cid:1) (cid:14)n Thus (cid:0)(cid:7)(cid:4)(cid:5)(cid:21)(cid:1) is proved
(cid:4)
in this case(cid:4)
Assume now that d is even(cid:2) d (cid:9)(cid:8) (cid:7)k(cid:4) Then(cid:2) again using (cid:0)(cid:7)(cid:4)(cid:16)(cid:1)(cid:2) (cid:0)(cid:7)(cid:4)(cid:21)(cid:1)(cid:2) and (cid:0)(cid:7)(cid:4)(cid:5)(cid:19)(cid:1)
(cid:1) d
(cid:0)recall that Cn (cid:9) Un(cid:1) and the commutativity of dt and H(cid:2) we obtain
(cid:0)k (cid:1) (cid:0)k (cid:1) n
k d (cid:0) (cid:0)k (cid:1) k d (cid:0) d (cid:0)n(cid:2)(cid:0)k (cid:1)
n (cid:9) Cn (cid:9) H w(cid:1) (cid:0) Cn (cid:9) c H w(cid:1) (cid:0)
DU D (cid:3)dt(cid:4) (cid:3)dt(cid:4) (cid:3)dt(cid:4)
h i
k (cid:1) n(cid:2)k k (cid:1)
d (cid:0) d (cid:0)n(cid:2)(cid:0)k (cid:1) d (cid:0) d (cid:1)
(cid:9) c H w(cid:1) (cid:0) (cid:9) c(cid:1) H w(cid:1)Cn(cid:2)k (cid:1)
(cid:3)dt(cid:4) (cid:3)dt(cid:4) (cid:3)dt(cid:4) dt (cid:0)
h i
k (cid:1)
d (cid:0) (cid:1) k d(cid:0)(cid:0)
(cid:9) c(cid:0) Cn(cid:2)k (cid:1) (cid:9) c(cid:9)Cn (cid:9) c(cid:9)Cn (cid:9) c(cid:9) n(cid:2)
(cid:3)dt(cid:4) (cid:0) U
k n r
We can calculate c(cid:9) as follows(cid:4) Let Cn(cid:0)t(cid:1) (cid:9)(cid:8) cnt (cid:15)(cid:2)(cid:2)(cid:2) and Ur(cid:0)t(cid:1) (cid:9)(cid:8) art (cid:15)(cid:2)(cid:2)(cid:2)
with r (cid:8)(cid:9) n(cid:15)(cid:7)k (cid:7)(cid:4) We (cid:3)nd
(cid:4)
(cid:0)k (cid:1) (cid:0)k (cid:1)
d (cid:0) (cid:0)k (cid:1) k d (cid:0) k (cid:1) n(cid:2)(cid:0)k (cid:0)
H w(cid:1) (cid:0) Cn(cid:0)t(cid:1) (cid:9) cn H w(cid:1)(cid:0)t(cid:1) (cid:0) (cid:5)(cid:1) (cid:0) t (cid:0) (cid:15)(cid:2)(cid:2)(cid:2)
(cid:3)dt(cid:4) (cid:3)dt(cid:4) (cid:4)
h i h (cid:0) (cid:1)i
(cid:0)k (cid:0)
k (cid:1)cn d (cid:0) d
(cid:9) (cid:0) (cid:5)(cid:1) (cid:0) H (cid:10)w(cid:1)(cid:0)t(cid:1)Un(cid:2)k (cid:0)(cid:0)t(cid:1)(cid:15)(cid:2)(cid:2)(cid:2)(cid:11)
(cid:4) ar (cid:3)dt(cid:4) (cid:5) dt (cid:0) (cid:6)
(cid:0)k (cid:0)
k (cid:1)cn d (cid:0)
(cid:9) (cid:0) (cid:5)(cid:1) (cid:0) (cid:0)n(cid:15)(cid:7)k (cid:5)(cid:1) (cid:10)Un(cid:2)(cid:0)k (cid:0)(cid:0)t(cid:1)(cid:15)(cid:2)(cid:2)(cid:2)(cid:11)
(cid:4) ar (cid:4) (cid:3)dt(cid:4) (cid:0)
(cid:0)k (cid:0)
k (cid:1) d (cid:0) n(cid:2)(cid:0)k (cid:0)
(cid:9) (cid:0) (cid:5)(cid:1) (cid:0) cn(cid:0)n(cid:15)(cid:7)k (cid:5)(cid:1) t (cid:0) (cid:15)(cid:2)(cid:2)(cid:2)
(cid:4) (cid:4) (cid:3)dt(cid:4)
(cid:0) (cid:1)
k (cid:1) n k (cid:1) k
(cid:9) (cid:0) (cid:5)(cid:1) (cid:0) (cid:0)n(cid:15)(cid:5)(cid:1)(cid:0)k (cid:1)cn(cid:0)t (cid:15)(cid:2)(cid:2)(cid:2)(cid:1) (cid:9) (cid:0) (cid:5)(cid:1) (cid:0) (cid:0)n(cid:15)(cid:5)(cid:1)(cid:0)k (cid:1)Cn(cid:0)t(cid:1)(cid:1)
(cid:4) (cid:0) (cid:4) (cid:0)
(cid:14)