Segmentation of anatomical structures of the lower - Pastel - Hal

168 Pages·2016·8.17 MB·English

by  Maria Jimena Costa

Segmentation of anatomical structures of the lower
abdomen using 3D deformable models
Maria Jimena Costa
To cite this version:
Maria Jimena Costa. Segmentation of anatomical structures of the lower abdomen using 3D de-
formablemodels. domain_stic. ÉcoleNationaleSupérieuredesMinesdeParis, 2008. English. ￿NNT:
2008ENMP￿. ￿pastel-00003832￿
HAL Id: pastel-00003832
https://pastel.archives-ouvertes.fr/pastel-00003832
Submitted on 18 Jun 2008
HAL is a multi-disciplinary open access L’archive ouverte pluridisciplinaire HAL, est
archive for the deposit and dissemination of sci- destinée au dépôt et à la diffusion de documents
entific research documents, whether they are pub- scientifiques de niveau recherche, publiés ou non,
lished or not. The documents may come from émanant des établissements d’enseignement et de
teaching and research institutions in France or recherche français ou étrangers, des laboratoires
abroad, or from public or private research centers. publics ou privés.
ED n(cid:176)84 : Sciences et technologies de l’information et de la communication
N(cid:176) attribuØ par la bibliothŁque
| | | | | | | | | | |
T H ¨ S E
pour obtenir le grade de
Docteur de l’(cid:201)cole des Mines de Paris
SpØcialitØ (cid:16)Informatique temps rØel, robotique et automatique(cid:17)
prØsentØe et soutenue publiquement par
Mar(cid:237)a Jimena COSTA
le 14 mars 2008
Segmentation de Structures Anatomiques du Bas
Abdomen (cid:224) l’aide de Surfaces Deformables 3D
Directeurs de thŁse : Nicholas Ayache et HervØ Delingette
Equipe-Projet Asclepios, INRIA Sophia Antipolis
Jury
Jocelyne Troccaz, CNRS Rapporteur
Marinette Revenu, ENSICAEN Rapporteur
Jean(cid:21)Pierre GØrard, C. Antoine Lacassagne PrØsident
Hanna Kafrouni, Dosisoft Examinateur
Sebastien Novellas, H(cid:244)pital de l’Archet InvitØ
Pierre(cid:21)Yves Bondiau, C. Antoine Lacassagne InvitØ
First they ignore you, then they laugh at you, then they (cid:28)ght you, then you win.
(cid:21) Mahatma Gandhi
Segmentation de Structures Anatomiques du Bas Abdomen (cid:224)
l’aide de Surfaces Deformables 3D.
Abstract: Le principal objectif de cette thŁse est la conception et la production
d’outils (cid:224) destination des radiologues et onco(cid:21)radiothØrapeutes pour le contourage
des organes (cid:224) risque dans le cadre du traitement par radiothØrapie du cancer de la
prostate.
Les images testØes sont des images CT. Elles sont d’abord placØes dans un repŁre
commun (cid:224) l’aide d’un recalage log-euclidien concentrØ sur les structures osseuses du
pelvis. Une suite progressive de traitements est ensuite appliquØe: dans un premier
temps, la vessie est segmentØe, puis la prostate est ensuite localisØe paralellement (cid:224)
la vessie, pour (cid:28)nir avec l’intØgration de le contourage du rectum.
Compte tenu de l’hØtØrogØnØitØ des images de la base de donnØes sur laquelle nous
avons travaillØ, notre contribution principale est la (cid:29)exibilitØ.
La vessie est une structure (cid:224) forte variabilitØ en termes de forme et d’intensitØ, no-
tamment(cid:224)causedudegrØderemplissageetlaprØsenceoul’absenced’unproduitde
contraste. La mØthode proposØe s’adapte non seulement aux formes trŁs di(cid:27)Ørentes
des vessies de notre base de donnØe, mais aussi au degrØ de replissage donnant lieu,
dans le cas ou un produit de contraste a ØtØ administrØ, une h’etØrogØnØitØ notable
dans la structure (cid:224) segmenter.
Le contraste de la prostate avec les tissus environnants est quasi-nul; son interface
avec la vessie est souvent trŁs di(cid:30)cile (cid:224) distinguer, mŒme par les experts mØdi-
caux. L’incorporation d’informations anatomiques sur la forme et d’informations
images, couplØe (cid:224) une nouvelle contrainte d’interaction entre deux maillages, per-
met d’obtenir une bonne segmentation de la prostate et d’Øliminer les ambiguitØs
au niveau de l’interface entre les deux structures.
L’incorportation du rectum est l’Øtape la plus dØlicate: les di(cid:27)Ørences entre les pro-
tocoles d’acquisition de la base de donnØes utilisØe interdisent toute modØlisation de
l’intØrieur du rectum: prØsence de granitØs stercorales, insu(cid:31)ation d’air, prØsence
d’un produit de contraste, prØsence d’une sonde etc. Les hypotheses faites sur les
tissus voisins du rectum ainsi qu’une nouvelle contrainte tubulaire couplØe a une
prØ-segmentation du squelette du rectum permettent d’obtenir un rØsultat probant.
La cha(cid:238)ne de traitement qui a conduit a l’Ølaboration de cette thŁse est en cours
d’incorporation dans le logiciel Isogray produit par DOSIsoft, ce qui permet une
validation plus approfondie dans des conditions cliniques.
Mots clØs: Segmentation, prostate, vessie, rectum, bas abdomen, recalage
non(cid:21)rigide, radiothØrapie.
Segmentation of Anatomical Structures of the Lower Abdomen
using 3D Deformable Surfaces.
Abstract: The main objective of this thesis is to provide radio(cid:21)oncology special-
ists with automatic tools for delineating organs at risk of a patient undergoing a
radiotherapy treatment of prostate tumors.
In order to achieve this goal, we work with CT Scan images. The images are (cid:28)rst
put in a common frame of reference by means of locally(cid:21)a(cid:30)ne registration based
on the pelvic bone structures. A progressive approach consisting of three stages is
then applied: the bladder is (cid:28)rst delineated, the prostate is later included, and the
rectum segmentation is (cid:28)nally integrated.
Given the highly heterogenous nature of the images in our database, our contribu-
tion for the segmentation process is centered on (cid:29)exibility.
The bladder is a highly variable structure, both in terms of shape ((cid:28)llings, compres-
sionbysurroundingorgans)andofintensitylevels,thelatterduetoinhomogeneities
causedbythepresenceorabsence(tovariouslevels)ofacontrastagent. Wepropose
a segmentation approach that is able to automatically adapt both to the shape and,
most remarkably, to the intensity variability.
The prostate shows no distinct "edge" in the image itself; its interface with the
bladder is often very di(cid:30)cult (if not impossible) to discern, even for the trained
eye of medical experts. We have incorporated anatomical information and taken
the intensity similarities into account in our approach to contour this structure. An
originalnon(cid:21)overlappingconstraintoptimizestheresultintermsofimageandshape
prior information, in order to avoid ambiguities in the delineation of the common
boundaries.
Finally, the rectum is incorporated in the segmentation. Di(cid:27)erent acquisition pro-
tocols for the CT scans result in images containing rectums with very di(cid:27)erent
characteristics in terms of shape and intensity (due to (cid:28)lling level and nature, air
insu(cid:31)ation, contrast agent, etc.). A (cid:29)exible method that makes no assumptions
about the interior of the structure has been developped and thoroughly tested.
The developments that resulted from this thesis have been incorporated to the
Isogray software by DOSIsoft, allowing further validation in clinical conditions.
Keywords: Segmentation, prostate, bladder, rectum, lower abdomen, non
rigid registration, radiotherapy.

Contents
1 Introduction 1
1.1 Context . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Image Segmentation . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Deformable Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.4 Objective . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.4.1 Outline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.5 Contributions of our work . . . . . . . . . . . . . . . . . . . . . . . . 7
1.6 Publications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.7 Applications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
2 Medical Context 9
2.1 Anatomy of the male lower abdomen . . . . . . . . . . . . . . . . . . 10
2.2 Prostate Cancer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.2.1 Facts About Prostate Cancer . . . . . . . . . . . . . . . . . . 11
2.2.2 Diagnosing Prostate Cancer . . . . . . . . . . . . . . . . . . . 11
2.3 Prostate Cancer Treatment . . . . . . . . . . . . . . . . . . . . . . . 14
2.3.1 Surgery . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.3.2 Radiotherapy . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.3.3 Prostate Brachytherapy . . . . . . . . . . . . . . . . . . . . . 17
2.3.4 Hormone Therapy . . . . . . . . . . . . . . . . . . . . . . . . 17
2.3.5 Cryotherapy . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.4 Radiation Therapy . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.4.1 Principles of radiation therapy . . . . . . . . . . . . . . . . . 18
2.4.2 Dose(cid:21)Volume Histograms and Isodose lines . . . . . . . . . . 27
2.4.3 Radiotherapy for prostate carcinoma . . . . . . . . . . . . . . 29
2.4.4 Adverse E(cid:27)ects and Quality of Life . . . . . . . . . . . . . . . 30
2.5 Motivations behind our proposed method . . . . . . . . . . . . . . . 32
2.5.1 Why Automatic Delineation (vs. Manual Segmentation) . . . 32
2.5.2 Why coupled deformation? In(cid:29)uence of Bladder and Rectum
shape on Prostate . . . . . . . . . . . . . . . . . . . . . . . . 33
2.5.3 Why Prostate, Bladder and Rectum? . . . . . . . . . . . . . . 33
2.5.4 Why CT Scans and not MRI? . . . . . . . . . . . . . . . . . . 33
2.5.5 Why Adaptable? Variability in the target structures . . . . . 34
2.6 What’s next . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
3 Lower Abdomen Segmentation Methods 39
3.1 Overview of Segmentation Methods . . . . . . . . . . . . . . . . . . . 39
3.1.1 Manual Segmentation Approaches . . . . . . . . . . . . . . . 40
3.1.2 Thresholding and Image(cid:21)Processing . . . . . . . . . . . . . . 41
3.1.3 Classi(cid:28)cation . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
v
3.1.4 Clustering . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.1.5 Markov random (cid:28)eld models. . . . . . . . . . . . . . . . . . . 43
3.1.6 Arti(cid:28)cial neural networks . . . . . . . . . . . . . . . . . . . . 43
3.1.7 Deformable models . . . . . . . . . . . . . . . . . . . . . . . . 44
3.1.8 Atlas(cid:21)guided registration approaches . . . . . . . . . . . . . . 45
3.2 Segmentation of target and organs at risk for prostate radiotherapy . 46
3.2.1 Bladder Segmentation . . . . . . . . . . . . . . . . . . . . . . 46
3.2.2 Prostate(cid:21)Bladder Segmentation . . . . . . . . . . . . . . . . . 48
3.2.3 Un(cid:21)coupled Bladder and Prostate Segmentation . . . . . . . 50
3.2.4 Multiple Structure Segmentation . . . . . . . . . . . . . . . . 50
3.2.5 Rectum Segmentation and Integration . . . . . . . . . . . . . 51
3.3 Overview of our Methodology . . . . . . . . . . . . . . . . . . . . . . 55
4 Bladder Segmentation 59
4.1 Challenges in Bladder Segmentation . . . . . . . . . . . . . . . . . . 59
4.1.1 Intensity variability. . . . . . . . . . . . . . . . . . . . . . . . 60
4.1.2 Shape and Size Variability . . . . . . . . . . . . . . . . . . . . 61
4.2 Contribution and Outline . . . . . . . . . . . . . . . . . . . . . . . . 62
4.3 Preliminary processing . . . . . . . . . . . . . . . . . . . . . . . . . . 64
4.3.1 Registration . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
4.3.2 Image Cropping. . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.3.3 Determination of the Presence of a Contrast Agent . . . . . . 67
4.4 Initial structure approximation . . . . . . . . . . . . . . . . . . . . . 69
4.4.1 Homogenous Non(cid:21)Contrasted Bladders . . . . . . . . . . . . . 71
4.4.2 Contrasted Bladders . . . . . . . . . . . . . . . . . . . . . . . 71
4.5 Mesh deformation: binary stage . . . . . . . . . . . . . . . . . . . . . 73
4.5.1 Geometry of a 3D simplex mesh . . . . . . . . . . . . . . . . 74
4.5.2 Mesh Evolution . . . . . . . . . . . . . . . . . . . . . . . . . . 74
4.5.3 Automatic division of the mesh into zones . . . . . . . . . . . 77
4.6 Mesh deformation: gray(cid:21)scale stage . . . . . . . . . . . . . . . . . . . 78
4.7 Results and Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
5 Coupled Segmentation of Bladder and Prostate 85
5.1 Challenges in Prostate Segmentation . . . . . . . . . . . . . . . . . . 85
5.2 Contribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
5.3 Outline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
5.4 Prostate segmentation . . . . . . . . . . . . . . . . . . . . . . . . . . 88
5.4.1 Prior Information . . . . . . . . . . . . . . . . . . . . . . . . . 88
5.4.2 Initial prostate model deformation . . . . . . . . . . . . . . . 93
5.5 Context(cid:21)Dependent Coupled Deformation . . . . . . . . . . . . . . . 94
5.6 Results and Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
6 Rectum Segmentation and Integration 101
6.1 Challenges in rectum segmentation . . . . . . . . . . . . . . . . . . . 101
6.2 Rectum Delineation Endpoints . . . . . . . . . . . . . . . . . . . . . 102
6.3 Contribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
6.4 Outline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
6.5 Substraction stage . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
6.5.1 Pubic bone structures . . . . . . . . . . . . . . . . . . . . . . 104
6.5.2 Bladder and Prostate. . . . . . . . . . . . . . . . . . . . . . . 105
6.5.3 Surrounding fat tissue . . . . . . . . . . . . . . . . . . . . . . 105
6.5.4 Seminal Vesicles . . . . . . . . . . . . . . . . . . . . . . . . . 107
6.6 Centerline alignment . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
6.6.1 Building an initial rectum mesh . . . . . . . . . . . . . . . . . 107
6.6.2 Deforming a template skeleton . . . . . . . . . . . . . . . . . 107
6.7 Mesh deformation stage . . . . . . . . . . . . . . . . . . . . . . . . . 110
6.7.1 Internal Forces . . . . . . . . . . . . . . . . . . . . . . . . . . 110
6.7.2 External Forces . . . . . . . . . . . . . . . . . . . . . . . . . . 110
6.7.3 Tubular constraint . . . . . . . . . . . . . . . . . . . . . . . . 111
6.8 Results and analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
7 Conclusion and Perspectives 121
7.1 Synthesis of Contributions . . . . . . . . . . . . . . . . . . . . . . . . 121
7.1.1 Registration . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
7.1.2 Bladder segmentation . . . . . . . . . . . . . . . . . . . . . . 122
7.1.3 Bladder(cid:21)prostate segmentation . . . . . . . . . . . . . . . . . 122
7.1.4 Rectum segmentation . . . . . . . . . . . . . . . . . . . . . . 122
7.1.5 Evaluation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
7.2 Perspectives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
7.2.1 Bladder segmentation . . . . . . . . . . . . . . . . . . . . . . 123
7.2.2 Bladder(cid:21)prostate segmentation . . . . . . . . . . . . . . . . . 123
7.2.3 Rectum segmentation . . . . . . . . . . . . . . . . . . . . . . 123
7.2.4 Validation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
7.3 General perspectives . . . . . . . . . . . . . . . . . . . . . . . . . . . 124
7.3.1 Multi(cid:21)sequence segmentation: inclusion of MRI . . . . . . . . 124
7.3.2 Base structure for shape modeling . . . . . . . . . . . . . . . 125
7.3.3 Outlook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
7.4 Published contributions . . . . . . . . . . . . . . . . . . . . . . . . . 126
A Locally A(cid:30)ne Registration 127
A.1 Locally A(cid:30)ne Registration . . . . . . . . . . . . . . . . . . . . . . . . 127
A.1.1 Locally A(cid:30)ne Transformations . . . . . . . . . . . . . . . . . 127
A.1.2 Log(cid:21)Euclidean Regularization . . . . . . . . . . . . . . . . . . 127
A.1.3 Registration Algorithm. . . . . . . . . . . . . . . . . . . . . . 128
B The STAPLE algorithm 131
B.1 The Expectation(cid:21)Maximization (EM) algorithm . . . . . . . . . . . . 131
B.2 Application to multi(cid:21)label segmentations . . . . . . . . . . . . . . . . 132
B.2.1 Problem formalization . . . . . . . . . . . . . . . . . . . . . . 132
B.2.2 Expectation Step . . . . . . . . . . . . . . . . . . . . . . . . . 133
B.2.3 Maximization Step . . . . . . . . . . . . . . . . . . . . . . . . 134
B.3 Application to mono(cid:21)label segmentations . . . . . . . . . . . . . . . 134
B.3.1 Problem formalization . . . . . . . . . . . . . . . . . . . . . . 134
B.3.2 Expectation Step . . . . . . . . . . . . . . . . . . . . . . . . . 135
B.3.3 Maximization Step . . . . . . . . . . . . . . . . . . . . . . . . 135
C Snapshots of IsoGray 137
Bibliography 141