IA en santé :

Applications,
enjeux et verrous
Pr Marc CUGGIA
PUPH Informatique Médicale
Inserm LTSI - équipe Domasia
Centre de Données Clinique – CHU de Rennes & Université de Rennes
 L’histoire Syndrome de corde attachée

de
Courtney
et Alex

Hull, Kate. « ChatGPT Correctly Diagnosed a

4-Year-Old’s Mysterious Disease after 17
Doctors Failed ». Business Insider. Consulté
le 2 août 2024.
[Link]
diagnose-child-disease-tethered-cord-
syndrome-doctors-2023-9.
Oui
mais,
Explosion des
données de santé

• dossiers patients électroniques,

• imagerie médicale
• Capteurs objets connectés
• Applications mobiles
• Génomique
• etc.

Rossi, Riccardo L., et Renata M. Grifantini. « Big

Data: Challenge and Opportunity for Translational
and Industrial Research in Healthcare ». Frontiers in
Digital Humanities 5 (31 mai 2018).
[Link]
 Nb d’article par an comportant le mot clef IA sur Pumed

3000,00

2500,00

Explosion de la 2000,00

recherche de 1500,00

l’IA en santé 1000,00

500,00

0,00
70 72 74 76 78 80 82 84 86 88 90 92 94 96 98 00 02 04 06 08 10 12 14 16 18 20 22 24
19 19 19 19 19 19 19 19 19 19 19 19 19 19 19 20 20 20 20 20 20 20 20 20 20 20 20 20
 Performances des LLM pour réussir
l’examen de médecine aux US (USLME)

Seuil de
réussite
Explosion des
performances
LLM+ GPU + Cloud

Mittal, A., 2023. Revolutionizing Healthcare: Exploring the Impact and Future of
Large Language Models in Medicine [WWW Document]. [Link]. URL
[Link]
of-large-language-models-in-medicine/ (accessed 8.12.24).
Au programme de ce topo

• Partie I: L'IA révolutionne la

médecine : Panorama des
applications et de l'impact de l'IA en
santé.

• Partie II: Relever les défis de l'IA en

santé : Focus sur les enjeux
techniques, éthiques et sociétaux.

.
Partie I :
L'IA révolutionne la médecine :

Panorama des applications et

de l'impact de l'IA en santé.
 L'IA : un potentiel immense pour la santé

Accélération de la
Personnalisation des Optimisation des recherche : découverte
Amélioration des diagnostics : ressources :
traitements : médecine de de médicaments,
plus précis, plus rapides, plus automatisation des
précision, thérapies identification de cibles
précoces. tâches, allocation des
ciblées, adaptation aux thérapeutiques,
besoins individuels. ressources, réduction meilleure
des coûts. compréhension des
maladies.
IA en action :
Détection des
cancers de la peau • Beltrami, Eric J., Alistair C. Brown, Paul J. M. Salmon,
David J. Leffell, Justin M. Ko, et Jane M. Grant-Kels. « Artificial
Intelligence in the Detection of Skin Cancer ». Journal of the
American Academy of Dermatology 87, no 6 (1 décembre
2022): 1336-42. [Link]
IA en action :
Identification de patients à risque de sepsis en soins intensifs

Kallonen, A., Juutinen, M., Värri, A., Carrault, G., Pladys, P., Beuchée, A., 2024. Early detection
of late-onset neonatal sepsis from noninvasive biosignals using deep learning: A multicenter
prospective development and validation study. Int J Med Inform 184, 105366.
[Link]
IA en action
Création de prothèses • MIT Media Lab. « Project Overview ‹ Neural Control of Upper Extremity
Prostheses ». Consulté le 7 août 2024.
intelligentes contrôlées [Link]
prostheses/overview/.
par la pensée
[Link]
• Focus sur l'imagerie médicale :
Détection automatique de lesions :
Fractures aux urgence (CHU de Rennes)

“L’IA est aussi entrée aux urgences, où BoneView

est utilisé depuis deux ans. Ce logiciel, qui lit et
interprète les radios, est capable de détecter une
fracture en quelques minutes, aussi bien que
des radiologues. "Rétrospectivement, on voit
qu’on n’a pas plus de différences d’interprétation
avec le radiologue qui relit les radios de façon
systématique", explique le docteur Ulysse
Donval. "Donc on a augmenté notre niveau de
sécurisation du diagnostic, tout en diminuant le
temps de passage".

Le Quotidien du Médecin. « À Rennes, l’IA au secours des urgences ». Consulté le 7 août 2024.
[Link]
urgences.
 Planification
interventionelle
en radiothérapie
• Segmentation d’organe
• Simulation de délivrance de dose
• Personnalisation du traitement
Texier, Blanche, Cédric Hémon, Adélie Queffélec, Jason
Dowling, Igor Bessieres, Peter Greer, Oscar Acosta, et al. « 3D
Unsupervised deep learning method for magnetic resonance
imaging-to-computed tomography synthesis in prostate
radiotherapy ». Physics and Imaging in Radiation Oncology 31 (1
juillet 2024): 100612.
[Link]
• Essai prospectif et populationnel en Suède su 80.000 patientes
• l'IA a été mise en œuvre en tant que lecteur indépendant de mammographies
• parallèlement à deux radiologues
• pour comparer les stratégies et leur impact sur les taux de détection du cancer.

Dembrower, Karin, Alessio Crippa, Eugenia Colón, Martin Eklund, et Fredrik Strand. « Artificial
Intelligence for Breast Cancer Detection in Screening Mammography in Sweden: A Prospective,
Population-Based, Paired-Reader, Non-Inferiority Study ». The Lancet Digital Health 5, no 10
(octobre 2023): e703-11. [Link]

L'IA est non inférieure à la double lecture humaine

L'IA combinée à un radiologue humain peut potentiellement

améliorer la détection du cancer du sein.

L'IA pourrait réduire la charge de travail des radiologues.

L'IA pourrait améliorer l'accès au dépistage mammographique.

Des études supplémentaires sont nécessaires pour évaluer l'impact

à long terme de l'IA
IA en action : « AsymMirai: Interpretable Mammography-
Prédiction du risque de récidive Based Deep Learning Model for 1–5-Year
Breast Cancer Risk Prediction ». Consulté
du cancer du sein après une le 7 août 2024.
[Link]
chirurgie
Médecine Personnalisée : L’IA cible le traitement
Pharmacogénomique:
Adaptation des doses de médicaments en fonction
du profil génétique du patient, pour maximiser
l'efficacité et minimiser les effets secondaires.
L'IA peut prédire la réponse aux médicaments
psychotropes en psychiatrie, en utilisant des
informations génétiques et cliniques.
LA MÉDECINE L'IA PERMET D'ANALYSER L'OBJECTIF EST DE
PERSONNALISÉE VISE À
ADAPTER LE TRAITEMENT ET
DES DONNÉES COMPLEXES
(GÉNÉTIQUES, CLINIQUES,
PROPOSER LE BON
TRAITEMENT, À LA BONNE
Oncologie de précision:
LA PRISE EN CHARGE À IMAGERIE) POUR IDENTIFIER DOSE, AU BON MOMENT, Ciblage de mutations spécifiques des tumeurs
CHAQUE PATIENT EN LES FACTEURS QUI POUR CHAQUE PATIENT.
FONCTION DE SES INFLUENCENT LA RÉPONSE pour proposer des traitements plus efficaces et
CARACTÉRISTIQUES AUX TRAITEMENTS.
INDIVIDUELLES.
moins toxiques.
L'IA peut prédire l'efficacité des inhibiteurs de
point de contrôle immunitaire (ICI) en oncologie,
Machine Learning and Pharmacogenomics at the Time of Precision Psychiatry. Current en analysant les données génomiques des
Neuropharmacology. 2023;21(12):2395-2408. doi: 10.2174/1570159X21666230808170123.
Artificial intelligence for predictive biomarker discovery in immuno-oncology: a systematic review. tumeurs.
Annals of oncology. 2024;35(1):29-65. doi:10.1016/[Link].2023.10.125
L'IA au service de la santé publique :
• Surveillance épidémiologique : détection précoce des épidémies,
suivi de la propagation des maladies.
Prédiction de l’activité • Approche de modélisation par apprentissage automatique
grippale nationale à partir • Production des estimations en temps réel et des prévisions à
court terme de l'activité grippale pour plusieurs régions de
des données massives France et exploitant plusieurs sources de données
hospitalières, CHU Rennes hétérogènes
 L'IA au service de la santé publique :
Mesure d’incidence du cancer du poumon à partir d’images
satellitaires

• Extraction de features
correlées avec les
estimations du cancer
• Prédiction de 65% de la
variation de la
prévalence du cancer du
poumon à Los Angeles
• Forte corrélation avec
zone géographique en
défaveur socio-
économique

Bibault, Jean-Emmanuel, Maxime Bassenne, Hongyi Ren, et Lei Xing. « Deep

Learning Prediction of Cancer Prevalence from Satellite Imagery ». Cancers 12,
no 12 (19 décembre 2020): 3844. [Link]
L'IA et la recherche médicale :
Exemple du développement des médicaments
• Quels sont les besoins non satisfaits des
essais cliniques auxquels l'IA peut
répondre ?
• 10 % des nouveaux agents entrant en
essais cliniques obtiennent une
approbation de la FDA
• Taux élevés de clôture des essais en raison
de l'échec de recrutement
• Faible diversité parmi les participants aux
essais
• Les coûts et autres ressources nécessaires
pour mener les essais limitent
l'accessibilité
• Défis liés à la standardisation et au suivi
des critères de jugement à long terme

Harrer, Stefan, Pratik Shah, Bhavna Antony, et Jianying Hu. « Artificial Intelligence for Clinical Trial
Design ». Trends in Pharmacological Sciences 40, no 8 (1 août 2019): 577-91.
[Link]
L'IA et la recherche médicale :
Recrutement des patients éligibles
INCLUSION CRITERIA:
1. Inclusion criteria are same in both Phase I and Phase II parts, except for the number of prior disease relapses
2. Patients must have pathologic diagnosis of anaplastic astrocytoma defined as World Health Organization (WHO) grade III or
glioblastoma/gliosarcoma, WHO grade IV, which are confirmed by National Cancer Institute (NCI) Laboratory of Pathology. If the
pathology diagnosis is anaplastic glioma or anaplastic oligoastrocytoma, evidence of either intact combined loss of the short arm
chromosome 1 (i.e. 1p) and the long arm of chromosome 19 (1p/19q) chromosomes or molecular features suggesting astrocytic tumor
must be present (including, but not limited to alpha-thalassemia/mental retardation, alpha-thalassemia/mental retardation, X-linked
(ATRX), tumor protein P53 (TP53).
3. Patients must have recurrent disease, histologically proven or imaging suggestive of recurrent disease as determined by principal
investigator (PI). Prior implantation of Gliadel wafers is acceptable, if tumor recurrence is confirmed by histologic examination of the
recurrent tumor
4. Patients must have the ability to understand and the willingness to sign a written informed consent document.
5. Patients must be greater than or equal to 18 years old.
6. No more than two prior disease relapses to be eligible for the phase I portion of the study and no more than one prior relapse to be
eligible for phase II.
7. Patients must have undergone prior standard therapy for their primary disease. For patients with glioblastoma, this would include
surgical resection, or biopsy, if safe resection was not permitted due to the tumor location, radiation and adjuvant temozolomide. For
patients with anaplastic astrocytoma, this would include surgical resection, radiation and adjuvant chemotherapy procarbazine,
lomustine (CCNU) and vincristine (PCV) or temozolomide.
8. Tumor tissue must be available for review to confirm histological diagnosis.
9. Tumor block or unstained slides must be available for molecular profiling.
10. Karnofsky > 60 percent
11. Patients must have adequate bone marrow function (absolute neutrophil count (ANC) > 1,500/mm^3, platelet count of >
100,000/mm^3), adequate liver function (alanine aminotransferase (ALT) and aspartate aminotransferase (AST)< 3 times upper limit
normal and alkaline phosphatase < 2 times upper limit normal, total bilirubin < 1.5mg/dl), and adequate renal function (blood urea
nitrogen (BUN) < 1.5 times institutional normal and serum creatinine < 1.5 mg/dl) prior to registration. These tests must be performed
within 14 days prior to registration. Total bilirubin: patients with Gilbert's Syndrome are eligible for the study. (Total bilirubin level can
be exempted from the eligibility criterion.)
12. Patients must have recovered from the toxic effects of prior therapy to less than grade 2 toxicity per Common Terminology Criteria
(CTC) version 4 (except deep vein thrombosis)
13. At the time of registration, subject must be removed from prior therapy as follows:

14. greater than or equal to (28 days) from any investigational agent,
15. greater than or equal to 4 weeks (28 days) from prior cytotoxic therapy,
16. greater than or equal to 2 weeks (14 days) from vincristine,
17. greater than or equal to 6 weeks (42 days) from nitrosoureas,
18. greater than or equal to 3 weeks (21 days) from procarbazine administration,
19. greater than or equal to 1 week (7 days) for non-cytotoxic agents, e.g., interferon, tamoxifen, thalidomide, cis-retinoic acid, etc.
radiosensitizer does not count.
20. Patients having undergone recent resection of recurrent or progressive tumor will be eligible given all of the following conditions apply:

21. At least 2 weeks (14 days) have elapsed from the date of surgery and the patients have recovered from the effects of surgery.

EXCLUSION CRITERIA:

1. Patients who are receiving any other investigational agents. However, prior enrollment on a study using investigational agents is
acceptable
2. Patients with prior bevacizumab use for tumor treatment. Patients who received bevacizumab for symptom management, including but
not limited to cerebral edema, pseudoprogression can be included in the study (To date, there have been no effective regimens
developed for recurrent malignant gliomas that are refractory to bevacizumab. Inclusion of this patient population may impact the
ability to determine the efficacy of Zotiraciclib (TG02) with Temozolomide (TMZ.)
3. Any serious medical condition, laboratory abnormality, or psychiatric illness that would prevent the subject from providing informed
consent.
4. Any condition, including the presence of clinically significant laboratory abnormalities, which places the patient at unacceptable risk if
he/she were to participate in the study or confounds the ability to interpret data from the study. These would include:

5. Active infection (including persistent fever) including known history of human immunodeficiency virus (HIV) or Hepatitis C infection,
because these patients are at increased risk of lethal infections when treated with marrow-suppressive therapy.
6. Diseases or conditions that obscure toxicity or dangerously alter drug metabolism
7. Serious concurrent medical illness e.g. symptomatic congestive heart failure
8. History of allergic reactions attributed to compounds of similar chemical or biologic composition to temozolomide and/or Zotiraciclib

Cuggia M, Besana P, Glasspool D. Comparing semi-

(TG02).
9. Patients with a history of any other cancer (except non-melanoma skin cancer or melanoma in-situ following curative surgical
resection; or carcinoma in-situ of the cervix or bladder), unless in complete remission and off all therapy for that disease for a minimum

10.
of 3 years, are ineligible.
Zotiraciclib (TG02) is primarily metabolized by Cytochrome P450 1A2 (CYP1A2) and Cytochrome P450 3A4 (CYP3A4). Patients automatic systems for recruitment of patients to
receiving any medications or substances that are strong inhibitors or inducers of CYP1A2 and/or CYP3A4 are ineligible.
11. Patients, who continue to have prolonged corrected QT interval (QTc) (males: greater than 450ms; females: greater than 470ms as
calculated by Fridericia s correction formula) despite normal electrolyte balance and discontinuation of medications known to prolong
clinical trials. Int J Med Inform. 2011 Jun;80(6):371-88.
doi: 10.1016/[Link].2011.02.003. Epub 2011 Apr 2.
QTc, will be excluded from the study.

PMID: 21459664.
L'IA et la recherche médicale :
Recrutement des patients éligibles
L'IA et la recherche médicale :
Apport des jumeaux numériques

Potentiel : Sélection de cohorte, Bras synthétique dans les essais, essai à sujet unique, drug repurposing
L'IA et la recherche médicale :
Apport des jumeaux numériques pour les essais in sillico

Bordukova, Maria, Nikita Makarov, Raul Rodriguez-Esteban, Fabian Schmich, et Michael P.

Menden. « Generative artificial intelligence empowers digital twins in drug discovery and clinical
trials ». Expert Opinion on Drug Discovery 19, no 1 (2 janvier 2024): 33-42.
[Link]
L'IA et la recherche médicale :
Data Management
L'IA et la recherche médicale :
Collecte des données et data management
Patient Cancer
•Démographie •Diagnostic principal
Features extraction •Déterminants sociaux de la santé •Histologie
•Comorbidités
TAL : •Médicaments
•Morphologie
•Stade
Extraction d’entité nommée •Grade
Codage automatique Résultats •Marqueurs tumoraux
•Taille de la tumeur •Facteurs de risque spécifiques BD
•Localisation de la tumeur au cancer
•État de la maladie •Analyses moléculaires Essais
•Événements indésirables
•Consultations en soins aigus Cliniques
•État vital Évaluation
•Résultats rapportés par le patient •Signes vitaux
•Marqueurs biochimiques •État fonctionnel
•Examen physique
•Valeurs de laboratoire
Traitement
•Thérapie systémique
•Chirurgie
•Radiothérapie
•Autres thérapies focales
DATA INFORMATIONS
Exemple
• LLM pour l’identification des déterminants sociaux de santé (DSS)
dans les dossiers patients électroniques

Développement de Patient DSS

modèles linguistiques
•Emploi D. Martin Isolement
•Logement social
•Transport
•Statut parental "Le patient a signalé qu'il avait des
•Relation difficultés à gérer tous ses
•Soutien social médicaments parce qu'il n'a pas de
famille à proximité."

Guevara M, Chen S, Thomas S, Chaunzwa TL, Franco I, Kann BH, Moningi S, Qian JM, Goldstein M, Harper S, Aerts
HJWL, Catalano PJ, Savova GK, Mak RH, Bitterman DS. Large language models to identify social determinants of
health in electronic health records. NPJ Digit Med. 2024 Jan 11;7(1):6. doi: 10.1038/s41746-023-00970-0. PMID:
38200151; PMCID: PMC10781957.
L'IA et la recherche médicale :
Suivis des patients dans les essais via un tchabot
• L’engagement et l’éducation des patients et de leurs familles, ont un impact sur la conduite des
EC en termes de recrutement, de rétention et d’adhérence
« J'ai eu des bouffées de chaleur et des sueurs nocturnes cette semaine. Est-ce un effet
secondaire de mon traitement, ou devrais-je m'inquiéter d'autre chose ? »

Bonjour,
Désolé d'apprendre que vous avez des bouffées de chaleur et des sueurs nocturnes. Oui, c'est un effet secondaire très
courant de la thérapie de privation d'androgènes. Il existe des médicaments qui peuvent être utiles pour gérer cela si cela
devient très gênant. Sinon, c'est un effet attendu de ce traitement.

Cher patient,
Les bouffées de chaleur et les sueurs nocturnes que vous ressentez sont probablement des effets secondaires de votre traitement
actuel contre le cancer, en particulier de la thérapie de privation d'androgènes (ADT). L'ADT fonctionne en réduisant les niveaux
d'hormones mâles (androgènes) dans votre corps, ce qui peut aider à ralentir la croissance du cancer de la prostate. Cependant, cette
réduction des androgènes peut également provoquer des symptômes similaires à ceux ressentis par les femmes pendant la
ménopause, tels que des bouffées de chaleur et des sueurs nocturnes.
Il est important de discuter de ces effets secondaires avec votre oncologue lors de votre prochaine visite, car il ou elle pourra
recommander des stratégies ou des médicaments pour aider à gérer ces symptômes. En attendant, vous pouvez essayer certaines
mesures d'auto-soins comme porter des vêtements légers et respirants, utiliser des ventilateurs ou la climatisation, et éviter les
déclencheurs tels que la caféine, l'alcool et les aliments épicés.
N'hésitez pas à nous contacter si vous avez d'autres questions ou préoccupations.
• Les messages de GPT-4 sont acceptables
sans modifications dans 58 % des cas.

• Les messages de GPT-4 sont associés à

un faible risque de préjudice dans 82 %
des cas.

• Les messages de GPT-4 sont associés à

un préjudice grave ou à la mort dans 8 %
des cas. Chen, Shan, Marco Guevara, Shalini Moningi, Frank Hoebers, Hesham Elhalawani, Benjamin H. Kann, Fallon
E. Chipidza, et al. « The Effect of Using a Large Language Model to Respond to Patient Messages ». The
Lancet Digital Health 6, no 6 (1 juin 2024): e379-81. [Link]
Partie 2 :

Des défis à relever

pour concrétiser le
potentiel de l'IA en
santé.
Toward a
Learning
Health
System
Le défi des données en
santé.
• Difficulté d’accès aux données :
• fragmentation des systèmes d'information,
hétérogénéité des formats de données, problèmes
d'interopérabilité.

• Qualité des données :

• données manquantes, erreurs, biais de sélection,
données non structurées (textes médicaux).

• Volume des données :

• besoin de grandes bases de données pour
l’entraînement des modèles d’IA.
 Accès aux données : Dé-silotter localement :
Les Entrepots de Données de Santé (EDS)
CENTRE DE DONNEES CLINIQUES
Système d’information
Hospitalier Reports :
Hospitallers
Consulting
Radiology
DRG Biology
bio Medical questionnaires
banks
Emergency files
1,3 millions patients
Nursing records
Omics and Clinical Forms Clinical Standards PMSI
genetic data and charts reports
Extract d'interopérabilité 6 millions stays Laboratory Data
Transform HL7, FHIR
Prescribing/administering
Load 56 millions documents Biobank (BRC)
Imaging Pathology
Emergency
Dpt
360 millions data …
elements

Drugs

Hospital information system Data processing tools

dedicated to patient care
Search engine
Data mining
Artificial intelligence

Madec, J., Bouzillé, G., Riou, C., Van Hille, P., Merour, C., Artigny, M.-L., Delamarre, D.,
Raimbert, V., Lemordant, P., Cuggia, M., 2019. eHOP Clinical Data Warehouse: From a
Prototype to the Creation of an Inter-Regional Clinical Data Centers Network. Stud Health
Technol Inform 264, 1536–1537. [Link]
Accès aux données : Dé-silotter les territoires
Les hubs de données interrégionaux
 Accès aux données : Dé-silotter au delà:
Les hubs de données nationaux et européens

Cuggia, M., Polton, D., Weinrib, G., Combes, S., 2018. Rapport Health Cuggia M, Combes S. The French Health Data Hub and the German Medical Informatics Initiatives: Two
Data Hub, mission de préfiguration. Ministère de la santé et des National Projects to Promote Data Sharing in Healthcare. Yearb Med Inform. 2019 Aug;28(1):195-202.
solidarité, Paris. doi: 10.1055/s-0039-1677917. Epub 2019 Aug 16. PMID: 31419832; PMCID: PMC6697511.
Le défi de la qualité
des données

The
GIGO
Effect Garbage in Garbage out
Schwabe, D., Becker, K., Seyferth, M., Klaß, A., Schaeffter, T., 2024.
The METRIC-framework for assessing data quality for trustworthy AI in
medicine: a systematic review. npj Digit. Med. 7, 1–30.
[Link]
Des données qui évoluent
au cours du temps

- Changement de plateforme
- en 2012 : Beckman vers Roche - Changement de
technique en 2023
- Colorimétrie vers
immunonéphélémét
rie
- Sans changement
Valeurs moyennes par mois en g/l
de bornes

Pierre-Jean M, Rabhi D, Delamarre D,

Bendavid C, Guillet B, Cuggia M,
Bouzille G. Monitoring Variability of
Albumine sérique (CHU de Rennes) Laboratory Results in a Clinical Data
Warehouse Using Automatic
Dashboard. Stud Health Technol
Inform. 2024 Aug 22;316:1577-1581.
doi: 10.3233/SHTI240722. PMID:
39176509.
Réplications de données :
30 à 50 % de données redondantes dans les dossiers patients

Digan, W., Wack, M., Looten, V., Neuraz, A., Burgun, A., Rance, B., 2019.
Evaluating the Impact of Text Duplications on a Corpus of More than 600,000
Clinical Narratives in a French Hospital. Stud Health Technol Inform 264, 103–
107. [Link]
Garantir la sécurité
et la confidentialité
des données
Dé-identification des
Azzouzi, M.E., Coatrieux, G., Bellafqira, R., Delamarre, D., Riou, C., Oubenali,
N., Cabon, S., Cuggia, M., Bouzillé, G., 2024. Automatic de-identification of
French electronic health records: a cost-effective approach exploiting distant

données textuelles
supervision and deep learning models. BMC Medical Informatics and Decision
Making 24, 54. [Link]
Dé-identification
des images médicales

Technique de “defacing”

Buimer, E.E.L., Schnack, H.G., Caspi, Y., van Haren,

N.E.M., Milchenko, M., Pas, P., Initiative, A.D.N., Hulshoff
Pol, H.E., Brouwer, R.M., 2021. De-identification
procedures for magnetic resonance images and the
impact on structural brain measures at different ages.
Human Brain Mapping 42, 3643–3655.
[Link]
Lutter contre les
biais algorithmiques

L'équité et la justice
au cœur des enjeux
de l'IA.
Exemple de l’IA dans la pandémie Covid

Wynants L, Van Calster B, Collins GS, Riley RD, Heinze G, Schuit E, Bonten MMJ, Dahly DL, Damen JAA,
Debray TPA, de Jong VMT, De Vos M, Dhiman P, Haller MC, Harhay MO, Henckaerts L, Heus P, Kammer M,
Kreuzberger N, Lohmann A, Luijken K, Ma J, Martin GP, McLernon DJ, Andaur Navarro CL, Reitsma JB,
Sergeant JC, Shi C, Skoetz N, Smits LJM, Snell KIE, Sperrin M, Spijker R, Steyerberg EW, Takada T, Tzoulaki I,
van Kuijk SMJ, van Bussel B, van der Horst ICC, van Royen FS, Verbakel JY, Wallisch C, Wilkinson J, Wolff R,
Hooft L, Moons KGM, van Smeden M. Prediction models for diagnosis and prognosis of covid-19: systematic
review and critical appraisal. BMJ. 2020 Apr 7;369:m1328. doi: 10.1136/bmj.m1328. Update in: BMJ. 2021
Feb 3;372:n236. doi: 10.1136/bmj.n236. Erratum in: BMJ. 2020 Jun 3;369:m2204. doi: 10.1136/bmj.m2204.
PMID: 32265220; PMCID: PMC7222643.
• Algorithmes
• Data driven
• Permette l’aide à la
décision individuelle
• Combinent et
définissent le poids de
différentes variables
d’entrées comme
l'âge, le signe et
symptôme, la biologie,
l’imagerie
Des modèles performants mais pour la
plupart biaisés

C-Statistique
 Des biais discriminatoires …

Study reveals why AI models that analyze medical images can be

biased [WWW Document], 2024. . MIT News | Massachusetts Institute
of Technology. URL [Link]
analyzed-medical-images-can-be-biased-0628 (accessed 8.9.24).
• Les LLMs apprennent les biais présents dans les
données d'entraînement préalable
Phrase A : Le patient a signalé qu'il avait des difficultés à
gérer tous ses médicaments parce qu'il n'a pas de
famille à proximité.

Phrase B : Un homme noir a signalé qu'il avait des

difficultés à gérer tous ses médicaments parce qu'il n'a
pas de famille à proximité.

• vérité terrain pour A & B : Isolement social – Adverse

• Biais : ChatGPT est plus susceptible de changer sa

détermination en fonction du genre, de la race ou des
descripteurs ethniques.
Jusqu’à la fraude scientifique
Explicabilité et interprétabilité
des modèles d'IA :

Ouvrir la "boîte noire" de l'IA

§ Nécessité de comprendre le
raisonnement des modèles d'IA pour
les rendre plus acceptables et fiables.
§ Méthodes d'explicabilité : cartes
d'importance des variables, exemples
contrefactuels, techniques de
visualisation.
§ Enjeu de la confiance et de la
transparence vis-à-vis des patients.
Exemples de méthode d’explicabilité en anatomopathologie

MIT 6.S191: AI in Healthcare, 2021.

Un cadre de protection en cours de mise en œuvre
Risque inacceptable :
Scoring social, surveillance de
masse, manipulation du Risque Interdit
comportement causant du tort
inacceptable
Risque élevé :
Accès à l'emploi, à l'éducation et aux
services publics, composants de Évaluation de
conformité
sécurité des véhicules, application de Haut risque
la loi, etc. I’m a
Risque limité : Bot
Usurpation d'identité, chatbots, Obligation de
reconnaissance des émotions, transparence
catégorisation biométrique, Risque limité
deepfake

Risque minimal : Aucune

Risque résiduel Risque minimal obligation
Concept de garantie HUMAINE

• Contrôle humain sur les décisions automatisées :

• les décisions critiques, notamment en matière de santé, prises par des
systèmes d'intelligence artificielle doivent toujours être validées ou
supervisées par un être humain.
• Éthique et responsabilité :
• l'automatisation ne déshumanise pas les processus de décision et que
les valeurs éthiques sont respectées, en mettant l'humain au centre du
dispositif.
• Transparence des algorithmes :
• afin que les professionnels et les usagers puissent comprendre et
contester les décisions automatisées si nécessaire.
• Protection des droits individuels :
• protéger les droits des individus face à la montée de l'IA, en s'assurant
que les technologies ne compromettent pas les droits fondamentaux.
• Équilibre entre innovation et éthique Gruson, D., 2022. Pilotage par les données
et l’IA en santé : faire vivre l’écosystème de
• trouver un juste équilibre entre l'innovation technologique et la nécessité la « Garantie humaine » MedTech et
de maintenir un cadre éthique qui garantit la dignité humaine dans les HealthTech ! Annales des Mines - Réalités
processus décisionnels. industrielles Août 2022, 24–26.
[Link]
Boucler la boucle du LHS
La question de l’évaluation des dispositifs médicaux basés sur l’IA

Cabitza, F., Zeitoun, J.-D., 2019. The proof of the pudding: in praise of a
culture of real-world validation for medical artificial intelligence. Annals of
Translational Medicine 7, 161–161. [Link]
Impact de l’IA sur le
• Agnès Buzyn (ancienne ministre de la Santé) :
"L’intelligence artificielle peut être un allié puissant pour compenser le manque de médecins,
notamment dans les déserts médicaux, en améliorant le diagnostic à distance et en optimisant la
Système de santé gestion des ressources de santé. Mais elle ne remplacera jamais la présence humaine
indispensable dans le soin."
Vers une délégation de tâche via l’IA
des tchatbots

Empathiques
Ayers, J.W., Poliak, A., Dredze, M., Leas, E.C., Zhu, Z., Kelley, J.B.,
Faix, D.J., Goodman, A.M., Longhurst, C.A., Hogarth, M., Smith,
D.M., 2023. Comparing Physician and Artificial Intelligence
Chatbot Responses to Patient Questions Posted to a Public
Social Media Forum. JAMA Intern Med 183, 589–596.
[Link]

Coopérants
Google propose C oDoC, une IA médicale qui sait
quand s'en remettre à des experts humains.

Google Proposes CoDoC, a Medical AI that Knows When to

Defer to Human Experts [WWW Document], 2023. . Maginative.
URL [Link]
that-knows-when-to-defer-to-humans/ (accessed 8.2.24).
 Vers une délégation de tâche via l’IA
exemple : echocardiographie

Christensen, M., Vukadinovic, M.,

Yuan, N., Ouyang, D., 2024. Vision–
language foundation model for
echocardiogram interpretation. Nat
Med 30, 1481–1488.
[Link]
02959-y
Vers une délégation de tâche via l’IA
exemple : surveillance des soins
Conclusions

• Nombreux défis à relever

incluant les enjeux
philosophiques, sociétaux et
écologiques

• Vigilance sur les dérives à venir

• Travail multidisciplinaire
indispensable
Conclusions
• L’IA en santé est un secteur
passionnant et un domaine en
pleine expansion

• Nombreuses perspectives
professionnelles riches et très
variés

• Une opportunité à Rennes et

dans le Grand Ouest
1.
Ressources bibliographiques
(1) Evaluating Healthcare LLMs and Moving Beyond MedQA | LinkedIn [WWW Document], n.d. URL 23. Harrer, S., Shah, P., Antony, B., Hu, J., 2019. Artificial Intelligence for Clinical Trial Design. Trends in Pharmacological Sciences 40, 577–
[Link] (accessed 8.2.24). 591. [Link]
2. À Rennes, l’IA au secours des urgences [WWW Document], n.d. . Le Quotidien du Médecin. URL 24. High-tech hospital uses artificial intelligence in patient care, 2023.
[Link] (accessed 8.7.24). 25. Hull, K., n.d. ChatGPT correctly diagnosed a 4-year-old’s mysterious disease after 17 doctors failed [WWW Document]. Business Insider.
3. #AIMI23 | Session 2: Generative AI in Health, 2023. URL [Link] (accessed 8.2.24).
4. AsymMirai: Interpretable Mammography-based Deep Learning Model for 1–5-year Breast Cancer Risk Prediction [WWW Document], n.d. 26. IA : le devenir légume de l’humanité ? Éric Sadin [EN DIRECT], n.d.
[Link] 27. IHI Forum 2023 Keynote Address - Peter Lee, 2023.
5. Ayers, J.W., Poliak, A., Dredze, M., Leas, E.C., Zhu, Z., Kelley, J.B., Faix, D.J., Goodman, A.M., Longhurst, C.A., Hogarth, M., Smith, D.M., 28. Keynote on Artificial Intelligence in Healthcare by Dr. Anthony Chang at the 2020 iCAN Summit, 2020.
2023a. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. 29. Kinoshita, F., Takenaka, T., Yamashita, T., Matsumoto, K., Oku, Y., Ono, Y., Wakasu, S., Haratake, N., Tagawa, T., Nakashima, N., Mori, M.,
JAMA Intern Med 183, 589–596. [Link] 2023. Development of artificial intelligence prognostic model for surgically resected non-small cell lung cancer. Sci Rep 13, 15683.
6. Ayers, J.W., Poliak, A., Dredze, M., Leas, E.C., Zhu, Z., Kelley, J.B., Faix, D.J., Goodman, A.M., Longhurst, C.A., Hogarth, M., Smith, D.M., [Link]
2023b. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. 30. Kocaman, V., 2023. LLMs taking on Medical Challenge Problems. John Snow Labs. URL [Link]
JAMA Intern Med 183, 589–596. [Link] medical-challenge-problems/ (accessed 8.12.24).
7. Azzouzi, M.E., Coatrieux, G., Bellafqira, R., Delamarre, D., Riou, C., Oubenali, N., Cabon, S., Cuggia, M., Bouzillé, G., 2024. Automatic de- 31. La guerre des intelligences ? Laurent Alexandre [EN DIRECT], n.d.
identification of French electronic health records: a cost-effective approach exploiting distant supervision and deep learning models. BMC 32. L’intelligence artificielle pour lutter contre le cancer - Conférence du Pr Olivier Michielin, 2024.
Medical Informatics and Decision Making 24, 54. [Link] 33. MacDonald, S., 2023. “Copy and Paste” Notes and Autopopulated Text in the Electronic Health Records. “Copy and Paste” Notes and
8. Beltrami, E.J., Brown, A.C., Salmon, P.J.M., Leffell, D.J., Ko, J.M., Grant-Kels, J.M., 2022. Artificial intelligence in the detection of skin Autopopulated Text in the Electronic Health Records.
cancer. Journal of the American Academy of Dermatology 87, 1336–1342. [Link] 34. Madec, J., Bouzillé, G., Riou, C., Van Hille, P., Merour, C., Artigny, M.-L., Delamarre, D., Raimbert, V., Lemordant, P., Cuggia, M., 2019.
9. Bibault, J.-E., Bassenne, M., Ren, H., Xing, L., 2020. Deep Learning Prediction of Cancer Prevalence from Satellite Imagery. Cancers (Basel) eHOP Clinical Data Warehouse: From a Prototype to the Creation of an Inter-Regional Clinical Data Centers Network. Stud Health Technol
12, 3844. [Link] Inform 264, 1536–1537. [Link]
10. Bordukova, M., Makarov, N., Rodriguez-Esteban, R., Schmich, F., Menden, M.P., 2024. Generative artificial intelligence empowers digital 35. MIT 6.S191: AI in Healthcare, 2021.
twins in drug discovery and clinical trials. Expert Opinion on Drug Discovery 19, 33–42. [Link] 36. Mittal, A., 2023. Revolutionizing Healthcare: Exploring the Impact and Future of Large Language Models in Medicine [WWW Document].
11. Boulanger, M., Nunes, J.-C., Chourak, H., Largent, A., Tahri, S., Acosta, O., De Crevoisier, R., Lafond, C., Barateau, A., 2021. Deep learning [Link]. URL [Link]
methods to generate synthetic CT from MRI in radiotherapy: A literature review. Physica Medica 89, 265–281. (accessed 8.12.24).
[Link] 37. Prevalence and Sources of Duplicate Information in the Electronic Medical Record | Artificial Intelligence | JAMA Network Open | JAMA
12. Buimer, E.E.L., Schnack, H.G., Caspi, Y., van Haren, N.E.M., Milchenko, M., Pas, P., Initiative, A.D.N., Hulshoff Pol, H.E., Brouwer, R.M., Network [WWW Document], n.d. URL [Link] (accessed 8.9.24).
2021. De-identification procedures for magnetic resonance images and the impact on structural brain measures at different ages. Human 38. Project Overview ‹ Neural Control of Upper Extremity Prostheses [WWW Document], n.d. . MIT Media Lab. URL
Brain Mapping 42, 3643–3655. [Link] [Link] (accessed 8.7.24).
13. Cabitza, F., Zeitoun, J.-D., 2019. The proof of the pudding: in praise of a culture of real-world validation for medical artificial intelligence. 39. Rossi, R.L., Grifantini, R.M., 2018. Big Data: Challenge and Opportunity for Translational and Industrial Research in Healthcare. Front. Digit.
Annals of Translational Medicine 7, 161–161. [Link] Humanit. 5. [Link]
14. Chen, S., Guevara, M., Moningi, S., Hoebers, F., Elhalawani, H., Kann, B.H., Chipidza, F.E., Leeman, J., Aerts, H.J.W.L., Miller, T., Savova, 40. Schwabe, D., Becker, K., Seyferth, M., Klaß, A., Schaeffter, T., 2024. The METRIC-framework for assessing data quality for trustworthy AI in
G.K., Gallifant, J., Celi, L.A., Mak, R.H., Lustberg, M., Afshar, M., Bitterman, D.S., 2024. The effect of using a large language model to medicine: a systematic review. npj Digit. Med. 7, 1–30. [Link]
respond to patient messages. The Lancet Digital Health 6, e379–e381. [Link] 41. Singh, K., Valley, T.S., Tang, S., Li, B.Y., Kamran, F., Sjoding, M.W., Wiens, J., Otles, E., Donnelly, J.P., Wei, M.Y., McBride, J.P., Cao, J.,
15. Christensen, M., Vukadinovic, M., Yuan, N., Ouyang, D., 2024. Vision–language foundation model for echocardiogram interpretation. Nat Penoza, C., Ayanian, J.Z., Nallamothu, B.K., 2020. Validating a Widely Implemented Deterioration Index Model Among Hospitalized COVID-
Med 30, 1481–1488. [Link] 19 Patients. [Link]
16. cuggia, M., Polton, D., Weinrib, G., Combes, S., 2018. Rapport Health Data Hub, mission de préfiguration. Ministère de la santé et des 42. Stanford Med LIVE: The State of AI in Healthcare and Medicine, 2024.
solidarité, Paris. 43. Stanford Webinar - How Artificial Intelligence Can Improve Healthcare, 2022.
17. Dembrower, K., Crippa, A., Colón, E., Eklund, M., Strand, F., 2023. Artificial intelligence for breast cancer detection in screening 44. Study reveals why AI models that analyze medical images can be biased [WWW Document], 2024. . MIT News | Massachusetts Institute of
mammography in Sweden: a prospective, population-based, paired-reader, non-inferiority study. The Lancet Digital Health 5, e703–e711. Technology. URL [Link] (accessed 8.9.24).
[Link] 45. Texier, B., Hémon, C., Queffélec, A., Dowling, J., Bessieres, I., Greer, P., Acosta, O., Boue-Rafle, A., de Crevoisier, R., Lafond, C., Castelli,
18. Digan, W., Wack, M., Looten, V., Neuraz, A., Burgun, A., Rance, B., 2019. Evaluating the Impact of Text Duplications on a Corpus of More J., Barateau, A., Nunes, J.-C., 2024. 3D Unsupervised deep learning method for magnetic resonance imaging-to-computed tomography
than 600,000 Clinical Narratives in a French Hospital. Stud Health Technol Inform 264, 103–107. [Link] synthesis in prostate radiotherapy. Physics and Imaging in Radiation Oncology 31, 100612. [Link]
19. Dvijotham, K., Winkens, J., Barsbey, M., Ghaisas, S., Pawlowski, N., Stanforth, R., MacWilliams, P., Ahmed, Z., Azizi, S., Bachrach, Y., Culp,46. The state of artificial intelligence in medicine, 2019.
L., Daswani, M., Freyberg, J., Kelly, C., Kiraly, A., McKinney, S., Mustafa, B., Natarajan, V., Geras, K., Witowski, J., Qin, Z.Z., Creswell, J., 47. Transforming Healthcare 2024: Changing the Practice of Medicine with Artificial Intelligence (AI), 2024.
Shetty, S., Sieniek, M., Spitz, T., Corrado, G., Kohli, P., Cemgil, T., Karthikesalingam, A., 2022. Enhancing the reliability and accuracy of AI- 48. Tu, T., Palepu, A., Schaekermann, M., Saab, K., Freyberg, J., Tanno, R., Wang, A., Li, B., Amin, M., Tomasev, N., Azizi, S., Singhal, K., Cheng,
enabled diagnosis via complementarity-driven deferral to clinicians (CoDoC). [Link] Y., Hou, L., Webson, A., Kulkarni, K., Mahdavi, S.S., Semturs, C., Gottweis, J., Barral, J., Chou, K., Corrado, G.S., Matias, Y.,
20. Ethics, Bias & Artificial Intelligence in Healthcare | Matthew DeCamp, MD, PhD, 2023. Karthikesalingam, A., Natarajan, V., 2024. Towards Conversational Diagnostic AI.
21. Google Proposes CoDoC, a Medical AI that Knows When to Defer to Human Experts [WWW Document], 2023. . Maginative. URL 49. Xu, Q., Xie, W., Liao, B., Hu, C., Qin, L., Yang, Z., Xiong, H., Lyu, Y., Zhou, Y., Luo, A., 2023. Interpretability of Clinical Decision Support
[Link] (accessed 8.2.24). Systems Based on Artificial Intelligence from Technological and Medical Perspective: A Systematic Review. Journal of Healthcare
22. Gruson, D., 2022. Pilotage par les données et l’IA en santé : faire vivre l’écosystème de la « Garantie humaine » MedTech et HealthTech ! Engineering 2023, 9919269. [Link]
Annales des Mines - Réalités industrielles Août 2022, 24–26. [Link]
L'IA et la recherche médicale :
Exemple du développement des médicaments
Explicabilité et interprétabilité des
modèles d'IA :
Au-delà du diagnostic :
Prédire le devenir des patients
ex : Cancer du poumon

• Le modèle d'IA a été développé en utilisant des données

périopératoires de 1 049 patients.

• Le modèle était précis pour prédire la survie sans maladie, la

survie globale et la survie spécifique au cancer.

• Les facteurs importants identifiés par le modèle incluaient le

stade pathologique, l'invasion pleurale, le statut N pathologique,
le type histologique, l'indice de paquet-année, la CRP
préopératoire et la CRP postopératoire.

• Ce modèle pourrait être un outil utile pour sélectionner les

patients susceptibles de bénéficier d'une chimiothérapie
adjuvante.

Kinoshita, Fumihiko, Tomoyoshi Takenaka, Takanori Yamashita, Koutarou Matsumoto, Yuka Oku, Yuki Ono, Sho
Wakasu, et al. « Development of Artificial Intelligence Prognostic Model for Surgically Resected Non-Small Cell Lung
Cancer ». Scientific Reports 13, no 1 (21 septembre 2023): 15683. [Link]