l'intelligence est la capacité à comprendre nous transmettons notre savoir aux machines

l'intelligence artificielle se développe rapidement mais cette nouvelle technologie pourrait

poser plus de problèmes que prévu on ne la contrôle rappaz [Musique] la création d'une
intelligence artificielle serait le plus grand événement de l'histoire de l'humanité mais il
pourrait aussi être le dernier [Musique] [Musique] les algorithmes intelligents existe déjà
mais ce n'est qu'un début [Musique] à l'ère de lire les données sont le

nouvel or noir amazon google et facebook sont les entreprises les plus riches et puissantes
que l'histoire ait jamais connu une poignée de personnes d'une poignée d'entreprises
influencent l'opinion de milliards de gens sa technologie remet en question ce que signifie
être humain [Musique] l'intelligence artificielle est une intelligence non biologique tout
simplement et l'intelligence en soi et l'aptitude à réaliser des objectifs l'ia sera soit la
meilleure chose qui puisse arriver à l'humanité soit la pire

on peut l'utiliser afin de résoudre tous les plus grands problèmes actuels et à venir guérir
des maladies faire face au changement climatique mettre fin à la pauvreté mais cette même
technologie pourrait aussi servir à créer une violente dictature mondiale qui nous placerait
tout sous surveillance et engendrerait des inégalités et des souffrances sans précédent c'est
donc le plus important débat de notre époque [Musique] l'intelligence artificielle est partout il
existe aujourd'hui des machines qui

pensent et fier quand un push sur internet et les réseaux sociaux finir décide de ce qui va
vous être recommandée quand vous faites défiler votre fil d'actualités sur facebook c'est une
intelligence artificielle qui choisit les publications de vos amis que vous allez voir en premier
et celle qui vont passer à la trappe si vous voulez souscrire une assurance unis a déterminé
votre degré de risque et si vous postulez un emploi il est probable que votre cv soit
examinée par un logiciel mail [Musique]

nous nous sommes fait de donner à notre manière de nous exprimer des mais notre
comportement nos activités quotidiennes tout ça ce sont des données des sceaux les
informaticiens développe des algorithmes capables d'apprendre à identifier ont classifié et
prédire des schémas au sein d'une immense quantité de données dicte battles westin
massive allemand une sorte de l'état [Musique] voir fait c'est une forme nous sommes
confrontés à une forme de haute surveillance que l'on pourrait qualifier de surveillance
algorithmique

un et trine nous ne pouvons plus rien faire incognito les algorithmes nous surveillent en
permanence on doit presque tout les dernières avancées mondiales en matière dia à une
poignée de grandes entreprises ou de gros gouvernement si on se penche un peu sur le
sujet on constate que l'ia est souvent développées pour tuer espionner qu'ils allaient faire du
lavage de cerveau dans le domaine militaire les gouvernements majeur construisent toute
une panoplie d'appareils de surveillance équipe et d'intelligence artificielle

dont celui de la publicité on recourt alia afin de mieux cibler les annonces l'humanité est
arrivé à un carrefour lille actuel est limité depuis le début le but ultime de la recherche mais
est de concevoir une ia capable de tout faire mieux que nous nous créons un véritable dieu
qui va révolutionner la vie telle que nous la connaissons mode il est extrêmement important
de prendre du recul et de bien réfléchir au genre de société que nous voulons nous vivons
une profonde transformation nous élevons

cette nouvelle créature cette sorte de nouvelle progéniture tout comme avec n'importe quel
progéniture nous ne sommes pas en mesure de contrôler tout ce qu'elle va faire [Musique]
[Musique] nous vivons une époque privilégié où pour la première fois nous allons
probablement voir lee a dépassé l'être humain dans de très nombreux domaines si ce n'est
dans tous les domaines importants ça va tout changer une nouvelle forme de vie est en train
de voir le jour jurgen schreiber est surnommé le père de l'ia son travail à transformer

l'apprentissage automatique et l'intelligence artificielle en permettant la reconnaissance

faciale et vocale qui sont utilisées par des milliards de personnes dans le monde voilà
wazemmes petit enfin je me demandais comment maximiser mon impact sur le monde un
pacte il m'est apparu que je devais fabriquer une chose qui allait apprendre à devenir plus
intelligente que moi afin que je puisse me reposer sur mes lauriers tandis qu'elle continuerait
à s'auto améliorer auquel résoudrait tous les problèmes que je serais incapable de

résoudre multiplier à l'infini cette minuscule pointe de créativité qui est la mienne voilà ce qui
m'anime depuis [Musique] comment s'y prend-on pour concevoir une intelligence artificielle
multi spécialisés pour qu'elle soit intelligente elle doit être capable de reconnaître des
paroles des images une écriture manuscrite des visages toutes sortes de choses et sur ce
point nous avons fait d'énormes progrès et poneys les ailes stm les réseaux de neurones
récurrent à longue mémoire à court terme que nous

avons développée dans nos laboratoires à munich et en suisse on les utilise aujourd'hui
pour la reconnaissance vocale vidéo ainsi que pour la traduction on les retrouve dans tous
les smartphones d'un milliard d'iphone et plus de 2 milliards de téléphones android en
cheminant vers notre objectif nous nous générons donc toutes sortes de produits dérivés cet
objectif principal c'est une intelligence artificielle général via unis à capable d'apprendre et
améliorer d'elle-même l'algorithme d'apprentissage

en gros elle peut apprendre à perfectionner son processus d'apprentissage et ce de manière

répétée et quasi infinies autre frein que les limites fondamentales de la calculabilité voici l'un
de mes robes aux favoris nous l'utilisons pour nos recherches sur la curiosité artificiel nous
tentons de lui enseigner à apprendre par lui mais que fait un bébé il explore le monde qui
l'entourent avec curiosité c'est ainsi qu'il découvre par exemple comment fonctionne la
gravité et comment certaines choses tombent en apprenant à

poser des questions sur le monde et à y répondre il apprend à résoudre toujours plus de
problèmes de tous ordres nos systèmes artificiels apprennent donc également à poser
toutes sortes de questions chasse mais pas uniquement à répondre à celle que leur posent
les humains [Musique] nous devons donner à l'ia la liberté d'inventer ses propres tâches si
on ne le fait pas elle ne deviendra pas beaucoup plus intelligente d'un autre côté il est très
difficile de prédire ce qu'elle va faire [Musique] [Musique]

à fuir ben pour moi la technologie est une force de la nature je vois de nombreuses
similarités entre elles et l'évolution biologique [Musique] se prendre pour dieu sait ce dont on
accuse depuis longtemps les scientifiques pâte et en l'occurrence c'est tout à fait fondée
dans la mesure où nous créons quelque chose de très différent de tout ce que nous avons
créé jusqu'ici [Musique] il y as hotspur est un intellectuel d'une créativité exceptionnelle et a
été le moteur d'avancé historique dans le

domaine de l'apprentissage profond et de l'ia il a été recruté par elon musk pour diriger open
et iai l'un des plus importants laboratoires de recherche sur l'ia je me suis intéressé très
jeune alias sam puis à l'apprentissage automatique en particulier qu'est ce que l'expérience
l'apprentissage pour toute la pensée comment fonctionne le cerveau une squatteuse heures
ce sont des questions philosophiques mais comme on peut inventer des algorithmes
capables à la fois de faire des choses utiles et de

nous aider à répondre à ces questions c'est en quelque sorte de la philosophie appliquée
ans [Musique] l'intelligence artificielle générale ag est un système informatique en mesure
d'accomplir n'importe quelle tâche effectuée par un être humain mais mieux nous seront
indéniablement capable de créer des êtres totalement autonome qui poursuivront leurs
propres objectifs puisque c est redeviendront plus intelligents que les humains il sera crucial
que leur objectif soit en adéquation avec les nôtres en cause

nous cherchons à créer une ia ouverte nous voulons être la pointe de la recherche et les
orienter celle ci dès le départ pour maximiser les chances que l'avenir soit bon pour les
humains de youtube au goût de fonctionnement [Musique] l'ia est une très bonne chose car
elle va résoudre tous nos problèmes actuels son chômage la maladie encore pour la
pauvreté mais elle va ancrer aussi de nouveau cinq dates mais je crois que le problème des
faits qui news serait des millions de fois plus graves les cyber attaques seront bien plus

violentes et nous aurons des armes intelligente entièrement automatisé il ya le potentiel de

créer des dictatures infiniment stable quand la chine d'ici dix ou quinze ans les systèmes
seront considérablement plus intelligent et il est fort probable qu'il bouleverse radicalement
notre société cela se fera 10 le bénéfice des humains et si oui qui en profitera et une toux
tard en 2012 ibm a estimé qu'une personne génère en moyenne 500 méga bits d'empreinte
numérique chaque jour imaginez maintenant que vous

vouliez sauvegardées sur papier une journée de données que l'humanité laisse derrière elle
quelle taille ferait selon vous la pile de feu qui en résultera quatre fois la distance terre-soleil
2025 nous générons quotidiennement 60 2 gigabits de données par personne mira ou que
chine ce qui a été qualifié de data scientist le plus controversé de notre temps ces
recherches révolutionnaires ont inspiré les méthodes de sociétés telles que cambridge
analytica nous laissons des tonnes d'empreinte numérique au cours de

notre vie alimente les algorithmes informatiques et leur donne une bonne idée de notre
personnalité de nos désirs et de nos activités j'ai étudié différents types d'empreinte
numérique que les like sur facebook le niveau de langage les relevés de carte bancaire les
historiques de navigation et de recherche et à chaque fois j'ai découvert qu en collectant
suffisamment de ces données on pouvait prédire avec précision le futur comportement d'une
personne déduire des très intime de sa personnalité cela peut être utilisé à très bon

escient mais cela peut également servir à manipuler les gens facebook facebook transmet
chaque jour des informations à plus de 2 milliards de personnes tous bords si vous modifier
légèrement le fonctionnement de son algorithme vous pouvez influencer l'opinion et par là
même le vote de millions de personnes minimum [Musique] politicien n'est pas en mesure
de deviner quel message ses électeurs et aux électrices vont aimer mais un ordinateur peut
voir quel message politique est susceptible de convaincre

telle ou telle personne ladies and gentlemen analytica à récolter les données personnelles
de 50 millions d'utilisateurs de facebook à leur insu pour qui nous sommes l'entreprise
l'analyse de données engagés pour la campagne présidentielle de donald trump a utilisé des
données obtenues en secret pour cibler directement de potentiels électeurs il affirme pouvoir
ainsi prédire la personnalité de chaque citoyen adulte aux états unis nous allons parler de
cambridge analytica avec le lanceur d'alert

christopher wyld on travaillait sur des programmes qu'ils récoltaient des données qu'on
passait ensuite dans des algorithmes capables d'établir le profil psychologique des
personnes afin d'exploiter les vulnérabilités mentale mise en évidence [Musique] cambridge
analytica a dit un jour que leur modèle reprenait mes travaux mais ce n'est qu'une des
centaines de sociétés qui utilisent de telles méthodes pour cibler les électeurs les
journalistes me demande ce que ça me fait d'avoir fait élire trump et d'avoir

soutenu le breakbeat que voulez-vous répondre à cela je suppose que je dois accepter
d'être tenus responsables de tout ça en jette au départ cette technologie devait être un
moyen de démocratisation un moyen de faire le bien et qui permet aux humains d'interagir
entre eux sans barrières c'est la plus grande expérience de communication qu'ait jamais
connu la race humaine mais qu'arrive-t-il quand tout le monde a son mot à dire on pourrait
croire que c'est une bonne chose que cela favorise la démocratie le

débat et la tolérance sauf que ces systèmes ont été détournés à jake one drop une société
facebook gère une grande partie de nos communications pareil pour google ce que vous
voulez savoir sur le monde vient d'eux qu'on a affaire à une économie mondiale de
l'information contrôlée par un cercle restreint de personnes mans [Applaudissements] les
sociétés les plus riches du monde sont toutes des entreprises de technologie google à apple
mac microsoft amazon facebook c'est stupéfiant de voir que depuis une

petite dizaine d'années les entreprises les plus puissantes sont spécialisés dans le
commerce de données numériques ces petites [ __ ] et octets sont la nouvelle monnaie
[Musique] tout autour de nous même si on ne le voit pas les données sont monétiser google
dispose de toutes les informations possibles suivent les gens à la trace grâce à leur gps ils
connaissent tous leurs historiques de recherche et leurs préférences politiques l'historique
de recherche à lui seul peut tout dire d'un individu de ses

problèmes de santé a ses préférences sexuelles la portée de google est illimité google et
facebook sont devenus d'énormes système de surveillance est en fait ce sont aussi des
courtiers en publicité ça n'a l'air de rien dit comme ça mais ce sont des courtiers high tech
s'ils sont si rentable c'est parce qu'il recoure à l'intelligence artificielle pour traiter toutes ces
données vous concernant et pour vous mettre ensuite en relation avec l'annonceur qui
cherchent à atteindre des gens comme vous pour
passer à quelconque message fort à damas l'un des problèmes avec ces technologies c'est
qu'elles sont conçues pour être addictives vous captiver et vous tenir en haleine les
entreprises qui les produisent veulent en faire des machines à sous de l'attention si on ne
les lâche plus on est enfermés dans leur monde et on passe son temps à y jeter un oeil
quand quelqu'un contrôler ce que vous lisez il contrôle aussi ce que vous pensez on vous
montre plus de choses du même type que celles que vous avez déjà vu parce

que ça génère plus de clics et donc de publicité mais ça vous enferme dans une chambre
d'écho d'où cette polarisation à laquelle on assiste aujourd'hui jaïr ball sonar ou le candidat
brésilien d'extrême droite souvent comparé à donald trump a remporté l'élection
présidentielle la plus polarisé depuis des décennies partout dans le monde on assiste à une
polarisation des confits elle est en partie provoquées par des algorithmes qui ont remarqué
que l'extrémisme politique ou le tribalisme qui consiste à encourager son équipe et

en tirer du plaisir sont addictifs les réseaux sociaux augmenterait l'attention portée aux
crimes de haine dans le monde les gens se radicalise à force de végéter dans le marais
fébrile de l'internet est ce un tournant pour les géants du numérique sont ils enfin prêts à
prendre leurs responsabilités concernant ce qu'il partage avec le monde et loopsi vous
développer à grande échelle une puissante technologie qui enferme comme google et
facebook qui peuvent atteindre des millions de personnes et si votre intelligence

artificielle stimule une polarisation c'est la porte ouverte à un soulèvement mondiale

[Musique] [Musique] l'intelligence artificielle général lee âgé imaginez que vous ayez 1000
amis aussi intelligent que votre ami le plus intelligent et qui réfléchissent chacun des milliers
de fois plus rapidement ce qu'ils nous demandent trois ans de réflexion ne leur prendrait
qu'une journée vous imaginez tout ce qu'on pourrait faire une cote de haut on arrivait à
réaliser en une journée l'équivalent de trois ans de travail

[Musique] 1 ce n'est pas exagéré de dire que ce que nous vivons actuellement est plus
excitant encore que ce qu'ont vécu tous les physiciens quantiques du début du 20e siècle ils
ont découvert l'énergie nucléaire je me sens extrêmement chanceux d'être partie prenante à
cela [Musique] de nombreux spécialistes de l'apprentissage automatique les gens très
cultivés expérimentés sont très sceptiques et se demandent quand l'usager va voir le jour et
si seulement elle le pourra potes mais encore peu de gens se rendent

compte que les ordinateurs pour les réseaux de neurones artificiels pour l'ia vont devenir
peut-être des milliers de fois plus rapide d'ici seulement quelques années pendant
longtemps le secteur du hardware ne savait pas comment aller plus loin mais maintenant
que ces réseaux de neurones artificiels sont opérationnels on peut construire de
gigantesques ordinateur on peut fabriquer un cerveau en silicose c'est possible les
premières images et seront en fait de très très gros datacenter équipés de

processeurs à réseaux de neurones artificiels spécialisés travaillant en parallèle cet

ensemble sera gourmand en énergie comme suit consommera autant que 10 millions de
foyers also bungie [Musique] chef mais moi un sandwich au boeuf histoire de changer un
peu les mêmes les premières viager seront incroyablement plus performante que nous les
humains perdront leur utilité économique dans pratiquement tous les domaines pourquoi
employer quelqu'un si un ordinateur peut faire son travail bien mieux il ya bien moindres frais
engagés

sera à n'en pas douter la technologie la plus importante de l'histoire de la planète et de loin
bien plus que l'électricité le nucléaire et l'internet réunis en fait concevoir unis ag est la
finalité de l'informatique et de la science c'est l'aboutissement ultime on va la fabriquer et ce
sera une nouvelle forme de vie elle va nous rendre obsolète [Applaudissements] le travail
physique humain est presque obsolète depuis un siècle la curie le travail mental routinier est
aussi en train de le devenir à vitesse grand v

d'où la disparition actuelle de nombreux emplois de la classe moyenne l'intelligence

artificielle ou aux entourent déjà la liste des choses que nous faisons mieux que les
machines diminue assez rapidement les voitures sans chauffeur sont super et vont
probablement réduire les accidents de la route mais à côté de ça elles vont engendrer la
disparition de 10 millions d'emplois rien qu'aux états unis qu'allons nous faire de tous ces
gens [Musique] d'exacerber les inégalités risque très fort de générer des tensions et des

conflits sociaux [Musique] définition les âges et peut exercer n'importe quel métier mieux
que nous ceux qui prétendent qu'il existera toujours des emplois que les hommes feront
mieux prennent le pari que la science ne parviendra jamais à créer unis à gérer c'est comme
si on était dans un train qui fonce rey à toute allure dans un tunnel obscur et que le
conducteur dormait aux manettes [Musique] [Musique] [Musique] une grande partie des
empreintes numériques que nous laissons derrière nous ce sont des images ce qui

m'intéresse particulièrement en tant que psychologue ce sont les photos de visages là on

peut voir la différence entre les traits d'un homosexuel moyens et d'un hétérosexuel moyens
on constate que chez les hommes les hétérosexuels ont tué deux mâchoires légèrement
plus large que les homosexuels alors que chez les femmes celle inverse les algorithmes
informatiques peuvent révéler nos opinions politiques notre orientation sexuelle ou notre
niveau d'intelligence à partir d'un simple portrait de nous mêmes un cerveau

humain peut distinguer un homosexuel d'un hétérosexuel avec une certaine exactitude mais
là encore l'ordinateur est capable de le faire avec une bien meilleure précision en
l'occurrence celle d'un logiciel de reconnaissance faciale en vente libre c'est une terrible
nouvelle pour tous les homosexuels du monde mais pas seulement pour eux car cet
algorithme peut aussi détecter si vous êtes dans l'opposition si vous êtes libéral ou athée et
on arabie saoudite par exemple être athée est passible de la peine de mort

en tant qu'universitaire je me dois d'avertir la population des dangers que représentent les
algorithmes capables de révéler nos très intime le problème c'est que quand les gens
reçoivent de mauvaises nouvelles ils préfèrent souvent les ignorer c'est un peu effrayant
encore du jour au lendemain vous recevez des menaces de mort et j'en ai reçu quelques
unes mais en tant que scientifique je dois montrer ce qu'il est possible de faire j'essaie
maintenant de voir si on peut déduire d'autres caractéristiques à

partir d'un visage si on peut détecter qu'une personne est dépressive ou suicidaires les
caméras de surveillance d'une gare pourrait peut-être sauver des vies qu'arriverait-il si l'on
parvenait à prévoir qu'une personne a des prédispositions au crime à l'école vous aviez
probablement un psychologue dont le rôle était d'identifier les enfants susceptibles de
présenter des problèmes de comportement imaginez maintenant que vous puissiez prédire
avec précision que quelqu'un risque de commettre un crime

à partir de son langage son visage ses expressions faciales où ces like sur facebook je ne
développe pas de nouvelles méthodes je ne fais que tester et d'écrire des technologies en
milieu universitaire mais il est évidemment possible quand on temps d'avertir les gens des
risques de ces nouvelles technologies je donne aussi des idées à certains nous ignorons
encore comment cette nouvelle société où les données sont pas réellement évolué les
entreprises de technologie veulent récolter la moindre information possible sur tout le monde

pour mieux faire des affaires la police et l'armée également afin d'assurer une meilleure
sécurité ces deux groupes ont d'immenses intérêts en commun il collabore toujours plus
étroitement au sein de ce que l'on pourrait appeler un complexe militaro technologique la cia
entretient depuis longtemps des liens privilégiés avec la silicon valley la société de capital
risque in qtel investis dans le capital d'amorçage de start up qui développent des
technologies de pointe que la cia espère déployer elle était l'un des premiers

investisseurs de partir la société d'analysé de big data in qtel a trouvé le filon avec palantir
en en faisant un fournisseur privé dont les capacités en matière de renseignement et
d'intelligence artificielle dépasse de loin celle du gouvernement [Applaudissements]
[Musique] peter dille le fondateur de pallanne tir était un conseiller un ami proche et un
donateur de trump doit en grande partie son élection à sa promesse d'expulser des millions
d'immigrants est le seul moyen de tenir cette promesse

c'est de disposer de beaucoup de renseignements c'est justement là que palantir entre en

jeu l'entreprise à gurgy d'immenses quantités de données votre adresse le nom de votre
employeur de vos amis de vos voisins de vos proches les endroits que vous avez visité et
où vous avez vécu votre profil sur les réseaux sociaux le tir est extrêmement doué pour
prendre ces données et les structurer de manière à aider les forces de l'ordre les services de
l'immigration où les agences de renseignement à vous traquez avoue

trouver et à prendre tout ce qui lie à savoir sur [Musique] [Musique] [Musique] nous
chargeons l'ia de prendre des décisions toujours plus importante qui affecte nos vies les ja à
l'ancienne fonctionner avec des programmes que des humains avaient créé comprenez
mais aujourd'hui de puissants systèmes dia honte après par eux mêmes et on ne sait pas
vraiment comment il fonctionne difficile donc de leur faire confiance cette technologie n'a
rien de futuriste elle existe déjà il ya peu d'aider à déterminer l'implantation d'une nouvelle

caserne de pompiers ou d'une future école elle peut décider si vous allez être libérée sous
caution ou si vous allez rester derrière les barreaux si la police va renforcer la surveillance
d'un endroit où d'une personne donnée la police prédictive s'est répandue aux états unis
sauront se sert d'un algorithme pour déterminer où un crime va avoir lieu afin d'envoyer des
patrouilles dans ce secteur pour ce faire on se fonde sur le taux de criminalité or on sait que
c'est biaisé les personnes noires ou de type hispaniques

sont contrôlés bien plus souvent par la police que les personnes blanches c'est à partir de
ces statistiques que l'on décide où les agents devraient être déployés ils vont donc dans ces
quartiers et devinez ce qu'il font pas ils arrêtent des gens et tout ça vient réalimenter le
système c'est ce qu'on appelle une boucle de rétroaction [Musique] le maintien de l'ordre
prédictif pourrait dans un cas extrême conduire les experts à dire montrez-moi votre bébé je
vous dirais s'il deviendra un criminel qu'on peut prédire cela on va

surveiller d'encore plus près ses enfants et en leur tombera dessus au moindre signe de
problème cela facilitera le maintien de l'ordre certes cela créera une société vraiment
sombre et ne fera que renforcer encore les inégalités imaginez un monde dans lequel des
réseaux de caméras ou de drones de surveillance disposerait d'un système de
reconnaissance faciale sophistiqué et serait connecté à d'autres bases de données de
surveillance gouvernementale cette technologie donnerait la possibilité de suivre et
d'enregistrer

deux mouvements dans les moindres détails nous aurions ainsi créé une sorte de machine à
remonter dans le temps qui permettrait aux gouvernements et aux entreprises puissantes de
revenir littéralement en arrière sur nos vies on peut ne pas être un suspect aujourd'hui mais
si d'ici cinq ans l'envié d'en savoir davantage sur nous leurs bonnets il pourrait retracer en
détail tous nos faits et gestes ainsi que nous rencontrent au cours de cette période ce serait
mettre une puissance extraordinaire entre les mains de

quelqu'un si les gens ont du mal à imaginer un tel monde en tournage mais nous avons déjà
bâti les fondations qui le rendent possible [Musique] [Musique] je suis journaliste politique et
je m'intéresse beaucoup à la manière dont les puissantes industries us de leur pouvoir pour
influencer les affaires publiques les lobbystes des grandes entreprises de technologie se
réunissent derrière des portes closes élaborent des politiques qui s'appliqueront à nous tous
c'est vrai en ce qui concerne la surveillance

et la collecte de données mais aussi et de plus en plus en matière de politique étrangère et

militaire en 2016 le département de la défense américain a créé le conseil d'innovation de la
défense il s'agit d'un organe spécial qui vise à rapprocher étroitement l'armée et les
meilleurs ingénieurs technologique eric schmidt l'ancien président exécutif d'alpha bête la
maison-mère de google a pris la tête du conseil s'est alors empressé de déclarer qu'il fallait
intégrer davantage d'intelligence artificielle

dans l'armée au département de la défense nous nous y sommes vraiment intéressés

lorsque nous nous sommes mis à envisager des systèmes non humains et à réfléchir à la
manière dont la robotique pourrait changer le visage de la guerre plus vos systèmes
automatisés et vos robots sont intelligents plus où vous renforcer la puissance de votre
armée quand robert thouars qui était à la défense il a rédigé une importante note de service
intitulée et quitte interfonctionnel de guerre algorithmique plus connu sous le nom de projet
maven

eric schmidt a fait de nombreux discours et apparitions médiatiques dans lesquelles il disait
que l'objectif était de réduire la consommation de carburant de l'armée de l'air et d'améliorer
la logistique mais à huis clos on poursuivait parallèlement un autre objectif [Musique] fin
2017 google la société d'eric schmidt a été sollicité pour travailler en secret sur un autre
volet du projet maven il consistait à analyser la quantité astronomique d'image engrangés
par les drones qui opèrent en irak et en
afghanistan et apprendre à une ia à identifier rapidement des cibles sur le champ de bataille
existe un capteur capable de réaliser une vidéo en full motion d'une ville toute entière nous
avions trois équipes de sept personnes qui travaillaient en continu ne pouvait traiter que
15% du matériel récolté les 85 autres pourcents restait sur le carreau c'est là qu'on s'est dit
que l'ia et l'apprentissage automatique pourrait nous aider à traiter 100 % des données
[Musique] google a longtemps ayant pour slogan ne

soyez pas malveillant s'est forgé l'image d'une société dévoué à la transparence publique
mais lorsqu'il s'est agi de se mettre peu à peu au service de la défense l'entreprise a
conservé le plus grand secret elle s'est lancée dans ce projet en y embarquent dans la
majorité de ses employés qu'ils ignoraient totalement sur quoi ils travaillaient généralement
chez google n'importe quel employé a le droit de connaître tous les projets que même les
autres services le secret qui entourait le programme baizen

a alarmé les gens parce que ce n'est pas la norme au sein d'entreprises ou l affaire s'est
ébruitée ça a déclenché un tollé chez google de nombreux employés ont démissionné et
protester d'autres ont signé une pétition contre ce projet il faut dire haut et fort qu'on refuse
de participer à ce genre de choses certaines sociétés sont ce qu'on appelle des partenaires
de la défense mais on n'était pas censés en être un google a besoin de la confiance des
gens pour fonctionner [Applaudissements] des mails montre que google a continué à

mentir à ses employés en affirmant que le programme de drones ne demandait qu'un petit
effort qui rapporterait tout au plus 9 millions de dollars à l'entreprise soit une goutte d'eau
pour une société aussi gigantesque que bon mais d'après des mails internes que nous nous
sommes procurés google espérait que le projet maven rapporterait jusqu'à 250 millions de
dollars et qu'il lui permettrait d'obtenir une certification du département de la défense ce qui
lui aurait ouvert la porte à des contrats

militaires encore plus juteux pouvant grimper jusqu'à dix milliards de dollars google s'est
trouvée pressé d'entrer dans la compétition pour les contrats militaires au moment où ses
concurrents changer eux aussi de culture d'entreprise amazon ciblé également l'armée et
les services de maintien de l'ordre tout comme ibm et d'autres grandes sociétés pour rester
dans la course que google s'est peu à peu transformée le conseil scientifique de la défense
a dit toutes les avancées technologiques actuels il la plus importante et

l'intelligence artificielle et les opérations autonome qu'elle pourrait mais est ce qu ont investi
suffisamment nous aurons développer des armes létales autonome au fond c'est à dire des
armes qu'on ne contrôle pas du tout car elles sont totalement un président pourrait dire
audiard le droit international nous disposons de ces armes et nous allons en faire ce qu'ils
nous chantent nous n'en sommes pas loin quand le matériel physique est prêt et qu'il suffit
d'appuyer sur un bouton pour qu'il soit totalement autonome qu'est ce

qui peut vous empêcher de le faire une guerre à la vitesse des machines a vraiment de quoi
faire taire imaginez une machine qui aura intégré des millions et des millions de scénarios
de guerre différent il disposera d'une armée de drones et déléguera le contrôle à la moitié
d'entre eux qui collaboreront en temps réel que se passera-t-il quand on demandera à cet
essaim de drones d'attaqué toute une ville comment s'y prendront-ils on ne le saura que le
jour où ça arrivera we do mar nous ne voulons pas qu'une ia

décide quel humain elle va attaquer mais nous faisons face à des adversaires autoritaire en
régime de ce type aura moins de scrupules à déléguer à une machine l'autorité de prendre
des décisions létale au niveau de ce gène est pour l'heure on ignore les conséquences que
cela pourrait avoir [Musique] on oh [Musique] on gift l'ia nous fait presque un cadeau en
nous forçant à nous interroger collectivement sur ce qui fait de nous des êtres humains
mean to be your eyes de que pouvons-nous faire mieux que

telle ou telle machine super intelligente nous créons notre technologie mais ensuite c'est elle
qui nous remodèle nous devons prendre garde de ne pas perdre ce qui nous rend si
magnifiquement humain plus nous fabriquons des machines intelligentes plus le vocabulaire
philosophique dont nous disposons pour nous définir en tant qu'humain temps à se
restreindre la liste des termes qui peuvent nous servir à décrire notre humanité n'est pas si
longue que sa culture histoire société peut-être politique civilisation sa

subjectivité en histoire de cette terme se dégage deux idées à savoir que l'homme est plus
qu'un simple animal est plus qu'une simple machine chance attention chine mais si les
machines se met vraiment à penser cela soulève tout un tas de questions philosophiques
fondamentales sur ce que nous sommes quelle est notre place dans le monde qu'est ce que
le monde comment est-il structurer les catégories sur lesquels nous nous fondons sont elles
toujours valable où sont-elles erronée mine ity beaucoup de gens pensent que

l'intelligence est une chose mystérieuse qui ne peut exister qu'à l'intérieur d'un organisme
biologique mais l'intelligence n'est qu'une question de traitement de l'information peu importe
que celui ci soit effectuée par des atomes de carbone dans les cellules d'un cerveau humain
ou par des atomes de silicone dans des ordinateurs la doit en partie son récent succès au
fait qu'on s'est inspiré de l'évolution femme avant lui dans le cerveau se compose d'une
multitude de neurones connecter de manière compliquée alors on

a volé cette grande idée et on l'a transposé sous forme de réseaux de neurones artificiels
dans des ordinateurs voilà ce qui a révolutionné l'intelligence des machines si on parvient un
jour à créer une intelligence artificielle général elle sera par définition plus performante qu'un
simple programme dit à tous nouveaux progrès sera donc nécessairement l'oeuvre n'ont pas
de programme du main mais de lits âgées vos clients capables de s'auto perfectionné de
manière récursive laissera l'intelligence humaine loin

derrière et créera une super intelligence ce sera notre invention ultime mais car il pourra dès
lors tout inventé mieux et plus rapidement que newton il est ici certaines victimes maintenant
à toi espace de dix accusés ces jours-ci fashion weeks mission sur ce tracé [Musique]
prenez bien mayence est lente noël [Musique] ce fut le cas en fin de match il réside non oui
[Musique] [Musique] nous n'avons pas encore créé de machines capables de penser comme
un humain mais on s'en rapproche peut-être que nous y

parviendrons d'ici cinq ans ou peut-être que ça nous prendra 50 ou 100 ans quoi qu'il en soit
c'est vraiment demain à l'échelle de l'histoire de l'humanité [Musique] nous [Musique] 1 oh le
domaine de l'ia est très internationale la chine entrent sur le marché et commence à rivaliser
avec les états unis l'europe et le japon d'une grande puissance de traitement et collecte
beaucoup de données pour l'aider à apprendre via une jeune génération de chercheurs
chinois personne ne sait d'où viendra la prochaine révolution

la chine a toujours eu envie de devenir une surpuissance mondiale le gouvernement chinois

a vu dans l'ia une immense opportunité de devenir l'une des nations les plus avancées dans
les domaines de la technologie et des affaires mcgill a planté son drapeau et décrété que
c'était un secteur porteur dans lequel les entreprises devraient se lancer ce à quoi la sphère
commerciale chinoise a répondu le gouvernement a planté un drapeau donc c'est bon
investissons cas ni les géants technologiques chinois

comme baidu tencent ou alibaba ont beaucoup investi dans le domaine de l'iard ce secteur
est donc en plein essor en chine [Musique] inch allah aime parler en chine tout le monde à
alipay ou ichat paix le paiement mobile est partout le web cette technologie intelligente qui
permet de connaître les habitudes de dépenses et la solvabilité des gens et la
reconnaissance faciale est très répandue en chine dans les aéroports et les gares à l'avenir
d'ici quelques mois seulement qui sait on aura peut-être plus besoin

d'un billet de train papier notre visage suffira piano et nous créons la plus grande plate forme
de reconnaissance faciale du monde trois cent mille développeurs y ont recours l'utilisent en
grande majorité pour des applications de celle fille qui servent à vous embellir il y à des
millions et des millions de caméras dans le monde et chacune et 2 - points de vue un
générateur de données robotique va décomposer les traits de votre visage et les transcrire
en un paragraphe de code peut ainsi déterminer

votre âge votre sexe ou vos émotions ce qui compte dans le shopping c'est ce que le client
regarde on peut suivre le mouvement de ses yeux donc s'il fixe un produit on peut le repérer
et ainsi savoir à qui plaît tel ou tel type de produits [Musique] notre mission consiste à créer
une plateforme pour des millions de développeurs dia en chine nous analysons toutes les
données que nous pouvons trouver seulement les profils des utilisateurs mais aussi ce qu'ils
sont en train de faire à chaque instant leur localisation

cette plate forme va prendre une telle valeur qu'on ne se soucie même pas des profits pour
l'instant parce qu'on sait qu'elle en générera le système de crédit social de la chine il ya déjà
recours pour ne citer qu'un exemple parmi tant d'autres [Musique] le gouvernement chinois a
recours à diverses technologies que ce soit lié à des plateformes de big data la
reconnaissance faciale ou vocale dans le principal but de surveiller sa population il ne cache
pas son intention de collecter une énorme quantité de

données sur les gens qui lui serviront à forger une société exempte de toute dissidence la
logique qui sous-tend le crédit social du gouvernement chinois est la même que celle d'un
prêt financier où l'on vérifie votre solvabilité mais on y ajoute une dimension très politique en
disant êtes vous quelqu'un en qui on peut avoir confiance sur la toile vous êtes vous déjà
montré critique envers les autorités avez vous un casier judiciaire on rassemble toutes ces
informations afin de vous noté si on estime que vous vous

êtes bien comportée vous bénéficierez d'un meilleur accès à certains services publics ou
aux aides sociales dans le cas contraire vous serez pénalisé ou soumis à des restrictions ce
tracteur les gens n'ont aucun moyen de contester le fait d'avoir été mis dans cette case et
dans certains cas ne savent même pas qu'ils ont été placés ce n'est que le jour où ils tentent
d'accéder à certains services publics d'acheter un billet d'avion d'obtenir un passeport ou
d'inscrire leurs enfants dans une école ils découvrent qu'elles

ont été catalogués ainsi et que cela entraîne pour eux des conséquences négatives
[Musique] nous avons passé la majeure partie de ces deux dernières années à examiner les
abus en matière de technologies de surveillance en chine et cela nous a souvent conduit au
xinjiang cette région autonome du nord-ouest du pays est composé pour plus de moitié de
musulmans et ouigours et les casaques turcophones les roues du gouvernement chinois
considère depuis longtemps cette région et cette population comme

politiquement suspecte et déloyale nous avons découvert des informations sur ce qu'on
appelle la plateforme intégrée d'opérations conjointes ce programme de police prédictive
crash des listes de noms de personnes devant subir une rééducation politique une ombre
des personnes interviewées pour le rapport que nous venons de publier sur les camps de
rééducation du xinjiang ont dressé le tableau d'un véritable état de surveillance la région est
inondée de caméras de surveillance pour la reconnaissance

faciale de postes de contrôle de scanners corporels et de qrcode devant le domicile des

gens on se croirait vraiment dans un film dystopique comme on en a tous déjà vu en se
disant que ce serait effrayant de vivre dans un tel monde celte et bien en chine 13 millions
de ouïghours vivent dans cette réalité en ce moment même où [Musique] les rapports
indiquent que google veut lancer en chine une version censurée de son moteur de
recherche ou en quête de nouveaux marchés où google se tourne vers la chine malgré la
censure de pékin

pourquoi avez vous senti qu'il était de votre responsabilité éthique de démissionner vous
parlez de censure d'oppression et de surveillance google a créé une société de
capital-risque chinoises pour pouvoir opérer en chiffres toute la question est de savoir dans
quelle mesure ils contrôlent la liste noire et peuvent surveiller les citoyens chinois le fait que
google refuse de répondre aux organisations des droits de l'homme sur le sujet devrait tous
nous alarmer la divergence d'opinion est fondamental

au bon fonctionnement d'une démocratie voyez donc contraint de démissionner afin de ne

pas contribuer au recul de la protection des dissidents selon les nations unies entre deux
cent mille et un million de wii bourg ont à ce jour été secrètement internés dans des camps
de rééducation on soupçonne fortement google d'être complice en voulant créer une version
surveillée de son moteur de recherche en chine dragonfly est un projet destiné à contrôler
les recherches sur internet par la censure de contenus sensibles et

de recherche basique sur les droits de l'homme où le blocage d'informations sur les
représentants politiques et les manifestations des étudiants mais ceci n'est que la partie
émergée de l'iceberg le plus inquiétant dans l'histoire c'est sans doute la surveillance qui
l'accompagnent quand j'ai soulevé le problème auprès de la direction et de mes collègues ils
se sont montrés très inquiet mais disait tous ne rien savoir une réunion a finalement eu lieu
qui n'a pas du tout dissiper ces craintes j'ai alors remis officiellement ma
démission à mes supérieurs j'ai fait parvenir une copie de ma lettre à toute l'entreprise je
dormais mal je souffrais d'horribles maux de tête et je me réveille en sueur au beau milieu
de la nuit cela dit depuis que j'ai rendu sa public les réactions sont très positives partout
dans le monde les développeurs devraient exiger de savoir à quoi va servir leur contribution
technique et d'avoir leur mot à dire sur ces questions éthiques la plupart des gens
n'imaginent pas ce qu'implique une technologie prescriptive à grande

échelle quand un projet a été divisé en amont et qu'on ne travaille que sur une petite partie
on ne peut pratiquement pas comprendre de quoi il retourne je pense qu'il est assez
pertinent de comparer cette situation avec le travail des physiciens sur la bombe atomique je
suis moi même issu du milieu scientifique moi je n'ai pas fait des études en ingénierie
nucléaire mais en mathématiques appliquées au cours de mon doctorat nous étions financé
pour entraîner des gens à travailler dans des laboratoires

d'armement on pourrait dire qu'il existe une menace existentielle que celui qui est en avance
en matière dia l'êtes aussi au niveau militaire la chine espère ravir aux états unis le statut de
première puissance économique mondiale elle est convaincue que l'ia va l'aider à y parvenir
plus rapidement et de façon plus spectaculaire elle y voit également un moyen de dépasser
les américains en terme de puissance militaire [Applaudissements] son plan est simple elle
veut rattraper les états unis en 2020 les dépasser

d'ici 2025 et devenir le leader mondial en matière dia et de technologie autonome à l'horizon
2030 l'injectent au moins 150 milliards dans ce plan national la course est donc bien lancée
[Musique] [Musique] l'ia est un peu comme le feu qu'on a domestiqué il ya environ 700 mille
ans elle a ses bons et ses mauvais côtés les premiers hommes se sont rendus compte qu'ils
pouvaient utiliser le feu pour se réchauffer ou pour cuisiner mais aussi qu'il pouvait s'en
servir pour tuer d'autres personnes car vos people

mais à l'instar de l'ia le foehn a besoin du concours d'aucun humains pour se transformer en
un vaste incendie mais les avantages de l'ia des passes de si loin ses inconvénients que
nous n'allons pas nous arrêter en si bon chemin l'europe se réveille la duc de nombreuses
entreprises y prennent conscience que la prochaine vague d'intelligence artificielle sera bien
plus grosse que l'actuel ce sera celle des romans roses on vise même si toutes ces
machines mais produisent des choses et qui fabrique

d'autres machines vont devenir intelligente vergogne to become smolts le manque dans un
avenir pas si lointain robin nous pourrons éduquer les robots comme les enfants par
exemple je dirais un petit robot regardez ici robot locking assemblons ce smartphone on
prend cette plaque de plastique et un tournevis et puis on visse le tout de cette manière pas
comme ça regarde robot voilà comment il faut s'y prendre bref c'est un viol va échouer une
ou deux fois merci rapidement il va apprendre à faire la même chose bien mieux que je m'en

serais capable une fois qu'il intègre et ça donne en fait un million d'exemplaires dont les
commercialise [Musique] [Musique] réglementer il y a peut sembler une bonne idée mais je
ne crois pas que ce soit possible notamment en raison de l'insatiable curiosité des
scientifiques il se fiche éperdument des réglementations tout comme les forces militaires
elles diront si nous américains ne le faisons pas alors les chinois s'en chargeront et les
chinois diront si nous ne le faisons pas ce sont les russes qui s'en chargeront peu
importe la réglementation mise en place tous les complexes industriels aux militaires devront
presque par essence l'ignorer ils ne voudront pas rester à la traîne un programme développé
par la société open et hype rédiger des récits aussi cohérent et crédible que des humains et
c'est un petit pas pour la machine un pas de géant pour la match imiter la nouvelle
intelligence artificielle du bm a débattu en direct avec des humains rompu à l'exercice et la
remporter des vidéos générées par ordinateur ou 10

px servent à insérer des visages féminins dans des vidéos pornographiques l'intelligence
artificielle évolue à une vitesse folle il est pourtant on en est encore qu'au début les
applications potentielles sont multiples c'est une mine d'or en 2012 l'arrivée du diplôme ning
a révolutionné la branche de la vision par ordinateur nous avons été parmi les premiers à
adopter l'apprentissage profond et à l'appliquer au domaine de l'infographie une grande
partie de nos recherches et financée par le gouvernement et des

agences de renseignement militaire ce genre de montage photo réaliste nécessite de sujets

dit une source insee qui me permettent de réaliser une substitution de visage on peut par
exemple faire croire qu'une personne a fait des choses même si elle ne les a pas fait les
kabyles cette technologie peut être utilisée à des fins créatives et amusante mais
évidemment elle peut aussi servir à manipuler des vidéos et générer des fêtes news cela
peut s'avérer très dangereux si elles tombent entre de mauvaises mains

les choses risquent rapidement de devenir incontrôlable [Musique] m [Musique] l'une des
critiques régulièrement formulées à l'égard de mon travail consiste à dire qu'on a déjà
entendu ce genre d'idée inepte par le passé avec la phrénologie ou la physiognomonie
quand certains prétendaient on pouvait déterminer le caractère d'une personne rien qu'en
observant son visage les gens diront que c'était n'importe quoi et que ce n'était que du
racisme à peine voilée et de la superstition acte mais le fait

que par le passé quelqu'un est défendu une thèse à partir d'un raisonnement erroné
n'invalide pas nécessairement cette baisse pour autant dans une vallée offre quoi sur moi
gens devraient avoir droit au respect de la vie privée en matière d'orientation sexuelle ou
d'opinion politique non mais je crains que dans un environnement technologique ce soit
fondamentalement impossible sous louis il faut savoir qu'il n'ya aucun retour en arrière
possible aucune échappatoire aux algorithmes des sonneries accepte les inévitables au

plus vite nous accepterons l'inévitable et dérangeante vérité que c'en est fini de la sphère
privée is gone too soon un week-end inclus plus vite nous pourrons réfléchir à la manière de
préparer nos sociétés à l'ère post vie privée [Musique] quand on parle de reconnaissance
faciale je repense parfois aux heures les plus sombres de notre histoire vraie one quand les
gens devaient vivre dans un système où l'on acceptait une partie de la société accepte août
tandis que l'on condamne l autre à la mort une skoda ce

que n'aurait donné mengual et pour disposer d'un tel instrument il permettrait une sélection
très rapide et efficace c'est une vision apocalyptique et que mes joueurs [Musique]
[Musique] soit un diner fitch dans un avenir proche tout l'historique de votre personne
existera dans une vaste base de données connectées composé de visages of de génomes
de comportement et d'émotion vous aurez un avatar numérique de vous-même en ligne qui
compilera toutes les informations sur le fait que vous soyez ou non un bon citoyen le genre
de

relation que vous entretenez vos orientations politiques ou sexuelles cale en rien des
chamans sexualisation des stands ont leur ces données permettront aux algorithmes de
manipuler votre comportement avec une extrême précision en modifiant ce que vous
penserez et à terme probablement aussi ce que vous ressentirez improbable in fine avec
conviction et désirent les premières images et joueront un rôle crucial il sera donc essentiel
de les programmer correctement attentifs et dé 6,9 si on ne le fait pas nietzsche la

sélection naturelle pourrait amener ces systèmes à donner la priorité à leur propre instinct
de survie les images et ne vont pas détester activement les humains en vouloir leur faire du
mal à l'e10 ne deviendront trop puissante on peut comparer cela à la manière dont nous
traitons les animaux ils sont nous les adorons éprouvons énormément d'affection pour eux
et une faune m mais quand vient le moment de construire une autoroute entre deux villes
nous ne leur demandons pas la permission du nous faisons parce que pour nous

c'est important dans ce genre de relation qui existera sans doute par essence entre nous et
les ja g n et ils sont véritablement autonome voulait agir ont de leur propre chef si les
différentes équipes qui s'affrontent pour être la première à créer une image et se lance dans
une course à l'armement elles auront moins de temps et pour s'assurer que leur sillage et se
soucieront vraiment des humains voient le développement de liga comme une avalanche
une immense force que rien ne peut arrêter russe

la think in il est fort probable que la surface de la terre soit un jour recouverte de panneaux
solaires et de data center étant donné les craintes que l'ia j'ai su si l'oubli il importera qu'elle
soit conçue dans le cadre d'un programme international n'est quoiqu'il en soit l'avenir
s'annonce radieux pour les ya une plaie espérons qu'il en irait de même pour les humains
[Musique] est ce qu'une grosse responsabilité pèse sur mes épaules pas vraiment est ce
qu'une grosse responsabilité pesait sur

celle des parents d'einstein bien sûr ils l'ont engendré un fort mais il ne pouvait pas prévoir
ce qu'il allait faire ni combien ils allaient changer le monde on ne peut donc pas les tenir
pour responsables de cela [Musique] [Musique] je ne place pas trop l'humain au centre de
tout je me considère comme un petit tremplin vers une plus grande complexité dans
l'évolution de l'univers je pense que ni moi ni l'humanité dans son ensemble nous sommes le
couronnement de la création [Musique] nous plantons le décor pour quelque

chose qui nous dépasse et nous transcende nous nous dirigeons vers un monde où les
humains ne pourront pas suivre et qui transformera l'univers tout entier ou du moins l'univers
atteignable je trouve ça bourg et j'éprouve une grande humilité à faire partie de ce tout bien
plus grand et nous n'échapperons pas à l'ia oui alors nous devons absolument mettre en
place la réglementation humaines nécessaires pour empêcher sa militarisation nous ne
devons plus transformés en armes des instruments aussi puissant

ce dont on a le plus besoin c'est d'une gouvernance internationale il ya un déséquilibre des

pouvoirs car certaines grandes compagnies sont plus puissantes et ont plus de moyens que
des pays tout entier comment s'assurer que la voix du peuple saura entendre ça ne peut pas
être une zone de non droit on peut pas s'embarquer dans ces magnifiques nouvelles
technologies du 21e siècle en laissant sur le bord de la route les droits de l'homme lesquels
nous nous sommes tant battus et qui reste si fragile

[Musique] il ya n'est ni gentil ni méchante elle va simplement amplifier les désirs et les
objectifs de ceux ou celles qui la contrôle et qui constitue actuellement un groupe
extrêmement restreint année à ce moment de notre histoire la question la plus importante
que nous devons nous poser en tant qu'être humain est simple quel genre de société
voulons nous créer pour l'avenir avec toute cette technologie que nous fabriquons dance
techno rage remake qu'elle roule voulons nous donner à l'homme dans ce monde

[Musique] [Musique] [Musique] [Musique] google et facebook refusé toute interview pour ce
film [Musique]
### Summary
The rapid development of artificial intelligence poses significant ethical and societal
challenges, with potential benefits and dangers that could reshape humanity's future.

🌍
### Highlights

💰
- AI's rapid evolution prompts ethical debates about its impact on society.

🕵️‍♂️
- Data is the new "black gold," giving tech giants unprecedented influence.

⚖️
- Algorithmic surveillance raises concerns about privacy and control.

🤖
- AI can solve major global issues but may also enable oppressive regimes.

🔍
- The creation of superintelligent AI could surpass human capabilities.

☠️
- AI's role in shaping public opinion is increasingly concerning.
- The militarization of AI poses existential risks for humanity.

🌐
### Key Insights
- **Ethical Dilemmas**: The emergence of AI raises critical questions about morality and
human values, necessitating a robust ethical framework to guide its development. As AI
systems gain autonomy, the implications for society become increasingly complex.

-📈 **Data Monopoly**: Companies like Google and Facebook dominate the data
landscape, leveraging user information to influence opinions and behaviors, leading to
significant power imbalances in society.

-🔒 **Surveillance State**: The proliferation of AI-powered surveillance technologies leads

to a loss of privacy, creating a world where individual actions are constantly monitored and
analyzed, raising alarms about civil liberties.

-⚠️ **Dual-Use Technology**: While AI has the potential to address pressing issues like
climate change and health crises, it could equally be weaponized by authoritarian regimes to
enforce control and suppression, making its governance crucial.

-🧠 **Superintelligence Risks**: Developing AI systems that surpass human intelligence

poses existential threats, as their goals may diverge from human welfare, requiring careful
oversight and alignment with human values.

-🗳️ **Manipulation of Democracy**: AI-driven technologies can manipulate political

processes and public opinion, as seen in electoral campaigns, highlighting the need for
transparency and accountability in algorithmic decision-making.

-🤝 **Global Cooperation Needed**: To mitigate the risks associated with AI, international
regulatory frameworks are essential to ensure ethical standards and protect human rights,
emphasizing the need for collective responsibility in shaping AI's future.