Deep Learning Tutorial for begyndere: Neural Network Basics

Hvad er Deep Learning?

Deep Learning er en computersoftware, der efterligner netvรฆrket af neuroner i en hjerne. Det er en undergruppe af maskinlรฆring baseret pรฅ kunstige neurale netvรฆrk med reprรฆsentationslรฆring. Det kaldes deep learning, fordi det gรธr brug af dybe neurale netvรฆrk. Denne lรฆring kan vรฆre superviseret, semi-superviseret eller uovervรฅget.

Deep learning algoritmer er konstrueret med forbundne lag.

  • Det fรธrste lag kaldes Input Layer
  • Det sidste lag kaldes Output Layer
  • Alle lag derimellem kaldes skjulte lag. Ordet dyb betyder, at netvรฆrket forbinder neuroner i mere end to lag.
Deep Learning
Hvad er Deep Learning?

Hvert skjult lag er sammensat af neuroner. Neuronerne er forbundet med hinanden. Neuronet vil behandle og derefter udbrede inputsignalet, det modtager laget over det. Styrken af โ€‹โ€‹signalet givet neuronen i det nรฆste lag afhรฆnger af vรฆgten, bias og aktiveringsfunktionen.

Netvรฆrket bruger store mรฆngder inputdata og driver dem gennem flere lag; netvรฆrket kan lรฆre mere og mere komplekse funktioner i dataene pรฅ hvert lag.

Dyb lรฆringsproces

Et dybt neuralt netvรฆrk giver state-of-the-art nรธjagtighed i mange opgaver, fra objektgenkendelse til talegenkendelse. De kan lรฆre automatisk uden foruddefineret viden eksplicit kodet af programmรธrerne.

Dyb lรฆringsproces
Dyb lรฆringsproces

For at forstรฅ ideen om dyb lรฆring, forestil dig en familie med et spรฆdbarn og forรฆldre. Det lille barn peger pรฅ genstande med sin lillefinger og siger altid ordet 'kat'. Da hans forรฆldre er bekymrede for hans uddannelse, bliver de ved med at fortรฆlle ham 'Ja, det er en kat' eller 'Nej, det er ikke en kat.' Spรฆdbarnet bliver ved med at pege pรฅ genstande, men bliver mere prรฆcist med 'katte'. Den lille knรฆgt ved inderst inde ikke, hvorfor han kan sige, at det er en kat eller ej. Han har lige lรฆrt, hvordan man hierarkierer komplekse trรฆk, der kommer med en kat, ved at se pรฅ kรฆledyret overordnet og fortsรฆtte med at fokusere pรฅ detaljer sรฅsom halerne eller nรฆsen fรธr for at bestemme sig.

Et neuralt netvรฆrk fungerer ganske det samme. Hvert lag reprรฆsenterer et dybere niveau af viden, dvs. videnshierarkiet. Et neuralt netvรฆrk med fire lag vil lรฆre mere komplekse funktioner end med to lag.

Lรฆringen foregรฅr i to faser:

Fรธrste fase: Den fรธrste fase bestรฅr i at anvende en ikke-lineรฆr transformation af input og skabe en statistisk model som output.
Anden fase: Den anden fase sigter mod at forbedre modellen med en matematisk metode kendt som afledt.

Det neurale netvรฆrk gentager disse to faser hundreder til tusindvis af gange, indtil det har nรฅet et acceptabelt niveau af nรธjagtighed. Gentagelsen af โ€‹โ€‹denne to-fase kaldes en iteration.

For at give et Deep learning-eksempel, tag et kig pรฅ bevรฆgelsen nedenfor, modellen forsรธger at lรฆre at danse. Efter 10 minutters trรฆning ved modellen ikke, hvordan man danser, og det ligner en skribleri.

Dyb lรฆringsproces

Efter 48 timers lรฆring mestrer computeren kunsten at danse.

Dyb lรฆringsproces

Klassificering af neurale netvรฆrk

Overfladisk neuralt netvรฆrk: Det Shallow neurale netvรฆrk har kun รฉt skjult lag mellem input og output.

Dybt neuralt netvรฆrk: Dybe neurale netvรฆrk har mere end รฉt lag. For eksempel tรฆller Google LeNet-model til billedgenkendelse 22 lag.

I dag bruges deep learning pรฅ mange mรฅder som en fรธrerlรธs bil, mobiltelefon, Google-sรธgemaskine, svindeldetektion, tv og sรฅ videre.

Typer af dybe lรฆringsnetvรฆrk

Nu i denne Deep Neural Network tutorial vil vi lรฆre om typer af Deep Learning Networks:

Typer af dybe lรฆringsnetvรฆrk
Typer af dybe lรฆringsnetvรฆrk

Feed-forward neurale netvรฆrk

Den enkleste type kunstigt neurale netvรฆrk. Med denne type arkitektur flyder information kun i รฉn retning, fremad. Det betyder, at informationsstrรธmmene starter ved inputlaget, gรฅr til de "skjulte" lag og slutter ved outputlaget. Netvรฆrket

har ikke en lรธkke. Information stopper ved outputlagene.

Tilbagevendende neurale netvรฆrk (RNN'er)

RNN er et flerlags neuralt netvรฆrk, der kan gemme information i kontekstknuder, sรฅ det kan lรฆre datasekvenser og udlรฆse et tal eller en anden sekvens. Med enkle ord er det et kunstigt neuralt netvรฆrk, hvis forbindelser mellem neuroner inkluderer slรธjfer. RNN'er er velegnede til behandling af sekvenser af input.

Tilbagevendende neurale netvรฆrk

Gentagne neurale netvรฆrk

For eksempel, hvis opgaven er at forudsige det nรฆste ord i sรฆtningen โ€œVil du have enโ€ฆโ€ฆโ€ฆโ€ฆ?

  • RNN-neuronerne vil modtage et signal, der peger pรฅ begyndelsen af โ€‹โ€‹sรฆtningen.
  • Netvรฆrket modtager ordet "Do" som input og producerer en vektor af tallet. Denne vektor fรธres tilbage til neuronet for at give en hukommelse til netvรฆrket. Dette trin hjรฆlper netvรฆrket med at huske, at det modtog "Do", og det modtog det i den fรธrste position.
  • Netvรฆrket vil pรฅ samme mรฅde fortsรฆtte til de nรฆste ord. Det tager ordet "du" og "vil." Neuronernes tilstand opdateres ved modtagelse af hvert ord.
  • Den sidste fase opstรฅr efter at have modtaget ordet "a." Det neurale netvรฆrk vil give en sandsynlighed for hvert engelsk ord, der kan bruges til at fuldfรธre sรฆtningen. En veltrรฆnet RNN tildeler sandsynligvis en stor sandsynlighed til "cafรฉ", "drikke", "burger" osv.

Almindelige anvendelser af RNN

  • Hjรฆlp vรฆrdipapirhandlere med at generere analytiske rapporter
  • Opdag abnormiteter i kontrakten for regnskabet
  • Opdag svigagtig kreditkorttransaktion
  • Angiv en billedtekst til billeder
  • Power chatbots
  • Standardanvendelser af RNN forekommer, nรฅr praktikerne arbejder med tidsseriedata eller sekvenser (f.eks. lydoptagelser eller tekst).

Convolutionsneurale netvรฆrk (CNN)

CNN er et flerlags neuralt netvรฆrk med en unik arkitektur designet til at udtrรฆkke stadigt mere komplekse funktioner i dataene pรฅ hvert lag for at bestemme outputtet. CNN'er er velegnede til perceptuelle opgaver.

Konvolutionelt neuralt netvรฆrk

Konvolutionelt neuralt netvรฆrk

CNN bruges mest, nรฅr der er et ustruktureret datasรฆt (f.eks. billeder), og praktiserende lรฆger skal udtrรฆkke information fra det.

For eksempel, hvis opgaven er at forudsige en billedtekst:

  • CNN modtager et billede af lad os sige en kat, dette billede er i computertermer en samling af pixlen. Generelt et lag til grรฅtonebilledet og tre lag til et farvebillede.
  • Under funktionsindlรฆringen (dvs. skjulte lag) vil netvรฆrket identificere unikke funktioner, for eksempel kattens hale, รธret osv.
  • Nรฅr netvรฆrket grundigt lรฆrte at genkende et billede, kan det give en sandsynlighed for hvert billede, det kender. Etiketten med stรธrst sandsynlighed bliver netvรฆrkets forudsigelse.

Forstรฆrkningslรฆring

Forstรฆrkning lรฆring er et underomrรฅde af maskinlรฆring, hvor systemer trรฆnes ved at modtage virtuelle "belรธnninger" eller "straffe", i det vรฆsentlige lรฆring ved forsรธg og fejl. Googles DeepMind har brugt forstรฆrkningslรฆring til at slรฅ en menneskelig mester i Go-spillene. Forstรฆrkende lรฆring bruges ogsรฅ i videospil for at forbedre spiloplevelsen ved at levere smartere bots.

En af de mest kendte algoritmer er:

  • Q-lรฆring
  • Dybt Q-netvรฆrk
  • State-Action-Reward-State-Action (SARSA)
  • Deep Deterministic Policy Gradient (DDPG)

Eksempler pรฅ deep learning-applikationer

Lad os nu i denne Deep Learning for begyndere-tutorial lรฆre om Deep Learning-applikationer:

AI i finans

Den finansielle teknologisektor er allerede begyndt at bruge kunstig intelligens til at spare tid, reducere omkostninger og tilfรธje vรฆrdi. Deep learning รฆndrer lรฅnebranchen ved at bruge mere robust kreditvurdering. Kreditbeslutningstagere kan bruge AI til robuste kreditlรฅnsansรธgninger for at opnรฅ hurtigere og mere prรฆcis risikovurdering ved at bruge maskinel intelligens til at tage hensyn til ansรธgernes karakter og kapacitet.

Underwrite er en Fintech-virksomhed, der leverer en kunstig intelligens-lรธsning til kreditskabende virksomheder. underwrite.ai bruger AI til at opdage, hvilken ansรธger der er mere tilbรธjelig til at betale et lรฅn tilbage. Deres tilgang overgรฅr radikalt traditionelle metoder.

AI i HR

Under Armour, et sportstรธjsfirma revolutionerer ansรฆttelser og moderniserer kandidatoplevelsen ved hjรฆlp af kunstig intelligens. Faktisk reducerer Under Armour ansรฆttelsestiden til sine detailbutikker med 35 %. Under Armour stod over for en voksende popularitet tilbage i 2012. De havde i gennemsnit 30000 CV'er om mรฅneden. Det tog for lang tid at lรฆse alle disse ansรธgninger og begynde at starte screening- og interviewprocessen. Den langvarige proces for at fรฅ folk ansat og ombord pรฅvirkede Under Armours evne til at have deres detailbutikker fuldt bemandet, rampet og klar til drift.

Pรฅ det tidspunkt havde Under Armour al den "must have" HR-teknologi pรฅ plads, sรฅsom transaktionslรธsninger til sourcing, applicering, sporing og onboarding, men disse vรฆrktรธjer var ikke nyttige nok. Vรฆlg under rustning HireVue, en AI-udbyder til HR-lรธsning, til bรฅde on-demand og live interviews. Resultaterne var bluffende; de formรฅede at reducere med 35 % af tiden til at fylde. Til gengรฆld hyrede de ansatte af hรธjere kvalitet.

AI i marketing

AI er et vรฆrdifuldt vรฆrktรธj til kundeservicestyring og personaliseringsudfordringer. Forbedret talegenkendelse i callcenterstyring og opkaldsdirigering som et resultat af anvendelsen af โ€‹โ€‹AI-teknikker giver kunderne en mere problemfri oplevelse.

For eksempel giver deep-learning-analyse af lyd systemerne mulighed for at vurdere en kundes fรธlelsesmรฆssige tone. Hvis kunden reagerer dรฅrligt pรฅ AI chatbot, kan systemet omdirigeres samtalen til rigtige, menneskelige operatรธrer, der overtager problemet.

Bortset fra de tre Deep learning-eksempler ovenfor, er AI meget brugt i andre sektorer/industrier.

Hvorfor er Deep Learning vigtigt?

Deep learning er et kraftfuldt vรฆrktรธj til at gรธre forudsigelse til et brugbart resultat. Dyb lรฆring udmรฆrker sig ved mรธnsteropdagelse (uovervรฅget lรฆring) og vidensbaseret forudsigelse. Big data er brรฆndstoffet til dyb lรฆring. Nรฅr begge er kombineret, kan en organisation hรธste hidtil usete resultater med hensyn til produktivitet, salg, ledelse og innovation.

Dyb lรฆring kan overgรฅ traditionel metode. For eksempel er deep learning-algoritmer 41 % mere nรธjagtige end maskinlรฆringsalgoritmer i billedklassificering, 27 % mere prรฆcise i ansigtsgenkendelse og 25 % i stemmegenkendelse.

Begrรฆnsninger ved dyb lรฆring

Nu i denne Neurale netvรฆrk tutorial, vil vi lรฆre om begrรฆnsninger af Deep Learning:

Datamรฆrkning

De fleste nuvรฆrende AI-modeller trรฆnes gennem "overvรฅget lรฆring". Det betyder, at mennesker skal mรฆrke og kategorisere de underliggende data, hvilket kan vรฆre en betydelig og fejltilbรธjelig opgave. For eksempel ansรฆtter virksomheder, der udvikler selvkรธrende bilteknologier, hundredvis af mennesker til manuelt at kommentere timevis af videofeeds fra prototypebiler for at hjรฆlpe med at trรฆne disse systemer.

Fรฅ enorme trรฆningsdatasรฆt

Det har vist sig, at simple deep learning-teknikker som CNN i nogle tilfรฆlde kan efterligne viden fra eksperter inden for medicin og andre omrรฅder. Den nuvรฆrende bรธlge af machine learningkrรฆver dog trรฆningsdatasรฆt, der ikke kun er mรฆrket, men ogsรฅ er tilstrรฆkkeligt brede og universelle.

Dyblรฆringsmetoder krรฆvede tusindvis af observationer, for at modeller kunne blive relativt gode til klassificeringsopgaver, og i nogle tilfรฆlde millioner for dem at udfรธre pรฅ menneskers niveau. Uden overraskelse er deep learning berรธmt i gigantiske teknologivirksomheder; de bruger big data til at akkumulere petabytes af data. Det giver dem mulighed for at skabe en imponerende og meget prรฆcis dyb lรฆringsmodel.

Forklar et problem

Store og komplekse modeller kan vรฆre svรฆre at forklare i menneskelige termer. For eksempel hvorfor en bestemt beslutning blev opnรฅet. Det er en grund til, at accepten af โ€‹โ€‹nogle AI-vรฆrktรธjer er langsom i applikationsomrรฅder, hvor fortolkning er nyttig eller faktisk pรฅkrรฆvet.

Ydermere, efterhรฅnden som anvendelsen af โ€‹โ€‹AI udvides, kan regulatoriske krav ogsรฅ drive behovet for mere forklarlige AI-modeller.

Resumรฉ

Overblik over dyb lรฆring: Dyb lรฆring er det nye state-of-the-art til kunstig intelligens. Deep learning-arkitektur er sammensat af et inputlag, skjulte lag og et outputlag. Ordet dyb betyder, at der er mere end to fuldt forbundne lag.

Der er en stor mรฆngde neurale netvรฆrk, hvor hver arkitektur er designet til at udfรธre en given opgave. For eksempel fungerer CNN meget godt med billeder, RNN giver imponerende resultater med tidsserier og tekstanalyse.

Deep learning er nu aktiv inden for forskellige omrรฅder, fra รธkonomi til marketing, forsyningskรฆde og marketing. Store virksomheder er de fรธrste til at bruge deep learning, fordi de allerede har en stor pulje af data. Dyb lรฆring krรฆver at have et omfattende trรฆningsdatasรฆt.

Opsummer dette indlรฆg med: