Przejdź do zawartości

Uczenie głębokie

Z Wikipedii, wolnej encyklopedii
(Przekierowano z Deep learning)
Uczenie głębokie w kontekście SI

Uczenie głębokie (ang. deep learning) – podkategoria uczenia maszynowego (ang. machine learning), polegająca na uczeniu[1] głębokich sieci neuronowych[2] (sieci z wieloma poziomami neuronów). Stuart Russell i Peter Norvig definiują uczenie głębokie jako termin odnoszący się do uczenia maszynowego wykorzystującego sieci neuronowe składające się z wielu warstw, z których każda składa się z prostych, konfigurowalnych elementów obliczeniowych (popularnie zwane neuronami lub węzłami)[3].

Główne zastosowanie technik uczenia głębokiego to m.in. automatyczne przetwarzanie mowy, rozpoznawanie obrazów i przetwarzania języka naturalnego.

Głębokie uczenie to nowe rozwiązanie oparte na sieciach wielowarstwowych, w którym wzory w danych wejściowych rozpoznawane są na różnych poziomach hierarchicznych. Innymi słowy, głębokie uczenie odkrywa wielopoziomową reprezentację wiedzy – np. piksele są istotne dla detekcji kontrastu, to z kolei dla wykrywania krawędzi, to dalej dla wykrywania kształtu, to następnie dla wykrywania części obiektów, to ostatecznie dla wykrywania obiektów[4][5].

Jednymi z najbardziej popularnych architektur sieci neuronowych są sieci rekurencyjne, sieci konwolucyjne, sieci generatywne GAN czy transformer[6][7][8].

Wczesne formy sieci neuronowych były inspirowane metodami przetwarzania informacji i rozmieszczenia elementów komunikacji w układach narządów, szczególnie w mózgowiu człowieka, jednak aktualne sieci neuronowe nie skupiają się na modelowaniu funkcji mózgu i są postrzegane jako modele o niskim stopniu odwzorowania[9].

Historia

[edytuj | edytuj kod]

Uczenie głębokie powstało w latach 80. XX wieku (dzięki Jürgenowi Schmidhuberowi)[4]. Cześć badaczy wiąże powstanie sieci głębokich z pracami ukraińskiego uczonego, Ołeksij Hryhorowycz Iwachnenko[10][11]. Istotny wkład w rozwój uczenia głębokiego miało wynalezienie sieci konwulencyjnych przez Kunihiko Fukushimę, a następnie ich ulepszenie przez Yanna LeCuna (w latach 90.XX w. zaprojektowane przez niego sieci znakomicie radziły sobie z rozpoznawaniem odręcznie napisanych cyfr) i Yoshuę Bengio[12][13]. Dziedzina ta eksplodowała na początku XXI wieku, gdy Geofrrey Hinton przedstawił skuteczną metodę (maszyna Boltzmana z ograniczeniami) umożliwiającą sieciom wielowarstwowym odkrywanie relacji na wielu poziomach [Hinton i in, 2006][4][14]. Od około 2010 roku mówimy o rewolucji uczenia maszynowego opartego na uczeniu głębokim, czego zwieńczeniem była najpierw Nagroda Turinga[13] dla Hintona, LeCuna i Bengio w 2018 roku, a następnie nagroda Nobla z fizyki dla Hintona i Hopfielda w 2024 roku[15] oraz nagroda Nobla z chemii dla Davida Bakera, Demisa Hassabisa i Johna Jumpera[16]. Przełomowym wydarzeniem w tym zakresie było zwycięstwo sieci głebokiej AlexNet zaprojektowanej przez zespół Hintona w konkursie ImageNet w 2012 roku[3][17].

Sposób działania

[edytuj | edytuj kod]
Sieć wielowarstwowa z tzw. ukrytymi warstwami

Sieci neuronowe są głębokie, ponieważ struktura tych sieci składa się z wielu warstw sztucznych neuronów. Proste sieci neuronowe można zaprojektować ręcznie tak, by konkretna warstwa wykrywała konkretne cechy, a uczenie się polega na ustaleniu odpowiednich wag. W dużych sieciach neuronowych proces głębokiego uczenia jest do pewnego stopnia samodzielny - to znaczy sieć nie jest projektowana pod wykrywanie konkretnych cech, lecz wykrywa je na podstawie przetwarzania odpowiednio oznaczonych zbiorów danych. Zarówno takie zbiory, jak i sam sposób działania sieci muszą być przygotowane przez specjalistów, ale cechy wykrywa już sam program. Dzięki temu możliwe jest przetworzenie wielkiej ilości danych, a sieć może automatycznie nauczyć się reprezentacji cech wyższego poziomu, co oznacza, że mogą one wykryć skomplikowane wzorce w danych wejściowych[18][19].

Współczesne głębokie sieci neuronowe są jednokierunkowe (feed-forward, czasem z elementami rekurencyjnymi) i działają w zupełnie innym paradygmacie niż dawne modele oparte na minimalizacji energii (np. sieci Hopfielda)[20].

Podstawową zasadą ich działania jest minimalizacja błędu (loss) – sieć uczy się tak dobierać swoje parametry, aby w warstwie wyjściowej przypisywać jak największe prawdopodobieństwo poprawnej odpowiedzi. Wyjście sieci ma często formę wektora prawdopodobieństw (np. „kot” vs. „pies”), uzyskanych przez normalizację wartości neuronów wyjściowych[20].

W procesie treningu sieć otrzymuje dane wejściowe (np. obraz) i aktualizuje wagi poprzez propagację wsteczną, tak aby jak najlepiej odwzorować oczekiwane etykiety. Zamiast „przyciągania” do zapamiętanych wzorców – jak w modelach energetycznych – sieć uczy się funkcji odwzorowującej wejścia na prawdopodobne wyjścia[20].

Wkład Geoffreya Hintona był kluczowy dla rozwoju tej dziedziny – m.in. zaproponował efektywne metody trenowania głębokich sieci, korzystając z maszyn Boltzmanna, co otworzyło drogę do współczesnego głębokiego uczenia[20].

Zastosowania

[edytuj | edytuj kod]
Obraz nieistniejącej osoby wygenerowany przez model bazujący na sieci GAN
  • Automatyczne rozpoznawanie i przetwarzanie mowy na tekst[21][22].
  • Przetwarzanie języka naturalnego, wykrywanie znaczeń i tłumaczenie na inny język[23][24].
  • Rozpoznawanie obiektów na obrazach w tym na filmach (nadawanie etykiet i oznaczanie)[24]. W tym również analiza obrazu medycznego i diagnostyka[23][25].
  • Bioinformatyka i projektowanie leków[26][25].
  • Rekonstrukcja obrazu ze słabej jakości obrazku (powiększanie bez widocznej straty jakości, dodawanie kolorów)[24][27][28].
  • Generowanie sztucznych obrazów i filmów (deepfake, wspomaganie pracy grafików)[24][29].
  • Systemy rekomendacji (książki do przeczytania, filmy do obejrzenia, zakupy itp.)[23].
  • Wykrywanie oszustw finansowych i innych anomalii w danych (np. zwalczanie dezinformacji i cyberbezpieczeństwo)[23][25].
  • Automatyczni asystenci, obsługa hoteli i restauracji, czatboty[23].
  • Automatyczne samochody i systemy wspomagające prowadzenie auta[23][24].

Przypisy

[edytuj | edytuj kod]
  1. ↑ Uczenie jest to proces oparty na prezentacji przypadków uczących (przykładów prawidłowo rozwiązanych zadań) należących do zbioru uczącego. W trakcie tych pokazów następuje stopniowe dopasowywanie się sieci do tego, by nabyła ona umiejętność rozwiązywania tych zadań. Dopasowywanie to opiera się na porównywaniu odpowiedzi udzielanych przez sieć z odpowiedziami wzorcowymi. Wprowadzana korekta błędu powoduje, że sieć po każdej prezentacji zwiększa szansę udzielenia odpowiedzi bardziej zbliżonej do odpowiedzi wzorcowej, a ponadto zmierza się do tego, żeby sieć uogólniła wyuczoną umiejętność na inne, podobne zadania, nieprezentowane w trakcie uczenia (generalizacja).Formalnie uczenie można określić jako iteracyjny proces estymacji optymalnych wartości parametrów sieci (najczęściej wag) na podstawie zbioru uczącego. Metodę zmiany wag w trakcie procesu uczenia wyznacza używany algorytm uczenia. Za: R.Tadeusiewicz, M.Szaleniec, Leksykon sieci neuronowych,2015, s.109.
  2. ↑ A deep neural network (or deep network for short) is a type of machine learning model, and the process of fitting these models to data is referred to as deep learning. Za: Simon J.D.Prince, Understanding Deep Learning, 2025, MIT Press,s.1.
  3. 1 2 S.Russell, P.Norvig, Sztuczna inteligencja.Nowe spojrzenie.Wydanie IV, Tom 1, Helion, Gliwice, 2023, s.45.
  4. 1 2 3 M.A.Boden, Sztuczna inteligencja. Jej natura i przyszłość, Wydawnictwo Uniwersytetu Łódzkiego, Łódź, 2020, s.62.
  5. ↑ Yann LeCun, Yoshua Bengio, Geoffrey Hinton, Deep learning, „Nature”, 521 (7553), 2015, s. 436–444, DOI: 10.1038/nature14539, ISSN 1476-4687 [dostęp 2025-11-25] (ang.).
  6. ↑ Yoshua Bengio, Learning Deep Architectures for AI, „Foundations and Trends® in Machine Learning”, 2 (1), 2009, s. 1–127, DOI: 10.1561/2200000006, ISSN 1935-8237 [dostęp 2025-04-09] (ang.).
  7. ↑ Google’s AlphaGo AI wins three-match series against the world’s best Go player – TechCrunch [online], web.archive.org, 17 czerwca 2018 [dostęp 2025-04-09] [zarchiwizowane z adresu 2018-06-17].
  8. ↑ Dan Cireşan, Ueli Meier, Juergen Schmidhuber, Multi-column Deep Neural Networks for Image Classification, arXiv, 13 lutego 2012, DOI: 10.48550/arXiv.1202.2745 [dostęp 2025-04-09].
  9. ↑ Study urges caution when comparing neural networks to the brain [online], MIT News | Massachusetts Institute of Technology, 2 listopada 2022 [dostęp 2025-04-09] (ang.).
  10. ↑ Ivakhnenko, A. G. and Lapa, V. G. (1965). Cybernetic Predicting Devices. CCM Information Corporation. First working Deep Learners with many layers, learning internal representations.
  11. ↑ Juergen Schmidhuber, Deep Learning in Neural Networks: An Overview, arXiv, 8 października 2014, DOI: 10.48550/arXiv.1404.7828 [dostęp 2025-11-25].
  12. ↑ Nobel Prize in Physics 2024 [online], NobelPrize.org [dostęp 2025-11-25] (ang.).
  13. 1 2 2018 ACM A.M. Turing Award Laureates [online], awards.acm.org [dostęp 2025-11-27] (ang.).
  14. ↑ Geoffrey E. Hinton, Simon Osindero, Yee-Whye Teh, A Fast Learning Algorithm for Deep Belief Nets, „Neural Computation”, 18 (7), 2006, s. 1527–1554, DOI: 10.1162/neco.2006.18.7.1527, ISSN 0899-7667 [dostęp 2025-11-25] (ang.).
  15. ↑ Nobel Prize in Physics 2024 [online], NobelPrize.org [dostęp 2025-11-25] (ang.).
  16. ↑ Nobel Prize in Chemistry 2024 [online], NobelPrize.org [dostęp 2025-11-26] (ang.).
  17. ↑ Wydział Fizyki, Uniwersytet Warszawski, Piotr Durka, Sztuczne inteligencje i biologiczne mózgi, „Postępy Fizyki”, 76 (1), 2025, s. 3–12, DOI: 10.61947/uw.PF.2025.76.1.3-12 [dostęp 2025-11-26].
  18. ↑ lgayhardt, Deep learning vs. machine learning – Azure Machine Learning [online], docs.microsoft.com [dostęp 2022-04-26] (ang.).
  19. ↑ Guillaume Chassagnon, Maria Vakalopolou, Nikos Paragios, Marie-Pierre Revel, Deep learning: definition and perspectives for thoracic imaging, „European Radiology”, 30 (4), 2020, s. 2021–2030, DOI: 10.1007/s00330-019-06564-3, ISSN 0938-7994 [dostęp 2023-03-22] (ang.).
  20. 1 2 3 4 QaL⟩ Applied Quantum Algorithms – Lorentz Insitute for Theoretical Physics & Leiden Institute of Advanced Computer Science, Uniwersytet w Lejdzie, Holandia, Anna Dawid, Ktokolwiek widział, ktokolwiek wie! Ukradziono Nagrodę Nobla z fizyki!, „Postępy Fizyki”, 75 (3-4), 2024, s. 12–16, DOI: 10.61947/uw.PF.2024.75.3-4.12-16 [dostęp 2025-11-26].
  21. ↑ Gražina Korvel, Povilas Treigys, Gintautas Tamulevicus, Jolita Bernataviciene, Bozena Kostek, Analysis of 2D Feature Spaces for Deep Learning-Based Speech Recognition, „Journal of the Audio Engineering Society”, 66 (12), 2018, s. 1072–1081, DOI: 10.17743/jaes.2018.0066 [dostęp 2023-03-22] (ang.).
  22. ↑ Dario Radečić, How to Automatically Timestamp, Transcribe, and Summarize YouTube Videos with Deep Learning [online], Geek Culture, 5 marca 2022 [dostęp 2023-03-22] (ang.).
  23. 1 2 3 4 5 6 Sztuczna inteligencja: co to jest i jakie ma zastosowania? [online], www.europarl.europa.eu, 9 kwietnia 2020 [dostęp 2023-03-22] (pol.).
  24. 1 2 3 4 5 Yaron Hadad, 30 amazing applications of deep learning [online], Yaron Hadad, 16 marca 2017 [dostęp 2023-03-22] (ang.).
  25. 1 2 3 Daniel Gutierrez, Deep Learning and AI Success Stories [online], insideBIGDATA, 15 marca 2017 [dostęp 2023-03-22] (ang.).
  26. ↑ Xiaoqian Lin, Xiu Li, Xubo Lin, A Review on Applications of Computational Methods in Drug Screening and Design, „Molecules”, 25 (6), 2020, s. 1375, DOI: 10.3390/molecules25061375, ISSN 1420-3049 [dostęp 2022-06-21] (ang.).
  27. ↑ Kristi Pelzel, Adobe’s machine learning model makes low resolution photos high resolution, instantly. [online], Upskilling, 14 sierpnia 2021 [dostęp 2023-03-22] (ang.).
  28. ↑ Jamshed Khan, StyleGANs: Use machine learning to generate and customize realistic images [online], Medium, 24 września 2021 [dostęp 2023-03-22] (ang.).
  29. ↑ 10 Best AI Art Generators (March 2023) – Unite.AI [online], www.unite.ai [dostęp 2023-03-22].
Źródło: „https://pl.wikipedia.org/w/index.php?title=Uczenie_głębokie&oldid=79803973”