Wprowadzenie do algebry liniowej w uczeniu maszynowym
Algebra liniowa jest częścią matematyki, która obejmuje równania liniowe i ich reprezentacje poprzez macierze i przestrzenie wektorowe. Pomaga w opisie funkcji algorytmów i ich implementacji. Jest on używany z danymi tabelarycznymi lub obrazami, aby lepiej dostosować algorytmy, aby uzyskać najlepszy wynik. W tym temacie dowiemy się o algebrze liniowej w uczeniu maszynowym.
Matryca: jest to tablica liczb w kształcie prostokąta reprezentowana przez rzędy i kolumny.
Przykład:
Wektor: wektor to wiersz lub kolumna macierzy.
Przykład:
Tensor: Tensory to tablica liczb lub funkcji, które transmitują z pewnymi regułami, gdy zmienia się współrzędna.
Jak działa algebra liniowa w uczeniu maszynowym?
Ponieważ uczenie maszynowe stanowi punkt kontaktowy dla informatyki i statystyki, Linear Algebra pomaga w łączeniu nauki, technologii, finansów i rachunków oraz handlu. Numpy to biblioteka w Pythonie, która działa na wielowymiarowych tablicach do obliczeń naukowych w Data Science i ML.
Algebra liniowa działa na różne sposoby, co znajduje odzwierciedlenie w niektórych przykładach wymienionych poniżej:
1. Zbiór danych i pliki danych
Dane to macierz lub struktura danych w algebrze liniowej. Zestaw danych zawiera zestaw liczb lub danych w formie tabelarycznej. Rzędy reprezentują obserwacje, podczas gdy kolumny reprezentują jego cechy. Każdy rząd ma tę samą długość. Dane są więc wektoryzowane. Rzędy są wstępnie skonfigurowane i są wstawiane do modelu pojedynczo, aby ułatwić i uzyskać autentyczne obliczenia.
2. Obrazy i fotografie
Wszystkie obrazy mają strukturę tabelaryczną. Każda komórka na czarno-białych obrazach zawiera wysokość, szerokość i wartość jednego piksela. Podobnie kolorowe obrazy mają 3-pikselowe wartości oprócz wysokości i szerokości. Tworzy macierz w algebrze liniowej. Wszystkie rodzaje edycji, takie jak przycinanie, skalowanie itp. Oraz techniki manipulacji są wykonywane przy użyciu operacji algebraicznych.
3. Regularyzacja
Regulararyzacja to metoda, która minimalizuje wielkość współczynników podczas wstawiania jej do danych. L1 i L2 są jednymi z powszechnych metod implementacji w regularyzacji, które są miarami wielkości współczynników w wektorze.
4. Dogłębne uczenie się
Ta metoda jest najczęściej stosowana w sieciach neuronowych z różnymi rzeczywistymi rozwiązaniami, takimi jak tłumaczenie maszynowe, podpisywanie zdjęć, rozpoznawanie mowy i wiele innych dziedzin. Działa z wektorami, macierzami, a nawet tensorami, ponieważ wymaga liniowych struktur danych dodawanych i mnożonych razem.
5. Jedno kodowanie na gorąco
Jest to popularne kodowanie zmiennych jakościowych dla łatwiejszych operacji w algebrze. Tabela składa się z jednej kolumny dla każdej kategorii i wiersza dla każdego przykładu. Cyfra 1 jest dodawana dla wartości kategorialnej, której w pozostałych przypadkach udało się 0, i tak dalej, jak cytowano poniżej:
6. Regresja liniowa
Regresja liniowa, jedna z metod statystycznych, służy do przewidywania wartości liczbowych problemów regresji, a także do opisywania zależności między zmiennymi.
Przykład: y = A. b gdzie A jest zbiorem danych lub macierzą, b jest współczynnikiem, a y jest wynikiem.
7. Analiza głównych składników lub PCA
Analiza głównych składników ma zastosowanie podczas pracy z wielowymiarowymi danymi do wizualizacji i operacji modelowych. Kiedy znajdziemy nieistotne dane, mamy tendencję do usuwania zbędnych kolumn. PCA działa więc jako rozwiązanie. Faktoryzacja macierzy jest głównym celem PCA.
8. Rozkład pojedynczej wartości lub SVD
Jest to również metoda faktoryzacji macierzy stosowana ogólnie w wizualizacji, redukcji hałasu itp.
9. Utajona analiza semantyczna
W tym procesie dokumenty są przedstawiane jako duże matryce. Dokument przetwarzany w tych matrycach jest łatwy do porównania, zapytania i użycia. Konstruuje się macierz, w której wiersze reprezentują słowa, a kolumny - dokumenty. SVD służy do zmniejszenia liczby kolumn przy zachowaniu podobieństwa.
10. Systemy rekomendujące
Modele predykcyjne opierają się na zaleceniach produktów. Za pomocą Algebry liniowej funkcje SVD oczyszczają dane przy użyciu euklidesowych produktów odległości lub kropek. Na przykład, kiedy kupujemy książkę na Amazon, rekomendacje przychodzą na podstawie naszej historii zakupów, pomijając inne nieistotne przedmioty.
Zalety algebry liniowej w uczeniu maszynowym
- Działa jako solidny fundament uczenia maszynowego dzięki włączeniu zarówno matematyki, jak i statystyki.
Zarówno tabelaryczne, jak i obrazy mogą być używane w liniowych strukturach danych. - Ma również charakter dystrybucyjny, asocjacyjny i komunikacyjny.
- Jest to proste, konstruktywne i wszechstronne podejście do ML.
- Algebra liniowa ma zastosowanie w wielu dziedzinach, takich jak przewidywanie, analiza sygnałów, rozpoznawanie twarzy itp.
Funkcje algebry liniowej w uczeniu maszynowym
Istnieje kilka funkcji algebry liniowej, które są niezbędne w operacjach ML i Data Science, jak opisano poniżej:
1. Funkcja liniowa
Algorytm regresji liniowej wykorzystuje funkcję liniową, w której sygnał wyjściowy jest ciągły i ma stałe nachylenie. Funkcje liniowe mają na wykresie linię prostą.
F (x) = mx + b
Gdzie F (x) jest wartością funkcji,
m jest nachyleniem linii,
b jest wartością funkcji, gdy x = 0,
x jest wartością współrzędnej x.
Przykład: y = 5x + 25
Niech x = 0, a następnie y = 5 * 1 + 25 = 25
Niech x = 2, a następnie y = 5 * 2 + 25 = 40
2. Funkcja tożsamości
Funkcja tożsamości objęta jest nienadzorowanym algorytmem i jest najczęściej używana w sieciach neuronowych w ML, gdzie moc wyjściowa wielowarstwowej sieci neuronowej jest równa jej wejściu, jak cytowano poniżej:
Dla każdego x, f (x) mapuje na x, tj. X mapuje na siebie.
Przykład: x + 0 = x
x / 1 = x
1 --–> 1
2 --–> 2
3 --–> 3
3. Skład
ML wykorzystuje funkcje kompozycyjne i potokowe wyższego rzędu w swoich algorytmach do obliczeń matematycznych i wizualizacji. Funkcja kompozycji jest opisana poniżej:
(gof) (x) = g (f (x))
Przykład: niech g (y) = y
f (x) = x + 1
gof (x + 1) = x + 1
4. Funkcja odwrotna
Odwrotność jest funkcją, która się odwraca. Funkcje f i g są odwrotne, jeśli mgła i gof są zdefiniowane i są funkcjami tożsamości
Przykład:
5. Funkcja odwracalna
Funkcja odwrotna jest odwracalna.
Jeden na jednego
na
Wniosek
Algebra liniowa to podpola matematyki. Ma jednak szersze zastosowanie w uczeniu maszynowym, od notacji po implementację algorytmów w zestawach danych i obrazach. Z pomocą ML algebra ma większy wpływ na rzeczywiste aplikacje, takie jak analiza wyszukiwarek, rozpoznawanie twarzy, przewidywania, grafika komputerowa itp.
Polecane artykuły
Jest to przewodnik po algebrze liniowej w uczeniu maszynowym. Tutaj omawiamy, jak Algebra liniowa działała w uczeniu maszynowym z zaletami i niektórymi przykładami. Możesz także spojrzeć na następujący artykuł.
- Uczenie maszynowe hiperparametrów
- Grupowanie w uczenie maszynowe
- Uczenie maszynowe danych
- Uczenie maszynowe bez nadzoru
- Różnica między regresją liniową a regresją logistyczną