Machine learning

社課 - 1

lecturer : lemon

topic : intro & math

math class -- LINEAR ALGEBRA

v = \begin{bmatrix} a_{1}\\a_{2}\\a_{3}\end{bmatrix}\quad

v = \begin{bmatrix} a_{1}\\a_{2}\\a_{3}\end{bmatrix}\quad

這是一個 3-dimensional vector

一個數字就是一個維度 => 三圍維向量

我們通常以小寫字母表示一個向量

對於一個 $n$ 維向量 $v$ ，我們寫作 $v \in R^{n}$

math class -- LINEAR ALGEBRA

M = \begin{bmatrix} a_{1,1}&a_{1, 2}\\a_{2, 1}&a_{2, 2}\\a_{3, 1}&a_{3, 2} \end{bmatrix}

M = \begin{bmatrix} a_{1,1}&a_{1, 2}\\a_{2, 1}&a_{2, 2}\\a_{3, 1}&a_{3, 2} \end{bmatrix}

這是一個 3 by 2-dimensional matrix

有三列(row, 橫的)、兩行(column, 直的)

我們通常以大寫字母表示一個矩陣

對於一個 $n \times m$ 的矩陣 $M$ ，我們寫作 $M \in R^{n \times m}$

明顯地，當 $n \neq m,\ R^{n \times m}\ \neq R^{m \times n}$

math class -- LINEAR ALGEBRA

v = \begin{bmatrix} a_{1}\\a_{2}\\a_{3}\end{bmatrix}\quad

v = \begin{bmatrix} a_{1}\\a_{2}\\a_{3}\end{bmatrix}\quad

看看左邊的向量，我們可以發現：

它是一個 3-dimensional vector

也是一個 3 by 1-dimensional matrix

~~這是替身攻擊！~~

R^{n} = R^{n \times 1}

R^{n} = R^{n \times 1}

也就是說

我們可以把向量看成是一種矩陣的特殊情況

~~所以後面我都只講矩陣~~(摸頭燦笑

math class -- LINEAR ALGEBRA

矩陣和向量是可以跟一般的常數做乘法

其實就把矩陣中的每個東西都拿來乘而已

對常數k,\ 矩陣M = \begin{bmatrix}a_{1,1}&a_{1,2}\\a_{2,1}&a_{2,2}\end{bmatrix}

對常數k,\ 矩陣M = \begin{bmatrix}a_{1,1}&a_{1,2}\\a_{2,1}&a_{2,2}\end{bmatrix}

M \times k = \begin{bmatrix}a_{1,1} \times k&a_{1,2} \times k\\a_{2,1} \times k&a_{2,2} \times k\end{bmatrix}\\

M \times k = \begin{bmatrix}a_{1,1} \times k&a_{1,2} \times k\\a_{2,1} \times k&a_{2,2} \times k\end{bmatrix}\\

math class -- linear algebra

M_1 = \begin{bmatrix} a_{1,1}&a_{1,2}\\a_{2,1}&a_{2, 2}\\a_{3, 1}&a_{3, 2}\end{bmatrix},\quad M_2 = \begin{bmatrix} b_{1,1}&b_{1,2}\\b_{2,1}&b_{2, 2}\\b_{3, 1}&b_{3, 2}\end{bmatrix}

M_1 = \begin{bmatrix} a_{1,1}&a_{1,2}\\a_{2,1}&a_{2, 2}\\a_{3, 1}&a_{3, 2}\end{bmatrix},\quad M_2 = \begin{bmatrix} b_{1,1}&b_{1,2}\\b_{2,1}&b_{2, 2}\\b_{3, 1}&b_{3, 2}\end{bmatrix}

M_{1} \pm M_{2} = \begin{bmatrix}a_{1,1} \pm b_{1,1}&a_{1,2} \pm b_{1,2} \\ a_{2,1} \pm b_{2,1}&a_{2,2} \pm b_{2, 2} \\ a_{3,1} \pm b_{3,1}&a_{3,2} \pm b_{3, 2} \end{bmatrix}

M_{1} \pm M_{2} = \begin{bmatrix}a_{1,1} \pm b_{1,1}&a_{1,2} \pm b_{1,2} \\ a_{2,1} \pm b_{2,1}&a_{2,2} \pm b_{2, 2} \\ a_{3,1} \pm b_{3,1}&a_{3,2} \pm b_{3, 2} \end{bmatrix}

直接加(減)就對ㄌ ( $M_1的維度要等於M_2$ )

math class -- linear algebra

M_1 = \begin{bmatrix} a_{1,1}&a_{1,2}\\a_{2,1}&a_{2, 2}\\a_{3, 1}&a_{3, 2}\end{bmatrix},\quad M_2 = \begin{bmatrix} b_{1,1}&b_{1,2}&b_{1,3}\\b_{2,1}&b_{2,2}&b_{2,3}\end{bmatrix}

M_1 = \begin{bmatrix} a_{1,1}&a_{1,2}\\a_{2,1}&a_{2, 2}\\a_{3, 1}&a_{3, 2}\end{bmatrix},\quad M_2 = \begin{bmatrix} b_{1,1}&b_{1,2}&b_{1,3}\\b_{2,1}&b_{2,2}&b_{2,3}\end{bmatrix}

乘法比較麻煩 QAQ

只有在 $A \in R^{n \times m}\ 且\ B \in R^{m \times k}$ 乘法才有意義

得到的結果 $A \times B \in R^{n \times k}$

上面的栗子：

M_1 \times M_2 \in R^{3 \times 3}\ 而\ M_2 \times M_1 \in R^{2 \times 2}\

math class -- linear algebra

來個小測驗(~~確定大家的腦袋還沒燒掉~~

假設 $a \in R^{20},\ B \in R^{15 \times 20}$

因為檸檬不太會這題

請告訴檸檬 $a \times B\ 和\ B \times a\ 的維度$ 是多少？

(A) $R^{20 \times 15},\ R^{15 \times 1}$

(B) $R^{15 \times 20},\ 無意義$

(D) 我知道答案，但我不想告訴他

math class -- linear algebra

所以矩陣乘法到底怎麼算？

M_1 = \begin{bmatrix} 3&1 \\ 4&5 \\ 2&2 \end{bmatrix},\ M_2 = \begin{bmatrix} 3&1&2 \\ 4&5&8\end{bmatrix}

M_1 = \begin{bmatrix} 3&1 \\ 4&5 \\ 2&2 \end{bmatrix},\ M_2 = \begin{bmatrix} 3&1&2 \\ 4&5&8\end{bmatrix}

M_1 \times M_2 = \begin{bmatrix} 13 & 8 &14 \\ 32 & 29 & 48 \\ 14 & 12 & 20 \end{bmatrix}

M_1 \times M_2 = \begin{bmatrix} 13 & 8 &14 \\ 32 & 29 & 48 \\ 14 & 12 & 20 \end{bmatrix}

\begin{bmatrix} 3&1&2 \\ 4&5&8\end{bmatrix}

\begin{bmatrix} 3&1&2 \\ 4&5&8\end{bmatrix}

\begin{bmatrix} 3&1 \\ 4&5 \\ 2&2 \end{bmatrix}

\begin{bmatrix} 3&1 \\ 4&5 \\ 2&2 \end{bmatrix}

\begin{bmatrix}\quad & \ & \ \\ \ & \ & \ \\ \ & \ & \ \end{bmatrix}

\begin{bmatrix}\quad & \ & \ \\ \ & \ & \ \\ \ & \ & \ \end{bmatrix}

先看最左上角那一個交點

先由最遠的開始相乘，之後加起來

$3 \times 3 + 1 \times 4 = 13$

酷酷的東東

math class -- linear algebra

btw 我們沒有要教除法

但還有一個很重要的東西要說

Transpose => 轉置

若M = \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}

若M = \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}

M的轉置,\ M^T = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 4 & 6 \end{bmatrix}

M的轉置,\ M^T = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 4 & 6 \end{bmatrix}

math class -- linear algebra

再來個小測驗(~~這是最後ㄌ~~

a = \begin{bmatrix} 1 \\ 3 \\ 4 \end{bmatrix},\ b = \begin{bmatrix} 2 \\ 3 \\ 2\end{bmatrix}

a = \begin{bmatrix} 1 \\ 3 \\ 4 \end{bmatrix},\ b = \begin{bmatrix} 2 \\ 3 \\ 2\end{bmatrix}

請你告訴檸檬 $a \times b^T =\ ?$

(A) $\begin{bmatrix}2&3&2\\6&9&6\\8&12&8\end{bmatrix}$

(B) 無意義

(D) 學長我想回家ㄌ

Python -- Numpy

運行剛剛的程式碼

你會發現輸出結果是：

[[ 6  8]
 [10 12]]
--------------
[[-4 -4]
 [-4 -4]]
--------------
[[ 5 12]
 [21 32]]

其中\begin{bmatrix}1&2\\3&4\end{bmatrix} \times \begin{bmatrix}5&6\\7&8\end{bmatrix} \neq \begin{bmatrix}5&12\\21&32\end{bmatrix}

其中\begin{bmatrix}1&2\\3&4\end{bmatrix} \times \begin{bmatrix}5&6\\7&8\end{bmatrix} \neq \begin{bmatrix}5&12\\21&32\end{bmatrix}

Python -- Numpy

這是因為NumPy的+ - * /預設是element-wise

也就是讓每一格的元素分別+ - * /後輸出一個新的矩陣

我們可以試試下面的程式碼：

 print(np.add(A,B))
print("--------------")
print(np.subtract(A,B))
print("--------------")
print(np.dot(A,B))

其他答案相同的情況下\\ 我們得到正確的\ A \times B = \begin{bmatrix} 19 & 22 \\ 43 & 50 \end{bmatrix}

其他答案相同的情況下\\ 我們得到正確的\ A \times B = \begin{bmatrix} 19 & 22 \\ 43 & 50 \end{bmatrix}

Machine learning 社課 - 1 lecturer : lemon topic : intro & math

	import numpy as np #引入NumPy

	#建立兩個矩陣
	A = np.array([
	[1, 2],
	[3, 4]
	])

	B = np.array([
	[5, 6],
	[7, 8]
	])

	print(A+B)
	print("--------------")
	print(A-B)
	print("--------------")
	print(A*B)

	a = np.array([
	[1],
	[2]
	])

	print(A)
	print(f"shape = {A.shape}")#輸出A的維度
	print("---------------")
	print(a)
	print(f"shape = {a.shape}")#輸出a的維度
	print("---------------")
	print(A+a)
	print(f"shape = {(A+a).shape}")#輸出A+a的維度

	print(A+a)
	print("--------------")
	print(A-a)
	print("--------------")
	print(A*a)
	print("--------------")
	print(A/a)

Machine learning

社課 - 1

lecturer : lemon

topic : intro & math

Where can we take course?

What is ml

supervised vs unSUPERVISED

supervised learning

unsupervised learning

how do i apply these ideas?

About mathematics

About program language

About framework

math class -- LINEAR ALGEBRA

math class -- LINEAR ALGEBRA

math class -- LINEAR ALGEBRA

math class -- LINEAR ALGEBRA

math class -- linear algebra

math class -- linear algebra

math class -- linear algebra

math class -- linear algebra

math class -- linear algebra

math class -- linear algebra

Python -- Numpy

Python -- Numpy

Python -- Numpy

Python -- Numpy

Python -- Numpy

Python -- Numpy

Python -- colab

大概就這樣了

	print(np.add(A,B))
	print("--------------")
	print(np.subtract(A,B))
	print("--------------")
	print(np.dot(A,B))