Published on

線性代數Ch1: 向量與向量空間(Vectors and Vector Spaces)

Authors
  • avatar
    Name
    走歪的工程師James
    Twitter

English version here

本系列是是我這四個月以來學習線性代數學到的東西。做成影片版之前,先做成文字版把邏輯梳理好,以便之後能夠比較流暢地做影片。大部分的內容出自Linear Algebra Done Right。定理、定義的編號也會遵從原作,以便大家銜接。

本系列用意僅為提供一個比較容易的學習入口,能初步進行比較容易的學習,並非取代原作。如果大家想要深入鑽研,非常推薦去看原版教科書,能夠有更深入的理解及收穫。

因為原作中的題目量實在太大,我自己在學的時候也沒有全都做(我認為做太多題目沒有太大意義,有掌握重要概念就好)。因此本系列中,我也會挑選一些題目給大家練習。非常推薦自己動手做這些題目,因為數學是一個一定要動手寫才能紮實掌握的科目

1.A:向量是什麼?

大家在上線性代數這門課前,應該就已經看過許多向量了。在高中數學裡面,我們理解的向量就是二維平面裡面的箭頭或是座標,像是[21]\left[\begin{array}{r}2 \\ 1 \end{array}\right],或是三維空間裡面的箭頭或是座標例如[212]\left[\begin{array}{r}2 \\ 1 \\ -2 \end{array}\right]。其實,一個向量不僅僅限於平面或是三維空間,向量可以延伸到n個維度。

[x1x2xn]\left[\begin{array}{r}x_1 \\ x_2 \\ \vdots \\ x_n \end{array}\right]

目前為止,我們都是使用垂直的n×1n \times 1矩陣來表示向量。我們通常會稱垂直n×1n \times 1的矩陣是向量,而不是水平1×n1 \times n的矩陣。

水平的1×n1 \times n矩陣,像是[21]\left[\begin{array}{r}2 & 1\end{array}\right],我們會稱為row vector。

我們還會常用另外一種符號來表示向量,也就是小括號。例如,這兩個表達方式其實是相同的意思。

[1.10.03.67.2]=(1.1,0.0,3.6,7.2)\left[\begin{array}{r}-1.1 \\ 0.0 \\ 3.6 \\ -7.2\end{array}\right] = (-1.1,0.0,3.6,-7.2)

也就是說

[x1x2xn]=(x1,x2,...,xn)\left[\begin{array}{r}x_1 \\ x_2 \\ \vdots \\ x_n\end{array}\right] = (x_1, x_2, ...,x_n)

除了空間裡面的箭頭、或是座標外,向量也可以用於表示很多東西。

顏色

顏色可以使用RGB向量表示: colors

資產配置

下面的資產配置,也可以使用(100,50,25,10)(100, 50, 25, 10)這個向量來表示。

收益率

向量可以表示股票的收益率。例如(0.022,+0.014,+0.004)(−0.022, +0.014, +0.004)可以代表第一天下跌2.2%,第二天上升1.4%,第三天又上升0.4%。

現金流

現金流也可以使用向量表示。假設以一個季度為單位,(1000,10,10,1010)(1000, -10, -10, -1010)可以代表借款1000元,利息1%,最後一個季度還清。

圖片

grayscale image 上面是一個256×256256 \times 256的圖片。我們可以把它扁平化成一個65536維的向量表示。英文會說是一個6553565535-vector
(0.792,0.788,0.819,0.792,0.795,,0.803,0.803,0.807,0.780,0.835)(0.792,0.788, 0.819, 0.792, 0.795, \dots, 0.803, 0.803, 0.807, 0.780, 0.835)

影片

一個黑白的影片,假設是由KKM×NM \times N的圖片組成,可以用一個KMNKMN維的向量表示(KMNKMN-vector)。

其他例子

實在太多我無法全部講完,下面這些東西也能夠使用向量去表達,大家停可以思考要如何去使用向量去表達。

  • 各種產品的庫存量
  • 人口數據(例如血壓)
  • 機率(例如硬幣正反面)
  • 時間序列(例如溫度)
  • 顧客購買產品的數量
  • 特徵(Features or attributes)
  • 字數統計、發生頻率

常見符號

接下來我們來看一些常用的符號。在數學上熟悉符號是非常重要的。我以前學數學最大的壞習慣就是以為能表達就好,就隨便亂寫數字,計算過程。但是其實熟悉數學符號,才能夠很順暢的把你的想法翻譯成嚴謹的符號來表達。這跟寫程式注重code的品質是一樣的

0向量(zero vectors)

為了方便,我們有些更簡潔的方式來表示向量。例如

03=(0,0,0)0_3 = (0, 0, 0)

很多時候我們會把下面的下標也省略。比如說這個情況,00代表幾維的向量,從前後文就可以判斷,就可以直接這樣寫。

(3,4,1)+0=(3,4,1)+(0,0,0)(3,4,1) + 0 = (3,4,1) + (0, 0, 0)

單位向量(unit vectors)

第i個unit vector,是指第i個位置是1,其他位置是0的向量。

e1=[100],e2=[010],e3=[001]e_1=\left[\begin{array}{l}1 \\ 0 \\ 0\end{array}\right], \quad e_2=\left[\begin{array}{l}0 \\ 1 \\ 0\end{array}\right], \quad e_3=\left[\begin{array}{l}0 \\ 0 \\ 1\end{array}\right]

也就是

(ei)j={1j=i0ji,\left(e_i\right)_j= \begin{cases}1 & j=i \\ 0 & j \neq i,\end{cases}

在這邊eie_i是一個向量,而(ei)j(e_i)_j是一個數字(第jj個元素)。

1向量(ones vectors)

我們也會用1n\mathbf{1}_n來表示一個所有元素都是11的向量,如果從前後文就可以判斷,一樣可以省略下標,寫成1\mathbf{1}

向量的定義、相關符號(Vectors and Notations)

定義list

上面透過很多例子,我們已經對向量有一定的熟悉度。但我們還沒有真正定義向量是什麼。在定義向量之前,我們先定義什麼是list。

定義1.8:list

  • 假設nn為非負整數,一個長度為nn的list就是一串有順序的元素。(元素可能是數字、一個list,或是其他物件)
  • 兩個list相同的條件:長度、且元素順序都相同

以下這些範例都是合法的list:

  • (1,2)(1, 2)
  • ()()
  • ((1,2),(3),3,i)((1, 2), (3), 3, i)

看到這邊,大家可能會產生一個疑問

看起來list跟向量好像差不多,那list就等於向量嗎?

答案是不一定list的確是我們最常見的向量形式,但是向量是一個更廣泛的概念,所以除了list外,其實還有其他種類的向量。大家可以先把這個問題放在心理,等到我們後面正式定義向量空間是什麼,大家就會非常清楚了。

實數、複數、以及F

大家應該都對 R\mathbf{R}C\mathbf{C} 這兩個符號很熟悉了。R\mathbf{R} 代表所有實數的集合,而 C\mathbf{C} 則代表所有複數的集合。

Rn\mathbf{R}^n就代表包含所有長度n的實數list的集合。

例如:

  • (1,5)R2(1, 5) \in \mathbf{R}^2
  • (1+i,2+3i,0)C3(-1+i, 2+3i, 0) \in \mathbf{C}^3

那麼,向量就是一個n維的實數、或是複數list囉?

依照我們過去國中高中理解的向量,其實這樣說在應用角度沒什大問題,但數學家不滿意,他們覺得「我們還要更抽象」。他們希望找到一個更general的結構,而不限於 R\mathbf{R}C\mathbf{C}。這個大家看到後面就會慢慢體會到了。我們這邊可以先用 Rn\mathbf{R}^nCn\mathbf{C}^n 去做想像跟理解向量。

很多時候,我們在討論向量時,並不會限定一定要是R或是C。所以我們會用F這個符號來代表R或是C。

定義1.6:notation: F

F\mathbf{F} = R\mathbf{R} or C\mathbf{C}

其實在討論線性代數的時候,大多數的理論不只可以套用在R\mathbf{R}C\mathbf{C},而是可以套用在任何的field。field指的就一個有定義加法、減法、乘法、除法的集合。所以其實R\mathbf{R}C\mathbf{C}個別都是field(因為他們都支援加減乘除)。

在後面,我們會用F這個符號來代表一個field。線性代數的很多理論都可以套用在任何的field。但是大部分實際碰到的應用都是實數或是複數,本系列中也不會舉不是F\mathbf{F}或是C\mathbf{C}的範例,所以在本系列中大家可以把F\mathbf{F}當成成R\mathbf{R}C\mathbf{C}即可

也就是說,如果F=R\mathbf{F}=\mathbf{R},且n=2n=2,那麼Fn\mathbf{F}^n就是我們熟悉的幾何平面,也就是R2\mathbf{R}^2。如果n=3n=3,則Fn\mathbf{F}^n就是R3\mathbf{R}^3

F^n的加法、乘法(Addition and Sclar Multiplication)

  • addition(commutivive)
  • zero vector notation
  • additive inverse(加法反元素)

線性代數想做的事,用非常直白的方式說,其實就是把加法以及乘法,從一維的數字延伸到多維。所以我們首先就先來看要怎麼去把加法延伸到FnF^n吧。

加法

大家應該都非常熟習如何在R2\mathbf{R}^2以及R3\mathbf{R}^3裡面做加法了,Fn\mathbf{F}^n裡面的加法非常直觀,就是把list裡面的每個數字做一般的加法。

定義1.13: F^n中的加法

(x1,x2,...,xn)+(y1,y2,...,yn)=(x1+y1,x2+y2,...,xn+yn)(x_1, x_2, ..., x_n) + (y_1, y_2, ..., y_n) = (x_1+y_1, x_2+y_2, ..., x_n+y_n)

例如:

  • F=RF=R,則(1,1)+(3,5)=(2,4)(1,-1) + (-3, 5) = (-2, 4)
  • F=CF=C,則(1+i,2i)+(i,0)=(1+2i,2i)(1+i, 2-i) + (i, 0) = (1+2i, 2-i)

當我們這樣定義加法,這個加法是符合交換律的。大家可以檢驗看看為何下面這個定理成立。

定理1.14:F^n中的交換律

If x,yFnx, y \in \mathbf{F}^n, 則 x+y=y+xx+y=y+x.

注意這邊我們用「定義」這個字,這代表我們其實也可以用其他方式去「定義加法」,讓他不符合交換律,例如:

(x1,x2,...,xn)+(y1,y2,...,yn)=(x1+2y1,x2+2y2,...,xn+2yn)(x_1, x_2, ..., x_n) + (y_1, y_2, ..., y_n) = (x_1+2y_1, x_2+2y_2, ..., x_n+2y_n)

這種加法就不符合交換律了。

只是這種定義不直觀,也缺乏我們想要的性質,所以我們就不會討論太多。

乘法

接下來我們定義向量的乘法。

乘法則是把一個向量,乘以一個純量。

注意,並不是把兩個向量做相乘,而是向量乘以純量。比如說我們有一個向量(x1,x2,...,xn)Fn(x_1, x_2, ..., x_n) \in F^n,還有一個純量λF\lambda \in F。那麼

定義1.18:F^n中的乘法

λ(x1,x2,...,xn)=(λx1,λx2,...,λxn)\lambda (x_1, x_2, ..., x_n) = (\lambda x_1, \lambda x_2, ..., \lambda x_n)

例如:

  • F=RF=R,則3(1,1)=(3,3)3(1,-1) = (3, -3)
  • F=RF=R,則0(1,1)=00(1,-1) = 0(右側0代表的是向量不是數字喔)
  • F=CF=C,則i(1+i,2i)=(1+i,1+2i)i(1+i, 2-i) = (-1+i, 1+2i)

精選練習題(選自Linear Algebra Done Right, Ch1.A

  1. Find xR4x \in \mathbf{R}^4 such that
(4,3,1,7)+2x=(5,9,6,8)(4,-3,1,7)+2 x=(5,9,-6,8)
  1. Explain why there does not exist λC\lambda \in \mathrm{C} such that
λ(23i,5+4i,6+7i)=(125i,7+22i,329i).\lambda(2-3 i, 5+4 i,-6+7 i)=(12-5 i, 7+22 i,-32-9 i) .
  1. Show that λ(x+y)=λx+λy\lambda(x+y)=\lambda x+\lambda y for all λF\lambda \in \mathbf{F} and all x,yFnx, y \in \mathbf{F}^n.

1.B:向量空間(Vector Space)

向量空間的定義

前面我們定義了 Fn\mathbf{F}^n 裡面的加法乘法,幫助大家理解,把一維的加法、乘法,延伸到多維的感覺

接下來,我們就可以定義所謂的「向量空間 vector space」了。

向量空間,其實就是一個「有定義加法乘法的集合」。意思是說,我們希望可以對這個向量空間裡面的東西做加法或乘法

也就是說:

  1. 假設VV是一個向量空間,任取兩個u,vVu, v \in V,我們都可以對他們做加法,這個結果u+vu+v還是會在VV裡面。

  2. 假設我從F\mathbf{F}取出任意一個元素λ\lambda(大家可以想像成一個數字),那麼λv\lambda v會是一個向量,而且我們希望這個 λv\lambda v 也會在VV裡面。

所以,向量空間,其實就是一個「有定義加法乘法的集合」。並符合某些性質

不過這種白話的定義不夠明確,所以我們看看真正數學上的定義。

定義1.20:向量空間的定義

向量空間VV,是一個有定義加法、乘法的集合。它的加法與乘法符合以下的性質:

加法交換律(commutativity)

u+v=v+uu+v=v+u 對所有 u,vVu, v \in V

結合律(associativity)

(u+v)+w=u+(v+w)(u+v)+w=u+(v+w)(ab)v=a(bv)(a b) v=a(b v) 對所有 u,v,wVu, v, w \in V 及所有 a,bFa, b \in \mathbf{F}

加法單位元素(additive identity)

存在一個元素 0V0 \in V 使得 v+0=vv+0=v 對所有 vVv \in V

加法反元素(additive inverse)

對所有 vVv \in V,存在一個 wVw \in V 使得 v+w=0v+w=0

乘法單位元素(multiplicative identity)

1v=v1 v=v 對所有 vVv \in V

乘法分配率(distributive properties)

a(u+v)=au+ava(u+v)=a u+a v(a+b)v=av+bv(a+b) v=a v+b v 對所有 a,bFa, b \in \mathbf{F} 及所有 u,vVu, v \in V

哇,一次就來這麼多條件,感覺好複雜!

其實這個概念很簡單。記得我們前面說的嗎?向量空間最直觀的理解就是「有定義加法、乘法的多維集合」。

我們希望在R\mathbf{R}C\mathbf{C}裡面我們所熟悉的加法、乘法特性,都可以套用在VV上面。其實就這麼簡單而已,你會發現,上面這些規則都是我們熟悉的R\mathbf{R}C\mathbf{C}的乘法、加法有的性質,我們希望這些性質也能套用在向量空間上面,所以才會這樣定義向量空間。

說到這邊,大家也可以回去檢驗看看,剛剛我們說過的Fn\mathbf{F}^n的加法、以及乘法,是否有符合這些條件。檢驗看看為什麼Fn\mathbf{F}^n是一個向量空間,不論F=R\mathbf{F}=\mathbf{R}或是F=C\mathbf{F}=\mathbf{C}

我這邊示範檢驗 Fn\mathbf{F}^n 是否符合第一條規則。

F^n存在加法單位元素

假設V=FnV= \mathbf{F}^nuVu\in V,則存在一個0V0 \in V使得u+0=uu+0=u

證明:

  • 因為(0,,0)Fn(0, \dots, 0) \in \mathbf{F}^n
  • u+(0,,0)=uu + (0, \dots, 0) = u

這不是看就知道了嗎?怎麼還需要證明?

或許看起來有點繁瑣,但這就是數學證明的過程,需要確保每一步都是嚴謹的,不能跳過任何步驟。這個範例很簡單,所以可能會有股衝動覺得不需要證明吧,看就知道結果了。但是當要證明的東西越來越複雜,就會開始感受到,熟悉這種一步步推理過程的重要性。

大家可以用同樣的方式去檢驗,Fn\mathbf{F}^n 確實是符合所有向量空間的條件。就是因為Fn\mathbf{F}^n符合這些條件,我們才可以說 Fn\mathbf{F}^n 確實是一個向量空間

這邊我們定義一下怎麼稱呼最常見的向量空間Rn\mathbf{R}^nCn\mathbf{C}^n

定義1.22:實向量空間、復向量空間

  • 一個在 R\mathbf{R} 上的向量空間被稱為實向量空間。
  • 一個在 C\mathbf{C} 上的向量空間被稱為複向量空間。

接下來我們用一個範例來實際體會,向量空間不僅僅限於Fn\mathbf{F}^n,而是更泛用的結構。

定義1.24:函數的向量空間

  • SS 是一個集合,則 FS\mathbf{F}^S 表示從集合 SSF\mathbf{F} 的所有函數之集合。
  • 對於 f,gFSf, g \in \mathbf{F}^S,其和 f+gFSf+g \in \mathbf{F}^S 是一個函數。對所有 xSx \in S,我們定義f+gf+g
(f+g)(x)=f(x)+g(x)(f+g)(x)=f(x)+g(x)
  • 對於 λF\lambda \in \mathbf{F}fFSf \in \mathbf{F}^S,其積 λfFS\lambda f \in \mathbf{F}^S 是一個函數。對所有 xSx \in S,我們定義λf\lambda f (λf)(x)=λf(x)(\lambda f)(x)=\lambda f(x)

上面這個定義,是一個包含函數的集合,我們為這個集合定義了加法、以及純量乘法。並且大家可以檢驗看看,這個加法和乘法的定義,是符合向量空間的那6條條件的,因此 FS\mathbf{F}^S 確實是一個向量空間。

比如,我們來檢驗看看FS\mathbf{F}^S裡面存在加法單位元素。

FS\mathbf{F}^S 的裡面,存在一個函數 0:SF0: S \rightarrow \mathbf{F},對所有 xSx \in S,我們定義00函數為:

0(x)=00(x)=0

也就是說,這個00函數就是 FS\mathbf{F}^S 中的加法單位元素。其他規則的檢驗大家也可以試試看。

總而言之,這個FS\mathbf{F}^S 是一個合法的向量空間。因此,這個集合中的所有函數,你都可以稱之為一個向量。

到這邊大家應該也可以體會到了,向量空間並不限於Fn\mathbf{F}^n這個形式,一個向量也不一定是list

延伸思考:矩陣

我們可以用 Fm,n\mathbf{F}^{m,n} 代表包含所有m×nm \times n矩陣的集合。

例如:

  • [1001]F2,2 \begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix} \in \mathbf{F}^{2, 2}

  • [123444]F3,2 \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 4 & 4 \end{bmatrix} \in \mathbf{F}^{3,2}

那麼,Fm,n\mathbf{F}^{m,n} 是不是一個向量空間呢?怎樣的矩陣加法、還有純量乘法定義,才能讓 Fm,n\mathbf{F}^{m,n} 符合向量空間的條件呢?

精選練習題(選自Linear Algebra Done Right, Ch1.B

  1. The empty set is not a vector space. The empty set fails to satisfy only one of the requirements listed in the definition of a vector space (1.20). Which one?

  2. Show that in the definition of a vector space (1.20), the additive inverse condition can be replaced with the condition that

    0v=0 for all vV0 v=0 \text { for all } v \in V \text {. }

    Here the 0 on the left side is the number 0, and the 0 on the right side is the additive identity of VV.

    The phrase a "condition can be replaced" in a definition means that the collection of objects satisfying the definition is unchanged if the original condition is replaced with the new condition.

  3. Suppose VV is a real vector space.

    • The complexification of VV, denoted by VCV_{\mathrm{C}}, equals V×VV \times V. An element of VCV_{\mathrm{C}} is an ordered pair (u,v)(u, v), where u,vVu, v \in V, but we write this as u+ivu+i v.

    • Addition on VCV_{\mathrm{C}} is defined by

      (u1+iv1)+(u2+iv2)=(u1+u2)+i(v1+v2)\left(u_1+i v_1\right)+\left(u_2+i v_2\right)=\left(u_1+u_2\right)+i\left(v_1+v_2\right)

      for all u1,v1,u2,v2Vu_1, v_1, u_2, v_2 \in V.

    • Complex scalar multiplication on VCV_{\mathrm{C}} is defined by

      (a+bi)(u+iv)=(aubv)+i(av+bu)(a+b i)(u+i v)=(a u-b v)+i(a v+b u)

      for all a,bRa, b \in \mathbf{R} and all u,vVu, v \in V.

    Prove that with the definitions of addition and scalar multiplication as above, VCV_{\mathrm{C}} is a complex vector space.

1.C:子空間(Subspaces)

現在大家應該很清楚Vector Space是什麼了,我們來看看子空間是什麼。

定義1.33:子空間

假設 UUVV 的子集合,如果 UU 在同樣的加法單位元素、向量加法、純量乘法的定義之下,也符合向量空間的定義,則 UUVV 的子空間。

白話來說,如果VV的子集合,是一個向量空間,那它就是一個子空間。比如說 R2\mathbf{R}^2 是一個向量空間,而 {(1,1)}\{(1, 1)\} 是一個子集合,但很明顯它不是一個向量空間。因為你把(1,1)(1, 1)乘以任何一個倍數得到的向量,都不在這個子集合裡面。但是 {λ(1,1):λR}\{\lambda(1, 1) : \lambda \in R\} 就是一個子空間。

那麼,我們要怎麼快速檢查一個子集合是否是一個子空間呢?難道每次都要檢查全部那六條規則嗎?

其實比想像中還簡單,我們只要檢查

定理1.34:快速檢查是否是子空間

向量空間 VV 的子集 UUVV 的子空間,若且唯若 UU 滿足以下三個條件。

加法單位元素(additive identity)

0U0 \in U

對加法封閉(closed under addition)

u,wUu, w \in Uu+wUu+w \in U

對純量乘法封閉 (closed under scalar multiplication)

aFa \in \mathbf{F}uUu \in UauUau \in U

感覺還滿直觀的吧?畢竟向量空間的基礎定義,本來就是要符合加法封閉、乘法封閉的。不過其實沒那麼簡單,要證明若且為若(if and only if)的關係成立,我們必須兩個方向都證明。左到右、以及右到左。

從左到右,也就是

UU是子空間     \implies 三個條件成立

這個證明很簡單,因為如果我們假設UU是子空間,那U就符合那6條向量空間的基礎定義,所以當然UU也就符合上面三條條件了。

比較麻煩的是由右到左的證明,也就是:

上面三個條件成立     \implies UU是子空間

要完成這個證明,我們必須先假設這3個條件成立,然再去證明,UU同時也符合子空間的定義。因為本系列用意只是導讀,提供一個入門窗口,就不深入講證明的部分。如果想深入了解可以參照Linear Algebra Done Right。

回到正題,我們現在知道怎麼快速檢查一個子集合是不是子空間了,所以我們來快速看一些範例熟悉一下概念:

  1. bFb \in \mathbf{F},則

    U={(x1,x2,x3,x4)F4:x3=5x4+b}U=\left\{\left(x_1, x_2, x_3, x_4\right) \in \mathbf{F}^4: x_3=5 x_4+b\right\}

    F4\mathbf{F}^4 的子空間,若且唯若 b=0b=0

  2. R\mathbf{R} 上的所有可微實值函數集合是 RR\mathbf{R}^{\mathbf{R}} 的子空間。

範例1

我們先看看第一個範例

U={(x1,x2,x3,x4)F4:x3=5x4+b}U=\left\{\left(x_1, x_2, x_3, x_4\right) \in \mathbf{F}^4: x_3=5 x_4+b\right\}

如果 b0b \neq 0 ,則當x4=0x_4=0的時候x3x_3就一定不等於00。也就是說,加法單位元素00並不存在這個集合裡面,所以就不是一個子空間。

嚴謹的證明一樣需要以下兩個方向都證明

  1. (    )(\implies) 假設UU是一個子空間,然後證明b=0b=0
  2. (    )(\impliedby) 假設b=0b=0,然後證明UU是一個子空間

這邊就先省略這些證明了,大家可以自己練習看看。

範例2

R\mathbf{R} 上的所有可微實值函數集合,可以用以下的集合來表達:

U={f:RRf is differentiable}U=\{f: \mathbf{R} \rightarrow \mathbf{R} \mid f \text{ is differentiable} \}

因為fUf \in U是一個把R\mathbf{R}映射到R\mathbf{R}的函數,fRRf \in \mathbf{R}^\mathbf{R},也就是說UU的確是RR\mathbf{R}^\mathbf{R}的子集合。

所以我們只要證明UU(a)對加法封閉、(b)也對純量乘法封閉、(c)加法單位元素存在,就可以證明UU是一個子空間。

用非常簡略的說法:

(a):兩個可微分的函數相加,當然也是可微分的。所以UU的確對加法封閉。

(b):一個可微分的函數,乘以一個純量倍數,當然也還是可微分的。

(c):最後,0(x)=00(x) = 0這個函數是可微分的,所以加法單位元素也存在UU裡面。

所以我們就成功證明了,UU的確是RR\mathbf{R}^\mathbf{R}的子空間

向量空間的和(sum)、直和(direct sum)

前面我們透過一些範例,了解怎樣才是合法的子空間。

了解子空間是什麼之後,我們想要知道,怎麼把兩個或是多個子空間合起來

因為向量空間是一個集合,大家可能會先想到聯集。但是我們會發現(insert an example)如果直接把聯集當作加法,這個新的向量空間就變成不是一個合法的向量空間了

比如說A={(x,0):xR}A = \{(x, 0) : x \in R\}、以及B={(0,y):yR}B = \{(0, y) : y \in R\}。雖然AABB都是向量空間,這兩個集合的聯集U=ABU = A \cup B並不是一個向量空間。因為(1,0)U(1, 0) \in U(0,1)U(0, 1) \in U,但是兩者的和1,1U(1, 1)\notin U

所以,聯集不是我們想要的向量空間加法定義

所以大家可以停下來想,那我們要怎麼定義向量空間的加法,讓加起來的結果,還是一個向量空間呢?答案就會是下面這樣的定義:

定義1.36:子空間的合(sum of subspaces)

假設 V1,,VmV_1, \ldots, V_mVV 的子空間。V1,,VmV_1, \ldots, V_m 的和,記作 V1++VmV_1+\cdots+V_m,是 V1,,VmV_1, \ldots, V_m 中所有元素可能的和的集合。也就是說,

V1++Vm={v1++vm:v1V1,,vmVm}.V_1+\cdots+V_m=\left\{v_1+\cdots+v_m: v_1 \in V_1, \ldots, v_m \in V_m\right\} .

使用這樣的定義,就會發現兩個向量空間的合,還是會是一個向量空間

比如前面的範例A={(x,0):xR}A = \{(x, 0) : x \in R\}、以及B={(0,y):yR}B = \{(0, y) : y \in R\},使用我們定義的加法,A+B=R2A+B=\mathbf{R}^2

直和(direct sum)

向量空間的和,是把向量空間加起來,那麼常常會出現的應用就是,我們想把向量空間拆解成很多個子空間。這時候,我們特別有興趣的情況就會是每一個向量,都可以拆解成唯一分解的情況。

種情況我們就稱為直和。我們來看一下直和的定義。

定義1.41:直和(direct sum)

假設 V1,,VmV_1, \ldots, V_mVV 的子空間。

  • 如果 V1++VmV_1+\cdots+V_m 中的每個元素都只能以唯一的方式表示v1++vmv_1+\cdots+v_m 的和(其中每個 vkVkv_k \in V_k),則稱和 V1++VmV_1+\cdots+V_m 為直和。
  • 如果 V1++VmV_1+\cdots+V_m 是一個直和,則用 V1VmV_1 \oplus \cdots \oplus V_m 來表示 V1++VmV_1+\cdots+V_m,其中 \oplus 符號用來表示這是一個直和。

下面我們用幾個範例加深對直和的理解:

是直和的範例

假設 UUF3\mathbf{F}^3 中最後一個坐標等於0的子空間,而 WWF3\mathbf{F}^3 中那些前兩個坐標等於0的子空間,亦即:

U={(x,y,0)F3:x,yF} 且 W={(0,0,z)F3:zF}.U=\left\{(x, y, 0) \in \mathbf{F}^3: x, y \in \mathbf{F}\right\} \quad \text { 且 } \quad W=\left\{(0,0, z) \in \mathbf{F}^3: z \in \mathbf{F}\right\} .

那麼 F3=UW\mathbf{F}^3=U \oplus W,大家可以自己驗證看看。

不是直和的範例

假設

V1={(x,y,0)F3:x,yF},V2={(0,0,z)F3:zF},V3={(0,y,y)F3:yF}\begin{aligned} & V_1=\left\{(x, y, 0) \in \mathbf{F}^3: x, y \in \mathbf{F}\right\}, \\ & V_2=\left\{(0,0, z) \in \mathbf{F}^3: z \in \mathbf{F}\right\}, \\ & V_3=\left\{(0, y, y) \in \mathbf{F}^3: y \in \mathbf{F}\right\} \end{aligned}

那麼 F3=V1+V2+V3\mathbf{F}^3=V_1+V_2+V_3,因為每個向量 (x,y,z)F3(x, y, z) \in \mathbf{F}^3 都可以寫成

(x,y,z)=(x,y,0)+(0,0,z)+(0,0,0)(x, y, z)=(x, y, 0)+(0,0, z)+(0,0,0)

其中右側的第一個向量屬於 V1V_1,第二個向量屬於 V2V_2,第三個向量屬於 V3V_3

但是,F3\mathbf{F}^3 並不是 V1,V2,V3V_1, V_2, V_3 的直和,因為向量 (0,0,0)(0,0,0) 可以用多種方式寫成 v1+v2+v3v_1+v_2+v_3 的和。具體來說,這是其中一種分解方式

(0,0,0)=(0,1,0)+(0,0,1)+(0,1,1)(0,0,0)=(0,1,0)+(0,0,1)+(0,-1,-1)

這是另外一種分解方式

(0,0,0)=(0,0,0)+(0,0,0)+(0,0,0),(0,0,0)=(0,0,0)+(0,0,0)+(0,0,0),

其中上述每個等式右側的第一個向量屬於 V1V_1,第二個向量屬於 V2V_2,第三個向量屬於 V3V_3。因此,和 V1+V2+V3V_1+V_2+V_3 不是一個直和。

接下來,我們來看一下直和的一些性質。

定理1.45:直和的條件(condition for direct sum)

假設 V1,,VmV_1, \ldots, V_mVV 的子空間。那麼 V1++VmV_1+\cdots+V_m 是一個直和\Longleftrightarrow將0表示為 v1++vmv_1+\cdots+v_m 的和(其中每個 vkVkv_k \in V_k)的唯一方式是讓每個 vkv_k 都等於0。

首先,我們要怎麼證明這個定理?因為這是一個若且唯若的關係,我們需要兩個方向都證明。

(    )(\implies)

要證明向右的方向,我們先假設V1,,VmV_1, \ldots, V_m是一個直和。那麼根據直和的定義,所有的向量都只有一種拆解方式。所以自然00向量也只有一種拆解方式。

(    )(\impliedby)

要證明向左的方向,我們先假設00只有一種拆解方式。那麼因為V1,,VmV_1, \ldots, V_m個別都是子空間,他們各自都包含0這個向量(加法單位元素)。所以,0可以用以下的方式拆解:

0=0++00 = 0+\ldots+0

因為我們已經假設0只有一種拆解方式,這代表上面這種拆解方式就是唯一的拆解方式了。

接下來假設任意一個向量vV1,Vmv \in V_1, \ldots V_m, 然後我們把vv用兩種方式拆解:

v=v1++vmv=u1++umv=v_1+\cdots+v_m \\ v=u_1+\cdots+u_m

把兩式相減,我們會得到

0=(v1u1)++(vmum).0=\left(v_1-u_1\right)+\cdots+\left(v_m-u_m\right) .

因為前面已經證明了00唯一的拆解方式就是

0=0++00 = 0 + \ldots + 0

我們會得到

u1=v1,u2=v2,,um=vmu_1=v_1, u_2=v_2, \ldots , u_m=v_m

因此任意的向量v,都只有一種拆解方式。至此我們已經證明完兩邊的方向。

這個定理該怎麼去解讀他呢?他代表什麼意思?

他代表的意思就是「我們只要確認把0向量拆解成V1,VmV_1, \dots V_m的唯一組合,就是0+0++00+0+\dots+0,就可以篤定V1,,VmV_1, \dots, V_m是一個直和。」也就是說,我們不需要確認每個VV裡面向量,都只能拆解成唯一組合,只要確認0只有一種組合就可以了

前面大家應該也隱約可以感覺到,兩個子空間VVWW的交集必須是{0}\{0\},才能是直和。因為任何子空間一定包含{0}\{0\},所以交集當然也一定有{0}\{0\}。並且,如果交集包含00以外的向量就不會是直和,因為會有向量會有超過一種拆解方式。具體來說:UWU \cap W包含一個非0向量vv,那他就可以有兩種拆解方式v=0+v=v+0v=0+v=v+0,所以他們就不是直和。

其實UW={0}U \cap W=\{0\},不僅僅是一個必要條件,它還是充分條件。也就是說只要UW={0}U \cap W=\{0\},就代表UWU \oplus W了。下面我們就來看看為什麼吧。

定理1.46:直和代表交集為0

假設 UUWWVV 的子空間,那麼:

U+WU+W 是一個直和 UW={0}\Longleftrightarrow U \cap W=\{0\}

證明:

這個證明一樣要證明兩個方向。

(    )(\implies)

假設V+WV+W是直和。現在我們想證明他們的交集裡面只有00向量。所以我們假設vVWv \in V \cap W。只要成功證明v=0v = 0,我們就成功證明V+W=0V+W=0了。

  • 因為vVWv \in V \cap WvVv \in VvWv \in W
  • 因為WW是一個向量空間,vW-v \in W
  • 可以把00拆解為0=v+(v)0 = v + (-v),其中vVv \in VvW-v \in W
  • 因為VVWW都是子空間,都包含00向量,所以0=0+00 = 0 + 0也是一種拆解方式
  • 因為V+WV+W是直和,00只有一種拆解方式,所以v=v=0v = -v = 0,得證

(    )(\impliedby)

假設UW={0}U \cap W = \{0\},根據1.45,我們只要證明00唯一拆解方式,是0=0+00 = 0+0,就可以證明U+WU+W是直和。

  • 假設0=u+w0 = u + w,其中uUu \in UwWw \in W
  • 0=u+w0 = u + w代表u=wu = -w
  • 這代表uWu \in W(因為uuww的加法反元素)
  • 所以uUW={0}u \in U \cap W=\{0\}
  • 所以u=0u=0w=0w=0,得證

閱讀下一章

精選練習題(選自Linear Algebra Done Right, Ch1.C

  1. For each of the following subsets of F3\mathbf{F}^3, determine whether it is a subspace of F3\mathbf{F}^3.

    • (a) {(x1,x2,x3)F3:x1+2x2+3x3=0}\left\{\left(x_1, x_2, x_3\right) \in \mathbf{F}^3: x_1+2 x_2+3 x_3=0\right\}
    • (b) {(x1,x2,x3)F3:x1+2x2+3x3=4}\left\{\left(x_1, x_2, x_3\right) \in \mathbf{F}^3: x_1+2 x_2+3 x_3=4\right\}
    • (c) {(x1,x2,x3)F3:x1x2x3=0}\left\{\left(x_1, x_2, x_3\right) \in \mathbf{F}^3: x_1 x_2 x_3=0\right\}
    • (d) {(x1,x2,x3)F3:x1=5x3}\left\{\left(x_1, x_2, x_3\right) \in \mathbf{F}^3: x_1=5 x_3\right\}
  2. Prove or give a counterexample: If UU is a nonempty subset of R2\mathbf{R}^2 such that UU is closed under addition and under taking additive inverses (meaning uU-u \in U whenever uU)u \in U), then UU is a subspace of R2\mathbf{R}^2.

  3. Prove or give a counterexample: If V1,V2,UV_1, V_2, U are subspaces of VV such that

    V=V1U and V=V2U,V=V_1 \oplus U \quad \text { and } \quad V=V_2 \oplus U,

    then V1=V2V_1=V_2.

    Hint: When trying to discover whether a conjecture in linear algebra is true or false, it is often useful to start by experimenting in F2\mathbf{F}^2.

參考資料