Published on

線性代數Ch2: 有限維度向量空間(Finite-Dimensional Vector Spaces)

Authors
  • avatar
    Name
    走歪的工程師James
    Twitter
目錄

上一個章節,我們理解了抽象的向量空間到底是什麼。其實,線性代數主要感興趣的,是有限維度的向量空間。但是「有限維度」是什麼意思?要怎麼定義維度?我們知道(2,1)(2, 1)是二維的,(2,1,2)(2, 1, -2)是三維的,Rn\mathbf{R}^nnn維的,這些都是有限維度。但是如果向量不是list的形式,我們就無法直接看長度來定義維度了,像是FS\mathbf{F}^S,那又要怎麼定義維度?「維度」實際上到底代表什麼意義🤔?

其實,一個向量空間的維度,是以「用幾個vector可以展開這個空間」來定義的。

例如R2\mathbf{R}^2可以由(1,0),(0,1)(1, 0), (0, 1)這兩個向量展開。大家可以發現,整個R2\mathbf{R}^2平面上的點,都能夠用(1,0)(1, 0)乘上一個倍數,加上(0,1)(0, 1)乘上一個倍數來表示。

a1(1,0)+a2(0,1),a1,a2Ra_1(1, 0) + a_2(0, 1), a_1, a_2 \in \mathbf{R}

我們也可以寫成

R2={a1(1,0)+a2(0,1)a1,a2R}\mathbf{R}^2 = \{a_1(1, 0) + a_2(0, 1) \mid a_1, a_2 \in \mathbf{R} \}

除此之外,大家也可以發現,只要我們選兩個向量,就算他們不是互相垂直,只要這兩個向量不在同一個直線上,就能夠組成R2\mathbf{R}^2

R2={a1(1,1)+a2(0,1)a1,a2R}\mathbf{R}^2 = \{a_1(1, 1) + a_2(0, -1) \mid a_1, a_2 \in \mathbf{R} \}

但是,當我們把兩個向量減少成一個向量,就沒辦法了,不管你選哪一個向量。所以二維空間好像最少一定要2個向量,才能夠生成。而三維空間最少一定要3個向量,才能夠生成。這就是前面說到的「維度是以用幾個vector可以展開這個空間來定義的」的意思。

一個二維空間,可以用兩個向量生成。

三維空間,可以使用三個向量去生成。

這,其實就是維度的概念了!只是我們用非常直覺、白話的方式去講這個概念而已。

接下來,我們就一起來更深入理解,線性代數中,是怎麼用嚴謹的方式去推導、定義「維度」的概念吧!

2.A:Span(生成空間)與Linear Independence(線性獨立)

線性組合與生成空間(Linear Combinations and Span)

在開始之前,我們在這個章節會一直用到「展開」這個概念、或是線性組合。當我們說(1,0),(0,1)(1, 0), (0, 1)這組向量「展開」R2\mathbf{R}^2,指的其實是是((1,0),(0,1))((1, 0), (0, 1))這個「list」去做展開的結果。後面我們常常會省略list的括號,或是使用向量組來略稱,但大家要在心理釐清,我們指的是一個「向量組成的」list。但其實他們意義上有點不同,因為list是具有「順序」的。

定義2.1:向量的list

我們常常寫「向量的組成的list」時,會省略括號,或使用「向量組」簡稱

回到原來的主題,前面我們提到用幾個向量,去生成一個空間的概念,這個把很多向量,乘以一個倍數,然後加起來,其實就是所謂線性組合的意思。線性組合正式的定義是這樣:

定義2.2:線性組合(linear combination)

VV中,一組向量v1,,vmv_1, \ldots, v_m的線性組合(linear combination)是以下這個形式的向量:

a1v1++amvma_1 v_1+\cdots+a_m v_m

其中 a1,,amFa_1, \ldots, a_m \in \mathbf{F}.

例如:(17,4,2)(17, −4, 2)(2,1,3),(1,2,4)(2, 1, −3), (1, −2, 4)的線性組合。因為

(17,4,2)=6(2,1,3)+5(1,2,4)(17, −4, 2) = 6(2, 1, −3) + 5(1, −2, 4)

但是,(17,4,5)(17, −4, 5)不是(2,1,3),(1,2,4)(2, 1, −3), (1, −2, 4)的線性組合。因為不存在a1,a2Fa_1, a_2 \in \mathbf{F}可以讓以下式子成立:

(17,4,5)=a1(2,1,3)+a2(1,2,4)(17, −4, 5) = a_1(2, 1, −3) + a_2(1, −2, 4)

定義2.4:生成空間(span)

v1,,vmv_1, \ldots, v_m 這個list的線性組合的集合,我們稱為v1,,vmv_1, \ldots, v_m生成空間(span)。會寫成span(v1,,vm)\operatorname{span}\left(v_1, \ldots, v_m\right)。也就是說,

span(v1,,vm)={a1v1++amvm:a1,,amF}\operatorname{span}\left(v_1, \ldots, v_m\right)=\left\{a_1 v_1+\cdots+a_m v_m: a_1, \ldots, a_m \in \mathbf{F}\right\}

空的list ()() 的生成我們定義{0}\{0\}

所以

  • (17,4,2)span((2,1,3),(1,2,4))(17, −4, 2) \in \operatorname{span}\left((2, 1, −3), (1, −2, 4)\right)
  • (17,4,5)span((2,1,3),(1,2,4))(17, −4, 5) \notin \operatorname{span}\left((2, 1, −3), (1, −2, 4)\right)

定義2.9:有限維度向量空間(finite-dimensional vector space)

一個向量空間中,如果能找到一些向量生成該空間,我們就會叫它有限維度的向量空間

例如,對所有正整數nnFn\mathbf{F}^n都是一個有限維度的向量空間。因為:

  • Fn\mathbf{F}^n中的任意向量可以寫成(x1,,xn)(x_1, \ldots, x_n)
  • (x1,,xn)=x1(1,0,,0)+x2(0,1,0..0)++xn(0,,0,1)\left(x_1, \ldots, x_n\right)=x_1(1,0, \ldots, 0)+x_2(0,1,0 \ldots . .0)+\cdots+x_n(0, \ldots, 0,1)
  • 所以(x1,,xn)span((1,0,,0),(0,1,0,,0),,(0,,0,1))\left(x_1, \ldots, x_n\right) \in \operatorname{span}((1,0, \ldots, 0),(0,1,0, \ldots, 0), \ldots,(0, \ldots, 0,1))

我們在國高中很常接觸的多項式,其實也是一種向量空間喔!那麼它到底是不是一個有限維度的向量空間呢?我們接下來就一起來看一下正式的定義。首先我們先來看多項式相關的符號。

定義2.10:多項式(polynomial),𝒫(𝐅)

  • 我們稱一個函數p:FFp: \mathbf{F} \rightarrow \mathbf{F} 一個F\mathbf{F}係數的多項式如果存在a0,,amFa_0, \ldots, a_m \in \mathbf{F},使得對所有 zFz \in \mathbf{F}
p(z)=a0+a1z+a2z2++amzmp(z)=a_0+a_1 z+a_2 z^2+\cdots+a_m z^m
  • P(F)\mathcal{P}(\mathbf{F}) 是所有F\mathbf{F} 係數多項式的集合。

這邊我們定義了兩件事情。

  • 首先我們用另一種更嚴謹角度去理解一個多項式。其實一個多項式就是一個把數字映射到數字的function(FF\mathbf{F} \rightarrow \mathbf{F})。
  • 再來我們定義了符號P(F)\mathcal{P}(\mathbf{F}),代表多項式的集合

以下是兩個例子:

  • x37x+5P(R)x^3 - 7x + 5 \in \mathcal{P}(\mathbf{R})
  • (3+i)z2iz+5P(C)(3+i)z^2 - iz + 5 \in \mathcal{P}(\mathbf{C})

既然我們定義了P(F)\mathcal{P}(\mathbf{F})這個集合,大家應該也猜到接下來要講什麼了吧🧐。沒錯,P(F)\mathcal{P}(\mathbf{F})是一個向量空間!大家可以試試看確認一下向量空間的定義,忘記的話可以回上一章複習一下定義。

大家還記得上一個章節提到FS\mathbf{F}^{\mathbf{S}}是一個向量空間嗎?也就是說FF\mathbf{F}^{\mathbf{F}}是其中一種特例,當然也就是一個向量空間。 既然P(F)\mathcal{P}(\mathbf{F})是一個向量空間,他又是FF\mathbf{F}^{\mathbf{F}}的子集合,就代表它是一個子空間。

接下來我們看看有限定最高次數的多項式集合Pm(F)\mathcal{P}_m(\mathbf{F})的定義。

符號2.12:notation: 𝒫𝑚(𝐅)

mm為一個非負整數,則Pm(F)\mathcal{P}_m(\mathbf{F})代表包含所有F\mathbf{F},且次數最高為mm多項式的集合。

在這樣的定義之下,我們可以看出Pm(F)=span(1,z,,zm)\mathcal{P}_m(\mathbf{F}) = \operatorname{span}(1, z, \ldots, z^m)。也就是說,我們可以找到有限數量的向量,來展開Pm(F)\mathcal{P}_m(\mathbf{F})這個空間。所以Pm(F)\mathcal{P}_m(\mathbf{F})是一個有限維度的向量空間。

定義2.13:無限維度向量空間

如果一個向量空間不是有限維度的,我們就會叫它為無限維度

這個定義看起來有點冗,不過我們可以仔細看看它代表什麼意思。

  • 前面我們定義,有限維度的意思是,可以用有限個向量去展開一個空間
  • 然後我們又定義,無限維度就代表「不是有限維度
  • 也就是說,如果一個向量空間,無法用有限個向量生成,就是無限維度

在這樣的定義之下,其實P(R)\mathcal{P}(\mathbf{R})就是一個無限維度的向量空間。為什麼呢?

  • 首先可以想像任何一個P(R)\mathcal{P}(\mathbf{R})中元素組成的list(有限長度)
  • 我們可以設mm為該list中多項式最高的次數
  • 那麼,由這個list中向量展開的空間,最高次數就是mm
  • 因此zm+1z^{m+1}不在這個生成空間中
  • 也就是說,沒有任何一個P(R)\mathcal{P}(\mathbf{R})中的元素組成的list,可以生成P(R)\mathcal{P}(\mathbf{R})
  • 因此,P(R)\mathcal{P}(\mathbf{R})是無限維度的

Linear Independence(線性獨立)

前面我們提到過,二維平面可以由兩個向量展開。但似乎兩個向量在同一直線上,就沒辦法展開整個二維平面了。這其實就跟「線性獨立」這個概念有很大的關聯,我們來看看數學上是怎麼表達這樣的概念的。

定義2.15:線性獨立(linearly independent)

  • 一個VV中向量組成的list v1,,vmv_1, \ldots, v_m,我們會叫它線性獨立, 如果唯一的 a1,,amFa_1, \ldots, a_m \in \mathbf{F} 使得 a1v1++amvm=0a_1 v_1+\cdots+a_m v_m=0 只有 a1==am=0a_1=\cdots=a_m=0.
  • 空的list ( ) 我們也視為線性獨立

當一個list (v1,,vm)(v_1, \ldots, v_m)中的向量互相線性獨立,會有以下的涵義

  • 00向量只能寫成一種v1,,vmv_1, \ldots, v_m的線性組合(這就是定義)
  • 任何span(v1,,vm)\operatorname{span}(v_1, \ldots, v_m)中的向量,都只能寫成一種v1,,vmv_1, \ldots, v_m的線性組合

大家可以停下來思考看看為什麼會是這樣的結果,也可以帶入二維,或是三維空間,在腦中視覺化線性獨立成立,跟不成立時,分別會是什麼樣子?

接下來我們看幾個範例

  1. (1,0,0,0),(0,1,0,0),(0,0,1,0)(1,0,0,0), (0,1,0,0), (0,0,1,0)F4\mathbf{F}^4中為線性獨立。要看出為什麼,我們先假設a1,a2,a3Fa_1, a_2, a_3 \in \mathbf{F},那麼 a1(1,0,0,0)+a2(0,1,0,0)+a3(0,0,1,0)=(0,0,0,0)a_1(1,0,0,0)+a_2(0,1,0,0)+a_3(0,0,1,0)=(0,0,0,0) 因此 (a1,a2,a3,0)=(0,0,0,0)(a_1,a_2,a_3,0)=(0,0,0,0) 因此a1=a2=a3=0a_1=a_2=a_3=0。所以(1,0,0,0),(0,1,0,0),(0,0,1,0)(1,0,0,0), (0,1,0,0), (0,0,1,0)F4\mathbf{F}^4中的確是線性獨立。
  2. 1,z,,zm1, z, \ldots, z^mP(R)\mathcal{P}(\mathbf{R}) 中為線性獨立
  3. 單一的vector為線性獨立     \iff 該vector不是0
  4. 兩個vector為線性獨立     \iff 雙方各自不是對方的純量倍數

接下來我們就來看看跟「線性獨立」相對的概念:「線性相依」。

定義2.17:線性相依(linearly dependent)

  • 一組向量如果不是線性獨立的,我們稱之為「線性相依」
  • 換句話說,如果存在a1,,amFa_1, \ldots, a_m \in \mathbf{F},不全為0,使得a1v1++amvm=0a_1 v_1+\cdots+a_m v_m=0,則v1,,vmv_1, \ldots, v_m這組向量,在VV中是線性相依,

來看幾個範例,這邊就不多做解釋了,可以停下來思考,理解每一點表達的意思:

  • (2,3,1),(1,1,2),(7,3,8)(2, 3, 1), (1, −1, 2), (7, 3, 8)F3\mathbf{F}^3中為線性相依
  • 如果在向量空間 VV中的一個向量列表中,有某個向量是其他向量的線性組合,那麼這個列表就是線性相依的。(證明:將列表中的一個向量寫成其他向量的線性組合,然後將該向量移到等式的另一邊,它就會被乘以1-1,我們就得到1種00的線性組合)。
  • 在向量空間 VV 中,任何包含零向量的向量列表(list)都是線性相依的。(這是前一點的一個特例。)

接下來這條引理,是在很多後面的證明中都會使用的定理:

定理2.19:linear dependence lemma(線性相依引理)

假設 v1,,vmv_1, \ldots, v_mVV 中一個線性相依的向量列表。那麼,存在一個 k{1,2,,m}k \in\{1,2, \ldots, m\},使得

vkspan(v1,,vk1)v_k \in \operatorname{span}\left(v_1, \ldots, v_{k-1}\right)

此外,如果 kk 滿足上述條件,並且從 v1,,vmv_1, \ldots, v_m 中移除第 kk 個項,那麼剩下的列表的生成空間等於 span(v1,,vm)\operatorname{span}\left(v_1, \ldots, v_m\right)。(也就是說,移除該向量並不會對生成空間產生任何影響)

證明: 這個證明很直接,我們要證明的有2點:

  1. 可以找到一個數字kk,使得第kk個向量vkv_k可以用前面的向量組成,亦即vkspan(v1,,vk1)v_k \in \operatorname{span}(v_1, \ldots, v_{k-1})
  2. vkv_k移除不會影響生成空間

首先先看第一點。

  • v1,,vmv_1, \ldots, v_m線性相依,代表存在a1,,amFa_1, \ldots, a_m \in F,不全為0,使得a1v1+amvm=0a_1 v_1 + \ldots a_m v_m = 0
  • 假設aka_ka1,,ama_1, \ldots, a_m中最後一個非00的係數,那麼我們可以移項得到vk=a1akv1ak1akvk1v_k=-\frac{a_1}{a_k} v_1-\cdots-\frac{a_{k-1}}{a_k} v_{k-1}
  • 這代表vkspan(v1,,vk1)v_k \in \operatorname{span}\left(v_1, \ldots, v_{k-1}\right),得證

在來是第二點。

  • 假設uu是生成空間中任意的向量,也就是uspan(v1,,vm)u \in \operatorname{span}(v_1, \ldots, v_m)
  • uu可以寫成這些向量的線性組合:u=c1v1++cmvmu=c_1 v_1+\cdots+c_m v_m
  • 從第一點我們知道,可以把vkv_k替換成v1,vk1v_1, \ldots v_{k-1}的線性組合
  • 因為uu是任意向量,代表生成空間中任意的向量都不需要vkv_k就能夠組成,得證

證明完成了,那麼,該如何理解這個定理呢?它的意思是說,在一個「線性相依」的向量組之中,我們一定可以找到一個向量,是可以被它的前面的向量線性組合而成的。也因為如此,就算把這個「多餘的」向量丟掉,這個list的生成空間也不會「變小」

反過來說,當你把一個「線性相依」的向量加到一個向量組裡面,既存的生成空間也不會「變大」。一定要加入新的「線性獨立」的向量,生成的空間才會有新的維度,也才會變大

接下來就一起來看看幾個實際範例:

範例 2.21

(1,2,3),(6,5,4),(15,16,17),(8,9,7)(1, 2, 3), (6, 5, 4), (15, 16, 17), (8, 9, 7)R3\mathbf{R}^3中是線性相依。一起來看看為什麼:

  • 如果取k=1k=1,第一個向量必須是0。但因為(1,2,3)(1, 2, 3)不是00向量,我們不能取k=1k=1
  • 如果取k=2k=2,第二個向量必須是第一個向量的倍數,但是並不存在cRc \in \mathbf{R}使得(6,5,4)=c(1,2,3)(6,5,4)=c(1,2,3),所以也不能取k=2k=2
  • k=3k=3,我們可以找到(15,16,17)=3(1,2,3)+2(6,5,4)(15, 16, 17) = 3(1, 2, 3) + 2(6, 5, 4),因此這組向量是線性相依

有了這個定理,我們就可以證明一個非常關鍵的結果:

定理2.22:length of linearly independent list ≤ length of spanning list

在有限維度的向量空間中,任何「線性獨立的向量組」的長度都小於等於任何「生成該空間的向量組」的長度。

證明: 首先我們假設:

  • u1,,umu_1, \ldots, u_mVV中為線性相依
  • w1,,wnw_1, \ldots, w_n生成VV

我們用以下步驟來證明mnm \leq n。注意每個步驟我們增加一個uu,移除一個ww

第一步:

  • BBw1,,wnw_1, \ldots, w_n這個生成VV的list
  • u1u_1插到BB的開頭,會產生一個線性相依的list u1,w,,wlinearly dependent\overbrace{u_1, w, \ldots, w}^{\text{linearly dependent}}
  • 根據2.19(線性相依引理),list中其中一個向量可以由前面的向量組成,因此可以移除。且這個「多餘的向量」不會是u1u_1,因為u1u_1不在{0}\{0\}裡面({0}\{0\}就是空list的span)
  • 也就是說,可以移除其中一個ww,且不影響這個list的span

kk步(k=2,,mk=2, \ldots, m):

  • 從第k1k-1步得到的list會生成VV
  • 所以我們可以再把uku_k插入list,形成一個線性相依的list(這邊省略ww的下標) u1,,uk,w,,wlinearly dependent\overbrace{u_1, \ldots, u_k, w, \ldots, w}^{\text{linearly dependent}}
  • 因為這個list為線性相依,我們又可以移除其中一個向量,而不影響它的span
  • 要注意的是,這個list的前半部(由u組成的部分),為線性獨立,不可移除,因為要找「可以由前面向量組成的」向量,因此移除的一定會是w的部分 u1,,uklinearly independent,w,,wlinearly dependent\overbrace{\underbrace{u_1, \ldots, u_k}_{\mathclap{\text{linearly independent}}}, w, \ldots, w}^{\text{linearly dependent}}

當我們不斷重複以上步驟,每次加一個u,移除一個w,最後就會發現全部的u都拿完了!這也就代表w一定比u還要多,得證。

這證明一開始比較難理解,所以我多說明一下。理解這個證明的重點在於:

  1. 每一次插入uu都會產生一個線性相依的list
  2. 根據2.19引理,代表有一個向量可以移除(它可以由前面的向量組成)
  3. 這個向量不可能是uu的部分(因為uu的部分線性獨立),所以一定是後面ww的部分
  4. 代表ww一定比uu還多個

這個定理說的就是「線性獨立的向量組」,永遠會比「生成空間的向量組」還要短。原因就是因為當你把不斷延長一個list,直到它已經生成整個空間了,那再繼續延長,新的向量就一定已經被前面的生成空間覆蓋了,所以就一定會變成線性相依的list。

從這個定理我們可以得到一些非常有趣的結果:有時候完全不需要計算,就知道一個向量組是否線性獨立,或是一個向量組是否

範例2.23

  • (1,0,0),(0,1,0),(0,0,1)(1, 0, 0), (0, 1, 0), (0, 0, 1)這個長度為3的list生成 R3\mathbf{R}^3
  • 這也代表在R3\mathbf{R}^3沒有任長度大於3的list是線性獨立的
  • 例如(1,2,3),(4,5,8),(9,6,7),(3,2,8)(1, 2, 3), (4, 5, 8), (9, 6, 7), (−3, 2, 8)長度為四,因此就不可能線性獨立!

範例2.24

  • (1,0,0,0),(0,1,0,0),(0,0,1,0),(0,0,0,1)(1, 0, 0, 0), (0, 1, 0, 0), (0, 0, 1, 0), (0, 0, 0, 1)長度為4,且為線性獨立
  • 因此,能夠生成 R4\mathbf{R}^4的list長度一定大於4,因此沒有任何4個以下的向量組可以生成R4\mathbf{R}^4
  • 例如(1,2,3,5),(4,5,8,3),(9,6,7,1)(1, 2, 3, −5), (4, 5, 8, 3), (9, 6, 7, −1)長度為3,因此不能生成R4\mathbf{R}^4

精選練習題(選自Linear Algebra Done Right, Ch2.A

  1. (a) Show that a list of length one in a vector space is linearly independent if and only if the vector in the list is not 0.

    (b) Show that a list of length two in a vector space is linearly independent if and only if neither of the vectors in the list are not scalar multiples of the other.

  1. (a) Show that if we think of C\mathbf{C} as a vector space over R\mathbf{R}, then the list 1+i,1i1+i, 1-i is linearly independent.

    (b) Show that if we think of C\mathbf{C} as a vector space over C\mathbf{C}, then the list 1+i,1i1+i, 1-i is linearly dependent.

  1. Explain why there does not exist a list of six polynomials that is linearly independent in P4(F)\mathcal{P}_4(\mathbf{F}).

2.B Bases(基底)

上一個小節,我們了解了「線性獨立」與「生成」的概念。結合這兩個概念,我們自然就會想同時具有兩種性質的向量組:

定義2.26:基底(basis)

我們稱線性獨立,且生成VV的一組向量為一個VV基底

我們來看幾個不同的範例:

  1. 向量組 (1,0,,0),(0,1,0,,0),,(0,,0,1)(1,0, \ldots, 0),(0,1,0, \ldots, 0), \ldots,(0, \ldots, 0,1)Fn\mathbf{F}^n 的一個基底,稱為 Fn\mathbf{F}^n 的標準基底。
  2. 向量組 (1,2),(3,5)(1,2),(3,5)F2\mathbf{F}^2 的一個基底。注意這個向量組的長度是2,這與 F2\mathbf{F}^2 的標準基底的長度相同。這其實不是剛好而已!下一個章節我們會證明這件事。
  3. 向量組 (1,2,4),(7,5,6)(1,2,-4),(7,-5,6)F3\mathbf{F}^3 中是線性獨立的,但不是 F3\mathbf{F}^3 的基底,因為它不能生成 F3\mathbf{F}^3
  4. 向量組 (1,2),(3,5),(4,13)(1,2),(3,5),(4,13) 可以生成 F2\mathbf{F}^2,但不是 F2\mathbf{F}^2 的基底,因為它不是線性獨立的。
  5. 向量組 (1,1,0),(0,0,1)(1,1,0),(0,0,1) 是集合 {(x,x,y)F3:x,yF}\left\{(x, x, y) \in \mathbf{F}^3: x, y \in \mathbf{F}\right\} 的一個基底。
  6. 向量組 (1,1,0),(1,0,1)(1,-1,0),(1,0,-1) 是集合 {(x,y,z)F3:x+y+z=0}\left\{(x, y, z) \in \mathbf{F}^3: x+y+z=0\right\} 的基底。
  7. 向量組 1,z,,zm1, z, \ldots, z^mPm(F)\mathcal{P}_m(\mathbf{F}) 的一個基底,稱為 Pm(F)\mathcal{P}_m(\mathbf{F}) 的標準基底。

可以稍微花點時間在腦中思考一下每一個範例!

定義2.28:基底的條件(criterion for basis)

在向量空間 VV 中,一組向量 v1,,vnv_1, \ldots, v_nVV 的基底     \iff VV 中的每個向量 vv 都可以唯一地表示為以下形式:

v=a1v1++anvnv=a_1 v_1+\cdots+a_n v_n

其中 a1,,anFa_1, \ldots, a_n \in \mathbf{F}

這是個若且為若(if and only if)的證明,所以要證明兩個方向。首先是向右:

(    )(\implies)

  • 首先假設v1,,vnv_1, \ldots, v_nVV的一個基底
  • vv為任意一個VV中的向量
  • 因為v1,,vnv_1, \ldots, v_n 生成空間 VV,所以存在 a1,,anFa_1, \ldots, a_n \in \mathbf{F} 使得 v=a1v1++anvnv=a_1 v_1+\cdots+a_n v_n
  • 要證明a1,,ana_1, \ldots, a_n是唯一的係數組合, 我們先假設c1,,cnc_1, \ldots, c_n 是另外一組係數,滿足 v=c1v1++cnvnv=c_1 v_1+\cdots+c_n v_n
  • 把兩式相減, 可以得到 0=(a1c1)v1++(ancn)vn.0=\left(a_1-c_1\right) v_1+\cdots+\left(a_n-c_n\right) v_n .
  • 因為v1,,vnv_1, \ldots, v_n為線性獨立,代表00只有一種線性組合方式,代表每個akcka_k-c_k都為0
  • 因此a1=c1,,an=cna_1=c_1, \ldots, a_n=c_n,代表a1,,ana_1, \ldots, a_n的確是唯一的係數組合,得證

以上就完成一個方向的證明了,接下來是另一個方向的證明。

(    )(\impliedby)

  • 假設所有 vVv \in V 都可以寫成唯一的線性組合:v=a1v1++anvnv=a_1 v_1+\cdots+a_n v_n
  • 這代表v1,,vnv_1, \ldots, v_n可以生成VV
  • 我們要證明v1,,vnv_1, \ldots, v_n線性獨立。根據定義我們必須證明00只能寫成00的組合。所以假設a1,,anFa_1, \ldots, a_n \in \mathbf{F}使得0=a1v1++anvn0=a_1 v_1+\cdots+a_n v_n
  • 因為我們假設每個向量v=a1v1++anvnv=a_1 v_1+\cdots+a_n v_n都只有唯一組合,這代表a1==an=0a_1=\cdots=a_n=0
  • 因此v1,,vnv_1, \ldots, v_n為線性獨立,因此是一個VV的基底,得證。

前面我們通過範例已經知道:生成一個向量空間的向量組,不一定是一個基底,因為它不一定符合線性獨立。接下來的定理跟我們說,如果有任何一個向量組生成一個向量空間,我們可以從中「拿掉」一些向量(可能拿掉0個),來得到一個線性獨立的向量組,並且這個向量組仍然可以生成原來的生成空間。(也就是得到一個基底)

舉例來說,(1,2),(3,6),(4,7),(5,9)(1, 2), (3, 6), (4, 7), (5, 9)這個向量組可以生成F2\mathbf{F}^2,我們可以從中拿掉第二個跟第四個向量,來得到(1,2),(4,7)(1, 2), (4, 7),成為一個F2\mathbf{F}^2基底。

定理2.30:所有生成向量組都包含一個基底

所有生成一個向量空間的向量組,都可以刪減成一個基底。

接下來我們来做證明:

首先我們假設v1,,vnv_1, \ldots, v_n 生成 VV。我們用以下的演算法移除一些向量來得到一個基底。

第一步:

  • 如果 v1=0v_1=0,則從 BB 中刪除 v1v_1。如果 v10v_1 \neq 0,則保持 BB 不變。

kk步(k=1nk=1 \ldots n):

  • 如果 vkv_kspan(v1,,vk1)\operatorname{span}\left(v_1, \ldots, v_{k-1}\right) 中,則從列表 BB 中刪除 vkv_k
  • 如果 vkv_k 不在 span(v1,,vk1)\operatorname{span}\left(v_1, \ldots, v_{k-1}\right) 中,則保持 BB 不變。

完成nn步之後停止,剩下的向量組我們稱為BBBB生成VV因為我們只有移除「可以由前面向量組成」的向量。上面的演算法會保證BB中沒有任何一個向量是「可以由前面的向量組成」的。因此根據線性獨立引理(2.19),BB是線性獨立的。所以BB是一個VV的基底。

定理2.31:有限維度空間的基底

所有有限維度的向量空間,都可以找到基底

證明:

  • 根據「有限維度空間」的定義,我們可以找到有限長度的向量組,生成該空間
  • 根據上一個定理,我們可以把這個有限長度的向量組刪減成一個基底,得證

接下來的定理有點像2.30的相反。2.30說我們可以把生成向量組「刪減」成基底。這個定理則說,任何線性獨立的向量組,都可以「延伸」成基底(線性獨立+生成)

定理2.32:所有線性獨立的向量組可以延伸成基底

在「有限維度」的向量空間中,所有線性獨立的向量組,都可以延伸成一個基底

證明:

  • 假設 u1,,umu_1, \ldots, u_m 在有限維度向量空間 VV 中是線性獨立的。
  • w1,,wnw_1, \ldots, w_n 為一組生成 VV的向量。
  • 把兩個列表接起來,會得到 u1,,um,w1,,wnu_1, \ldots, u_m, w_1, \ldots, w_n。這組向量會生成 VV
  • 用2.30的過程,可以將此列表簡化為 VV 的基底。
  • 這個基底,由向量 u1,,umu_1, \ldots, u_m 和一些 ww 組成(在此過程中沒有 uu 被刪除,因為 u1,,umu_1, \ldots, u_m 是線性獨立的)。
  • 我們已經找到包含u1,,umu_1, \ldots, u_m的基底,得證

最後來看一個範例熟悉一下:

  • F3\mathbf{F}^3中,我們假設有一個線性獨立的向量組(2,3,4),(9,6,8)(2,3,4),(9,6,8)
  • 然後假設w1,w2,w3w_1, w_2, w_3F3\mathbf{F}^3中的標準基底
  • 那麼使用上面的方法,可以「延伸」得到的基底就會是(2,3,4),(9,6,8),(0,1,0)(2,3,4),(9,6,8),(0,1,0)

以上,我們了解了「基底」的概念。基底結合了我們前面說過的「線性獨立」、以及「生成」的觀念。一個向量空間VV的基底會:

  1. 生成VV
  2. 為線性獨立

你可以理解成「生成一個向量空間最短的向量組」,不多不少剛剛好。如果更長就會無法線性獨立,更短就無法生成空間了。 非常直觀吧!

了解完了基底,下個小節我們就可以定義所謂「維度」的概念了!

2.B精選練習題(選自Linear Algebra Done Right, Ch2.B

  1. (a) Let UU be the subspace of R5\mathbf{R}^5 defined by

    U={(x1,x2,x3,x4,x5)R5:x1=3x2 and x3=7x4}.U=\left\{\left(x_1, x_2, x_3, x_4, x_5\right) \in \mathbf{R}^5: x_1=3 x_2 \text { and } x_3=7 x_4\right\} .

    Find a basis of UU.

    (b) Extend the basis in (a) to a basis of R5\mathbf{R}^5.

    (c) Find a subspace WW of R5\mathbf{R}^5 such that R5=UW\mathbf{R}^5=U \oplus W.

  1. Prove or give a counterexample: If p0,p1,p2,p3p_0, p_1, p_2, p_3 is a list in P3(F)\mathcal{P}_3(\mathbf{F}) such that none of the polynomials p0,p1,p2,p3p_0, p_1, p_2, p_3 has degree 2 , then p0,p1,p2,p3p_0, p_1, p_2, p_3 is not a basis of P3(F)\mathcal{P}_3(\mathbf{F}).
  1. Suppose v1,v2,v3,v4v_1, v_2, v_3, v_4 is a basis of VV. Prove that v1+v2,v2+v3,v3+v4,v4v_1+v_2, v_2+v_3, v_3+v_4, v_4 is also a basis of VV.
  1. Suppose UU and WW are subspaces of VV such that V=UWV=U \oplus W. Suppose also that u1,,umu_1, \ldots, u_m is a basis of UU and w1,,wnw_1, \ldots, w_n is a basis of WW. Prove that u1,,um,w1,,wnu_1, \ldots, u_m, w_1, \ldots, w_n is a basis of VV.

2.C Dimension(維度)

接下來我們終於可以回到開頭提到的「維度」。維度到底要怎去定義?直覺上,我們會希望

  • F2\mathbf{F}^2的維度是2
  • F3\mathbf{F}^3的維度是3
  • Fn\mathbf{F}^n的維度是nn

同時前面我們又學到「基底」的概念。那大家可能就會想到:

「是不是用基底的長度,就可以定義維度?」

這時候我們就會想到

「阿,那好像可以用一個空間的基底長度當成維度!?」

但是這時候又會出現一個問題了,因為一個向量空間有很多基底,必須要所有基底長度都一樣,才能這樣定義。不然我選不同的基底,維度也會不一樣了耶?

還好,這個問題並不會發生,因為所有的基底長度都是一樣的!

我們接下來就會證明這件事。

定理2.34:基底長度永遠一樣

任何有限維度向量空間的兩組基底長度都相同

還記得我們前面2.22說的嗎:

在有限維度的向量空間中,任何「線性獨立的向量組」的長度都小於等於任何「生成該空間的向量組」的長度。

我們接下來就會用2.22來證明同一個任何基底的長度都是一樣的:

  • 假設VV為有限維度。另B1B_1B2B_2為兩組VV的基底.
  • 那麼VVB1B_1 為線性獨立,且B2B_2 生成 VV,所以B1B_1的長度小於等於B2B_2的長度 (根據 2.22).
  • 交換B1B_1B2B_2的角色,會得到B2B_2的長度小於等於B1B_1的長度
  • 所以B1B_1B2B_2的長度相等,得證

現在我們知道了所有基底長度都一樣,我們就可以名正言順地用基底長度來定義「維度」了!

定義2.35:維度、dim V

  • 有限維度向量空間的維度==該空間任何基底的長度。
  • 有限維度向量空間 VV 的維度會寫成 dimV\operatorname{dim} V

來看幾個範例:

  • dimFn=n\operatorname{dim} \mathbf{F}^n=n 因為 Fn\mathbf{F}^n 的標準基底長度為 nn.
  • dimPm(F)=m+1\operatorname{dim} \mathcal{P}_m(\mathbf{F})=m+1,因為 Pm(F)\mathcal{P}_m(\mathbf{F}) 的標準基底 1,z,,zm1, z, \ldots, z^m 的長度為 m+1m+1
  • 如果 U={(x,x,y)F3:x,yF}U=\left\{(x, x, y) \in \mathbf{F}^3: x, y \in \mathbf{F}\right\},那麼 dimU=2\operatorname{dim} U=2,因為 (1,1,0),(0,0,1)(1,1,0),(0,0,1)UU 的基底。
  • 如果 U={(x,y,z)F3:x+y+z=0}U=\left\{(x, y, z) \in \mathbf{F}^3: x+y+z=0\right\},那麼 dimU=2\operatorname{dim} U=2,因為 (1,1,0),(1,0,1)(1,-1,0),(1,0,-1)UU 的基底。

根據基底的定義,一個向量空間VV的基底必須符合兩項條件:

  1. 線性獨立
  2. 必須生成VV

接下來我們會證明,如果一個向量組「長度剛好」,那我們只需要確認其中一個條件,另一個就會自動滿足了! 舉例來說:

  • 如果有三個「線性獨立」的向量R3\mathbf{R}^3,那它就一定會生成VV,所以它一定是一個基底
  • 如果有三個向量「可以生成R3\mathbf{R}^3,那它就一定線性獨立VV,所以它一定是一個基底

接下來我們來證明這個定理:

定義2.38:長度剛好的「線性獨立的向量組」便是基底

假設 VV 是有限維度的。那麼在 VV 中,任何長度為 dimV\operatorname{dim} V線性獨立向量列表都是 VV 的基底。

證明:

  • 假設 dimV=n\operatorname{dim} V=n,且 v1,,vnv_1, \ldots, v_nVV 中是線性獨立
  • 這個向量組v1,,vnv_1, \ldots, v_n 可以擴展成 VV 的一個基底(根據 2.32)
  • 但是,VV 的每個基底的長度都是 nn,但本來這組向量長度就是nn
  • 所以添加0個元素到 v1,,vnv_1, \ldots, v_n,就可以形成一個基底
  • 因此,v1,,vnv_1, \ldots, v_n 本來就是 VV 的一個基底,得證。

接下來我們證明另一種情況,也就是只要「長度剛好」的向量組可以生成VV,他就一定是線性獨立,因此是一個基底:

定義2.42:長度剛好的「生成向量組」便是基底

假設 VV 是有限維度的。那麼在 VV 中,任何長度為 dimV\operatorname{dim} V 的生成向量列表都是 VV 的基底。

證明:

  • 假設 dimV=n\operatorname{dim} V=nv1,,vnv_1, \ldots, v_n 生成 VV
  • 列表 v1,,vnv_1, \ldots, v_n 可以被「刪減」為 VV 的一個基底(根據 2.30)
  • 但是,VV 的每個基底的長度都是 nn,而現在長度本來就是nn,意味著從 v1,,vnv_1, \ldots, v_n 中沒有刪除任何元素。
  • 因此,v1,,vnv_1, \ldots, v_nVV 的一個基底,得證。

最後我們介紹如何計算「空間和」的維度。 這個公式跟計算「聯集」的元素總數的公式很類似:

第一個集合的元素數量+第二個集合的元素數量交集的元素數量\text{第一個集合的元素數量} + \text{第二個集合的元素數量} - \text{交集的元素數量}

用數學的符號去寫就是:

#(S1S2)=#S1+#S2#(S1S2)\begin{aligned} \#\left(S_1 \cup S_2\right) & =\# S_1+\# S_2-\#\left(S_1 \cap S_2\right)\end{aligned}

計算空間和的維度,也是很符合我們的直覺,接下來我們就來證明:

定義2.43:空間和的維度

如果 V1V_1V2V_2 是有限維度向量空間的子空間,那麼

dim(V1+V2)=dimV1+dimV2dim(V1V2).\operatorname{dim}\left(V_1+V_2\right)=\operatorname{dim} V_1+\operatorname{dim} V_2-\operatorname{dim}\left(V_1 \cap V_2\right) .

證明:

  • v1,,vmv_1, \ldots, v_mV1V2V_1 \cap V_2 的一組基底;因此 dim(V1V2)=m\operatorname{dim}\left(V_1 \cap V_2\right)=m
  • 因為 v1,,vmv_1, \ldots, v_mV1V2V_1 \cap V_2 的基底,所以它在 V1V_1 中是線性獨立的。
  • 因此,這個列表可以擴展成 V1V_1 的一組基底 v1,,vm,u1,,ujv_1, \ldots, v_m, u_1, \ldots, u_j(根據 2.32)。因此 dimV1=m+j\operatorname{dim} V_1=m+j
  • 同樣地,將 v1,,vmv_1, \ldots, v_m 擴展成 V2V_2 的一組基底 v1,,vm,w1,,wkv_1, \ldots, v_m, w_1, \ldots, w_k;因此 dimV2=m+k\operatorname{dim} V_2=m+k

我們接下來只要證明

v1,,vm,u1,,uj,w1,,wk(2.44)v_1, \ldots, v_m, u_1, \ldots, u_j, w_1, \ldots, w_k \tag{2.44}

V1+V2V_1+V_2的基底,就可以完成證明了。因為這代表

dim(V1+V2)=m+j+k=(m+j)+(m+k)m=dimV1+dimV2dim(V1V2).\begin{aligned} \operatorname{dim}\left(V_1+V_2\right) & =m+j+k \\ & =(m+j)+(m+k)-m \\ & =\operatorname{dim} V_1+\operatorname{dim} V_2-\operatorname{dim}\left(V_1 \cap V_2\right) . \end{aligned}

那我們開始吧。首先我們知道:

  • 列表 2.44 中所有向量,都包含在 V1V2V_1 \cup V_2 中,因此也包含在 V1+V2V_1+V_2 中。
  • 這個列表的生成空間包含 V1V_1 也包含 V2V_2,因此等於 V1+V2V_1+V_2
  • 因此,要證明 2.44 是 V1+V2V_1+V_2 的基底,我們只需要證明它是線性獨立的即可。

要證明2.44是線性獨立的,我們先假設

a1v1++amvm+b1u1++bjuj+c1w1++ckwk=0a_1 v_1+\cdots+a_m v_m+b_1 u_1+\cdots+b_j u_j+c_1 w_1+\cdots+c_k w_k=0

其中所有的 aa 's, bb 's, and cc 's 都是純量係數。我們的目標是證明這些係數都是0。

這個式子可以重寫為

c1w1++ckwk=a1v1amvmb1u1bjujV1(2.45)c_1 w_1+\cdots+c_k w_k=\underbrace{-a_1 v_1-\cdots-a_m v_m-b_1 u_1-\cdots-b_j u_j}_{\in V_1} \tag{2.45}

這邊我們可以看出來c1w1++ckwkV1c_1 w_1+\cdots+c_k w_k \in V_1

因為所有的ww 's都在V2V_2中,這代表c1w1++ckwkV1V2c_1 w_1+\cdots+c_k w_k \in V_1 \cap V_2

因為v1,,vmv_1, \ldots, v_mV1V2V_1 \cap V_2的基底,

c1w1++ckwk=d1v1++dmvmc_1 w_1+\cdots+c_k w_k=d_1 v_1+\cdots+d_m v_m

其中 d1,,dmd_1, \ldots, d_m為純量係數。把所有的項移到同一邊,我們會得到

c1w1++ckwkd1v1dmvm=0c_1 w_1+\cdots+c_k w_k - d_1 v_1 - \cdots - d_m v_m=0

因為v1,,vm,w1,,wkv_1, \ldots, v_m, w_1, \ldots, w_k 為線性獨立,這代表所有cc 's (and dd 's) 等於 0 。 帶入2.45,我們會得到

a1v1++amvm+b1u1++bjuj=0a_1 v_1+\cdots+a_m v_m+b_1 u_1+\cdots+b_j u_j=0

因為 v1,,vm,u1,,ujv_1, \ldots, v_m, u_1, \ldots, u_j為線性獨立(這些向量是V1V_1的基底),這代表所有的aa 's 和bb 's 都是0,得證。

2.C精選練習題(選自Linear Algebra Done Right, Ch2.C

  1. Show that the subspaces of R2\mathbf{R}^2 are precisely {0}\{0\}, all lines in R2\mathbf{R}^2 containing the origin, and R2\mathbf{R}^2.
  1. (a) Let U={pP4(F):p(6)=0}U=\left\{p \in \mathcal{P}_4(\mathbf{F}): p(6)=0\right\}. Find a basis of UU.

    (b) Extend the basis in (a) to a basis of P4(F)\mathcal{P}_4(\mathbf{F}).

    (c) Find a subspace WW of P4(F)\mathcal{P}_4(\mathbf{F}) such that P4(F)=UW\mathcal{P}_4(\mathbf{F})=U \oplus W.

  1. Suppose v1,,vmv_1, \ldots, v_m is linearly independent in VV and wVw \in V. Prove that
dimspan(v1+w,,vm+w)m1\operatorname{dim} \operatorname{span}\left(v_1+w, \ldots, v_m+w\right) \geq m-1
  1. Suppose UU and WW are both five-dimensional subspaces of R9\mathbf{R}^9. Prove that UW{0}U \cap W \neq\{0\}.
  1. Explain why you might guess, motivated by analogy with the formula for the number of elements in the union of three finite sets, that if V1,V2,V3V_1, V_2, V_3 are subspaces of a finite-dimensional vector space, then dim(V1+V2+V3)=dimV1+dimV2+dimV3dim(V1V2)dim(V1V3)dim(V2V3)+dim(V1V2V3)\begin{aligned} \operatorname{dim}\left(V_1+V_2\right. & \left.+V_3\right) \\ = & \operatorname{dim} V_1+\operatorname{dim} V_2+\operatorname{dim} V_3 \\ & -\operatorname{dim}\left(V_1 \cap V_2\right)-\operatorname{dim}\left(V_1 \cap V_3\right)-\operatorname{dim}\left(V_2 \cap V_3\right) \\ & +\operatorname{dim}\left(V_1 \cap V_2 \cap V_3\right) \end{aligned} Then either prove the formula above or give a counterexample.

總結

這個章節我們先從「維度」的直覺概念出發,然後再用嚴謹的方式,重新去了解,維度到底是怎麼定義出來的

  • 首先,介紹了「線性組合」和「生成空間」的概念
  • 接著定義了「線性獨立」和「線性相依」
  • 然後,結合前面概念,奠定了「基底」的概念,就是同時具備線性獨立和生成空間特性的向量組
  • 最後,透過嚴謹的數學推導,證明了所有基底的長度相同,從而正式定義了向量空間的「維度」為基底的長度。

參考資料