수업 출처) 숙명여자대학교 통계학과 "통계수학" 수업, 윤재은 교수님

 

1. 행벡터와 열벡터

 

A(nxm)

 

- 행벡터 : A의 행에서 만들어지는 벡터 → n개 만들 수 있다.

  r₁' = (a₁₁, a₁₂, ..., a₁ₘ)

  r₂' = (a₂, a₂₂, ..., a₂ₘ)

...

  rₙ' = (aₙ, aₙ, ..., aₙₘ)

 

* A의 행에서 얻어지는 벡터 r₁, r₂, ..., rₙ를 선택하여 선형독립이 되도록 최대한 모았을 때 벡터의 개수

 

- 열벡터 : A의 열에서 만들어지는 벡터 → m개 만들 수 있다.

  c₁ = (c₁₁, c₂, ..., cₙ)'

  c₂ = (c, c₂₂, ..., c)'

...

  cₘ = (c₁ₘ, c₂ₘ, ..., cₙₘ)'

 

* A의 열에서 얻어지는 벡터  c₁, ..., cₘ를 선택하여 선형도립이 되도록 최대한 모앗을 때 벡터의 개수

 

2. rank

- 모든 행렬에서 계산 가능

 

Th6.3 > 임의의 행렬 A(mxn)에서 다음 두 수는 동일하다.

    - 행으로 만든 벡터를 선택하여 선형독립이 되도록 최대한 모았을 때 벡터의 수

    - 열로 만든 벡터를 선택하여 선형독립이 되도록 최대한 모았을 대 벡터의 수

 

- 그 수를 행렬 A의 rank로 정의

 

3. rank 성질

 

- rank(A)는 양의 정수이며, 영행렬의 rank는 0으로 정의한다.

- rank(Amxn) ≤ min(m, n)

 

- rank(Anxn) = n : 최대계수를 갖는다. → A가 정칙행렬

- rank(Anxn) < n : 최대계수를 갖는지 않다. → A가 비정칙행렬

 

Th6.4 > rank(A) = rank(A')

= rank(A'A) = rank

 

Th6.5 > rank(AB) ≤ min { rank(A), rank(B) }

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 직교성과 정사영  (0) 2021.04.24
[행렬] 벡터의 선형독립과 내적  (0) 2021.04.24
[행렬] 역행렬과 분할행렬  (0) 2021.04.14
[행렬] 행렬식  (0) 2021.04.13
[행렬] 행렬의 기초  (0) 2021.04.13

수업 출처) 숙명여자대학교 통계학과 "통계수학"수업, 윤재은 교수님

 

1. 직교벡터

두 n차원 벡터 x, y에 대해서 x · y = 0일 때, x와 y는 서로 수직이다.

 

단위벡터는 벡터를 벡터의 노음(길이)으로 나눔으로써 만들 수 있다.

 

norm = ||x|| = √(x ·x)

 

단위벡터 z = 1/||x|| x

 

* 직교집합 : n차원 벡터 집합 S = {x₁, x₂, ..., xₚ} 에 속해있는 임의의 두 벡터가 서로 직교일 때,

즉 모든 𝑖, 𝑗에 대해서 x𝑖' x𝑗 = 0 일 때, S를 직교집합이라고 한다.

 

* 정규직교집합 : 직교집합 S에 속하는 모든 벡터가 단위벡터일 대,

즉 ||x𝑖|| = 1일 때 S를 정규직교집합이라고 한다.

- (ex) S = {(1 0 0)T, (0 1 0)T, (0 0 1)T}

 

Th5.1 > 영벡터가 아닌 n차원 벡터 x₁, x₂, ..., xₚ 가 직교집합이면 이 벡터집합은 선형독립이다.

 

pf) a₁x₁ + a₂x₂ + ... + aₚxₚ = 0

양 변에 x₁ 을 곱하면

a₁x₁·x₁ + a₂x₂·x₁+ ... + aₚxₚ·x₁ = 0

직교집합이기 때문에 x₁·x𝑖 = 0

따라서 a₁, a₂, ...., aₚ = 0 -> 선형독립

 

* 직교행렬 : 정규직교 열들로 구성된 정방행렬

 

2. 정사영

 

 

p = ka

b - pa

(b - p) · a = 0

(b - ka) · a = 0

b · a - ka · a = 0

k = b · a / a · a

∴ p = (b · a / a · a) · a

 

* 벡터 b의 평면 V 위로의 정사영 p

 

( A = (a₁ a₂)T )

 

TH5.3 > 선형독립인 a₁ , ..., aₚ 에 의해 생성되는 벡터공간을 V라고 할 때, 벡터 b의 V로의 정사영 p는 p = A (A'A)⁻¹ A' b 을 만족한다.

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 행렬의 rank  (0) 2021.04.24
[행렬] 벡터의 선형독립과 내적  (0) 2021.04.24
[행렬] 역행렬과 분할행렬  (0) 2021.04.14
[행렬] 행렬식  (0) 2021.04.13
[행렬] 행렬의 기초  (0) 2021.04.13

수업출처) 숙명여자대학교 통계학과 '통계수학' 수업, 윤재은 교수님

 

1. n차원 벡터, 벡터합, 내적

 

- 스칼라 : 크기만 있고 방향을 가지지 않는 양

- 벡터 : 크기와 방향 모두 가지고 있는 양

 

** ℝⁿ 의 두 벡터 x = (x1, x2, ..., xn)' 과 y = (y1, y2, ..., yn)' 의 내적은

x · y = Σ x𝑖 y𝑖 = x1y1 + ... + xnyn = xTy = yTx

 

** 벡터 x = (x1, x2, ..., xn)'의 길이 (노음, norm)은 ||x||로 표시하고, ||x|| = √(x · x) = √(Σx𝑖²) 이다.

 

** 두 벡터 x = (x1, x2, ..., xn)' 과 y = (y1, y2, ..., yn)' 사이의 거리

d(x, y) = ||x - y|| = √(x - y) (x - y) = √(Σ(x𝑖 - y𝑖)²)

 

** 내적의 기하학적 의미 x · y = ||x|| ||y|| cosθ

 

** x · y = 0 이면 두 벡터는 직교 (xy)

 

** 두 벡터가 이루는 각을 θ라고 하면 cosθ = x · y / ||x|| ||y||

 

** 임의의 n차원 벡터에 대해 다음이 성립한다. <x, y> = x · y

> <x, y>² ≤ <x, x> <y, y>

> ||x + y|| ≤ ||x|| + ||y||

 

2. 선형독립과 선형종속

 

: x1, x2, ..., xm이 n차원 벡터들이며, a1, a2, ..., am 이 스칼라일 때

u = a1 x1 + ... + am xm 형태의 합을 x1, x2, ..., xm 의 선형결합 이라고 한다.

 

어떤 벡터가 다른 벡터들의 선형결합으로 얻어질 수 있는지 규명하는 것이 중요하다.

 

ex) 3차원 벡터

 

x1 = (3, 0, 1)', x2 = (2, -1, 3)', x3 = (5, 0, 4)' 의 선형결합으로 y = (1, 3, -2)' 표현하면

y = (-1) x1 + (-3) x2 + 2 x3

 

벡터들의 집합 S = {x1, x2, ..., xm}에서 a1 x1 + ... + am xm = 0 을 만족하는 a𝑖 들의 값이 a1 = a2 = ... = 0만 존재한다면 S는 선형독립이라고 한다.

만약 적어도 하나는 0이 아닌 a𝑖 가 존재한다면 S는 선형종속이라고 한다.

 

즉, S가 선형독립이면 어떠한 벡터도 다른 벡터들의 선형결합으로 표시될 수 없다. 

S가 선형종속이면 어느 한 벡터가 다른 벡터들의 선형결합으로 표시될 수 있다.

 

이를 규명할 때에는 a1 x1 + ... + am xm = 0 형태로 놓고 a𝑖에 대해 연립방정식을 풀면 된다.

a𝑖가 모두 0이 나오면 선형독립인 것이고, a𝑖끼리의 관계식이 나온다면 선형종속인 것이다.

 

Th4.1 > 두 개 이상의 벡터로 구성된 벡터 집합 S = {x1, x2, ..., xm} 이

> 선형종속이기 위한 필요충분조건은 S에 속하는 벡터 중 적어도 하나의 벡터가 다른 벡터의 선형결합으로 표현 가능한 것이다.

> 선형독립이기 위한 필요충분조건은 S에 속하는 어떤 벡터도 다른 벡터의 선형결합으로 표현될 수 없는 것이다.

 

Th4.2 > 두 벡터만을 갖는 집합이 선형종속이기 위한 필요충분조건은 적어도 이들 벡터 중 하나가 다른 벡터의 실수배로 되는 것이다.

 

* n차원 벡터를 선형독립이 유지되도록 모았을 때 최대한 모을 수 있는 개수는 n개이다.

 

* n차원 벡터를 n+1개 이상 모으면 무조건 선형종속이 된다.

 

3. 벡터공간 

 

V 를 벡터들을 모아놓은 집합이라고 할 때, V의 모든 원소 x, y에 대해 다음의 두 성질이 만족하면 V를 벡터공간이라고 한다.

(v1)  x ∈ V, y ∈ V → x + y ∈ V      : 덧셈에 대해 닫혀있다

(v2)  x ∈ V → ax ∈ V                     : 곱셈에 대해 닫혀있다

 

ex) V = {(x, y, z) : x + y + z = 0} 

 

(v1)  V1 = (x1, y1, z1)' ∈ V, V2 = (x2, y2, z2)' ∈ V

V1 + V2 = (x1 + x2, y1 + y2, z1 + z2)'

(x1 + x2) + (y1 + y2) + (z1 + z2) = (x1 + y1 + z1) + (x2 + y2 + z2) = 0 ∈ V

 

(v2) a(x1 + y1 + z1) = 0 ∈ V

 

벡터공간 V = R³의 임의의 원소 z = (z₁ z₂ z₃)T가 x₁ x₂ ·x

 

벡터공간을 생성하면서 선형독립인 벡터들의 모임을 "기저"라고 한다. 

벡터공간의 기저는 유일하지 않다.

 

 

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 행렬의 rank  (0) 2021.04.24
[행렬] 직교성과 정사영  (0) 2021.04.24
[행렬] 역행렬과 분할행렬  (0) 2021.04.14
[행렬] 행렬식  (0) 2021.04.13
[행렬] 행렬의 기초  (0) 2021.04.13

수업출처) 숙명여자대학교 통계학과 '통계수학' 수업, 윤재은 교수님

 

1. 역행렬

: 정방행렬 A 에 대해서 AB = BA = I 를 만족하는 정방행렬 B, A⁻¹로 표시

 

 

역행렬이 존재하기 위한 조건은 A가 정방행렬이면서 det(A) ≠ 0이어야 한다.

 

* 2차 정방행렬 역행렬 구하는 방법

 

A = [a b; c d]

|A| = ad - bc

A⁻¹ = 1 / (ad - bc) [d -b; -c a]

 

 

2. 역행렬 성질

 

Th3.1 > 정방행렬 A의 역행렬이 존재하는 경우 그 역행렬은 유일하다.

 

Th3.2 > A의 역행렬이 존재하기 위한 필요충분조건은 |A| ≠ 0이다.

 

Th3.3 > A가 가역행렬이면 A⁻¹ 역시 가역이며 (A⁻¹)⁻¹ = A 이다.

 

 

** 가역 = 정칙 = 역행렬 존재

 

Th3.4 > (A⁻¹)T = (AT)⁻¹

 

Th3.5 > A와 B가 각각 정칙이면 AB 역시 정칙이며 다음이 성립한다.

> (AB)⁻¹ = B⁻¹ A⁻¹

> (ABC)⁻¹ = C⁻¹ B⁻¹ A⁻¹

 

Th3.6

> A가 가역행렬일 때 kA도 가역행렬이고 (kA)⁻¹ = 1/k A⁻¹ 이다.

 

> A가 가역행렬일 때 Aⁿ 도 가역행렬이고, (Aⁿ)⁻¹ = (A⁻¹)ⁿ 이다.

 

Th3.7> A가 정칙일 때, PA = QA 이면 P = Q 이다.

 

Th3.8 > Ax = b 에서 A가 정칙이면 x = A⁻¹ b 이다.

→ 연립방정식의 풀이에 활용할 수 있음

 

3. 행렬의 분할

: 행렬을 블록화하여 간단히 나타낼 수 있다.

 

 

 

* 분할행렬의 전치행렬은 각각의 분할된 행렬을 전치한 것과 같다.

 

* 분할행렬의 곱

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 행렬의 rank  (0) 2021.04.24
[행렬] 직교성과 정사영  (0) 2021.04.24
[행렬] 벡터의 선형독립과 내적  (0) 2021.04.24
[행렬] 행렬식  (0) 2021.04.13
[행렬] 행렬의 기초  (0) 2021.04.13

수업출처) 숙명여자대학교 통계학과 '통계수학' 수업, 윤재은 교수님

 

1. 행렬식

: 정사각행렬에 실수값을 대응시키는 함수

 

1-1. 1차원 행렬 행렬식 

det(a11) = a11

 

1-2. 2차원 행렬 행렬식

1-3. n차원 행렬의 행렬식

 

소행렬식과 여인자를 활용하여 라플라스 전개를 통해 구한다.

- 소행렬식 : A의 𝑖번째 행과 𝑗번째 열을 지운 뒤에 남는 행렬을 M𝑖𝑗라고 하면, 이것의 행렬식 det(M𝑖𝑗)를 a𝑖𝑗의 소행렬식이라고 한다.

- 여인자 : (-1)^(𝑖𝑗) |M𝑖𝑗| 를 a𝑖𝑗의 여인자라고 한다.

 

 

Th2.1 > 행렬식의 라플라스 전개

행렬 A (n x n) = (a𝑖𝑗)의 행렬식은 다음과 같이 계산될 수 있다.

 

> (𝑖번째 행의 각 원소 (a𝑖𝑗))와 그 원소의 여인자 ((-1)^(𝑖𝑗) |M𝑖𝑗|) 를 곱해서 더한 것

> (𝑗번째 행의 각 원소 (a𝑖𝑗)와 그 원소의 여인자 ((-1)^(𝑖𝑗) |M𝑖𝑗|) 를 곱해서 더한 것

 

둘 중 하나를 선택해서 계산하면 되고, 어떤 행이나 열을 택해서 라플라스 전개로 행렬식을 구해도 같은 값이 나온다.

따라서 계산이 쉬운 행이나 열을 택하면 되고, 특히 원소값이 0인 원소가 많은 행이나 열을 택하는 것이 좋다.

 

2. 삼각행렬 

- 상삼각행렬 : 주대각선을 기준으로 대각선 아래쪽 항들의 값이 모두 0인 정사각행렬

- 하삼각행렬 : 주대각선을 기준으로 대각선 위쪽 항들의 값이 모두 0인 정사각행렬

 

Th2.2 > 행렬 A (n x n)가 삼각행렬일 때, A의 행렬식은 대각원소들의 곱이다.

det(A) = a11 x a22 x ... x ann

 

Th2.3 > 대각행렬의 행렬식은 대각원소들의 곱이다.

대각행렬은 상삼각행렬이면서 하삼각행렬이다. 따라서 Th2.2가 성립한다.

 

3. 행렬식의 성질

 

Th2.4 > 전치행렬 AT의 행렬식은 원래 행렬 A의 행렬식과 같다.

det(A) = det(AT)

전치해도 마주보는 값은 동일하기 때문이다.

 

Th2.5 > 행렬 A가 0만으로 이루어진 행 또는 열을 갖고 있으면 det(A) = 0이다.

 

<행렬의 기본 연산>

 

1) 두 행을 서로 교환

2) 한 행에 0이 아닌 실수를 곱한다.

3) 한 행에 0이 아닌 실수를 곱하여 다른 행에 더한다.

(행을 열로 바꾼 것도 기본연산)

 

Th2.6 (행을 열로 바꾸어도 모두 성립)

> A의 두 행을 교환하여 행렬 B 를 얻었을 때  det(B) = -det(A)   → 1연산

> A의 한 행에 상수 c를 곱하여 B를 얻었을 때  det(B) = c det(A)  → 2연산

> A의 한 행에 어떤 상수를 곱하여 다른 행에 더해서 B를 얻었을 때  det(B) = det(A) → 3연산

 

Th2.7 > 행렬 A의 두 행(열)이 같거나 한 행(열)이 다른 행의 상수배이면 det(A) = 0이다.

 

행렬식을 구할 때 기본연산을 활용하여 원소값이 0인 원소를 많이 만들거나 삼각행렬 / 대각행렬을 만드는 것이 유리하다.

 

Th2.8 > 행렬 A (n x n)와 B(n x n)가 있을 때, det(AB) = det(A) det(B) 이다.

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 행렬의 rank  (0) 2021.04.24
[행렬] 직교성과 정사영  (0) 2021.04.24
[행렬] 벡터의 선형독립과 내적  (0) 2021.04.24
[행렬] 역행렬과 분할행렬  (0) 2021.04.14
[행렬] 행렬의 기초  (0) 2021.04.13

수업출처) 숙명여자대학교 통계학과 '통계수학' 수업, 윤재은 교수님

 

 

1. 행렬

: 행과 열로 구분지어진 숫자들의 단순한 직사각형 배열

 

A의 (i, j)성분은 a𝑖𝑗로 표시

 

행렬의 표시는 위와 같이 원소를 일일히 보여주는 방식과 아래와 같이 (i, j) 성분에 대한 식을 제시하는 방식이 있다.

a𝑖𝑗 = i + j2 - 1, i = 1, 2, j = 1, 2

 

 

2. 기본이 되는 몇가지 행렬

 

2-1. 정방행렬 : 행의 수와 열의 수가 같은 행렬

2-2. 영행렬 : 원소가 전부 0인 행렬 (Φ)

2-3. 대각행렬 : 정방행렬에서 모든 비대각원소가 0인 행렬

2-4. 단위행렬 (항등행렬) (E or I) : 대각행렬에서 대각원소의 값이 전부 1인 행렬

2-5. 전치행렬 : 행렬 A의 행과 열을 서로 바꾸어 놓은 행렬 (A' or AT)

2-6. 대칭행렬 : A = AT를 만족하는 정방행렬, 주대각원소를 중심으로 원소들이 대칭구조를 갖고 있는 정방행렬

 

3. 벡터 : 한 개의 열 또는 행으로 이루어진 행렬

 

3-1. 열벡터 (x) : n x 1 인 행렬 

3-2. 행벡터 (xT) : 1 x m 인 행렬 

3-3. 영벡터 : 모든 원소가 0인 벡터

 

특징

- 기본적으로 행렬은 열벡터로 표현한다.

- m차원 열벡터와 n차원 행벡터의 곱의 결과는 m x n 행렬이다.

- n차원 행벡터와 n차원 열벡터의 곱의 결과는 실수이다. (스칼라)

- xTy = yTx 가 성립하며, x · y = xTy = yTx 를 두 벡터의 내적이라고 정의한다.

 

4. 행렬의 연산

4-1. 두 행렬 A, B가 같을 조건

 

  • A와 B의 크기가 같다.
  • 같은 위치에 있는 원소들이 모두 동일하다.

 

4-2. 행렬의 합과 차

 

조건 : 두 행렬이 같은 크기여야 한다.

 

A (m x n) = (a𝑖𝑗), B (m x n) = (b𝑖𝑗) 에 대해

 

- A + B = (a𝑖𝑗 + b𝑖𝑗)

- cA = (ca𝑖𝑗)

- (-1)A = -A

- A - B = (a𝑖𝑗 - b𝑖𝑗)

 

Th 1.2 > (A + B)T = AT + BT

 

4-3. 행렬의 곱

 

조건 : AB가 정의되기 위해서는 A의 열의 수와 B의 행의 수가 같아야 한다.

ex) A (2 x 3), B (3 x 5) → AB (2 x 5)

 

AB의 𝑖𝑗 원소는 A의 𝑖번째 행과 B의 𝑗번째 열의 곱으로 계산한다.

특징

- AB ≠ BA 

- AB가 존재하더라도 BA가 존재하지 않을 수 있다.

- AB = O 임에도 불구하고 A ≠ O 이고 B ≠ O 인 행렬 A, B가 존재한다.

 

- AB의 (𝑖, 𝑗) 원소는 A의 𝑖번째 행을 나타내는 벡터와 B의 𝑗 번째 열을 나타내는 벡터의 내적이다.

 

 

Th 1.3 > 행렬 A, B, C가 아래 연산이 성립되는 크기를 가질 때 다음의 규칙이 성립한다.

> A + B = B + A

> A + (B + C) = (A + B) + C

> A(BC) = (AB)C

> A(B + C) = AB + AC

> (A + B)C = AB + BC

 

Th 1.4

> (AB)T = BT AT 

> (ABC)T = CT BT AT

 

Th 1.5 > ATA = O 또는 AAT = O 이면 A = O

 

5. 역행렬

: 정방행렬 A에서 AB = BA = I 가 성립되는 정방행렬 B가 존재하면 B를 A의 역행렬이라 하고, B = A(1) 이라고 표시한다.

 

특징

- 모든 행렬이 역행렬을 갖고 있는 것은 아니며, 존재하면 유일하다.

- AB = I 가 성립하면 BA = I 도 성립한다.

 

 

 

 

'Statistics > 통계수학' 카테고리의 다른 글

[행렬] 행렬의 rank  (0) 2021.04.24
[행렬] 직교성과 정사영  (0) 2021.04.24
[행렬] 벡터의 선형독립과 내적  (0) 2021.04.24
[행렬] 역행렬과 분할행렬  (0) 2021.04.14
[행렬] 행렬식  (0) 2021.04.13

+ Recent posts