[스터디 노트] 14번째 선형대수 (240930), 제로베이스 데이터 분석 스쿨 내용

제로베이스 데이터 분석 스쿨 내용에 대한 기록이다.

14번째는 선형대수 강의이다.

 

[선형 방정식]

• 정의
  • linear equation
  • a_1 x_1 + a_2 x_2 + ... + a_n x_n = b
  • x에 대한 차수가 1차로 이루어진 방정식.
  • x에 대한 차수가 2차이거나 음수면 비선형 방정식이다.
• 선형 방정식 계
  • a system of linear equation, linear system
  • 2개 이상의 선형 방정식이 있을 때 집합으로 부를 수 있다.
  • 같은 변수들을 포함한 선형 방정식이 1개 또는 그 이상의 집합을 뜻한다.
  • 같은 변수가 반드시 1개 이상 있어야 한다.
• 해의 집합
  • solution set
  • 선형 시스템에서 모든 가능한 해의 집합
  • 2개의 직선은 1개 점의 해를 갖는다.
  • 2개의 면은 직선으로 된 해의 집합을 갖는다.
  • 같은 솔루션 셋을 가지면 상등 equivalent 라고 한다.
• 해 solution
  • no solution, inconsistent, 평행한 직선 방정식
  • exactly one solution, consistent, 해가 1개 이상 있는 경우
  • infinitely many solution, 직선이 겹치는 경우
  • 선형 방정식 계는 위 3가지 경우만 있다.
  • 2개의 해가 존재하는 경우는 비선형이다.
• 행렬의 표시
  • 계수행렬 coefficient matrix, b를 제외하고 x계수인 a들로만 구성
  • 첨가행렬 augmented matrix, b까지 포함한 구성
    
    

[가우스 소거법]

• elimination
• 행관점과 열관점 2가지로 접근
• 변수가 2개일 때
  • 행관점
    • 우리가 평소에 하던 방법
    • 두 선의 교점 찾는 것으로 풀이
    • 행으로 나눠서 2개의 행으로 취급
    • (=2개의 방정식)
    • y나 x를 소거해서 값 찾기
  • 열관점
    • 선형대수에서 푸는 방법
    • 컬럼의 결합으로 풀이
    • x와 y로 묶어서 컬럼으로 만들기
    • x에 대한 벡터, y에 대한 벡터로 표현
    • 2x - y = 1
    • x + y = 5
    • x [2, 1] + y [-1, 1] = [1, 5]
    • 4사분면에 (2,1)벡터와 (-1,1)벡터 표시
    • 해는 (1,5) 이게 곧 도착점
    • 각 벡터에 몇 상수배를 해야하는지 계산
    • 2배 곱해서 (4,2) 와 3배 곱해서 (-3,3)이 되어야 한다.
• 가우스 소거법
  • 한 행을 상수배 하여 다른 행에 더할 수 있다. (replacement)
  • 두 행을 교환할 수 있다. (interchange)
  • 0이 아닌 상수를 행에 곱할 수 있다. (scaling)
  • 결론적으로 상하 삼각행렬을 만들어 해를 찾는다.
  • 프로세스
    • x_1, x_2, x_3의 변수가 있는 예시
    • 선형 방정식 계를 첨가행렬로 표현한다.
    • 첫번째 행 외에 모든 행의 x_1을 0으로 만든다.
    • 첫번째 두번째 행 외에 모든 행의 x_2를 0으로 만든다.
    • 행렬에서 좌측하단이 0으로 가득찬 삼각행렬이 된다.
    • 마지막 행은 x_3의 계수만 있고, 계수를 1로 만든다.
    • 두번째 행을 x_2의 계수만 남기고 모두 없애주고, 계수를 1로 만든다.
    • 첫번째 행을 x_1의 계수만 남기고 모두 없애주고, 계루를 1로 만든다.
    • 각 변수의 값이 가우스 소거법에 의해 계산 완료 되었다.
      
      

[선형 방정식 예외]

• 두개의 평면이 평행한 경우 (no solution)
  • 두개가 평행하면 만나지 않으므로 해가 없다.
• 세개의 평면이 평행한 경우
• 세개의 평면이 평행하지 않는 경우 (no intersection)
  • 삼각형 모양으로 되서 3개 변수를 모두 만족하는 해는 없어진다.
• 세개의 평면이 한 선에서 만나는 경우 (infinity of solution)
  • 선에서 만나므로 해가 무수히 많다.
• 세개의 컬럼이 동일한 평면에 놓이고 b는 다른 평면에 위치하는 경우 (no solution)
• 세개의 컬럼이 동일한 평면에 놓이고 b가 동일한 평면에 위치하는 경우 (infinity of solution)
  
  

[역행렬]

• 역행렬이 존재하는 행렬 invertible matrix
  • row 개수와 col 개수가 같아야 한다.
  • AC = I 인 행렬 C가 있어야 하며 C는 유일해야 한다.
  • 이때 C를 A^(-1)으로 표시한다.
• 2x2 행렬의 결정자 determinant, (det = ad-bc)
  • A가 2x2 행렬일 때 ad-bc != 0 이면 A는 invertible 이다.
  • 역행렬이 있는지 없는지를 결정하기 때문에 결정자라고 부른다.
• 역행렬을 양변에 곱하면 쉽게 해를 구할 수 있다.
• (AB)^(-1) = B^(-1) A^(-1), 순서가 바뀐다.
• A가 invertible 이면 A의 전치행렬도 invertible 이다.
  
  

[기본행렬]

• elementary matrix, E
• 항등행렬 I에 단일 기본 행연산을 적용해서 얻을 수 있다.
• replacement, interchange, scaling을 적용한 기본행렬이 있다.
• E가 invertible 이면 E^(-1)이 있는 것인데 이것도 기본행렬 E 이다.
• 역행렬을 찾는 알고리즘
  • [A I]를 [I A^(-1)]로 바꿔준다.
  • 이 과정에서 기본행렬을 여러종류 반복해서 사용할 수 있다.
  • 다시 말해 row operation을 계속 사용해서 왼쪽을 I로 만든다.
    
    

[역행렬의 특징]

• 역선형 변환
  • invertible linear transformation
  • x에 A를 곱해서 다른 차원으로 multiplication 할 수 있다.
  • 다시 A^(-1)를 곱해서 원래 차원으로 multiplication 할 수 있다.
  • linear transformation은 항상 standard matrix가 있다.

깃허브 링크

 

깃허브 선형대수 공부 부분 링크