수반행렬(Adjoint Matrix)
소행렬식(Minor Determinant) n\times n 정방행렬 A에서 어떤 원소 a_{ij}를 기준으로 i번째 행과 j번째 열을 제거한 뒤 남은 부분행렬의 determinant를 소행렬식이라고 한다. 이를 예를 들어 (1, 1) 원소의 소행렬식 위와 같은 행렬이 있을 때 1행과 1열을 제거한 행렬
[ML] Jacobian 1
서론 고등학생때 배웠던 미분은 단순히 함수의 접선 기울기를 구하는 것에 그쳤다면 AI/ML 관점에서는 입력을 아주 조금 변화시켰을 때 출력은 얼마나 변화하는가에 대한 관점으로 바꾸어 생각해본다. 예를들어 x에 작은 변화량 \Delta x를 주어 x → x + \Delta x가 되었다하자. 그러면 출력의
EM 알고리즘 (작성중)
우리는 각 데이터가 어떤 군집에 속하는지 알 수가 없는 상황에서 비슷한 데이터끼리 여러 그룹으로 나누고 싶다. 이렇게 데이터의 라벨을 모르는 상태에서 어떻게 각 비슷한 데이터끼리 그룹으로 구분할 수 있을까? 여기서 우리가 관측한 데이터는 X, 각 데이터가 어느 군집에 속해있는지 나타내는 잠재변수를 Z라고
Variation Inference(VI, ELBO)
Variation Inference(VI, ELBO) 개요 복잡한 데이터를 이해하고싶어서 어떤 요인들이 데이터에 영향을 주는지 알고 싶다. 즉 우리가 보는 데이터가 왜 그렇게 나왔는지 숨은 원인을 알고 싶은 것. (데이터 x가 주어졌을때 숨은 요인 z가 어떻게 나오는지를 알고싶은 것이다. p(z|x))