Analytical Solution(분석적) vs Numerical Solution(수치적) in ML

 

분석적 솔루션(Analytical solution)과 수치적 솔루션(Numerical solution)에 대한 설명입니다.

 

분석적 솔루션은 수학적인 공식과 방정식을 사용하여 문제를 해결하는 방법입니다. 이 방법은 정확하고 완전한 해결책을 제공할 수 있습니다.

예를 들어, 어떤 함수의 도함수를 찾는 문제가 있다면, 분석적 솔루션은 해당 함수를 미분하여 도함수를 구하는 과정을 통해 정확한 해를 얻을 수 있습니다.

 

수치적 솔루션은 컴퓨터를 사용하여 근사적인 해결책을 찾는 방법입니다. 이 방법은 복잡한 수학적 문제를 계산 및 근사화하여 수치적인 근사 해를 제공합니다.

예를 들어, 어떤 함수의 도함수를 찾는 문제가 있다면, 수치적 솔루션은 함수의 작은 구간에서 접근점을 선택하고, 이를 이용하여 근사적인 도함수 값을 계산합니다. 이러한 방법은 정확한 해결책을 제공할 수는 없지만, 컴퓨터의 계산 능력을 활용하여 복잡한 문제를 처리할 수 있습니다.

 

 

 

 

예시를 통해 좀더 쉽게 가 봅시다.

예시) f(x)=x−5에서 근 찾기

 

- 분석적인 해결책: f(x)=x−5=0
이므로 양변에 +5를 더해주면 x=5 가 됩니다.

- 수치적인 해결책:

x=1을 대입해봅시다: f(1)=1−5=−4. => 음수

x=6을 대입해봅시다: f(6)=6−5=1. =>양수

즉, 0이 되는 해는 이 x가 1~6인 중간에 있을 것입니다.

 

중간값인 x=(6+1)/2 를 시도해봅시다

f(7/2) = f(3.5) = -1.5로 음수입니다.

 

그러므로 x=3.5  ~ x=6 인 사이에 해가 있을 것입니다.

이런식으로 말이죠.. 
이를 이분법(bisection method)이라고 합니다.

수치적인 솔루션은 많은 종류가 있습니다.

 

이를 사용하는 이유는 분석적인 접근이 어렵거나 혹은 분석적인 해결책이 너무 느려서 정확한 해결책을 얻기 위해 1시간 혹은 몇일이 걸릴 수도 있기 때문입니다. 이는 리소스 문제를 해결하기 위함이죠.

 

이럴 경우 단지 위에서 수치적 방식을 사용하여 좋은 근사값을 얻기 수 있습니다.

 

 

요약하자면, 분석적 솔루션은 정확하고 완전한 해결책을 제공할 수 있지만, 간단하거나 직관적인 문제에 적용하기 적합합니다. 수치적 솔루션은 근사적인 해결책을 제공하지만, 더 복잡한 문제를 다룰 수 있습니다.

 

 

 

요약 : 

Analytic solution : 주어진 방정식을 풀어서 최적의 해 찾기.

Numerical solution : 수치적으로 근사해를 찾는 방식 (대표적인 방식: gradient descent)