airoot의 인공지능 이야기

로그함수는 주어진 숫자가 어떤 수의 거듭제곱으로 표현될 수 있는지를 나타내는 함수로, 수학에서 매우 중요한 역할을 한다. 로그함수의 기본 형태는 다음과 같다.y=log⁡b(x)여기서 b는 밑(base)이라 불리며, 로그함수가 어떤 밑을 기준으로 하는지를 나타낸다. x는 로그의 진수(argument)로, 밑의 몇 제곱이 x가 되는지를 묻는 것이다. 그리고 y는 결과값을 의미합니다. 이 식은 다음과 같이 해석할 수 있다.1. 로그의 종류상용로그 (Common Logarithm): 밑이 10인 로그를 말하며, 주로 log⁡(x) 또는 log⁡10(x)로 표기한다. 예를 들어, log⁡10(100)=2이다. 이는 10을 두 번 곱하면 100이 된다는 의미이다.자연로그 (Natural Logarithm): 밑이 ..

신경망에서 사용되는 활성화 함수는 신경망의 출력값을 비선형적으로 변환하여 학습과정을 도와준다. 주요 활성화 함수에는 다음과 같은 것들이 있다. 1. 계단 함수 (Step Function)역치값 이상이면 1, 아니면 0인공지능 초기에 사용하였으나 지금은 잘 사용하지 않는다. 2. 시그모이드 함수 (Sigmoid Function)​출력값이 0과 1 사이로 압축된다. 그러나, 시그모이드 함수는 큰 값에서 그래디언트가 매우 작아져서 학습이 느려질 수 있다 (즉, 기울기 소실 문제가 발생할 수 있음).public static double sigmoid(double x) { return 1 / (1 + Math.exp(-x));} 3. 하이퍼볼릭 탄젠트 함수 (Tanh Function)tanh(x)는 쌍곡 탄..

1. (x-a)의 제곱을 미분하면2. sign을 미분하면 cosign3. cosign 미분하면 -sign4. tan를 미분하면5. tanh를 미분하면6. Sigmoid함수를 미분하면7. MSE를 미분하면8. ReLU함수를 미분하면,9. Softmax를 미분하면,10. Cross-Entropy + Softmax 미분