Worth spreading

Summer song

국내 인공지능 관련 서적들을 정리해놓은 자료입니다. '밑바닥부터 배우는 딥러닝'을 번역하신 개앞맵시님이 만드신 자료로 꾸준히 업데이트가 되고 있는 것 같습니다. 인공지능 공부를 시작하시는 분들이 참고하시면 좋을듯 합니다! https://www.mindmeister.com/812276967/_

파인만의QED강의(일반인을위한)리처드 파인만(Richard Feynman) | 승산 출판사 뭔가를 '이해'한다는 것에 상당히 엄격했던 파인만의 모습이 가장 잘 나타난 책이라고 생각한다. 20세기 최고의 발견이라고 할 수 있는 양자전기역학(quantum electrodynamics, QED)을 이렇게 쉽고 명쾌하게 설명할 수 있는 사람이 또 있을까? 물론 이 책 하나를 읽었다고 해서 양자전기역학의 전부를 깨달았다고 하기에는 무리가 있다. 하지만 나는 우리가 사는 세상을 이루고 있는 미세한 입자들(상상하기 힘들 정도로...)의 기묘한 행동들을 배우고 이해했다. 이것은 나같이 평범한 사람이 누릴 수 있는 최고의 지적 유희가 아닐까라는 생각이 든다.

뉴럴넷(Neural net)에서 가중치(weight)의 초기값 설정은 아주 중요하다. 실제로 뉴럴넷의 성패가 초기값에 의해 갈리는 경우가 종종 있다. 그렇다면 초기값을 모두 0으로 주면 어떨까? 결론부터 이야기하자면 이는 좋은 아이디어가 아니다. 그렇다면 가중치의 초기값을 모두 0으로 주면 안되는 이유는 무엇일까? (정확히는 가중치를 균일한 값으로 설정하면 안 된다.) 그 이유는 오차역전파법(Back propagation)에서 모든 가중치의 값이 똑같이 갱신되기 때문이다. 순전파(forward prop.)시에 같은 값들(0)이 전달되면 역전파(backwards prop.) 때도 역시 같은 값들로 갱신된다. 이는 가중치를 여러 개 갖는 의미를 사라지게 한다. 이렇게 '가중치가 고르게 되어버리는 상황'을 막..

When I first watched this MV, it reminds me of Dunkirk... And yesterday I knew why...He has been in Dunkirk... :D ...

어씀

I took myself to china.나는 중국에 갔었다. (과거를 회상할 때 주로 사용)

There is pleasure in recognising old things from a new viewpoint. Stop trying to fill your head with science - for to fill your heart with love is enough.

지난 시간에 포스팅했던 cross entropy함수를 보면 수식에 log가 들어있는 것을 볼 수 있다. 그냥 정답과 예측값 간의 차이를 전달해주면 될텐데 왜 굳이 복잡하게 log를 달아서 전달해주는 것일까?이것에 대해 함께 이야기해보자 ! 머신러닝에서 cost는 우리가 학습시킨 프로그램이 얼마나 정확한지를 나타내는 지표라고 할 수 있다. cost값이 작을수록 정답에 가깝다는 의미이고 우리는 이 cost를 최소화하는 것을 목표로 한다. cost의 최솟값을 찾아갈 때는 미분이란 개념을 사용하는데 미분이란 쉽게 말해 기울기를 구하는 것이다. 미분으로 기울기를 구한 후 이 기울기가 작아지는 방향으로 cost함수의 변수 값들을 조절해주는 것이다. 그런데 우리가 머신러닝에서 사용하는 활성화함수는 sigmoid와 같..