Writting..

신경망 강의 중 가장 유명한 Stanford University의 CS231n : Convolucional Neural Networks for Visual Recognition 강의를 학회 스터디에서 총 6주동안 진행하게 된다. 해당하는 내용을 정리해두는 목적으로 포스팅을 작성하도록 하겠다. 📖 강의 링크 / 과제 CS231n Syllabus(2020) - http://cs231n.stanford.edu/2020/syllabus.html CS231n 강의영상(2017) - https://youtube.com/playlist?list=PL3FW7Lu3i5JvHM8ljYj-zLfQRF3EO8sYv 강의 영상 자체는 2017년 버젼이 가장 최신이나, Assignment의 경우 2020으로 가장 최신 버젼을 활..

선형대수학에서 배운 Linearity를 만족하기 위해서는 additivity, scalar multiplication이 성립해야 한다. 즉, $f(ax_1 + bx_2) = af(x_1) + bf(x_2)$를 만족해야 한다. 그런데, ML에서 다루는 Polynomial regression의 경우는 2가지 성질을 만족하지 않는 것으로 보인다. 하지만, 잘생각해보면 중요한 것은 X와 y 사이의 대응관계이지 X가 liearity를 만족하는지 여부가 중요한 것이 아니다. 즉, 관계를 매개하는 변수가 B 즉 가중치가 변수라고 할 수 있다. 해당 변수에 대해서는 Linearity를 만족하고 있으므로 linear라고 할 수 있다. 바라보는 변수의 시각이 Linear mathematics와 ML이 조금 상이하기 때문에..

https://numpy.org/doc/stable/user/basics.indexing.html Indexing — NumPy v1.21 Manual Array indexing refers to any use of the square brackets ([]) to index array values. There are many options to indexing, which give NumPy indexing great power, but with power comes some complexity and the potential for confusion. This section is just an ove numpy.org 되게 요상하게도 index이 가능하다. 예를 들어 x의 행별로 특정 index를 뽑..

https://explained.ai/matrix-calculus/ The matrix calculus you need for deep learning Most of us last saw calculus in school, but derivatives are a critical part of machine learning, particularly deep neural networks, which are trained by optimizing a loss function. This article is an attempt to explain all the matrix calculus you need in o explained.ai https://www.youtube.com/watch?v=iwKqJ15vyCM..

Approach 이 문제에 대해서 잘 고찰해보면, 어떤 기업이 선택되는 것은 이전 기업에 얼마만큼의 투자했는지에 의해서 결정된다. 따라서 이러한 측면에서 관계식을 통해 표현할 수 있으므로 DP라고 인식해야 한다. Let $dp[i][j]$ : the amount of maximum profit when we investing exactly $j$ until considering $i$'th element $dp[i][j] = \underset{k \in R, \forall k \in [0,j]}{max}(dp[i - 1][j - k] + b[i][k])$ 즉, i번째 기업까지를 고려해서 투자할 때, i - 1번째 까지의 투자 데이터를 가지고 있으면 된다. 그렇게 되면 투자 금액이 동일할 때, 최대의 이익..

Dynamic programming이란? 복잡한 문제를 여러 간단한 문제로 쪼개서 푸는 것 기본적으로 고등학교 때 학습하였던, 점화식을 활용하여 푸는 방법론이라고 이해해도 무방한다. 구현 방법 구현 방법은 크게 2가지가 있다. 반복분 장점 빠르고 메모리 측면에서 이득을 본다. DP 최적화 작용이 쉽다. (덱 DP, 세그 DP) 단점 테이블을 채우는 순서를 고려해야 한다. 순서가 복잡한 경우 사용하기 어렵다. (트리 DP, 비트 DP) 재귀 (Memoization을 사용) 장점 DP를 채우는 순서를 고려하지 않아도 되나, memoization을 사용하여 동일 반복 계산을 피한다. 순서가 복잡한 경우에도 처리하기 쉬움 (트리 DP, 비트 DP) 단점 반복문에 비해 느리고 메모리가 많이 든다. DP 최적화 작..

대수경(대학생 수학 경시대회)을 준비하는 분들에게 드리는 팁. : 네이버 카페 - https://m.cafe.naver.com/ca-fe/web/cafes/23380319/articles/1755802