본문 바로가기

전체 글88

계산 그래프 순전파사과 개당 가격사과 개수소비세지불 금액100원2개10%220원($100\times2\times1.1$)역전파1로 출발해서 오른쪽에서 왼쪽으로 흘러간다.곱셈노드는 반대편 값을 엇갈려서 곱해서 흘려 보낸다.덧셈노드는 그냥 흘려 보낸다. (엄밀히 따지면, 1을 곱하는 것)역전파와 미분사과 개당 가격사과 개수소비세지불 금액$x$$m$$t$$f(x,m,t)=xmt$$\frac{\partial f}{\partial x}(x,m,t)=mt$, $\frac{\partial f}{\partial x}(100,2,1.1)=2.2$사과 가격이 오를 때, 전체 지불해야하는 비용은 얼마나 올라가는지$\frac{\partial f}{\partial m}(x,m,t)=xt$, $\frac{\partial f}{\partial.. 2024. 7. 6.
손실 함수 손실 함수란 모델의 출력값(예측값)과 사용자가 원하는 출력값(라벨)의 오차를 의미한다.손실 함수의 값이 높을수록 모델이 성능이 떨어지는 것이므로 이 함수값이 최소화되도록 하는 가중치와 편향을 찾는 것이 학습 목표이다.평균 제곱 오차(Mean Squared Error)데이터가 신경망을 거쳐 나온 확률 벡터와 라벨을 원핫 인코딩하여 나온 확률 벡터를 고차원 공간의 점으로 이해한 후 피타고라스 정리로 거리를 측정한다. 나중에 미분 계산의 편의를 위해 제곱근은 없애고 앞에 1/2을 곱한다.데이터셋의 MSE는 각 데이터의 MSE의 평균으로 정의한다.$$E=\frac{1}{2}\sum\limits_{k}(y_k-t_k)^2$$$y_k$: 신경망이 k라고 예측한 확률$t_k$: 라벨을 원핫 인코딩한 후 k번째 좌표 .. 2024. 6. 29.
활성화 함수 활성화 함수는 인공 신경망에서 입력값을 변환하는 함수이다.신경망에서 뉴런은 입력 신호를 받아 이를 조합하고일정 전위 임계값을 넘어야만 다음 뉴런으로 신호를 보내기(=활성화) 위한 은닉층 혹은 출력층에서 사용되는 함수이다. 여러 활성화 함수들이 있지만, 이 글에서는 대표적인 함수들만 다룰 예정이다.LayerActivation Function용도Hidden LayerReLU기울기 소실 문제를 줄이고 다음 층으로 신호를 전달한다.Output LayerSigmoid, Tanh이진 분류Softmax다중 분류Sigmoid시그모이드 함수의 식은 $\frac{1}{1+e^{-x}}$이다. ($=(1+e^{-x})^{-1}$)위 식을 +무한대로 보내게 되면, $\lim_{x \to +\infty}\frac{1}{1+e^.. 2024. 6. 29.
이미지 분류를 이용한 국내 여행지 추천 PPT해외 여행지 Top5 선정기사: https://www.dnews.co.kr/uhtml/view.jsp?idxno=202301101336396370499 [코로나 빗장 풀린 해외여행] 한국인 인기 해외여행지 TOP5는? www.dnews.co.kr 위의 기사를 보면 인기있는 해외 여행지 top5는 일본, 베트남, 태국, 필리핀, 대만 순인 것으로 나타났다.한국 여행지 Top25 선정블로그: https://leejh0624.tistory.com/188 국내 여행지 베스트 50 (1위~25위) - CNN 추천이어서 국내 관광지 25위부터 1위입니다. 25위 광한루 전남 남원을 대표하는 관광지로 춘향전의 배경이 되는 곳입니다. 1963년 보물로 지정되어 있으며 소설에서는 이 정자안에서 춘향이와 몽룡이lee.. 2024. 6. 13.
Greedy 개념 그리디 알고리즘은 최적의 값을 구해야 하는 상황에서 사용되는 근시안적인 방법론으로 각 단계에서 최적이라고 생각되는 것을 선택해 나가는 방식으로 진행하여 최종적인 해답에 도달하는 알고리즘이다.이때, 항상 최적의 값을 보장하는 것이 아니라 최적의 값의 근사한 값을 목표로 하고 있다.주로 문제를 분할 가능한 문제들로 분할한 뒤, 각 문제들에 대한 최적해를 구한 뒤 이를 결합하여 전체 문제의 최적해를 구하는 경우에 주로 사용된다. 근시안적인 방법론이란 단기적인 목표를 중심으로 한 전략적인 방법을 의미한다. 이 방법론은 주로 현재의 문제를 해결하는 데 초점을 맞추며, 장기적인 전망보다는 단기적인 성과를 중요시한다. 아래 그림을 예시로 보자.BestGreedy각 노드들의 합이 가장 큰 경우를 고르라하면 왼쪽 그림과.. 2024. 6. 13.
[Greedy] 단속카메라 문제: https://school.programmers.co.kr/learn/courses/30/lessons/42884 프로그래머스코드 중심의 개발자 채용. 스택 기반의 포지션 매칭. 프로그래머스의 개발자 맞춤형 프로필을 등록하고, 나와 기술 궁합이 잘 맞는 기업들을 매칭 받으세요.programmers.co.kr코드 1 (실패)def solution(routes): route = sorted(routes) camera = -30000 s=0 for start,end in route: if start > camera: camera = end s+=1 return s뭔가 반례가 있었나 보다.아래 그림으로 다시 직관적으로 이해를 .. 2024. 6. 13.

티스토리툴바