늘보의 서랍

DL abstract 딥러닝 모델 학습은 모델 출력과 정답 사이의 오차(error)를 최소화하는 방향을 구하고 이 방향에 맞춰 모델 전체의 파라미터(parameter)들을 업데이트하는 과정입니다. 이때 오차를 손실(loss), 오차를 최소화하는 방향을 그래디언트(gradient)라고 합니다. 오차를 최소화하는 과정을 최적화(optimization)라고 합니다. 회귀분석에서 손실함수로 사용되는 -노름은 예측 오차의 분산을 가장 최소화하는 방향으로 학습을 유도합니다. 분류문제에서 사용되는 교차엔트로피(cross-entropy)는 모델 예측의 불확실성을 최소화하는 방향으로 학습을 유도합니다. 데이터가 특정 확률 분포를 따른다고 선험적으로(apriori) 가정한 후 그 분포를 결정하는 모수(parameter)를..

연일 2시 가까운 시간까지 작업을 하였다. 아침에 일어날 때는 좀 힘든데 점심 이후로는 어떻게든 하게 되는 것 같다. 늦게까지 작업하게 된 건 모두 우리 부덕이 덕이다... 하지만 오늘은 코드 짤 때 잔 실수를 많이 해서 이렇게 늦은 시간까지 컴퓨터 앞에 앉아있다. 정규표현식에 공백을 포함하지 않았다던가 경로를 초기화 해주지 않고 불렀다던가 등의 자질구레한 실수들이 많았다. 당연히 잘했겠지 싶은 부분에서 실수가 많이 나왔다. 그래서 틀린 곳이 어딘지 찾기 어려웠다. ㅠ 오늘은 코딩테스트 문제 풀고 1주차의 심화 과제 밀린 것 풀고 강의 듣고 또 눈에 보이는 질문 해결(?)해주고 팀원들에게 포트폴리오 보여주며 지금까지 한 프로젝트와 거기서 깨달은 바 등을 전달하고 코딩 테스트 같이 공부하는 캠퍼들과 온라인..