논문스터디 7

[학습 일지 / day 69] 새로고침

이 날은 새로고침 전의 마지막 일과 날이었다. 지금 새로고침 중간에 이 글을 쓰고 있다. 저녁에 BART, T-5 논문 스터디 발표를 들었던 것이 가장 기억에 남는다. 거의 두 시간을 멘토님들과 발표자, 스터디원들과 함께 보냈다. 멘토님들께서 조금 더 자세히 알려주고자 노력을 많이 하셨고 발표 준비한 캠퍼 분들도 내용이 충실하도록 또 잘 전달되도록 준비를 많이 해오셨다. 후반부에는 집중력이 떨어져서 많이 듣지 못하였지만 논문들의 개괄적인 내용을 알 수 있어서 좋았다. 당장에 읽고 싶은 의욕은 넘치지만 읽을 수 있을까? 잘 모르겠다. 하지만 목표 삼기는 해야지. 계속 쌓여가고 있지만 하나씩 또 처리하다 보면 끝이 보이겠지?? 무튼, 열심히 해보자. MRC 프로젝트를 계속 진행 중이다. 팀원들이 집중하고 싶..

[학습 일지 / day 27] 고삐

어제 늦게 잠에 들기도 하였고 또 피로가 많이 쌓인 상태였기 때문에 오늘은 생각만큼 오랜 시간 동안 집중력을 유지하진 못했다. 핑계긴 하지만 아무튼 그랬다. 그래도 강의를 2강 내용까지 다 들었고 EDA 좀 더 하고 github 폴더 관리하고 workflow 파일을 만들어 연구의 흐름을 기록해두기 시작하였다. diffusion study의 workflow도 만들긴 해야 되는데 일단 그거는 급한 게 아니니까 뒤로 미뤄두자. 또 하나 딥러닝 수학 스터디를 위해 딥러닝을 위한 선형대수학 책을 1-4 챕터까지 읽었다. 문제 풀이까지는 도저히 할 시간이 안 되었다. 그럼에도 불구하고 최소한의 책임은 다해야 한다고 생각해서 내용을 다 읽기라도 하고 스터디에 참여하였다. 그런데 결론은 학습 서적을 바꾸자였다. 실제로..

[학습 일지 / day 25] 논문과 함께 춤을~

금요일에 코어타임이 끝나자마자 팀원들과 만났기 때문에 학습 일지를 바로 작성하지 못했다. 그리고 피곤해서 또 이것저것 할일을 하다보니 조금씩 미루고 미뤄져 지금 이시간까지 와버렸다. 일단 금요일에 주로 한 것은 BERT 논문 정리 마무리였지. 논문 정리가 빡세긴 하지만 정말 많이 남는 것 같다. 코드도 같이 볼 수 있다면 좋겠지만 아직은 시간이 그렇게 까지 많이 허용되지는 않았다. 앞으로 프로젝트 하면서 모델 코드를 뜯어볼 일은 또 있을 테니까 그때를 위해 남겨두자. 그런데 사실 금요일만 논문을 본 게 아니다. 일요일에 diffusion 스터디가 있었기 때문에 DDPM 논문 리뷰 유투브를 보고 또 DDPM 논문 정리를 시작하기도 했다. 이거는 이번 주 내에만 완성하는 걸로 해야지. 아, 그리고 일요일 d..

[학습 일지 / day18] 발표

벌써 18일차라니 4주차라니 생각보다 시간이 빠르게 지나갔다. 매일 매일 할일하기에 바쁘니까 시간 또한 어떻게든 잘 가는 것 같다. 아직 2월까지는 4개월이나 남았지만 이 또한 하루 하루를 성실하게 보내다보면 금방 지나가 있겠지? 싶다. 그렇게 생각하고 나니 내가 원하는 게 뭔지 하고 싶은 게 뭔지 또 어떻게 해야할지 여러 생각들이 드네 그래도 열심히 또 잘하고 있는 것 같으니까 계속 차근 차근 나아가봐야지. 멘토 님과도 얘기를 많이 해봐야할 것 같다. 얘기를 해보면 새롭게 보이는 부분이 있겠지. 뭐, 아무튼 오늘은 Transformer 논문 정리를 마저 했다. 사실 하던 대로 다른 사람이 읽기 편한 자료를 만들기는 했는데 이게 발표 자료는 아니라서 또 욕심냈던 만큼의 완성도로 완성한 것도 아니라서 아쉬..

[학습 일지 / day 13] 루틴과 감사함

최근에 가장 잘했다 싶은 것은 바로 아침 루틴을 만들고 또 오늘까지 2일 차 실행했다는 것이다. 아침에 일어나서 가벼운 요가를 하고 커피를 사온 후 자리에 앉아서 영어 쉐도잉을 한 뒤 10시 땡하면 코딩 테스트를 푸는 그런 루틴을 말이다. 또 오늘은 새벽에 일찍 일어나서 어제 다 못 읽었던 논문을 마저 다 읽었다. 오늘 다른 팀원이 발표한 논문도 점심시간 이후에 시간을 내서 다 읽었다. 와 이걸 했구나 라는 생각이 들 정도로 뿌듯하다. 그런데 정리하고 또 다 읽긴 했어도 그 내용이 머리에 박히지는 않아서 시간을 두고 또 보고 또 봐야 할 듯하다. NLP 논문을 대강 다 읽은 이후에는 그것들의 특징점과 차이점을 위주로 정리해놓을까 싶기도 하다. 오늘은 사실 논문 읽고 또 코딩 테스트 온라인 풀이 시간을 준..

[학습 일지 / day 8] 배움은 끝나지 않았다!

오늘의 목표치는 많지 않았다. 강의 듣고 과제 마무리하고 논문 읽는 정도? 모두 코어타임(오전 10시 ~ 오후 7시) 내에 끝냈다. 가장 인상적이었던 활동은 피어 섹션 때 진행한 논문 스터디와 멘토링이다. word2vec 논문과 seq2seq를 읽고 발표 준비하신 분들의 발표를 들었는데 빡빡한 일정 와중에서도 열심히 준비해오신 모습들에 많은 감사함을 느꼈다. 나 또한 word2vec 논문을 읽는 것은 처음이었는데 그 안에 담긴 연관 내용들의 개념들이 많아 처음 접한 분들에게는 많이 어려웠을 거란 생각이 들었다. 나중에 본격적인 NLP 세션이 시작된 후에 공부하는 것도 괜찮지 않았을까 싶기도 했다. 내 기준에서 무언가를 진행시킬 때에 발생할 수 있는 위험에 대해 인지하게 되었다. 근데 또 도전적인 학습 활..

[학습 일지 / day 5] Gra... 예?

CNN과 RNN 수강 그리고 기본 과제를 오전 중에 후딱 해버리고 나는 또 코딩 삼매경에 빠졌었다. CNN과 RNN에서 몰랐거나 특별한 내용은 없었다. 아, 기본 과제를 풀면서 filter(bool, 리스트)를 써서 빈 문자열 원소를 제거할 수 있다는 것을 배웠다. 1655번: 가운데를 말해요 첫째 줄에는 백준이가 외치는 정수의 개수 N이 주어진다. N은 1보다 크거나 같고, 100,000보다 작거나 같은 자연수이다. 그 다음 N줄에 걸쳐서 백준이가 외치는 정수가 차례대로 주어진다. 정수는 -1 www.acmicpc.net 이 문제를 풀었는데 정렬로 푸니까 시간 초과가 나서 인터넷 찾아보고 heapq로 얼른 풀었었다. 그래서 약간 찜찜한 면이 있지만 뭐 고민만 하기엔 시간이 아까웠다. 오늘 자소서를 쓰려..