Transformer를 소개하는 논문으로, CS224n강의의 suggested readings 목록에 있어서 읽어본 논문이다. 한국어 리뷰도 엄청 많을 정도로 유명한 논문이다. 해당 논문을 읽고, 간략한 정리를 해보았다. 논문은 arXiv:1706.03762에 있다.

18강이고 강의 전체가 다 끝나기까지 이 강의를 제외하고 2강정도만 남았다.

Richard Socher라는 Saleforce의 Chief Scientist가 게스트로 나와 강의를 한다고 한다.

LNG에 대한 Neural Approach에 대한 방법을 15강에서 강의한다고 한다. 슬라이드는 여기로.

14강은 강연자를 초대해서 강의를 진행한다. Google AI에서 나온 연사자 두분이라고 한다. NLP 공부하려고 듣는 것이고, 다른 것들 하기에도 약간 벅찬듯 싶어서 NLP 내용을 좀 벗어나는 이미지 처리, 음성 처리 같은...

13강 정리! 11강부터인가? 그때부터 대부분 소개가 되어가고 있어서 좋은 링크 정리 정도만 하고 있는 것 같다.

12강까지는 저저번주에 들었던 것이지만, 이제 정리하려고 하니 제대로 기억이 안나서 다시 들으면서 정리한다.

11강! 마지막 과제인 과제 5도 슬슬 마감으로 보인다. 강의에서도 second half라고 한다! 이제부터 거의 소개에 가깝다고 한다.

드디어 10강을 정리한다. 기본적으로 QA시스템에 관한 설명이다.

이번 강의는 유튜브로 업로드되는 강의는 아니고, 슬라이드와 노트만 올라왔다. 하지만 한번 충분히 훑어볼만한 것 같아서 정리를 해본다.

CS224n 8번째 강의를 듣고 정리한 포스트! machine translation에 대해 살펴보고 seq2seq와 attention을 살펴본다.

CS224n 일곱번째 강의를 듣고 정리한 포스트! 지난 강의는 RNN에 관한 것이었고, 7강은 RNN의 variants에 관한 것이다. (LSTM, GRU, …) 다음에는 NMT, seq2seq + attention 정도를 배운다.

머신러닝 스터디잼 중급반!! 도 하게 되어서 간략하게 정리해보는 포스트를 작성하려 한다. 이번에도 coursera와 qwiklab을 이용하는 것을 보인다. cousera는 Launching Machine Learning을 수강하는 것이 목표이고, qwiklab은 Classify Images...

2019년에 열린 페이스북의 F8행사 해커톤에 참가한 후기를 정리한 글입니다. 따라서 편하게 의식의 흐름에 따라 쓰도록 하겠습니다.

데이터베이스를 사용하면서 언제까지나 인스턴스 하나만을 사용할 수는 없다. 데이터베이스에 많은 부하가 몰린다면, 다른 대책이 필요하다. 두 가지 방법이 존재하는데, Vertical Scaling과 Horizontal Scaling이다. Vertical Scaling은 하나의 머신에 더 많은 RAM과...