분류 전체보기 검색 결과
205 개의 검색 결과가 있습니다.
Studies/ML with Graphs

Graph Neural Networks (3) - Implementation, Stacking Layers, Graph Manipulation

연구를 하면서 머신러닝에 사용되는 Graph에 관해 알아둘 필요가 있어, 관련 기초 내용을 알차게 다루는 Stanford CS224W 강의를 수강하고, 내용을 정리하려 한다. 유튜브 강의 링크는 다음과 같다. https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn Stanford CS224W: Machine Learning with Graphs This course covers important research on the structure and analysis of such large social and information networks and on models and algorithms that abstract ... w..

2022. 10. 21. 21:33
Studies/ML with Graphs

Graph Neural Networks (2) - GNN Framework, GCN, GraphSAGE, GAT

연구를 하면서 머신러닝에 사용되는 Graph에 관해 알아둘 필요가 있어, 관련 기초 내용을 알차게 다루는 Stanford CS224W 강의를 수강하고, 내용을 정리하려 한다. 유튜브 강의 링크는 다음과 같다. https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn Stanford CS224W: Machine Learning with Graphs This course covers important research on the structure and analysis of such large social and information networks and on models and algorithms that abstract ... w..

2022. 10. 21. 00:57
Studies/Knowledges

Permutation Invariance, Permutation Equivariance

두 개념은 graph, scene generation task 주제와 관련된 논문을 읽다가 등장한 용어이다. Permutation invariance, permutation equivariance는 입력 벡터(또는 행렬)의 요소의 순서가 바뀔 때 그 결과가 어떻게 바뀌는지에 대한 개념이다. Permutation Invariance Permutation invariance란, 입력 벡터 요소의 순서와 상관 없이 같은 출력을 생성하는 특성이다. 이를 graph에 적용해보면, adjacency matrix의 행, 또는 열의 순서가 바뀌어도 output이 변하지 않는 특성을 말한다. \( f(\mathbf{P}\mathbf{A}\mathbf{P}^\top) = f(\mathbf{A}) \) \(\mathbf{A..

2022. 10. 19. 15:31
Studies/ML with Graphs

Graph Neural Networks (1) - Deep Learning for Graphs, Message and Aggregation

연구를 하면서 머신러닝에 사용되는 Graph에 관해 알아둘 필요가 있어, 관련 기초 내용을 알차게 다루는 Stanford CS224W 강의를 수강하고, 내용을 정리하려 한다. 유튜브 강의 링크는 다음과 같다. https://www.youtube.com/playlist?list=PLoROMvodv4rPLKxIpqhjhPgdQy7imNkDn Stanford CS224W: Machine Learning with Graphs This course covers important research on the structure and analysis of such large social and information networks and on models and algorithms that abstract ... w..

2022. 10. 19. 14:18
Computer Science, Programming/Git, Docker, Server, Linux

GPU 서버 사용법 - CUDA, PyTorch 버전 맞추기 (총정리)

논문 구현을 해볼 때마다 PyTorch버전에 따라 필요한 CUDA 버전이 다르고, 버전이 서로 맞지 않아 시간을 낭비하는 경우가 많았다. 이를 해결하기 위해 (내가 썼던..) 여러 글을 참조해서 docker 컨테이너를 만들어줬는데, 과정을 축약해서 하나의 글로 정리해보려 한다. 이미지 빌드, 컨테이너 생성 등의 긴 과정은 생략하고, 간단하게 필요한 PyTorch 버전에 따라 CUDA 버전을 찾는 과정 까지를 다룬다. 서버에서 맞는 버전을 찾고, 컨테이너를 생성한 후에 설정까지 해주는 전체 과정은 다음 글을 참조하자. (링크 추후에 추가) 목차 Finding Version 전체 과정을 요약하면 다음과 같다. nvidia-smi로 gpu 정보 얻기 (모델명, driver 버전 등) Driver version..

2022. 10. 18. 20:09
Research/Tips related to Papers

Notion으로 읽은/읽어볼 논문 정리 및 reference 관리하기!

석사 생활을 시작하고 논문을 하나 둘 읽어보다 보니,(사실 읽은 것보다 읽어 볼 것만 산더미처럼 쌓였지만..) 학회 별로, 중요도 별로, 주제 별로 따로따로 나누어 정리해서 관리해보고 싶다는 생각이 들었다. 단순히 폴더를 만드는 것만으로는 한계가 있어서, 다른 방법을 찾아보았다. 그러던 중, 우연히 논문의 reference를 관리하여 논문을 쓰는 단계에서 유용하게 사용하는 jabref라는 프로그램을 알게 되었다. BibTeX 포맷을 사용해서 reference를 관리하는데, 한 번 사용해보니 BibTex를 그대로 복붙하면 표 형식으로 논문 관련 정보를 정리해 주고, 논문 파일을 첨부할 수도 있어서 아주 편했다. 여기서 조금 더 나아가서, 평소 공부, 연구할 때 유용하게 사용하던 notion에 이런 기능을 ..

2022. 10. 13. 15:35