Research 검색 결과

37 개의 검색 결과가 있습니다.

Research/Paper Review & Implementation

[논문 리뷰] [2017 NIPS] Attention is All You Need (a.k.a. Transformer) (2)

자연어 처리 분야의 대세를 바꿔버린, 게다가 비젼 분야에도 응용되어 대세로 자리매김한 Transformer라는 아키텍쳐를 제안한 논문을 읽고 리뷰해보려 한다. 워낙 유명한 논문이어서 많은 리뷰가 존재하지만, 그만큼 논문 내용이 궁금해서 읽어보았다. Transformer를 알아보기 이전에 알고 있어야 할 것들과 도입 부분은 이전 글을 참조하자. https://jjuke-brain.tistory.com/entry/%EB%85%BC%EB%AC%B8-%EB%A6%AC%EB%B7%B0-2017-NIPS-Attention-is-All-You-Need-aka-Transformer-%EB%85%BC%EB%AC%B8 [논문 리뷰] [2017 NIPS] Attention is All You Need (a.k.a. Tran..

2022. 9. 10. 18:06

Research/Paper Review & Implementation

[논문 리뷰] [2017 NIPS] Attention is All You Need (a.k.a. Transformer) (1)

자연어 처리 분야의 대세를 바꿔버린, 게다가 비젼 분야에도 응용되어 대세로 자리매김한 Transformer라는 아키텍쳐를 제안한 논문을 읽고 리뷰해보려 한다. 워낙 유명한 논문이어서 많은 리뷰가 존재하지만, 그만큼 논문 내용이 궁금해서 읽어보았다. 목차 Motivation 3D Vision 분야의 연구를 시작하기 앞서 여러 논문을 추천받아 읽어봤고, 몇 차례의 세미나를 통해 요즘 연구의 트렌드가 어떤지 1~2달간 알아보는 시간을 가졌다. (말하자면 연구 인턴?) 첫 번째 깨달은 점은 현재 연구 트렌드는 내가 전혀 알아들을 수도 없을 만큼 머신러닝, 딥러닝 기초 지식에 비해 깊어졌다는 것이다. 내가 배웠던 내용도 (2D object detection 분야를 예로 들자면) 2010년도 중반이 되어서야 인간의..

2022. 9. 9. 15:47

Research/Implementation

파이썬의 json 모듈로 json파일 다루기

Scene graph 연구를 진행하면서 json 파일을 다룰 일이 많을 것 같아서, 유용한 함수와 설명을 간략하게 기록해둔다. 목차 .json 파일에서 json이란, JavaScript Object Notation의 약자로, 데이터를 문자열 형태로 나타내기 위해 사용한다. 원래 자바스크립트에서 파생되었으나, 프로그래밍 언어에 상관 없이 표준으로 사용되어 시스템의 데이터를 나타내고, 송신 및 수신할 때 많이 사용된다. json 파일의 구조 json은 단순히 데이터의 포맷, 즉 데이터를 나타내는 방법을 말한다. 따라서 이를 데이터로 활용하기 위해서는 json 파일이 갖고 있는 데이터를 받아 (python이라면) python의 객체 혹은 변수에 할당받아 사용한다. 그 구조는 단순히 두 가지만 알면 된다. Ob..

2022. 9. 4. 12:00

Research/Paper Review & Implementation

[논문 리뷰] [2019 ICCV] 3D Scene Graph: A structure for unified semantics, 3D space, and camera

3D Scene Graph를 연구하기 앞서 관련 내용을 다룬 논문을 읽고 리뷰해보려 한다. [논문 링크, 깃허브 링크, 프로젝트 페이지] 목차 Core Questions 논문을 읽고 얻은 insight를 정리해보자. What did authors try to accomplish? 다양한 semantic 정보와 서로의 관계를 담을 공간과 그 구조를 통합적으로 나타내는 3d scene graph를 제안하였다. 논문에서는 주로 scene graph 구조 중 node를 얻기 위한 방법을 소개한다. What were the key elements of the approach? Input : 3D mesh와 panorama 이미지(+camera parameter) Output : Semantic 정보를 표현한 3D..

2022. 8. 22. 19:04

Research/Paper Review & Implementation

[논문 구현] [2021 CVPR] End-to-End Human Pose and Mesh Reconstruction with Transformers

3D Human Pose and Mesh Vertices Reconstruction 분야에서 METRO(MEsh TRansfOrmer) 방법을 제안한 논문을 리뷰해보려 한다. 2021년 CVPR에 게재된 논문이고, 논문 리뷰 내용은 다음 포스팅을 참조하자. https://jjuke-brain.tistory.com/entry/%EB%85%BC%EB%AC%B8-%EB%A6%AC%EB%B7%B0-2021-CVPR-End-to-End-Human-Pose-and-Mesh-Reconstruction-with-Transformers [논문 리뷰] [2021 CVPR] End-to-End Human Pose and Mesh Reconstruction with Transformers 3D Human Pose and Me..

2022. 8. 4. 13:34

Research/Implementation

리눅스에서 tmux로 안전하게 머신러닝 하기!

tmux는 terminal multiplexer의 줄임말로, 하나의 터미널로 하위에 많은 pseudo terminal을 관리한다. 리눅스 원격 연결이 꺼져도 서버가 꺼지지 않는 이상 tmux로 돌려놓은 코드는 다운되지 않아, 머신러닝에서 오랜 시간동안 학습을 시키다가 컴퓨터에 어떤 문제가 생겼을 때 학습을 지속할 수 있어서 매우 유용하다. tmux 내에서는 'session', 'window', 'pane'이라는 개념에 따라 창을 나눈다. 정확하지는 않지만 개념을 이해하기 위해 쉬운 비유를 해보자면, session은 하나의 '브라우저(예를 들면 크롬)', window는 브라우저에서의 '탭', pane은 해당 tab 내에서의 화면 분할 개념으로 볼 수 있다. tmux 주요 명령어 Session, window..

2022. 8. 2. 22:19