TensorRT(TRT)는 Nvidia에서 제공되는 Deep Learning Inference를 위한 SDK입니다.PyTorch, Caffe, Tensorflow 등의 Deep Learning Framework를 활용해 학습된 모델을,  여러 플랫폼에 가장 적합한 Kernel을 선택하며, 각 제품 각 아키텍쳐에 맞는 가속을 자동으로 도와 최적의 GPU 자원을 활용해 Performance를 낼 수 있도록 도와주는 엔진이라고 볼 수 있습니다.** Kernel : GPU에서 병렬 실행되는 명령의 모음 TensorRT를 이용하지 않고, 직접 CUDA 를 활용해 Custom한 로직으로 최적화할 수도 있으나, Nvidia에서 제공하는 API를 활용하는 것이 작업에 유용하기도 합니다. 이번엔 onnx파일을 활용해 T..

이번엔 학습한 네트워크가 CPU 및 Nvidia GPU에서 실행될 때 Profiling하기 위한 Tool 중 Nsight System을 소개하려고합니다. Nvidia에서 제공하는 Profiling Tool은 Nsight System, Nsight Compute, Nsight Graphics 그리고 TREx가 있습니다. Nsight System : 시스템 적으로 CPU, GPU간 이동 및 수행시간등을 Profiling하기 위한 툴. 보통 Memory bound ~ Computation Bound간의 최적화를 위해 사용합니다. Nsight Compute : CUDA kernel 내부를 자세하게 Profiling하기 위한 툴. 보통 네트워크 Layer별로 성능을 분석하고, 과하게 사용되고 있는 Memory R..

이번 시간에는 Interactive(인터랙티브) 웹을 구현하기 위한 Javascript에 대해서 설명하고자 합니다. Javascript는 대부분의 웹개발자들이 배우는 대중적인 ‘웹 개발 언어’이며, 드롭다운(Dropdown)메뉴, 슬라이드 효과, 대화창을 비롯한 다양한 효과를 웹페이지에서 구현 가능하게 해줍니다. 흔히들 Javascript를 웹 개발자의 첫 번째 프로그래밍 언어라 부릅니다. 단, 물론 Javsascript는 진정한 프로그래밍 언어가 아니라 스크립트 언어라고 말하는 사람들도 있습니다. CSS3에서 추가 기능이 생겨나면서 Javscript 없이도 멋진 기능을 만들어낼 수 있게 되었지만, 그렇다고 해서 Javascript가 더 이상 무용지물이 된 것은 아닙니다. 또한 서버에서 Node.JS가 ..

이번 시간에는 web 구현하기 위해 기본적으로 사용하는 HTML/CSS를 정리해보려고 합니다. HTML/CSS는 가장 기본이 되는 ‘웹 개발 언어’로, 로직을 다루는 것이 아니기 때문에 실제 프로그래밍 언어라고 할 수는 없습니다. HTML은 마크업 언어(markup language)이고, CSS는 스타일 언어(Style Language)라고 부릅니다. HTML은 페이지가 어떻게 구성되는지를 정하는 언어이고, CSS는 페이지가 화면에 어떻게 보이는지를 정하는 언어로, 두 언어는 서버의 도움 없이 브라우저 안에서 작동되기 때문에 프론트엔드(frontend) 언어로 간주합니다. HTML과 CSS의 가장 최근 버전은 2022년 말 현재 기준 HTML5와 CSS3 입니다. 1. HTML a. 기초 구조 b. 자주..

이번엔 가장 많이 쓰는 Git 주요 명령어들을 한 페이지에 정리하고자 합니다. 항상 Bash 명령어나 모든 언어는 완벽하게 이해하고 출발하기는 힘드니, 자주 쓰는 명령어 먼저 익히고 하나씩 확장하는 식으로 배우시는 것을 추천합니다. 1. Git의 구조 2. 자주 쓰는 필수 명령어 a. git 명령어 기초 b. local repository's branch 내에서 commit을 확인하고 옮겨 다니기 c. local repository, remote repository 각각의 branch를 확인, 변경 d. local repository와 remote repository 사이에서 정보 관리하기 글효과 분류1 : 코드 글효과 분류2 : 폴더/파일 글효과 분류3 : 용어설명 글효과 분류4 : 글 내 참조 1. ..