전체 글

전체 글

    Network pruning

    1. 서론 https://medium.com/may-i-lab/paper-review-rethinking-the-value-of-network-pruning-1-1967214db76c Paper Review: Rethinking the Value of Network Pruning (1) 논문 한 편으로 Pruning 전반 훑어보기 medium.com 너무나도 잘 정리가 되어있고, 이해가 쉽게 설명하여 정리해보며 내용을 재 배열하며 다시 복기하고자 한다. 논문에 대한 블로그 포스팅 방식을 어떻게 해야 좋은지 알려준 좋은 케이스인것 같다. 이번 포스팅은 개인 공부를 위한 재배열, 하이라이팅만 한 것이므로, 위 글을 참고하는 편이 더 좋을것이다. 2. Network Pruning의 개념 딥러닝 모델의 특성인 ..

    HOG (Histogram of Oriented Gradient for human detecting)

    0. Hog란? HOG는 사람, 특히 보행자를 검출(object tracking)하는데 사용되는 특징이다. 지역적 gradient를 이용하여 영상의 특징으로 이용한다. 다음은 HOG의 절차이다. 각 절차를 따라가면서 왜, 어떻게, 어떤것을 하는지를 트래킹 하고자 한다. 1. Normalize gamma & colour 우선 감마를 보정한다. 여기서 감마 값을 조정하는 것은 밝기(혹은 휘도)를 조절하는 기능으로, 픽셀 값을 비선형 적으로 보정한다. 다음과 같은 수식을 통해서 적용할 수 있다. 더 밝은 이미지를 가질 수 있다는데 효과는 미미하다고 한다. 2. Compute gradients 픽셀의 gradient를 구한다. 이 방법에 대해서는 다양한 것이 있다. 이전 SIFT에서 가우시안 필터를 이용한 미분..

    SIFT (Scale-Invariant-Feature TRansform)를 활용한 이미지 특징 추출 및 매칭 알고리즘

    0. SIFT란? (Scale-Invariant-Feature TRansform) 크기, 회전, 조도, affine의 변화 및 noise에 불변하는 특징을 추출하는 알고리즘이다. 이는 다음과 같은 절차로 이루어 진다. 1. Find Scale-Space Extrema 우선 크기에 불변하는 특징을 추출하기 위해서, 각 원본 이미지를 ½ 배씩 다운 샘플링 하면서 이미지를 나열한다. 이처럼 같은 이미지에 대해 scale space를 다양하게 하는 이유는 스케일에 따라 세부적인 내용에 집중할수도, 전체적인 구조에 집중할 수도 있기 때문이다. 그렇기 때문에 크기에 불변하는 특징을 모두 추출하기 위해서는 다양한 scale space로 부터 feature를 추출해야 한다. 또한 사진이 멀리서 찍혔다거나, 포커스가 맞..

    SOLOv2 논문 리뷰

    1. 소개 이전 포스팅에서 SOLOv1에 대한 논문을 리뷰해보았다. https://do-my-best.tistory.com/75 SOLOv1 논문 리뷰 1. 접근 방법 SOLO는 instance categories라는 개념을 도입함으로써 instance segmentaion을 새롭게 보았다. instance안의 픽셀에 그 instance의 위치와 사이즈에 따라서 카테고리를 배정함으로써 single shot cla.. do-my-best.tistory.com semantic segmentation을 위해 기존에 사용하던 방식은 a) 계산량이 많던 픽셀 단위의 segmenting 이나 b) 독립적으로 anchor를 찾고, segenting하는 two stage 방식이 있었는데, SOLOv1에서는 instan..

    SOLOv1 논문 리뷰

    1. 접근 방법 SOLO는 instance categories라는 개념을 도입함으로써 instance segmentaion을 새롭게 보았다. instance안의 픽셀에 그 instance의 위치와 사이즈에 따라서 카테고리를 배정함으로써 single shot classification-solvable problem으로 기존의 문제를 전환하였다 1. single shot classification-solvable problem? 기존에는 affirny relation을 바탕으로 vector를 만들고 그 vector를 바탕으로 instance를 판별하는 bottom-up방식이나 mask rcnn과 같이 RoI를 만들고, 그 RoI에서 Instance를 찾는 top-down방식을 사용하였는데 전자는 너무 연산적..

    CS231n lecture 12 : Visualizing and Understanding

    인공 신경망은 분명히 유의미하게 학습 결과를 도출하지만, 이 과정이 어떻게 진행되는지, 이 결과를 믿을 수 있는지는 알 수 없다. 이를 이해하기 위해서는 인공신경망을 가시화 하고, 이를 해석하여 인공신경망을 이해하도록 해야한다. 각 layer의 단계별로 feature map을 가시화 하도록 한다. 1. 초기 레이어의 가시화 레이어가 낮을수록 Edge, Circle등, 저차원의 특징을 추출함을 알 수 있다. 2. 말기 레이어의 가시화 픽셀 단위로 Nearest neighbors를 하면 단순히 픽셀단위로 유사한 이미지를 묶으므로, 픽셀단으로 다르지만 특징을 공유하는 이미지는 무시하고 그저 픽셀의 데이터만 유사한 그룹을 만든다. 하지만 마지막 레이어에 대해서 Nearset Neighbors를 진행하면 단순 픽..