본문 바로가기

전체 글9

Loss에 대한 고찰 딥러닝의 학습과정에서 우리는 많은 Loss를 사용한다. Cross-Entropy와 MSE 가 대표적인 손실이며 이미지의 고차원적 의미를 담기 위한 perceptual loss 등을 사용하기도 한다. 이렇게 로스를 가져다가 쓸 때, 대부분 파이토치에서 이미 구현해놓은 로스를 사용하기 때문에 그 수학적 의미를 대충 이해만 하고 넘기는 경우가 많았다.  (아, 회귀때 mse 쓰고 분류때 cross entropy 쓰는데 회귀때도 cross entropy 쓸 수도 있구나. 근데 그건 로그값이 0에 가까울 수록 엄청 기울기가 커서 그렇구나- 의 정도)  이번에 과제를 진행하며 numpy의 저수준에서 모델의 학습을 짜볼 기회가 생겨 얻었던 인사이트를 기록하려고 한다.       Softmax Loss란? 우리가 흔하.. 2024. 11. 19.
U-Net: Convolutional Networks for Biomedical Image Segmentation In this paper, a new neural network architecture called U-Net is introduced. Designed for Biomedical Image Segmentation, this model uses a Contracting Path to capture context and an Expansive Path to enable precise localization. The model achieves superior performance in pixel-level segmentation compared to traditional models by preserving high-resolution information through skip connections. Th.. 2024. 10. 30.
백엔드 엔지니어? 프론트엔드 엔지니어? 호스팅 ? 라우팅 ? 배포 ? [개념 정리] 컴퓨터 관련 쪽에서 공부를 하며 여러 용어들을 들어왔지만 정확히 그 용어가 무엇을 의미하는지 잘 알기 어려웠다. 나는 항상 언어가 사고의 틀이라 생각해 왔기에 언어가 정확히 확립되지 않는다면, 내가 생각하고 있는 개념이 계속해서 혼동될 것이라고 여겨 이번 기회에 확실히 정리하고자 한다. 백엔드 엔지니어란? 백엔드 엔지니어는 서버, 데이터베이스, 애플리케이션의 로직을 처리하는 서버 사이드 코드를 개발하는 전문가이다. 사용자가 직접적으로 보거나 상호작용하지 않는 데이터 처리 및 저장, API 제공, 사용자 인증, 서버 로직 처리 등의 업무를 담당한다. 주요 역할 1. 서버 개발 : 서버 사이드 로직을 개발하고한다. 즉, 유저(클라이언트)의 요청을 처리하며 적절한 응답을 전송하도록 만든다. 2. 데이터 베이스.. 2024. 2. 11.
[자바스크립트] 비동기 처리(Ajax, Pjax)와 Promise, Async/Await문법과 axios와 fetch 개념들 핥아먹기 다음은 프론트엔드를 공부하며 궁금했던 사항들을 찾아보고 간략하게 정리한 것입니다. 틀린 부분들이 존재할 수도 있으며 피드백해주신다면 감사하겠습니다! 코드를 동기적으로 처리한다는 것은 위에서부터 아래로 모든 코드가 순서대로 처리되는 것을 의미한다. 비동기적으로 처리한다는 것은 특정 코드의 연산이 끝날 때 까지 코드의 실행을 멈추지 않고 다음 코드를 먼저 실행함을 의미한다. 자바스크립트는 이렇게 비동기적으로 처리하는 특성을 가진다. 왜냐하면 동기적으로 처리했을 때는 코드 파악이 쉬워지고 유지보수나 디버깅이 쉬워지는 장점이 있다. 하지만 싱글 스레드 방식의 자바스크립트에서는 런타임 시 발생하는 지연시간이 큰 문제가 된다. 그래서 자바스크립트는 비동기적으로 코드를 처리하게 되며 이를 위한 다양한 통신 기법이 존.. 2024. 2. 11.