← 모든 태그
math
Affine 계층 역전파에서 전치행렬이 등장하는 이유
!image.png(https://storage.googleapis.com/roach-wiki/images/c392007f-e408-4fc7-b968-2a5e09dd46eb.png)
Affine 계층을 보면 1번의 네모 박스에서 갑자기 전치행렬이 등장하는 것을 확인할 수 있다. 물론, 수학적으로 사고가 조금 되시는 분들은 왜 전치행렬이 등장하는지 아실...
벡터의 내적(Inner Product) 완벽 이해하기
선형대수학을 하다보면 이런저런 학창시절에 배운 수학 지식이 필요하다. 학창시절에 수학을 하고, 성인 되고나서는 거의 안하다 시피 해서 까먹었는데 요즘 인공지능을 공부하다 보니 다시 선형대수학을 공부하며 나머지 수학 지식들도 정리중이다. 공부하다보니, 시간이 촉박하여 잘 정리하지는 못하는데 수학적인 지식을 오랜만에 정리해보려고 한다.
벡터의 내적
...
광고 알고리즘 최적화시도
초기 스타트업에 있다 보면 이것저것 혼자 해야할일이 많다. 최근에는 광고 시스템을 CLAUDE 와 함께 구축했는데 광고 서빙알고리즘을 도입해야했다. 기존에는 어떤 상품(소재)가 잘 탈지 모르기 때문에 "라운드 로빈"^1 방식으로 최대한 각 광고가 균등한 기회를 가지고 유저에게 노출될 수 있도록 알고리즘을 구성했다.
라운드로빈 방식의 장점은 기간이 같은...