NVTabular
Summary of NVTabular
Sungho Park
Grad Cache
추가 예정..
Grad Cache
Overview
In-batch negative 방식의 contrastive learning에서 마치 gradient accumulation처럼 large batch를 사용하게 해주는 방식이다.
일반적인 학습 방법의 경우, batch-wise하게 loss 계산을 하지 않기 때문에 loss update를 한꺼번에 모아서 하는 것에 문제가 없다. 하지만, DRP, MRC model과 같이 contrastive leraning을 시도할 때 in-batch negative를 사용할 경우, batch-wise하게
MLOps Summary
산개된 mlops 내용들을 정리
Airflow and Kubernetes
How to use Airflow and Kubernetes
Split VRAM of GPU on Kubernetes
How to split VRAM
Search Engine Registration
Google
Google Search Console
본인의 블로그를 검색 색인에 등록할 수 있다. 시간이 지나면 Google이 자동으로 내 웹사이트를 찾지만, Google Search Console을 사용하면 능동적으로 색인 생성 요청을 하고 개선할 수 있다.
Google 검색에 사이트가 표시되는 빈도, 사이트를 표시하는 검색어, 검색 사용자가 검색어를 클릭하여 연결하는 빈도 등의 검색 트래픽 정보 확인이 가능하다.
Open Graph Protocol
Facebook에서 개발한 meta data protocol. HTML의 meta tag를 통해서 meta data를 전달해도 되지만, 직접 tag 수정을 해야하는 번거로움이 있다. Open Graph Protocol에 정의된 표준화된 meta data 표기법을 사용하면 Jekyll에서 알아서 meta data를 블로그에 넣어준다.
ref: Open Graph Protocol blog
Open Graph Protocol에 대한 사용여부와 정보를 확인하려면 Facebook에서 제공하는 Sharing Debugger를