GPU 분할 스케줄링, AI 인프라 팀이 GPU 활용률과 간섭을 함께 측정하는 법
GPU를 더 잘게 공유해도 유효 처리량이 늘었다고 단정할 수 없다. 격리 방식별 차이와 워크로드 간섭을 함께 검증하는 기준을 설명한다.
-
-
AI 자동화 연구 평가, AI 자동화 연구를 모델 안전 개선에 도입하기 전 무엇을 검증해야 하나
자동 연구 루프의 리더보드 개선을 배포 근거로 오해하지 않도록 개인정보 평가의 입력, 오류 비용, 독립 테스트와 사람 승인 조건을 분해한다.
-
SageMaker Feature Store BatchWriteRecord 재시도, 부분 성공에서 중복 쓰기를 막는 법
BatchWriteRecord 응답에서 성공한 entry를 다시 보내지 않고, 재시도 가능 항목과 영구 실패를 분리하는 방법을 통제 비교와 Python 코드로 정리한다.
