[월:] 2026년 09월

LLM 의 GPU 사용량 감량 성공

By Arphile

LLM 의 GPU 사용량 감량 성공에 댓글 없음

2 Min Read

결과 오늘은 결과를 먼저 보고 이야기 하도록 한다. 왜 이 작업을 진행했는가? 여름인데, 만들어둔 경제분석 시스템에서 그래픽카드가 팽팽 도는게 너무 거슬렸다. 덥기도 더운데, 저게 저렇게 하루종일 굴러갈일인가? 싶어서, 그리고 시스템이 조금 더 효율적으로 굴러가면 어떨까 라는 생각이 들어서였다. 어느 작업을 진행했는가? 제일 먼저 했던 작업은 Thinking 을 제거하는 일이었다. 간단하게 번역만 해도 되는일에 Thinking 을…