애플 뉴스

llama.cpp ‘최대 42배’ 최적화, 빨라진 처리 단계를 살펴봅니다

개발자가 공개한 최적화는 AI의 다음 출력 후보를 찾는 내부 처리 시간을 줄인 결과입니다. 전체 답변 속도가 42배 빨라졌다는 뜻은 아니며, 후속 개선에서는 같은 내부 단계에 최대 140배라는 수치도 제시됐습니다.