기업별 소식

(관계 부처합동) 인공지능이 폐기물 종류 확인부터 배출 방법 안내까지 한번에! ‘인공지능 폐기물 처리 도우미’ 앱 실증 개시

llama.cpp ‘최대 42배’ 최적화, 빨라진 처리 단계를 살펴봅니다

개발자가 공개한 최적화는 AI의 다음 출력 후보를 찾는 내부 처리 시간을 줄인 결과입니다. 전체 답변 속도가 42배 빨라졌다는 뜻은 아니며, 후속 개선에서는 같은 내부 단계에 최대 140배라는 수치도 제시됐습니다.