오카 시큐리티와 AWS는 자연어 질문을 보안 검색문으로 바꾸는 도구 ‘디스커버리 AI’를 아마존 베드록을 기반으로 구축했다고 밝혔습니다. 보안 담당자는 복잡한 검색 언어를 미리 익히지 않고도 클라우드 인프라에 관한 질문을 입력할 수 있습니다.
오카에 따르면 새 구조는 초기 기준과 비교해 검색 비용을 90%, 입력 토큰을 93%, 응답 지연 시간을 75% 줄였습니다. 회사가 제시한 초기 기준에서는 작업당 입력 토큰이 약 200만 개였고, 전체 응답에 약 60초가 걸렸습니다. 복잡한 여러 조건의 질문은 정확도에도 한계가 있었다고 오카는 설명했습니다.
디스커버리 AI는 자연어 질문을 오카의 소나 검색문으로 변환합니다. AWS가 공개한 설명에 따르면 앤스로픽의 클로드 하이쿠 4.5가 모델 선택과 검색문 생성에 사용됩니다. 오카는 900개가 넘는 검색 모델의 구조 정보를 매번 질문에 전부 넣으면 비용과 정확도에 불리하다고 판단해 시스템을 설계했습니다.
비용과 속도 개선 수치는 오카가 초기 기준과 비교해 공개한 결과입니다. 자료는 이 수치가 다른 조직이나 모든 질문에서도 똑같이 나타난다고 말하지 않습니다.