2026년 10월 8일

LegalOn logo on a close-up monochrome paper texture.
OpenAI 뉴스룸 원문에 실린 자료 이미지출처: OpenAI 뉴스룸 · OpenAI

LegalOn, 개발 속도 유지하며 Codex 비용 절감

LegalOn은 Astra, Sol, Luna를 작업에 맞게 선택하고 예산을 전략적으로 관리해 개발 속도를 유지하면서 비용을 65% 줄였습니다.

개발 시작(새 창에서 열림)회사 규모: 스타트업지역: 아시아·태평양 및 오세아니아산업: 기술제품: Codex성과

-20%

성숙한 사업 분야의 비용 절감

성과

-65%

예상 일일 비용 감소

불러오는 중…LegalOn Technologies는 AI를 활용해 법률 업무와 기타 주요 사업 기능을 지원하는 전문 AI 서비스를 전 세계에 제공합니다. 전문 분야 지식과 AI를 결합해 사람들이 복잡한 판단과 의사결정에 집중할 수 있도록 합니다. 회사의 목표는 사업 의사결정의 품질과 속도를 높이는 AI 기반 경영입니다.

이러한 접근 방식은 제품을 넘어 회사 자체를 AI 중심 조직으로 만드는 데까지 이어집니다. 회사는 Codex를 개발 과정에 통합했고, 일상 업무에서 사용하면서 조직 전반으로 활용을 확대했습니다.

사용이 자리를 잡자 새로운 과제가 나타났습니다. 바로 비용 관리였습니다. 성능이 높은 모델을 제한 없이 사용하면 지출이 늘어날 수 있습니다. 반대로 일괄적으로 제한하면 AI가 높인 생산성이 떨어질 위험이 있었습니다.

개발 속도를 늦추지 않으면서 어떻게 비용을 줄일 수 있을까요? LegalOn Technologies는 작업의 복잡성과 개발 단계에 따라 GPT‑6(Astra, Luna)와 GPT‑6.1 Sol 가운데 적합한 모델을 선택했습니다. 사업별 성장 단계에 맞춰 예산도 조정했습니다. 그 결과 개발 속도를 유지하면서 비용을 절반으로 줄였습니다.

개발 속도를 유지하고 비용을 줄이기 위한 모델 최적화

처음에는 개발자에게 주력 모델인 GPT‑5.5의 Fast 모드를 무제한으로 제공했습니다. 개발자들은 설계와 구현, 일상 업무로 사용 범위를 넓혔습니다. 실험을 거치면서 사람과 AI가 업무를 어떻게 나누는 것이 좋은지도 배웠습니다.

하지만 성능이 높은 모델을 계속 제한 없이 사용하면 연간 예산을 넘길 수밖에 없었습니다. 회사의 AI 기반 개발 CoE(AID CoE)는 모델 선택 지침을 마련하기 시작했습니다. AID CoE는 모델을 시험하고 사용 현황을 살폈으며, 관리자들은 조사 결과를 각 팀에 공유했습니다. 이에 따라 엔지니어들은 작업마다 가장 알맞은 모델을 직접 선택할 수 있게 됐습니다.

작업에 맞춰 모델을 선택하고 자원을 전략적으로 배분

새 지침에 따라 모든 작업에 가장 성능이 높은 모델을 쓰는 대신, 업무에 맞는 모델을 선택하게 됐습니다. 팀들은 가벼운 모델부터 시작하고 작업이 복잡해질수록 성능이 높은 모델로 바꿨습니다.

관리 체계를 뒷받침하기 위해 관리자 설정을 통한 시스템 제어 기능도 도입했습니다. 부서와 개인별로 월간 사용 한도를 정했습니다. AID CoE는 사용량을 살피고 사업상 필요에 따라 한도를 조정합니다.

이러한 제어 아래에서 진행한 내부 테스트를 통해 모델 선택 기준을 더 구체화했습니다. 가장 가벼운 모델인 GPT‑6 Luna는 요구사항이 명확한 코드 구현을 맡습니다. GPT‑6.1 Sol은 일반적인 설계, 데이터 분석, 문서 작성에 사용합니다. 가장 성능이 높은 GPT‑6 Astra는 아키텍처 설계 등 고도의 판단이 필요한 작업을 처리합니다. 작업에 맞춰 모델을 선택하는 방식은 점차 팀 전체의 공통 관행이 됐습니다.

다양한 작업에 세 가지 모델을 선택해 활용

GPT-6 Luna

일상적인 작업 실행과 구현, 반복 업무 자동화, 비교적 간단한 작업과 분석 위임에 사용합니다. 주로 보조 에이전트로 코드 구현을 맡습니다.

GPT-6.1 Sol

일반적인 설계와 분석, 비교적 간단한 소프트웨어 설계, 정기적인 수치 분석과 문서 작성에 사용합니다. Luna보다 더 짧은 시간 안에 끝내야 하는 작업에도 사용합니다.

GPT-6 Astra

복잡한 분석과 설계, 작업 조율에 사용합니다. 복잡한 분석과 문서 작성, 소프트웨어 설계를 맡고, 오케스트레이터 역할로 여러 에이전트를 조율합니다.

모델 선택과 함께 회사는 Fast 모드를 기본적으로 제한하기 시작했습니다. 필요한 경우에만 개인별 요청을 허용했습니다. 개발 속도가 떨어질 수 있다는 우려가 있었지만, 팀들은 작업을 병렬로 진행하는 등의 방법을 활용해 성능을 유지하고 원활하게 전환했습니다.

회사에는 부서, 그룹, 개인 단위로 AI 지출 한도도 도입했습니다. 이미 자리를 잡은 LegalOn 사업에는 비용 효율을 최대 약 20% 높이도록 요청했습니다. 반면 출시 단계의 신규 사업에는 AI를 적극적으로 활용하도록 넉넉한 예산을 배정했습니다.

LegalOn Technologies의 선임 엔지니어링 매니저인 Yuta Tokitake는 신규 사업이 비용 효율보다 사업 속도를 우선했다고 설명합니다. AI를 폭넓게 활용해 산출물을 늘리고, 궁극적으로 사업 성장을 이끄는 것이 목표였습니다.

모델 선택, 기능 제한, 사업별 예산을 함께 적용해 예상 일일 비용을 약 65% 줄였습니다. 이 방식은 전체 예산을 통제하면서 회사가 키우려는 사업에 자원을 집중하도록 했습니다.

주요 성과 한눈에 보기

모델 최적화와 전략적인 자원 배분으로 다음과 같은 성과를 거뒀습니다.

모든 작업에 가장 성능이 높은 모델을 쓰는 방식에서 벗어나 작업의 복잡성과 개발 단계에 따라 GPT‑6 Astra, GPT‑6.1 Sol, GPT‑6 Luna를 선택했습니다.

Fast 모드를 기본 제한한 뒤에도 팀이 작업을 병렬로 진행하는 등의 방법으로 개발 성능을 유지했습니다.

성숙한 사업에서는 약 20%의 효율 향상을 추진하고 신규 사업에는 적극적으로 투자하는 방식으로 예산 한도를 설정했습니다.

GPT‑6 및 6.1 모델 가운데 적합한 모델을 선택해 GPT‑5.5를 사용했을 때와 비교해 예상 일일 비용을 65% 줄였습니다.

기능 출시를 통해 AI 투자의 실제 투자수익률 측정

회사는 모델을 최적화해 개발 속도나 품질을 희생하지 않고 비용을 줄였습니다. 팀들은 AI가 개발부터 출시까지 걸리는 시간도 꾸준히 줄이고 있다고 보고 있습니다.

하지만 회사는 더 먼 곳을 바라보고 있습니다. 개발 속도만 빨라지면 AI 투자가 성공한 것일까요? 개발 속도 향상이 고객 가치로 이어지는지는 분명하지 않았습니다. Tokitake는 “AI가 시스템 개발과 업데이트를 앞당길 수 있다는 점은 이제 거의 당연해졌습니다. 우리가 정말 알고 싶은 것은 개발이 빨라진 것이 실제로 고객에게 가치를 제공하는지입니다”라고 말합니다.

이 질문을 계기로 회사는 자체 지표를 만들었습니다. AI 투자 평가의 기준을 개발 속도와 사용량에서 고객 가치로 바꾸려는 것입니다.

Tokitake는 이렇게 설명합니다. “AI를 사용할 때 개별 작업의 비용은 추적할 수 있지만, 기능 출시처럼 완성된 작업 전체의 비용은 종종 파악하기 어렵습니다. 그래서 기능 출시 하나를 하나의 단위로 삼아 측정하기로 했습니다. 출시된 기능이 제공하는 고객 가치와 실제로 투입된 AI 비용을 연결해 투자수익률을 명확하고 정확하게 파악하려 합니다.”

회사는 현재 이 지표를 계산할 절차를 구축하고 있습니다. 구축이 끝나면 고객 가치 측면의 실제 투자수익률을 확인할 수 있습니다. LegalOn Technologies는 AI 비용 관리에서 더 나아가 기술 투자를 사업 가치와 직접 연결하고 있습니다.

AI 시대에 맞는 조직과 관리 체계 구축

다음 목표는 개별 엔지니어가 가진 AI 활용 노하우를 조직 전체의 역량으로 키우는 것입니다. 첫 단계로 실무 경험을 모아 공유하는 지식 기반을 만들 계획입니다. 설계와 구현, 검토에 가장 알맞은 모델 조합 같은 지식을 기록하고, 개인의 성공 사례를 회사 전체의 모범 사례로 빠르게 발전시킬 예정입니다.

팀의 실무 경험에서 비롯된 이러한 변화는 조직 운영과 채용에도 영향을 주고 있습니다. AI로 생산성이 높아지면서 회사는 사람과 AI의 업무 분담 방식과 인력 계획을 근본적으로 다시 검토하고 있습니다. 투자 전략과 조직 구조가 달라지는 가운데 채용에서도 AI 역량을 강조하기 시작했습니다.

AI 활용을 지속적인 경쟁 우위로 만들려면 관리와 팀의 자율성 사이의 균형을 계속 다듬어야 합니다. AID CoE와 보안팀은 여러 관점에서 성능, 비용, 위험을 최적화하기 위해 협력하고 있습니다. 조직 전체가 유연하게 실험할 수 있는 체계를 만드는 것이 목표입니다.

“규칙과 예산으로 지나치게 제한하면 조직의 추진력이 약해질 수 있습니다. 위험을 통제하면서도 팀에 필요한 속도를 효과적으로 뒷받침하는 유연한 운영 방식이 필요합니다.”

Yuta Tokitake, LegalOn Technologies 선임 엔지니어링 매니저OpenAI <3 스타트업

커뮤니티 참여개발 시작(새 창에서 열림)계속 읽기

Pollo AI, OpenAI를 활용해 창의적인 아이디어를 광고 캠페인으로 구현스타트업2026년 10월 8일

Basis, GPT-6 Astra로 세금 계산용 워크북을 2배 빠르게 완성2026년 9월 28일

Harvey, GPT-6 Astra로 법률 맥락을 반영한 더 나은 초안 작성스타트업2026년 9월 23일