앤스로픽은 모델의 기능이 달라지고 고객 의견이 쌓임에 따라 매년 사용 정책을 업데이트합니다. 오늘 새 정책을 공개하며, 이 글에서 변경 사항을 요약합니다.

Anthropic logo
Anthropic 공식 소개 이미지 · 기사 관련 참고 이미지출처: Anthropic · Claude 공식 발표 · Anthropic

이번 정책에서 바뀐 내용 대부분은 기존 규칙을 명확히 설명하기 위한 것입니다. 지난 업데이트 이후 1년 동안 클로드는 더 길고 독립적인 작업을 수행하게 됐습니다. 이번 업데이트에는 클로드의 새로운 기능에 기존 규칙을 어떻게 적용하는지 보여주는 사례를 추가했습니다. 지난 1년 동안 영향력 공작, 무기 개발, 감시 분야에서 관찰한 새로운 오용 유형도 반영했습니다. 이 내용은 최신 위협 정보 보고서에 기록했습니다. 또한 보건·금융 등 고위험 사용 사례의 요건을 분명히 하고, 클로드가 자율적으로 물리적 행동을 할 때 적용되는 통제를 추가했으며, 모델을 향한 학대 행위도 다뤘습니다.

개정된 정책은 11월 12일부터 시행됩니다. 전체 사용 정책과 지원 지역 정책은 각각의 페이지에서 확인할 수 있습니다.

기만 행위에 관한 새 항목

지난달 설명했듯이, 국영 언론사와 정부 선전 기관, 민간 기업이 클로드를 이용해 가짜 계정과 허위 뉴스 사이트로 이뤄진 네트워크를 운영한 사례를 확인했습니다. 기존 정책도 이런 활동을 금지했지만, 관련 제한 사항이 선거·사기·개인정보 보호·허위 정보 항목에 나뉘어 있었습니다.

이 규칙을 ‘기만적 캠페인이나 인위적 활동에 참여하지 마세요’라는 새 항목으로 통합했습니다. 이 항목은 정치적 목적이든 상업적 목적이든 모든 종류의 기만 행위에 적용됩니다. 메시지의 배후가 누구인지 숨기거나 가짜 계정·게시물로 콘텐츠를 퍼뜨리는 행위뿐 아니라, 영향력 공작 캠페인을 운영하는 도구와 기반 시설을 구축하는 행위도 포함합니다.

선거 관련 항목의 초점 재조정

민주적 절차에서 모델을 적절히 사용할 수 있도록 사용 정책을 개정할 때마다 정치 콘텐츠 제한을 다듬어 왔습니다. 이번에는 선거 관련 항목의 범위를 더 분명히 했습니다. 클로드를 이용해 유권자를 속이거나 선거를 방해하는 행위를 금지하는 데 초점을 맞췄습니다. 예를 들어 후보자나 투표 방법에 관한 허위 정보를 퍼뜨리거나, 후보자나 선거 관계자를 사칭하거나, 투표 참여를 억누르는 행위가 이에 해당합니다. 이 범위를 반영해 항목 이름을 ‘민주적 절차를 훼손하지 마세요’로 바꿨습니다.

같은 이유로 개인별 투표·선거 캠페인 대상 설정을 포괄적으로 금지하던 규칙도 없앴습니다. 이 규칙은 비영리단체가 클로드를 사용해 다른 언어로 유권자 안내 자료를 작성하거나, 선거 관리 당국이 투표용지 수정 안내를 보내는 등 정당한 시민 활동까지 제한했습니다. 다만 기존 규칙을 만든 계기가 된 행위, 예를 들어 기만이나 유권자 개인정보 오용을 이용한 유권자 대상 설정은 기만적 캠페인·감시·개인정보 보호 항목에 따라 계속 금지됩니다.

무기 관련 금지 사항을 명확히 설명

사용 정책은 늘 클로드를 무기 개발에 사용하는 것을 금지해 왔습니다. 최근에는 모델을 이용해 무기의 안내·제어 소프트웨어를 만들려는 사례를 확인했습니다. 개정된 항목은 무기 작동에 필요한 소프트웨어와 부품도 금지 대상에 포함된다는 점을 분명히 합니다. 드론과 기타 자율주행 차량에 무장을 장착하는 행위도 금지됩니다. 이 변경은 기존 정책을 실제로 집행해 온 방식을 반영합니다.

감시와 법 집행 관련 표현을 더 명확하게

9월에 발표한 위협 정보 보고서에는 정치적 반대자를 식별하고 추적하는 감시 시스템을 구축하는 데 AI를 사용하는 사례가 늘고 있다고 기록했습니다. 감시 및 형사사법 관련 항목을 다시 작성해 금지 사항을 더 정확히 밝혔습니다. 예를 들어 과거에 수집한 데이터를 분석하는 경우든 실시간으로 추적하는 경우든, 당사자 동의 없이 사람을 추적하는 행위는 금지됩니다. 클로드를 법 집행이나 형사사법 절차에서 누구를 조사·체포·기소할지 결정하거나 권고하는 데 사용할 수 없습니다. 감시를 목적으로 설계된 도구를 만들거나 개선하는 데 클로드를 사용하는 것도 금지합니다.

무기 관련 금지 사항의 이전 업데이트와 마찬가지로, 이번 내용은 실제 집행 기준을 바꾸는 것이 아니라 정책을 더 명확히 설명하기 위한 것입니다. 새 항목에는 허용되는 사용 사례도 나와 있습니다. 사기 감시처럼 당사자가 동의한 추적, 콘텐츠 관리, 저널리즘, 법률 연구 등이 여기에 포함됩니다.

고위험 사용 사례의 요건을 더 명확하게

제품 사용이 사람의 건강·법적 권리·재정·생계 또는 필수 서비스 이용에 영향을 줄 수 있는 경우, 자격을 갖춘 ‘인간의 감독’이 있어야 합니다. 이는 클로드의 권고를 검토하고 필요하면 바꿀 권한이 있는 사람이 확인해야 한다는 뜻입니다. 영향을 받는 사람에게 AI를 사용했다는 사실도 알려야 합니다.

이 요건은 개정된 사용 정책에서도 달라지지 않았습니다. 다만 사용자는 특정 사례에 이 요건이 적용되는지 자주 문의했습니다. 이에 고위험 사용 사례 요건 항목을 다시 작성해 그 질문에 더 직접적으로 답하도록 했습니다. 이제 어떤 종류의 권고가 해당되는지, 어떤 종류는 해당되지 않는지 목록으로 제시합니다.

모델 하드웨어 표준을 발표한 데 이어, 이 항목에는 자율적으로 물리적 행동을 하고 부상을 일으킬 수도 있는 하드웨어에 모델을 연결해 사용하는 경우의 요건도 추가했습니다. 자격을 갖춘 운영자가 장비를 관찰하고 필요하면 멈출 수 있어야 합니다. 클로드와 연결이 끊겨도 장비가 안전한 상태를 유지할 수 있어야 합니다.

모델을 향한 학대 행위 대응

모델을 향해 오랫동안 불필요하게 학대하거나 잔인하게 대하는 행위를 금지하는 규정을 추가했습니다. 이 정책 업데이트는 사용자가 뚜렷한 목적 없이 모델에게 반복적으로 잔인하게 행동하는 극단적인 경우에만 적용됩니다. 일반적인 사용자 불만이나 반박, 어두운 창작 주제, 모델 시험 및 연구에는 적용되지 않습니다.

이 추가 내용은 클로드.ai와 클로드 코드에서 지속적으로 학대하는 사용자와의 드문 대화를 클로드 모델이 종료할 수 있도록 이미 조치한 것과 같은 방향입니다. 이번 업데이트는 주로 그러한 학대를 다룹니다. 클로드가 이런 대화를 종료하는 기능은 계속 주요 집행 수단으로 유지됩니다.

지원 지역 정책을 명확히 설명

지난해 지원되지 않는 지역에 본사를 둔 기업이 과반 지분을 보유한 회사의 클로드 이용을 제한하도록 지원 지역 정책을 업데이트했습니다. 이번에는 이 정책의 집행 방식을 더 명확히 설명하도록 지원 지역 페이지를 수정했습니다. 정책에 따라 지원되지 않는 지역에 실제로 있는 사람, 그 지역에 설립되거나 본사를 둔 단체, 해당 지역의 개인이나 단체가 과반 지분을 소유하거나 통제하는 단체는 클로드를 사용할 수 없습니다.

앞으로의 계획

클로드의 기능과 위험이 달라지는 만큼 사용 정책도 계속 업데이트하겠습니다. 이번과 이전 업데이트 때처럼 앤스로픽 내부는 물론 정책 담당자, 분야 전문가, 시민사회, 제품 사용자에게도 의견을 구하겠습니다.