중요 기반 시설: 전력망과 상수도 시스템, 교통망을 움직이는 운영 기술을 보호하는 일부터 시작하고, 정부 시스템도 보호합니다. 오늘 중요 기반 시설 방어 프로그램(CIDP)을 소개합니다. 이 프로그램은 첨단 모델과 현장 엔지니어, 위협 연구를 운영 기술을 보호하는 방어 담당자에게 제공합니다.
오픈소스 소프트웨어: 대부분의 소프트웨어가 의존하는 무료 공유 코드에서 보안 취약점을 찾아 수정안을 제안하고, 기반이 되는 코드를 더 안전하게 만듭니다. 오늘 오픈소스 프로젝트에 가장 성능이 뛰어난 모델의 정기 보안 검사를 무료로 제공하는 OSS Scanner를 출시합니다.
첨단 모델은 취약점을 악용하거나 사이버 작전을 수행하는 데 잘못 사용될 수 있습니다. 최선을 다하더라도 기술의 여러 분야는 여전히 위험할 정도로 노출돼 있습니다. 국가의 지원을 받는 공격자들은 여러 분야의 시스템에 침투할 발판을 마련하기 위해 수년간 활동해 왔습니다. 이들은 시스템을 교란하려 합니다. 중요 기반 시설 방어 담당자와 오픈소스 커뮤니티에는 수십 년의 보안 경험이 있지만, 심각한 자원 부족을 겪어 왔으며 지금의 상황은 이를 더 악화시키고 있습니다. 우리는 이 분야에서 이들이 쌓아 온 전문성을 인정하고 지원을 제공하려 합니다. 세계의 보안을 돕기 위해 새로운 분야에서도 도구와 연구, 자원을 내놓으며 사이버 미션을 확대하겠습니다.
프로젝트 글래스윙(Project Glasswing)의 일환으로 협력 기관들이 많은 취약점을 찾아냈지만, 사이버 위험을 충분히 줄이지는 못했습니다. 취약점을 찾아내기는 어느 때보다 쉬워졌지만, 발견한 내용을 확인하고 우선순위를 정해 수정하는 일은 여전히 어렵습니다. 프로젝트 글래스윙에서 얻은 교훈을 바탕으로 방어 담당자를 지원하는 새로운 활동을 시작합니다. 이번 주 초에는 프로젝트 글래스윙을 확대된 사이버 검증 프로그램에 통합했습니다. 이 프로그램을 통해 훨씬 더 많은 방어 담당자가 가장 성능이 뛰어난 모델을 이용할 수 있습니다. 앤스로픽 사이버 미션을 통해서는 앤스로픽의 엔지니어링 인력을 투입하고, 중요 기반 시설과 오픈소스 소프트웨어를 보호하는 이들에게 도구와 자금을 제공하겠습니다.
중요 기반 시설 방어
전력망과 상수도 시설, 공장, 교통망은 수십 년 동안 사용하도록 만들어진 제어 장치와 제어 소프트웨어, 산업 네트워크로 운영됩니다. 이런 시스템을 ‘운영 기술(OT)’이라고 합니다. 보안 업데이트를 위해 시스템 가동을 중단할 수 없는 경우가 많아, 알려진 취약점이 수년간 해결되지 않을 수 있습니다. 이 시스템을 보호하는 일은 전문성이 필요한 작업입니다. 장비는 제조업체 고유의 기술로 만들어지고, 변경 작업은 위험하며, 실수하면 공장 가동이 중단될 수 있습니다. 규모와 관계없이 운영 기관들은 이 작업을 돕는 소수의 신뢰받는 업체에 의존합니다. 이들 업체는 어떤 부분이 위험에 노출됐는지, 가동 중인 시스템에 어떤 수정 사항을 적용해야 하는지 알려줍니다.
오늘 중요 기반 시설 방어 프로그램을 소개합니다. 이 프로그램은 신뢰받는 업체에 첨단 클로드 모델과 현장 엔지니어, 위협 연구를 제공합니다. 창립 협력사는 Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC, Rockwell Automation입니다.
이 기관들은 운영 기관들이 시스템 보호를 위해 의존하는 여러 업체를 대표합니다. 보안 프로그램을 운영하는 컨설팅·첨단 기술 기업, 기업 및 산업 네트워크를 지키는 보안 기업, 장비를 직접 만들고 보안 업데이트를 제공하는 제조업체가 참여합니다.
이 활동은 이미 진행 중입니다. 여러 협력사가 현재 클로드를 활용해 취약점을 수정하고, 고객도 같은 작업을 할 수 있도록 돕고 있습니다. 중요 기반 시설에는 AI로 해결할 수 없는 여러 방어 과제가 있습니다. 하지만 첨단 모델이 취약점을 찾아 수정하면, 그 취약점이 악용돼 전력이 끊기거나 물이 안전하지 않게 되기 전에 대응할 수 있다고 생각합니다. 첫 단계로 소수의 업체와 함께 일하며 가장 효과적이고 실제로 적용할 수 있는 방법을 알아보겠습니다.
중요 기반 시설을 위한 보안 제품이나 서비스를 만드는 회사라면 여기에서 참여 의사를 등록할 수 있습니다.
AI가 계속 발전하면서 중요 기반 시설 전반의 사이버 보안을 강화할 중요한 기회가 생기고 있습니다. 단, 책임 있게 적용하고 엄격하게 검증하며 안전성과 신뢰성을 최우선에 두고 배포해야 합니다. 우리는 사회가 매일 의존하는 기반 시설의 회복력을 높이는 실질적인 AI 활용법을 마련하는 데 운영 기술과 산업 사이버 보안 전문성을 보탤 수 있어 기쁩니다.
중요 기반 시설 기관들과 함께 일하면서 PwC의 사이버 운영 기술(OT) 분야는 사이버 침해가 이런 환경에서 얼마나 심각한 결과를 낳을 수 있는지 직접 확인했습니다. 취약점을 찾아내고 위험을 줄이며 중요 시스템의 회복력을 강화하려면 업계 전체가 협력해야 한다고 굳게 믿습니다.
공격자들은 AI를 이용해 기계의 속도로 보안 노출 지점을 찾아 악용하고 있습니다. Unit 42의 위협 정보와 현장 전문성을 앤스로픽의 첨단 모델과 결합해, 필수 서비스를 공격하고 교란하려는 적에 맞서 운영 기관을 돕고 있습니다. 함께 방어 담당자에게 필요한 속도와 정확성을 제공해, 보안 노출이 실제 피해로 이어지기 전에 공격 경로를 차단합니다.
첨단 AI는 어느 한 조직이 혼자서 따라가기 어려울 만큼 빠르게 발전하고 있습니다. 그래서 중요 기반 시설 방어 프로그램이 중요합니다. 이 프로그램은 해당 환경을 잘 아는 사람들과 이를 보호하는 데 쓸 수 있는 첨단 기술을 한데 모읍니다. 세계가 의존하는 시스템을 보호하기 위해 다른 협력사들과 함께 경험을 보태고 배우게 되어 자랑스럽습니다.
가장 보호가 필요한 원격 변전소와 해상 시설, 외부 네트워크와 분리된 공장은 기존 도구가 닿지 않고 전문가도 상주하기 어려운 곳입니다. 아무도 해결하지 못했던 문제는 ‘시간’이었습니다. 어느 팀이 처리할 수 있는 양보다 데이터가 많고, 어느 팀이 인력을 배치할 수 있는 곳보다 현장이 많았습니다. 클로드는 이 간극을 줄여 줍니다. 그 결과 우리 분석가와 고객사의 운영 담당자들은 중요 시스템을 안전하게 가동하는 데 필요한 판단에 시간을 쓸 수 있습니다.
중요 기반 시설과 이를 이용하는 사람들은 AI가 운영 환경에 가져오는 기회와 과제에 관해 업체들이 배운 점을 공유할 때 도움을 얻습니다. 그 지식을 각자 따로 보유하기보다 함께 나누는 편이 낫습니다. 앤스로픽 중요 기반 시설 방어 프로그램에 참여하는 것은 조명과 물, 교통을 유지하는 운영 기술(OT)의 현실에 맞춰 첨단 AI를 공동 방어 전략에 활용하도록 돕는 방법 중 하나입니다.
사이버 위험이 현실의 위험으로 이어지는 곳이 바로 중요 기반 시설입니다. 공격자들이 AI를 활용해 더 빠르고 큰 규모로 활동하면서, 기계의 속도로 이뤄지는 위협에 맞서려면 중요 기반 시설에도 기계의 속도로 방어해야 합니다. CrowdStrike의 깊이 있는 보안 지식과 전문성을 앤스로픽의 첨단 AI 전문성과 결합하면 중요 기반 시설 방어 담당자에게 더 큰 이점을 제공할 수 있습니다.
AI의 빠른 발전과 점점 더 정교하고 빨라지는 사이버 위협 속에서, 사회 기반 시설을 지원하는 운영 기술 환경의 사이버 보안은 오늘날 사회가 마주한 최우선 과제 중 하나가 됐습니다. 이 프로그램에 참여해 앤스로픽 및 다른 협력사와 협력하고, 중요 기반 시설의 사이버 회복력을 더욱 높이기를 기대합니다.
AI가 발전하면서 중요 기반 시설 운영자에게는 기계의 속도로 보안 취약점에 대응하는 해결책이 필요합니다. Deloitte는 앤스로픽과 함께 기업들이 보안 공백을 메우고 회복력을 강화할 수 있도록 지원하며, 첨단 AI의 현실적인 발전 속도에 맞춰 나아가고 있습니다.
운영 기술은 자율형 AI 기반 공격의 다음 표적입니다. 이제 질문은 AI가 산업 공정에 영향을 미칠 수 있느냐가 아니라, 얼마나 많은 통제권을 얼마나 빨리 확보할 수 있느냐입니다. 중요 기반 시설 방어 프로그램은 민간 부문의 혁신과 투자를 모아 정부 및 민간 분야 전반의 운영 기술과 산업 제어 시스템(ICS) 회복력을 강화합니다.
전력 공급과 의약품 안전, 식량 공급, 통신을 유지하는 기관들은 세계에서 가장 큰 피해를 초래할 수 있는 사이버 위험에 노출돼 있습니다. Accenture는 지역사회가 매일 의존하는 중요 기반 시설을 보호하는 기관에 깊이 있는 운영 기술 보안 전문성을 제공하기 위해 노력하고 있습니다. 이번 협력은 AI 기반 방어를 가장 필요한 이들에게 제공하는 데 도움이 될 것입니다.
01 / 11지난 6월에는 주·지방·부족·준주 정부를 위한 사이버 방어 프로그램을 시작했습니다. 그 이후 미국 주의 절반이 넘는 곳과 미국 최대 규모의 공공 중요 기반 시설 운영 기관 일부에 첨단 클로드 모델과 기술 지원을 제공했습니다. 이를 통해 코드 검사와 보안 업데이트, 사고 대응, 모의 해킹 등 보안 작업을 더 빠르게 진행하도록 돕고 있습니다.
이 분야를 가장 잘 아는 사람들의 의견을 듣고 배우고 있습니다. 해당 환경을 잘 이해하고 운영 기관이 신뢰하는 기업과 연합체, 정부, 비영리 단체와 협력하면서 가장 필요한 곳에 지원을 제공하는 것이 우리의 접근 방식입니다.
오픈소스 소프트웨어 보호
거의 모든 소프트웨어는 오픈소스 코드에 의존하며, 그중 상당수는 소규모 자원봉사 팀이 관리합니다. 프로젝트 글래스윙에서는 널리 쓰이는 오픈소스 프로젝트 수백 개를 검사했습니다. 사람이 발견된 잠재적 취약점 가운데 다수를 분류하고 검토했습니다. 그런 다음 취약점 공동 공개 절차에 따라 발견 내용을 프로젝트 관리자에게 비공개로 알렸습니다.
대규모로 검토할 역량이 있는 일부 관리자는 검토 여부와 관계없이 모델이 프로젝트에서 찾아낸 모든 내용을 요청했습니다. 이에 구글의 OSS-Fuzz에서 아이디어를 얻은 선택 참여형 서비스 OSS Scanner를 출시합니다. 등록한 프로젝트는 가장 성능이 뛰어난 모델의 정기 검사를 무료로 받습니다. 각 보고서에는 버그를 악용할 수 있는 방법을 보여 주는 개념 증명과 설명, 가능한 경우 권장 수정안이 포함됩니다. 보고서는 모델이 생성하며 사람이 검토하지 않고 전송됩니다. 따라서 관리자는 더 빨리 보고서를 받지만, 심각도 등급이 잘못되는 것처럼 일부 내용에 부정확한 부분이 있을 수 있습니다. 실제로 취약점인 항목의 비율이 90%를 넘을 것으로 예상하며, 시간이 지나면서 이 비율과 수정안의 품질을 개선하겠습니다. 팀의 게시글에서 작동 방식과 등록 방법을 설명합니다.
이 서비스는 발견된 내용을 처리할 역량이 있는 프로젝트를 위한 것입니다. 그럴 여력이 없는 프로젝트에는 취약점 공동 공개(CVD) 정책에 따라 사람이 확인한 내용을 계속 전달하겠습니다.
OSS Scanner는 첫 단계입니다. 앞으로 오픈소스 활동을 다음과 같이 추진하려 합니다.
발견 내용을 관리자에게 더 빨리 전달합니다. 더 많은 프로젝트에 OSS Scanner를 제공하고, 사람이 검증한 공개가 필요한 프로젝트에는 해당 절차를 유지합니다.
수정을 앞당깁니다. 원하는 프로젝트를 대상으로 여전히 대부분 수작업으로 이뤄지는 취약점 분류와 보안 업데이트 작업을 자동화합니다.
새로운 안전한 구조와 코딩 방식을 살펴봅니다. 보안 업데이트를 넘어 더 나아가고자 하는 프로젝트와 함께 코드를 더 안전하게 만들거나 다시 작성하는 방법을 연구하고 공유합니다.
오픈소스 관리자와 재단의 의견을 바탕으로 이 활동을 진행하고, 효과가 있는 방법은 다른 프로젝트도 적용할 수 있도록 공유하겠습니다. 널리 쓰이는 오픈소스 코드를 관리하는 단체에도 자금을 지원했습니다. 여기에는 Python Software Foundation, Linux Foundation을 통해 지원하는 Alpha-Omega와 OpenSSF, Apache Software Foundation이 포함됩니다. 또 여러 출처의 취약점 보고를 모으고 조정해 관리자가 감당하기 어려울 만큼 많은 보고를 받지 않도록 돕는 Akrites와 Gold Eagle도 지원했습니다. 8월에 출범한 Defender Advantage Fund(0xDAF)는 이 분야의 시범 사업을 지원하고 OSS Scanner를 무료로 운영할 수 있도록 합니다.
관리자는 무료 Claude Max 구독을 제공하는 Claude for Open Source에 신청할 수도 있습니다. 방어 목적의 작업을 위해 클로드의 사이버 보안 기능을 더 폭넓게 이용할 수 있는 사이버 검증 프로그램에도 신청할 수 있습니다.
이 일을 하는 이유
사이버 보안 역량이 높은 AI 모델을 공격자들이 이제 널리 이용할 수 있습니다. 하지만 방어 도구는 우리 도구를 포함해 필요한 만큼의 방어 담당자에게 아직 도달하지 못했습니다. OSS Scanner와 사이버 검증 프로그램, 우리 플랫폼을 기반으로 협력사가 만드는 방어 제품, Claude Security는 이 문제를 해결하기 위한 활동 중 일부입니다. 가능한 한 빨리 다른 활동도 추가하겠습니다.
우리는 2년 뒤에는 AI가 방어에 유리하게 작용할 것으로 예상합니다. 소프트웨어가 출시되기 전에 버그를 찾아내고, 처음부터 근본적으로 안전한 소프트웨어를 작성하며, 모델을 활용해 시스템을 능동적으로 방어하기가 더 쉬워질 것입니다. 하지만 가까운 시기에는 그렇지 않을 수 있습니다. 취약점 악용 비용은 낮아졌지만, 취약점을 확인하고 공개하며 수정하는 일은 느리고 여전히 사람에게 의존합니다. 글래스윙에서는 취약점을 발견한 뒤 수정하기까지 수개월이 걸리는 경우가 많았습니다. 운영 기술에서는 기계가 가동되는 동안 안전하게 적용할 수 있을 때까지 수정이 미뤄질 수 있습니다. 드물게는 수십 년이 걸릴 수도 있습니다.
성공은 유능한 공격자들의 공격에도 물과 전력, 교통, 통신 같은 중요 기반 시설이 계속 작동하고, 악용 가능한 침투 경로가 줄며, 공격이 침투했을 때 더 빨리 복구하는 것을 뜻합니다. 이를 이루려면 여러 해가 걸릴 것입니다. 공공 부문 및 민간 부문과 함께 효과가 있는 방법을 배우면서 앤스로픽 사이버 미션도 달라질 것으로 예상합니다.
앞으로의 계획
앞으로 몇 달 동안 중요 기반 시설 방어 프로그램을 더 많은 협력사와 분야로 확대하고, 효과가 없었던 방법을 포함해 활동에서 얻은 점을 공유하겠습니다. 다른 AI 개발사와 보안 기업, 정부도 자체적인 활동을 진행할 것으로 예상합니다. 방어 담당자에게 도움이 된다면 이들과 협력하고자 합니다.
오픈소스와 더 넓은 소프트웨어 공급망을 보호하는 활동도 확대하겠습니다. 여기에는 새로운 소프트웨어 작성 방법과 시스템 방어 방법을 연구하는 일이 포함됩니다. 다른 이들이 소프트웨어와 공급망을 보호하도록 첨단 연구와 도구, 자원을 공유할 계획입니다.
함께하고 싶다면 다음 방법을 이용할 수 있습니다.
보안 업체와 시스템 통합업체, 장비 제조업체를 포함해 중요 기반 시설용 보안 제품이나 서비스를 만드는 회사는 프로그램 확대에 맞춰 중요 기반 시설 방어 프로그램 참여 의사를 등록할 수 있습니다.
중요 오픈소스 프로젝트의 핵심 관리자는 OSS Scanner에 등록할 수 있습니다.
중요 기반 시설 운영자와 오픈소스 관리자 등 규모와 관계없이 모든 보안팀은 모델을 이용할 수 있도록 확대된 사이버 검증 프로그램에 신청할 수 있습니다.
영어 원문
Introducing the Anthropic Cyber Mission
Today we’re launching the Anthropic Cyber Mission, a long-term commitment to securing the systems everyone depends on. The Cyber Mission is a new effort to support defenders with tools, research, and resources to secure their software and systems. We’re starting with two areas:
Critical infrastructure: Starting with securing the operational technology behind power grids, water systems, and transportation networks, and protecting government systems. Today, we’re introducing the Critical Infrastructure Defense Program (CIDP), which brings frontier models, on-site engineers, and threat research to the defenders that protect operational technology.
Open-source software: Finding vulnerabilities and proposing patches in the free, shared code that most software depends on, and hardening the underlying code. Today, we’re launching OSS Scanner, which offers open-source projects regular security scans from our strongest models, for free.
Frontier models can be misused to exploit vulnerabilities and conduct cyber operations. Despite best efforts, many areas of technology remain dangerously exposed. State-sponsored adversaries have spent years gaining footholds in these systems, across many sectors, so that they can disrupt them. Defenders of critical infrastructure and the OSS community have decades of security experience but have faced severe resource shortages that are exacerbated by this moment. We are recognizing their expertise in these domains and offering our support. We will also expand the Cyber Mission to release tools, research, and resources in new areas to help secure the world.
As part of Project Glasswing, partners uncovered many vulnerabilities, but we haven’t yet achieved a sufficient reduction in cyber risk. It’s easier than ever to find vulnerabilities, but verifying, prioritizing, and fixing these findings remains challenging. Based on lessons from Project Glasswing, we’re starting these new efforts to support defenders. Earlier this week, we merged Project Glasswing into our expanded Cyber Verification Program, which gives many more defenders access to our most capable models. And through the Anthropic Cyber Mission, we’ll deploy Anthropic engineering talent and provide tools and funding for those who secure critical infrastructure and open-source software.
Defending critical infrastructure
Power grids, water utilities, factories, and transportation networks run on controllers, control software, and industrial networks built to last for decades. These systems are known as “operational technology,” and they often cannot be taken offline to patch, so known vulnerabilities can stay unresolved for years. Securing them is specialized work: the equipment is proprietary, changes are risky, and a mistake can take down a plant. Operators of every size rely on a small set of trusted providers to support that work, telling them what’s exposed and which fixes to make on a running system.
Today, we’re introducing the Critical Infrastructure Defense Program, which brings frontier Claude models, on-site engineers, and our threat research to those trusted providers. Its founding partners are Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC, and Rockwell Automation.
These organizations represent the providers that operators rely on to secure these systems: the consulting and advanced technology companies that run security programs, the security companies that guard the business and industrial networks, and the manufacturers that build and patch the equipment itself.
This work is underway. Several partners are currently working with Claude to fix vulnerabilities and help customers do the same. Critical infrastructure is hard to defend in many ways that AI cannot fix, but we believe that frontier models can help find and repair weaknesses before those weaknesses are used to cut off power or make water unsafe. Our first step is to work with a small cohort of providers to learn which strategies are most effective and practical.
If your company builds security products or services for critical infrastructure, you can register your interest here.
As AI continues to advance, it presents an important opportunity to strengthen cybersecurity across critical infrastructure, provided it is applied responsibly, validated rigorously, and deployed with safety and reliability at the forefront. We are pleased to contribute our operational technology and industrial cybersecurity expertise to help develop practical approaches for applying AI in ways that strengthen the resilience of the infrastructure society depends on every day.
Through our work with critical infrastructure organizations, PwC’s cyber OT practice has seen firsthand the gravity of consequences cyber breaches can have in these environments. I firmly believe that a coordinated, industry-wide effort is necessary to identify vulnerabilities, mitigate risks, and strengthen the resilience of our critical systems.
Threat actors are using AI to find and exploit exposures at machine speed. By combining Unit 42 threat intelligence and operational expertise with Anthropic’s frontier models, we’re helping operators defend against adversaries looking to attack and disrupt essential services. Together, we are giving defenders the speed and precision needed to close attack paths before exposure becomes impact.
Frontier AI is evolving faster than any single organization can track alone. That’s why the Critical Infrastructure Defense Program matters. It brings together the people who understand these environments with the frontier capabilities now available to defend them. We’re proud to contribute our experience and to learn alongside the other partners working to protect the systems the world depends on.
The sites that need protection most, like remote substations, offshore platforms, and air-gapped plants, are exactly where traditional tools can’t reach and specialists can’t be. What no one had solved was the hours: more data than any team can work through, at more sites than any team can staff. Claude closes that gap, so our analysts and our customers’ operators spend their time on the judgment calls that keep critical systems running safely.
Critical infrastructure and the people who depend on it benefit when the vendor community shares what they learn about the opportunities and challenges that AI presents to operational environments, rather than keeping that knowledge in silos. Joining Anthropic's Critical Infrastructure Defense Program is one of the ways we help align frontier AI to a collective defense strategy built around the realities of the operational technology (OT) that keeps the lights on, water safe, and transportation running.
Critical infrastructure is where cyber risk becomes real-world risk. As adversaries use AI to move faster and operate at greater scale, critical infrastructure facing machine-speed threats requires machine-speed defense. By bringing CrowdStrike’s deep security context and expertise together with Anthropic’s frontier AI expertise, we can put a greater advantage in the hands of critical infrastructure defenders.
Amid the rapid evolution of AI and the increasing sophistication and speed of cyber threats, ensuring cybersecurity in OT environments that support social infrastructure has become one of the highest priorities facing society today. Through participation in this program, we look forward to collaborating with Anthropic and fellow partners to further enhance cyber resilience for critical infrastructure.
As AI accelerates, critical infrastructure operators need solutions that address security vulnerabilities at machine speed. Together with Anthropic, Deloitte is helping provide these enterprises with the enablement needed to close security gaps and strengthen resilience, moving at pace with the realities of frontier AI.
Operational technology is the next frontier for autonomous AI-enabled attacks. The question is no longer whether AI can affect an industrial process, but how much control it can gain, and how quickly. The Critical Infrastructure Defense Program is convening the best of private-sector innovation and investment to strengthen OT and ICS resilience across federal and commercial missions.
Organizations that keep our power on, medicine safe, food supply secure, and communications running face some of the most consequential cyber risks in the world. Accenture is committed to bringing our deep OT security expertise to the organizations that protect the critical infrastructure communities depend on every day. This partnership will help put AI-powered defense in the hands of those who need it most.
01 / 11In June, we launched a cyber defense program for state, local, tribal, and territorial governments. Since then, we’ve offered frontier Claude models and technical support to more than half of all US states and some of the country’s largest public critical infrastructure operators, speeding up code scanning and patching, incident response, red teaming, and other security workflows.
We are listening to and learning from the people who know this landscape best. Our approach is to work with the companies, coalitions, governments, and nonprofits that know this landscape and that operators trust, and provide support where it’s most needed.
Securing open-source software
Almost all software relies on open-source code, much of it maintained by small teams of volunteers. Under Project Glasswing, we scanned hundreds of widely used open-source projects, had humans triage and review many of the potential vulnerabilities uncovered, and privately reported what we found to their maintainers through our coordinated vulnerability disclosure process.
Some maintainers with the capacity to triage at scale asked us for everything our models had found in their project, reviewed or not. In response, we’re launching OSS Scanner, an opt-in service inspired by Google’s OSS-Fuzz. Enrolled projects receive periodic scans from our most capable models, free of charge. Each report includes a proof of concept of how the bug could be exploited, an explanation, and a suggested fix where one is available. The reports are model-generated and sent without human review. That means maintainers receive them faster, but it also means that some will contain inaccuracies, such as a wrong severity rating. We expect a true-positive rate above 90%, and will work to improve the true positive rate and fix quality over time. The team’s post explains how it works and how to enroll.
The service is meant for projects with the capacity to keep up with surfaced findings. For others, we will continue to share human-verified disclosures under our CVD policy.
OSS Scanner is a first step. From here, our open-source work aims to:
Get findings to maintainers faster. Bring OSS Scanner to more projects while keeping human-verified disclosure for those that need it.
Accelerate fixes. Automate triage and patching, which are still mostly manual, for projects that want it.
Explore new secure architectures and coding practices. Research and share methods for hardening or rewriting code with projects that want to go further than patching.
We’ll do this based on guidance from open-source maintainers and foundations, and share what works so other projects can replicate it. We funded the organizations behind widely used open-source code, including the Python Software Foundation, Alpha-Omega and OpenSSF through the Linux Foundation, and the Apache Software Foundation, as well as supporting Akrites and Gold Eagle, which collect and coordinate vulnerability reports from many sources to avoid overwhelming maintainers. The Defender Advantage Fund (0xDAF), which we launched in August, supports pilot programs in these areas and keeps OSS Scanner free.
Maintainers can also apply to Claude for Open Source for free Claude Max subscriptions, and to the Cyber Verification Program for expanded access to Claude’s cyber capabilities for defensive work.
Why we're doing this
Highly cyber-capable AI models are widely available to attackers now. But defensive tools—including our own—have not yet reached enough of the defenders who need them. OSS Scanner, our Cyber Verification Program, defensive products our partners build on our platform, and Claude Security are some of our efforts here, and we’ll be adding others as soon as possible.
Our forecast is that in two years, AI will favor defense: it will be easier to catch bugs before they ship, write fundamentally secure software from scratch, and actively defend systems with models. But in the near term, that may not be true. The cost of exploiting vulnerabilities has dropped, while verifying, disclosing, and fixing them is slow and still depends on people. In Glasswing, we often saw months pass between a vulnerability being found and being fixed. With operational technology, a fix may have to wait until it can be applied safely to running machinery—in some rare cases, this might take decades.
Success means critical infrastructure such as water, power, transport, and communications keep running in the face of attacks by capable adversaries, with fewer exploitable paths in and faster recovery when something gets through. This will take years and we expect the Anthropic Cyber Mission to change as we, together with the public and private sector, learn what works.
The path ahead
Over the coming months, we’ll bring the Critical Infrastructure Defense Program to more partners and more sectors, and we’ll share what we learn along the way, including what didn’t work. We also expect other AI developers, security companies, and governments to run efforts of their own, and we’d like to collaborate with them wherever that helps defenders.
We will also expand our work to help secure open source and the broader supply chain. This includes researching new ways of writing software and new ways of defending systems. We intend to share frontier research, tools, and resources to help others secure their software and supply chain.
If you’d like to work with us:
Companies that build security products or services for critical infrastructure, including security vendors, system integrators, and equipment manufacturers, can register their interest in the Critical Infrastructure Defense Program as we expand it.
Core maintainers of critical open-source projects can enroll in OSS Scanner.
Security teams of any size, including operators of critical infrastructure and open-source maintainers, can apply to our expanded Cyber Verification Program for access to our models.
