How Block is building AI-powered security with OpenAI technology

OpenAI 고객 사례 원문을 거의 끝까지 읽고 옮겼어요. OpenAI가 쓴 고객 사례라는 점은 감안해서 봐 주세요.

한눈에 보는 수치

• 탐지 변경안을 7개월치 프로덕션 텔레메트리로 다시 돌려 보는 데 1시간 미만
• 상위 수준 취약점 제출부터 자동 패치 제안까지 18분(최근 레드팀 연습)
• 분기당 오탐 분류에 쓰던 분석가 시간 약 600시간 회수
• 분기당 약 1,100시간 분량의 조사 수행
• 분류 처리량 50% 증가, 정보 수집·조사 50% 증가, 그리고 새 자율 위협 헌팅 기능

어떻게 쓰나

Block 보안팀은 AI가 취약점 발견, 탐지, 대응을 사람이 따라갈 수 없는 규모로 처리하는 "OpenAI Defense Factory" 방식을 써요. CISO James Nettesheim은 이렇게 말해요.

"AI가 사람의 의도에서 행동까지의 시간을 압축하고 있어요. 공격자가 더 빠르고 민첩해서 유리하다고들 했지만, Daybreak 같은 도구 덕분에 방어자도 불로 불을 맞설 수 있게 됐어요."

그는 이것을 "함께 확장할 수 있는 새 팀원"이라고 표현해요. 단계별로 짜야 했던 전통적 자동화와 달리, 꽤 애매한 문제를 던지고 함께 풀어 갈 수 있다는 거예요. 모든 결과는 여전히 사람이 검증해요.

• 탐지 튜닝: 모든 조사가 원시 쿼리 증거를 저장해서, 예전엔 수백 건을 손으로 다시 조회해야 했던 일을 한 시간 안에 해요.
• 모델 고르기: "예전엔 최신 모델만 썼는데 이제 그럴 필요가 없어요." Daybreak 위에 만든 보안 하네스가 작업을 맞는 모델로 보내고, 사람이 넘겨받거나 에이전트끼리 서로 검증하는 훅이 있어요.
• 모든 경보를 깊게: "모든 경보를 그날의 유일한 경보처럼 다뤄요."

Defense Factory 사례

• 노트북 한 대의 경보가 단순한 정책 위반처럼 보였는데, 동료 검토 중 모델이 증거에 부수적으로 등장한 지표를 따라가 ID 로그와 결합하자 훨씬 큰 문제가 드러났어요. "평범한 엔드포인트 경보가 캠페인 차단이 됐어요. 그 결합은 어떤 단일 도구도 못 해요."
• 레드팀 연습에서 모델은 내부 시스템 힌트 몇 개만 받고 SQL 인젝션, 권한 상승, 거점 확보, 자격 증명 열거, 다른 시스템으로의 이동까지 약 2시간 만에 공격 경로를 이었어요. 사람은 보통 며칠이 걸린다고 해요.

사람의 역할

발견은 고칠 수 있을 때 의미가 있어요. 코드 위치와 담당자를 찾고, 패치를 제안하고, 악용 가능성을 확인하고, 수정을 검증하는 과정을 사람이 이끌어요. 에이전트는 조직의 맥락이나 과거 결정의 이유를 모르기 때문에 사람이 맥락과 전략을 제공해요. AI의 판단이 실전에서 입증되는 만큼 "더 민감한 시스템으로 위험 수준을 천천히 올리겠다"고 해요.

다음 단계

되찾은 시간으로 더 깊은 조사와 책임 있는 자동화를 늘리고, 애초에 만들어지는 취약점 수를 줄여 패치보다 예방에 시간을 쓰는 걸 목표로 한다고 해요.