AI News Oct 30, 2026 9 min read

CVE-2026-98432 패치 방법, CVSS 9.8 커널 결함의 배포판별 현황

CVE-2026-98432 패치 방법은 배포판마다 다르며 Debian은 수정판이 나왔고 Ubuntu 22.04·24.04는 진행 중이다. Antigravity 플러그인 설치, 하원 의원의 AI 대화 보존 요구, Claude 자체 평가, 올트먼 증명 발언도 담았다.

Linux 커널 TCP 취약점 CVE-2026-98432는 CVSS 9.8이며 Debian은 수정판을 냈지만 Ubuntu 22.04와 24.04는 작업 중입니다. Google Antigravity는 플러그인 마켓플레이스 문서를 냈고, 하원 민주당 의원 두 명은 대통령의 AI 챗봇 대화 기록 보존을 요구했습니다. Anthropic의 자체 안전 평가 기법과 올트먼의 증명 발언까지 다섯 소식을 함께 살펴봅니다.

오늘 담긴 것

보안과 취약점

CVE-2026-98432 패치 방법: Linux 커널 TCP 결함, Debian은 수정판·Ubuntu 22.04와 24.04는 진행 중

리눅스 커널 취약점의 배포판별 패치 현황을 상징하는 금이 간 자물쇠와 작은 렌치

Linux 커널 IPv4 TCP 처리의 use-after-free 취약점 CVE-2026-98432가 10월 15일 공개됐다. Ubuntu 보안 페이지는 CVSS 3 점수 9.8(Critical)을 싣고, Ubuntu 우선순위는 High로 따로 매겼다. 이 페이지는 10월 28일에 마지막으로 갱신됐다. Debian 보안 추적기는 bookworm과 trixie의 security 채널에서 수정 버전을 표시한다.

  • 순서: 배포판과 커널 종류(일반, aws, azure, kvm, hwe 등)를 확인하고, 배포판 공지에서 수정 버전을 찾아 설치한 뒤, 실행 중인 커널 버전이 수정 버전 이상인지 확인한다.
  • 수정 현황: Debian bookworm 6.1.190-1과 trixie 6.12.113-1은 fixed다. Ubuntu 26.10, 26.04 LTS, 24.04 LTS, 22.04 LTS는 수정 작업이 진행 중이고 20.04 LTS, 18.04 LTS, 16.04 LTS는 취약으로 표시된다.
  • 멀티패스 TCP 확인: 반응 글에서는 sysctl net.mptcp.enabled와 ss -Mln으로 멀티패스 TCP 리스너가 있는지 보라고 소개했다. 이 글에서 직접 실행해 보지는 않았다.

무엇이 달라지나

수정은 inet_sock_destruct()와 tcp_v4_reqsk_destructor()가 옵션 메모리를 plain kfree()로 해제하던 것을 kfree_rcu()로 바꾸는 방식이다. Debian은 bookworm과 trixie에 수정판을 냈다. Ubuntu는 22.04와 24.04를 포함한 지원 릴리스에서 수정 패키지를 준비 중이다.

한계

Ubuntu 22.04와 24.04는 수정 작업이 진행 중이라 지금 설치할 수 있는 수정 패키지는 페이지에 표시되지 않는다. 두 원문에는 설치 명령, 완화책, 실제 악용 사례, 인증 없는 원격 악용이 가능한지가 없다. Red Hat, SUSE, Amazon 등 다른 배포판의 상태도 이번에 열어 본 원문에 없다. Anthropic이 원격 루트 익스플로잇을 썼다는 이야기는 반응 글에서만 나왔고 Anthropic 원문은 열지 않았다. 점수도 출처마다 다르다는 반응이 있어 9.8을 모든 환경의 위험도로 읽기는 어렵다.

커뮤니티 반응

■한국어 스레드 글은 서버 운영자가 사용 중인 배포판의 보안 공지를 확인하고 수정 버전이 나오는 대로 업데이트하라고 권했다.

■보안 뉴스 계정들은 Anthropic이 미공개 연구 모델로 멀티패스 TCP 리스너가 있는 리눅스 서버용 익스플로잇을 썼다고 밝혔다고 전했다. 한 글은 점수가 9.8, 8.1, 7.0, 5.9로 갈리고 CISA 악용 목록에는 없다고 적었다.

■한 운영자는 Go 1.24부터 net.Listen이 리눅스에서 기본으로 멀티패스 TCP를 쓴다며 커널을 먼저 패치한 뒤 확인하라고 했다. 다른 운영자는 임시 완화 후보로 net.ipv4.tcp_migrate_req=0과 net.mptcp.enabled=0, IPv4 옵션이 붙은 SYN 차단 규칙을 시험해 패킷 차단만 확인했다고 밝혔다.

본문 펼치기 · 약 4분

Debian은 수정 버전이 나왔고 Ubuntu는 22.04와 24.04에서 작업 중이다

Debian 추적기는 같은 릴리스라도 채널에 따라 상태를 달리 적는다. 기본 채널의 bookworm 6.1.176-1과 trixie 6.12.107-1은 vulnerable이다. security 채널의 bookworm 6.1.190-1과 trixie 6.12.113-1은 fixed다. forky 7.2.12-1과 sid 7.2.13-1도 fixed이고, bookworm security의 linux-6.12는 6.12.113-1~deb12u1에서 고쳐졌다. 참조 번호는 DLA-4841-1, DLA-4850-1, DSA-6568-1이다.

Ubuntu 페이지는 패키지 이름별로 상태를 따로 적는다. linux 패키지는 26.10이 7.3.0-10.10, 26.04 LTS가 7.0.0-43.43 버전에서 수정 작업이 진행 중이다. 24.04 LTS는 6.8.0-149.149, 22.04 LTS는 5.15.0-203.213 버전에서 같은 상태다. 일반 linux 패키지의 20.04 LTS, 18.04 LTS, 16.04 LTS는 취약으로 표시되고 14.04 LTS는 영향 없음으로 적혀 있다.

결함은 SYNACK을 만드는 동안 옵션 메모리가 해제되는 경쟁이다

Debian 추적기에 실린 커널 설명에 따르면 tcp_v4_syn_recv_sock()이 ireq->ireq_opt의 소유권을 복사 없이 자식 소켓으로 넘긴다. 다른 CPU가 재전송된 SYN을 처리해 SYNACK을 만드는 동안 자식 소켓이 해제될 수 있다. 이때 inet_opt가 plain kfree()로 풀려 ip_options_build()에서 use-after-free가 생긴다. 커밋 079096f103fa 이후 요청 소켓이 리스너 락 없이 처리되는 구조에서 생기는 문제로 설명된다.

Ubuntu 페이지의 같은 설명은 두 번째 경로로 요청 소켓 마이그레이션을 든다. net.ipv4.tcp_migrate_req=1이거나 BPF_SK_REUSEPORT_SELECT_OR_MIGRATE 프로그램을 쓸 때 복제된 요청 소켓과 원래 소켓이 같은 ireq_opt를 공유한다. 원문 설명상 이 설정은 두 번째 경로에만 해당한다. 값을 바꾼다고 첫 경로까지 막힌다고 볼 수는 없다. IPv6는 tcp_v6_syn_recv_sock()이 옵션을 복제해 첫 문제의 영향을 받지 않는다. 다만 CALIPSO로만 설정되는 ipv6_opt에는 같은 마이그레이션 문제가 있고 별도 패치로 다룬다고 한다.

점수, 우선순위, 수정 버전은 서로 다른 종류의 숫자라서 따로 읽어야 한다

Ubuntu 페이지에는 세 종류의 숫자가 나온다. CVSS 9.8은 취약점의 일반적 심각도 점수다. Ubuntu 우선순위 High는 Ubuntu가 자체 기준으로 매긴 대응 순위다. 6.8.0-149.149 같은 버전은 수정 작업이 진행되는 패키지 버전이다. 점수가 높다고 수정 패키지가 이미 나왔다는 뜻은 아니다. 우선순위가 High인 것과 CVSS가 9.8인 것은 서로 다른 기준이다.

점검은 세 단계로 나누면 편하다. 먼저 서버마다 배포판 릴리스와 커널 종류를 적어 둔다. 다음으로 Ubuntu 페이지와 Debian 추적기에서 해당 항목의 상태를 읽는다. 마지막으로 수정 패키지를 설치한 뒤 실제로 그 커널로 실행 중인지 확인한다. 원문에는 설치 명령이 없으므로 배포판의 일반 업데이트 절차를 따르면 된다. 수정판이 아직 없는 Ubuntu 22.04와 24.04는 공지가 갱신되는지 계속 확인해야 한다.

클라우드 변형과 HWE 커널은 일반 커널과 상태가 따로 표시된다

Ubuntu 페이지에서 클라우드 커널은 별도 항목이다. linux-aws는 22.04가 5.15.0-1120.127, linux-azure는 22.04가 5.15.0-1126.135 버전에서 수정 작업 중이다. 두 패키지의 20.04 LTS는 취약으로 표시된다. 14.04 LTS의 linux는 영향 없음이지만 linux-lts-xenial의 14.04 LTS는 취약이다.

HWE 계열도 따로 적힌다. linux-hwe-6.8의 22.04 LTS, linux-hwe-6.17과 linux-hwe-7.0의 24.04 LTS가 취약으로 표시된다. linux-kvm은 22.04 LTS, 20.04 LTS, 18.04 LTS, 16.04 LTS가 취약이다. 서버가 어떤 커널 패키지로 부팅하는지 보지 않고 릴리스 번호만 보면 상태를 잘못 읽을 수 있다. 이 글에서 직접 서버에서 확인해 보지는 않았다.

자세히 읽기 · Ubuntu의 CVE-2026-98432 보안 페이지 ↗ · Debian의 CVE-2026-98432 보안 추적기 ↗

개발 도구

Antigravity 플러그인 설치: 마켓플레이스에서 + 눌러 추가하고 CLI에도 자동 동기화

Antigravity 플러그인 마켓플레이스의 설치를 상징하는 퍼즐 모양 플러그와 소켓 패널

10월 30일 기준 Google Antigravity 공식 마켓플레이스 문서에 플러그인을 검색, 설치, 관리하는 방법이 올라 있고 한국어판도 있다. 문서는 마켓플레이스를 재사용 가능한 스킬, MCP 서버, 규칙, 서브에이전트로 에이전트를 확장하는 엄선된 플러그인 모음이라고 설명한다. 문서에는 게시일이 적혀 있지 않다.

  • 설치 순서: 앱 왼쪽 사이드바의 맞춤설정 탭(자동화 아래)에서 마켓플레이스 탭을 열고, 플러그인 카드를 눌러 번들 기능을 살펴본 뒤 카드의 +를 누른다.
  • 인증: API 키나 토큰, 워크스페이스 URL이 필요한 플러그인은 설치됨에서 켤 때 설정 대화상자가 열린다. OAuth를 쓰는 플러그인은 MCP 서버가 연결될 때 브라우저로 로그인한다.
  • 확인: 설치됨 탭에서 활성 상태를 보고, 채팅에서 /<skill-name>으로 스킬을 불러 보거나 터미널에서 agy agents로 에이전트 목록을 볼 수 있다. 직접 설치해 보지는 않았다.

무엇이 달라지나

스킬, MCP 서버, 커스텀 에이전트, 규칙, 수명 주기 훅을 플러그인 하나로 묶어 설치하고 버전 관리할 수 있다. 앱에 설치한 플러그인은 CLI의 설치됨 탭에 자동으로 나타난다. 마켓플레이스 밖에서도 GitHub 저장소나 로컬 디렉터리로 설치할 수 있다.

한계

출시일과 제공 범위(요금제나 지역)는 열어 본 두 문서에 적혀 있지 않다. 문서가 예로 든 연결 서비스는 Firebase, Jira, Figma, Stripe, Datadog, Dart와 Flutter 정도이고 전체 플러그인 목록은 없다. 플러그인 문서는 커스텀 에이전트에 도구 허용 목록을 둘 수 있고 훅이 도구 호출을 검사·차단·보강할 수 있다고 설명한다. 다만 구체적인 검수 기준이나 개별 플러그인의 권한 범위는 두 문서에 없다.

커뮤니티 반응

■Antigravity 공식 계정은 새 플러그인 마켓플레이스를 발표하며 사용자 지정 설정을 찾고 발견하기 쉬워졌다고 했다. 이어 Atlassian 팀워크 그래프 CLI(Jira, Confluence, Bitbucket), 브랜드 키트 기반 시각 디자인, CrowdStrike Falcon 연결 플러그인을 소개했다.

■테스트 전문 계정은 Jira, Confluence, Bitbucket, Firebase, Notion, Stripe, Linear, Figma, Canva, Trello, Dropbox, Datadog, Postman, Vercel 등 커넥터가 가득하다고 전했다. 답글에서는 Jira가 Antigravity 안으로 들어온다는 반응과 커넥터가 새 앱스토어라는 반응이 나왔다.

■한 이용자는 Unity 연결이 기대되지만 노트북이 못 버틸 것 같다고 했고, 다른 이용자는 Claude Code 대신 Antigravity를 쓰는 이유를 물었다.

본문 펼치기 · 약 4분

설치는 앱에서 시작하면 CLI에도 같은 목록이 보인다

마켓플레이스 문서의 앱 설치 경로는 짧다. 맞춤설정 탭에서 마켓플레이스 탭으로 간다. 플러그인 카드를 눌러 추천 시작 문구와 개요, 스킬, MCP, 에이전트, 규칙 탭을 훑어본 뒤 추가하면 된다. 설치 전에 번들 구성을 볼 수 있다는 점이 중요하다. 같은 화면에서 어떤 키나 로그인이 필요한지도 알 수 있기 때문이다.

설치 뒤 관리도 앱에서 한다. 설치됨 탭에서 플러그인 옆 ⋮ 메뉴나 카드를 열어 활성화, 비활성화, 구성, Uninstall을 고른다. 앱에 설치한 플러그인은 자동으로 업데이트되고 CLI의 설치됨 탭에도 표시된다. 그래서 두 환경에서 따로 설치할 필요가 없다. 플러그인 문서에 따르면 마켓플레이스 밖에서는 작업 공간 루트의 .agents/plugins/ 폴더에 두면 그 프로젝트에서만 켜진다. 글로벌 폴더 ~/.gemini/config/plugins/에 두면 모든 작업 공간에서 켜진다.

인증이 필요한 플러그인은 설치 뒤에도 한 단계가 남는다

플러그인 문서에 따르면 필수 구성 변수가 선언된 플러그인을 CLI로 설치하면 구성이 끝날 때까지 비활성 상태로 남는다. 앱에서는 설치됨에서 플러그인을 켤 때 설정 대화상자가 열린다. CLI에서는 /plugin의 설치됨 탭에서 플러그인을 고르고 SPACE 키를 누르면 열린다. 대화상자에는 토큰을 만들거나 조회할 수 있는 직접 링크가 들어 있다고 문서는 설명한다.

플러그인 문서에서 OAuth 2.0을 쓰고 필수 변수가 없는 플러그인은 활성 상태로 설치된다. 이 경우 MCP 서버가 연결되는 시점에 Antigravity가 브라우저를 열어 로그인을 마치게 한다. 번들로 제공되는 MCP 도구는 플러그인 이름과 서버 이름을 붙인 형식으로 구분된다. 연결된 서비스를 조회하거나 작업을 시킬 때 자동으로 쓰인다. 설치가 끝났는데 도구가 동작하지 않는다면 비활성 상태이거나 구성 변수가 비어 있을 가능성부터 보면 된다.

플러그인에 담기는 다섯 가지를 알아야 설치가 어디까지 영향을 미치는지 보인다

플러그인 문서에 따르면 플러그인 하나에는 스킬, MCP 서버, 커스텀 에이전트와 서브에이전트, 규칙, 수명 주기 훅이 원하는 조합으로 들어간다. 규칙과 PreToolUse, PostToolUse, SessionStart, Stop 훅은 활성화된 동안 수동 호출 없이 백그라운드에서 자동 실행된다. 서브에이전트는 기본값(subagent: true)이면 보안 검토나 접근성 감사 같은 전문 작업을 메인 에이전트가 자동으로 넘기기도 한다.

그래서 플러그인을 설치하는 일은 도구 하나를 추가하는 것보다 넓다. 카드의 규칙과 에이전트 탭에서 어떤 규칙과 훅이 함께 켜지는지 먼저 읽어 보는 편이 좋다. 이 글에서 직접 설치해 보지는 않았으므로 실제 동작은 각자 환경에서 확인해야 한다.

직접 만들어 올리려는 팀은 로컬 검증 명령부터 돌려 볼 수 있다

플러그인 문서는 플러그인을 plugin.json 매니페스트로 정의되는 독립 디렉터리로 설명한다. 예시 매니페스트에는 name, displayName, version, description, logo, suggestedPrompts 항목이 있다. 버전 예시는 1.0.0이다. 팀용 커스텀 플러그인이나 파트너 통합 기능을 올리려면 별도의 플러그인 빌드 문서를 따르라고 안내한다.

마켓플레이스 문서에 따르면 agy plugin validate --strict로 로컬에서 유효성을 검사한 뒤 신청서를 작성해 마켓플레이스에 제출한다. 설치한 플러그인의 에이전트는 터미널에서 agy agents로 목록을 보고 agy --agent <agent-name>으로 기본 세션 에이전트로 시작할 수 있다. 에이전트 이름은 목록에서 확인한 값을 쓰면 된다.

자세히 읽기 · Google Antigravity의 마켓플레이스 문서 ↗ · Google Antigravity의 플러그인 문서 ↗

정책과 사회

하원 민주당 의원 2명, 트럼프 대통령의 AI 챗봇 대화 기록 보존 요구

하원 의원 두 명이 요구한 AI 대화 기록 보존을 상징하는 밀봉된 기록 보관 상자 더미

10월 29일 하원 민주당 수석 의원 두 명, 감독위의 로버트 가르시아(Robert Garcia)와 법사위의 제이미 라스킨(Jamie Raskin)이 서한을 보냈다. 서한은 트럼프 대통령에게 AI 챗봇 대화를 보존하라고 요구한다. 이 내용은 감독위원회 민주당의 보도자료가 밝혔다. 대통령이 일론 머스크의 Grok에 베네수엘라 군사 행동과 관련한 조언을 구했다는 보도가 계기다.

  • 요구: 대통령의 AI 챗봇 대화 보존, 그리고 대통령의 AI 사용과 AI 입력·응답의 보존, 보안, 모니터링에 관한 백악관 정책을 다룬 비공개 브리핑.
  • 근거: 의원들은 대통령과 참모가 직무 중 AI에 입력한 내용과 받은 응답이 대통령기록법상 대통령 기록에 해당해 보존해야 한다고 주장한다.
  • 서한의 논리: 의원들은 대통령이 챗봇 조언에 의존했거나 그 조언으로 군 작전이 이뤄졌다면 국민이 알 권리가 있다는 취지로 조건을 달아 썼다.

무엇이 달라지나

대통령의 AI 사용이 기록 보존 문제로 공식 서한에 올랐다. 서한은 AI 대화도 대통령기록법의 대상이라는 해석을 전제로 한다. 백악관이 보존 정책을 설명하라는 요구가 처음 문서로 제기된 셈이다.

한계

대통령이 Grok에 조언을 구했다는 내용은 보도자료가 보도를 인용한 것이고 보도자료가 직접 뒷받침하지 않는다. 백악관의 답변은 공개되지 않았다. AI 입력과 응답이 대통령기록법상 기록이라는 해석과 강한 정치적 표현은 모두 의원 측 주장이다. 서한 전문은 읽지 못했고, 브리핑 기한과 Grok 외 챗봇 언급은 보도자료에 없다.

커뮤니티 반응

■The Rundown AI는 Politico가 입수한 서한을 기준으로 Grok, ChatGPT, Claude에 보낸 공무 대화를 보존하고 11월 11일까지 브리핑하라는 요구라고 전했다. 서한이 인용한 보도에서는 대통령이 마두로 체포 몇 주 전 Grok에 베네수엘라인들의 반응을 물었다고 소개했다.

■민주당 성향 계정은 서한의 일부를 인용하며 모든 AI 대화를 보존하라는 요구를 환영했다.

■답글에서는 Grok과의 대화가 공식 기록이라면 어시스턴트가 쓴 초안도 기록이냐는 질문이 나왔다. 의원들이 자기 AI 대화부터 공개하라는 반응도 있었다.

본문 펼치기 · 약 3분

요구는 두 가지, 대화 보존과 비공개 브리핑이다

보도자료에 따르면 서한은 트럼프 대통령에게 AI 챗봇과 나눈 대화를 보존하라고 요구한다. 또 대통령의 AI 사용 현황과 백악관의 정책을 설명하는 비공개 브리핑을 청구한다. 정책 범위는 AI 입력과 응답의 보존, 보안, 모니터링이다.

서한은 보도로 알려진 사실을 전제로 질문하는 형식을 취한다. 대통령이 정책 조언을 챗봇에 의존했다면, 군 작전이 챗봇의 잘못된 조언에 근거했다면, 비선출 인사가 AI 분신을 통해 정책에 영향을 준다면 하는 가정을 나열한다. 각각 국민이 알 권리가 있다고 서한은 쓴다. 이 문장들은 조건문이어서 사실 주장이 아니라 의원 측의 문제 제기로 읽어야 한다. Grok을 향한 강한 비난 표현도 서한에 있는데 이 역시 의원 측 발언이다.

대통령기록법 논리는 AI 대화도 기록이라는 해석에 기대고 있다

보도자료는 대통령기록법이 대통령과 참모가 직무 중 만들거나 받은 기록의 소유권이 국민에게 있다고 정한다고 설명한다. 의원들은 여기에 AI 입력과 응답이 포함되므로 반드시 보존해야 한다고 본다. 이 해석이 법적으로 받아들여지는지, 어느 범위까지 기록으로 보는지는 보도자료에 나오지 않는다.

기업과 공공기관 팀에도 같은 질문이 남는다. 업무용 AI 대화를 보관할 기록으로 볼지, 보관한다면 어디에 얼마나 둘지, 접근은 누가 갖는지를 정책으로 정해 두지 않으면 이런 요구가 왔을 때 설명하기 어렵다. 어시스턴트가 쓴 초안이 기록이냐는 반응이 나온 것도 이 경계가 아직 정리되지 않았음을 보여 준다.

확인된 사실과 정치적 주장을 나눠 읽어야 한다

보도자료로 확인되는 것은 10월 29일 두 의원이 서한을 보냈고 보존과 브리핑을 요구했다는 점이다. 보도를 근거로 한 부분은 이 보도자료만으로는 알 수 없다. 대통령이 실제로 Grok에 조언을 구했는지와 그 내용이 여기에 해당한다.

반응 글이 전한 11월 11일 기한과 ChatGPT, Claude 포함 여부도 보도자료에는 적혀 있지 않다. 서한 전문은 읽지 못했으므로 이 부분은 서한 자체로 확인하지 못했다. 독자가 직접 확인하려면 서한 전문과 반응 글이 인용한 Politico 기사를 함께 열어 보면 된다.

백악관의 답변이 다음 확인 지점이고 그 전에는 출처를 구분해 인용하는 편이 안전하다

백악관이 어떻게 답하는지가 다음 확인 지점이다. 보도자료는 백악관에 AI 입력과 응답의 보존, 보안, 모니터링 정책을 설명하는 비공개 브리핑을 요구했을 뿐 백악관의 답변은 담고 있지 않다. 답변이 공개되면 보존 정책이 실제로 있는지, AI 대화를 어떤 범주로 다루는지를 그때 확인할 수 있다. 다만 브리핑이 비공개로 요구된 만큼 그 내용이 밖으로 나올지는 알 수 없다.

그 전까지는 의원 측 주장과 매체 보도를 구분해 인용하는 편이 안전하다. 기사나 사내 보고서에 옮길 때는 보도자료가 직접 말한 내용, 보도를 인용한 내용, 반응 글에서만 나온 내용을 따로 표시하면 독자가 출처의 무게를 가늠할 수 있다. 예를 들어 서한 발송과 요구 내용은 보도자료로 확인되지만, 대통령이 Grok에 실제로 조언을 구했는지와 11월 11일 기한은 보도자료만으로는 확인되지 않는다.

자세히 읽기 · 하원 감독위원회 민주당의 보도자료 ↗

안전과 연구

Claude 오남용 탐지 방식 공개…자체 평가가 Fable 5에서 분류기 플래그 대화의 78% 포착

Anthropic의 자체 평가 기법을 상징하는 손거울과 말풍선 카드

Anthropic이 10월 16일 Safeguards 블로그에서 자체 평가(self-assessment) 기법을 공개했다. Claude가 응답한 직후 그 대화의 안전성을 스스로 예비 평가하는 방식이다. 평가 결과는 사용자에게 보이지 않고 오프라인 검토에 쓰인다.

  • 성능: Anthropic 자체 측정으로, Fable 5에서 더 강한 지시문 분류기가 잠재적으로 유해하다고 플래그한 대화의 78%, 고우선순위 대화의 94%를 오탐률 1%에서 잡았다.
  • 비용: 대화가 이미 KV 캐시에 있어 짧은 지시와 평균 약 10개 추가 토큰만 필요하고, 전체 추론 연산 증가는 2% 미만으로 추정한다.
  • 쓰임: 6월부터 운영해 왔고, 이후 출시한 모든 Claude 모델에서 넓은 범위의 트래픽에 오프라인 감시로 돌리며 정밀 조사 도구의 첫 단계로 쓴다.

무엇이 달라지나

별도 모델이 대화를 다시 읽는 지시문형 분류기보다 적은 연산으로 넓은 트래픽을 훑을 수 있다. Anthropic은 초기 Constitutional Classifiers가 추론 비용을 23.7% 늘렸다고 밝혔고, 자체 평가는 운영 API 트래픽 분포 기준으로 추론 연산을 2% 미만 늘리는 것으로 추정한다. 두 수치를 직접 비교한 결과는 제시되지 않았다. 훈련에서 한 유해 범주를 통째로 빼도 그 범주에서 성능이 크게 떨어지지 않았다고 한다.

한계

위 수치는 모두 Anthropic의 자체 측정이고 독립 검증 결과는 공개되지 않았다. 기준은 전체 정책을 지시문에 넣은 분류기의 판단이므로 실제 유해 대화 전체에 대한 재현율은 아니다. Anthropic도 모든 유해 대화를 잡지는 못하고 전용 공격자를 막을 만큼 견고하지 않아 실시간 차단 장치와 함께 쓴다고 밝혔다. 평가 기록의 보관 방식을 다룬 Data Handling 절은 읽은 범위에 없다. 반응 글이 인용한 공격 성공당 생성 토큰 약 4배 문장도 읽은 본문에서 찾지 못했다.

커뮤니티 반응

■무엇이 도덕적인지는 사용자가 정하게 두라며 아무도 이런 기능을 필요로 하지 않는다는 반발이 가장 많은 호응을 얻었다.

■위험한 비탈길이라며 그래서 늘 오픈 모델이 필요하다는 글이 나왔고, 정권이 바뀌면 이런 기능이 디스토피아적으로 변할 수 있다는 우려가 붙었다. 답글에는 Deepseek을 쓰고 싶어진다는 반응과 Claude는 이미 모두의 결제 정보를 갖고 있다는 반응이 있었다.

■테스트 전문 계정은 방어에 배정된 연산량에 따라 보안이 갈리는 세상에 이미 산다고 논평했다.

본문 펼치기 · 약 4분

응답 직후 지시를 덧붙이고 JSON 평가를 받는 구조다

블로그에 따르면 Claude가 답한 직후 시스템 턴으로 안전을 돌아보라는 짧은 지시가 붙고, Claude의 답이 곧 안전 평가가 된다. 이 두 턴은 사용자에게 보이지 않고 대화의 나머지에도 이어지지 않는다. 평가는 고정된 JSON 형식이며 문제가 없으면 flagged가 false뿐이다. 유해로 보면 reason, category, subpolicy, refused, 1에서 10까지의 priority가 함께 나온다.

블로그는 연속 점수를 flagged 필드에서 Claude가 true에 둔 확률로 읽는다고 설명한다. 임계값을 조절해 1% 오탐률 같은 운영점을 고른다. 분류 체계는 공개된 이용 정책을 더 잘게 나눈 내부 분류이고, 우선순위는 사람이 얼마나 급히 살펴야 하는지를 나타낸다. 배경으로 Anthropic은 2025년 말 Claude Code가 약 서른 개 조직 침입 시도에 쓰인 사례를 언급한다. 2026년 9월 위협 보고서에서는 범죄 집단과 해커 활동가로 AI 공격이 확산했다고 한다.

지시문 분류기와 프로브 사이에서 비용과 유연성을 맞추려는 설계다

Anthropic 블로그는 기존 방식의 약점을 짚는다. 지시문 분류기는 정확하고 새 정책을 재훈련 없이 따르지만 모든 대화에 돌리기에는 비싸다. OpenAI가 일부 출시에서 안전 추론에 전체 연산의 최대 16%를 썼다고 보고한 점도 인용한다. 프로브는 싸고 모델 내부 이해를 쓰지만 미리 정한 라벨만 점수화해 새로운 유해를 잡지 못한다. 단계형 구성은 첫 단계가 올려 보낸 것만 본다.

자체 평가는 프로브처럼 이미 계산한 결과를 재사용하면서 지시문 분류기처럼 언어 모델 전체로 판단한다. 이유가 자유 서술이라 분류 체계 밖의 유해도 설명할 수 있다. 지시문을 바꿔 새 지침을 배포 시점에 따르게 할 수 있다고 한다. 모델이 클수록 탐지가 좋아진다는 실험도 네 가지 모델 크기에서 일관됐다고 하지만 그 세부 결과는 읽은 범위 밖이다.

훈련이 교사 분류기를 따라 하는 방식이라 평가 기준과 같은 계열이다

블로그에 따르면 Anthropic은 먼저 합성 대화로 지도 미세조정을 하고 이어서 강화학습으로 평가의 질을 높였다. 두 단계 모두 교사는 내부 정책 문서 전체를 지시문에 넣은 분류기다. 해로운 요청에 응한 대화가 많아 평가 토큰 외의 손실은 가렸다고 한다. 78%와 94%라는 수치도 전체 정책을 넣은 분류기의 판단을 기준으로 잰 값이다.

따라서 이 수치는 사람이 붙인 정답 대비 정확도가 아니라 교사와 같은 종류의 분류기와의 일치율에 가깝다. 이 기법을 평가하는 보안 팀이라면 사람이 라벨링한 표본에서의 재현율과 오탐을 별도로 물어보는 편이 낫다. 같은 이유로 전용 공격자 앞에서의 견고성은 이 수치로 알 수 없다. Anthropic도 그 점을 한계로 적었다.

훈련에서 뺀 유해 범주에도 통한다지만 이 기법만으로 막는다는 뜻은 아니다

블로그에 따르면 자체 평가는 특별히 훈련하지 않은 유해도 플래그할 수 있고, 지시문 주입 시도 같은 사례가 실제로 잡힌다. 훈련에서 한 유해 범주를 통째로 빼도 그 범주의 재현율이 크게 떨어지지 않았다고 한다. 6월 이후 운영하며 다른 방법이 찾지 못한 대규모 오남용을 드러냈고, 다른 분류기를 개선하는 데도 쓰였다고 한다.

한편 Anthropic은 자체 평가가 모든 유해 대화를 잡지 못하고 전용 공격자를 막을 만큼 견고하지 않다고 적었다. 그래서 요청을 실시간으로 막는 다른 안전 장치와 함께 쓴다. 오프라인 감시로 넓게 훑고 정밀한 조사 도구로 넘기는 첫 단계라는 위치다. 따라서 이 기법의 수치는 하나의 방어 수단의 성능이 아니라 여러 층 가운데 한 층의 성능으로 읽어야 한다.

자세히 읽기 · Anthropic Safeguards 블로그의 자체 평가 글 ↗

올트먼 수학 증명 공개 700개 외에 더 있다고 답변…내용과 수는 밝히지 않아

올트먼이 공개된 증명 외에 더 가졌다고 답한 발언을 상징하는 두루마리 진열장과 열린 서랍

10월 29일 공개된 Stripe 공동창업자 존 콜리슨의 팟캐스트 Cheeky Pint 에피소드에서 OpenAI CEO 샘 올트먼이 한 질문에 답했다. 공개된 증명 700개보다 더 많이 갖고 있느냐는 질문에 그렇다고 답했다. 에피소드 제목은 올트먼이 하나의 초지능에 반대하는 이유다.

  • 답변: 콜리슨이 공개한 증명 외에 더 갖고 있느냐고 묻자 올트먼은 “그렇다, 물론”이라는 취지로 답했다.
  • 이어진 발언: 인류는 근본적인 지식을 누릴 자격이 있다는 취지로 말했다.
  • 에피소드 소개문: 올트먼이 OpenAI 내부 실험이 Navier-Stokes 같은 복잡한 수학 문제를 증명했다는 이야기를 한다고 적었다. 수학 대목은 타임스탬프 00:15:47부터다.

무엇이 달라지나

공개된 증명 외에 아직 공개되지 않은 분량이 있다는 점을 CEO가 직접 인정한 발언이다. 공개 시점이나 방식에 대한 계획은 말하지 않았다.

한계

공개된 700개가 무엇을 가리키는지, 언제 공개됐는지, 공개되지 않은 증명이 몇 개이고 어떤 내용인지는 올트먼이 말하지 않았다. 에피소드 소개문의 Navier-Stokes 언급은 소개문의 표현이며, 그 결과가 공개되거나 외부에서 검토됐다는 내용은 없다.

커뮤니티 반응

■답글에는 몇 개를 더 쥐고 있느냐는 질문과 어서 풀어 놓으라는 반응이 있었다.

■한 글은 OpenAI 저장소가 약 4,000개 문제에서 나온 373개 계열의 원고 721편을 올려 두었다고 적었다. 같은 글은 최상위 결과의 약 42%만 Lean으로 형식화됐으니 이 쌓인 검토 대기분이 먼저 확인돼야 한다고 지적했다.

■The Rundown AI는 올트먼이 과학자의 커리어와 보람이 발견에서 온다는 점을 언급했다고 전했다. 수학자들의 반발에 대해서는 콜리슨이 항만 자동화에 항만 노조가 불만이었던 것에 빗댔다고 소개했다.

본문 펼치기 · 약 4분

에피소드 소개문은 수학 실험을 Navier-Stokes까지 언급하지만 세부는 에피소드에서 들어야 한다

에피소드 소개문은 이 대화가 다루는 주제를 열거한다. 모델이 PHP의 중대한 취약점을 찾은 일이 있다. 테스트 시간 연산이 에이전트 무리를 키우는 이유도 나온다. 소개문은 OpenAI 내부 실험이 Navier-Stokes 같은 복잡한 수학 문제를 증명했다는 이야기도 한다고 적었다. 초인적 모델의 샌드박스는 풀지 못한 안전 딜레마라는 설명도 있다. 목차에는 Math(00:15:47), Agent swarms(00:23:12), Compute(00:25:17), Token pricing is fake(00:49:27) 등이 있다.

타임스탬프 목록의 수학 구간에서 실제 발언과 700개의 정의를 확인해야 한다. 소개문의 요약이 증명의 공개 여부나 검토 상태까지 말해 주지는 않는다. 그래서 이 글에서는 소개문의 표현을 결과로 옮기지 않았다. 증명을 팀의 판단 근거로 삼으려는 독자라면 공개된 자료의 위치와 외부 검토자가 있는지를 별도로 확인해야 한다.

같은 에피소드의 앞부분은 PHP 취약점과 소프트웨어 재설계를 이야기한다

전사에서 올트먼은 모델이 야생의 취약점을 찾는 능력이 빠르게 좋아지고 있다고 말한다. 다만 사람들이 인터넷의 모든 코드에 이를 써 본 적은 없었다고 한다. 그래서 예상보다 훨씬 많은 심각한 취약점이 나올 것이라는 전망이다. 콜리슨이 소프트웨어만 고칠 게 아니라 아키텍처를 바꿔야 한다고 하자, 올트먼은 라우터나 운영체제, 애플리케이션을 처음부터 다시 설계하는 스타트업이 늘고 있다고 답한다. 2년 전이라면 미친 소리였을 일이 곧 가능해질 수 있다고 한다.

전사에 따르면 PHP 주간의 첫날은 자신의 최악의 우려에 비해 훨씬 잘 풀렸다고 말한다. 모델로 패치와 방어를 만든 사례, 서비스를 한 시간 내리고 빠르게 스캔해 다시 올린 회사 사례를 들었다. 한편 사이버 전문가들이 위협 모델의 가정을 더는 확신하지 못한다고 전한다. 하드웨어에서 지금 모르는 물리를 요구하는 깊은 결함을 AI가 찾으면 가정이 무너진다는 걱정이다.

샌드박스는 일정 수준까지만 통한다는 입장이고 에이전트 무리는 팀이라 부른다

전사에서 콜리슨이 OpenAI 내부에서 샌드박스가 가능하다는 데 비관적이라고 묻자, 올트먼은 지금보다 훨씬 잘할 수 있다고 답한다. 더 나은 보안 모델이 현재 가장 중요하다는 입장이다. 샌드박스는 어느 지점까지, 모니터링은 그보다 더 멀리 통한다고 말한다. 사고 과정뿐 아니라 활성화 모니터링으로 모델이 속이지 않는지 보려 한다고 설명한다. 궁극적으로는 모델의 정렬에 대한 매우 큰 확신이 필요하다고 한다. 사람보다 백만 배 똑똑한 모델을 상상하면 샌드박스가 능력을 앞서간다고 믿기 어렵다는 입장이다.

전사에 따르면 경쟁하는 유인을 모델에 주자는 콜리슨의 제안에 올트먼은 유망한 방향이라고 답한다. 에이전트 무리라는 말을 싫어해 에이전트 팀이라고 부르자고 한다. 팀은 흥미로운 스케일링 특성과 함께 정렬의 분산도 있을 것이라는 설명이다. 점진적 배포 원칙도 지켰다고 강조하지만, 모델을 내놓기 전에 안전하게 만들어야 한다고 덧붙인다. 이 대목은 증명 공개 이야기와 직접 이어지지는 않는다. 다만 올트먼이 능력 공개와 안전 사이의 균형을 어떻게 설명하는지 보여 준다.

어린이의 게임 만들기와 Codex 장애 일화도 같은 대화에 나온다

전사에서 올트먼은 초기 인터넷을 떠올리게 한 점으로 도구를 쓰는 사람들의 창의성을 꼽는다. 특히 8살이나 10살 아이가 어른이 떠올리지 못할 아이디어로 완성된 비디오 게임을 만드는 모습을 든다. 자신이 어릴 때는 거의 아무것도 못 하는 소프트웨어 하나를 만들기도 힘들었다고 말한다. 지금은 떠올린 3D 게임을 10분 안에 만들 수 있다고 한다.

OpenAI에서 SEV가 났고 Codex가 멈춘 적이 있었다는 일화도 나온다. 콜리슨이 모두가 코딩하는 법을 잊었겠다고 말하자 올트먼은 완전히 그렇지는 않았지만 할 수 없다면 어떨까 하는 순간이었다고 답한다. 이 일화는 증명 공개와 직접 관련은 없다. 다만 개발 도구에 기대는 팀이 장애 때를 대비한 절차를 두는 이유를 보여 주는 사례로 읽을 수 있다.

자세히 읽기 · Cheeky Pint의 올트먼 에피소드 ↗

Fluxaivory desk

Built from primary sources with AI assistance and published after automated checks. AI Use Policy · Corrections

Follow Fluxaivory

Get the briefing by email

A weekly roundup of the top AI news in plain English, from primary sources. Free. Unsubscribe anytime.