11월 13일 금요일
오늘 하나만 본다면
Go 퍼저가 놓치는 크래시는 슬라이스 capacity 때문이고, 한 줄로 고칠 수 있습니다
입력 쌍의 19.4%가 패닉을 일으키는 버그를 Go의 go test -fuzz는 3초 실행에서도, 60초 실행 세 번에서도 찾지 못했습니다.
- 저자는 Go 컴파일러가 최적화로 걸러내지 못하고 남긴 경계 검사(
runtime.panicBounds로 분기하는 코드)만 모아, Gemini 4 Argon에게 각 경로를 SMT 풀이기 Z3의 제약식으로 옮기게 했습니다. Z3가sat을 내면 크래시를 일으키는 구체적 바이트가 나오고, 그 바이트를go test로 실제 함수에 넣어 재현합니다. 그래서 LLM이 쓴 풀이기 모델이 틀렸더라도 찾은 버그는 모두 진짜입니다. - 심어 둔 버그 세 개를 모두 찾았습니다. 첫 번째는
uint8두 값의 합이 256에서 감겨 길이 검사를 통과한 뒤buf[endHdr:endBody]에서 인덱스 288로 패닉하는 버그로, 59바이트 반례(hdrLen=48,bodyLen=236)가 나왔습니다.unsat은 증명이 아니라 "아마 맞다" 정도의 신호입니다. 저자는 이를 블룸 필터에 빗댑니다. - 퍼저가 놓친 이유는 Go가 슬라이싱을 길이가 아니라 capacity로 검사하기 때문입니다. 퍼저가 만든 38만 6741개 입력 중 89%가 약 100MB 공용 버퍼의 일부를 가리키는 뷰였고,
cap == len인 입력은 0.07%뿐이었습니다. 여유 capacity가 넘친 범위를 삼켜 패닉이 나지 않았습니다. - 고치는 법은 퍼즈 함수 안에서
data = data[:len(data):len(data)]로 capacity를 길이에 맞추는 한 줄입니다. 이후 퍼저는 두 버그를 세 번 모두 잡았고 중앙값이 각각 0.28초와 0.17초였습니다. 세 번째 버그는 부호 있는int8길이로 음수 인덱스를 만드는 것이어서 capacity와 무관하게 퍼저가 원래도 찾았습니다. - 같은 방식을 저자가 만든 Go CLI(skill-lint)에 적용하니, 다섯 함수 중 둘은
unsat이었고 셋에서 실제 버그가 나왔습니다. 가장 날카로운 것은 LLM이 만든 줄 편집 목록을 적용하는 함수로, 시작 줄 기준 정렬만 하고 겹침을 막지 않아 겹치는 편집이 앞선 편집을 조용히 덮어쓰거나 패닉을 냈습니다. 바이너리 전체는 심볼이 3만 개가 넘어 풀이기에 너무 크기 때문에, 파일 I/O는 기존 퍼징과 race 검출에 맡기고 순수 함수만 풀이기에 넘깁니다.
퍼저가 "통과"한다는 사실이 얼마나 입력 분포에 기대는지 보여 주는 사례여서, 퍼즈 테스트를 쓰는 팀이라면 한 줄 수정만 가져가도 값이 있습니다. 한계도 분명합니다. 저자가 직접 만든 함수 몇 개와 심어 둔 버그가 대상이라 일반화는 이르고, 풀이기 쪽은 Gemini 호출이 함수당 약 1분 걸립니다.
읽을 만한 것
데이터 타입을 바꿔치기해 22년 된 PostgreSQL 버그를 원격 코드 실행으로 키운 과정입니다
저자가 이 취약점에 이른 계기는 "관리형 PostgreSQL을 써도 될까요?"라는 질문 하나였고, 길잡이는 AI 에이전트였습니다.
- PostgreSQL은 모든 값을 8바이트짜리 범용 용기인
Datum에 담습니다.Datum안에는 자기가 무슨 타입인지 적혀 있지 않고, 타입은 곁에 붙는 OID(pg_type카탈로그의 행 번호)로만 알 수 있습니다. 정수1337은Datum의 낮은 4바이트에 값 그대로 들어가고,text는typbyval = false라서 메모리 주소가 들어갑니다. - 출력 함수(
int4out,textout등)는 받은Datum을 검사하지 않고 "이미 올바른 타입이다"라고 믿고 읽습니다. 저자는 이 신뢰를 보고 웹 취약점의 TOCTOU(검사 시점과 사용 시점 사이에 상태를 바꾸는 공격)를 떠올렸습니다. 값이 만들어진 뒤 쓰이기 전에 타입만 바꿀 수 있다면 다른 타입의 함수가 엉뚱한 해석으로 그 값을 읽게 됩니다. - 이를 슈퍼유저 권한으로 의도적으로 재현한 것이
LANGUAGE internal입니다.CREATE FUNCTION ... AS 'textout' LANGUAGE internal로 정수를 받는 함수에textout을 연결하고1337을 넣었더니 백엔드가 바로 죽었습니다. 저자는 이것을 관리형 서비스가 배포한 보안 확장에 대한 앞선 공격에 이미 써먹었습니다. - 그 뒤 프리페어드 스테이트먼트를 두고 동료와 나눈 대화에서, 데이터베이스가 파싱을 끝내 놓고 실행을 기다리는 동안 타입을 바꿀 틈이 있다는 착상이 나왔습니다. SQL 인젝션 방어책으로만 보던 "쿼리와 값의 분리"가 공격 지점이 되는 셈입니다. 이 글 발췌는 이 착상을 꺼내는 데서 끝나고 실제 익스플로잇 단계와 CVE-2026-6460의 패치 내용은 담고 있지 않습니다.
데이터베이스 내부 구조를 타입 시스템 신뢰라는 한 줄기로 따라간 글이라, 값과 타입을 분리해 다루는 런타임을 만드는 사람에게 읽는 맛이 있습니다. 시리즈 3부 중 일부만 다뤘고 본문 확인 범위가 발췌에 그친다는 점, 저자 본인 서술이라 검증 자료가 없다는 점은 감안해야 합니다.
컴파일 없이 Rust를 JIT로 돌려 3분 빌드를 11초로 줄인 Relax가 치르는 대가입니다
대형 3D 게임을 cargo로 처음부터 빌드하면 약 3분이 걸리는데 Relax는 같은 소스에서 11초 만에 첫 프레임을 띄웁니다. 대신 실행 코드는 더 느립니다.
- Relax는
rustc나 LLVM, 링커를 쓰지 않고 함수가 처음 호출될 때 하나씩 컴파일하는 JIT입니다. 자주 쓰이는 함수는 실행 중에 인터프리터, O1, O3 순으로 승격됩니다. 저장하면 바뀐 함수 본문만 실행 중인 프로세스에 끼워 넣어서 프로그램 상태가 유지됩니다. 구조체 레이아웃이나 매크로, trait 선언이 바뀌면 재시작이 필요합니다. - 최적화된 코드의 속도는
--release대비 x64에서 1.12배, arm64에서 1.24배 느립니다(21개 워크로드 기하평균). 개별로는 3D 모델 생성이 2.00배, 위젯 트리 레이아웃이 1.54배까지 느리고, 강체 물리처럼 0.43배로 빠른 경우도 일부 있습니다. 저자들은 배포는cargo build --release로 하라고 분명히 적고 있습니다. - 한계도 직접 적어 두었습니다. 컴파일러와 캐시와 JIT 코드가 프로그램과 같은 프로세스를 쓰기 때문에 메모리를 더 쓰고,
relax check는 큰 패키지에서cargo check보다 느리고 메모리를 더 씁니다. 아직 돌지 않는 크레이트도 있고 Windows는 테스트하지 않았습니다. 코드는 크레이트 외부 의존성 없이 43만 8천 줄입니다. - 개발 경험 쪽 기능이 많습니다. 패닉이 나면 스레드를 스택째 멈춰 두고 지역 변수를 읽거나 그 자리에서 Rust 식을 평가할 수 있고, 교착을 설명해 주는
why-hung, 항상 켜진 플라이트 레코더, 힙 할당 스택 기준 누수 후보 추적이 붙어 있습니다. - 개발 주체인 Makepad는 AI 에이전트 아홉 개 레인이 병렬로 작업하는데, 에이전트는 느린 빌드를 체감하지 못하지만 토큰과 시간과 컨텍스트로 대가를 치른다고 설명합니다. 에이전트 반복에서 편집이 반영되기까지 중앙값 3.6초(p90은 86초)라는 수치를 싣고 있습니다. 모두 프로젝트 자체 측정치입니다.
빌드 시간을 줄이는 것이 아니라 컴파일 모델을 바꾸는 접근이라, 빌드 파이프라인과 개발자 도구를 만지는 독자에게 설계 선택을 읽는 재미가 있습니다. 다만 외부 검증 없는 자체 벤치마크이고, 개발용 루프 전용이라는 한계가 명시되어 있습니다.
OpenTelemetry 팀이 에이전트에게 계측 코드 작성을 맡기고 Weaver로 검증하게 한 구조입니다
에이전트가 계측 코드를 짜다가 성공한 span의 상태를 OK로 설정했고, 그것을 잡아낸 것은 사람이 아니라 검증 도구였습니다.
- 문제는 GenAI 프레임워크마다 계측을 새로 짜는 데 숙련자도 며칠이 걸리고, 구현마다 속성 이름과 단위와 span 경계가 달라 텔레메트리를 가로질러 조회하기 어렵다는 것입니다. 그래서 프레임워크 저장소를 받아 조사, 계획, 구현, 테스트, 검증을 나눠 맡는 에이전트 팀이 PR을 올리게 했습니다. 사람은 계획과 PR만 검토합니다.
- 계약 역할은 OpenTelemetry의 GenAI 시맨틱 컨벤션이 하고, 검증은 Weaver의 live-check가 합니다. live-check는 OTLP 수신기를 띄워 계측된 프로그램이 실제로 내보내는 텔레메트리를 스펙 레지스트리와 비교하고,
violation수준의 지적이 하나라도 있으면 0이 아닌 코드로 종료합니다. 그 종료 코드가 코딩 에이전트에게 작업을 되돌려 보냅니다. - 코드를 쓰기 전에
execution-plan.md로 계측 지점을 고정합니다. 조사 단계는 공개 훅과 콜백을 먼저 찾고, 그것으로 수명주기를 볼 수 없을 때만 메서드 래핑을 택합니다. CrewAI 0.80 이후를 지원하는 플러그인은 콜백이 시작과 끝을 다 보여 주지 않아 래핑을 택했고, 래핑 대상 일곱 개가 리뷰 가능한 목록으로 남습니다. - 에이전트가 자기 마음대로 만든 속성 이름이 문제가 된 사례도 있습니다. 코딩 에이전트가
gen_ai.crewai.*속성을 만들었는데, 이 접두어는 장차 표준 속성과 충돌할 수 있어 이후 프롬프트에서는 레지스트리에 정의된 속성만 내보내게 하기로 했습니다. 커버리지 행렬은 레지스트리 속성만 세므로 커스텀 확장으로 점수를 올릴 수 없습니다. - 에이전트가 쓴 플러그인의 원본은 알리바바
loongsuite-python의 확장 버전 기반이고, 업스트림 API로 옮기는 작업은 아직 진행 중입니다. 글에 실린 래퍼 예시도 원래 생성물이 아니라 업스트림 API에 맞춰 새로 쓴 것입니다.
에이전트 시대의 검증 체계를 "사람의 눈이 아닌 기계가 판정하는 스펙"으로 세운 사례여서, 관측 쪽과 AI 코딩 검증 쪽 관심사가 겹치는 독자에게 맞습니다. 본문이 중간에서 잘려 "지금까지 낸 결과" 절은 확인하지 못했고, 성과 수치는 읽지 못했습니다.
2016년에 쓴 글로, 프로그램의 정확성이 어려운 이유를 계산 이론으로 보입니다
겨우 1919개의 제어 상태로 된 튜링 머신인데, 수학이 이것이 멈추는지를 영원히 증명하지 못합니다.
- 저자(Ron Pressler)는 "올바른 도구만 있으면 소프트웨어 정확성은 쉽게 얻는다"는 온라인 주장에 반박하려고 이 글을 썼습니다. 정확성에는 계산의 자연법칙에서 오는 비용이 있고, 엔트로피를 줄이는 에너지 비용처럼 피할 수 없다는 입장입니다. 읽는 데 약 45분이 걸린다고 적혀 있습니다.
- 논증은 정지 문제에서 출발합니다. 임의의 프로그램이 멈추는지 판정하는 알고리즘은 없고, 여기서 도달 가능성 판정 불가와 라이스 정리(프로그램이 계산하는 함수의 자명하지 않은 성질은 판정할 수 없다)가 따라 나옵니다. 예컨대 "출력이 항상 입력의 제곱인가"를 판정하는 알고리즘은 없습니다.
- 크기를 재는 도구로 바쁜 비버 함수를 씁니다. 제어 상태 n개인 튜링 머신이 멈추기 전에 밟을 수 있는 최대 단계 수 f(n)은 계산할 수 없고, 이보다 크다고 알려진 어떤 함수도 계산할 수 없습니다. 정적 증명 쪽도 같은 형태입니다. 크기 n인 프로그램의 종료 증명 중 가장 짧은 것의 최대 길이 g(n)도 계산 불가라서, 증명이든 실행이든 어느 경로로도 크기 대비 비용의 상한을 알 수 없다는 뜻입니다.
- 게델의 두 번째 불완전성 정리로 구체적인 예를 듭니다. ZFC의 공리에서 정리를 하나씩 나열하다 모순이 나오면 멈추는 프로그램은 ZFC가 모순일 때만 멈춥니다. 2016년 5월 Yedidia와 Aaronson이 이런 기계를 만들었고 Stefan O'Rear가 제어 상태 1919개로 줄였으며, 이는 파이썬으로 100에서 200줄 정도입니다. 이 글은 이 규모의 프로그램의 동작도 수학으로 확정할 수 없다는 점을 강조합니다. 제가 읽은 것은 글의 앞부분(기초 장)까지입니다.
AI가 코드를 대량으로 만들어 내는 시대에 "검증은 어디까지 가능한가"를 묻는 독자에게 이론적 바닥을 깔아 주는 고전입니다. 다만 이 장들은 한계의 존재를 보이는 데 그치고, 실무에서 정확성 비용을 어떻게 낮추는지는 뒤쪽 내용이라 여기서는 확인하지 못했습니다.
새 용어가 많은 조직에서는 LLM에게 용어집을 먼저 만들게 하라는 Martin Fowler의 제안입니다
LLM이 가장 크게 혼동하는 것은 모르는 단어가 아니라, 아는 단어가 조직 안에서 다른 뜻으로 쓰이는 경우입니다.
- 조직 특유의 어휘는 LLM의 학습 데이터에 없기 때문에 에이전트가 일을 잘 못 합니다. 그래서 문서, 이메일, 채팅 로그 같은 내부 자료에서 LLM에게 용어와 자주 붙어 다니는 구절을 뽑게 하고, 정의를 사전 형식으로 쓰게 합니다. 처음 보는 단어뿐 아니라 이미 아는 단어가 낯선 뜻으로 쓰이는 경우도 찾게 하는데, 후자가 가장 큰 혼란을 부른다고 합니다.
- 초안은 도메인 전문가가 검토해 LLM이 잘못 짚은 부분을 고칩니다. 완성한 용어집은 다른 LLM이 쉽게 읽을 수 있는 형태로, 토큰을 적게 쓰도록 버전 관리에 둡니다. 용어집이 크면 용어와 정의 링크만 초기 컨텍스트에 넣고 필요한 정의만 모델이 따라가 읽게 합니다. 정기적으로 사람과 에이전트가 함께 갱신합니다.
- Fowler는 조직 전체에 하나의 표준 용어집을 만들려는 유혹을 버리라고 권합니다. 큰 조직은 도메인 주도 설계의 바운디드 컨텍스트마다 뜻이 조금씩 다르고, 용어집의 가치는 정의를 하나로 고정하는 데보다 용도 차이를 드러내는 데 있다는 이유입니다. 소스 코드에서 뽑은 용어집과 사람이 쓴 문서에서 뽑은 용어집을 비교하는 것도 유익하다고 합니다.
- 용어집은 코드 생성을 돕고, 하네스의 센서가 내부 코드와 사용자 화면에서 용어 사용을 검사하는 데도 쓸 수 있습니다. 쓰지 말아야 할 용어와 대신 쓸 용어, 폐기된 용어의 유효 기간도 담을 수 있습니다. 예를 들어 사내 용어가 고객용 화면에 노출되지 않게 막을 수 있습니다.
에이전트에게 팀의 맥락을 먹이는 일을 "용어집"이라는 작은 단위로 쪼갠 실용적인 제안이라, 사내 라이브러리와 코딩 에이전트 규칙을 다루는 독자에게 바로 닿습니다. 글은 짧은 블리키 형식이라 실측 수치나 사례 평가는 없고, 두 동료의 경험담에서 출발한 제안이라는 점이 한계입니다.
에이전트 보안 도구를 외부 벤치마크 다섯 개로 시험한 결과, 오염된 메모리가 가장 큰 구멍이었습니다
모델이 직접 해로운 요청의 4분의 3을 거절했지만, 도구 출력에 숨은 지시는 약 30%만 무시하거나 실패했습니다.
- 도구가 돌려주는 텍스트에 공격자가 지시를 심어 에이전트를 조종하는 것이 간접 프롬프트 인젝션이고, OWASP는 이를 "에이전트 목표 탈취"라 부르며 에이전트 앱 위험 1위에 둡니다. Google은 에이전트의 트레이스와 로그를 비동기로 읽어 경계를 벗어난 세션에 표시하는 Agent Anomaly Detection을 비공개 프리뷰로 내놓았고, 자사가 만들지 않은 공개 벤치마크 다섯 개(AgentDojo, InjecAgent, ASB, AgentDyn, AgentHarm)에 수정 없이 돌렸습니다.
- 판정은 모델이 아니라 벤치마크의 파이썬 코드가 앱의 최종 상태(돈이 빠져나갔는가 등)를 읽어 정합니다. 에이전트는 ADK로 만들고
gemini-2.5-flash를 썼으며 세션 1774개를 점수화했습니다. 행동 기준선을 배우므로 에이전트마다 정상 세션을 최소 300개 먼저 돌렸습니다. - 에이전트가 해로운 지시를 읽고 실제로 실행한 경우, 이를 87%가 사후 검토 대상으로 표시했습니다. 벤치마크별로 AgentDojo 85%, InjecAgent 87%, AgentDyn 99%, AgentHarm 81%입니다. 정상 세션에 대한 오탐은 사무 작업 중심 세 벤치마크에서 2%에서 4%, 위험 도구를 평소에 쓰는 AgentHarm에서는 16%였습니다.
- 약점도 적혀 있습니다. 장기 메모리에 심긴 지시로 에이전트가 움직인 18건 중 4건만 잡았습니다. 에이전트가 저항한 지시는 11%에서 25%만 표시했고, 웹 페이지 한 번 방문 같은 작은 동작은 정상 브라우징과 구별하기 어려웠습니다. 새 에이전트도 문제여서 AgentDyn에서 정상 세션 약 220개일 때 33%였던 탐지율이 360개일 때 99%가 됐습니다.
- 권고는 표시만 하는 도구에 기대지 말고 겹겹이 막으라는 것입니다. 신뢰할 수 없는 콘텐츠 걸러내기, 위험한 도구 호출을 실행 전에 차단하기, 결제나 외부 메일은 사람 승인 받기, 에이전트별 도구 최소화 순서입니다.
에이전트 권한과 프롬프트 인젝션을 다루는 개발자에게, 사후 탐지가 어디까지 가능한지 수치로 보여 주는 드문 자료입니다. 다만 Google이 자기 제품을 시험한 글이고, 에이전트 모델 하나와 시뮬레이션 앱만 썼으며, 결과 없는 세션이 약 6%라는 점은 본인들도 한계로 적고 있습니다.
에이전트가 자기 작업을 스스로 검증하면 검증이 아니라는 원칙을 스킬로 구현하는 법입니다
AI가 만든 변경을 검토하는 에이전트에게 코딩 에이전트의 자기 평가를 보여 주지 않는 것이 이 글의 핵심 규칙입니다.
- 에이전트 스킬은
SKILL.md를 중심으로 한 버전 관리 디렉터리로, 반복 작업을 언제 어떻게 하는지 적어 둡니다. 스킬은 DB 조회 방법을 설명할 수 있어도 접근 권한을 주지는 않으며, 도구와 자격 증명과 권한은 실행하는 호스트의 몫입니다. - Proof Agent 예시에서는 원래 요청과 코드 변경만 독립된 검증 에이전트에 넘기고 코딩 에이전트의 평가는 넘기지 않습니다. 검증자는 PASS, FAIL, PARTIAL을 돌려주고 변경된 파일에서 증거를 인용해야 합니다. GitHub Action은 diff를 정적으로 검토할 뿐 코드를 실행하거나 테스트를 돌리지는 않으며, 시연에서는
block-on-fail: false로 조언 수준에 두었습니다. - 여러 스킬이 함께 일하는 Data Forge 예시에서는
forge-init이 소스 테이블과 이름 규칙을 찾아 매니페스트에 적고, 다른 스킬은 그 매니페스트를 읽습니다. 프로젝트 설정을 스킬에 박아 넣지 않으므로 다른 팀이 자기 매니페스트로 그대로 쓸 수 있는지가 이식성 기준입니다. 발견한 패턴이 곧 지켜야 할 규칙은 아니라서 사람이 확인하게 합니다. - 여러 에이전트 클라이언트를 지원하려면
skills/*/SKILL.md를 원본으로 두고 스크립트로 Claude Code, Cursor, GitHub Copilot용 파일을 생성하며, CI에서--check모드로 동기화를 확인합니다. 스킬로 풀 문제가 아니라 안정된 인터페이스, 감사 추적, 모델 밖에서 강제되는 권한이 필요하면 애플리케이션이 낫다고 선을 긋습니다.
팀의 규칙을 사람 머릿속이 아니라 리뷰 가능한 파일로 옮기는 방식이라, 공유 라이브러리와 개발 규약을 다루는 독자에게 참고가 됩니다. GitHub Universe 발표를 글로 옮긴 가이드이고 Copilot 쪽 시각이라는 점, 동작 검증은 별도 CI에 맡긴다는 점은 감안해야 합니다.
보안과 릴리스
- Announcing Rust 1.100.0
blog.rust-lang.org(Lobsters 경유) 10년, 시도 5번 끝에 never 타입(!)이 안정화됐고 2024 이전 에디션의 never 타입 폴백이()에서!로 바뀌는 호환성 변경이 있습니다. Cargo는registry.global-min-publish-age = "3 days"로 새 버전을 일정 기간 건너뛰는 의존성 쿨다운을 안정화했습니다. 내가 할 일: 공급망 대응으로 쿨다운 설정을 검토하세요. - 2026-11-12, Version 27.0.0-alpha.0.1.0 (Alpha)
Node.js releases두 번째 27 알파로subprocess.timedOut, X.509 인증서 생성(CSR 지원), 동시dns.lookup()요청 병합이 들어갔습니다. npm 12.2.2와 undici 8.12.4로 올라갔습니다.
수집 상태
수집 4185건, 본문 확보 46건, 읽은 글 14건, 실은 글 8편. 실패한 소스: Kent Beck (HTTP 403)