yceffortnews
Daily20261편

10월 25일 일요일

오늘 하나만 본다면

AI가 쓴 글이 어려운 이유는 말의 밀도를 높이는 방향으로 학습되었기 때문이라는 가설

arxiv.org (Hacker News 경유) 원문

최신 모델 9개 모두 사람보다 어려운 문장 구조를 더 자주 쓰는데, 연구진은 그 원인을 "소통이 아니라 정보 밀도에 맞춰 최적화됐기 때문"이라고 봅니다.

  • 출발점은 "AI가 쓴 글이 요즘 더 읽기 어렵다"는 널리 퍼진 체감입니다. 연구진은 이를 사람의 문장 처리 부담과 상관이 있다고 알려진 언어 특징으로 측정했습니다. 목적어가 관계절로 수식되는 구문, 주어와 서술어가 멀리 떨어진 긴 의존 관계, 드물게 쓰이는 n-gram(연달아 나오는 단어 묶음) 같은 것들입니다.
  • 비교 대상은 두 가지입니다. 먼저 번역했다가 다시 되돌려 얻은 바꿔 쓰기와 비교하면, AI 모델은 이 어려운 특징을 더 자주 씁니다. 사람이 쓴 글과 비교해도 9개 프런티어급 및 준프런티어급 모델 전부가 무생물 주어에 동작 동사를 붙이는 문장과 저빈도 n-gram을 더 많이 씁니다.
  • 대부분의 모델은 대화 맥락에서 더 긴 의존 관계, 명사를 여러 개 쌓은 표현, 줄여 쓴 목적어 관계절도 더 많이 씁니다. 다만 모델 계열마다 차이가 상당하다고 저자들이 밝히고 있어, 모든 모델이 같은 정도로 어렵다는 이야기는 아닙니다.
  • 가설은 이렇습니다. 사람의 언어는 상대에게 전달되는 것을 목표로 다듬어져 왔지만, AI 모델은 수학, 코드, 추론처럼 같은 길이에 더 많은 정보를 담는 편이 유리한 목표로 점점 더 최적화됩니다. 그 압력이 글을 촘촘하게 만든다는 설명입니다.
  • 가설의 개념 증명으로 언어 모델을 길이 페널티를 걸고 미세조정했습니다. 그러자 모델의 언어 사용이 사람과 비슷한 방향에서 멀어졌습니다. 저자들은 이를 사람의 처리 부담과 LLM 사이의 정렬 어긋남이라고 부르고 개선 방향도 제안합니다.

코딩 에이전트가 쓴 PR 설명, 리뷰 코멘트, 문서가 읽기 힘들었던 경험이 있다면 그 체감에 측정 가능한 이름이 붙은 셈입니다. 검증 체계에서 읽는 사람의 부담을 따로 봐야 하는 이유로 연결됩니다. 다만 제가 본 것은 초록뿐이라 실험 설계와 수치는 확인하지 못했고, 가설은 길이 페널티 실험 하나로 뒷받침된 개념 증명 단계입니다.

보안과 릴리스

  • Broccoli2Shell: Brotli decoder RCE in Node.js, Python and more broccoli2shell.com (Hacker News 경유) 보안. Brotli C 디코더가 잘못된 블록 전환을 "입력이 더 필요하다"로 오인해 8바이트 내부 버퍼 밖에 쓰는 취약점으로, 원문은 CVE-2026-111497로 추적된다고 밝힙니다. Node.js는 자체 Brotli를 내장해 fetch()의 Content-Encoding: br 응답과 Express 5, body-parser 2의 요청 본문 파싱이 경로가 되고, Python은 Brotli나 brotlicffi가 설치돼 있으면 requests, urllib3, aiohttp가 같은 경로가 됩니다. 내가 할 일: Node.js를 22.23.4, 24.22.1, 26.12.1 이상으로 올려 이미지를 재빌드하고 재배포하며, Python은 Brotli>=1.2.1, brotlicffi>=1.2.1.0으로 올리고 락파일 핀도 갱신해야 합니다. Express나 body-parser는 경로일 뿐이라 올려도 소용없습니다.

수집 상태

수집 5791건, 본문 확보 18건, 읽은 글 4건, 실은 글 1편. 실패한 소스: Kent Beck (HTTP 403)