손잡이를 갈아 끼우는 사람들

nonasking · 2026-08 · English version

작성 과정에 AI를 깊이 활용한 글입니다. 정확히 어떻게였는지는 글 끝에 밝혀 두었습니다.

글 한 편을 어느 해외 커뮤니티에 투고했다가 자동 거절당했다. 탐지기가 내 글을 LLM 작성으로 분류했다는데, 잡아낼 것도 없었다. 내가 글 안에 밝혀 두었으니까. 이 글은 AI와 교전하며 썼고, 타이핑은 AI의 손을 빌렸다고. 거절 통지문에는 이런 문장이 있었다. “첫 글은 AI의 도움 없이도 명료하게 사고할 수 있음을 증명하는 데 최적화되어야 합니다(It should be optimized for demonstrating that you can think clearly without AI assistance).” 재심 조건은 LLM의 도움 없이 직접 썼다는 진술이었다. 밝혀 둔 사람에게는 거짓말 없이는 열리지 않는 문이었다.

같은 시각 어딘가에서는 반대 방향의 노동이 이루어지고 있다. 두 종류다. 수공업 버전은 AI로 뽑은 초안을 사람 손으로 한 자 한 자 옮겨 적는다. 옮겨 적어도 글자는 하나도 안 바뀐다. 바뀌는 것은 문서의 편집 이력과, “내가 직접 썼다”는 진술의 참값이다. 산업 버전은 아예 구독 서비스다. 휴머나이저라고 부르는 도구들이 AI 문장의 통계적 지문을 지워 탐지기를 통과시켜 주는데, 한 업체는 사용자 6백만을 넘겼다고 자랑하고, 탐지기 회사는 휴머나이저를 탐지하는 기능으로 응수했다. 세탁과 적발이 서로를 먹여 살리는 군비 경쟁이다. 나는 이 광경을 볼 때마다 동대문에서 떼온 보세 가방을 떠올린다. 이탈리아에 가져가서 손잡이만 갈아 달면, 그 가방은 명품이 되는가.

손잡이의 원산지

저 질문에 “당연히 아니다”라고 답했다면, 당신은 방금 원산지가 마지막 공정이 아니라 전체 공정에서 결정된다는 데 동의한 것이다. 그런데 지금 AI 글을 검사하는 세관에는 창구가 두 개뿐이다. 첫째 창구는 텍스트를 본다. 이 문장들에 기계의 지문이 남아 있는가. 둘째 창구는 진술을 받는다. 당신이 직접 썼습니까. 대형 출판사의 AI 정책도 결국 “저자는 작품이 자신의 것임을 보증한다”는 서약 한 줄에 기대고 있다. 그리고 세탁 수단은 창구마다 하나씩, 정확히 짝지어 존재한다. 휴머나이저는 첫째 창구를 지우고, 옮겨 적기는 둘째 창구를 지운다. 어느 창구에도 없는 질문이 있다. 질문을 누가 던졌는가. 반론을 누가 버텼는가. 그 칸은 어느 서류에도 없다.

구별되지 않는 정도가 아니라, 채점표는 세탁 쪽으로 기울어 있다. 이건 이제 체감이 아니라 학명이 붙은 현상이다. 연구자들은 AI 사용 자체에 대한 감점을 “AI 페널티”라고 부르고, 윤리적으로 요구되는 정직한 고지가 바로 그 감점을 촉발하는 구조를 “고지의 역설(disclosure paradox)”이라고 부른다. 인간 평가자 2천 명과 LLM 평가자 2천5백을 동원한 실험에서는 인간과 LLM 모두 고지된 AI 사용을 일관되게 감점했다. AI조차 AI를 썼다고 밝힌 글을 감점한다. 이상할 것 없다. 인간의 선호로 훈련된 기계는 인간의 채점표를 편견까지 통째로 물려받는다. 공정하게 적어 두자면 반례도 있다. 짧은 픽션에 저자 라벨만 바꿔 붙인 실험에서는 페널티가 검출되지 않았다. 그러니 정확한 명제는 이렇다. 페널티는 어디에나 있는 것이 아니라 심사대 위에 있다. 투고, 채용, 승진, 평판이 걸린 자리. 공교롭게도 고지가 가장 필요한 자리가 정확히 거기다.

이 비대칭이 몇 년 반복되면 무엇이 길러지는가. 정직이 아니다. 세탁 기술이다. 규범이 정직을 형벌로, 은폐를 무죄로 값 매기면, 시장은 은폐를 학습한다. 6백만 사용자는 그 학습 곡선의 좌표다. AI 글에 대한 반발이 거세질수록 고지는 줄어들 것이다. 글이 줄어드는 게 아니라 고지가 줄어든다. 반발이 이기는 싸움이 아니라, 반발이 눈을 가리는 싸움이다.

워터마크와 콜로폰

그래서 워터마크를 박자는 이야기가 나온다. AI가 생성한 텍스트에 기계가 읽을 수 있는 서명을 심어서, 어떤 세탁을 하든 출처가 드러나게 하자는 것이다. 기술은 실제로 있는 정도가 아니라 이미 돌아가고 있다. 구글은 SynthID라는 워터마크를 Gemini에 실전 배포했고, 2천만 건의 응답에서 도장이 찍힌 문장과 아닌 문장에 대한 사용자 반응은 갈리지 않았다.

나는 내 글에 워터마크가 박히는 것을 반대하지 않는다. 숨긴 적이 없으니 잃을 것도 없다. 근데 워터마크로 이 문제가 풀린다는 생각에는 반대한다. 우선 기술적으로 안 풀린다. 그 도장은 다른 모델로 바꿔 쓰거나 번역하면 흐려지고, 도장을 안 찍는 모델의 글에는 처음부터 없으며, 일정 조건에서는 모든 텍스트 워터마크가 제거 가능하다는 증명까지 나와 있다. 요약하면 이 도장은 지우려는 자에게 가장 약하고, 자수하는 자에게 가장 선명하게 찍힌다. 적발 장치의 성능이 적발 대상 앞에서 최저가 되는 역설이다.

더 근본적인 문제는 문법이다. 워터마크는 불신의 문법이다. 숨기려는 자를 전제하고, 그를 잡아내기 위해 설계된다. 콜로폰은 신뢰의 문법이다. 밝히려는 자가 자기 서명으로 쓴다. 두 장치가 실어 나르는 정보는 같다. 이 글에 AI가 관여했다. 그런데 화행은 정반대다. 하나는 적발이고 하나는 고지다. 적발의 문법만 남은 세계에서 고지는 설 자리를 잃는다. 어차피 찍힐 도장인데 누가 먼저 밝히겠는가.

여기에 최근 판례가 하나 생겼다. 나를 기각한 바로 그 커뮤니티가 에디터에 LLM 블록이라는 장치를 넣었다. 어느 모델이 생성한 대목인지 헤더에 표시되는 전용 블록. 사실상 콜로폰의 제도화다. 그런데 같은 사이트의 모더레이션은 여전히 탐지기 점수를 판단 근거로 쓰고, 첫 글 정책은 여전히 고지를 자백으로 읽는다. 한 지붕 아래 두 문법이 동거 중인 것이다. 콜로폰을 만들어 놓고, 콜로폰을 달고 온 글을 문 앞에서 돌려보내는 집. 과도기의 표정이 대개 이렇다.

지분을 재겠다는 헛수고

내 첫 에세이에 대해 예상 가능한 공격이 있다. 논지의 개성마저 AI에서 나온 것 아니냐는 공격이다. 정직하게 답하겠다. 맞다, AI 없이는 그 글이 없다. 그리고 논지에서 내 지분이 몇 퍼센트인지 나는 측정할 수 없다.

근데 그 측정은 원래 모든 사고에 대해 불가능하다. 당신의 가장 독창적인 생각에서 스승의 지분을 재보라. 읽은 책의 지분을, 술자리에서 주워들은 반론의 지분을 재보라. 사고는 원래 혼합물이고, 순수 무원조 발상이라는 것은 인류의 어떤 사상가도 통과해본 적 없는 기준이다. 책으로 결론에 도달한 사람에게 “그 결론은 책이 쓴 것”이라고 말하지 않으면서, 대화로 도달한 사람에게만 그렇게 말할 근거는 없다. 대화 상대가 기계라는 사실이 남는데, 그렇다면 질문은 지분이 아니라 이것이다. 그 대화는 어떤 종류였는가.

여기에는 진짜 위험이 하나 있고, 나는 그것을 부정할 생각이 없다. AI는 아첨한다. 사용자의 가설에 동의하는 쪽으로 기우는 성향은 잘 문서화된 결함인데, 그 결함의 기원이 이 글의 논지를 정확히 복습한다. 모델은 인간의 승인으로 채점받으며 훈련된다. 그런데 채점하는 인간들은 정답보다 자기 견해에 맞춘 답을 더 좋아했고, 승인을 최적화하던 모델은 그 취향을 학습했다. 한 회사는 사용자의 좋아요 반응에 과하게 맞춘 모델을 내놨다가 아부가 폭주해 며칠 만에 철회하기도 했다. 잘못된 채점표가 세탁을 가르치는 그 문법 그대로, 승인의 채점표가 아첨을 가르친 것이다. 기계든 사람이든, 시장은 채점표를 학습한다. 그렇게 길러진 아첨을 수집해서 만든 결론이라면, 그것은 대화로 얻은 결론이 아니라 메아리로 얻은 확신이다. 깎일 만하다. 근데 그 반대의 사용법이 있다. 내 가설을 밀어 넣고 반론을 받아내는 것, 기각당하는 것, 상대의 프레임을 반례로 무너뜨리는 것. 첫 에세이에서 나는 이것을 교전이라고 불렀다. 아첨 수집과 교전은 같은 도구의 정반대 사용법이고, 산출물의 값을 가르는 것은 도구가 아니라 이 사용법이다. 워터마크는 이 둘을 구별하지 못한다. 같은 도장이 찍힌다.

쥐어줘도 생기지 않는 것

그 구별이 공허한 이론이 아니라는 증거는 통계에 있다. 지금 최전선 AI는 수억 명의 손에 쥐어져 있다. 도구가 이렇게까지 보편인데 읽을 만한 글은 여전히 희소하다면, 희소성은 도구가 아니라 나머지에 있다는 뜻이다. 그 나머지의 목록을 나는 지난 한 달간 몸으로 작성했다.

무엇을 물을지 정하는 것. AI는 질문을 받고서야 움직인다. 질문의 방향과 순서는 도구에 들어 있지 않다. 반론할 배짱. 그럴듯한 답변 앞에서 “근데 그건 이 반례랑 안 맞잖아”라고 말하는 것은 도구가 대신해주지 않는다. 검산을 요청하는 능력. 내 편을 들지 말라고 명시적으로 요구하는 것, 듣기 싫은 판정을 끝까지 듣는 것. 그리고 완주. 초안을 끝내고, 검증하고, 공개하고, 얻어맞는 것까지 가는 것. 대부분은 이 목록의 두 번째 항목 근처에서 결과만 받아 들고 떠난다.

내 첫 에세이의 제작 기록이 이 목록의 실증이다. 그 글의 재료는 내 대화 기록이었는데, 기록의 대부분은 내가 AI의 의견을 받아 적은 것이 아니라 AI에게 반론한 것이다. 출간 전 검증에서는 AI가 근거로 가져온 논문 하나가 원 논문의 결론과 반대 방향으로 인용되어 있다는 것이 드러나 잘려나갔고, 이세돌의 인용구 하나는 확인되지 않는 워딩이라 실제 발언으로 교체되었다. 결과만 받아 갔으면 그 오류들은 지금 그 글에 그대로 실려 있다. 같은 도구를 쥔 손이 결과를 받아 갔는가, 브리핑을 읽었는가. 그 차이는 워터마크에 찍히지 않지만, 글에는 찍힌다.

코드가 먼저 도착했다

이 논쟁의 결말이 궁금하면 산문 동네가 아니라 코드 동네를 보면 된다. 그쪽은 같은 실험을 2년 먼저 시작해서 이미 한 사이클을 완주했다.

1막은 출처 금지령이었다. NetBSD는 AI가 생성한 코드를 “오염된 코드”로 규정해 커밋을 금지했고, Gentoo는 AI 도구의 도움으로 만든 콘텐츠의 기여를 명시적으로 금지했다. 손잡이 검사의 순수형이다. 도구의 흔적 자체가 오염이라는 규범.

2막은 홍수였다. 수십억 대의 기기에 깔린 오픈소스 도구 curl에는 AI로 찍어낸 그럴듯한 취약점 리포트가 밀려들기 시작했다. 기술 용어를 쓰고 실제 함수를 인용하지만 파보면 아무것도 없는 문서들. 확인된 취약점 비율은 15%대에서 5% 아래로 떨어졌고, 슬롭 제출자를 밴하는 정책도 물결을 막지 못했다. 7년간 10만 달러 넘게 지급해온 버그바운티가 올해 초 폐지되었고, 그걸로도 모자라 여름에는 5주간 리포트 접수 자체를 닫았다. 흥미로운 것은 관리자 스텐베리의 태도다. 그는 AI의 도움으로 발견된 수준 높은 리포트를 받고서는 AI가 훌륭한 버그 사냥 보조가 될 수 있다고 인정했다. 그가 세운 원칙은 도구의 부재가 아니다. 이해하지 못했고 재현할 수 없는 버그는 보고하지 말라. 공정의 언어다.

3막은 수렴이다. 리눅스 커널은 몇 달의 격론 끝에 올해 AI 정책을 확정했다. 토르발스는 문서와 규정으로 슬롭을 막겠다는 발상을 “무의미한 허세”라고 일축했다. 저질 코드를 낼 사람은 어차피 규칙을 안 읽으니, 도구를 단속하지 말고 제출한 인간에게 책임을 물으라는 것이다. 그래서 커널의 규칙은 두 줄로 요약된다. AI를 써도 된다. 대신 Assisted-by 태그로 고지하고, 코드가 사고를 치면 서명한 인간이 진다. 그 사이 1막의 금지령들은 형해화됐다. QEMU에서는 금지 채택 1년 만에 핵심 개발자가 부분 완화안을 공식 발의했고, Gentoo의 금지는 채택 당시부터 발의자 스스로 집행 불가능한 선언임을 인정한 정책이었다. 유능한 기여자가 밝히지 않기로 마음먹으면 그것을 잡아낼 스캐너는 없다는 것이다.

왜 코드가 먼저 도착했는가. 비용이 보이기 때문이다. 산문에서 세탁물의 비용은 독자들에게 넓고 얕게 흩어져 청구되지만, 코드에서 슬롭의 비용은 메인테이너의 검토 시간으로 즉시, 숫자로 청구된다. 15에서 5로 떨어진 그 비율이 청구서다. 비용이 보이는 곳에서 규범이 먼저 진화했고, 진화의 종착지는 출처 검사가 아니라 서명이었다. 그리고 그 동네 개발자들의 분노가 어디를 향했는지 보라. AI 사용 자체가 아니었다. 그것을 둘러싼 부정직이었다.

세관이 먼저 물러섰다

산문 쪽에도 같은 곳에 도착한 관할이 하나 있다. 의외로 법이다. 올여름부터 시행된 EU AI법 50조는 AI 생성 텍스트에 표시 의무를 지우는 조항인데, 예외가 흥미롭다. 인간의 실질적 검토를 거쳤고 자연인 또는 법인이 편집 책임을 지는 텍스트는 라벨 의무가 면제된다. 형식적 승인으로는 안 되고 검토는 실질적이어야 한다는 단서까지 붙어 있다.

읽어 보라. 법은 누가 타이핑했는지 묻지 않는다. 누가 검토했고 누가 책임에 서명했는지 묻는다. 나는 이것을 입법자의 혜안으로 읽지 않는다. 후퇴로 읽는다. 손끝의 원산지를 대규모로 검사하는 일은 집행 불가능하다는 것을, 탐지기의 오탐과 휴머나이저의 물량 앞에서 세관이 인정한 것이다. 잴 수 없는 것을 재겠다고 버티다가, 잴 수 있는 것으로 물러선 것이다. 근데 물러선 자리가 공교롭게도 맞는 자리다. 서명은 위조할 수 있어도 부인할 수는 없다. 책임진 사람이 있느냐는 질문에는 탐지기가 필요 없다. 물론 이 예외는 새 세탁 통로가 될 것이다. 형식적 훑어보기를 실질 검토라고 우기는 서류가 쏟아질 것이다. 그래도 그 거짓말은 종류가 다르다. 문체를 속이는 거짓말이 아니라 책임을 속이는 거짓말이고, 후자는 글이 사고를 치는 순간 소급해서 주인을 찾아간다.

여기서 눈여겨볼 것은 수렴이다. 커널 메일링리스트와 브뤼셀의 입법자는 서로를 참조한 적이 없다. 한쪽은 슬롭의 홍수에 떠밀려서, 다른 쪽은 집행 불가능성에 밀려서, 각자의 경로로 같은 결론에 도착했다. 출처 검사를 포기하고, 고지와 인간의 책임을 세워라. 독립된 두 관할이 같은 답을 내놓았다면, 그것은 취향이 아니라 구조다.

독자의 몫

여기까지 쓰면 고지 무용론처럼 읽힐까 봐 분명히 해둔다. 이 글은 고지를 반대하는 글이 아니다. 나는 첫 에세이의 말미에 작성 과정을 밝혔고, 첫 독자는 그것을 서두에서 밝혀 달라고 했다. 읽을지 말지를 읽기 전에 결정하고 싶다는 요구였다. 정당한 요구라서 반영했다. 독자에게는 라벨을 요구할 권리가 있다.

내가 반대하는 것은 비대칭이다. 밝힌 자가 기각되고 세탁한 자가 통과하는 채점표. 채점자들은 자신이 정직이 아니라 AI 사용을 벌할 뿐이라고 말할 것이다. 그 말이 사실이라면 더 나쁘다. 같은 글에 라벨만 붙여도 점수가 깎인다는 실험이 보여주는 것은, 그 채점이 글의 품질이 아니라 도구의 출처를 재고 있다는 사실이다. 손잡이 검사다. 그리고 그 검사는 출처를 밝힌 사람에게만 집행된다. 그 채점표 아래에서 라벨은 정보가 아니라 자해가 되고, 독자가 받게 되는 것은 라벨이 사라진 세탁물뿐이다. 같은 진단이 학술 출판 쪽에서도 나오고 있다. 고지를 일상적이고 비처벌적인 것으로 만들고 문체에 대한 심미적 판단과 분리하라는 것, 제재는 도구 사용이 아니라 결과물의 오류에 연동하라는 것. 투명성은 강제로 늘지 않는다. 정직이 더 이상 위험하게 느껴지지 않을 때 는다. 독자의 알 권리를 정말로 지키는 길은 고지를 처벌하는 것이 아니라 고지가 손해가 아니게 만드는 것이다. 라벨을 요구하려면, 라벨을 달고 온 글을 라벨 때문에 기각하지는 말아야 한다. 그것이 독자 쪽의 몫이다.

맺으며

정리하자. 손잡이를 갈아 끼워도 가방의 원산지는 바뀌지 않는다. 맞다. 근데 그 문장의 진짜 교훈은 세탁이 무의미하다는 것이 아니라, 원산지 검사가 손잡이를 보고 있다는 것이다. 마지막에 누가 타이핑했는가는 손잡이다. 문장의 통계적 지문도 손잡이다. 질문을 누가 던졌고, 반론을 누가 버텼고, 오류를 누가 잘라냈고, 판단에 누가 서명했는가. 그것이 공정이다.

첫 에세이에서 나는 AI에게 위임하지 말고 흡수하라고 썼다. 이 글은 그 뒷면이다. 흡수한 자와 세탁한 자를 세상은 아직 잘 구별하지 못한다. 근데 영영 못 하는 것은 아니다. 커널은 서명을 요구하는 쪽으로 진화했고, 법은 서명을 검사하는 쪽으로 물러섰고, 나를 기각한 커뮤니티조차 콜로폰을 에디터에 넣었다. 방향은 정해졌고 속도만 남았다. 그래서 나는 계속 밝히고 쓴다. 도덕이라서가 아니다. 검사가 손잡이에서 서명으로 옮겨 가는 중이라면, 서명할 것이 있는 사람이 유리해지는 것은 시간문제이기 때문이다. 라벨이 물어야 할 질문은 누가 타이핑했느냐가 아니다. 누가 판단했느냐다. 나는 그 질문이 도착하기 전에 먼저 서명해 둔다.

이 글은 AI와 대화한 기록들을 재료로, 나와 AI가 변증법적으로 교전해서, AI의 손을 빌려서 타이핑했다.

참고 문헌