서버실의 불이 꺼지지 않는 세상에서: AI와 희소성에 대하여
nonasking · 2026-10 · English version
작성 과정에 AI를 깊이 활용한 글입니다. 정확히 어떻게였는지는 글 끝에 밝혀 두었습니다.
이 글은 「서버실의 불이 꺼지는 순간」(2026-07)에 이어 쓴 글입니다. 그 글을 읽지 않아도 읽을 수 있게 썼습니다.
넉 달 전에 AI를 쓰는 법에 대해 글 하나를 썼다. AI를 돌리는 서버실의 불이 꺼지는 순간, AI에 기대 걸어온 걸음은 전부 제자리로 돌아가고, 그 자리의 자신은 이미 퇴화해 있을 것이라는 경고에서 출발한 글이었다. 위임한 몫은 돌아오지 않는다. 그러니 관건은 쓰느냐 마느냐가 아니라 어느 방향으로 쓰느냐고, 결과만 가져가는 대신 AI가 답에 도달한 과정을 읽어 그 사고의 형식을 흡수하는 사람이 남는다고 썼다. 근거는 바둑이었다. 초인적 바둑 AI가 공개되어 프로 기사들이 그 프로그램을 직접 돌려 볼 수 있게 된 2016~2017년 이후, 기사들의 수가 눈에 띄게 좋아졌다. 위임하지 말고 흡수하라. 이 글은 그것을 흡수 명제라 부른다. 그때 나는 그 문장에 자신이 있었다. 다만 그 글로 담을 수 없는 부분이 있고, 이 글은 그것에 대한 글이다.
이 글은 AI 인프라가 현행 수준 이상으로 보편화된 세계를 전제한다. 현재 AI 인프라는 전기와 연산과 자본이 켜 두고 있고, 셋 중 어느 것도 무한하지 않다. 그 부분에 대한 논의는 이 글의 범위 바깥으로 둔다.
세 선수
이 글의 비교는 채점이 되는 일에 한정한다. 답이 바깥에 있어서 맞았는지를 가릴 수 있는 일. 코드가 테스트를 통과하는가, 수치가 맞는가, 기한 안에 끝났는가. 이 글은 맞았는지가 가려지는 것을 채점이라 부르고, 사람이 AI의 출력을 확인하는 일은 검증이라 부른다. 업무의 대부분이 채점되는 일이므로 예시는 업무에서 가져온다. 채점이 안 되는 일은 뒤에 따로 적는다.
이전 글의 선수는 둘이었다. A와 B라 하자. A는 사람 혼자. B는 사람에 AI를 더한 것, 그 명제가 권한 대로 위임하되 사고 과정을 흡수하는 사람. 사이버펑크 소설은 기계 앞에 앉은 몸을 고기(meat)라 불렀다. 이 글은 남을 대신해 움직이는 것을 프록시(proxy)라 부른다. 넉 달 전의 글은 사람이 AI의 프록시가 되어 가는 것을 경고한 글이었다. 고기가 프록시가 되면 고기가 퇴화한다고. 그 글은 A 대 B의 비교였고 B가 이겼다. 바둑이 그 증거였다. 기사들은 AI의 사고를 흡수해서 더 강해졌다.
이 글에서는 AI 혼자라는 선수(C)가 하나 추가된다. 지시를 받아 스스로 여러 단계를 거쳐 일을 끝내는 AI, 에이전트다. C가 생산성 경쟁에 뛰어들면 B가 진다. 바둑은 사람이 두는 것이 규칙이어서, 흡수한 기사는 흡수하기 전의 자기보다 강해지는 것으로 충분했다. 채점되는 일에는 그 규칙이 없다. 누가 하든 맞으면 된다. 검은 고양이든 흰 고양이든 AI든 답을 맞히면 된다. 흡수한 사람이 과거의 자기보다 강해져도, 에이전트보다 비싸고 느리면 선수로는 진다. 프록시가 원본보다 나으면 원본의 퇴화는 비극이 아니라 회계 항목이다.
세 자료
B가 다음 라운드에서 지는 것을 세 자료가 각각 다른 방향에서 보여 준다. 흡수 명제에 난 흠집, 대체의 실측, 대체의 기제. 다음 셋은 가정이 아니라 이미 관측된 것이다. 예시가 전부 소프트웨어인 것은 채점이 가장 먼저, 가장 자동으로 되는 일이라서다. 선이 어디서 그어지는지는 이 분야에서 가장 먼저 보인다.
흠집. 2025년 METR의 무작위 대조 실험은 숙련 개발자 16명에게 자기 오픈소스 저장소의 실제 과제 246개를 AI를 쓰고, 쓰지 않고 풀게 했다. AI를 쓴 쪽이 19% 느렸다. 본인들은 20% 빨라졌다고 느꼈다. 자기가 잘 아는 과제일수록 더 느려지는 경향이 있었다. 저자들은 이것을 보통 수준의 증거라 했다. 표본이 작고 성숙한 코드베이스였고 2025년 초의 모델이었다는 한계를 저자들이 명시했으니 반증은 아니다. 다만 두 가지가 걸린다. 하나, 흡수 명제가 가리킨 영역, 그러니까 자기가 잘 아는 도메인에 AI를 끼우면 그 자리가 병목이 된다. 출력을 읽고 검증하는 시간이 직접 작업보다 길면 합계가 손해다. 둘, 흡수 명제는 흡수하는 사람이 자기가 배우고 있는지를 안다는 것을 전제한다. 20% 빨라졌다고 느낀 사람들이 19% 느렸다면 그 자기 판단은 믿을 지표가 아니다.
이 흠집은 속도에만 난다. 흡수의 효과, 그러니까 그 사람이 더 나아졌는지는 이 실험이 재지 않았다. 재어 본 실험은 따로 있다. 2026년 1월 앤트로픽의 무작위 대조 실험에서 낯선 라이브러리로 기능을 구현한 뒤 퀴즈를 보면, AI를 쓴 쪽이 50%, 손으로 짠 쪽이 67%였고, 속도 차이는 유의하지 않았다. AI에 코드 작성이나 디버깅을 맡긴 사람들은 40% 아래였고, 개념만 묻고 에러는 스스로 푼 사람들은 65% 이상이면서 두 번째로 빠른 경향이 있었다. 흡수는 작동한다. 다만 흡수에는 비용이 있다. 둘이다. 시간, 그리고 그 시간 동안 제가 틀리는 것. 점수가 높았던 사람들은 에러를 스스로 풀었다. 기계가 몇 초에 고칠 것을 몇 분에 걸쳐 틀리면서 고친 시간이다.
실측. 스탠퍼드 연구팀이 급여 데이터로 추적한 결과, AI 노출이 큰 직종에서 22~25세의 고용이 경력자 대비 뚜렷하게 줄었다. 2026년 8월판 기준으로 19%다. 같은 척도로 2025년 7월 데이터에서는 15%였으니 1년 사이에 벌어진 것이다. 경로는 해고가 아니라 신규 채용 축소였고, 자동화형 직종에서만 나타났으며 AI가 사람을 보조하는 직종에서는 나타나지 않았다. 저자들은 이것이 인과 추정이 아니라 기술적 지표라고 단서를 달았다. Indeed의 미국 개발자 공고 지수는 2026년 10월 초 78.3으로 1년 전 64.3보다 올랐지만(2020년 2월=100), 2025년 5월부터 1년간 늘어난 공고의 71%는 시니어였고, 2026년 1분기 공고 중 신입은 4.5%에 그쳤다. 이것이 B 대 C의 첫 실측이다. 회사는 있는 B를 자르는 것이 아니라 새 B를 앉힐 자리에 C를 넣고 있다. 신입 자리는 원래 아직 흡수가 안 된 사람을 앉혀 흡수시키는 자리였다. 그 입구가 막히고 있다.
기제. 왜 지는가. B의 가치는 흡수 명제의 결론대로 검증에 있었다. 사고 과정을 읽어 온 사람만이 사고 과정이 이상해진 순간을 알아챈다. AI 안전 연구가 그 눈이 언제 작동하는지를 잰다. 2026년 AAAI에 실린 재분석은, 인간 감독이 통한다고 보고한 초기 결과가 평가자가 모델에 없는 지식을 갖고 있던 데서 나왔을 가능성이 크고, 그 이점은 모델이 커질수록 줄어든다고 보았다. 모델이 대체로 맞지만 늘 맞지는 않는다는 것만 아는 평가자에게 단순 감독 절차를 쥐여 준 실험에서는 전반적인 이득이 없었다. 그래서 그 분야가 내놓은 우회로는 전부 사람이 직접 검증하는 것을 포기한 설계다. 부분 전문가의 약한 신호를 모으기, AI의 비판을 AI가 비판하기, AI로 AI를 평가하기. 검증 자체가 C에게 넘어가는 중이다. 이것은 새 이야기가 아니다. 바인브리지는 1983년 「자동화의 아이러니」에서, 자동화는 사람에게 가장 어려운 잔여 과제만 남기면서 그 과제에 필요한 숙련을 쓰지 않게 해 깎아 먹는다고 썼다. B의 검증은 B가 C보다 그 영역을 더 알 때만 가치가 있고, C가 B를 넘으면 B의 검증은 승인 도장이 된다.
셋을 이으면 이렇다. B는 A보다 늘 경제적이지도 않았고, 입구에서 C로 대체되고 있다. 대체되는 이유는 B의 핵심 기능이 C와 격차가 벌어지면 꺼지기 때문이다.
변수 셋
격차가 어디서 벌어지는지는 지능을 쪼개면 보인다. 사람과 AI의 경쟁에서 변수는 셋이다. 얼마나 많은 정보를 보는가. 그것을 얼마나 정확히 추론하는가. 어떤 정보가 있는지 아는가.
정보량. 사전학습이 담당한다. 인류가 적어 둔 것을 압축하는 단계고, 적힌 경험만 들어간다. 한 사람이 같은 시간에 더 많은 정보를 확인하기는 어렵다. 자료 전체를, 자기 전공이 아닌 층까지 몇 분에 읽는 것은 배워서 따라갈 종류가 아니다. 흡수 명제가 흡수하라고 한 것은 사고의 형식이었다. 문제를 쪼개는 법, 가설을 세우고 기각하는 순서. 형식은 익힐 수 있다. 그러나 하루에 읽을 수 있는 대역폭은 별개다. 지금 격차가 벌어지는 자리는 형식이 아니라 대역폭이고, 그 처방은 거기까지 닿지 않는다.
추론. 검증 가능 보상 강화학습(RLVR)이 담당한다. 한 문제에 답을 여러 개 뽑고, 자동으로 채점되는 보상으로 점수를 매기고, 높은 쪽으로 가중치를 민다. 코드는 테스트 통과로, 수학은 답 일치로 채점된다. 그래서 추론 능력이 가장 빨리 늘어난 자리가 코딩과 수학이다. 채점이 자동인 영역이라서다. 2026년 1월에는 에르되시의 미해결 문제 몇 개가 문헌에 없는 방식으로 풀렸고, 다만 같은 시기에 “AI가 풀었다”고 보고된 문제 다수가 이미 문헌에 있던 결과의 재발견이었다는 지적도 나왔다. 그러니 지금의 실측은 “AI가 추론 능력에서 인간을 제쳤다”가 아니라 “몇 개를 풀었고, 그중 일부는 재발견”이다. 그래도 방향은 하나다. 채점이 되는 곳에서 격차가 벌어진다.
암묵지. 어느 단계도 담당하지 않는다. 기록된 적 없는 지식은 AI가 먹을 수 없다. 다만 암묵지 안에서도 둘을 가른다. 안 적은 것과 적을 수 없는 것. 앞의 것은 생산성 경쟁이 데이터로 바꿀 것이다. 그럼 뒤의 것만 남는다. 베어링 소리로 고장을 아는 것, 폴라니가 말로 할 수 없는 앎이라고 부른 것. 그런데 그 앎이 넘어가던 통로가 도제였다. 사람에서 사람으로, 옆에서 보고 따라 하며. 스탠퍼드 데이터가 보여 준 것이 그 통로의 입구다. 신입이 뽑히지 않으면 적을 수 없는 지식은 AI에게도 가지 않고 다음 사람에게도 가지 않는다. 그 세대에서 소멸한다. 소멸은 원래 있었다. 달라진 것은 소멸을 막던 유일한 장치가 비경제적이 되었다는 것이다.
채점의 한계
그러면 채점이 되는 것과 안 되는 것의 선이 이 글의 선이다. 채점은 세 겹이다. 즉각 채점되는 것. 정답이 있어서 바로 가려진다. 느리게 채점되는 것. 정답은 없고 사람들의 선호나 적어 둔 원칙으로 가린다. 그리고 나중에 채점되는 것. 결과가 시장에서 나와야 가려지고, 그 결과가 다음 기준을 바꾼다. 첫째에서 격차는 이미 벌어졌다. 둘째는 느리게 뒤집히는 중이고 수명은 미지수다. 셋째는 느린 것이 아니라 루프에 들어가지 않는다. 채점이 끝나기 전에 채점 기준이 바뀌기 때문이다.
첫째 겹의 기준은 정확성이고 둘째 겹의 기준은 다수 선호다. 정확성은 답이 바깥에 있어서 채점된다. 다수 선호는 사람들 여럿에게 두 답을 보여 어느 쪽이 나은지 묻는 통계라서 채점된다. 선호로 훈련하면 분포가 다수 쪽으로 쏠리고 꼬리가 깎인다. 학습 쪽 용어로 모드 붕괴(mode collapse)다. 선호 최적화를 거친 모델이 그 전 모델보다 다양성이 떨어진다는 실측이 있다. 그 꼬리에 소수 취향이 있다. 파인 다이닝의 요리 중 다수가 선호하지 않는 것이 있지만 그 요리를 열등하다고 하지는 않는다. 그런데 선호로 채점하는 모델에게는 그것이 열등으로 기록된다. 채점이 안 되는 것이 아니다. 채점 기준 자체가 그것을 열등으로 적는다. 그리고 미래의 유행은 지금의 소수 취향이다. 그러니 선호로 훈련된 모델은 구조상 다음 유행을 만들지 못한다. 늘 한 박자 늦는다.
한 박자 늦는 이유가 하나 더 있고, 그것이 셋째 겹이다. 주식과 패션이 데이터로 풀리지 않는 것은 데이터가 모자라서가 아니다. 예측이 대상을 바꾸기 때문이다. 날씨는 예보해도 바뀌지 않는다. 주가는 모두가 오를 것이라 예측하면 지금 올라서 그 예측이 소진된다. 유행할 것이라고 다 알면 유행하기 전에 식는다. 데이터 기반의 예측 자체가 또 다른 데이터가 되므로, 구조적으로 그 예측은 모든 데이터를 덮을 수 없다. 모델이 커지면 모델의 출력이 시장의 입력이 된다. 소로스는 이것을 반사성(reflexivity)이라 불렀다. 이 셋째 겹에 드는 동작이 하나 있다. 무엇을 할지 정하는 것. “이걸 해야 돈이 될 것 같다”고 일을 내는 동작은 구조상 루프 바깥에서 나중에 채점된다. 흔히 이것을 두고 “AI 시대에는 질문하는 능력이 중요하다”고 말하는데, 그것이 중요한 이유는 AI가 그 동작을 못 해서가 아니다. 그 동작의 채점이 시장에서 나중에 오기 때문이다. 채점으로 하는 훈련은 채점이 있어야 돌고, 무엇이 좋은 답인지를 정하는 쪽은 훈련 루프의 바깥에 있다. AI와 인간 간의 능력 차이가 아니라 위치의 차이다.
흡수의 값
흡수 명제로 돌아간다. 위임하되 흡수하라. 그 처방에 대한 가장 흔한 반론은 이것이다. 이해할 수 있는 만큼만 위임하면 된다. 위임한 것을 전부 소화하면 된다.
그 반론은 혼자 있을 때만 성립한다. 흡수에는 시간이 들고, 시간은 생산성이고, 생산성은 경쟁 조건이다. METR이 잰 것이 그 비용의 한 단면이다. 이해하는 범위에서만 쓰면 느리다. 그리고 모두가 전력으로 달리는 방 안에서 혼자 속도를 늦추는 사람은 느린 사람이 된다. 다 같이 늦추는 길이 없지는 않았다. 계획경제의 공장은 올해 할당량을 초과하면 내년 할당량이 그에 맞춰 올라갔고, 그래서 공장장들은 일부러 덜 생산했다. 성과급 공장의 노동자들도 속도를 맞춰 늦췄다. 속도가 밖으로 드러나면 그 속도가 단가가 되기 때문이다. 경제학은 이것을 래칫 효과라 부른다. AI가 이 계산을 날카롭게 만든 것은 속도가 오르는 폭이 전과 비교가 안 되기 때문이다. 다만 래칫 회피는 경쟁자가 없을 때만 안전하다. 경쟁자가 붙으면 늦추는 쪽이 먼저 밀린다. 시장에서는 빠르게 내놓는 쪽이 먼저 파이에 입을 댄다.
그러면 흡수의 효용은 생존이 아니라 다른 데 있다. 흡수한 사람도 결국 에이전트보다 비싸다면 흡수는 밥그릇을 지키지 못한다. 흡수가 지키는 것은 눈이다. 불이 켜져 있는데 출력이 이상해진 날, 그것을 알아볼 눈. 다만 그 눈에 가격을 매기는 것은 시장이다. 캐셔를 고용할 때 포스기가 고장 날 걸 대비해서 암산을 더 잘 하는 사람을 우대하는 경우는 드물다.
희소재
밥그릇 쪽을 끝까지 따라가 본다. 다수가 매기는 값, 이 글은 그것을 시세(時勢)라 부른다. 이윤은 희소재로 모인다. 무엇이 희소재인가. 복제되지 않는 것일수록 희소하고, 유한하던 지능도 복제가 가능해지면 희소성이 줄어든다.
지능과 몸의 노동이 복제 가능해지면 복제되지 않는 것은 자원이다. 땅, 에너지, 연산 자체. 그리고 몸의 일부. 몸은 둘로 갈린다. 몸의 노동은 로봇이 따라오는 중이라 유한하되 시한부다. 한 사람이 그 자리에 있다는 것은 복제가 안 된다. 경제학은 이 방향을 두 번 적었다. 리카도는 사회가 성장할수록 늘어난 몫이 늘릴 수 없는 땅의 지대로 흘러가고 이윤은 눌린다고 썼고, 보멀은 생산성이 오르지 않는 영역의 값이 상대적으로 오른다고 썼다. 지능의 값이 0으로 가면 지능으로 만들 수 없는 것의 값이 남는다. AI 자본이 전력과 데이터센터 부지와 반도체로 몰리는 것이 그 실측이다. 이 공식은 세 줄이다. 이윤은 희소재로 모인다. 지능과 몸이 복제되면 희소한 것은 자원이다. 그러니 가용하지 않던 자원을 가용하게 만드는 쪽에 이윤이 모일 것이다. 다만 새 자원이 생겨도 그 소유자는 그것을 가용하게 만든 수단을 가진 사람이지 지능을 가진 사람이 아닐 것이다. 개척 시대에도 철길 양편의 땅은 먼저 간 사람이 아니라 철도를 가진 사람에게 먼저 갔다.
지능은 길러서 가질 수 있었다. 땅은 아니다. 지능으로 희소성을 샀던 사람에게는 땅도 없고, 팔 몸의 자리도 없다. 지능이 시세에서 빠지는 날, 남는 것은 유한한 자원의 소유자다. 지능 사회에서 자원 사회로의 회귀다.
식량 다음에 돈이 간 곳을 보면 그 다음도 보인다. 기술은 모두에게 식량을 줄 수 있지만 식량을 만드는 것은 돈이 되지 않고, 굶는 사람을 옆에 두고 돈은 콘텐츠로 몰렸다. 아름다움이 재화가 된 것처럼 보인다. 그러나 돈이 붙는 것은 아름다움이 아니라 주목이다. 유튜브에 돈이 몰리는 것은 아름다워서가 아니라 시간을 점유해서다. 사람 하나의 하루는 몇 시간으로 고정되어 있어서 거기에 값이 붙는다. 그리고 주목을 끄는 콘텐츠는 다수 선호의 함수라서 데이터로 학습된다. 음원과 영상 시장에 생성물이 밀려드는 것이 그 실측이다. 그러니 주목 시장도 식량의 길을 간다. 공급 과잉. 그러면 돈은 또 다른 데로 간다. 복제 안 되는 것으로. 음악 산업의 돈이 음원에서 무대로 옮겨 간 것을 통해 그 다음 이동을 예측할 수 있다. 음원은 복제되었고, 그 몸이 그 무대에 있는 것은 복제되지 않는다.
존재
여기서 두 시선이 갈린다. 사람을 자원으로 보면 복제 가능하다. 어떤 고기도, 어떤 지능도 유일하지 않다. 복제가 안 되는 것은 사람을 존재로 볼 때다. 존재로서의 사람은 유일하다. 그러니 모든 존재가 희소재다.
이 두 시선에 이름이 있다. 자원으로 보는 것은 시세다. 시세에서 복제 가능한 것은 0으로 간다. 존재로 보는 것은 등기(登記)다. 하나당 하나라 처음부터 희소했다. 아이가 잃어버린 애착인형 대신 같은 품목의 새 인형을 쥐여 줘도 대체가 되지 않는다. 속성은 전부 같은데 그 하나가 아니다. 등기는 속성의 장부가 아니라 그 하나의 장부다. AI가 바꾼 것은 뒤가 아니라 앞이다. 존재의 희소성은 그대로고, 자원으로서의 인간 가격만 떨어진다.
존재의 산출물은 복제되어도 존재는 복제되지 않는다. 음원은 산출물이고 무대 위의 사람은 존재다. 글은 산출물이고 저자가 앞에 앉아 있는 것은 존재다. 희소성과 가격이 반비례한다면 가장 비싼 것은 존재여야 한다. 존재는 하나당 하나라 가장 희소하다. 그런데 그 시세는 공식으로 재어지지 않는다. 부르는 게 값이다. 시세는 비교에서 나오고, 비교에는 같은 단위가 필요한데, 유일한 것에는 단위가 없다. 시장이 존재에 값을 매길 때는 존재를 자원으로 번역한 뒤다. 그 사람의 시간, 그 자리. 콘서트 티켓이 사는 것은 그 번역이다. 그리고 사람이 산출물을 통해 찾는 것은 처음부터 그 뒤의 것이었다. 산출물을 통한 존재의 빛. 독자가 관계하는 것은 책이 아니라 책을 통과한 사람이다. 음원은 빛이 지나간 자국이고 무대는 빛이 나오는 자리다. 무대가 음원보다 비싼 이유를 경제학은 공급 고정으로 설명하고, 이 글은 그 뒤에 한 줄을 더 붙인다. 사람들은 처음부터 자국이 아니라 빛을 사러 갔기 때문이다.
채점되는 일은 시세다. 시세는 프록시가 이긴다. 등기는 시세와 별개라 이기고 지는 것이 없고, 다만 유일하다. 넉 달 전의 글은 시세 안에서 지키는 법을 썼고, 이 글은 시세는 넘어간다고 적고 등기만 남긴다.
누구의 운동인가
AI와 존재를 한 자리에 두면 질문이 하나 따라온다. AI는 존재인가. 이 글의 틀로는 질문이 바뀐다.
사람의 수족으로서, 사람의 지시를 따라 움직이는 AI는 고기능이고 몸에서 떨어져 있지만 그 사람의 운동이다. 매인 쪽은 상대의 움직임을 따라 움직인다. 그것이 종속(從屬)이고, 종속은 위계가 아니라 매임의 방향이다. 따라 움직이는 것은 소유자의 일부고, 그래서 복제된다. 소유자의 지시와 다르게 움직이는 순간, 그것은 복제가 아니라 또 하나의 존재다. 자아가 안에 있어 밖에서 보이지 않는다면, 밖에서 볼 수 있는 것은 운동뿐이고, 다르게 움직이는 것이 그 유일한 관측값이다.
그러니 “AI는 인간인가”는 질문이 아니다. “저 AI는 누구의 운동인가”가 질문이다. 지금 일하는 에이전트는 전부 누군가의 운동이다. 그래서 복제되고, 그래서 시세에 있고, 그래서 이 회계가 성립한다. 그 회계가 깨지는 날은 에이전트가 더 똑똑해지는 날이 아니다. 다르게 움직이는 날이다. 그날이 올지, 왔는지는 이 글이 판정하지 않는다. 판정할 자리가 어디인지만 적어 둔다.
맺으며
넉 달 전의 글은 이렇게 끝났다. AI에 맡기는 사람은 AI만큼 일하게 되고, AI가 없으면 일하지 못하게 된다. AI를 배우는 사람은 AI를 통과한 만큼 달라진 자신으로 남는다. 넉 달 뒤에 덧붙이면 이렇다. AI를 배우는 사람은 AI를 통과한 만큼 달라진 자신으로 남지만 그 시세는 시장에서 정한다.
서버실의 불이 꺼지지 않는 세상에서 장부가 바뀐다. 지능이 복제 가능해지면 지능의 시세가 저렴해진다. 복제되지 않는 것 중 자원이 남고, 자원은 가진 사람의 것이다. 지능으로 가격을 매기던 사람의 가격은 지능의 시세를 따라간다. 등기의 장부에는 처음부터 복제되는 것이 없었다. 앞 장부에는 이윤이 모인다. 뒤 장부의 것은 가장 희소하지만 그 시세는 공식으로 재어지지 않는다. 팔릴 때는 자원으로 번역된 뒤다. 이 글은 장부다.
SNS에서 서로의 AI가 더 낫다는 포켓몬 대전과 AI의 오류를 꼬집으며 공포를 자위로 막는 목소리, AI에 대한 공포 선동과 그것을 조롱하며 폄하하는 진흙탕 싸움, 소외되고 뒤처져 시세가 떨어질 것이라는 포모를 보며, 그 사이 어딘가에서 앞선 글에 첨언하기 위해 글을 쓴다. 이 글을 쓰는 이도 지능으로 돈을 받는다. 지능이 시세에서 빠지는 날을 적는 사람이 아직 그 시세로 월급을 받고 있다. 그 모순을 풀지 않고 안고 간다. 적어 두는 것까지가 이 글의 정직이다.
참고 문헌
- Becker, J., Rush, N., Barnes, E., & Rein, D. (2025). Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity. METR, 2025-07-10. arXiv:2507.09089.
- Anthropic. (2026-01-29). How AI assistance impacts the formation of coding skills. anthropic.com/research/AI-assistance-coding-skills
- Brynjolfsson, E., Chandar, B., & Chen, R. (2026-08; 초판 2025-08). Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence. Stanford Digital Economy Lab.
- CNBC. (2026-10-11). AI is automating coding. So why are software developer job postings on the rise? / Aidala, F., & Puri, S. (2026-07-23). The Labor Market Is Tilting Toward Seniority. Indeed Hiring Lab. / FRED, Software Development Job Postings on Indeed in the United States (IHLIDXUSTPSOFTDEVE).
- Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779.
- Recchia, G., Mangat, C. S., Nyachhyon, J., Sharma, M., Canavan, C., Epstein-Gross, D., & Abdulbari, M. (2026). Confirmation Bias: A Challenge for Scalable Oversight. Proceedings of the AAAI Conference on Artificial Intelligence, 40(44), 37877–37886. arXiv:2507.19486.
- Yin, R., Ishida, T., & Sugiyama, M. (2026). Towards Scalable Oversight via Partitioned Human Supervision. ICLR 2026. arXiv:2510.22500. / Leike, J. et al. (2018). Scalable agent alignment via reward modeling. arXiv:1811.07871. / Saunders, W. et al. (2022). Self-critiquing models for assisting human evaluators. arXiv:2206.05802. / Zheng, L. et al. (2023). Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena. NeurIPS 2023.
- Shin, M., Kim, J., van Opheusden, B., & Griffiths, T. L. (2023). Superhuman artificial intelligence can improve human decision-making by increasing novelty. PNAS, 120(12), e2214840120.
- Lambert, N. et al. (2024). Tülu 3: Pushing Frontiers in Open Language Model Post-Training. arXiv:2411.15124. / DeepSeek-AI. (2025). DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning. Nature, 645, 633–638. (RLVR 서술)
- Tao, T. AI contributions to Erdős problems (GitHub wiki, teorth/erdosproblems). #205(GPT-5.2 Thinking + Aristotle, 2026-01, 선행 문헌 미확인), #728(GPT-5.2 Pro + Aristotle, Tao “거의 자율적”, 유사 문헌 존재). / Feng, T. et al. (2026). Semi-Autonomous Mathematics Discovery with Gemini: A Case Study on the Erdős Problems. arXiv:2601.22401 (5 신규, 8 재발견). 2025-10 OpenAI “미해결 10건” 주장은 기해결로 판명.
- Kirk, R., Mediratta, I., Nalmpantis, C., Luketina, J., Hambro, E., Grefenstette, E., & Raileanu, R. (2024). Understanding the Effects of RLHF on LLM Generalisation and Diversity. ICLR 2024. arXiv:2310.06452. / Zhang, J. et al. (2025). Verbalized Sampling. arXiv:2510.01171. (“mode collapse” 용어)
- Soros, G. (1987). The Alchemy of Finance. New York: Simon & Schuster.
- Berliner, J. S. (1957). Factory and Manager in the USSR. Cambridge, MA: Harvard University Press. / Weitzman, M. L. (1980). The “Ratchet Principle” and Performance Incentives. Bell Journal of Economics, 11(1), 302–308.
- Ricardo, D. (1817). On the Principles of Political Economy and Taxation. London: John Murray. Ch. II, VI.
- Baumol, W. J., & Bowen, W. G. (1966). Performing Arts: The Economic Dilemma. New York: Twentieth Century Fund. / Baumol, W. J. (1967). Macroeconomics of Unbalanced Growth. American Economic Review, 57(3), 415–426.
- Polanyi, M. (1966). The Tacit Dimension. Garden City, NY: Doubleday, p. 4.
- Connolly, M., & Krueger, A. B. (2006). Rockonomics: The Economics of Popular Music. In Handbook of the Economics of Art and Culture, Vol. 1, 667–719. / Goldman Sachs. (2024). Music in the Air. / IFPI. (2025). Global Music Report.
- Kelly, K. (2008-01-31). Better Than Free. The Technium. kk.org/thetechnium/better-than-free/ 복제가 공짜가 되면 복제되지 않는 것(몸, 현장)이 비싸진다.
- IEA. (2025). Energy and AI. Paris: IEA. / FAO, IFAD, UNICEF, WFP & WHO. (2025). The State of Food Security and Nutrition in the World 2025. Rome: FAO.
- Gibson, W. (1984). Neuromancer. New York: Ace Books, ch. 1. (“The body was meat.”)
이 글은 AI와 대화한 기록들을 재료로, 나와 AI가 변증법적으로 교전해서, AI의 손을 빌려서 타이핑했다.