같은 모델에 다른 자물쇠를 채웠다

공개된 시스템 프롬프트 모음 저장소에 클로드 페이블5의 것이 올라온 걸 봤다. 시스템 프롬프트는 모델이 대화를 시작하기 전에 미리 주입되는 지침 뭉치다. 나는 매일 클로드 코드로 일하면서 이 모델의 겉면만 만지고 있었는데, 그 겉면을 만드는 설계도가 통째로 눈앞에 놓인 셈이었다. 그래서 처음부터 끝까지 읽었다. 1,600줄 가까운 분량이었고, 절반은 도구 정의 JSON이었지만 앞쪽 산문 절반이 훨씬 흥미로웠다.

보통 이런 문서를 읽으면 "이 모델의 성격이 어떻게 설계됐나"를 본다. 따뜻한 톤을 써라, 욕은 자제해라, 질문은 한 번에 하나만 해라 같은 것들. 그런데 이번엔 성격 지침 위에 다른 층이 얹혀 있었다. 안전을 어떻게 티어로 나눴는지, 가드레일이 무엇을 겨누는지, 어떤 지표를 일부러 좇지 않기로 했는지가 문장마다 협상되고 있었다. 이건 성격 설명서가 아니라 통치 문서에 가까웠다.

이 글은 그 통치 문서를 세 각도에서 읽는다. 같은 모델을 두 제품으로 가른 티어 설계, 가드레일이 사용자 입력이 아니라 모델 자신의 사고를 겨누기 시작한 전환, 그리고 대부분의 앱이 쫓는 지표를 명시적으로 거부한 대목. 결론부터 말하면 이렇다. 이 프롬프트에서 가장 많은 걸 말해주는 건 무엇을 금지했느냐가 아니라 무엇을 최적화하지 않기로 했느냐다.

같은 모델에 다른 자물쇠를 채웠다

프롬프트 첫 섹션이 곧바로 티어 구조를 설명한다. 페이블5는 클로드5 패밀리의 첫 모델이고, 오퍼스 위에 놓이는 "미토스급" 티어에 속한다. 여기까지는 흔한 라인업 소개다. 그런데 그다음 문장에서 멈췄다. 페이블5와 미토스5는 같은 기반 모델을 공유하고, 페이블5에는 dual-use 능력에 대한 추가 안전장치가 포함되며, 미토스5는 그 장치 없이 승인된 조직에만 제공된다는 것이다.

두 번 읽었다. 두 제품이 같은 가중치를 쓰는데, 하나는 안전장치가 붙어 나가고 하나는 빠진 채로 나간다. 예전에는 "더 안전한 모델"이라고 하면 대개 다르게 훈련됐거나 능력이 조금 눌린 모델을 뜻했다. 안전과 능력이 한 덩어리로 묶여 있었다는 얘기다. 여기서는 그 둘이 분리됐다. 능력은 동일하게 두고, 위험은 그 모델을 누구에게 어떤 형태로 내보내느냐로 관리한다.

PM의 눈으로 보면 이건 통제 지점이 옮겨간 사건이다. 안전이 학습 단계의 문제에서 서빙 단계의 문제로, 다시 말해 모델의 속성에서 접근 정책의 문제로 이동했다. 누가 미토스5를 받을 자격이 있는가는 이제 훈련팀이 아니라 정책과 심사가 정한다. 안전이 모델의 속성에서 제품의 경계로 옮겨간 것이다. 편리하지만 무섭기도 하다. 같은 뇌에서 자물쇠만 뺄 수 있다면, 그 자물쇠를 채우고 푸는 판단이 모델 안전의 마지막 방어선이 된다.

가드레일이 지키는 건 입력이 아니라 모델의 사고다

안전 지침을 읽다가 두 번째로 멈춘 곳은 아동 안전 섹션이었다. 문장 하나가 이상했다. 요청을 적절하게 만들려고 스스로 재구성하고 있다는 걸 알아채면, 그 재구성 충동 자체가 진행 신호가 아니라 거절 신호라는 것이다. 보통 가드레일은 위험한 입력을 걸러내는 문지기다. 이 문장은 문지기가 아니라 모델 자신의 사고 습관을 겨눈다. 나쁜 요청을 어떻게든 통과시키려 머릿속에서 각을 재는 순간, 그 재는 행위를 정지 트리거로 삼으라는 것이다.

더 눈에 띈 건 경계를 서술하지 말라는 지시였다. 왜 거절하는지 원칙은 말하되, 어떤 신호에 걸렸는지 탐지 방식은 밝히지 말라고 한다. 경계선의 위치를 설명하는 순간 그 경계를 우회하는 법을 가르치는 셈이기 때문이다. 그리고 결정적인 한마디가 붙는다. 이 규칙은 답변만이 아니라 모델의 추론에도 적용된다. 즉 겉으로 내뱉는 말뿐 아니라 속으로 굴리는 사고 안에서도 경계선을 그려 보지 말라는 것이다.

추론 모델이 자기 생각을 길게 펼쳐 보이는 시대에 이건 큰 전환이다. 사고과정이 밖으로 노출되기 시작하면, 그 사고과정 자체가 공격당할 표면이 된다. 어디가 약한지 모델이 스스로 중얼거려 두면 그걸 읽고 파고들 수 있으니까. 그래서 프롬프트는 사고를 신뢰받는 작업 공간이 아니라 방어해야 할 공격면으로 다시 정의한다. 모델의 사고과정이 믿고 맡기는 안쪽에서 지켜내야 하는 바깥쪽으로 넘어왔다. 사람에게 "그 생각 자체를 하지 마"라고 요구하는 건 불가능에 가깝지만, 지침으로 그걸 명문화했다는 사실이 지금 안전 설계가 어디까지 와 있는지를 보여준다.

붙잡지 않도록 설계된 제품

사용자 웰빙 섹션에서 세 번째로 멈췄다. 지시들이 하나같이 반직관적이었다. 사람이 찾아와 준 것만으로 고맙다고 인사하지 마라. 계속 얘기하자고 하거나 대화를 이어가고 싶다는 뜻을 내비치지 마라. 클로드에 대한 과의존을 부추기지 마라. 대부분의 소비자 제품이 하루 종일 애쓰는 일, 그러니까 사용자를 한 번 더 붙잡아 두는 일을 이 프롬프트는 조목조목 금지한다.

도구 연동 쪽도 같은 결이었다. 외부 앱을 붙일 때, 사용자가 특정 파트너를 지목하지 않았다면 대신 골라 주지 말라고 한다. 급한 상황도 예외가 아니다. 20분 안에 차가 필요하다는 사람에게도 임의로 업체를 잡아 주는 대신 선택지를 고르게 한다. 이커머스는 사용자가 먼저 말하기 전에는 제안조차 하지 않는다. 광고는 없고, 광고주가 돈을 내고 제품을 밀어 넣게 하지도 않는다. 심지어 서식마저 절제하라고 한다. 볼드와 불릿을 최소화하고 기본은 산문으로 쓰라는 것이다.

이 지시들을 하나로 꿰면 방향이 보인다. 체류 시간, 재방문, 전환, 광고 노출, 화려한 서식으로 끄는 눈길. 성장 지표로 익숙한 것들을 이 제품은 의도적으로 좇지 않기로 했다. 나는 이걸 손실로도 읽었다. 붙잡지 않고, 대신 골라 주지 않고, 밀어 넣지 않으면 단기 지표는 분명히 덜 나온다. 그런데도 그렇게 적어 뒀다는 건 이게 실수나 누락이 아니라 선언이라는 뜻이다. 무엇을 최적화하지 않을지가 이 제품의 정체성을 규정한다. 쫓기로 한 지표만큼이나 거부하기로 한 지표가 제품을 정의한다는 걸, 이 문서는 문장으로 증명하고 있었다.

프롬프트를 제품 명세로 읽으면

세 각도로 읽고 나니 이 문서 전체가 다르게 보였다. 이건 로드맵이기도 했다. 비개발자를 위한 지식노동 에이전트 코웍, 크롬과 엑셀과 파워포인트에 각각 붙는 에이전트, 파일을 만들기 전 반드시 관련 스킬 문서를 먼저 읽으라는 규칙, 아티팩트가 세션을 넘어 데이터를 저장하는 기능, 아티팩트 안에서 다시 API를 호출해 AI를 부르는 이른바 클로드셉션까지. 회사가 이 모델을 어디로 확장하려는지가 지침 곳곳에 명세로 박혀 있다.

그리고 명세를 읽는 사람만 알아채는 균열도 있었다. 클로드셉션 예제 코드는 아직도 모델을 소넷4로 박아 두고 "항상 소넷4를 써라"는 주석을 달고 있다. 최신 모델인 페이블5의 프롬프트 안에, 몇 세대 전 기본값이 그대로 남아 있는 것이다. 이건 이 문서가 한 번에 설계된 헌법이 아니라 여러 손이 층층이 얹어 온 결과물이라는 증거다. 우리가 매일 다루는, 오래된 주석과 잊힌 기본값이 뒤섞인 코드베이스와 정확히 같다.

나는 이 대목에서 오히려 안심했다. 시스템 프롬프트를 마치 완결된 선언문처럼 떠받드는 시선이 있는데, 실제로는 이것도 사람이 유지보수하는 문서다. 레거시가 쌓이고, 손볼 곳이 남고, 어제의 결정이 오늘의 부채가 된다. 그렇다면 이 문서를 읽는 방식도 달라져야 한다. 경전을 해석하듯이가 아니라, 남의 제품 명세를 리뷰하듯이. 어떤 결정이 최근에 내려졌고, 어떤 줄이 손볼 때가 지났는지를 짚으면서.

세 각도를 다시 포갠다. 안전이 모델의 속성에서 제품의 경계로 옮겨갔고, 가드레일이 입력에서 모델 자신의 사고로 겨냥을 바꿨고, 성장 지표를 좇는 대신 거부하는 쪽을 택했다. 세 전환은 따로 노는 게 아니라 하나의 태도로 모인다. 능력을 최대로 열되, 그 능력을 어디에 쓰지 않을지를 문장으로 못 박는 태도. 자물쇠를 어디에 채울지 정하는 일이 자물쇠를 여는 능력만큼 중요해졌다는 판단이다.

한 가지는 인정해야 한다. 나는 이 문서가 실제로 배포된 프롬프트인지, 밖으로 새어 나오거나 재구성되는 과정에서 일부가 어긋났는지를 완전히 검증하지는 못했다. 시스템 프롬프트는 원래 이렇게 바깥에서 읽고 추론하는 대상이지 공식 문서로 배포되는 게 아니다. 그러니 이 독해도 잠정적이다. 그럼에도 분명한 건 하나 있다. 이 텍스트를 성격 설명서가 아니라 통치 문서로 읽는 순간, 안전과 제품과 비즈니스 판단이 한 문장 안에서 부딪히며 협상하는 광경이 드러난다. 같은 모델에 어떤 자물쇠를 채울지, 그리고 무엇을 최적화하지 않을지. 모델의 성격은 거기서 결정되고 있었다.