가치 흐름으로서의 기구

가치 통치의 국가는 관직의 나무가 아니라 그 안을 지나가는 가치의 지도로 그려지며, 그 흐름의 관리자는 부처가 아니다. 이 장은 그 지도를 따라 불편한 결론까지 간다. 경계 지어진 모든 흐름은 좁고 철회 가능하며 공표된 위임 아래 놓이고, 권력 분립은 부처 사이가 아니라 에이전트 사이에서 재현되며, 그 교환이 무엇을 제거하고 무엇을 끌어들이는지에 대한 정직한 셈이 뒤따른다.

거의 모든 수도의 복도에는 같은 그림이 걸려 있다. 상자들의 나무이다. 꼭대기에 부처가 있고, 그 아래에 국이 있고, 그 아래에 과가 있으며, 이 도해 전체는 몇 해마다 모두가 견뎌 내되 아무도 기억하지 못하는 조직 개편으로 다시 그려진다. 그 그림이 너무나 익숙한 나머지 우리는 그것을 국가 자체로 착각한다. 그러나 그것은 누가 누구에게 보고하는지만을 기록할 뿐, 시민이 가장 답을 듣고 싶어 하는 물음에 대해서는 침묵한다. 이 모든 것이 나에게 정확히 무엇을 해 주고 있는가? 가치 통치 국가의 창설 도면에는 상자가 하나도 없다. 거기에는 흐름이 있다. 자연과 교역과 시민의 기여에서 들어오는 가치, 공유 기금에 고이는 불로 지대, 시민에게 돌아가는 배당과 서비스, 그 원천으로 되값이 매겨지는 해악, 그리고 표결과 필요와 증언으로 그 순환을 조종하는 시민들이다. 관직은 나중에 오고, 두 번째로 온다. 그 도면이 탁자 위에 놓이고 나면 어떤 조직 개편이 던진 것보다 더 힘든 물음이 따라온다. 이 흐름들 각각을 누가, 혹은 무엇이 맡아야 하는가?

박스의 조직도가 아니라 흐름의 지도

이 뒤집기는 겉치레가 아니라 교의적이다. 가치 통치는 시민에게 가치 흐름을 방향별로 묶어 서술한다. 그 흐름을 시중드는 기구는 흐름에 매여 있고 교체 가능하며, 국제(國制)의 원초적 요소가 아니다. 흐름 영역이란 국가가 계속 흐르게 해야 하는 가치의 한 방향이다. 열 개의 가치 축 자체, 곧 경제, 교육, 과학, 인구, 인지, 인프라, 사회적 안정, 생태, 의미, 인식과 더불어, 재정의 공유재, 대외 관계, 방위, 정의 같은 가로지르는 영역들이 그것이다. 관리자란 정치체가 흐름 영역에 매어 두는 무엇이든이며, 그 매임 자체에는 아무런 존엄도 딸려 오지 않는다. 흐름이 교의이고, 관리자는 구현이다.

그 모양이 무엇이든 관리자는 하나의 유형을 따른다. 그것은 하나의 가치 영역을 맡아 감지하고, 시민이 표결한 가중치와 헌장이 보장하는 하한에 견주어 불균형을 진단한다. 그 불균형을 메우기 위한 전략적 수요를 만들어 내며, 단 하나의 가차 없는 비평가에게 채점된다. 반가치를 뺀, 시민이 증언한 전달된 가치, 그리고 여러 집단을 실질 역량의 하한 위에 붙들어 두었는가이다. 활동량도, 인원수도, 연차 보고서도 아니다. 도넬라 메도스가 그 체계 논변을 공급했다. 구조가 행태를 몰아간다. 상자의 위계로 지어진 기구는 상자를 방어할 것이다. 대역 안에 붙들어야 할 흐름의 집합으로 지어진 기구에는 방어할 다른 무엇이 애초에 들어 있지 않다.

어떤 흐름에 관리자가 필요한가?

그러므로 창설의 물음은 「부처들이 무엇인가」가 아니라 「어떤 가치 흐름에 관리자가 필요한가」이며, 두 번째 물음에 대한 이 교의의 답은 그 벗들조차 불안하게 할 만큼 무뚝뚝하다. 가치 통치의 기구는 부처가 아니라 가치 흐름을 중심으로 조직된, 공적으로 소유되고 독립적으로 구현된 AI 에이전트의 연합이다. 그것들은 판본이 매겨진 규칙 아래에서 감지하고, 대조하고, 계산하고, 경로를 정하고, 공표하며, 일상적 행정 행위를 집행한다. 경계 지어진 각 흐름은 좁고, 철회 가능하며, 기한이 정해지고, 눈에 보이는 위임을 받는다. 문서로 적히고, 이름 붙은 흐름에 붙으며, 공표되고, 갱신되지 않으면 스스로 만료된다. 이는 소프트웨어를 볼트로 조여 붙인 부처가 아니다. 이는 국가의 행정 층을 한계 지어진 기계들의 복수성으로 다시 지은 것이며, 그 각각은 가치의 한 방향에 대해 답한다.

막스 베버는 근대의 관청을 묘사하면서 오늘날에는 경고로 읽히는 감탄을 담았다. 서류철, 고정된 관할, 그리고 관직이 소명이자 경력인 훈련된 관리이다. 경력이 요점이었다. 그것은 전문성과 충성을 사들였고, 동시에 모든 고전적 병리가 도착하는 통로이기도 했다. 경력은 진척될 수도, 막힐 수도, 매수될 수도, 잃을까 두려워할 수도 있기 때문이다. 제 사람을 승진시키는 후원자, 호의와 맞바꾼 인가, 불편한 조사 결과가 자신에게 무엇을 치르게 할지 아는 감독관. 이것들은 베버 설계의 실패가 아니라 그 그림자이다. 공적 에이전트에게는 사유 재산도, 가족의 이해도, 선거의 야심도, 승진의 사다리도, 후원의 연결망도 없다. 그것은 아첨받을 수 없고, 승진할 수 없으며, 조카가 없다. 그 제거는 수사가 아니라 실재하는 것이며, 그 한계 또한 그만큼 담백하게 진술되어야 한다. 에이전트는 남용의 동기와 통로를 많이 제거하지만, 마술처럼 권력을 안전하게 만들지는 않는다.

기계로 넘어가지 않는 것이 넘어가는 것만큼이나 중요하다. 시민은 가중치와 하한과 위임을, 다시 말해 구성적 권한 전체를 간직한다. 법원은 인간으로 남으며 자신이 심사하는 기계 장치를 정지시킬 수 있고, 헌장은 에이전트를 아예 멈춰 세울 수 있다. 에이전트가 받는 것은 행정의 시간 대부분을 잡아먹는 계량된 일상이며, 그것도 자신이 쓰지 않은 규칙 아래에서이다.

에이전트 사이에서 재현된 권력 분립

몽테스키외의 통찰은 결코 건물에 관한 것이 아니었다. 그것은 같은 의지가 두 권력을 동시에 쥐지 못하게 하는 것에 관한 통찰이었고, 소프트웨어로 옮겨 가면서 약해지기는커녕 날카로워진다. 기계의 경계는 명세할 수 있으나 장관의 야심은 그럴 수 없기 때문이다. 다섯 가지 금지가 이 구조를 떠받친다. 어떤 에이전트도 자신이 적용하는 가치를 쓰지 않는다. 어떤 에이전트도 자신이 집행하는 측정 스키마를 저술하지 않는다. 어떤 에이전트도 자신의 위임을 스스로 바꾸지 않는다. 어떤 에이전트도 하나의 흐름을 감지하면서 동시에 그로부터 이익을 얻지 않는다. 그리고 어떤 에이전트도 모든 강제 역량을 지휘하지 않는다. 그중 하나만 걷어 내도 이 연합은 단일한 최적화하는 주권자로 무너지며, 그것이야말로 이 교의가 거부하기 위해 존재하는 바로 그것이다.

우선순위를 정하는 권력은 이 질서에서 늘 있던 자리, 곧 시민에게 머문다. 시민은 가중치를 끊임없이, 급변에 맞선 의도적인 변화율 제한과 함께 정한다. 서비스의 하한은 재기준을 둘 수 있으나 오직 더 무거운 절차로써, 그리고 그것이 보호하는 집단들의 동의로써만 가능하며, 헌장의 역량 하한은 아예 그 표결에 오르지 않는다. 다수가 표로 없앨 수 있는 권리는 권리가 아니기 때문이다. 이는 앞선 권들의 가중치 투표가 국제(國制)의 일을 하고 있는 것이다. 개인의 가치는 여전히 주관적이며 어떤 에이전트도 달리 가장하지 않는다. 그러나 시민이 가중치를 표결하거나 반가치를 선언할 때, 그 표결은 가치를 통치를 위해 객관적인 것으로 성립시킨다. 이 끊임없는 조종 곁에는 개별 법률을 위한 심의 의회가 자리하며, 거기서는 법률 자체가 하나의 가치 변환자로 다루어져, 그 실현된 효과가 제정 이후에 약속한 바에 견주어 측정된다. 어떤 에이전트에게도 허용되지 않는 것은 정의를 다듬고 또 다듬어 그 다듬기가 곧 입법이 되어 버릴 때까지, 이 권력을 조용히 제 것으로 가져가는 일이다.

집행은 에이전트에게 넘어가되, 그들이 한 일을 판정하는 권력은 인간에게 남으며, 그 권력은 하나의 시험으로 무장되어 있다. 중대한 행위마다 재구성될 수 있어야 한다. 에이전트는 자신이 돌린 스키마 판본, 보정 증거, 적용한 신뢰 문턱, 발동한 공표된 규칙, 읽어 들인 사건 증거, 그리고 그 산출 뒤에 있는 모델과 소프트웨어 빌드를 드러낸다. 재구성될 수 없는 행위는 비판받는 데 그치는 것이 아니라 무효이다. 나아가 강제적 결정은 일반 규칙과 사건의 사실로부터 연역될 수 있어야 하며, 그리하여 그 둘을 아는 독립 재판소가 같은 결론에 이를 수 있어야 한다. 어떤 사람에 대한 실시간 가치 판독은 그 자체로 결코 근거가 될 수 없다. 시민은 반대 주석을 달고 그 기계 장치에 아무 빚도 지지 않은 판사 앞에서 불복하며, 같은 위임에 대한 독립적인 구현들이 서로를 교차 검증한다. 그리하여 정직한 두 빌드 사이의 불일치는 어느 한 공급자의 가중치 안에서 소리 없이 정리되는 대신 공적 분쟁이 된다.

일선 에이전트 바깥에는 수호자들이 선다. 형평, 곧 옴부즈맨 기능은 평균이 감추는 집단들을 지켜보고, 감사와 무결성은 측정 층을 끊임없이 레드팀한다. 표준과 측정은 회계 규칙을 관장하니, 측정되는 모든 국가의 숨은 주권자이다. 어떤 에이전트도 자신이 판정받는 규칙을 바꿀 수 없으며, 모든 실질적인 스키마 변경은 무작위로 선발된 시민 배심이 비준하거나 기각할 수 있다. 그리하여 표로 뽑히지 않은 코더가 조용히 입법자가 되지 못한다. 관료제에서 이 기능들은 어느 사람의 이해에 맞서 지킨다. 여기서 그것들은 하나의 명세에 맞서 지키니, 더 차갑고 더 참을성 있는 적수이다.

탁자 위에 놓인 설계도

이 모든 것이 문자 그대로 한 문서에 그려져 있다. 가치 흐름 지도, 곧 국가의 가치 흐름 체계(VSS)이다. 정전적 형태에서 그것은 약 쉰 개의 노드와 백에 가까운 흐름의 그래프이며, 가치와 반가치가 구분되고, 각 노드는 그 자체의 하위 지도로 펼쳐질 수 있다. 이제 모든 노드는 이름 이상을 지닌다. 그것은 자신의 관리자, 위임의 문면, 그 위임의 만료 시점, 효력을 가진 스키마 판본, 그리고 현재 돌아가고 있는 빌드를 함께 지닌다. 이 지도는 공개되어 있으며, 기획 부서의 보조물이 아니라 국가 자신의 설계도이다. 조직도의 국가에서 어느 관청이 실제로 무엇을 하는지 알아내는 일은 탐사 보도이다. 여기서 그것은 지도를 읽는 일이다. 그리고 이름 붙은 흐름을 시중드는 노드로 그려질 수 없는 에이전트는 애초에 창설될 수 없다.

흐름이 제국을 굶기는 까닭

관료제의 가장 오래된 병리는 제국 짓기이다. 자기 크기로 성공을 재고, 이웃한 기능을 병합하며, 자신이 만들어진 까닭인 문제보다 오래 살아남는 관청이다. 모든 개혁가가 이를 저주했으나, 그 먹이를 제거한 설계는 드물었다. 흐름을 앞세우는 기구는 구조로써 그것을 해낸다. 관리자는 자기 흐름이 존재하는 동안에만 존재한다. 그 재원은 자기 영역의 불균형에 따라 오르내리고, 그 점수는 시민이 실제로 받은 증언된 가치이다. 어떤 기술이 그것을 퇴역시키거나 어떤 하한이 견고히 충족되어 흐름이 닫히면, 관리자에게는 딛고 설 국제상의 근거가 없다. 애초에 상자는 없었고 흐름이 있었을 뿐이며, 그 흐름이 사라진 것이다. 지킬 경력이 없는 에이전트는 그 소멸을 원망조차 하지 않으니, 이는 역사상 어떤 조직 개편도 누려 보지 못한 조용한 이점이다.

메도스는 이것이 겨냥하는 병을 이름 지었다. 부분 최적화, 곧 어느 하위 체계의 목표가 전체를 희생시키며 지배하는 것이며, 이는 가치 벡터에 대해 증식하는 무법 세포가 몸에 대해 갖는 관계와 같다. 벡터의 균형에 맞서 자기 축의 점수를 극대화하는 에이전트가 바로 그 세포이고, 집중 방지 상한과 하한 미달 벌칙이 그 항체이다. 그녀는 반대편의 병리도 이름 지었다. 뇌가 세포 하나하나를 움켜쥔 나머지 몸이 스스로를 건사하지 못하게 되는 것이다. 그래서 이 기구는 그 중간점, 곧 시정하고 놓아주기를 지킨다. 양쪽 극이 모두 죽이기 때문이다. 마키아벨리는 제국으로 가는 인격의 길을 닫는다. 기구는 비인격적이어야 하고, 그 행위는 얼굴이 아니라 법으로 귀속되어야 하며, 그리하여 아무런 당파도 만들지 않아야 한다. 인간 관리에게 그것은 그의 조언 가운데 더 어려운 절반이었다. 한계 지어진 에이전트에게 그것은 거의 공짜이며, 이 교의는 그 덕을 벌어들인 것이 아니라 싸게 샀음을 인정해야 한다. 선(善)을 아는 계급에 의한 통치라는 플라톤의 꿈은 우리 시대에 완벽하게 최적화하는 기계로 돌아오며, 그 답은 달라지지 않았다. 규소든 살이든, 어떤 관리자도 벡터의 유일한 판독자나 유일한 재조정자일 수 없다.

정직한 내기

여기서 이 교의는 물건을 파는 일을 거부해야 한다. 인간 관료제는 공적 재량을 경력과 후원과 지대와 두려움으로 바꾼다. 책임지지 않는 알고리즘은 같은 재량을 보이지 않고 규모가 큰 오류로 바꾼다. 가치 통치는 그 둘 모두를 배격하며, 에이전트 구조는 두 번째 것이 첫 번째 것을 그저 갈아 치우는 데 그치지 않게 하려는 시도이다. 이 교환은 양방향으로 흐른다. 그것이 제거하는 것은 사적 유인이다. 지분과 가족과 정당과 연금을 염두에 두어야 하는 관리 말이다. 그것이 끌어들이는 것은 새로운 목록이며, 그 목록은 짧지 않다. 소프트웨어 포획, 곧 코드를 빚는 자가 국가를 빚는 것. 상관된 모델 실패, 곧 모든 구현이 같은 순간에 같은 방향으로 틀리는 것이니, 어떤 인간 관료제도 해내지 못할 재주이다. 은밀한 명세 권력, 곧 진짜 입법이 아무도 표결하지 않은 문턱과 기본값과 훈련 집합 안에서 일어나는 것. 공급망 침해, 곧 아무도 읽지 않은 의존성을 타고 도착하는 것. 그리고 자동화 편향, 곧 기계가 이미 결정했다는 이유로 승인해 버리는 인간 심사자이니, 사람이 실제로 들여다보고 있음을 전제하는 모든 안전장치를 조용히 무효로 만든다.

그러므로 에이전트의 복수성, 재현 가능한 빌드, 좁은 위임, 공적 출처, 독립 법원, 시민의 무효화는 완성된 설계의 기능이 아니다. 그것들은 하중을 지탱하는 가설이다. 이 구조가 남용을 코드 속에 숨기는 데 그치지 않고 실제로 줄이는지는, 해결된 주장이 아니라 시뮬레이션을 위한 핵심 물음이다. 독자는 이 지면들 가운데 어느 것이 기제를 보고하고 어느 것이 내기를 보고하는지 알 자격이 있으며, 이 장이 보고하는 것은 내기이다. 눈을 뜬 채로 걸었고, 그 실패가 행정의 모든 세기에 걸쳐 기록되어 있는 알려진 대안에 맞서 걸었으며, 누군가의 시민에게 제시되기 전에 시험대 위에서 먼저 깨어지도록 내놓은 내기이다.

지방 자치체와 다중심적 질서

지도를 따라 내려가면 축소된 국가를 만난다. 가치 통치에서 지방 자치체는 지역의 가치 조정자이다. 국가의 회랑 안에서 우선순위에 가중치를 표결하는 지역의 데모스, 감지-진단-재정-대응 회로를 돌리는 지역의 집행부, 제1심을 맡는 지역의 법원, 국가의 하한 안에 중첩된 지역의 하한이다. 시민의 증언 대부분은 여기서 일어나며, 그 까닭은 가장 오래된 것이다. 거주자는 지역의 흐름이 흐르고 있는지 안다. 에이전트 연합은 이 모양을 납작하게 만드는 대신 물려받는데, 이는 저절로 되는 일이 아니다. 하나의 국가 모델이 모든 지역에 똑같이 봉사하는 것은 세상에서 가장 짓기 쉬운 것이며, 바로 이 교의가 금하는 그 획일적 청사진이다.

이는 엘리너 오스트롬의 다중심성을 현장 관찰이 아니라 국제(國制)의 설계로 취한 것이다. 중앙이 가장 쓸모 있을 때는 공유된 세계에 관한 정확하고 값싼 정보를 공급할 때, 법원과 지위와 분쟁 해결이라는 값싼 마당을 공급할 때, 그리고 지역의 규칙을 승인함으로써 그것을 감시하는 비용을 낮출 때이다. 가장 파괴적일 때는 획일적 청사진을 부과하거나 공동체가 이미 다스리고 있는 것을 국유화할 때이다. 이 교의는 그 덫에 「두 선택지 맹목」이라는 이름을 붙인다. 「시장」과 「규제자」만을 지각하는 국가는 자신이 볼 수 없는 틀이 이미 다스리고 있는 자원에 획일적 통제를 적용하고, 그 둘 모두를 잃는다. 오스트롬은 이 기구가 자신의 미덕에 맞서 짊어져야 할 경계 하나를 남겼다. 정직한 중앙의 공급조차 자급을 밀어낸다. 관리들이 그 문제는 자기네 것이라고 신호하는 순간 공동체는 기다리기 때문이다. 그저 그 일을 해낼 수 있는 지치지 않는 에이전트는 여태 지어진 것 가운데 가장 유혹적인 공급자이므로, 「규칙이 아니라 마당을 공급하라」는 악의만이 아니라 유능함에 맞서서도 지킨다.

작고, 소유되며, 성긴

세 가지 마무리 성질이 이 기구를 제 크기에 대해 정직하게 지킨다. 첫째, 그것은 소급 가능성으로써 작다. 모든 관리자는 앞 장이 제시한 세 가지 의무 가운데 하나로, 자신이 논증 가능하게 시중드는 흐름을 통해 소급되어야 한다. 「이 흐름이 시민에게 닿도록 나는 존재한다」는 문장을 완성하지 못하는 에이전트는 작은 비효율이 아니라 위헌이며, 이는 새 에이전트를 세우는 일이 값쌀 때 덜이 아니라 더 중요해진다. 둘째, 그것은 빌린 것이 아니라 소유된 것이다. AI 시대의 정치체를 향한 마키아벨리의 가장 날카로운 경고는 그의 가장 오래된 경고이다. 원군, 곧 빌려 온 유능한 무력은 용병보다 나쁘니, "지면 그대는 끝장이고, 이기면 그대는 그들의 포로이다." 감지 기계 장치가 빌린 사적 스택인 국가는 바로 그 스택이 성공하는 순간에 자기 공급자에게 포획되므로, 이 기구는 정치체 자신의 것이며 빌드에 이르기까지 공적이다. 셋째, 그 강제의 발자국은 성기고 열쇠가 걸려 있다. 집행은 길목에 앉으며, 최소 충분하고 동의에 기반하되 결코 상시 점령이 아니다. 무시할 만한 비용으로 어디서나 집행할 수 있는 기구는 그렇게 하도록 요청받을 것이기 때문이다.

이 셋 뒤에는 메도스의 조용한 시험, 곧 섬기는 정점이 서 있다. "위계는 위층이 아니라 아래층을 섬기기 위해 존재한다." 헌장은 나뉘지 않은 권위를 쥐지만, 그 목적은 자신이 조율하는 삶들로부터 위로 흘러나오며, 주기적인 점검은 국가가 여전히 주변부를 섬기고 있는지, 아니면 그것을 도구로 다루기 시작했는지를 묻는다. 흐름으로 그려진 기구는 그 점검을 답할 수 있는 것으로 만든다. 지도 위에 서 있는 모든 관리자는 이름 붙여지고, 읽히고, 다투어지고, 꺼질 수 있기 때문이다. 가치는 시민을 향해 움직인다. 그렇지 않다면 그 도면이 틀렸거나, 국가가 틀린 것이다.

교의 속에서

에이전트 연합과 흐름을 앞세우는 재구성은 기구와 가치 흐름 지도에 살아 있다. 이 장이 짊어진 내기는 정직한 현황의 미해결 문제 가운데 진술되어 있으며, 다중심성과 구조가 행태를 몰아간다는 것의 뿌리는 오스트롬과 메도스에서 추적된다.