기구: 조직도가 아니라 가치 흐름
가치 통치의 기구는 부처가 아니라 가치 흐름을 중심으로 조직된, 공적으로 소유되고 독립적으로 구현된 AI 에이전트의 연합이다. 그것들은 판본이 매겨진 규칙 아래에서 감지하고, 대조하고, 계산하고, 경로를 정하고, 공표하며, 일상적 행정 행위를 집행한다. 그것들에는 사유 재산도, 가족의 이해도, 선거의 야심도, 승진의 사다리도, 후원의 연결망도 없다. 재량적 관료제를 에이전트로 대체하는 것은 남용의 동기와 통로를 많이 제거하지만, 마술처럼 권력을 안전하게 만들지는 않는다.
안전은 구조에서 온다. 어떤 에이전트도 자신이 적용하는 가치를 쓰거나, 자신이 집행하는 측정 스키마를 저술하거나, 자신의 위임을 스스로 바꾸거나, 같은 흐름을 감지하면서 동시에 그로부터 이익을 얻거나, 모든 강제 역량을 지휘하지 않는다. 측정 스키마는 §8의 독립적인 공적 절차에서 나오며, 에이전트는 중대한 행위마다 그 배후의 정확한 스키마 판본, 보정 증거, 신뢰 문턱, 규칙, 사건 증거, 모델, 소프트웨어 빌드를 드러낸다. 재구성될 수 없는 행위는 무효이다.
독립적인 구현들이 서로를 교차 검증하고, 시민은 반대 주석을 달고 불복할 수 있으며, 헌장은 최적화가 보호된 경계를 넘기 전에 에이전트를 멈춰 세울 수 있다. 이 스택은 공개되어 있고 정치체가 소유하며, 그 성공이 국가를 그에 의존하게 만들 공급자에게서 결코 빌려 오지 않는다.
무엇을 뜻하는가
「부처들이 무엇인가」가 아니라 「어떤 가치 흐름에 관리자가 필요한가」를 물으라. 경계 지어진 각 흐름은 좁고, 철회 가능하며, 기한이 정해지고, 눈에 보이는 에이전트 위임을 받는다. 에이전트는 공적 가중치를 정하지도 않고, 자신이 집행하는 측정 스키마를 저술하지도 않는다. 그것은 중대한 행위마다 그 배후의 정확한 스키마 판본, 보정 증거, 신뢰 문턱, 공표된 규칙, 사건 증거, 모델, 소프트웨어 빌드를 인용한다. 권리에 영향을 주거나 강제하는 결정은 일반 규칙과 사건의 사실로부터 연역될 수 있어야 하며, 어떤 사람이나 집단에 대한 실시간 Æ 판독은 그 자체로 결코 근거가 될 수 없다. 독립적인 인간 법원이 분쟁을 심사하고 그 기계 장치를 정지시킬 수 있으며, 시민은 가중치와 위임과 헌장에 대한 구성적 권한을 간직한다.
가치 통치에 왜 필요한가
인간 관료제는 공적 재량을 경력과 후원과 지대와 두려움으로 바꿀 수 있다. 책임지지 않는 알고리즘은 같은 재량을 보이지 않고 규모가 큰 오류로 바꿀 수 있다. 가치 통치는 그 둘 모두를 배격한다. 그것은 에이전트를 써서 사적 유인을 제거하고 읽어낼 수 있는 행정을 자동화하되, 그 코드와 권한과 증거와 산출과 실패 양상을 공개되고, 한계 지어지며, 복수이고, 다툴 수 있는 것으로 만든다.
다른 접근과의 비교
이는 피통치자에게 책임지는 감시자를 갖춘 오스트롬의 다중심적이고 중첩적인 거버넌스 (오스트롬)와, 제도와 조직을 구별하는 노스의 이론 위에 세워지며, 후자는 반포획 감시를 조직적 포획으로 다시 겨누게 한다 (노스). 빌리지 않고 자기 소유한다는 규칙과 공정한 중재자의 분리는 마키아벨리에게서 비롯하고 (마키아벨리), 비인격적 교정자와 양도 불가능한 원장은 공자와 마키아벨리에게서 비롯한다 (공자). 그것은 인격주의적 통치자도, 거대 기술기업에 외주된 국가도 모두 배격한다. 그것이 의거하여 작동하는 가중치를 누가 정하는가는 §8이다.