컴퓨팅의 폭정

2025년 7월 20일

우리는 끊임없는 인지적 공격을 받고 있다.

비행기 표를 사는 일은 지뢰밭을 건너는 일과 같다. 한 번의 오클릭으로 지갑에 구멍이 난다.

공과금 청구서의 실수를 바로잡는 일은 전술 작전이다. 대기 음악 함정을 피하고, 챗봇을 따돌린 뒤, 왜 내가 이웃의 요금을 내지 않아도 되는지 상담원을 설득해야 한다.

우리의 결정은 직접적인 위협이나 대놓고 한 거짓말에 의해 좌우되지 않는다. 정부와 기업은 우리의 인지를 압도하도록 손발을 맞추고, 우리의 약화된 상태에서 이익을 거둔다.

일상적인 활동에 점점 더 많은 생각을 요구한다. 그건 나쁘다. 그리고 컴퓨터가 그걸 더 악화시켰다.

그게 바로 컴퓨팅의 폭정이다.

폭정의 요약

컴퓨팅의 폭정이란 삶의 모든 영역에서 복잡성이 빠르게 증가하는 현상을 말한다. 그 과정에서 비용(시간, 돈, 제정신)은 우리가 부담하고, 큰 위험에 노출된다. 더 많은 기관이 우리에게 복잡성을 떠안기고, 규칙을 정하는 데 우리 의견은 거의 반영되지 않으며, 단순화할 유인은 없다. 값싼 계산 능력이 이 모든 것을 가속한다.

요지가 그거다. 이제 자세히 보자.

복잡성의 부담은 우리의 몫

세무 당국에서 편지가 왔다. 내가 세금을 잘못 계산해서 이미 낸 것보다 더 내야 한다는 내용이었다. 돈을 돌려달란다.

문제는, 그들이 틀렸다는 것이다. 세무 당국이 자기들 규정을 잘못 적용했다. 이젠 내가 회계사를 고용하고, 옛 기록을 뒤지고, 왜 그들이 틀렸는지 소명해야 한다. 내 삶의 수십 시간을 날리고, 수백 파운드를 쓴다. 내가 받은 편지는 자동화 시스템이 수천 통 뿌린 것 중 하나다. 그들에게는 거의 비용이 들지 않고, 누군가 대응하지 못하면 내 돈을 가져간다.

그게 바로 _복잡성 비용 비대칭_이다. 정부는 복잡한 세제 시스템을 만들었고, 단순화될 기미는 없다. 비용 구조는 끔찍하게 비대칭적이다. 세무 당국은 비용을 모든 납세자에게 분산시키지만, 개별 납세자는 문제가 생길 때마다 자신의 시간과 돈을 써서 해결해야 한다.

더 나쁜 건, 위험 또한 개인에게 불리하게 기울어 있다는 점이다. 세무 당국은 누군가의 탈세를 잘못 지목해도 아무 처벌을 받지 않지만, 개인은 거액의 벌금이나 심지어 구금까지 당할 수 있다.

그리고 복잡성을 제어할 장치가 없다. 납세자에게 점점 더 큰 인지적 부담을 지우는 데 대해 세무 당국이 겪는 실질적 불이익은 거의 없다. 부담은 이미 높다. HMRC가 나에게 "£500을 내라, 아니면"이라고 하면, 나는 그냥 낸다. 그게 더 싸게 먹힌다.

이 이야기에서 그나마 견딜 만한 점은, 이런 불운한 상황이 자주 벌어지지는 않는다는 것이다. 비용은 떠안아야 하지만, 대개는 시간을 내서 처리할 수 있다.

안타깝게도, 일상적 인지 부담을 키우는 건 정부뿐만이 아니다. 사방에서 공격이 쏟아지며, 안전한 삶의 영역이란 없다.

모두가 당신의 뇌 한 조각을 원한다

무선 헤드폰을 사려 한다고 해보자. "best wireless headphones 2025"를 검색하면, 전부 다 거기서 거기인 수상쩍은 사이트들이 내놓은 서로 비슷비슷한 목록이 끝도 없이 펼쳐진다.

인터넷이 처음인 것도 아니라서 검색어에 "site:reddit.com"을 붙였다. 닉네임 끝에 숫자 네 자리가 달린 계정들이 같은 헤드폰을 추천하는 것처럼 보인다. 뭔가 수상하다. 그럼 기술 사양을 비교해보자.

찾기도 어렵고, 제조사마다 같은(혹은 비슷한) 개념에 서로 다른 용어를 쓴다. 제시되는 측정값도 정확히 비교할 수가 없다. 왜 이렇게 복잡할까?

그렇게 세 시간은 날아가고, 그 시간은 돌아오지 않는다. 대신 인스타그램에서 봤던 예쁜 파란색을 산다.

새삼스러운 일도 아니다. 인터넷 광고 전쟁은 오래전부터 이어졌다. 새롭게 달라진 건 _사람들에게 제대로 된 결정을 내릴 시간이 없다는 것_이다. 필요한 정보를 얻는 비용은 더 비싸졌고, 일상생활의 요구를 감당하고 남는 우리의 사고력은 바닥나고 있다.

모두가 당신의 뇌를 노리고, 뇌는 타버리고, 그들은 당신의 나쁜 결정을 돈으로 만든다. 인센티브는 분명하다. 당신의 인지를 낮은 상태로 유지하라, 그러면 우리가 더 많이 번다.

여보세요? 거기 누구 없나요?

첫째, 컴퓨터는 조직이 개인과의 접촉을 피하도록 돕는다. 오래전부터 전화 대기 줄은 길었다(“현재 통화량이 평소보다 많아 연결이 지연되고 있습니다”). 낡은 수법이다. 이제는 AI가 붙은 챗봇이 있다. 더는 웹사이트에 “Speak with a human being” 버튼이 눈에 잘 띄게 있지 않다. 먼저 게임을 해야 한다. 챗봇에게 당신의 문제가 사람과 대화할 만큼 중요한 일임을 설득해야 한다.

AI 챗봇이 고도화될수록, 기관은 더 큰 개연성 있는 부인 거리를 확보한다. 봇은 단순 문의의 대량 처리를 돕고, 해결까지 걸린 시간 통계는 근사하게 나온다. 물론 도움을 끝내 받지 못한 사람들은 제외하고 말이다. 무한대의 해결 시간은 분기 보고서에 보기 좋지 않다.

둘째, 마침내 연결된 사람도 당신에게 해줄 수 있는 일이 많지 않다. 그들은 문서화된 절차에 묶여 있고, 거기서 벗어나면 안 된다. 자신이 일하는 회사에 대해서도 제한된 시각만 갖고 있어, 당신 문제를 충분히 이해해 도와줄 수 없다.

그게 자동화의 아이러니이다. 기관 내부 절차의 복잡성은 규칙을 설계·구현한 사람들에게조차 판독 불가능한 수준으로 치솟고 있다. 아무리 선의로 도우려는 사람이라도 도울 수 없다. 방법을 모르고, 알 수도 없다.

선택지는 둘뿐이다. 선택지 하나: 포기하고 비용을 떠안는다(예: 가짜인 줄 알면서도 청구된 추가 금액을 낸다). 선택지 둘: 변호사를 선임한다.

불합리한 컴퓨터들

대부분의 민주사회에서 최종적인 구제수단은 법정이다.

상대방이 불합리하다면, 이를테면 전기회사가 이웃집 공과금에 대한 책임이 당신에게 있다고 주장한다면, 어느 순간에는 소송을 제기해야 한다. 그리고 소송은 비싸다.

엄청난 시간이 들고, 변호사는 시간당 £250이나 들고, 과연 이길 수 있을지 모르는 마비에 가까운 불확실성이 따른다. 기억하라. 법정에서 중요한 건 옳고 그름 그 자체가 아니다.

여기서 컴퓨터는 왜 욕을 먹는가? 문제의 핵심은 알고리즘은 공짜지만 변호사는 시간당 £250이라는 점이다.

컴퓨터는 인간의 시간을 더 비싸게 만든다. 일종의 보몰의 비용병 논리다. 자동화가 진행될수록, 한 사람이 한 시간에 해낼 수 있는 일이 많아지고, 그럴수록 인간 시간의 가격은 올라간다.

컴퓨터는 또한 조직이 규모의 경제로 불합리하게 굴도록 돕는다.

수십 년 전만 해도, 어떤 조직이 당신에게 청구서를 보내려면 직원이 편지를 타이핑하고, 주소를 쓰고, 발송해야 했다. 잘못 청구한 경우에는 전화를 받는 사람을 두고, 문제 해결에 시간을 들여야 했다. 비용이 아주 크진 않아도, 무시할 수준은 아니었다.

컴퓨터 시대에는 다르다. 애널리스트에게 SQL 쿼리를 쓰게 하고, 자동으로 수천 통의 이메일을 생성해 발송하면 그만이다. 지원 비용도 훨씬 낮다. 대부분의 사람은 한 시간을 기다린 끝에, 모든 길이 “chat with us”로 통하는 미로 같은 안내를 듣고는 포기한다. 그리고 그 채팅은 명백히 형편없는 AI 에이전트로, 최대한 오래 사람에게 닿지 못하게 막는 것이 유일한 목표다.

더 나쁜 점은, 이렇게 대규모로 불합리하게 굴 수 있는 능력이 당신이 상호작용하는 거의 모든 기관·단체·기업에 열려 있다는 것이다. 당신의 대학, 이동통신사, 공과금 회사, 지방정부, 은행, 카드사 등등 모두가 그렇다. 당신은 더 많은 상대를 상대해야 하고, 그들 각자는 당신의 삶을 지옥으로 만들 수 있다. 한계비용은 0인 채로.

아무의 잘못도 아니다

보험이 거절당했다. 이렇다 할 이유도 없어 보인다. 은행 계좌를 열지 못하고 “사유를 물을 수 없다”는 답만 듣는다. 누구의 잘못인가?

컴퓨터는 실수하지 않는다. 알고리즘은 편향이 없다. 이런 건 흔한 거짓말이다. 기업과 정부가 책임을 피할 때 쓰는 말. 예전부터 사랑받던 "규정이 이렇습니다, 도와드릴 수 없어요"의 변주판이지만 더 교묘하다. 시스템이 복잡하고 불투명할수록 악의를 입증하기가 더 어렵기 때문이다.

책임 세탁은 전 세계 정부와 기업이 즐겨 쓰는 오래된 기술이다. 컴퓨터 덕에 더 쉬워졌지만, 여전히 약간의 기술은 필요하다. 엔지니어에게 “알고리즘이 이런 사람들을 거부하게 만들어라”고 대놓고 이메일을 보낼 수는 없다.

그래도 행운의 ‘우연’은 생긴다. 알고리즘을 배포했더니 이전 것보다 약간 더 성능이 좋은데, 우연히 이런 사람들에게 대출을 거절하는 비율이 조금 더 높아졌다. 미안, 그러니까 3분기 매출이 늘었다는 뜻이다. 그러니 우리는 같은 방향으로 알고리즘을 계속 개발한다.

특히 유럽연합을 중심으로, 사람들이 알고리즘의 자비에만 맡겨지지 않도록 하려는 노력이 진행 중이다. 이런 움직임은 내 마음에 낙관을 준다. 하지만 충분하지는 않다.

그 사이 매출은 계속 늘고, 개인은 계속 당하고, 아무도 잘못이 없다.

그럼 우리는 어디에 서 있는가?

내가 묘사한 문제는 새롭지 않다. 고전적 자본주의 비판이 일부 섞였고, 조금은 엉성하게 베껴 쓴 카프카 이야기다. 그래도 계산(컴퓨팅)과 이 문제들을 이어 묶는 새로운 표현이 필요하다.

큰 양적 변화는 질적 변화와 구분되지 않는다. 값싼 계산 능력이 서구 사회와 만나면 그렇게 된다. 사람들은 감당 가능한 수준 이상의 복잡성을 만들지는 않을 것이라는 배경 가정 위에서 사회가 작동해 왔다.

컴퓨터가 그 전제를 바꿔 놓았다. 기업과 정부 같은 큰 플레이어는 개인에 비해 거대한 제도적 우위를 얻었다. 그들은 규칙을 만들지만, 규칙이 깨질 때 비용을 지지 않는다. 그들은 일상의 복잡성을 키우고, 벌을 받기는커녕 그 대가로 보상을 받는다.

예전에는, 남의 시간을 낭비할 때마다 사람의 시간이 들었다. 편지를 쓰고 보내는 데 몇 분이 들고, 받는 사람이 처리하는 데 며칠이 걸리는 식으로 차이는 있었지만 말이다. 그래도 각 조직이 남의 시간을 낭비할 수 있는 잠재력에는 상한이 있었다. 이제 그런 상한은 없다. 인간의 한 시간을 낭비하는 한계비용이 0이기 때문이다.

나를 가장 괴롭히는 건, 이 광기의 가장 큰 비용이 경제적이 아니라 도덕적이라는 점이다. 우리는 아무런 타당한 이유 없이 사람들의 삶을 낭비하고 있다.

사람 80년의 시간을 낭비하는 일이, 누군가의 삶을 끝내는 일과 그렇게까지 다르게 느껴져야 할까? 우리는 정말 유일하게 진짜로 제한된 자원, 여기서의 우리의 시간을, 소수에게만 이익이 되는 음수합 게임에 계속 바칠 생각인가? 왜 우리는 우리 주변의 폭정과 평화롭게 공존하고 있는가?

이상적으로라면, 여기서 “해법” 섹션으로 이어졌을 것이다. 그러나 문제를 알아챘다고 해서 문제를 고칠 그럴싸한 아이디어가 따라오는 것은 아니다.

나는 사람들이 위에서 묘사한 문제들을 인식하고, 그것을 부를 이름을 갖길 바란다. 해법은 아마도, 아니 거의 반드시, 복잡성의 부담을 모두는 아니라 해도 일부라도 그 복잡성을 모두에게 전가하는 기관들이 지도록 만드는 데서 시작해야 할 것이다. 그게 출발점이다.