메인 메뉴로 바로가기 주제분류 메뉴로 바로가기 본문으로 바로가기

수학산책

투표의 역설

완벽한 투표 방법은?

선거가 끝나면 많은 사람들이 아쉬워하기 마련이다. 우리나라에서 선거에서는 당선자가 50%의 지지표를 얻지 못하고 당선되는 경우가 상당히 많이 생기는데, 그런 선거구민의 아쉬움은 더 크다. 그런 곳에서는 자신이 지지한 후보가 당선된 주민보다 그렇지 못한 주민이 더 많기 때문이다.

다수결이 최선일까?

투표 방법도 다양하며 이를 수학적으로 해석할 수 있다.

현행 선거법으로는 득표수가 가장 많은 후보가 당선되는데, 다른 방법으로 선거를 할 수는 없을까? 선거 결과가 불공평하게 생각되는 경우도 많은데, 혹시 만인이 납득할 수 있는 선거 방법을 없을까? 선호하는 후보를 뽑는 투표의 원리에 수학을 적용하여 보자.

민주주의는 국민의 뜻을 최우선으로 하여 정책을 결정한다. 이 과정에서 서로 다른 의견을 가진 집단끼리 대립이 일어날 수 있고, 이 대립을 해소하기 위해 상당한 기간 동안 협상과 설득, 토론이 이어진다. 충분한 논의 끝에 합의에 이르면 정책이 결정되고, 비록 그 정책에 반대했던 집단이라도 일단은 그 정책을 실행하는 데에 협조하게 된다. 물론 이것은 이상적인 상황이어서, 현실이 항상 이렇지는 않는다. 이것은 국민의 대표들이 모여 정책을 결정하는 간접민주주의의 한계이기도 하지만, 잘못된 정보와 신념을 바탕으로 올바르지 않은 일에 국민 대다수가 지지를 보내는 상황도 있었음을 생각하면, 민주주의라는 이념과 다수결이라는 제도를 동일시하는 것이 얼마나 위험한지 알 수 있다.

다수결 제도의 문제점

이런 상황은 선거에서도 흔히 일어난다. 국회의원을 뽑는 현행 제도는 전형적인 다수결 제도이다. 이 방식은 가장 많은 표를 얻은 후보가 당선되므로 언뜻 보기에 합리적이고 별 문제가 없는 좋은 제도처럼 보인다. 과연 그럴까?

어느 지역구에 출마한 세 후보의 득표율을 조사해 보니 A가 40%, B가 33%, C가 27%였다고 하자. 40%의 득표율을 보인 A 후보가 당선되는 데 아무 문제도 없어 보인다. 그런데 사전 여론 조사에서 A 대 B, B 대 C, A 대 C로 의견을 물었더니 B와 C가 모두 A 를 꺾는 것으로 나왔다면 어떨까? 즉, B와 C를 지지한 유권자는 모두 A를 싫어하는데, A, B, C가 모두 후보로 나오면서 A를 싫어하는 유권자의 표가 B와 C로 분산되는 바람에 어부지리로 A가 당선된 것이다. 이렇게 되면 낙선한 B와 C뿐 아니라 60%(=33%+27%)에 달하는 유권자가 선거 결과에 불만을 갖게 된다. 이 문제를 해결하려면 B와 C가 후보단일화를 하면 되겠지만, 이것도 간단한 문제는 아니다. 예를 들어, B와 C가 대결하면 B가 이기지만, A 대 B와 A 대 C의 대결에서는 C가 압도적으로 A를 이길 수도 있기 때문이다. 이 경우에는 누구를 후보로 단일화해야 하는지 골치가 아파진다.

콩도르세의 역설(투표의 역설)

다수결이 만능이 아니라는 사실을 보여주는 예로는 프랑스 대혁명 시대의 정치가이자 수학자인 콩도르세(Nicolas de Condorcet)가 발견한 역설이 유명하다. 이를 투표의 역설이라고 한다.

세 후보 A, B, C에 대해 사전 여론 조사를 하였더니, 유권자의 1/3은 A>B>C 순으로 후보를 선호하고, 다른 1/3은 B>C>A 순으로, 나머지 1/3은 C>A>B 순으로 후보를 선호하였다고 하자. 이 경우 A 대 B에서는 A가 과반 득표를 하고, B 대 C에서는 B가 과반 득표를 한다. 그렇다면 A와 C가 대결하면 어떻게 될까? A>B이고 B>C이니 당연히 A>C일 것 같지만, 실제로는 A 대 C에서는 C가 과반 득표를 하게 된다.

 이미지 1

이런 역설은 선거에서 당선되는 후보라면 다른 어느 후보와 일대일로 대결해도 이길 것이라는 착각 때문에 발생한다. 유권자 한 명 한 명은 선호도에 따라 후보를 한 줄로 줄 세울 수 있을지라도, 전체적인 투표 결과로는 그렇지 못한 상황이 가능하다. 마치 가위바위보에서 가위는 보를 이기고, 보는 바위를 이기지만, 가위가 바위를 이기지는 못하는 것과 비슷하다. 이런 예를 보면 투표라는 것은 애초에 순위를 정할 수 없는 것을 억지로 줄 세우려는 것일지도 모르겠다. 그렇다고 투표 제도를 아예 없앨 수는 없는 일이니, 결국 문제는 이 줄 세우는 과정이 얼마나 그럴 듯하고, 어떻게 유권자의 합의를 이끌어낼 수 있느냐가 되겠다.

다양한 투표 방법

결선투표 - 1차 투표에서 1, 2위를 뽑고 결선 투표로 결정

과반수 유권자가 싫어하는 후보가 뽑히는 것이 문제라면, 역으로 마음에 들지 않는 후보를 떨어뜨리는 투표도 가능하다. 문제는 후보가 많은 경우 투표를 여러 차례 해야 한다는 점이다. 이런 점에서 타협점에 해당하는 제도가 결선 투표이다. 과반 득표자가 나오면 당선 확정, 그렇지 못한 경우 상위 1, 2위를 대상으로 결선 투표를 진행한다. 단 한 명을 뽑는 선거라면 유권자의 의견도 대체로 잘 반영하면서 비용도 비교적 적게 드는 제도라 할 수 있지만, 그렇다고 해서 이 방식이 완벽한 것은 아니다. 실제로 이 방식을 적용하는 프랑스 대통령 선거에서 문제가 생긴 경우가 있다. 2002년 대선에서 결선에 오를 유력한 후보는 좌파 조스팽(Lionel Jospin)과 우파 시라크(Jacques Chirac)였고, 여론 조사 결과, 결선 투표에서 조스팽을 지지하겠다는 유권자가 더 많았다. 그러나, “결선에만 오르면 누구라도 시라크에게 이길 수 있다”라는 생각에 좌파 후보가 난립하였고, 이 바람에 정작 결선에 오른 후보는 우파 시라크와 극우파 르펜(Jean-Marie Le Pen)이었다. 좌파를 지지하던 유권자는 어쩔 수 없이 결선 투표에서 시라크에게 표를 던질 수밖에 없었고, 그 결과 좌파를 지지하는 유권자가 반이 넘었음에도 시라크는 압도적인 지지율로 당선이 되었다. 표를 가장 적게 얻은 후보를 탈락시키는 선거를 반복해서 한다면 아마도 최종적으로는 조스팽이 당선되었겠지만, 이런 방식은 지나치게 번거롭다.

2002년 프랑스 대선 포스터. 후보의 난립으로 1차 투표에서 불과 19.88%의 지지를 받은 자크 시라크가 결선 투표에서 당선되었다.


1인 2표 방식 – 유권자 1인당 2표를 행사함

선거에서는 대부분 한 명에게만 투표를 할 수 있는데, 자신이 선호하는 후보가 두 명 이상인 경우, 어느 한 명을 포기해야 하는 문제가 있다. 만약 두 명 이상에게 투표할 수 있다면 과반수가 싫어하는 후보가 상대적으로 적은 표를 얻게 되어, 이 역시 유권자의 합의를 이끌어낼 만한 방법이다. 그러나 이상과 현실은 다른 법이어서, 이 방식에는 부작용이 있다. 유권자가 세 개의 큰 집단 A, B, C로 나뉘어 있고, 각 집단에서 후보가 나왔다고 하자. 세 집단의 규모가 A집단이 41명, B집단이 39명, C집단이 20명이라고 하면, 단순한 다수결 투표로는 A집단의 후보가 가장 유리하다. 이제 유권자 한 명이 반드시 두 명에게 투표하는 방식을 적용해 보자. A집단의 유권자는 일단 한 표는 자기 집단의 후보에게 던지지만, 다른 한 표는 B집단의 후보에게 던지지 않을 것이다. B집단 후보를 견제해야 되기 때문이다. 그렇다면 다른 한 표는 C에게 갈 수밖에 없다. B집단도 마찬가지로 한 표는 자기 집단의 후보에게, 다른 한 표는 A를 견제하려고 C에게 던지게 된다. 그러나 C집단 유권자는 A도 견제해야 되고 B도 견제해야 된다. 따라서 만약 C집단이 한 표는 자기 집단 후보에게 던지고, 다른 한 표는 정확히 반씩 나누어 A와 B집단 후보에게 던졌다고 하자. 이제 표 계산을 해 보면, A집단의 후보가 얻는 표는 41+20/2 = 51표, B집단의 후보가 얻는 표는 39+20/2 = 49표인데, C집단의 후보가 얻는 표는 41+39+20 = 100표가 되어, 압도적인 차이로 C집단의 후보가 당선된다. A집단과 B집단이 서로 상대방 후보를 견제하려다, 단순 다수결로는 가장 지지율이 낮은 후보가 당선되는 이상한 상황이 벌어진다.

1인 2표 방식의 선거제도에서 불합리한 상황이 발생하는 가상의 상황 지지율이 가장 낮은 C 집단의 후보가 당선된다.


보르다 투표 – 후보에 순위를 매겨 총점으로 결정

투표 제도의 가장 큰 문제점이라면 유권자의 다양한 선호도를 반영하지 못하는 점이라 할 수 있다. 가장 선호하는 후보를 쓰도록 하면 과반수가 싫어하는 후보가 당선될 수 있어 문제이지만, 그렇다고 가장 싫어하는 후보를 쓰도록 한다고 해서 과반수가 좋아하는 후보가 당선되는 것도 아니다. 이런 점을 보완하는 방식으로 제안된 것이 보르다 투표이다. 이 방식은 콩도르세와 같은 시기에 활동하였던 프랑스의 수학자 보르다(Jean-Charles de Borda)가 제안한 것으로, 유권자는 선호도에 따라 후보에게 순위를 매겨 투표한다. 집계는 순위에 따라 가중치를 주어 계산한다. 예를 들어, 1위는 10점, 2위는 9점, 이런 식으로 계산하여 최종 점수가 가장 높은 후보가 당선된다. 이 방식은 다양한 선호도를 반영한다는 점에서는 훌륭하나, 여러 번 1위를 차지한 후보가 한 번도 1위를 못한 후보에게 총점으로 밀리는 현상이 발생할 수 있어 역시 완벽하게 합리적이라 하기는 어렵다.

보르다 투표를 쓰는 사례를 들어보자. 미국의 메이저리그야구에서는 MVP를 선정할 때 이와 같은 방법을 쓴다. 투표권을 가진 기자가 뛰어난 선수를 1등부터 10등까지 선정하여 투표하며, 1등에는 14점, 2등은 9점, 3등은 8점, 4등은 7점, …, 10등은 1점으로 점수를 부여한다. 그리고 총점을 가장 많이 획득한 선수가 그 해의 MVP로 선정된다. 보통은 1위 표를 많이 획득한 선수가 총점에서도 앞서기 마련이지만 예외적으로 1위 표를 가장 많이 획득한 선수가 MVP를 받지 못하는 경우도 생긴다. 최근의 예로는 1999년 AL MVP 투표에서 페드로 마르티네즈가 이반 로드리게스보다 1위표를 더 받고도 총점에서 밀려 MVP를 받지 못한 경우가 있었다.

애로의 불가능 정리 – 완벽한 투표 방식은 없다

이쯤 되면, 과연 완벽한 투표 방식이 존재하는지 의심스러워진다. 투표 방식이야 얼마든지 다양하게 만들 수 있겠지만, 혹시 어떤 방식이든 문제가 발생하지는 않을까? 이러한 의문을 가진 사람은 경제학자 애로(Kenneth Arrow)였다. 애로는 투표 방식을 수학적으로 다루기 위하여, 먼저 모든 유권자는 후보 전체의 순위를 결정할 수 있고, 자유 의지에 따라 투표하며, 다른 유권자와 독립적으로 후보의 순위를 결정하는 것으로 생각하였다. 우리가 보통 생각하는 투표가 이런 기본 조건을 가정하고 있으므로 별로 이상할 것 없다. 이제 이런 전제 조건 아래, 애로는 완벽한 투표 방식이 갖추어야 할 다섯 가지 조건을 생각하였다.

첫째, 투표 결과 전체 후보의 순위를 결정할 수 있어야 한다. 단순 다수결 방식의 경우, 득표율에 따라 후보 전체의 순위를 결정할 수 있다.
둘째, 투표 결과는 오로지 각 유권자의 선호도 순서에 의해서만 결정되지, 주사위를 던져서 최종 순위를 바꾸거나 하지는 않는다.
셋째, 모든 유권자가 후보 A를 후보 B보다 더 선호한다면, 최종 결과에서도 후보 A가 후보 B를 이겨야 한다.
넷째, 최종 결과에서 후보 A가 후보 B를 앞설 때, 다른 후보 C가 추가되거나 삭제되어도 여전히 후보 A는 후보 B를 앞서야 한다.
다섯째, 혼자서 투표의 결과를 뒤집을 수 있는 독재자가 없어야 한다.

위의 다섯 가지 조건은 너무나 자연스러워서 완벽한 투표 방식이라면 당연히 다섯 가지 조건을 모두 만족해야 할 것 같다. 그런데 놀랍게도, 애로는 자신의 박사 학위 논문에서 위의 조건을 모두 만족하는 투표 방식이 존재할 수 없음을 증명하는 데 성공하였다. 완벽한 투표 방식이란 존재할 수가 없는 것이다. 애로는 이 “불가능성 정리”를 비롯한 여러 업적으로 1972년 노벨 경제학상을 수상하였다.

이 정리를 증명하는 방식은 대개 앞의 네 조건을 만족하는 투표 방식이라면 다섯 번째 조건이 성립하지 않음을 보이는 것이다. 가끔 이것을 오해하여 민주주의는 결국 독재자가 나타날 수밖에 없다는 식으로 주장하는 사람도 있는데, 그야말로 수학적 증명을 오해하고 있다 하겠다. 이 정리에 따르면, 투표 제도는 모순적일 수밖에 없고 따라서 민주주의의 한계가 드러난 것처럼 보이기도 한다. 그러나 뒤집어 보면, 정치적인 결정은 단순히 투표로 결정되어서 안 되며, 수많은 토론과 협상을 통해 합의를 이끌어 내는 방식으로 진행되어야 한다는 우리의 이상을 지지해 준다고 할 수도 있다.


발행일

발행일 : 2012. 04. 12.

출처

제공처 정보

  • 박부성 경남대학교 수학교육과 교수

    서울대 수학교육과를 졸업하고, 서울대 수학과에서 석사, 박사 학위를 받았다. 고등과학원 연구원을 거쳐 현재 경남대학교 수학교육과 교수로 재직 중이다. 저서로는 <재미있는 영재들의 수학퍼즐 1,2>와 <천재들의 수학노트>가 있다. 또한2014년 서울 국제수학자대회 조직위원회 문화분과부위원장으로 대회를 준비하고 있다.

본 콘텐츠의 저작권은 저자 또는 제공처에 있으며, 이를 무단 이용하는 경우 저작권법 등에 따라 법적책임을 질 수 있습니다.
외부 저작권자가 제공한 콘텐츠는 네이버의 입장과 다를 수 있습니다.

위로가기