영화 '뷰티풀 마인드'에는 주인공인 존 내쉬와 그의 친구들이 바에서 친구들과 함께 온 금발의 여인에게 반하는 장면이 나온다. 친구들은 금발의 미녀를 얻기 위해 그녀에게 접근하려하지만 내쉬는 그렇게 생각하지 않는다. 모두가 그녀에게 접근한다면 그녀는 거절할 것이다. 꿩 대신 닭으로 그녀의 친구들에게 접근해도 매몰차게 거절할 것이다. 그렇다면 '만약 우리들 중 누구도 금발에게 가지 않는다면?'

금발의 미녀와 그녀의 친구들에게까지 거절당할 것을 예상한다면, 처음부터 미녀의 친구들에게 접근한다. 그럼으로써 친구들끼리의 쟁탈전도 없고, 다른 여자들에게도 상처를 줄 일도 없게 되는 것이 성공의 비결이자 모두가 제 짝을 찾을 수 있게 되는 유일의 방법이다. 이것이 후에 게임이론으로 노벨 경제학상을 수상하게 되는 존 내쉬(John Nash)의 ‘내쉬균형(Nash Equilibrium)’ 탄생 비화이다.

상대방이 어떻게 생각할지를 미리 내다보고(상대방의 전략을 주어진 것으로 보고) 거기에 맞는 가장 최선의 대응책을 모색하여(자신에게 최적인 전략을 선택할 때) 서로가 자신의 선택을 바꾸지 않는 상태(최적 전략의 짝)가 '내쉬 균형(Nash Equilibrium)'이다. 이렇듯 게임이론은 이해가 상충되는 경쟁적 상황에서 자기의 이득을 최대화하려고 할 때, 어떤 전략을 선택하여야 하는가를 연구하는 분야이다.

통신시장은 다양한 게임이론으로 설명할 수 있다. 현재 통신시장은 제로섬게임(zero-sum game)이라고 할 수 있다. 제로섬 게임의 쉬운 예는 가위바위보이다. 만약 '무승부'가 없다고 가정한다면 무조건 승자와 패자가 나타난다. 즉 승자의 득점과 패자의 실점의 총합이 '0(zero)'가 되는 것이며, 승자가 되기 위해서는 상대방의 점수를 빼앗아야하기 때문에 한쪽이 이득을 취하면 다른 한쪽은 손해를 볼 수밖에 없는 상황이다.

얼마 전까지도 통신사들은 지나친 보조금 지원 경쟁으로 영업정지 처분을 받은 바 있다. 휴대폰이 처음 등장했을 때에는 휴대폰을 개통하려는 신규 가입자가 많아 통신사들끼리 경쟁을 할 필요가 없었다. 하지만 지금은 전체 인구(약 5100만명)보다 이동통신서비스 가입자(약 5700만명)의 수가 더 많고, 이러한 포화상태는 10년 이상 지속되고 있다. 통신사 입장에서 신규가입자는 다른 통신사에서 넘어온 고객일 수밖에 없다. 만약 SKT에 신규가입자가 1명이 늘어나면, 다른 통신사는 -1의 고객이 되고, 이에 따라 총 이득은 '0(zero)'이 되는 것이다. 이러한 이유로 통신사들끼리 신규 가입자를 유치하기 위한 경쟁이 치열해져, 불법 보조금을 풀어 고객을 유치하려 한 것이다.

이러한 모습은 전략게임(strategic game)중에서도 치킨게임(chicken game)으로 설명할 수 있다. 치킨게임의 상황은 이러하다. 차에 탄 두 사람이 서로 마주보고 돌진하는 상황에서 어느 한쪽이 피하지 않으면 모두 죽게 된다. 그러나 먼저 핸들을 돌리는 순간 그 사람은 치킨, 즉 겁쟁이가 되는 것이다. 통신엄체들이 신규고객을 유치하기 위한 경쟁적인 보조금 지원을 하면서 결국 파국으로 치닫는 것을 알지만 ‘치킨’이 될 수 없어 이러한 경쟁을 멈출 수 없는 모습이다.

왜 이런 모습일까? 죄수의 딜레마(prisoner’s dilemma)라는 유명한 게임이론이 있다. 여기에는 두 명의 은행강도가 있다. 하지만 경찰은 은행강도 혐의에 대한 충분한 증거를 확보하지 못해 격리되어 있는 두 용의자에게 다음과 같은 제안을 한다.

이러한 상황에서 범인 A는 범인 B가 침묵할 것으로 생각하는 경우 자백을 하는 것이 유리하다. 또한 범인 B가 자백할 것으로 생각하여도 자백이 유리하다. 따라서 범인 A는 범인 B가 어떤 선택을 하던지 자백을 선택한다. 범인 B 역시 동일한 상황이므로 범인 A가 어떤 선택을 하던지 자백을 하는 것이 유리하다. 결국 범인 A와 범인 B는 모두 자백을 선택하고 각각 5년씩 복역하게 된다. 이 게임은 언제나 협동(침묵)보다는 배신(자백)을 통해 더 많은 이익을 얻으므로 참가자가 모두 배신을 택하는 상태가 ‘내쉬균형’이 된다. 결국 자신의 이익을 최대화하는 합리적인 참가자라면 자백을 택하여, 2년을 복역하는 것보다 나쁜 결과를 초래한다. 서로 입을 닫는 게 최선이지만, 혼자 그랬다가 혼자만 10년을 살 수도 있기 때문이다. 통신사들도 이와 같이 서로 보조금을 쓰지 않고 협력(공정경쟁)하는 것이 가장 이익이지만, 개인적 이익과 상대방에 대한 불신으로 서로 손해를 보며 보조금 경쟁을 멈출 수 없는 상황을 선택한 것이다.

그러나 이제 상황은 변하였다. 얼마 전 시행된 단통법으로 통신시장에 새로운 변화가 생겼다. 즉 정부가 나서서 보조금을 법적으로 규제를 함으로써 통신사들끼리 파국으로 치닫는 게임을 하지 못하도록 막은 것이다. 다시 죄수의 딜레마 게임으로 돌아가 보자. 범인 A와 범인 B는 모두 자백을 함으로써 각각 5년간 복역하게 되는 ‘내쉬균형’ 상태에 있다. 하지만 보다시피 두 범인 모두 침묵을 함으로써 각각 2년간 복역하는 것이 더 큰 이득이다. 다시 말해 자백 대신에 침묵을 선택함으로써 둘 다 이득을 보는 ‘파레토개선(Pareto Improvement)’이 가능하다는 뜻이다. 즉 자백하는 것으로 이루어진 ‘내쉬균형’이 ‘파레토 효율적(Pareto efficiency)’이지 못함을 말해주고 있다. 여기서 ‘파레토 개선’이란 다른 사람에게 손해가 가지 않게 하면서 최소한 한 사람 이상에게 이득을 가져다주는 것을 말한다. ‘파레토 효율적’이란 다른 사람의 후생을 감소시키지 않고서는 어느 한 사람의 후생을 증가시키는 것이 불가능하도록 자원이 가장 효율적으로 분배되어 있는 상태로, 파레토개선의 여지가 없는 상태를 말한다.

그러면 이제는 파레토 개선을 통해 두 범인 모두 침묵하여 좀 더 나은 상태로 갈 일만 남았다. 통신시장에서도 역시 통신사들은 제 살 깎아 먹기 식의 보조금 경쟁을 그만두고, 수익개선을 위한 다른 방도를 찾아봐야 할 것이다. 즉 보조금 경쟁이 아닌 요금할인, 서비스의 질 개선, 다른 통신사와 차별화된 전략 등을 통해 신규가입자를 유치해야 한다. 가령 SKT는 결합서비스의 선두주자로, KT는 인터넷 경쟁력강화의 발판으로, LGU+는 각종 새로운 서비스로 가격경쟁력을 갖추는 시발점이 될 수 있을 것이다. 이것이 진정한 의미의 ‘내쉬균형’이 아닐까.