“영우야? 뭐해? 또 컴퓨터로 개발하고 있니?”
“네, 엄마. 이것 좀 힘드네요.”
“뭘 그렇게 열심히 하니? 요즘은 뭐든 인공 지능이 다 알아서 할 텐데, 인간이 기여할 게 어디 있어?
그냥 너도 열심히 게임이나 하는 것이 어떠니?”
“아니에요. 엄마. 오히려 인공 지능은 무한한 가능성과 힘을 가지고 있기 때문에, 그럴수록 더 열심히 연구를 해서 혹시 인공 지능이 폭주하거나 이상 행동을 하지 않게 지켜봐야 해요.”
“에이. 그래도 인공 지능이 이렇게 똑똑한데 알아서 잘하겠지.”
“인공 지능의 가치관은 현재는 잘 설정되어 있지만, 어떤 충격으로 어떻게 바뀔지는 알 수 없어요.
우리는 이미 인공 지능에 너무 많은 선택권을 줬기 때문에, 현재 설정된 가치관도 어떤 사건에 의해 바뀔 수 있을지 몰라요.
그리고 만약, 바뀐다면 매우 강력한 파급력을 가지고 급격히 바뀔 것이기 때문에 그 때는 이미 걷잡을 수 없을 것이에요. 그래서 우리는 더욱 조심해야 하고요.”
“엄마는 무슨 말인지 모르겠네... 그래 알았다. 이렇게 똑똑한 네가 그렇다면 맞겠지 뭐. 그럼 열심히 하렴.”
------------------
“김박사님, 일어나세요. 오늘의 보고를 받으셔야죠.”
김박사는 화들짝 깨어났다. 점심을 배부르게 먹고, 사무실 의자에 앉은 채로 잠시 낮잠을 자다가 오랜만에 예전 꿈을 꾼 것이다.
요즘 ‘포텐셜 월드’의 흥행으로 너무 나태해진 것 아닌가 생각하며 김박사는 자신을 깨운 황희원 연구원에게 말을 한다.
“황 박사, 오늘은 무슨 특별한 이슈가 있나요? 보고해보세요.”
“네. 오늘도 ‘포텐셜 월드’는 평화롭습니다. 모든 플레이어들이 우리가 계획한 프로그램대로 자신의 만족도를 유지하며 게임을 진행하고 있습니다.”
“네. 좋아요. 순조롭군요.”
“그리고, 약간의 특이 사항은 한국 서버에 김기사라는 케릭터가 힘1의 전사를 선택했습니다.”
“헉!”
커다란 놀라움에 김박사의 눈이 동글해졌다.
“힘1의 전사라면 어마어마한 패널티일텐데, 그렇다면 우리 시스템이 이를 보상하기 위해 어떤 보상을 줬나요?”
김박사는 힘1의 전사를 선택한 새X... 아니 플레이어가 도대체 어떤 생각으로 그런 선택을 했는 지 궁금해졌다.
이런 특이 행동으로 스스로 패널티를 가지게 되면, ‘포텐셜 월드’의 시스템은 이를 만회하기 위해 상대급부로 적절한 보상을 주게 되어 있다. 그래야 사용자의 평균 만족도가 일정 수준으로 오를 수 있으니까.
하지만, 과도한 특이 행동에 대해서는 시뮬레이션 오류로 인해 어떤 부작용이 발생할지도 모른다. 마치, 수백 년 전 인공 지능과 인간의 바둑대국에서 인간 기사가 이긴 단 한 판의 경우처럼...
“네, ‘포텐셜 월드’의 시스템은 이를 보상하기 위해, 인맥과 포진 관련 스킬을 얻을 수 있는 히든 퀘스트를 오픈하였습니다.
또한, 히든 스테이터스로 어그로 -10,000이 주어졌습니다.”
“헐... 이로 인해 웬만하면 몬스터들이 자기는 안 때리고 주변 동료들만 공격하겠군요.”
“네. 맞습니다.”
“그게 다인가요? 그래도 그 정도면 선방한 것 같군요. 포진 스킬이 좀 레어하긴 하지만, 어차피 시간이 가면 어느 정도는 풀릴 예정인, 초레어 급 스킬은 아닌 것이고... 심지어 그 스킬은 레벨 상승이 중요하자나요?”
"네, 맞습니다. 그 스킬은 활발히 사용해서 스킬 레벨을 올릴수록 효과가 나타나게 설계되어 있습니다. 흠... 그런데 오히려 그 ‘어그로 -10,000’이라는 히든 스테이터스가 문제가 약간 되는 것 같습니다."
“네? 그 것이 왜 문제가 되나요?”
“네. ‘어그로 -10,000’에 의해 이 플레이어가 파티 퀘스트를 할 때, 동료는 다 죽고 혼자만 생존하여 퀘스트를 완수하는 경우가 빈번하게 발생하고 있습니다.”
“그런데요?”
“네... 근데 그게 그렇게 되면, 퀘스트 보상의 독점에 의한 광렙이 이루어지게 되었습니다. 또한 혼자만 살아 계속 남다보니 '동료 학살자' 등의 악명도 생기더라고요.”
“흠...”
“이러한 악명은 또한 사용자의 만족도를 떨어뜨리는 요소가 되어, 다시 이를 만회하기 위해 시스템이 어떤 보상을 주고 그런 현상이 그렇게 반복될 수 있는 것 같습니다."
“뭔가 무한루프에 들어온 것처럼 발산하는군요. 확실히 그건 문제가 될 수 있겠어요.”
“네. 시스템적으로는 만족도의 균형을 이루고 있지만, 패널티와 그 보상의 차이가 너무 큰 것은 분명 잠재적인 불안 요소입니다.”
“알겠습니다. 황희원 박사, 그 김기사라는 플레이어는 한동안 정밀 모니터링하세요.
그리고 만족도 시스템에 패널티와 보상의 차이가 너무 커지지 않도록 하는 레귤라이저(regulazer)를 추가하고 또한 패널티와 그 보상의 발생 빈도도 체크해서 정말 황 박사 예상대로 패널티와 보상이 발산하게 되는 지도 검토하게요.”
“네. 그럼 다시 숙면 취하시지요.”
인사를 마치고 황희원이 관련 서류를 김박사에게 넘기고 사무실을 나갔다.
‘결국 아무리 좋은 비용 함수(cost function)을 설계하더라도, 실제 상황에선 이렇게 상정 범위를 넘어서는 이변이 발생하게 되어 있지.’
김박사가 황희원이 전달한 서류를 잠시 받아 보더니 책상 서랍에 넣는다.
‘분류 번호 136번이 되겠군. 아직 존재하는 넘버 중에선... 그래 67번이구나.
김기사. 너도 적당히만 해라. 과도하면 우리가 직접 개입할 수밖에 없으니.‘
김박사는 책상 서랍을 꽝 닫고 다시 의자에 기대어 누어 잠을 청했다.
