"접속만 하세요. 나머지는 알아서"가 보여준 자동화의 결말

처음에는 문서 요약만 시켰다.
그 다음에는 초안을 맡겼고, 코드를 맡겼다. 지금은 AI에게 시스템 하나를 통째로 맡기기도 한다.
맡기는 범위는 계속 넓어지는데, 의외로 별문제가 없다. 그러다 문득 궁금해졌다.

AI에게 일을 어디까지 맡길 수 있을까.

지금은 내 일의 일부를 넘기고 있지만, 이 범위가 계속 넓어지면 마지막에는 무엇이 남을까. 사람만 할 수 있는 일이라는 게 정말 있기는 할까.

며칠을 생각해도 답이 나오지 않았다.

그러다 광고 하나를 봤다.

"접속만 하세요. 나머지는 알아서"

유튜브 숏츠를 보고 있는데 게임 광고가 나왔다. 요즘 흔히 볼 수 있는 모바일 게임 광고였다. 나는 게임을 거의 하지 않는데도 이런 광고가 하루에 몇 번씩 나온다.

그날 광고의 문구는 이랬다.

"접속만 하세요. 나머지는 알아서."

넘기려다 멈췄다.

다음에 나온 광고도 비슷했다.

자동 사냥.
자동 성장.
아무것도 하지 않아도 주는 보상.
원클릭 강화.

가만히 두기만 해도 캐릭터가 알아서 강해진다는 것. 그것이 이 게임들. 아니 요즘 게임들이 내세우는 강점 요소이다.

그런데 이상하다.

내가 게임을 즐겨 할때만 해도 게임은 내가 직접 컨트롤 하고 레벨업을 하며

다른 사람들과 커뮤니티를 형성하고 그 안에서 컨텐츠를 즐겼다. 

약했지만 강해질 때 희열, 그 재미를 위해 했었던 것 같은데, 

이제는 하지 않아도 된다는 것을 장점으로 내세운다.

예전에는 손이 아팠다

한번 더 예전에는 내가 게임을 즐겨 했을 때를 떠올려보면.

시간과 노력을 들여 레벨을 올리고 아이템을 얻었다. 그렇게 모은 것으로 캐릭터를 키웠다. 손목이 아프고 눈이 침침해져도 그 과정 자체가 게임이었다.

힘들어도 재미있었다. 내가 들인 시간과 노력이 캐릭터의 성장으로 남았기 때문이다.

그런데 어느 순간부터 그 과정이 재미가 아니라 귀찮은 일이 되어버렸다.

내가 아무리 열심히 해도 현실에서 돈이 많은 사람이 캐시 아이템 몇 번으로 격차를 뒤집을 수 있었기 때문이다. 그러면 내가 들인 시간의 의미가 사라진다.

사람은 그때 지친다.

못 이겨서 지치는 게 아니다.

이기는 방식이 나와 무관해졌을 때 지친다.

그러면서 등장한 것이 '대리'였다.

돈을 주면 누군가 내 계정으로 대신 게임을 해준다. 레벨을 올려주고 아이템을 모아준다. 나는 결과만 받으면 된다.

손목도 아프지 않고 눈도 침침하지 않다.

그리고 대리는 범죄가 됐다

2018년 12월 24일, 이른바 '대리게임 처벌법'이 공포됐다. 2019년 6월 25일부터 시행된 「게임산업진흥에 관한 법률」 개정안이다.

게임사업자가 승인하지 않은 방법으로 게임의 점수나 성과를 대신 얻어주는 일을 업으로 하면서 게임의 정상적인 운영을 방해하면 처벌받을 수 있다. 법정형은 2년 이하의 징역 또는 2천만 원 이하의 벌금이다.

쉽게 말하면 돈을 받고 남의 캐릭터를 대신 키워주는 일이 처벌 대상이 된 것이다.

여기까지만 보면 이런 생각이 든다.

"그래서 대리가 없어졌구나."

법이 시행됐지만 대리게임 시장은 사라지지 않았다. 

지금도 검색하면 관련 업체를 어렵지 않게 찾을 수 있다. 

그러니까 대리 자체가 사라진 것은 아니다.

그렇다면 무엇이 사라진 걸까.

대리로 돈을 벌던 사람들이 시장에서 밀려났다.

같은 일을 하는데 한쪽만 범죄다

다시 그 광고로 돌아가 보자.

자동 사냥.
자동 성장.
아무것도 하지 않아도 주는 보상.

이게 무엇인가.

내가 하지 않아도 시스템이 내 대신 캐릭터를 키워주는 것이다. 대리 업자가 하던 일과 결과만 놓고 보면 크게 다르지 않다.

물론 법적으로는 다르다.

게임사가 자기 게임 안에서 공식적으로 제공하는 기능과, 외부 업체가 게임사의 승인을 받지 않은 방법으로 영업하는 것은 같은 행위가 아니다.

하지만 이용자 입장에서는 결과가 비슷하다.

내가 하지 않아도 내 캐릭터가 성장한다.

대리 업자가 숨어서 팔던 것을 게임사는 공식 기능으로 만들어 광고한다. 이용자는 외부 업체가 아니라 게임사에 돈을 낸다.

결국 무엇이 달라졌을까.

답은 허무할 만큼 간단하다.

청구서를 누가 발행하느냐.

게임사 입장에서 대리 업자는 경쟁자이기도 했다. 둘 다 같은 욕구를 해결해주고 있었기 때문이다.

이용자는 시간을 들이지 않고 결과를 얻고 싶어 했다. 대리 업자도 그것을 팔았고, 게임사도 그것을 판다.

외부 업체가 가져가던 수요를 게임사가 자기 상품 안으로 끌어들인 것이다. 사업적으로 보면 합리적인 선택이다.

나는 이 사례가 지금 벌어지는 일을 잘 보여준다고 생각한다.

어떤 노동이 자동화될 때, 그 노동이 사라지는 것은 아니다.
그 값을 받는 주체가 바뀔 뿐이다.
일은 그대로 남고, 사람만 조용히 빠진다.

이 문장을 기억해두시길 바란다.

이 시리즈의 끝까지 계속 나올 이야기다.

콘텐츠 시장에서도 같은 일이 벌어지고 있다

지금 콘텐츠 시장에서도 비슷한 일이 벌어지고 있다.

원래는 콘텐츠를 만드는 것도 인간이고, 소비하는 것도 인간이었다. 프로그램은 그 둘을 연결하는 통로였다. 검색엔진이든 SNS든 마켓플레이스든 생산자와 소비자를 이어주는 역할을 했다.

지금은 다르다.

AI가 콘텐츠를 만든다.
AI가 콘텐츠를 분류하고 유통한다.
누구에게 무엇을 보여줄지도 AI가 결정한다.

통로였던 프로그램이 생산자가 된 것이다.

물론 이를 막으려는 시도도 있다.

포털과 SNS, 커머스 플랫폼, 언론사와 콘텐츠 사업자들은 자기 데이터를 지키려고 한다. AI가 데이터를 가져가지 못하도록 기술적으로 차단하기도 하고, 소송을 제기하기도 한다.

하지만 이것이 완전한 차단으로 이어질지는 의문이다.

이미 공개된 자료가 너무 많다. 비공식적인 경로로 유통되는 데이터도 적지 않다. AI는 그것을 바탕으로 계속 새로운 콘텐츠를 만들어낸다.

그래서 지금 벌어지는 일은 데이터를 '막는 싸움'이라기보다 데이터에 값을 매기는 싸움에 가깝다.

완전히 쓰지 못하게 하는 것이 아니라, 쓰려면 돈을 내라는 쪽으로 가고 있다. 언론사와 AI 기업 사이에서 콘텐츠 이용을 둘러싼 계약이 늘어나는 것도 같은 흐름이다.

대리 업자를 밀어내고 게임사가 그 자리를 가져간 것과 비슷하다.

콘텐츠는 사라지지 않는다.

콘텐츠의 값을 받는 주체가 바뀐다.

넘지 말자던 선은 이미 넘었다

한때 이런 경고가 있었다.

AI가 만든 데이터로 다시 AI를 학습시키면 문제가 생길 수 있다는 것이었다.

정확히 말하면 이것은 협약이나 규칙이 아니었다. 기술적인 경고였다.

2024년 국제학술지 『네이처』에 실린 연구는 이 문제를 다뤘다. AI가 만들어낸 데이터를 실제 데이터와 구분하지 않고 반복해서 학습에 사용하면, 모델이 현실의 데이터 분포를 제대로 반영하지 못하게 될 수 있다는 내용이었다.

학습을 반복할수록 드물지만 중요한 정보가 사라지고, 결과가 점점 단순해지거나 왜곡될 수 있다. 연구자들은 이를 '모델 붕괴(model collapse)' 라고 불렀다.

한동안 이 경고를 심각하게 받아들이는 분위기가 있었다.

그런데 지금 합성 데이터는 AI 개발 현장에서 널리 사용되고 있다.

그렇다고 합성 데이터를 사용하는 것 자체가 곧 모델 붕괴로 이어지는 것은 아니다. 실제 데이터와 섞어 쓰고, 품질을 검증하고, 학습 목적에 맞게 관리하면 유용하게 활용할 수도 있다.

결국 업계는 AI가 만든 데이터를 쓰지 않는 쪽이 아니라, 문제가 생기지 않도록 관리하면서 사용하는 쪽으로 움직였다.

선을 넘지 않은 것이 아니다.

넘어도 괜찮은 방법을 찾기 시작한 것이다.

그렇다면 소비는 누가 하는가

이런 이야기를 하면 꼭 이런 반박이 나온다.

"만드는 것도 AI가 하고 유통도 AI가 한다고 치자. 그래도 소비는 인간만 할 수 있는 것 아닌가?"

맞는 말처럼 들린다.

그런데 나는 이 질문에도 그 광고 문구로 답하고 싶다.

"접속만 하세요. 나머지는 알아서."

접속만 해놓은 사람은 정말 게임을 한 것일까.

게임사의 지표로 보면 그렇다. 접속 시간이 기록되고, 매출이 발생하고, 이용자 수가 올라간다.

그런데 그 사람은 게임을 즐겼을까.

캐릭터의 레벨은 올랐고 아이템은 쌓였다. 하지만 정작 사람에게 남은 경험은 없다.

지표만 남고 사람은 사라진다.

이 이야기는 게임에만 해당되지 않는다.

알고리즘이 골라주는 영상을 보고, 추천해주는 물건을 사고, AI가 요약해준 글을 읽는다.

나도 어제 그렇게 하루를 보냈다.

우리도 이미 접속만 하고 있는 것은 아닐까.

AI가 만든 콘텐츠를 다른 AI가 읽고 분류하고 평가하는 구간은 앞으로 더 넓어질 것이다. AI가 광고를 만들고, AI가 노출할 대상을 정하고, AI 에이전트가 조건을 비교해 구매까지 결정할 수도 있다.

사람은 그 과정에서 빠진 채 결과 알림만 확인하게 될지도 모른다.

결재 완료.
구매 완료.
시청 완료.
학습 완료.

모든 것이 완료됐는데 정작 나는 아무것도 하지 않았다.

그것을 정말 편리해졌다고만 말할 수 있을까.

사람에게는 무엇이 남을까

처음의 질문으로 돌아가 보자.

AI에게 일을 어디까지 맡길 수 있을까.

이 질문에는 아직 답을 내리지 못했다.

다만 게임이 보여준 결말을 보면 한 가지는 알 수 있다.

기술적으로 대신할 수 있느냐만 물으면 맡기는 범위는 계속 넓어진다. 처음에는 반복 작업을 맡기고, 그다음에는 판단을 맡긴다. 나중에는 목표만 정하고 과정 전체를 넘기게 된다.

그리고 어느 순간부터는 이런 질문조차 하지 않게 된다.

"이 일을 AI에게 맡겨도 될까?"

대신 이렇게 묻게 된다.

"굳이 사람이 해야 할까?"

두 질문은 비슷해 보이지만 전혀 다르다.

첫 번째 질문의 기준은 사람이다. 사람의 일을 어디까지 도구에 맡길지 판단한다.

두 번째 질문의 기준은 효율이다. 사람이 남아 있어야 할 이유를 사람이 증명해야 한다.

게임도 그랬다.

처음에는 사람이 하기 힘든 일을 대신해줬다. 나중에는 사람이 직접 하는 과정 자체를 없앴다. 그러고도 접속 시간과 매출, 성장 수치는 그대로 남았다.

시스템은 정상적으로 돌아갔다.

다만 게임을 하는 사람이 사라졌을 뿐이다.

다음 '대리'는 게임이 아니다

여기까지는 웃으면서 이야기할 수 있었다.

게임 이야기이기 때문이다. 캐릭터의 레벨이 오르든 말든 현실의 삶에 큰일이 생기지는 않는다.

하지만 다음 이야기는 그렇지 않다.

'대신 해주는 것'이 다음으로 들어올 곳은 훨씬 무거운 영역이다.

결과만 얻으면 끝나는 일이 아니다. 효율이 높다고 해서 무조건 좋은 일도 아니다. 누가 했는지, 어떤 마음으로 했는지, 그 과정에서 무엇이 오갔는지가 결과만큼 중요한 일이다.

그런데 그곳에도 이미 '자동'이라는 이름이 붙기 시작했다.

먼 미래의 이야기가 아니다.

이미 절반쯤 우리 곁에 와 있다.

돌봄이다.