매일 출퇴근길 지하철 2호선에서 스마트폰을 들여다보는 직장인 김 모 씨.
인스타그램 피드에 뜬 인플루언서의 게시글을 습관처럼 확인한다.
과연 이 모든 게 진실일까.
◇ 추천 수와 댓글…가짜 신뢰를 쌓는 '사다리'
인터넷과 소셜미디어(SNS)에서 '좋아요'나 '댓글'의 숫자는 단순한 반응 수치를 넘어서는 의미를 가진다.
사람들이 이 수치를 콘텐츠의 인기와 신뢰도를 가늠하는 기준으로 삼기 때문이다.
상품 후기나 인플루언서 게시글에 수백 개가 넘는 '좋아요'가 붙어 있다면 "많은 사람이 좋다고 했으니 믿을 만하다"고 판단하기 쉽다.
그러나 최근 국내외 연구들은 이러한 '추천 수와 댓글 수'의 상당 부분이 실제 사용자가 아닌 생성형 인공지능(AI)과 봇 계정 자동화를 통해 생성되고 있다는 사실을 보여주고 있다.
카이스트 연구팀은 한국어로 작성된 AI 생성 댓글 식별 기술을 개발하며 "몇 시간 안에 수십만 개의 댓글을 만들어낼 수 있다"고 설명해 자동화의 심각성을 경고했다.
◇ 월 10만 원대로 '여론 공장' 운영 가능해
구체적인 요금표나 업체명은 공개되지 않았지만 최근의 보도들은 "월 10만 원대 비용으로 수만 건의 댓글과 '좋아요'를 자동으로 생성해준다"는 주장을 다루고 있다.
이처럼 적은 비용으로 대규모의 반응 조작이 가능해진 배경에는 GPT-4o 등 대규모 언어 모델(LLM) 기반 생성형 AI의 발전과 서버 비용 하락이 자리 잡고 있다.
실제로 GPT-4o 등 최신 LLM을 이용할 경우 댓글 한 개에 약 1원 내외의 비용으로 수십만 건의 자동 댓글 및 '좋아요' 생성이 가능한 것으로 알려졌다.
심지어 250만원 내외의 비용으로 하루 만에 인스타그램 팔로워 30만명, '좋아요' 수만 개를 조작한 사례도 발각된 바 있다.
카이스트 연구팀 역시 "GPT-4o API 등을 활용하면 한국어 댓글 한 개에 비용이 약 1원 수준이 될 수 있다"고 밝혔다.
이러한 구조는 소규모 자본으로도 대량의 그럴듯한 여론을 손쉽게 만들어낼 수 있는 환경이 조성됐음을 보여준다.
네이버, 인스타그램, 유튜브 등 주요 플랫폼 운영사들이 AI 댓글·좋아요 탐지 시스템인 '클린봇' 등을 고도화하고 있지만 완벽한 차단에는 어려움을 겪는 실정이다.
카이스트 연구팀 보고서에 따르면 인간이 AI가 작성한 댓글을 실제 사람의 댓글로 오인하는 비율이 67%에 달해 LLM이 만든 자동화 댓글의 자연스러움이 매우 높은 것으로 나타났다.
◇ '봇'이 누르고 'AI'가 쓰는 조작의 메커니즘
문제는 단순히 '좋아요' 수가 늘어나는 것에만 머무르지 않는다는 점이다.
인플루언서 게시글의 댓글, 온라인 쇼핑몰 후기의 별점과 댓글, 유튜브 영상의 추천 및 댓글에 이르기까지 전방위적인 자동화 조작 우려가 커지고 있다.
'좋아요'와 추천 수 조작은 주로 봇 계정(허위 계정)의 대량 생성 및 활용으로 이뤄진다.
댓글 조작은 생성형 AI가 실제 게시글의 맥락에 맞춰 사람처럼 자연스러운 문장을 만들어내는 방식이 주류다.
이 두 기술이 결합하면서 '가상 인플루언서의 가상 인기'가 만들어지는 상황까지 초래될 수 있다.
이러한 자동화된 반응이 실제 여론으로 인식되면 경쟁 상품이나 게시물의 시장 및 사회적 신뢰도와 평가가 심각하게 왜곡된다.
2021년 조사에 따르면 뉴스 댓글 영향력 조사에서 42% 이상이 댓글 수가 많은 뉴스를 선택한다고 답해 댓글 수가 여론 형성의 중요한 기반임을 시사했다.
댓글 수가 많아 보이는 현상이 사실은 AI로 자동화된 조작일 경우 사회적 논의의 기반 자체가 흔들릴 수 있다.
◇ 수치의 출처 의심하는 비판적 시각 필요
AI에 의한 자동 댓글 및 '좋아요' 조작은 현행법상 정보통신망법, 업무방해죄, 표시광고법 등 여러 법률 위반 가능성이 높다.
하지만 법과 제도의 개선 속도가 AI 기술 발전을 따라잡지 못하고 있다는 지적이 끊이지 않고 있다.
우리가 스스로 AI 조작 가능성을 점검할 수 있는 몇 가지 방법이 있다.
우선 조회 수 대비 반응 비율을 보는 것이다. 조회수가 500건인데 댓글이 1천000개 달리는 등 댓글이나 '좋아요' 수가 조회수 대비 지나치게 많지 않은지 확인해볼 필요가 있다.
댓글 내용에서 문장 구조나 어투의 반복성이 높다면 자동화 가능성을 의심해야 한다.
특정 시간대에 댓글이 갑자기 몰리거나 급격히 증가했다면 AI를 이용한 대량 생성의 가능성이 있다.
또한, 플랫폼이 제공하는 신고 기능이나 이상 반응 감지 기능을 적극적으로 확인해보는 것도 좋다.
이처럼 우리가 스마트폰을 들여다보며 확인하는 '좋아요 100개'라는 숫자 뒤에는 실제 사람이 아닌 코드가 숨어 있을 가능성이 있다.
단순한 반응처럼 보였던 수치가 사실은 생성형 AI와 봇 계정이 만들어낸 것일 수 있다는 점은 우리의 일상적인 선택과 나아가 여론의 흐름에까지 어두운 그림자를 드리운다.
'좋아요'가 많이 눌렸다고 해서 반드시 '사람의 마음'이 담긴 것은 아니라는 의미다.
디지털 시대에 우리는 '수치의 출처'를 의심할 필요가 있다.
앞으로 인플루언서 게시물을 볼 때 댓글과 '좋아요' 숫자를 한 번 더 눈여겨보며 그 뒤에 정말 '사람'이 눌렀는지 묻는 비판적인 시각이 필요한 시대가 됐다.
