뉴스 기사에 달린 댓글, 인공지능(AI)이 쓰진 않았을까. 한국과학기술원(KAIST) 연구팀이 이런 의구심을 해소할 수 있게 해주는 ‘AI 댓글 탐지 AI’를 만들었다.

23일 KAIST는 김용대 전기및전자공학부 교수 연구팀이 국가보안기술연구소와 협력해, 한국어 AI 생성 댓글을 탐지하는 기술 ‘XDAC’(엑스닥)을 세계 최초로 개발했다고 밝혔다. 이번 연구는 다음달 개최되는 AI 자연어처리 분야 최고 권위 학술대회인 ‘ACL 2025’ 메인 콘퍼런스에 공유된다.

생성 AI 등장 이후 댓글 등을 통한 여론 조작에 대한 우려는 갈수록 커지고 있다. 뉴스 기사 맥락에 따라 감정과 논조를 맞춘 댓글을 몇 시간 만에 수십만 개 쓸 수 있는 생성 AI의 기능을 악용할 것에 대한 우려다. 김용대 교수는 “거대언어모델(LLM)이 처음 나왔을 때 누군가 많은 계정을 만들고 자동으로 댓글을 생성하는 식으로 여론 조작하는 게 가능해 질 것이라 봤다”며 “이에 대한 방어의 첫번째 단계는 댓글을 LLM이 작성했는지 판단을 하는 것이라고 생각해 엑스닥을 개발했다”고 말했다.

신재민 기자

연구팀은 ‘설명가능한 AI(XAI) 기법’을 적용해 언어 표현을 정밀 분석한 결과, AI 생성 댓글에는 사람과 다른 고유한 말투 패턴이 있음을 확인했다. 설명가능한 AI란 판단 기준을 설명할 수 있게 설계한 AI를 뜻한다. 김용대 교수는 “AI가 이 댓글은 왜 AI가 쓴 것이라고 판단했는지, 왜 사람이 쓴 것이라고 생각했는지 이유를 설명하게 했다”고 말했다.

분석 결과 AI는 ‘~것 같다’, ‘~에 대해’ 등 형식적 표현과 접속어를 많이 사용했다. 반면 사람은 댓글에 ‘ㅋㅋㅋㅋ’ 같은 반복 문자, 감정 표현, 줄바꿈, 특수기호 등을 많이 사용했다. 특수문자에서도 AI는 전 세계적으로 통용되는 표준화된 이모지를 주로 썼다. 반면 사람은 ‘ㅋ, ㅠ, ㅜ’ 등 한국어 자모음이나 ‘·, ♡’ 같은 특수 기호 등 문화적 특수성이 담긴 문자를 활용했다. 또 사람 작성 댓글에는 줄바꿈, 여러 칸 띄어쓰기 등 서식 문자를 사용한 빈도가 26%였는데, AI 생성 댓글에는 단 1%에 불과했다. ‘ㅋㅋㅋㅋ’와 같은 반복 문자 사용 비율도 사람 작성 댓글은 52%로, AI 생성 댓글(12%)보다 훨씬 높았다.

엑스닥은 이런 차이를 정교하게 반영해 탐지 성능을 높였다. 줄바꿈, 공백 등 서식 문자를 변환하고, 반복 문자 패턴을 기계가 이해할 수 있게 만드는 방식을 적용했다. 또 각 LLM의 고유 말투 특징을 파악해 어떤 AI 모델이 댓글을 생성했는지도 식별 가능하게 설계됐다. 연구팀은 향후 AI를 활용한 여론 조작을 막는 데 엑스닥을 활용할 계획이다.

연구에 참여한 고우영 선임연구원은 “AI 기반 여론 조작 대응의 기술적 기반을 마련한 데 의의가 있다”고 했다.

엑스닥의 탐지 기술은 단순 AI 댓글 판별을 넘어 심리적 억제 장치로도 작용할 수 있다. 마치 음주단속, 마약 검사, CCTV 설치 등이 범죄 억제 효과를 가지듯, 정밀 탐지 기술의 존재 자체가 AI 여론 조작 시도를 줄일 수 있다는 것이다. 연구팀은 “엑스닥은 플랫폼 사업자가 의심스러운 계정이나 조직적 여론 조작 시도를 정밀 감시·대응하는 데 활용할 수 있으며, 향후 실시간 감시 시스템이나 자동 대응 알고리즘으로 확장 가능성이 크다”고 말했다.

중앙일보

김남영 기자 [email protected]