뉴스 기사에 달린 댓글, 인공지능(AI)이 쓰진 않았을까. 한국과학기술원(KAIST) 연구팀이 이런 의구심을 해소할 수 있게 해주는 ‘AI 댓글 탐지 AI’를 만들었다.
무슨 일이야 23일 KAIST는 김용대 전기및전자공학부 교수 연구팀이 국가보안기술연구소(국보연)와 협력해, 한국어 AI 생성 댓글을 탐지하는 기술 ‘XDAC’(엑스닥)를 세계 최초로 개발했다고 밝혔다. 이번 연구는 AI 자연어처리 분야 최고 권위 학술대회인 'ACL 2025' 메인 콘퍼런스에 공개됐다.
이게 왜 중요해
생성 AI 등장 이후 댓글 등을 통한 여론 조작에 대한 우려는 갈수록 커지고 있다. 뉴스 기사 맥락에 따라 감정과 논조를 맞춘 댓글을 몇 시간 만에 수십만 개 쓸 수 있는 생성 AI의 기능을 악용할 것에 대한 우려다. 김용대 교수는 “거대언어모델(LLM)이 처음 나왔을 때 누군가 많은 계정을 만들고 자동으로 댓글을 생성하는 식으로 여론 조작하는게 가능해 질 것이라 봤다”며 “이에 대한 방어의 첫번째 단계는 댓글을 LLM이 작성했는지 판단을 하는 것이라고 생각해 엑스닥을 개발했다”고 말했다.
어떻게 생성 AI 댓글 잡나
연구팀은 '설명가능한 AI(XAI) 기법'을 적용해 언어 표현을 정밀 분석한 결과, AI 생성 댓글에는 사람과 다른 고유한 말투 패턴이 있음을 확인했다. 설명가능한 AI란 판단 기준을 설명할 수 있게 설계한 AI를 뜻한다. 김용대 교수는 “AI가 이 댓글은 왜 AI가 쓴 것이라고 판단했는지, 왜 사람이 쓴 것이라고 생각했는지 이유를 설명하게 했다”고 말했다.
분석 결과 AI는 ‘~것 같다’, ‘~에 대해’ 등 형식적 표현과 접속어를 많이 사용했다. 반면 사람은 댓글에 ‘ㅋㅋㅋㅋ’ 같은 반복 문자, 감정 표현, 줄바꿈, 특수기호 등을 많이 사용했다. 특수문자에서도 AI는 전 세계적으로 통용되는 표준화된 이모지를 주로 썼다. 반면 사람은 ‘ㅋ, ㅠ, ㅜ’ 등 한국어 자모음이나 ‘ㆍ, ♡’ 같은 특수 기호 등 문화적 특수성이 담긴 문자를 활용했다. 또 사람 작성 댓글에는 줄바꿈, 여러 칸 띄어쓰기 등 서식 문자를 사용한 빈도가 26%였는데, AI 생성 댓글에는 단 1%에 불과했다. ‘ㅋㅋㅋㅋ’와 같은 반복 문자 사용 비율도 사람 작성 댓글은 52%로, AI 생성 댓글(12%)보다 훨씬 높았다.
앞으로는 엑스닥의 탐지 기술은 단순 AI 댓글 판별을 넘어 심리적 억제 장치로도 작용할 수 있다. 마치 음주단속, 마약 검사, CCTV 설치 등이 범죄 억제 효과를 가지듯, 정밀 탐지 기술의 존재 자체가 AI 여론 조작 시도를 줄일 수 있다는 것이다. 연구팀은 “엑스닥은 플랫폼 사업자가 의심스러운 계정이나 조직적 여론 조작 시도를 정밀 감시·대응하는 데 활용할 수 있으며, 향후 실시간 감시 시스템이나 자동 대응 알고리즘으로 확장 가능성이 크다”고 말했다.
더중앙플러스 : 팩플 더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여 넣어주세요.
“챗GPT, 거짓말해서 안 써요” 대학생 쓰는 ‘노트북LM’ 뭐길래
어차피 챗GPT만 쓰면 되는 거 아냐? ‘생성AI=챗GPT’가 되면서 오픈AI가 AI 서비스를 천하통일하나 싶었는데. 웬걸, 절치부심한 구글이 제대로 반격하기 시작했다. 구글이 만든 ‘AI 기반 연구 도우미’인 노트북LM이 뜨거운 반응을 얻으면서다. 1타 강사로도, 우리 팀 ‘일잘러’ 막내로도 변신하는 노트북LM. 요새 ‘AI 좀 쓴다’는 사람들은 다들 쓰고 있다는데. 팩플이 고수들의 사용법을 전한다.
https://www.joongang.co.kr/article/25335959
“네 답변은 10점 만점에 4점” 똑똑한 챗GPT 만들 조련법…생성 AI 실전팁
팩플이 업계에서 소문난 생성AI 실전 고수들을 직접 만나 들은 AI 실전 활용법을 모았다. 마케터부터, 글로벌 비즈니스, 변호사, 디자이너, 일반 회사원에 이르기까지 생성AI 도움을 받아 뚝딱 일을 처리하는 AI 고수들의 노하우다. 대학생, 일반인이 활용 가능한 꿀팁도 꾹꾹 눌러 담았다. 이것만 읽으면 당신도 ‘생성AI 고수’.
https://www.joongang.co.kr/pdf/1012
로이터=연합뉴스
무슨 일이야 23일 KAIST는 김용대 전기및전자공학부 교수 연구팀이 국가보안기술연구소(국보연)와 협력해, 한국어 AI 생성 댓글을 탐지하는 기술 ‘XDAC’(엑스닥)를 세계 최초로 개발했다고 밝혔다. 이번 연구는 AI 자연어처리 분야 최고 권위 학술대회인 'ACL 2025' 메인 콘퍼런스에 공개됐다.
이게 왜 중요해
생성 AI 등장 이후 댓글 등을 통한 여론 조작에 대한 우려는 갈수록 커지고 있다. 뉴스 기사 맥락에 따라 감정과 논조를 맞춘 댓글을 몇 시간 만에 수십만 개 쓸 수 있는 생성 AI의 기능을 악용할 것에 대한 우려다. 김용대 교수는 “거대언어모델(LLM)이 처음 나왔을 때 누군가 많은 계정을 만들고 자동으로 댓글을 생성하는 식으로 여론 조작하는게 가능해 질 것이라 봤다”며 “이에 대한 방어의 첫번째 단계는 댓글을 LLM이 작성했는지 판단을 하는 것이라고 생각해 엑스닥을 개발했다”고 말했다.
어떻게 생성 AI 댓글 잡나
XDAC의 탐지 및 식별 시연 예시. 사진 KAIST
연구팀은 '설명가능한 AI(XAI) 기법'을 적용해 언어 표현을 정밀 분석한 결과, AI 생성 댓글에는 사람과 다른 고유한 말투 패턴이 있음을 확인했다. 설명가능한 AI란 판단 기준을 설명할 수 있게 설계한 AI를 뜻한다. 김용대 교수는 “AI가 이 댓글은 왜 AI가 쓴 것이라고 판단했는지, 왜 사람이 쓴 것이라고 생각했는지 이유를 설명하게 했다”고 말했다.
분석 결과 AI는 ‘~것 같다’, ‘~에 대해’ 등 형식적 표현과 접속어를 많이 사용했다. 반면 사람은 댓글에 ‘ㅋㅋㅋㅋ’ 같은 반복 문자, 감정 표현, 줄바꿈, 특수기호 등을 많이 사용했다. 특수문자에서도 AI는 전 세계적으로 통용되는 표준화된 이모지를 주로 썼다. 반면 사람은 ‘ㅋ, ㅠ, ㅜ’ 등 한국어 자모음이나 ‘ㆍ, ♡’ 같은 특수 기호 등 문화적 특수성이 담긴 문자를 활용했다. 또 사람 작성 댓글에는 줄바꿈, 여러 칸 띄어쓰기 등 서식 문자를 사용한 빈도가 26%였는데, AI 생성 댓글에는 단 1%에 불과했다. ‘ㅋㅋㅋㅋ’와 같은 반복 문자 사용 비율도 사람 작성 댓글은 52%로, AI 생성 댓글(12%)보다 훨씬 높았다.
신재민 기자
앞으로는 엑스닥의 탐지 기술은 단순 AI 댓글 판별을 넘어 심리적 억제 장치로도 작용할 수 있다. 마치 음주단속, 마약 검사, CCTV 설치 등이 범죄 억제 효과를 가지듯, 정밀 탐지 기술의 존재 자체가 AI 여론 조작 시도를 줄일 수 있다는 것이다. 연구팀은 “엑스닥은 플랫폼 사업자가 의심스러운 계정이나 조직적 여론 조작 시도를 정밀 감시·대응하는 데 활용할 수 있으며, 향후 실시간 감시 시스템이나 자동 대응 알고리즘으로 확장 가능성이 크다”고 말했다.
더중앙플러스 : 팩플 더 자세한 기사 내용이 궁금하시다면, 기사 링크를 복사해 주소창에 붙여 넣어주세요.
“챗GPT, 거짓말해서 안 써요” 대학생 쓰는 ‘노트북LM’ 뭐길래
어차피 챗GPT만 쓰면 되는 거 아냐? ‘생성AI=챗GPT’가 되면서 오픈AI가 AI 서비스를 천하통일하나 싶었는데. 웬걸, 절치부심한 구글이 제대로 반격하기 시작했다. 구글이 만든 ‘AI 기반 연구 도우미’인 노트북LM이 뜨거운 반응을 얻으면서다. 1타 강사로도, 우리 팀 ‘일잘러’ 막내로도 변신하는 노트북LM. 요새 ‘AI 좀 쓴다’는 사람들은 다들 쓰고 있다는데. 팩플이 고수들의 사용법을 전한다.
https://www.joongang.co.kr/article/25335959
“네 답변은 10점 만점에 4점” 똑똑한 챗GPT 만들 조련법…생성 AI 실전팁
팩플이 업계에서 소문난 생성AI 실전 고수들을 직접 만나 들은 AI 실전 활용법을 모았다. 마케터부터, 글로벌 비즈니스, 변호사, 디자이너, 일반 회사원에 이르기까지 생성AI 도움을 받아 뚝딱 일을 처리하는 AI 고수들의 노하우다. 대학생, 일반인이 활용 가능한 꿀팁도 꾹꾹 눌러 담았다. 이것만 읽으면 당신도 ‘생성AI 고수’.
https://www.joongang.co.kr/pdf/1012