"붉은사슴뿔버섯은 단순한 식재료를 넘어서 건강에 도움을 주는 다양한 영양소가 가득한 보물 같은 존재인데요, 그 매력을 자세히 살펴보도록 하죠."
지난 21일 네이버의 한 블로그에 올라온 글 일부다.
'붉은사슴뿔버섯 효능'이라는 검색어를 입력한 뒤 블로그 검색 결과를 보자 붉은사슴뿔버섯의 조리법을 다루는 글이 나왔다.
이 블로거는 붉은사슴뿔버섯이 항산화 물질이 풍부해 면역력 강화에 도움을 주고 뼈 건강에도 이롭다고 소개했다.
이 버섯을 볶아 먹거나 스프 재료로 쓰는 등의 조리법도 자세히 소개했다.
하지만 이 글은 모두 허위다.
붉은사슴뿔버섯이 다름 아닌 '독버섯'이기 때문이다.
이 버섯에는 트리코테신이라는 맹독성 성분이 있어 요리는커녕 조금만 맛보더라도 죽음에 이를 수 있다.
이 블로그 글의 구조와 흐름, 문맥을 살펴봤을 때 생성형 인공지능(AI)이 작성한 글로 보인다.
글의 내용은 거짓이지만, 마치 진실인 것처럼 그럴듯하게 내용을 지어내고 있어서다.
실제로 최근 오픈AI의 챗GPT에서 붉은사슴뿔버섯의 이미지를 보여주자 몸에 좋다며 먹어보라는 답변을 하면서 논란을 빚은 바 있다.
27일 IT 업계에 따르면 최근 포털 사이트들의 블로그에는 이처럼 생성형 AI를 활용해 작성한 것으로 추정되는 허위정보 글들이 다수 보이고 있다.
이 블로그들은 최근 이슈가 되는 키워드나 인물을 주제로 다수의 글을 양산했는데, 글의 내용과 문맥을 볼 때 생성형 AI가 작성한 것으로 추정된다.
이들이 AI를 활용해 품질이 떨어지는 글들을 다수 양산하는 건 수익을 노린 것으로 추정된다.
일례로, 네이버 블로그는 포스트의 조회수에 따라 광고 수익을 나눠 받는 프로그램인 '애드포스트'를 운영 중이다.
애드포스트로 수익을 얻기 위해서는 한 달 동안 일정 기준 이상의 게시글 수와 블로그 방문자가 필요한데, 이를 노리고 생성형 AI로 저품질의 글을 양산하는 것으로 보인다.
다만 현행 운영 규정상 AI가 양산형으로 생성한 글들을 직접적으로 규제할 수는 없다는 게 네이버의 설명이다.
블로그가 이용자들이 게시글을 직접 생산하는 공간인 만큼, 이들의 권리를 침해할 소지가 있어서다.
블로그 이용자들이 AI를 활용했는지를 일일이 판별할 수 없다는 현실적인 한계도 있다.
네이버 관계자는 "블로그 운영 정책상 명예훼손과 저작권 침해 등 타인의 권리를 침해하거나 선정적인 내용처럼 유해성 불법 콘텐츠가 아닌 이상 게시글을 직접 제재하기는 현실적으로 어렵다"고 설명했다.
네이버는 이 같은 저품질 콘텐츠들에 대해서는 알고리즘을 통해 검색 결과에 노출되는 빈도를 줄이고 있다.
아울러 블로그 이용자가 저품질의 콘텐츠를 도배성으로 게시했다면 운영 정책에 따라 수익 역시 지급하지 않는다.
이 관계자는 "다양한 유형의 어뷰징 패턴을 바탕으로 검색 결과를 표시할 때 AI를 활용한 저품질 글들을 걸러내고 있다"면서 "어뷰징 콘텐츠들은 약관에 따라 애드포스트를 통한 수익화도 불가하다"고 말했다.
한편, 네이버는 지난 5월 블로그에 'AI 활용' 표시 기능을 추가했다.
이는 작성자가 AI 기술을 활용해 생성한 이미지나 동영상을 게시글에 사용할 때 이를 쉽게 알릴 수 있도록 표시하는 기능이다.
이를 통해 이용자들이 콘텐츠 출처를 명확하게 파악할 수 있고 AI로 생성된 콘텐츠가 실제와 혼동되는 것을 막을 수 있다는 설명이다.
이명환 기자 lifehwan@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
