토스증권, AI 기반 커뮤니티 검수 체계 도입…‘건전한 소통 환경’ 강화

AI로 욕설·비방, 불법 리딩방 홍보 탐지해 차단 금지어 필터링도 고도화 커뮤니티 운영 기준 정비 토스증권 제공 토스증권이 건전한 투자 환경을 만들기 위해 자사 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다고 4일 밝혔다. 단순한 금지어 중심의 필터링 방식을 넘어 게시글의 내용과 맥락을 종합적으로 분석해 건전한 소통을 저해하는 게시물을 차단하는 것이 특징이다. 앞으로도 투자자들이 커뮤니티에서 유용한 정보를 나눌 수 있도록 지속적으로 환경을 개선할 방침이다.이번 환경 개선에 따라 부적절한 게시글 차단의 정확성이 높아졌다. AI 검수 모델이 커뮤니티에 올라오는 게시물의 제목과 본문, 이미지를 자동으로 분석해 욕설·비방, 혐오·차별 표현, 불법 리딩방 홍보 등을 막기 때문이다. 검수 결과에 따라 위반 정도를 판단해 게시글 숨김, 추천 제외 등의 조치를 적용한다.토스증권은 게시글 작성 단계에서 적용되는 욕설 필터링 기능도 고도화했다. AI 검수 모델을 통해 이용자들이 자주 사용하는 금지어의 우회 표현까지 폭넓게 탐지할 수 있도록 했다. 기존에는 금지어가 담기면 글 작성이 제한됐지만 이번 환경 개선으로 해당 표현만 마스킹 처리돼 게시물이 올라간다. 이에 따라 게시 전후 이중 검수 체계가 마련됐다는 게 토스증권의 설명이다. 토스증권 캡처 커뮤니티 운영 기준도 정비했다고 토스증권은 밝혔다. 욕설·유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장 질서 교란 행위 등 제한 대상과 제재 기준을 담은 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 신설한 것이다. 게시글 숨김 조치가 발생하면 토스증권은 제재 여부를 보다 명확하게 안내하고 고객센터를 통한 이의제기 절차도 제공한다.토스증권 관계자는 “이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”며 “앞으로도 투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다”고 밝혔다. © dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지 좋아요 0개 슬퍼요 0개 화나요 0개 지금 뜨는 뉴스