신뢰의 웹을 구축해 LLM 스팸에 맞서기

4 hours ago 1
  • Tangled는 사용자가 상호작용한 다른 사용자를 보증하거나 비난할 수 있는 vouching 기능을 기본 지원하며, LLM 기반 제출물 증가에 대응하는 신뢰 신호로 활용함
  • 보증된 사용자는 프로필 사진 옆에 초록색 방패 아이콘, 비난된 사용자는 빨간색 방패 아이콘이 표시되어 상호작용 여부를 판단하는 단서가 됨
  • LLM 기반 도구로 프로젝트에 코드를 제출하는 장벽이 낮아지면서 겉보기에는 맞지만 미묘하게 잘못된 “불쾌한 골짜기”식 제출물이 늘어날 수 있고, 유지보수자는 이런 도구를 오용해 부담을 만드는 기여자를 보증하거나 비난할 수 있음
  • 보증·비난에는 텍스트 기반 사유 필드가 포함되고 감쇠가 적용되어, 사용자는 자신과 자신의 서클이 내린 판단만 볼 수 있음
  • Tangled에서 보증하거나 비난하면 사용자의 PDS 에 공개 기록이 생성되며, appview가 이를 집계해 이슈, 댓글, 풀 리퀘스트, 풀 리퀘스트 댓글의 프로필 위에 보증 “모자”를 표시함

Tangled의 신뢰 신호

  • Tangled는 사용자가 상호작용한 다른 사용자를 보증하거나 비난할 수 있는 vouching 기능을 기본 지원함
  • 보증된 사용자는 프로필 사진 옆에 초록색 방패 아이콘이 표시되고, 비난된 사용자는 빨간색 방패 아이콘이 표시됨
  • 사용자는 자신의 서클이 내린 보증·비난 판단도 볼 수 있으며, 이를 상호작용 여부를 판단하는 신호로 활용할 수 있음
  • LLM 기반 도구로 프로젝트에 코드를 제출하는 장벽이 낮아지면서, 겉보기에는 맞지만 미묘하게 잘못된 “불쾌한 골짜기”식 제출물이 늘어날 수 있음
  • Tangled 네트워크의 유지보수자는 이런 도구를 오용해 유지보수 부담을 만드는 기여자를 보증하거나 비난할 수 있음

동작 방식과 설계 제약

  • 신중한 설계

    • 보증·비난에는 텍스트 기반 사유 필드가 포함됨
    • 감쇠(attenuation)가 적용되어, 사용자는 자신과 자신의 서클이 내린 판단만 볼 수 있음
    • 현재 비난된 사용자는 프로젝트에서 차단되지 않으며, UI 일부에 빨간 경고 라벨만 표시됨
  • 예정된 추가 기능

    • 시간이 지나며 유지보수자와 기여자가 프로젝트를 떠날 수 있으므로, 보증은 시간이 지남에 따라 약해지고 때때로 갱신되어야 함
    • PR을 병합한 직후 사용자를 보증하면 해당 PR이 보증 기록의 증거로 추가되는 증거 추적 기능이 추가될 수 있음
  • 공개 기록과 표시 위치

    • Tangled에서 누군가를 보증하거나 비난하면 사용자의 PDS공개 기록이 생성됨
    • 이 기록에는 보증인지 비난인지와 선택적 사유가 포함됨
    • Tangled appview는 네트워크 전반의 보증 데이터를 집계하고, 상호작용 지점의 프로필 위에 보증 “모자”를 표시함
    • 표시 위치는 이슈, 이슈 댓글, 풀 리퀘스트, 풀 리퀘스트 댓글임
  • 서클 기반 가시성

    • 사용자가 직접 보증·비난한 대상이거나, 사용자가 보증한 사람이 다시 보증·비난한 대상일 때만 해당 사용자 위에 모자가 표시됨
    • 모자를 클릭하면 자신의 서클 안에서 누가 해당 사용자를 보증하거나 비난했는지 확인할 수 있음
    • 현재 비난의 결과는 모자 표시뿐이며, 향후 결과가 달라질 수 있지만 지금은 판단을 돕는 신호로 쓰임
Read Entire Article