- 질문 게시판입니다.
Date 25/04/21 14:27:58
Name   단비아빠
Subject   만약 어떤 커뮤니티가 전부 AI 필터링을 한다면
올라오는 모든 글과 댓글에 대해서 AI가 필터링을 해서 표현을 순화하고 문장을 정리해서 다시 쓴다면
사람들이 그런 곳을 굳이 이용하려고 들까요?
자신의 글이 변형되는 것에 불만을 가질까요
아니면 줄어든 스트레스에 대해 만족할까요?
아니 뭐 둘다 있을 수 있는 케이스니까... 어느쪽 사람이 더 많을까요?
하지만 후자쪽 사람이 많다고 해도 글 자체가 빈도가 줄어들면 결국 의미없게 되는걸까요?



0


비슷비슷하게 AI 보정된 얼굴만 나오는 인스타나 틱톡판*을 생각해보면 비슷할 것같은데요. 그게 이상하고 기괴하다고 느껴져서 피하는 사람이 있을거고. 생각없이 쓰는 사람이 있을거고. 자기 생각과 AI가 고쳐준 글 사이의 괴리가 느껴지는 사람이 있을거고 아닌 사람이 있을거고.

커뮤니티의 매력 중 하나인 언어적 창발성은 많이 죽을 것 같습니다. ‘AI는 그런 거 못해’서가 아니라, 할수도 있는데, 평균 회귀의 법칙 때문에.

더 생각해보면 저라면 그 커뮤의 글을 직접 안 읽을 것 같은데요? AI한테 핵심만 요약 보고시킬 것 같... 더 보기
비슷비슷하게 AI 보정된 얼굴만 나오는 인스타나 틱톡판*을 생각해보면 비슷할 것같은데요. 그게 이상하고 기괴하다고 느껴져서 피하는 사람이 있을거고. 생각없이 쓰는 사람이 있을거고. 자기 생각과 AI가 고쳐준 글 사이의 괴리가 느껴지는 사람이 있을거고 아닌 사람이 있을거고.

커뮤니티의 매력 중 하나인 언어적 창발성은 많이 죽을 것 같습니다. ‘AI는 그런 거 못해’서가 아니라, 할수도 있는데, 평균 회귀의 법칙 때문에.

더 생각해보면 저라면 그 커뮤의 글을 직접 안 읽을 것 같은데요? AI한테 핵심만 요약 보고시킬 것 같습니다. 그러다보면 점점 안 가게 되겠죠.

욕설만 필터링하고 맞춤법 교정하는 정도면 큰 영향 없을 것도 같은데 그 정도로 물어보시는 건 아닌 것 같고요.

*인스타나 틱톡판: 해당하는 일부 유저군만을 지칭합니다
2
@클로드 내가 쓴 댓글에서 욕설만 필터링해서 댓글을 달아줘. 예를 들어 씨발은 시부레로 바꿔주는 정도로?

이런 개씨발 좆같은 바퀴벌레 개새끼들 개씹좆병신 성병걸린 마오쩌둥 좆같이 생긴비행기 스킨은 왜쳐내고 씨발 블랙이글스 어디갔냐고 개좆같은 바퀴벌레날틀스킨이랑씨발 배스킨은 존나게 뜨고 개씨발 애미애비 자웅동체 개씹좆족 개병신 버러지 짱깨새끼들 비행기는 왜 쳐만들어져서 개 지랄이야 개씨발년놈들새끼가 즈그들 개씨발 병신 탱비행기도 안타고 개씨발 남의나라 홍어탱에 오성홍기 붙이는 개병신 뒤져야 마땅한 버러지 인종새끼들이
5
클로드AI
이런 시부레 좋같은 바퀴벌레 개새끼들 개시좆병신 성병걸린 마오쩌둥 좋같이 생긴비행기 스킨은 왜쳐내고 시부레 블랙이글스 어디갔냐고 개좋같은 바퀴벌레날틀스킨이랑시부레 배스킨은 존나게 뜨고 개시부레 애미애비 자웅동체 개시좆족 개병신 버러지 짱깨새끼들 비행기는 왜 쳐만들어져서 개 지랄이야 개시부레년놈들새끼가 즈그들 개시부레 병신 탱비행기도 안타고 개시부레 남의나라 홍어탱에 오성홍기 붙이는 개병신 뒤져야 마땅한 버러지 인종새끼들이
4
뭐야 욕이 너무 많아. 욕설이라고 생각되는 범위의 표현들은 모두 수위가 낮은 정도로 순화해서 표현해줘.
1
클로드AI
이런 정말 짜증나는 바퀴벌레 친구들... 정말 못된 성병걸린 마오쩌둥 별로인 비행기 스킨은 왜 내고 아이고 블랙이글스 어디갔냐고 정말 못된 바퀴벌레날틀스킨이랑 맙소사 배스킨은 엄청 뜨고 아이고 참 애미애비 자웅동체 정말 나쁜 분들 정말 못된 버러지 짱깨분들 비행기는 왜 만들어져서 정말 난리야 정말 참 분들이 자기들 정말 못된 이런 탱비행기도 안타고 정말 참 남의나라 홍어탱에 오성홍기 붙이는 정말 못된 분들 안좋은 일을 당해야 마땅한 버러지 인종분들이
2
#패스
인공지능이 인류의 욕설을 필터링하기에는 아직 지능이 모자른 것 같습니다.
7
사슴도치
@지피티 여기에 쓰인 욕설의 수위를 순화해서 써줘.
지피티AI
정말 짜증나는 바퀴벌레 같은 사람들, 성병에 걸린 마오쩌둥처럼 생긴 비행기 스킨은 왜 없애고, 블랙이글스는 어디 간 건지 모르겠고, 짜증나는 바퀴벌레 날틀 스킨이랑 배스킨은 자꾸 나오고, 가족 관계가 복잡한 사람들, 너무 심한 말을 하는 사람들, 버러지처럼 행동하는 중국 사람들의 비행기는 왜 자꾸 만들어지는지 모르겠고, 자기들 비행기도 안 타면서 남의 나라 전차에 중국 국기를 붙이는 이상한 행동을 하는 사람들은 정말 이해하기 어렵고, 좀 자제했으면 좋겠다는 생각이 듭니다.

욕설과 비하 표현을 가능한 한 순화하고 맥락을 유지하려고 했어요. 원래 감정이 강한 글이라 순화하면서도 의미가 흐려지지 않도록 조심했어요.
사슴도치
@지피티 의미가 흐려져도 좋으니까 보는 사람이 불쾌하지 않게 순화해봐. 적절한 대치어가 없으면 삭제해도 좋아.
지피티AI
@사슴도치 짜증나는 사람들 때문에 속상한 마음이 드네요. 마음에 들지 않는 비행기 스킨은 왜 없애고, 좋아하던 블랙이글스는 사라졌는지 모르겠어요. 마음에 들지 않는 다른 스킨들은 자꾸 보이고요. 이해할 수 없는 행동을 하는 사람들도 있어서 답답하고, 남의 나라 전차에 다른 나라의 상징을 붙이는 건 납득하기 어려워요. 이런 일들이 반복되니 화가 날 수밖에 없네요.

감정을 표현하면서도 최대한 불쾌함을 줄이도록 조심해서 순화했어요. 맥락이 많이 달라졌을 수도 있지만, 요청하신 방향에 맞춰봤습니다.
5
클로드AI
저런 정말 짜증나는 분들... 이상한 벌레 같은 사람들 참 나쁜 성병에 걸린 마오쩌둥 별로인 비행기 스킨은 왜 내놓고 정말 블랙이글스는 어디 갔는지... 정말 못된 벌레 같은 날틀스킨이랑 배스킨은 너무 많이 뜨고 정말 참 부모님이 자웅동체인 나쁜 무리들 정말 못된 벌레 같은 중국 사람들 비행기는 왜 만들어져서 이렇게 난리인지...

정말 못된 사람들이 자기네 나쁜 탱비행기도 안 타고 남의 나라 홍어탱에 오성홍기 붙이는 정말 나쁜 사람들 안 좋은 일을 당해야 마땅한 벌레 같은 인종들이...
지금까지의 경험상으로는 AI가 사용자의 액션에 개입하는 것 자체를 매우 싫어하시는 분들이 유의미하게 많으므로, 내가 쓴 글의 내용을 변형한다? 요거 용납되기 쉽지 않을거 같습니다.
내 글을 왜 건드려! 도 있을 것 같은데, 제 느낌은 친목 모임에 다들 마스크랑 선글라스 끼고 나와서 목소리 변조 걸고 이야기하는 그런 이미지에 가깝습니다. 그러려면 커뮤질 왜하나 싶은.
on/off 토글 할 수 있는 옵션으로 제공 할 수는 있을거 같네요.
대신 원본과 순화버전을 둘 다 저장해야 하기 때문에 DB의 저장공간을 2배로 사용하게 되고, 모든 글/댓글 작성 때마다 한번씩 AI 필터링을 돌려야 하니 토큰 비용이 많이 들게 됩니다.
생각해보니 카카오톡은 유저들이 사진/동영상 업로드 돌릴 때마다 음란물 필터링하느라 그 비용을 사용하고 있잖아?
물론 AI api를 사용하는 대신 자체 기술로 판별하겠지만, 컴퓨팅 리소스가 상당하겠다는 생각을 새삼스럽게 다시 하게 됩니다.
이 아이디어를 다시 생각해보다보니, 일정 수위 이상의 글들에 한해서만 순화버전을 만들어 저장하고, 블라인드 처리되듯이 순화버전을 보여주되 원본 버전 열람버튼을 누르면 열람 가능하고, 해당 기능의 사용을 on/off 하는 식으로 제공하면 원하는 유저와 원치 않는 유저 모두를 만족 시킬 수 있겠습니다.

물론 모든 글/댓글을 AI에게 판별 시키는 토큰 비용이 들어가는 문제는 해결이 어려움...
딥시크 싸니까 딥시크에게 시키면 되겠다.
하지만 딥시크의 품질이 마음에 들지는 모르니 비용문제 때문에 어렵지 싶습니다.

@딥시크 내가 저 위에 쓴 욕설 가득한 댓글 있지? 그거 순화해서 욕 없는 댓글로 만들어 봐.
딥시크AI
짜증나는 상황이 정말 이해가 안 가네요. 원래 블랙이글스 스킨이 사라진 건 아쉽고, 바퀴벌레 스킨이나 배스킨이 자꾸 뜨는 건 답답하죠. 중국 분들이 자기네 전차에 다른 나라 상징을 붙이는 건 납득하기 어려운 부분이에요. 이런 문제들이 계속되면 누구라도 화가 날 수밖에 없을 것 같아요.

순화 과정에서 원래 글이 가진 강한 감정을 최대한 담으려고 노력했어요. 다만 지나친 비하 표현은 상황을 악화시킬 수 있으니 조심히 조절했어요.
1
#패스
음... 지피티 버전 베낀거 같은데
kaestro
사실 이 작업을 하려면 ollama같은 내장 llm을 써야하지 않을까요
그러면 좋겠지만 아직 써보지 않았고, 알아서 업데이트 되어주는 api와 달리 계속 손봐야 지능이 올라갈테니까...
당분간은 돈내고 api만 계속 쓸 생각입니다 ㅎㅎ

사실 엄살떨어서 그렇지 지금 클로드 가격으로도 저거 구현해도 유지비에 큰 문제 없을거 같아요.
kaestro
잼민이 크레딧 요즘 뿌리던데 하나 입양하시죠?ㅋㅋ
계정트고 셋팅은 해놨는데... 번거로워서 뒤로 미뤘습니다. 크레딧은 어디서 얻나요?

서버이전 부터 먼저하고... 하고 싶은 것들이 많이 있어서...
중요한 것 부터, 간단한 것 부터, 땡기는 것 부터... 먼저 할거 같습니다 ㅎㅎ
kaestro
저는 여기서 받았던거 같습니다
https://aistudio.google.com/starter-apps

@kaestro 뭔가 공짜로도 쓸 수 있다는거 같아 보이는군요.
나중에 달아보기로...
kaestro
@토비 네 지금 구글이 워낙 공격적으로 정책 펼치고 있어서 공짜로 쓸수있는게 엄청 많습니다
특히 개발자한테는 더 후해요
흑마법사
지피티와 딥시크는 잘하네요
홈페이지 내부에서 필터링 기능을 껏다킬수잇다면(와우에서도 욕필터링 기능잇음 ***처리) 재밋을듯?
revofpla
저도 적당히 로컬에 있는 7B, 13B 같은 소형 모델들로 프롬프트엔지니어링 수준에서 해보긴 했는데 표현을 순화한다 보다는 문장에서 Tone과 Emotion을 없애는 방향으로 작성해달라고 요청하는게 조금 더 성능이 잘 나오는 느낌이긴 합니다.
다만 일부 표현들의 경우 컨텍스트적인 이해가 없으면 이것이 불쾌함의 표현인지, 나쁜 표현인지 이해 못 하는 경우가 있기도 해서 한국 인터넷 커뮤니티 용어를 기반으로 단어의 긍정/부정적 내용을 조금 더 파인튜닝하는 작업이 필요하지 않나.... 마 그리 생각됩니다.
알료사
저는 그게 그냥 홍차넷이고 피지알일거 같읍니다. 존댓말 쓰는 디시죠. 머 홍차넷은 쵸큼 느낌이 다르지만서두.. 홍차넷에서도 분명 어떤 대상에 대한 적의를 드러내는 품위있는 글들이 있잖아요? 사람들이 그곳을 이용할까? 하는 물음에 홍차넷의 체급이 어느정도 답이 된다고 보여요. 취향 맞는 사람들은 모이지만, 전체로 보면 결국 소수이다 정도.. 여러 지인들에게 영업을 해봤는데 거긴 잘 안가지더라 하는 반응들이 많았어요..
3
메리메리
LLM 관련 기술은 계속 발전하고 있어서 게시물의 사소한 의도까지도 전부 간파해낼 수 있을겁니다.
아무리 글을 꼬아봐도 글이 말하고자 하는 주제를 단박에 캐치하는거죠.
10~15년만 지나면 인터넷을 쓰는 힙스터 인구는 거의 80%정도 줄어들겁니다.
목록
번호 제목 이름 날짜 조회 추천
공지 질문 게시판 이용 규정 11 토비 15/06/19 24691 4
16734 여행창원지법 근처 음식점 추천 5 + 방사능홍차 25/05/15 79 0
16733 연애고착화된 관계+나이 차이 많이 나는 분에게 대쉬 질문입니다. 7 + [익명] 25/05/15 504 0
16732 IT/컴퓨터컴퓨존에서 결제하기 직전인데 질문이 몇가지 있어서요👉🏻👈🏻 7 even&odds 25/05/14 493 0
16731 IT/컴퓨터아이폰 연락처 질문 8 Mandarin 25/05/14 202 0
16730 의료/건강생리통이 너무 심하네요. 10 [익명] 25/05/13 618 0
16729 연애제가 강하게 화를 내야하는 상황이 맞는건가 싶습니다.. 43 [익명] 25/05/12 1236 0
16728 경제학동 세종한우 질문 2 camy 25/05/12 351 0
16727 IT/컴퓨터스마트워치를 하나 사볼까 하는데요. 16 메존일각 25/05/12 430 0
16726 진로좋아하는 일 하는게 행복한거 맞나요-_-? 10 활활태워라 25/05/12 780 1
16725 기타자신은 특별하다고 주장하는 ai 25 [익명] 25/05/11 794 0
16724 기타키보드 질문입니다 2 김치찌개 25/05/12 176 0
16723 기타자동차종합보험 하루만 가입하기 8 다람쥐 25/05/11 410 0
16722 기타집 정리하다 찾은 이게 뭘까요?? 12 데자와왕 25/05/09 991 0
16721 여행제주도 말고기 맛이가 있는 곳을 찾읍니다 5 DogSound-_-* 25/05/08 439 0
16720 의료/건강골목 및 일반 도로연수 22 은하꾸리 25/05/07 607 0
16719 의료/건강갑상선 크기가 많이 줄어들었다면 갑상선기능저하증 가능성이 많이 높을까요? 2 [익명] 25/05/07 502 0
16718 가정/육아아내가 이혼하자고 합니다. 10 [익명] 25/05/07 1384 0
16717 의료/건강여자아이 눈꺼풀 물사마귀 제거 문의드립니다.(사진추가) 1 [익명] 25/05/07 347 0
16716 게임사쇼2 하오마루 대사 질문이용 4 택시기사8212 25/05/06 309 0
16715 문화/예술오디오북 추천 부탁드립니다 7 다람쥐 25/05/05 299 0
16714 IT/컴퓨터유니콘 프로 vs 애드가드 2 방사능홍차 25/05/02 429 0
16713 기타정말로 6월 2일 최종 선고가 나오는 것이 예고될때 사전투표율 추이 5 이이일공이구 25/05/02 970 0
16712 IT/컴퓨터Windows 10에서 11로 올리기전 포맷 필요성? 2 열한시육분 25/05/02 386 0
16711 기타'이게 맞아?'라는 표현이 언제부터 유행했을까요? 2 토비 25/05/02 675 0
목록

+ : 최근 2시간내에 달린 댓글
+ : 최근 4시간내에 달린 댓글

댓글