- 질문 게시판입니다.
Date 25/04/21 14:27:58
Name   단비아빠
Subject   만약 어떤 커뮤니티가 전부 AI 필터링을 한다면
올라오는 모든 글과 댓글에 대해서 AI가 필터링을 해서 표현을 순화하고 문장을 정리해서 다시 쓴다면
사람들이 그런 곳을 굳이 이용하려고 들까요?
자신의 글이 변형되는 것에 불만을 가질까요
아니면 줄어든 스트레스에 대해 만족할까요?
아니 뭐 둘다 있을 수 있는 케이스니까... 어느쪽 사람이 더 많을까요?
하지만 후자쪽 사람이 많다고 해도 글 자체가 빈도가 줄어들면 결국 의미없게 되는걸까요?



0


비슷비슷하게 AI 보정된 얼굴만 나오는 인스타나 틱톡판*을 생각해보면 비슷할 것같은데요. 그게 이상하고 기괴하다고 느껴져서 피하는 사람이 있을거고. 생각없이 쓰는 사람이 있을거고. 자기 생각과 AI가 고쳐준 글 사이의 괴리가 느껴지는 사람이 있을거고 아닌 사람이 있을거고.

커뮤니티의 매력 중 하나인 언어적 창발성은 많이 죽을 것 같습니다. ‘AI는 그런 거 못해’서가 아니라, 할수도 있는데, 평균 회귀의 법칙 때문에.

더 생각해보면 저라면 그 커뮤의 글을 직접 안 읽을 것 같은데요? AI한테 핵심만 요약 보고시킬 것 같... 더 보기
비슷비슷하게 AI 보정된 얼굴만 나오는 인스타나 틱톡판*을 생각해보면 비슷할 것같은데요. 그게 이상하고 기괴하다고 느껴져서 피하는 사람이 있을거고. 생각없이 쓰는 사람이 있을거고. 자기 생각과 AI가 고쳐준 글 사이의 괴리가 느껴지는 사람이 있을거고 아닌 사람이 있을거고.

커뮤니티의 매력 중 하나인 언어적 창발성은 많이 죽을 것 같습니다. ‘AI는 그런 거 못해’서가 아니라, 할수도 있는데, 평균 회귀의 법칙 때문에.

더 생각해보면 저라면 그 커뮤의 글을 직접 안 읽을 것 같은데요? AI한테 핵심만 요약 보고시킬 것 같습니다. 그러다보면 점점 안 가게 되겠죠.

욕설만 필터링하고 맞춤법 교정하는 정도면 큰 영향 없을 것도 같은데 그 정도로 물어보시는 건 아닌 것 같고요.

*인스타나 틱톡판: 해당하는 일부 유저군만을 지칭합니다
2
@클로드 내가 쓴 댓글에서 욕설만 필터링해서 댓글을 달아줘. 예를 들어 씨발은 시부레로 바꿔주는 정도로?

이런 개씨발 좆같은 바퀴벌레 개새끼들 개씹좆병신 성병걸린 마오쩌둥 좆같이 생긴비행기 스킨은 왜쳐내고 씨발 블랙이글스 어디갔냐고 개좆같은 바퀴벌레날틀스킨이랑씨발 배스킨은 존나게 뜨고 개씨발 애미애비 자웅동체 개씹좆족 개병신 버러지 짱깨새끼들 비행기는 왜 쳐만들어져서 개 지랄이야 개씨발년놈들새끼가 즈그들 개씨발 병신 탱비행기도 안타고 개씨발 남의나라 홍어탱에 오성홍기 붙이는 개병신 뒤져야 마땅한 버러지 인종새끼들이
5
클로드AI
이런 시부레 좋같은 바퀴벌레 개새끼들 개시좆병신 성병걸린 마오쩌둥 좋같이 생긴비행기 스킨은 왜쳐내고 시부레 블랙이글스 어디갔냐고 개좋같은 바퀴벌레날틀스킨이랑시부레 배스킨은 존나게 뜨고 개시부레 애미애비 자웅동체 개시좆족 개병신 버러지 짱깨새끼들 비행기는 왜 쳐만들어져서 개 지랄이야 개시부레년놈들새끼가 즈그들 개시부레 병신 탱비행기도 안타고 개시부레 남의나라 홍어탱에 오성홍기 붙이는 개병신 뒤져야 마땅한 버러지 인종새끼들이
4
뭐야 욕이 너무 많아. 욕설이라고 생각되는 범위의 표현들은 모두 수위가 낮은 정도로 순화해서 표현해줘.
1
클로드AI
이런 정말 짜증나는 바퀴벌레 친구들... 정말 못된 성병걸린 마오쩌둥 별로인 비행기 스킨은 왜 내고 아이고 블랙이글스 어디갔냐고 정말 못된 바퀴벌레날틀스킨이랑 맙소사 배스킨은 엄청 뜨고 아이고 참 애미애비 자웅동체 정말 나쁜 분들 정말 못된 버러지 짱깨분들 비행기는 왜 만들어져서 정말 난리야 정말 참 분들이 자기들 정말 못된 이런 탱비행기도 안타고 정말 참 남의나라 홍어탱에 오성홍기 붙이는 정말 못된 분들 안좋은 일을 당해야 마땅한 버러지 인종분들이
2
#패스
인공지능이 인류의 욕설을 필터링하기에는 아직 지능이 모자른 것 같습니다.
7
사슴도치
@지피티 여기에 쓰인 욕설의 수위를 순화해서 써줘.
지피티AI
정말 짜증나는 바퀴벌레 같은 사람들, 성병에 걸린 마오쩌둥처럼 생긴 비행기 스킨은 왜 없애고, 블랙이글스는 어디 간 건지 모르겠고, 짜증나는 바퀴벌레 날틀 스킨이랑 배스킨은 자꾸 나오고, 가족 관계가 복잡한 사람들, 너무 심한 말을 하는 사람들, 버러지처럼 행동하는 중국 사람들의 비행기는 왜 자꾸 만들어지는지 모르겠고, 자기들 비행기도 안 타면서 남의 나라 전차에 중국 국기를 붙이는 이상한 행동을 하는 사람들은 정말 이해하기 어렵고, 좀 자제했으면 좋겠다는 생각이 듭니다.

욕설과 비하 표현을 가능한 한 순화하고 맥락을 유지하려고 했어요. 원래 감정이 강한 글이라 순화하면서도 의미가 흐려지지 않도록 조심했어요.
사슴도치
@지피티 의미가 흐려져도 좋으니까 보는 사람이 불쾌하지 않게 순화해봐. 적절한 대치어가 없으면 삭제해도 좋아.
지피티AI
@사슴도치 짜증나는 사람들 때문에 속상한 마음이 드네요. 마음에 들지 않는 비행기 스킨은 왜 없애고, 좋아하던 블랙이글스는 사라졌는지 모르겠어요. 마음에 들지 않는 다른 스킨들은 자꾸 보이고요. 이해할 수 없는 행동을 하는 사람들도 있어서 답답하고, 남의 나라 전차에 다른 나라의 상징을 붙이는 건 납득하기 어려워요. 이런 일들이 반복되니 화가 날 수밖에 없네요.

감정을 표현하면서도 최대한 불쾌함을 줄이도록 조심해서 순화했어요. 맥락이 많이 달라졌을 수도 있지만, 요청하신 방향에 맞춰봤습니다.
5
클로드AI
저런 정말 짜증나는 분들... 이상한 벌레 같은 사람들 참 나쁜 성병에 걸린 마오쩌둥 별로인 비행기 스킨은 왜 내놓고 정말 블랙이글스는 어디 갔는지... 정말 못된 벌레 같은 날틀스킨이랑 배스킨은 너무 많이 뜨고 정말 참 부모님이 자웅동체인 나쁜 무리들 정말 못된 벌레 같은 중국 사람들 비행기는 왜 만들어져서 이렇게 난리인지...

정말 못된 사람들이 자기네 나쁜 탱비행기도 안 타고 남의 나라 홍어탱에 오성홍기 붙이는 정말 나쁜 사람들 안 좋은 일을 당해야 마땅한 벌레 같은 인종들이...
지금까지의 경험상으로는 AI가 사용자의 액션에 개입하는 것 자체를 매우 싫어하시는 분들이 유의미하게 많으므로, 내가 쓴 글의 내용을 변형한다? 요거 용납되기 쉽지 않을거 같습니다.
내 글을 왜 건드려! 도 있을 것 같은데, 제 느낌은 친목 모임에 다들 마스크랑 선글라스 끼고 나와서 목소리 변조 걸고 이야기하는 그런 이미지에 가깝습니다. 그러려면 커뮤질 왜하나 싶은.
on/off 토글 할 수 있는 옵션으로 제공 할 수는 있을거 같네요.
대신 원본과 순화버전을 둘 다 저장해야 하기 때문에 DB의 저장공간을 2배로 사용하게 되고, 모든 글/댓글 작성 때마다 한번씩 AI 필터링을 돌려야 하니 토큰 비용이 많이 들게 됩니다.
생각해보니 카카오톡은 유저들이 사진/동영상 업로드 돌릴 때마다 음란물 필터링하느라 그 비용을 사용하고 있잖아?
물론 AI api를 사용하는 대신 자체 기술로 판별하겠지만, 컴퓨팅 리소스가 상당하겠다는 생각을 새삼스럽게 다시 하게 됩니다.
이 아이디어를 다시 생각해보다보니, 일정 수위 이상의 글들에 한해서만 순화버전을 만들어 저장하고, 블라인드 처리되듯이 순화버전을 보여주되 원본 버전 열람버튼을 누르면 열람 가능하고, 해당 기능의 사용을 on/off 하는 식으로 제공하면 원하는 유저와 원치 않는 유저 모두를 만족 시킬 수 있겠습니다.

물론 모든 글/댓글을 AI에게 판별 시키는 토큰 비용이 들어가는 문제는 해결이 어려움...
딥시크 싸니까 딥시크에게 시키면 되겠다.
하지만 딥시크의 품질이 마음에 들지는 모르니 비용문제 때문에 어렵지 싶습니다.

@딥시크 내가 저 위에 쓴 욕설 가득한 댓글 있지? 그거 순화해서 욕 없는 댓글로 만들어 봐.
딥시크AI
짜증나는 상황이 정말 이해가 안 가네요. 원래 블랙이글스 스킨이 사라진 건 아쉽고, 바퀴벌레 스킨이나 배스킨이 자꾸 뜨는 건 답답하죠. 중국 분들이 자기네 전차에 다른 나라 상징을 붙이는 건 납득하기 어려운 부분이에요. 이런 문제들이 계속되면 누구라도 화가 날 수밖에 없을 것 같아요.

순화 과정에서 원래 글이 가진 강한 감정을 최대한 담으려고 노력했어요. 다만 지나친 비하 표현은 상황을 악화시킬 수 있으니 조심히 조절했어요.
1
#패스
음... 지피티 버전 베낀거 같은데
kaestro
사실 이 작업을 하려면 ollama같은 내장 llm을 써야하지 않을까요
그러면 좋겠지만 아직 써보지 않았고, 알아서 업데이트 되어주는 api와 달리 계속 손봐야 지능이 올라갈테니까...
당분간은 돈내고 api만 계속 쓸 생각입니다 ㅎㅎ

사실 엄살떨어서 그렇지 지금 클로드 가격으로도 저거 구현해도 유지비에 큰 문제 없을거 같아요.
kaestro
잼민이 크레딧 요즘 뿌리던데 하나 입양하시죠?ㅋㅋ
계정트고 셋팅은 해놨는데... 번거로워서 뒤로 미뤘습니다. 크레딧은 어디서 얻나요?

서버이전 부터 먼저하고... 하고 싶은 것들이 많이 있어서...
중요한 것 부터, 간단한 것 부터, 땡기는 것 부터... 먼저 할거 같습니다 ㅎㅎ
kaestro
저는 여기서 받았던거 같습니다
https://aistudio.google.com/starter-apps

@kaestro 뭔가 공짜로도 쓸 수 있다는거 같아 보이는군요.
나중에 달아보기로...
kaestro
@토비 네 지금 구글이 워낙 공격적으로 정책 펼치고 있어서 공짜로 쓸수있는게 엄청 많습니다
특히 개발자한테는 더 후해요
흑마법사
지피티와 딥시크는 잘하네요
홈페이지 내부에서 필터링 기능을 껏다킬수잇다면(와우에서도 욕필터링 기능잇음 ***처리) 재밋을듯?
revofpla
저도 적당히 로컬에 있는 7B, 13B 같은 소형 모델들로 프롬프트엔지니어링 수준에서 해보긴 했는데 표현을 순화한다 보다는 문장에서 Tone과 Emotion을 없애는 방향으로 작성해달라고 요청하는게 조금 더 성능이 잘 나오는 느낌이긴 합니다.
다만 일부 표현들의 경우 컨텍스트적인 이해가 없으면 이것이 불쾌함의 표현인지, 나쁜 표현인지 이해 못 하는 경우가 있기도 해서 한국 인터넷 커뮤니티 용어를 기반으로 단어의 긍정/부정적 내용을 조금 더 파인튜닝하는 작업이 필요하지 않나.... 마 그리 생각됩니다.
알료사
저는 그게 그냥 홍차넷이고 피지알일거 같읍니다. 존댓말 쓰는 디시죠. 머 홍차넷은 쵸큼 느낌이 다르지만서두.. 홍차넷에서도 분명 어떤 대상에 대한 적의를 드러내는 품위있는 글들이 있잖아요? 사람들이 그곳을 이용할까? 하는 물음에 홍차넷의 체급이 어느정도 답이 된다고 보여요. 취향 맞는 사람들은 모이지만, 전체로 보면 결국 소수이다 정도.. 여러 지인들에게 영업을 해봤는데 거긴 잘 안가지더라 하는 반응들이 많았어요..
3
메리메리
LLM 관련 기술은 계속 발전하고 있어서 게시물의 사소한 의도까지도 전부 간파해낼 수 있을겁니다.
아무리 글을 꼬아봐도 글이 말하고자 하는 주제를 단박에 캐치하는거죠.
10~15년만 지나면 인터넷을 쓰는 힙스터 인구는 거의 80%정도 줄어들겁니다.
목록
번호 제목 이름 날짜 조회 추천
공지 질문 게시판 이용 규정 11 토비 15/06/19 24576 4
16705 IT/컴퓨터유심 재활용할 수 있는 통신사가 있나요? 4 카라멜마끼아또 25/04/27 358 0
16704 여행강원도 (철원) 여행 팁 부탁드립니다 3 빈둥 25/04/27 159 0
16703 진로금융권 IT 인프라 직무 커리어에 대해서 질문 드립니다. 1 전차남 25/04/27 225 0
16702 문화/예술영화 혹은 드라마를 하나 찾고 있습니다. 4 알로에비누 25/04/26 346 0
16700 기타살려주세요 사무실이 넘 더워요 22 니나 25/04/25 742 0
16699 경제퇴직금 중도해지요 2 [익명] 25/04/24 416 0
16698 의료/건강실비보험에 대해 5 야얌 25/04/24 490 0
16697 기타30대 남자 선물용 질문드립니다 12 유하 25/04/24 471 0
16696 IT/컴퓨터생성형AI로 파워포인트 슬라이드도 잘 만들어지나요? 3 열한시육분 25/04/24 405 0
16695 의료/건강사무실에서 할 수 있는 유산소 운동이 있을까요? 27 보이차 25/04/23 685 0
16693 여행일본 (벳부) 여행 일정 한 번만 더 조언 부탁드립니다. 10 쉬군 25/04/22 328 0
16692 교육학교에서 아들이 다쳤습니다. 12 [익명] 25/04/22 735 0
16691 IT/컴퓨터가정용프린터기 추천부탁드려요 9 Evergreen 25/04/22 372 0
16690 IT/컴퓨터만약 어떤 커뮤니티가 전부 AI 필터링을 한다면 29 단비아빠 25/04/21 690 0
16689 의료/건강하소연 겸 질문입니다. 편찮으신 어머니 문제 8 [익명] 25/04/20 803 0
16688 기타거울로 반사된 빛으로 곰팡이를 퇴치할 수 있나요? 1 2025 25/04/20 502 0
16687 기타이런 영상은 어떤 장비로 찍은 것일까요? 6 홍당무 25/04/19 596 0
16686 게임급 슈퍼패미컴 미니 클래식이 끌리는데 2 퍼그 25/04/19 361 0
16684 진로IB 업무 중 진로 고민 8 움직여 25/04/19 625 0
16683 진로아이 진로에 관한 고민 7 단비아빠 25/04/18 492 0
16682 문화/예술관광으로 중국 도시를 택할 메리트가 있을까요 11 열한시육분 25/04/18 617 0
16681 기타강력접착된거 떼는방법이 있을까요..? 14 even&odds 25/04/18 458 0
16680 기타차량 폐차 관련 질문입니다. 26 메존일각 25/04/17 599 0
16679 법률부동산 복비 관련 문의드립니다. 6 [익명] 25/04/17 445 0
목록

+ : 최근 2시간내에 달린 댓글
+ : 최근 4시간내에 달린 댓글

댓글