- 새로운 뉴스를 올려주세요.
Date 23/08/22 22:29:36수정됨
Name   카르스
Subject   AI 챗봇 라벨링 작업으로 트라우마를 겪는 케냐 노동자들
인공지능(AI) 소프트웨어가 전 세계를 휩쓸고 있다. 회사들은 ‘챗GPT’처럼 강력한 챗봇 서비스가 안전할 수 있도록 조정을 담당하는 ‘모더레이터’를 고용했다. AI가 콘텐츠의 극단적 성격을 파악해 사용자 제공을 막을 수 있도록 하는 것이 목적이다.

챗봇 산업은 수십억 달러 규모로 빠르게 성장 중이다. 중국·미국 등 기술 혁신 최전선의 국가뿐 아니라 아프리카·인도·필리핀 등 저소득 국가에서도 수많은 일자리를 창출하고 있다. 하지만 챗봇의 안전망을 만드는 과정은 불쾌한 자료를 확인해야 하는 사람들에게 큰 타격을 입힐 수 있다.

모팟(27)은 “인생이 다 끝난 것 같다”며 “희망이 사라졌고 모든 것을 잃은 느낌"이라고 말했다.
그는 트라우마로 인해 결혼 생활과 인간관계가 망가졌으며 우울증에 걸렸다고 토로했다. 다른 동료들도 외상 후 스트레스 장애(PTSD)를 겪고 있다고 말했다.

모팟은 ‘사마’에서 일했다. 챗GPT를 제공하는 회사와 계약을 맺은 곳이었다.
모팟은 챗봇이 사용자에게 극단적인 콘텐츠를 제공하지 못하도록 동료들과 함께 해당 콘텐츠를 분류하는 작업을 맡았다. ‘데이터 라벨러’라는 직책을 담당해 라벨(표시)이 붙은 모든 자료를 확인하고 적절성을 확인하는 것이 모팟의 업무였다. 모팟은 폭력, 혐오 발언, 자해, 성적 콘텐츠에 관한 글을 매일 봐야 했다.

“정말 끔찍하고 충격적이었습니다.”
“4개월 동안 이런 글을 봤더니 사고방식도 바뀌었습니다.”
"행동도 변해 가족과 아내가 떠났고, 지금까지도 우울감에 시달리고 있습니다."

(중략)

출처: https://www.bbc.com/korean/articles/crg8m6pdrv6o
==================================================================
유튜브, 페이스북 등에서 고어, 포르노, 폭력 선동, (시각적) 혐오물 등 문제성 컨텐츠 거르는 근로자들의 정신적 스트레스가 극심하다던데, 챗봇 라벨링 담당자도 비슷하군요.  

텍스트든 사진이든 영상이든 담력 테스트 같은데 이용될 법한(과거의 엽기물 유행을 생각해 보세요) 컨텐츠들을
누군가는 업무로서 걸러내야 합니다. 호기심으로 취미로 하는 것도 아니라 밥벌이를 위해 의무적으로 다 봐야 합니다.

모 커뮤니티(디씨, 일베는 아닙니다) 소규모 게시판 부운영진으로서 남 일이 아닌게, 가끔씩 게시판에 찾아와 혐짤테러하는 유저들이 있습니다. 삭제 및 유저 차단을 위해서 그 컨텐츠를 봐야해요.  
운이 좋아서 전 정면으로 보진 않았는데 상상만 해도 으으...



0


이 기사만으로는 느낌이 잘 안오네요.
악성 컨텐츠릍 보는게 정서에 안 좋을 순 있는데 그걸 보다보니 인생이 끝장났다 식의 서술은 너무 생략이 많고 비약적인거 같아서요.
2
하루에 8시간씩 디씨 주갤이나 실베 컨텐츠에 노출된다면, 의 사고실험을 해볼 순 있겠죠. 라벨링을 한다는 건 그냥 흘려보내는 것보다는 조금 더 판단력을 실어 읽어야 할 필요를 지니고, 그런 메시지들에 반복 노출되며 분명 사고에 영향을 미치게 될 거라 짐작할 수 있어요. 마치 딥러닝으로 신경망을 조직하듯.
4
불행히도 인터넷에는 직접 보는 건 말할 것도 없고, 텍스트로 된 설명만 봐도 정신적 충격을 받을법한 극단적인 컨텐츠가 많습니다. 고어물이든 포르노든 현실 스너프/학대물이든 혐오물이든 증오 선동이든 인간의 상상력을 뛰어넘는 컨텐츠가 너무 많아서... 저도 알고 싶지 않았던 마굴이라 흑흑

하루에도 저런 컨텐츠를 몇십건 몇백건씩 접하게 된다면 정신적으로 많이 힘들 겁니다.
3
ai데이터 쪽 일에 대해 업무연관성이 있다보니 좀 아는데, 라벨링 하는게 생각보다 기준도 깐깐하고 가이드라인도 복잡합니다. 특히 더 좋은 튜닝을 위해 데이터품질을 올려야하는데 의뢰하는 사람들도 이걸 정확하게 아는게 아니다보니 라벨링이나 전처리 참여자들이 데이터를 작업할때 이해하고 생각하는 과정이 많이 필요해서 영향 꽤 있을거 같습니다. 특히 이런건 보상도 본인이 한 데이터 양과 질에 맞춰서 제공하려하다보니 근로시간도 적지않을거에요.
4
듣보잡
사람마다 역치가 달라서 이해하기 어려울 수도 있을 것 같읍니다. 저도 쓰레기장에서 인터넷을 오래 해서 그런지 원래 성격이 그런진 몰라도 텍스트만으로는 어떤 최악의 글들을 가져와도 대미지 안 받을 자신이 있는데, 예를 들어서 메갈이나 일베충들이 싸대는 글을 1년 동안 지속적으로 본다 치면 주관이 확고한 사람이 아니라면 사고관 자체가 바뀔 가능성도 충분히 있을 것 같읍니다.
2
보이차
일주일에 한 건이라도 저는 못할 것 같읍니다...
1
유명 범죄 미드 주연급이 매주 잔혹한 범죄를 연기하니 심신이 피폐해진다며 중도 하차한적도 있고.. 제 친구도 신문사 입사했다가 기사화 되지 못하는 드런 꼴 너무 많이 봐서 힘들다며 2년만에 그만둔 일도 있고.. 일이
아니라면 눈감거나 피해볼수도 있겠지만 일이라면 어려울거 같습니다
1
교정직 근무자의 고충과 비슷하게 느껴지네요.
1
목록
번호 제목 이름 날짜 조회 추천
35900 국제AI 챗봇 라벨링 작업으로 트라우마를 겪는 케냐 노동자들 8 카르스 23/08/22 2802 0
35888 국제일본, 후쿠시마 오염수 24일 방류…기시다 "국제 이해 확산"(종합) 2 다군 23/08/22 2486 1
35880 국제WP "용기있는 韓대통령, 실용적인 日총리, 공로 인정 美대통령" 8 오호라 23/08/21 2704 1
35865 국제한국에 20년 동안 공들인 미국? 꿈에 그리던 '최종 목표' 이뤘다 22 우스미 23/08/19 2989 0
35825 국제24시간 운행 샌프란시스코 무인택시, '움직이는 러브호텔' 우려 10 다군 23/08/16 2697 1
35807 국제中 부동산 위기 금융권 확산… 중룽신탁 64조 상환중단 1 활활태워라 23/08/15 2620 0
35804 국제美가 키운 아프리카 軍엘리트들의 반전...쿠데타 주도 벌써 4번째 3 오호라 23/08/15 2702 0
35797 국제부자 미국, 가난한 유럽...富 격차 갈수록 커지는 3가지 이유 19 moqq 23/08/14 2726 0
35789 국제비구이위안 '회사채 11개' 14일 거래정지…中 부동산 위기 현실화 활활태워라 23/08/13 2712 0
35776 국제머스크-저커버그 두 억만장자 CEO의 격투, 로마 콜로세움에서? 9 오호라 23/08/12 2265 0
35756 국제우크라이나, 러시아 Rosatom 제재요구에 국제사회 '난감' 4 오호라 23/08/10 2371 0
35751 국제중국인의 한국 단체관광, '사드 보복' 후 6년 만에 완전 허용(종합) 11 다군 23/08/10 2715 1
35749 국제"고금리로 돈 쉽게 벌었지?"…이탈리아 정부, 은행에 횡재세 40% 부과 추진 7 오호라 23/08/10 2737 0
35745 국제하와이섬 집어삼킨 화마…최소6명 사망·'대피령' 이재민 2천여명(종합2보) 다군 23/08/10 2696 0
35742 국제독일, 민간 무기상으로부터 낡은 전차 구매해 우크라 지원···재고 확보 어려움에 민간 무기상 의존 커져 3 오호라 23/08/10 2692 0
35726 국제사전 포착·제거 어려운 ‘숨은 위협’ 지뢰… 반격의 우크라軍도 고전  오호라 23/08/09 2015 0
35708 국제美공화 "월가 中주식 투자도 안돼"… 바이든 압박 4 Beer Inside 23/08/08 2705 1
35700 국제시민·투자자 외면에 항복한 네타냐후 "법관임명 외 나머지 사법개혁 포기" 오호라 23/08/07 2702 0
35699 국제英스카우트 "잼버리 참가비 1인 약 600만원…모금활동으로 마련"(종합) 1 다군 23/08/07 2695 1
35679 국제가톨릭 '세계청년대회' 2027년 서울 개최…프란치스코 교황 참석(종합) 6 다군 23/08/06 2727 0
35675 국제(포브스, 잼보리 관련) Be Prepared: Boy Scout Innovation In A Time Of Crisis 1 퓨질리어 23/08/06 2039 1
35666 국제"잼버리 상황 알려달라" 英 가디언, 제보 코너까지 만들었다 2 매뉴물있뉴 23/08/05 1874 1
35650 국제하루 4시간 게임만 해도…“주급 500만원 드립니다” 3 swear 23/08/04 2712 0
35640 국제현대차·기아, '스톱앤고 과열로 화재위험'에 美서 9만여대 리콜(종합2보) 3 다군 23/08/03 2268 1
35608 국제일본 스모 인권침해 심각… 곰팡이 핀 썩은 고기까지 먹였다 3 오호라 23/08/01 2698 1
목록

+ : 최근 6시간내에 달린 댓글
+ : 최근 12시간내에 달린 댓글

댓글