- 새로운 뉴스를 올려주세요.
Date | 23/08/22 22:29:36수정됨 |
Name | 카르스 |
Subject | AI 챗봇 라벨링 작업으로 트라우마를 겪는 케냐 노동자들 |
인공지능(AI) 소프트웨어가 전 세계를 휩쓸고 있다. 회사들은 ‘챗GPT’처럼 강력한 챗봇 서비스가 안전할 수 있도록 조정을 담당하는 ‘모더레이터’를 고용했다. AI가 콘텐츠의 극단적 성격을 파악해 사용자 제공을 막을 수 있도록 하는 것이 목적이다. 챗봇 산업은 수십억 달러 규모로 빠르게 성장 중이다. 중국·미국 등 기술 혁신 최전선의 국가뿐 아니라 아프리카·인도·필리핀 등 저소득 국가에서도 수많은 일자리를 창출하고 있다. 하지만 챗봇의 안전망을 만드는 과정은 불쾌한 자료를 확인해야 하는 사람들에게 큰 타격을 입힐 수 있다. 모팟(27)은 “인생이 다 끝난 것 같다”며 “희망이 사라졌고 모든 것을 잃은 느낌"이라고 말했다. 그는 트라우마로 인해 결혼 생활과 인간관계가 망가졌으며 우울증에 걸렸다고 토로했다. 다른 동료들도 외상 후 스트레스 장애(PTSD)를 겪고 있다고 말했다. 모팟은 ‘사마’에서 일했다. 챗GPT를 제공하는 회사와 계약을 맺은 곳이었다. 모팟은 챗봇이 사용자에게 극단적인 콘텐츠를 제공하지 못하도록 동료들과 함께 해당 콘텐츠를 분류하는 작업을 맡았다. ‘데이터 라벨러’라는 직책을 담당해 라벨(표시)이 붙은 모든 자료를 확인하고 적절성을 확인하는 것이 모팟의 업무였다. 모팟은 폭력, 혐오 발언, 자해, 성적 콘텐츠에 관한 글을 매일 봐야 했다. “정말 끔찍하고 충격적이었습니다.” “4개월 동안 이런 글을 봤더니 사고방식도 바뀌었습니다.” "행동도 변해 가족과 아내가 떠났고, 지금까지도 우울감에 시달리고 있습니다." (중략) 출처: https://www.bbc.com/korean/articles/crg8m6pdrv6o ================================================================== 유튜브, 페이스북 등에서 고어, 포르노, 폭력 선동, (시각적) 혐오물 등 문제성 컨텐츠 거르는 근로자들의 정신적 스트레스가 극심하다던데, 챗봇 라벨링 담당자도 비슷하군요. 텍스트든 사진이든 영상이든 담력 테스트 같은데 이용될 법한(과거의 엽기물 유행을 생각해 보세요) 컨텐츠들을 누군가는 업무로서 걸러내야 합니다. 호기심으로 취미로 하는 것도 아니라 밥벌이를 위해 의무적으로 다 봐야 합니다. 모 커뮤니티(디씨, 일베는 아닙니다) 소규모 게시판 부운영진으로서 남 일이 아닌게, 가끔씩 게시판에 찾아와 혐짤테러하는 유저들이 있습니다. 삭제 및 유저 차단을 위해서 그 컨텐츠를 봐야해요. 운이 좋아서 전 정면으로 보진 않았는데 상상만 해도 으으... 0
이 게시판에 등록된 카르스님의 최근 게시물
|
이 기사만으로는 느낌이 잘 안오네요.
악성 컨텐츠릍 보는게 정서에 안 좋을 순 있는데 그걸 보다보니 인생이 끝장났다 식의 서술은 너무 생략이 많고 비약적인거 같아서요.
악성 컨텐츠릍 보는게 정서에 안 좋을 순 있는데 그걸 보다보니 인생이 끝장났다 식의 서술은 너무 생략이 많고 비약적인거 같아서요.
하루에 8시간씩 디씨 주갤이나 실베 컨텐츠에 노출된다면, 의 사고실험을 해볼 순 있겠죠. 라벨링을 한다는 건 그냥 흘려보내는 것보다는 조금 더 판단력을 실어 읽어야 할 필요를 지니고, 그런 메시지들에 반복 노출되며 분명 사고에 영향을 미치게 될 거라 짐작할 수 있어요. 마치 딥러닝으로 신경망을 조직하듯.
불행히도 인터넷에는 직접 보는 건 말할 것도 없고, 텍스트로 된 설명만 봐도 정신적 충격을 받을법한 극단적인 컨텐츠가 많습니다. 고어물이든 포르노든 현실 스너프/학대물이든 혐오물이든 증오 선동이든 인간의 상상력을 뛰어넘는 컨텐츠가 너무 많아서... 저도 알고 싶지 않았던 마굴이라 흑흑
하루에도 저런 컨텐츠를 몇십건 몇백건씩 접하게 된다면 정신적으로 많이 힘들 겁니다.
하루에도 저런 컨텐츠를 몇십건 몇백건씩 접하게 된다면 정신적으로 많이 힘들 겁니다.
ai데이터 쪽 일에 대해 업무연관성이 있다보니 좀 아는데, 라벨링 하는게 생각보다 기준도 깐깐하고 가이드라인도 복잡합니다. 특히 더 좋은 튜닝을 위해 데이터품질을 올려야하는데 의뢰하는 사람들도 이걸 정확하게 아는게 아니다보니 라벨링이나 전처리 참여자들이 데이터를 작업할때 이해하고 생각하는 과정이 많이 필요해서 영향 꽤 있을거 같습니다. 특히 이런건 보상도 본인이 한 데이터 양과 질에 맞춰서 제공하려하다보니 근로시간도 적지않을거에요.
사람마다 역치가 달라서 이해하기 어려울 수도 있을 것 같읍니다. 저도 쓰레기장에서 인터넷을 오래 해서 그런지 원래 성격이 그런진 몰라도 텍스트만으로는 어떤 최악의 글들을 가져와도 대미지 안 받을 자신이 있는데, 예를 들어서 메갈이나 일베충들이 싸대는 글을 1년 동안 지속적으로 본다 치면 주관이 확고한 사람이 아니라면 사고관 자체가 바뀔 가능성도 충분히 있을 것 같읍니다.
유명 범죄 미드 주연급이 매주 잔혹한 범죄를 연기하니 심신이 피폐해진다며 중도 하차한적도 있고.. 제 친구도 신문사 입사했다가 기사화 되지 못하는 드런 꼴 너무 많이 봐서 힘들다며 2년만에 그만둔 일도 있고.. 일이
아니라면 눈감거나 피해볼수도 있겠지만 일이라면 어려울거 같습니다
아니라면 눈감거나 피해볼수도 있겠지만 일이라면 어려울거 같습니다
목록 |
|