- 새로운 뉴스를 올려주세요.
Date 20/12/11 07:45:28
Name   구밀복검
Subject   전 구글 엔지니어, 내부고발 후 해고
https://www.mk.co.kr/news/business/view/2020/12/1253140/?fbclid=IwAR0SkacVazkzWReTpdpBQEUXmKPQU6pOiD4srFQTUUOZELsyAn4RL3PIdK0

문제의 보고서 내용 : MIT 테크놀로지 리뷰에 유출된 게브루의 연구보고서에 따르면 구글이 갖고 있는 대규모 언어 신경망 모델의 문제점은 크게 네 가지.

- 첫째, 대규모 언어처리 인공지능 모델은 엄청난 전력소모를 유발해 지구온난화에 영향을 미침
- 둘째, 대규모 언어처리 인공지능 모델은 방대한 데이터들을 학습하는데 그 중에 인종차별, 성차별적 언어들이 섞이면서 인공지능이 잘못된 언어를 학습할 위험 있음.
- 셋째, 현재 대규모 언어처리 인공지능 모델은 인간의 언어를 이해하지 못하면서 흉내내는 것에 집중하고 있음. 이게 인기를 끌고 사람들에게 많이 이용되면서 구글의 인공지능 연구 또한 이 쪽으로 집중되고 있지만, 사실 사람들에게 더 필요한 것은 사람의 언어를 진짜로 이해하고, 보다 작은 데이터라도 잘 학습하는 인공지능일 수 있음. 이런 쪽에 대한 연구는 관심을 받지 못하고 있다는 사실이 큰 위험임.
- 넷째, 대규모 언어처리 인공지능은 인간을 너무 흡사하게 흉내낼 수 있기 때문에 가짜뉴스, 딥페이크 등과 같은 곳에 응용될 수 있음.

보고서는 이런 대규모 신경망 모델이 차별적 언어에 길들여 질 수 있고, 사람의 언어를 흉내만 낼 뿐, 본질적 인공지능은 아니라는 내용을 담고 있음. 즉, 구글의 인공지능 발전 과정 자체에 대한 근본적 문제제기와 비판을 하고 있는 셈임.

제프 딘은 게브루 등이 작성한 보고서 내용이 "(구글에서 대외적으로 공개할 수 있는) 수준에 미치지 못한다"며 "관련된 다른 연구들을 지나치게 무시하고 있다"라는 이유로 발표를 막았던 것으로 알려짐. 제프 딘은 특히 보고서에서 제기된 문제점들을 해소하기 위해 구글이 하고 있는 다양한 노력들이 담기지 않았다는 점을 문제삼았음. 한마디로 대외적으로 드러내기에는 함량미달이라는 것. 그러나 몬트리올 구글 오피스에서 일하는 니콜라스 르 루 (Nicholas Le Roux)라는 연구원에 따르면 자신이 대외적으로 발표하는 보고서는 한번도 함량미달이나 수준에 대해 점검받은 적이 없었고, 외부에 알리면 민감한지 아닌지 정도만 체크를 받았다고 주장.

https://www.bbc.com/news/technology-55164324
https://www.bloomberg.com/news/articles/2020-12-09/google-ceo-apologizes-for-handling-of-departure-of-ai-researcher?srnd=markets-vp
https://www.cnbc.com/2020/12/07/google-employees-dispute-jeff-dean-claim-timnit-gebru-did-not-resign.html

여러 매체의 보도를 볼 때 대부분의 여론은 게브루 손을 들어주고 있는 듯합니다.



1


존보글
블룸버그는 한달 3개 무료던가 제한이 있으니 cnbc를 애용하심씨오
T.Robin
저 회사,
Don't be evil에서 Don't를 빼먹은지 꽤 됐죠.
4
존보글
Go and Sin On More
1
Brown&Cony
이미 중국에 굴복했을때부터 뜨겁게 얘기되던 주제이니 십수년 이상 된 아주 오래된 얘기죠..
Believer
- 첫째, 대규모 언어처리 인공지능 모델은 엄청난 전력소모를 유발해 지구온난화에 영향을 미침

말고는뭔가 당연한거라서 내부고발이라고 할건..
6
음 얼핏보기에 구글 내부 공돌이들이 ‘알지도 못하면서’라고 분개하며 일어날 내용들이 많아보이네요.
엔지니어 관점에서 열띤 논쟁이 있을 수 있는 내용들 같아요.
구밀복검
기술적인 사항은 모르겠고 HR과 해고 과정에 대한 성토가 상당한 듯합니다.
재밌다재밌다
진짜 언어를 이해하는 인공지능은 더 무섭네요.
저분이 훌륭한 과학자임을 고려해도, 네개 다 구글에게도 그녀에게도 별 영양가 없는 이야기 같습니다.
2
그저그런
...? 3 빼고는 구글에 근무 안해도 알것같은데요;;
1
구밀복검
그래서 더 논란이 되는 듯합니다. 별것도 아닌데 왜 게제를 막고 일방적으로 해고했느냐.. 일단 어제 구글에서 내부 사과문 돌렸네요.
https://www.cnbc.com/2020/12/09/google-ceo-sundar-pichai-memo-on-timnit-gebru-dismissal.html?__source=sharebar|twitter&par=sharebar
2
아...? 우리나라랑 분위기가 다르긴 하네요 ㅎㅎ
우리는 오히려 회사에 부정적인 내용을 외부에 발표하면 동료들도 불편해할텐데요...
물론 해고가 잘했다는건 아닙니다.
은때까치
전공자라면 3도 저렇게 쉽게 할 수 없는 말인거 같은데요....... 개인적으로는 저 의견에 전혀 동의하지 않습니다. 근데 저런 얘기는 토론을 통해 결론지어야지 유출을 막고 해고하는건 비정상적인 행태는 맞는거 같아요.
듣보잡
아니... 일단 저 내용들이 내부고발이라고 할 수준도 못되는 내용이고 자연어 처리 전공자 수준이면 이미 알고 있는 수준의 발언들 뿐인데... 저걸로 해고됐다고요? 저걸 뭐 대단한 듯이 발표하는 양반이나 자르는 회사나 참...
3-4 내용은 서로 모순되는 것 같은데..
애초에 사람이라고 언어의 본질을 아는 것도 아니고.. 언어학자들도 모르겠구만..
전력 사용도 뭘 엄청나게 소비하지 않는 한은 문제될 것 같지도 않고..
나쁜 말을 배운다는 건 기계보단 사람의 문제..
차이니즈 룸 논쟁을 찾아보시면 도움될 것 같습니다.
듣보잡
관련 전공자로서 각각의 내용에 대해 간단히 제 의견 추가해 봅니다.

- 첫째, 대규모 언어처리 인공지능 모델은 엄청난 전력소모를 유발해 지구온난화에 영향을 미침
: 정말 지구온난화에 영향을 줄만한 규모가 맞는지 궁금하네요. 전력소모가 어마어마한 건 맞습니다. 개인적으로는 정확히 이 이유 때문에 코인을 사회악이라고 생각하고 있습니다. (순수하게 에너지 낭비인 채굴비용)

- 둘째, 대규모 언어처리 인공지능 모델은 방대한 데이터들을 학습하는데 그 중에 인종차별, 성차별적 언어들이 섞이면서 인공지능이 잘못된 언어를 학습할 위험... 더 보기
관련 전공자로서 각각의 내용에 대해 간단히 제 의견 추가해 봅니다.

- 첫째, 대규모 언어처리 인공지능 모델은 엄청난 전력소모를 유발해 지구온난화에 영향을 미침
: 정말 지구온난화에 영향을 줄만한 규모가 맞는지 궁금하네요. 전력소모가 어마어마한 건 맞습니다. 개인적으로는 정확히 이 이유 때문에 코인을 사회악이라고 생각하고 있습니다. (순수하게 에너지 낭비인 채굴비용)

- 둘째, 대규모 언어처리 인공지능 모델은 방대한 데이터들을 학습하는데 그 중에 인종차별, 성차별적 언어들이 섞이면서 인공지능이 잘못된 언어를 학습할 위험 있음.
: 맞는 말이고 이미 bias 문제를 해결하기 위한 연구 결과들이 나와 있고 진행되고 있습니다. 문제가 있으면 그걸 해결하기 위한 연구가 진행되는 건 분야를 안 가리고 그냥 상식 같은데요 ㅋㅋ

- 셋째, 현재 대규모 언어처리 인공지능 모델은 인간의 언어를 이해하지 못하면서 흉내내는 것에 집중하고 있음. 이게 인기를 끌고 사람들에게 많이 이용되면서 구글의 인공지능 연구 또한 이 쪽으로 집중되고 있지만, 사실 사람들에게 더 필요한 것은 사람의 언어를 진짜로 이해하고, 보다 작은 데이터라도 잘 학습하는 인공지능일 수 있음. 이런 쪽에 대한 연구는 관심을 받지 못하고 있다는 사실이 큰 위험임.
: 저 사람의 주관적 관점이 개입된 서술로 생각합니다. [언어를 이해한다]는 개념 자체에 대한 정확한 정의가 필요합니다. [보다 작은 데이터라도 잘 학습하는 인공지능]이 중요하다는 부분은 저도 동의하는 바입니다만, 그렇다고 대량의 데이터를 때려박아 사람 흉내를 잘 내게 된 시스템이 언어를 전혀 이해하지 못하고 있는 것이냐하면 그렇게 단정지을 수는 없습니다. 개인적으로는 현재 시스템들이 이해보다는 흉내에 가깝다고 생각하기는 하는데, 그 흉내를 일반인들이 구분할 수 없을 정도로 잘 내면 그게 언어를 이해한 것과 무슨 차이가 있느냐라고 생각하면 쉽게 단정지을 문제는 아니죠.

- 넷째, 대규모 언어처리 인공지능은 인간을 너무 흡사하게 흉내낼 수 있기 때문에 가짜뉴스, 딥페이크 등과 같은 곳에 응용될 수 있음.
: 맞는 말이고 저도 현 시점의 AI 발전에서 가장 사회적으로 문제가 되지 않을까 하는 부분입니다.


적으면서 더 이해가 안되는 게 저 내용들 중에 구글에만 적용되는 저격성 내용도 하나도 없고 그냥 자연어 처리 연구에서 최근 주목받은 언어 모델에 대한 일반적 비판이고 크리티컬한 내용도 한 개도 없는데 이게 왜 이슈가 되기 시작했는지 모르겠네요 ㅋㅋ
4
보이차
제프 딘이 쪽팔리니까 어디가서 이상한 소리 하지 말라고 한 거네요
1
은때까치
이게 정답인듯ㅋㅋㅋㅋㅋㅋ
대학생 레포트 수준 얘기 아닌가요...
목록
번호 제목 이름 날짜 조회 추천
24968 사회'성추행 유죄' 쿠팡 직원, 다시 입사해 관리자 '승진' 40 알겠슘돠 21/07/16 5788 0
16952 댓글잠금 정치100만 촛불 "조국 수호·검찰개혁"vs보수단체 "사퇴하고 구속"(종합) 125 ArcanumToss 19/09/28 5787 4
24247 정치 윤석열 "독재에 대한 저항이 자유민주주의..5·18은 그 원동력" 51 Regenbogen 21/05/17 5782 6
8 기타안희정 "DJ·盧 못다이룬 역사 완성"..대권 도전 의지 표명 10 Toby 16/09/01 5769 0
22558 IT/컴퓨터전 구글 엔지니어, 내부고발 후 해고 20 구밀복검 20/12/11 5768 1
3393 문화/예술도종환, ‘역사관 비판’ 정면 반박 “싸울땐 싸우겠다” 75 기아트윈스 17/06/06 5754 0
21281 기타제5호 태풍 '장미' 내일 남해안 상륙…모레까지 최대 500mm 이상(종합) 8 다군 20/08/09 5748 0
24158 사회한강 투신 구조요청 받고 "대단하네" 비아냥댄 119 50 Regenbogen 21/05/06 5743 0
9074 의료/건강리피오돌 5월부터 공급중단… 경동맥화학색전술 치료 환자 날벼락 8 Zel 18/04/04 5741 0
29033 정치윤석열 당선인, 법무부 장관에 한동훈 지명 74 the 22/04/13 5740 0
22740 IT/컴퓨터'내돈내산'인데 수리는 회사 마음대로? 12 먹이 20/12/25 5737 4
23807 정치[보충]+오세훈 "용산참사, 임차인들 폭력적 저항이 본질"+[보충] 65 닭장군 21/03/31 5734 0
7715 스포츠NC '대만 출신' 빅리거 왕웨이중 영입..KBO리그 최초 1 tannenbaum 18/01/27 5730 0
5 기타1%를 꿈꿨던 개돼지 발언, 나향욱의 아찔한 가족사 2 님니리님님 16/09/01 5727 0
20310 스포츠'리얼돌' 막지 못한 FC서울, '역대 최고' 제재금 1억원 부과 44 토끼모자를쓴펭귄 20/05/20 5721 0
24796 정치윤석열, 장모 실형에 "법 적용에 누구나 예외 없다"(종합) 73 다군 21/07/02 5717 1
22733 의료/건강정총리 "얀센·화이자와 백신계약 체결..각각 2·3분기 접종"(상보) 58 하우두유두 20/12/24 5713 0
20717 경제'묶음할인' 세계 최초로 금지..라면·맥주값 줄줄이 오를 판 48 알겠슘돠 20/06/19 5712 3
2065 기타미국이 영연방 회원국이 될 수도 있다. 9 DarkcircleX 17/02/23 5711 0
21911 사회의료계 "신규 의사 줄면 어려움" vs 정부 "조정 잘하면 차질 無" 79 Caprice 20/09/30 5709 4
16542 기타테슬라, ‘모델3’ 국내 출시 열흘 만에 가격 130만원 인상… 4 지겐 19/08/25 5702 0
21345 기타내일 장맛비 돌아온다..모레까지 300mm 이상 물폭탄 9 Schweigen 20/08/13 5701 0
21873 사회의대생 "의사 국가고시 보겠다" 의사 표명 63 The xian 20/09/24 5700 5
22203 방송/연예'연인 성폭행 혐의' 유명밴드 가수 경찰수사... 29 *alchemist* 20/11/04 5699 0
20642 문화/예술드래곤볼에게 '넘사벽'이 된 이태원클라쓰 비결 33 자공진 20/06/13 5696 0
목록

+ : 최근 6시간내에 달린 댓글
+ : 최근 12시간내에 달린 댓글

댓글