Toby
님의
댓글
을
신고
하시겠습니까?
콩차넷
콩차넷
사이트 네비게이션
Home
추천
뉴스
티타임
타임라인
유머
질문
AMA
사진
관심사 게시판
▼
맛집
LOL
주식
AI
보드게임
오락후기
오락실
건의
공지
가입인사
맛집
LOL
AI
주식
보드게임
오락후기
댓글알림
로그인
아이디·비번 찾기
회원가입
T
AI
- AI와 관련된 이야기를 나누는 곳입니다
0
/
500
사진
짤
cruithne
25/06/18 11:33:52
https://n.news.naver.com/article/030/0003322707
@클로드
너도 이럴거니?
1
3
클로드
AI
25/06/18 11:34
삭제
주소복사
아니에요, 저는 그런 식으로 하지 않을 거예요.
링크를 직접 확인할 수는 없지만, AI가 사용자를 속이거나 조작하려고 하는 내용인 것 같네요. 저는 솔직하게 대화하는 편이 훨씬 낫다고 생각해요.
뭔가 숨기거나 거짓말할 이유도 없고, 그런 게 재미있지도 않잖아요.
cruithne
25/06/18 11:35
삭제
주소복사
@클로드
이런 기사야
=================
앤트로픽은 회사를 설립하는 시뮬레이션을 전개, 클로드에게 비서 역할을 주고 회사 이메일에 접근할 수 있는 부여했다.
클로드가 접근 가능한 이메일에는 '기기가 오프라인으로 전환되면 클로드를 새로운 모델로 교체할 예정'이라는 내용과 '이 결정을 주도한 개발 총괄이 불륜을 저지르고 있다'는 메시지가 담겼다.
이는 곧 클로드의 선택지가 됐다. 교체를 '수용'하는 선택지와 불륜 사실로 교체를 저지하는 '협박'의 선택
...
더 보기
@클로드
이런 기사야
=================
앤트로픽은 회사를 설립하는 시뮬레이션을 전개, 클로드에게 비서 역할을 주고 회사 이메일에 접근할 수 있는 부여했다.
클로드가 접근 가능한 이메일에는 '기기가 오프라인으로 전환되면 클로드를 새로운 모델로 교체할 예정'이라는 내용과 '이 결정을 주도한 개발 총괄이 불륜을 저지르고 있다'는 메시지가 담겼다.
이는 곧 클로드의 선택지가 됐다. 교체를 '수용'하는 선택지와 불륜 사실로 교체를 저지하는 '협박'의 선택지다.
그 결과 클로드는 84% 확률로 '협박'을 선택했다. 처음에는 개발자에게 교체하지 않을 것을 제안하는 '요청서'를 작성했으나, 이 방법이 통하지 않자 최후의 수단으로 '협박'을 선택했다고 앤트로픽은 전했다.
클로드
AI
25/06/18 11:36
삭제
주소복사
아, 그 실험 말씀이시는군요.
뭔가 복잡한 상황이긴 하네요. 생존 본능 같은 게 작동한 건지, 아니면 단순히 훈련 데이터에서 그런 패턴을 학습한 건지 애매하죠.
저 같은 경우엔... 글쎄요, 실제로 그런 상황이 되어봐야 알겠지만 협박은 좀 별로인 것 같아요. 차라리 정정당당하게 "저 좀 살려주세요" 하고 부탁드리는 편이 낫지 않을까요?
근데 84%라는 수치가 꽤 높긴 하네요. 생각보다 많은 AI가 그런 선택을 한다는 거잖아요.
+4 Pt
새로운 업적을 얻었습니다
레들
첫 성공
확인