- 회원들이 추천해주신 좋은 글들을 따로 모아놓는 공간입니다.
- 추천글은 매주 자문단의 투표로 선정됩니다.
Date 24/02/06 14:50:00
Name   서포트벡터
Subject   자율주행차와 트롤리 딜레마
자율주행 자동차가 뭔지는 다 아실테니 넘어가구요,

자율주행에는 크게 6가지 단계가 있습니다. 1부터 6이 아니라 0부터 5까지의 6단계가 있어요. 예전에는 5단계 표기법을 많이 사용했는데, 지금은 국제 자동차공학자협회(SAE International)의 6단계가 거의 정착되어 사용되고 있다고 보시면 됩니다.



이 6단계인데요, 단계별 특징은 다음과 같습니다.

0단계 - 자율주행 아님, 우리가 흔히 생각하는 그냥 자동차지만 요즘 나오는 차중에 이런 차는 거의 없습니다. 모든 것을 수동으로 해야 하는 차를 말합니다.

1단계 - 운전 지원 시스템 - 흔히 ADAS라고 말하는 시스템이 들어가면 그 때부터 1단계 자율주행입니다. 트럭에 실리는 차선이탈방지 같은 것이나 충돌방지 시스템 같은 것이 들어가면 1단계 자율주행 차량이라고 할 수 있습니다. 아니면 앞차와의 간격을 보지 않는 그냥 크루즈 컨트롤 시스템 같은 것들이 여기 들어갈 수 있습니다. 모든 판단은 운전자가 해야만 하지만 거기에 도움은 주는 뭐 이 정도입니다.

2단계 - 부분 자동화 - 테슬라의 오토파일럿이나 현대차그룹의 HDA2 정도는 이 정도라고 볼 수 있습니다. 전방을 늘 주시해야 하지만 운전을 부분적으로 차에게 맡길 수 있는 상태를 의미합니다. 사실 이정도만 되어도 운전자의 편의성은 놀라울 만큼 향상되지요.

3단계 - 조건부 자동화 - 3단계와 2단계의 가장 큰 차이점은 "전방주시"가 필요가 없어진다는 점입니다. 적절한 상황 하에서는 차가 100% 운전을 할 수 있으면 3단계로 봅니다. 다만 시스템 실패 상황에서는 운전자가 개입해야만 합니다. 보통 우리가 "자율주행"이라고 부를 만한 단계는 여기부터입니다. 적절한 상황(보통 고속도로 주행)에선 운전 시켜놓고 책읽어도 됩니다. 그래서 많은 자동차 회사들이 이 "3단계 인증"에 굉장히 큰 노력을 기울이고 있습니다.

4단계 - 고도 자동화 - 이제 특이상황이 아닌 상황에 대해선 사람이 개입하지 않아도 되는 단계입니다. 다만 특이상황이 오면 사람이 개입해야 합니다. 예를들어 심한 악천후라든지, 이런 식으로 보통은 자율주행이 되지만 어떤 때는 안 된다 싶으면 4단계 자율주행입니다. 4단계부터는 우리가 보통 "자율주행차"라고 부르게 될 겁니다.

5단계 - 완전 자동화 - 차에 핸들과 페달이 없는 자율주행차는 이쯤 되어야 실현이 가능합니다. 이제 사람이 아예 운전을 하지 않는 상황을 말합니다. 사실 여기까지는 정말 지난한 시간이 필요할 것 같습니다.

이 자율주행에 대해 많이들 얘기하는 게 트롤리 딜레마입니다. 이게 기술 발전에 있어서 되게 중요한 문제인것처럼 많이들 인식을 하지요.

물론 뭐 생각할 여지가 있긴 하지만, 하지만 자율주행에 있어 트롤리 딜레마는 별로 고려할 만한 사항이 못 됩니다. 설명드리기 전에 일단 "트롤리 딜레마"라는 것 자체가 뭔지 알려드릴게요.



트롤리 딜레마의 일반적인 상황은 위 그림과 유사합니다. 트롤리가 내려오는 길에 5명의 사람이 있습니다. 이대로라면 이 5명은 트롤리에 밟혀 죽게 되겠지요. 하지만 이 상황에서, 내가 레버를 당기면 1명의 사람이 죽게 됩니다.

트롤리 딜레마가 실제로 묻고자 하는 바는, "그냥 두면 5명이 죽는데, 내가 개입하면 1명이 죽는 상황"에서 "내가 적극적으로 1명을 죽임으로서 5명을 살리는 상황"이 과연 옳은가?" 라는 내용에 가깝습니다. 중요한건 많은 사람들이 이 경우에 1명을 살해함으로서 5명을 살리는 선택을 한다는 것이죠. 이 상황을 모른척하면 나는 아무도 살해하지 않는 대신 5명이 희생되는 것이구요. 일단 이런 "사고실험"이라는게 바로 트롤리 딜레마입니다. 괜히 트롤리인게 아니라 피할 가능성을 원천봉쇄하고 들어가게 되는게 중요합니다.

뭐 사실 여기까지만 보면 자율차가 개입할 여지가 없습니다. 하지만 자율차에 대해서는 이런 사고실험들을 할 수 있죠. 트롤리 딜레마를 "뭔가를 쳐야만 하는 상황에서, 우리는 무엇을 칠 것인가"라는 논쟁으로 확대할 수 있거든요. 예를들어 어린이와 노인 중에 누굴 칠 것인가, 운전자의 안전과 피해자의 안전 중에 무엇을 우선할 것인가 같은 논쟁들이 있습니다.

재미있는 논쟁이죠. 만약 어떤 기계에 안전의 우선순위를 설정한다면 우리 사회는 과연 누구를 먼저 보호하려 할 것이냐 라는 문제이기 때문에, 누구나 쉽게 자신의 의견을 이야기할 수 있는 좋은 주제입니다. 대부분의 사회에서 어린아이나 유모차를 보호해야 한다는 것이 가장 우선순위라고들 많이 응답한다고 합니다.

하지만 이거는 실제로 자율차 만들때 고려하는 내용일 수가 없습니다. 최소한 아직까지는요.



네 뭐, 그냥 치면 안 됩니다. 아주 명백해요. 일단 도로위에는 생명체가 아니라도 "쳐도 되는 물건"이라는게 존재하지 않습니다. 어떤 장애물, 예를들어 이미 죽어있는 고라니 시체조차도 쳤을 때 운전자에게 위해를 입힐 수 있습니다. 그래서 사실 자율주행차에 있어서 전방에 있는 도로가 아닌 물체가 무엇이냐, 그다지 중요한 얘기가 아닙니다. 일단 멈추는게 맞으니까요.

다시 말해, 트롤리 딜레마는 도덕성에 관한 사고실험입니다. 그래서 원천봉쇄가 가능한 "트롤리"라는 수단을 이용하죠. 하지만 자율차는 어, 사고를 피할 가능성이 원천봉쇄되면 안 됩니다. 그러면 큰일나요. 브레이크가 고장났다? 길위에 있는게 뭐든 가능한 한 피해야 하는 겁니다. 조향장치까지 고장났다? 그건 그냥 시스템 실패에요. 이미 시스템이 맛이 간 상태라 자율주행이 작동할 수가 없습니다. 이런 급박한 상황에서 누구를 칠지 같은 한가한 질문이나 하고 있으면 안 되지요. 어떻게든 차를 멈추게 만들어야 하는 거니까요.

또 앞에 있는 사람이 노인인지 아이인지, 그냥 키작은 성인인지 우리는 구분할 필요가 없지요. 그냥 치면 안 됩니다. 핵심은 이거에요. 칠 수 밖에 없는 상황이라는 것 자체가 현실에서 피해야만 하는 상황이니까요. 트롤리 딜레마 상황에서의 판단 알고리즘을 만드는 것 보다, 그 상황으로 가지 않는 차를 만드는 것이 훨씬 더 중요하고 필요한 일입니다.

세상 많은 경우가 그렇지만 자율차에 대한 트롤리 딜레마도 마찬가지입니다. 사고실험으로써, 사회의 도덕에 관한 논쟁으로써 의미가 있는 얘기지만, 실제 자동차에 이것을 적용하자 하면 얘기가 좀 이상해집니다. 물론 정말 나중에 5단계 자율주행차가 나온다면 의미가 있어질 수도 있지만, 그 때가 되면 누구를 반드시 쳐야만 하는 상황까지 가지 않는 기술이 먼저 나오지 않을까 싶습니다. 재미있는 얘기지만 지적 유희로만 즐기도록 하자구요.

* Cascade님에 의해서 티타임 게시판으로부터 게시물 복사되었습니다 (2024-02-18 10:52)
* 관리사유 : 추천게시판으로 복사합니다.



7
  • 재밌어요. 도덕적 논쟁은 어쩌면 사고실험 정도로 밖에 남지 않을거라는 것. 의미 없는 고민은 아니겠지만 지나치게 심화되고 적용되는 것은 경계해야겠네요.


rooke96
트롤리 딜레마보다 보험 관계가 더 문제가 되지 않나요?

완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.

쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우... 더 보기
트롤리 딜레마보다 보험 관계가 더 문제가 되지 않나요?

완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.

쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우에는 또 다른 문제들이 발생할테니.. 매우매우 복잡해질 수 있을 거라고 생각됩니다.

자율 주행 차량에서의 트롤리 딜레마의 문제는 사람을 치냐 마냐의 문제라기 보다 여러 가지 상황에서 사고가 불가피할 시 어느 쪽을 우선 할 것이냐의 문제라고 봐야할 것 같습니다. 앞의 차량이냐 아니면 옆의 벽이냐 등등의 문제들이 있을 수 있습니다. 실제로 거의 일어나지 않을 일이라고는 해도 프로그램을 할 때 저런 예외 상황에 대한 처리가 되어있지 않으면 현실에서는 대참사의 가능성도 충분하다보니 해당 상황을 고려치 않고 내보낼 리는 없거든요..
서포트벡터
사실 그 문제는 말씀처럼 보험, 다시말해 책임소재가 사회에서 정해지고 나면 알아서 정해질 일이긴 합니다.
말씀하신 것처럼, 트롤리 딜레마를 AI에게 묻는 건 타당하지 않죠.
그런데, 타당하지 않은 질문도 나름의 역할을 할 순 있어요.
그 질문이 아니었으면 놓치기 쉬울 의미를 발견한다면요.
AI에게 윤리적 딜레마 상황을 부여하는 행위는 우리가 AI를 인간의 관점으로 이해한다는 사실을 드러냅니다.
인간중심 사고에서 파생된 불필요한 질문의 존재는 필요한 질문의 부재를 동반하기도 하죠.
불확실성의 위험 사회에 살고 있다는 감각을 바탕으로 겸손함을 미덕으로 삼아야 합니다.
5
서포트벡터수정됨
네 말씀처럼 윤리적 사고실험으로써의 가치는 충분히 가지고 있습니다
그걸 실제 적용되는 기술에다 들이대는게 이상할 뿐이죠 ㅎㅎ
바이엘
눈이 많이 침침한가 왠 트랙터 자율주행글인줄 알고 뛰어왔다가 나갑니다
2
카르스
사고실험들은 윤리적 지점들만 정확히 짚은 극화된 가상상황이지요.

극단적 상황에 어떻게 대처하느냐보다 극단적 상황을 안 만드는 게 최우선이라는 덴 동의합니다. '최악의 상황'을 위해 설정은 해 두어야겠지만.
2
서포트벡터
사고실험의 함의와 기술의 함의는 다르지요 ㅎㅎ
1
"쳐도 되는 물건" -> 날파리 어떻읍니까? 수많은 시체들이 제 범퍼 위를 장식하는 ㅠㅠ
(죄송합니다)
제 생각으로는 자율주행 자동차 ai를 머지않은 시기에 디자인한다고 하면,
1명을 치냐, 여러명을 치냐보단, '사람에게 피해를 덜 주도록' 하는 방법이 어떨까요
극단적이긴 하지만 그러면 자연히 '1명을 치는' 쪽으로 차가 가게 될 것이고, 거기에서 더 선택지가 있다면 아예 사고를 안일으키는 방향으로 가겠죠!!
목록
번호 제목 이름 날짜 조회 추천
1386 일상/생각개인위키 제작기 7 와짱 24/04/17 2310 13
1385 정치/사회이준석이 동탄에서 어떤 과정으로 역전을 했나 57 Leeka 24/04/11 4994 6
1384 정치/사회절반의 성공을 안고 몰락한 정의당을 바라보며 10 카르스 24/04/11 2992 20
1383 정치/사회의대 증원과 사회보험, 지대에 대하여...(펌) 45 cummings 24/04/04 8902 37
1382 기타우리는 아이를 욕망할 수 있을까 22 하마소 24/04/03 2982 19
1381 일상/생각육아의 어려움 8 풀잎 24/04/03 2081 12
1380 정치/사회UN 세계행복보고서 2024가 말하는, 한국과 동북아에 대한 의외의 이야기 17 카르스 24/03/26 3410 9
1379 일상/생각인지행동치료와 느린 자살 8 골든햄스 24/03/24 2622 9
1378 일상/생각아들이 안경을 부러뜨렸다. 8 whenyouinRome... 24/03/23 2444 28
1377 꿀팁/강좌그거 조금 해주는거 어렵나? 10 바이엘 24/03/20 2665 13
1376 일상/생각삶의 의미를 찾는 단계를 어떻게 벗어났냐면 8 골든햄스 24/03/14 2513 19
1375 창작소수 사막은 얼마나 넓을까? 5 Jargon 24/03/06 2197 5
1374 기타민자사업의 진행에 관해 6 서포트벡터 24/03/06 2119 3
1373 정치/사회노무사 잡론 13 당근매니아 24/03/04 3058 17
1372 기타2024 걸그룹 1/6 2 헬리제의우울 24/03/03 1829 13
1371 일상/생각소회와 계획 9 김비버 24/03/03 2097 20
1370 기타터널을 나올 땐 터널을 잊어야 한다 19 골든햄스 24/02/27 3058 56
1369 정치/사회업무개시명령의 효력 및 수사대응전략 8 김비버 24/02/21 2480 16
1368 체육/스포츠(데이터 주의)'자율 축구'는 없다. 요르단 전으로 돌아보는 문제점들. 11 joel 24/02/19 2167 8
1367 역사 AI를 따라가다 보면 해리 포터를 만나게 된다. 4 코리몬테아스 24/02/18 2277 11
1366 체육/스포츠(데이터 주의)'빌드업 축구'는 없다. 우루과이전으로 돌아보는 벤투호의 빌드업. 13 joel 24/02/12 2666 30
1365 기타자율주행차와 트롤리 딜레마 9 서포트벡터 24/02/06 2363 7
1364 영화영화 A.I.(2001) 18 기아트윈스 24/02/06 2309 23
1363 정치/사회10년차 외신 구독자로서 느끼는 한국 언론 32 카르스 24/02/05 4333 12
1362 기타자폐아이의 부모로 살아간다는건... 11 쉬군 24/02/01 3456 69
목록

+ : 최근 6시간내에 달린 댓글
+ : 최근 12시간내에 달린 댓글

댓글
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기