- 회원들이 추천해주신 좋은 글들을 따로 모아놓는 공간입니다.
- 추천글은 매주 자문단의 투표로 선정됩니다.
Date | 24/02/06 14:50:00 |
Name | 서포트벡터 |
Subject | 자율주행차와 트롤리 딜레마 |
자율주행 자동차가 뭔지는 다 아실테니 넘어가구요, 자율주행에는 크게 6가지 단계가 있습니다. 1부터 6이 아니라 0부터 5까지의 6단계가 있어요. 예전에는 5단계 표기법을 많이 사용했는데, 지금은 국제 자동차공학자협회(SAE International)의 6단계가 거의 정착되어 사용되고 있다고 보시면 됩니다. ![]() 이 6단계인데요, 단계별 특징은 다음과 같습니다. 0단계 - 자율주행 아님, 우리가 흔히 생각하는 그냥 자동차지만 요즘 나오는 차중에 이런 차는 거의 없습니다. 모든 것을 수동으로 해야 하는 차를 말합니다. 1단계 - 운전 지원 시스템 - 흔히 ADAS라고 말하는 시스템이 들어가면 그 때부터 1단계 자율주행입니다. 트럭에 실리는 차선이탈방지 같은 것이나 충돌방지 시스템 같은 것이 들어가면 1단계 자율주행 차량이라고 할 수 있습니다. 아니면 앞차와의 간격을 보지 않는 그냥 크루즈 컨트롤 시스템 같은 것들이 여기 들어갈 수 있습니다. 모든 판단은 운전자가 해야만 하지만 거기에 도움은 주는 뭐 이 정도입니다. 2단계 - 부분 자동화 - 테슬라의 오토파일럿이나 현대차그룹의 HDA2 정도는 이 정도라고 볼 수 있습니다. 전방을 늘 주시해야 하지만 운전을 부분적으로 차에게 맡길 수 있는 상태를 의미합니다. 사실 이정도만 되어도 운전자의 편의성은 놀라울 만큼 향상되지요. 3단계 - 조건부 자동화 - 3단계와 2단계의 가장 큰 차이점은 "전방주시"가 필요가 없어진다는 점입니다. 적절한 상황 하에서는 차가 100% 운전을 할 수 있으면 3단계로 봅니다. 다만 시스템 실패 상황에서는 운전자가 개입해야만 합니다. 보통 우리가 "자율주행"이라고 부를 만한 단계는 여기부터입니다. 적절한 상황(보통 고속도로 주행)에선 운전 시켜놓고 책읽어도 됩니다. 그래서 많은 자동차 회사들이 이 "3단계 인증"에 굉장히 큰 노력을 기울이고 있습니다. 4단계 - 고도 자동화 - 이제 특이상황이 아닌 상황에 대해선 사람이 개입하지 않아도 되는 단계입니다. 다만 특이상황이 오면 사람이 개입해야 합니다. 예를들어 심한 악천후라든지, 이런 식으로 보통은 자율주행이 되지만 어떤 때는 안 된다 싶으면 4단계 자율주행입니다. 4단계부터는 우리가 보통 "자율주행차"라고 부르게 될 겁니다. 5단계 - 완전 자동화 - 차에 핸들과 페달이 없는 자율주행차는 이쯤 되어야 실현이 가능합니다. 이제 사람이 아예 운전을 하지 않는 상황을 말합니다. 사실 여기까지는 정말 지난한 시간이 필요할 것 같습니다. 이 자율주행에 대해 많이들 얘기하는 게 트롤리 딜레마입니다. 이게 기술 발전에 있어서 되게 중요한 문제인것처럼 많이들 인식을 하지요. 물론 뭐 생각할 여지가 있긴 하지만, 하지만 자율주행에 있어 트롤리 딜레마는 별로 고려할 만한 사항이 못 됩니다. 설명드리기 전에 일단 "트롤리 딜레마"라는 것 자체가 뭔지 알려드릴게요. ![]() 트롤리 딜레마의 일반적인 상황은 위 그림과 유사합니다. 트롤리가 내려오는 길에 5명의 사람이 있습니다. 이대로라면 이 5명은 트롤리에 밟혀 죽게 되겠지요. 하지만 이 상황에서, 내가 레버를 당기면 1명의 사람이 죽게 됩니다. 트롤리 딜레마가 실제로 묻고자 하는 바는, "그냥 두면 5명이 죽는데, 내가 개입하면 1명이 죽는 상황"에서 "내가 적극적으로 1명을 죽임으로서 5명을 살리는 상황"이 과연 옳은가?" 라는 내용에 가깝습니다. 중요한건 많은 사람들이 이 경우에 1명을 살해함으로서 5명을 살리는 선택을 한다는 것이죠. 이 상황을 모른척하면 나는 아무도 살해하지 않는 대신 5명이 희생되는 것이구요. 일단 이런 "사고실험"이라는게 바로 트롤리 딜레마입니다. 괜히 트롤리인게 아니라 피할 가능성을 원천봉쇄하고 들어가게 되는게 중요합니다. 뭐 사실 여기까지만 보면 자율차가 개입할 여지가 없습니다. 하지만 자율차에 대해서는 이런 사고실험들을 할 수 있죠. 트롤리 딜레마를 "뭔가를 쳐야만 하는 상황에서, 우리는 무엇을 칠 것인가"라는 논쟁으로 확대할 수 있거든요. 예를들어 어린이와 노인 중에 누굴 칠 것인가, 운전자의 안전과 피해자의 안전 중에 무엇을 우선할 것인가 같은 논쟁들이 있습니다. 재미있는 논쟁이죠. 만약 어떤 기계에 안전의 우선순위를 설정한다면 우리 사회는 과연 누구를 먼저 보호하려 할 것이냐 라는 문제이기 때문에, 누구나 쉽게 자신의 의견을 이야기할 수 있는 좋은 주제입니다. 대부분의 사회에서 어린아이나 유모차를 보호해야 한다는 것이 가장 우선순위라고들 많이 응답한다고 합니다. 하지만 이거는 실제로 자율차 만들때 고려하는 내용일 수가 없습니다. 최소한 아직까지는요. ![]() 네 뭐, 그냥 치면 안 됩니다. 아주 명백해요. 일단 도로위에는 생명체가 아니라도 "쳐도 되는 물건"이라는게 존재하지 않습니다. 어떤 장애물, 예를들어 이미 죽어있는 고라니 시체조차도 쳤을 때 운전자에게 위해를 입힐 수 있습니다. 그래서 사실 자율주행차에 있어서 전방에 있는 도로가 아닌 물체가 무엇이냐, 그다지 중요한 얘기가 아닙니다. 일단 멈추는게 맞으니까요. 다시 말해, 트롤리 딜레마는 도덕성에 관한 사고실험입니다. 그래서 원천봉쇄가 가능한 "트롤리"라는 수단을 이용하죠. 하지만 자율차는 어, 사고를 피할 가능성이 원천봉쇄되면 안 됩니다. 그러면 큰일나요. 브레이크가 고장났다? 길위에 있는게 뭐든 가능한 한 피해야 하는 겁니다. 조향장치까지 고장났다? 그건 그냥 시스템 실패에요. 이미 시스템이 맛이 간 상태라 자율주행이 작동할 수가 없습니다. 이런 급박한 상황에서 누구를 칠지 같은 한가한 질문이나 하고 있으면 안 되지요. 어떻게든 차를 멈추게 만들어야 하는 거니까요. 또 앞에 있는 사람이 노인인지 아이인지, 그냥 키작은 성인인지 우리는 구분할 필요가 없지요. 그냥 치면 안 됩니다. 핵심은 이거에요. 칠 수 밖에 없는 상황이라는 것 자체가 현실에서 피해야만 하는 상황이니까요. 트롤리 딜레마 상황에서의 판단 알고리즘을 만드는 것 보다, 그 상황으로 가지 않는 차를 만드는 것이 훨씬 더 중요하고 필요한 일입니다. 세상 많은 경우가 그렇지만 자율차에 대한 트롤리 딜레마도 마찬가지입니다. 사고실험으로써, 사회의 도덕에 관한 논쟁으로써 의미가 있는 얘기지만, 실제 자동차에 이것을 적용하자 하면 얘기가 좀 이상해집니다. 물론 정말 나중에 5단계 자율주행차가 나온다면 의미가 있어질 수도 있지만, 그 때가 되면 누구를 반드시 쳐야만 하는 상황까지 가지 않는 기술이 먼저 나오지 않을까 싶습니다. 재미있는 얘기지만 지적 유희로만 즐기도록 하자구요. * Cascade님에 의해서 티타임 게시판으로부터 게시물 복사되었습니다 (2024-02-18 10:52) * 관리사유 : 추천게시판으로 복사합니다. 7
이 게시판에 등록된 서포트벡터님의 최근 게시물
|
트롤리 딜레마보다 보험 관계가 더 문제가 되지 않나요?
완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.
쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우... 더 보기
완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.
쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우... 더 보기
트롤리 딜레마보다 보험 관계가 더 문제가 되지 않나요?
완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.
쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우에는 또 다른 문제들이 발생할테니.. 매우매우 복잡해질 수 있을 거라고 생각됩니다.
자율 주행 차량에서의 트롤리 딜레마의 문제는 사람을 치냐 마냐의 문제라기 보다 여러 가지 상황에서 사고가 불가피할 시 어느 쪽을 우선 할 것이냐의 문제라고 봐야할 것 같습니다. 앞의 차량이냐 아니면 옆의 벽이냐 등등의 문제들이 있을 수 있습니다. 실제로 거의 일어나지 않을 일이라고는 해도 프로그램을 할 때 저런 예외 상황에 대한 처리가 되어있지 않으면 현실에서는 대참사의 가능성도 충분하다보니 해당 상황을 고려치 않고 내보낼 리는 없거든요..
완전 자율주행차량(본문의 4~5단계)일 경우 사고가 났을 때 책임을 누가 지냐는 게 문제라고 생각됩니다. 차량의 문제라면 자동차 제조회사가 책임을 져야할 테지만, 차량을 구매했을 경우 차의 소유주는 개개인일텐데, 개인 소유의 차량의 책임을 제조사가 진다는 것도 뭔가 애매하고, 주행에 차주가 한 일이 아무 것도 없는데 책임을 왜 지냐는 것도 맞는 말이니까요.
쉬운 해결책이야 뭐... 보험 공구처럼 제조사와 보험사가 대량의 보험 계약을 맺으면 될테지만, 개조 차량의 경우에는 또 다른 문제들이 발생할테니.. 매우매우 복잡해질 수 있을 거라고 생각됩니다.
자율 주행 차량에서의 트롤리 딜레마의 문제는 사람을 치냐 마냐의 문제라기 보다 여러 가지 상황에서 사고가 불가피할 시 어느 쪽을 우선 할 것이냐의 문제라고 봐야할 것 같습니다. 앞의 차량이냐 아니면 옆의 벽이냐 등등의 문제들이 있을 수 있습니다. 실제로 거의 일어나지 않을 일이라고는 해도 프로그램을 할 때 저런 예외 상황에 대한 처리가 되어있지 않으면 현실에서는 대참사의 가능성도 충분하다보니 해당 상황을 고려치 않고 내보낼 리는 없거든요..
말씀하신 것처럼, 트롤리 딜레마를 AI에게 묻는 건 타당하지 않죠.
그런데, 타당하지 않은 질문도 나름의 역할을 할 순 있어요.
그 질문이 아니었으면 놓치기 쉬울 의미를 발견한다면요.
AI에게 윤리적 딜레마 상황을 부여하는 행위는 우리가 AI를 인간의 관점으로 이해한다는 사실을 드러냅니다.
인간중심 사고에서 파생된 불필요한 질문의 존재는 필요한 질문의 부재를 동반하기도 하죠.
불확실성의 위험 사회에 살고 있다는 감각을 바탕으로 겸손함을 미덕으로 삼아야 합니다.
그런데, 타당하지 않은 질문도 나름의 역할을 할 순 있어요.
그 질문이 아니었으면 놓치기 쉬울 의미를 발견한다면요.
AI에게 윤리적 딜레마 상황을 부여하는 행위는 우리가 AI를 인간의 관점으로 이해한다는 사실을 드러냅니다.
인간중심 사고에서 파생된 불필요한 질문의 존재는 필요한 질문의 부재를 동반하기도 하죠.
불확실성의 위험 사회에 살고 있다는 감각을 바탕으로 겸손함을 미덕으로 삼아야 합니다.
사고실험들은 윤리적 지점들만 정확히 짚은 극화된 가상상황이지요.
극단적 상황에 어떻게 대처하느냐보다 극단적 상황을 안 만드는 게 최우선이라는 덴 동의합니다. '최악의 상황'을 위해 설정은 해 두어야겠지만.
극단적 상황에 어떻게 대처하느냐보다 극단적 상황을 안 만드는 게 최우선이라는 덴 동의합니다. '최악의 상황'을 위해 설정은 해 두어야겠지만.
목록 |
|