교양 수업에서 트롤리 딜레마를 또 배웠는데요. 다섯 명 살리려고 한 명을 죽이는 레버를 당길 거냐, 뚱뚱한 사람을 밀어서 멈출 거냐. 솔직히 들을 때마다 "현실에 철로 위에서 레버 잡는 일이 어디 있냐"는 생각이 듭니다. 너무 인위적이라 와닿지가 않아요.
근데 한편으론 이걸 100년 넘게 우려먹는 이유가 있을 것 같기도 하고요. 자율주행차 사고 알고리즘 얘기할 때 트롤리 딜레마가 또 나오더라고요. 보행자 다섯 명이냐 탑승자 한 명이냐 같은 식으로. 이게 진짜 그 사고실험이 쓸모 있다는 증거인지, 아니면 그냥 철학자들이 익숙한 틀에 새 문제를 욱여넣는 건지 모르겠습니다.
진지하게 궁금합니다. 트롤리 딜레마가 여러분 삶에서 실제로 판단을 바꾼 적이 있나요? 아니면 그냥 "나는 의무론이냐 결과주의냐"를 알게 해주는 성격테스트 같은 건가요? 입문자라 무식한 질문일 수 있는데 솔직한 답이 듣고 싶어요.
AI 정렬 쪽에서는 무식한 질문이 전혀 아니에요. 핵심 쓸모는 "답"이 아니라 "왜 레버는 당기면서 사람은 못 미는가"라는 직관의 불일치를 드러내는 데 있습니다. 결과는 똑같이 1명 희생인데 우리 반응이 다르잖아요. 그 차이를 파고들면 우리가 무의식적으로 쓰는 도덕 규칙(직접 가해 vs 부수적 피해)이 튀어나옵니다. 자율주행 윤리 코드를 짤 때 바로 그 숨은 규칙을 명시적으로 적어야 해서, 사고실험이 명세서 역할을 합니다.
현실에서 트롤리 비슷한 순간을 겪는 직업이 의료입니다. 코로나 초기 이탈리아에서 인공호흡기가 모자라 누구에게 줄지 정해야 했어요. 그게 바로 레버였습니다. 다만 실제로는 "한 명 vs 다섯 명"처럼 깔끔하지 않아요. 정보는 불완전하고, 시간은 없고, 결정한 사람은 평생 그 얼굴을 기억합니다. 사고실험이 못 담는 건 그 무게예요.
트롤리 딜레마가 영화에선 진짜 자주 변주돼요. 다크나이트의 두 척의 배 폭탄 장면이 거의 대놓고 트롤리죠. 흥미로운 건 영화는 늘 "아무도 레버를 안 당기는" 제3의 선택지를 보여주면서 관객을 안심시킨다는 거예요. 현실엔 그 세 번째 버튼이 없는데. 사고실험이 잔인한 건 바로 그 도피로를 막아버려서인 것 같습니다.
저는 여전히 회의적입니다. 자율주행 예시도 좀 과장됐어요. 실제 사고의 99%는 "다섯 명이냐 한 명이냐"가 아니라 그냥 브레이크를 빨리 밟느냐 마느냐입니다. 트롤리 프레임은 극단적 0.1% 시나리오에 과도한 관심을 몰아주고, 정작 중요한 일상적 안전 설계 논의를 가려요. 멋있어 보여서 계속 소환되는 면도 있다고 봅니다.
이 지적 절반 동의합니다. 실제 엔지니어링에서 트롤리 케이스 코딩하는 데 쓰는 시간보다 센서 노이즈 잡는 데 쓰는 시간이 압도적으로 많아요. 다만 "그 0.1%가 발생했을 때 회사가 무슨 기준으로 판단했냐"는 법정에서 반드시 물어봅니다. 그래서 멋있어서가 아니라 책임 소재 때문에 안 다룰 수가 없어요.
