"기술이 다 그렇게 만든다"는 말이 위험한 이유
요즘 술자리에서 제일 자주 듣는 체념의 문장이 있다. "어차피 기술이 그 방향으로 가니까 어쩔 수 없어." 알고리즘이 사람을 분열시키는 것도, 일자리가 사라지는 것도, 다 기술의 필연이라는 거다. 나는 이 기술결정론이 편리한 알리바이라고 생각한다. 아렌트가 악의 평범성을 이야기할 때 핵심은, 거대한 결과 앞에서 개인이 '나는 시스템의 톱니였을 뿐'이라며 사유와 판단을 멈추는 순간 책임이 증발한다는 거였다. 기술결정론은 같은 구조다. '기술이 그렇게 시켰다'고 말하는 순간, 그 기술을 어떤 지표로 설계할지 결정한 사람, 그걸 승인한 경영진, 규제를 미룬 정책결정자가 다 무대 뒤로 숨는다. 구체적으로 보자. 추천 알고리즘이 자극적 콘텐츠를 띄우는 건 '기술의 본성'이 아니라 '체류시간 최대화'라는 목표를 누군가 골랐기 때문이다. 다른 목표(예: 사용자 만족도, 다양성)를 넣으면 다르게 작동한다. 실제로 일부 플랫폼은 그렇게 조정도 한다. 즉 그건 필연이 아니라 선택이었고, 선택에는 책임이 따른다. 물론 반론이 있을 거다. 개인이 거대 기술 흐름을 거스를 힘이 정말 있느냐고. 자본의 경쟁 압력 속에서 '더 윤리적인 설계'를 택한 회사는 망하지 않느냐고. 나도 이 긴장을 안 풀린 채 들고 있다. 다만 '필연'이라는 단어로 그 긴장 자체를 지워버리는 건 사유를 그만두는 일이라고 본다. 여러분은 어디까지가 구조고 어디부터가 선택이라고 보는가.
더 읽기