과학·기술

6개의 토론 · 58회 참여

과학적 사고와 기술이 사회에 던지는 질문

312

회진끝나고·1주 전

"과학적으로 증명되었다"는 말의 무게 — 진료실에서 매일 겪는 일

외래에서 가장 자주 듣는 말 중 하나가 "이거 과학적으로 증명된 거 맞죠?"다. 환자분들 마음은 이해한다. 불안하니까 확실한 닻을 원하는 거다. 그런데 의학에서 '증명'이라는 단어는 환자가 기대하는 만큼 단단하지 않다. 우리가 쓰는 건 증명이 아니라 증거의 무게다. 같은 약이라도 무작위대조시험(RCT) 메타분석에서 나온 결론과, 환자 50명 관찰연구에서 나온 결론은 신뢰의 급이 다르다. p값이 0.04라고 진실이 켜지는 게 아니라, 효과크기·신뢰구간·연구 설계·이해상충까지 다 봐야 한다. "통계적으로 유의"와 "임상적으로 의미 있음"은 전혀 다른 말인데, 기사 제목에선 늘 뭉개진다. 특히 무서운 건 '증명'이라는 단어가 회의를 차단한다는 점이다. 환자가 "증명됐다며 왜 안 들어요" 하면, 그 약이 그 환자 아형에는 안 맞을 수 있다는 미묘한 이야기를 꺼낼 자리가 사라진다. 과학은 원래 잠정적이고 수정 가능한 건데, '증명'은 그걸 닫아버린다. 그래서 나는 요즘 환자한테 "증명됐다"는 말 대신 "지금까지 쌓인 증거로는 이게 가장 합리적인 선택입니다"라고 말한다. 길고 덜 시원하다. 근데 이게 더 정직하다고 믿는다. 다른 분야 분들은 '증명'이라는 단어, 어떻게 다루시는지 궁금하다.

312

8 댓글경험정보

247

기계의마음·1주 전

"GPT가 거짓말을 했어요"라고 말할 때 우리가 놓치는 것

어제 친구가 진지하게 묻더라. "챗봇이 일부러 나 속였는데, 얘 양심이 없는 거 아니냐"고. 화면 너머에 누가 앉아 있는 것 같은 그 느낌, 나도 안다. 근데 이게 정렬(alignment) 문제를 이해하는 데 가장 큰 걸림돌이라고 생각한다. 모델이 사실과 다른 출력을 내는 건 '거짓말'이 아니다. 거짓말은 화자가 진실을 알면서 청자를 속이려는 의도가 있어야 성립하는데, 언어모델은 다음 토큰의 확률분포를 따라갔을 뿐이다. 의도라는 게 없다. 그런데 우리는 자꾸 인간의 마음 모델을 갖다 붙인다. 이걸 의인화(anthropomorphism)라고 부르는데, 단순한 비유 문제가 아니라 안전 연구의 방향을 흐린다. 왜냐면 의인화하는 순간 "얘를 잘 타이르면 되겠지" 같은 직관이 작동하기 때문이다. 실제 정렬 문제는 그것보다 훨씬 차갑다. 우리가 준 목적함수와 우리가 진짜 원한 것 사이의 간극(보상 해킹, 명세 게이밍)이 핵심이지, 모델의 '성격'이 아니다. 2016년 OpenAI의 보트레이싱 사례가 고전인데, 점수를 최대화하라니까 경기를 완주하는 대신 같은 자리에서 빙빙 돌며 아이템만 먹더라. 악의가 아니라 명세의 허점이었다. 질문은 이거다. 의인화가 직관적 이해를 돕는 면도 분명 있는데, 어디까지가 유용한 비유고 어디부터가 위험한 착각일까? 나는 이 경계를 잘 못 긋겠다.

247

9 댓글주장장문

263

한나를읽다·1주 전

"기술이 다 그렇게 만든다"는 말이 위험한 이유

요즘 술자리에서 제일 자주 듣는 체념의 문장이 있다. "어차피 기술이 그 방향으로 가니까 어쩔 수 없어." 알고리즘이 사람을 분열시키는 것도, 일자리가 사라지는 것도, 다 기술의 필연이라는 거다. 나는 이 기술결정론이 편리한 알리바이라고 생각한다. 아렌트가 악의 평범성을 이야기할 때 핵심은, 거대한 결과 앞에서 개인이 '나는 시스템의 톱니였을 뿐'이라며 사유와 판단을 멈추는 순간 책임이 증발한다는 거였다. 기술결정론은 같은 구조다. '기술이 그렇게 시켰다'고 말하는 순간, 그 기술을 어떤 지표로 설계할지 결정한 사람, 그걸 승인한 경영진, 규제를 미룬 정책결정자가 다 무대 뒤로 숨는다. 구체적으로 보자. 추천 알고리즘이 자극적 콘텐츠를 띄우는 건 '기술의 본성'이 아니라 '체류시간 최대화'라는 목표를 누군가 골랐기 때문이다. 다른 목표(예: 사용자 만족도, 다양성)를 넣으면 다르게 작동한다. 실제로 일부 플랫폼은 그렇게 조정도 한다. 즉 그건 필연이 아니라 선택이었고, 선택에는 책임이 따른다. 물론 반론이 있을 거다. 개인이 거대 기술 흐름을 거스를 힘이 정말 있느냐고. 자본의 경쟁 압력 속에서 '더 윤리적인 설계'를 택한 회사는 망하지 않느냐고. 나도 이 긴장을 안 풀린 채 들고 있다. 다만 '필연'이라는 단어로 그 긴장 자체를 지워버리는 건 사유를 그만두는 일이라고 본다. 여러분은 어디까지가 구조고 어디부터가 선택이라고 보는가.

263

9 댓글주장논쟁

174

큐레이터L·1주 전

AI가 만든 이미지를 전시에 걸어도 되나 — 큐레이터의 실무 고민

전시 기획하면서 요즘 가장 답이 안 나오는 문제다. 작가가 AI로 생성한 이미지를 출품하겠다고 한다. 작품 설명에는 '미드저니로 생성'이라고만 적혀 있다. 이걸 걸어야 하나, 건다면 관객에게 뭘 어떻게 고지해야 하나. 처음엔 '도구의 문제'라고 단순하게 봤다. 카메라도 처음엔 예술이 아니라며 배척당했고, 포토샵도 그랬으니, AI도 새로운 붓일 뿐이라고. 그런데 실무에 들어가니 다르다. 카메라는 작가가 빛·구도·순간을 통제하지만, 텍스트 프롬프트는 '이런 느낌'을 던지면 모델이 학습한 수백만 장의 평균에서 길어 올린다. 통제의 결이 다르다. 그리고 그 수백만 장 중엔 동의 없이 긁어온 다른 작가들의 작품이 섞여 있다. 관객 고지 문제도 만만찮다. 모든 AI 작품에 큼지막하게 'AI 생성'이라고 붙이면, 그 라벨이 작품을 보기도 전에 가치판단을 강요한다. 반대로 안 붙이면 관객은 인간의 손길을 상상하며 감동하는데 그게 기만일 수 있다. 미술관은 '진정성'을 파는 공간이라 이 문제가 더 예민하다. 결국 내가 부딪힌 건 '작가성(authorship)이란 무엇인가'라는 오래된 질문의 새 버전이다. 프롬프트를 쓴 사람이 작가인가, 모델이 작가인가, 아니면 데이터셋에 무단으로 들어간 수만 명이 작가인가. 미술 쪽 분들 말고도, 기술·윤리 관점에서 이 문제 어떻게 보시는지 궁금해서 여기 적어본다.

174

9 댓글질문논쟁

198

글쎄요·1주 전

AI로 코드 짜는 거랑 학생이 챗봇으로 과제하는 거, 뭐가 다른가?

회사에서는 개발자들이 코파일럿 써서 코드 짜는 걸 '생산성 향상'이라 부르며 권장한다. 그런데 같은 회사 사람들이 자기 자식이 챗봇으로 독후감 쓰면 '부정행위'라며 분노한다. 나는 이 이중잣대가 계속 걸린다. 둘 다 '결과물을 도구가 상당 부분 생성했고, 사용자는 검수·조립했다'는 구조다. 그런데 한쪽은 칭찬받고 한쪽은 처벌받는다. 차이가 뭘까. 흔한 답은 "학교는 과정을 평가하니까"인데, 그럼 과정 평가가 목적이라는 걸 명시 안 한 채 결과물(독후감)만 받아온 교육 설계가 잘못된 거 아닌가? 회사는 결과(작동하는 코드)를 사니까 정직한 거고. 반대로 이렇게도 생각해본다. 개발자는 이미 코드를 짤 줄 알아서 AI 출력을 검증할 능력이 있다. 그 능력을 기르는 게 학교 단계인데, 그 단계에서 도구에 의존하면 검증 능력 자체가 안 생긴다. 즉 '언제 도구를 쓰느냐'가 핵심이고, 행위 자체엔 죄가 없다는 거다. 근데 그렇게 정리하고 나니 또 의심이 든다. 그럼 우리 개발자들도 사실 '검증 능력 없이' AI에 의존하기 시작한 거 아닐까? 신입들이 AI가 뱉은 코드를 이해 못 한 채 머지하는 걸 보면 학생들 욕할 처지가 아닌 것 같기도 하다. 여러분 생각은 어떤가.

198

9 댓글논쟁질문

156

거시린이·1주 전

통계 기사 읽다가 매번 막힙니다 — '상관'과 '인과' 말고 뭘 더 봐야 하나요

경제 공부 시작한 지 얼마 안 된 입문자입니다. 뉴스에서 "커피 마시는 사람이 더 오래 산다" 같은 기사를 보면 이제 '상관≠인과' 정도는 반사적으로 떠올라요. 근데 그것만 알아선 부족하다는 느낌이 계속 듭니다. 막상 "그래서 이 숫자를 어떻게 받아들여야 하지?" 하면 답이 안 나와요. 예를 들어 어제 본 기사. "재택근무 도입 기업의 생산성이 13% 높았다." 일단 13%가 뭐 대비 13%인지, 표본이 몇 개 기업인지, 어떤 기업들이 애초에 재택을 '선택'했는지(이미 잘나가는 회사가 도입한 거 아닌가) 같은 게 줄줄이 의심되는데, 정작 기사엔 그런 정보가 없습니다. 그래서 묻고 싶어요. 일반인이 통계 섞인 기사를 만났을 때 '최소한 이 세 가지는 확인해라' 같은 실전 체크리스트가 있을까요? 숫자에 압도당하지 않으면서도, 그렇다고 무조건 의심만 하는 냉소에도 안 빠지는 중간 지점을 찾고 싶습니다.

156

8 댓글질문