인류 문명의 게임체인저 AI
좋은 쪽일지, 나쁜 쪽일지
아직 알 수 없는 양면적 존재
인간사회의 각종 의사결정을
대신 수행하게 될 기계를 보며
철학자들의 고민이 시작됐다
오랜 세월 인간이 도맡아온
의사결정권을
어디까지 기계에 내줄 것인가
좋은 쪽일지, 나쁜 쪽일지
아직 알 수 없는 양면적 존재
인간사회의 각종 의사결정을
대신 수행하게 될 기계를 보며
철학자들의 고민이 시작됐다
오랜 세월 인간이 도맡아온
의사결정권을
어디까지 기계에 내줄 것인가
월스트리트의 큰손 스티븐 슈워츠먼은 2019년 영국 옥스퍼드대학에 3000억원을 기부했다. 르네상스 이후 이 대학이 받은 기부금 중 가장 큰 액수였다. 사모펀드 블랙스톤의 창업자는 이 돈을 쾌척하며 인문학 연구에 써 달라고 했다. 콕 집어 말했다. 철학과의 ‘인공지능(AI) 윤리 연구소’에서 쓰면 좋겠다고. 그는 1년 전 미국 매사추세츠공과대학(MIT)에 4600억원을 기부한 터였다. 그 돈으로 AI 연구에 초점을 맞춘 컴퓨터학부가 신설됐다. AI를 만드는 곳에 거액을 후원한 사람이 그것을 만드는 게 과연 좋은 일인지 고민하는 이들을 찾아가 다시 지갑을 열었다.
대서양을 넘나든 기부 행보는 이 첨단 기술이 가진 양면성을 말해주고 있다. 인류 문명의 게임체인저가 될 텐데, 좋은 쪽일지 나쁜 쪽일지 우리는 아직 알지 못한다. 사람처럼 생각하는 기계를 만들고 있는 지금, 그것이 몰고 올 파장을 생각하는 사람이 어느 때보다 필요하다. 챗GPT가 갑작스럽게 AI 시대를 열어젖히면서 ‘철학의 시간’도 성큼 앞당겨졌다.
AI의 의학적 효용은 이미 입증됐다. 암세포를 잘 찾아낼 뿐 아니라 수술로 암을 제거할 때 얼마나 잘라내야 가장 효과적인지 판단하는 능력도 탁월하다. 그런데 그 맵핑(mapping) 기능이 전쟁터에서 사용된다면? 가장 효과적인 폭격 지점과 범위를 AI가 결정케 할 경우 누구를 죽일지, 얼마나 죽일지를 기계가 선택하는 상황이 벌어진다. AI는 난임 치료에도 활용되기 시작했다. 인공수정은 체외 수정된 여러 배아 중 착상 가능성이 높은 것을 고르는 선별 과정을 거치는데, 의사가 현미경으로 관찰하며 진행하던 일을 AI에 맡겼더니 확률이 높아졌다고 한다. 이 기술이 보편화한다면? 기계의 선택을 받아야 사람이 태어나는 세상을 보게 될 수 있다.
AI를 만드는 이유는 사람이 하던 복잡한 일을 대신 시키기 위해서다. 그러는 편이 더 효율적임은 여러 분야에서 확인됐다. 그렇게 AI에 넘기려는 많은 일에는 사람이 해오던 의사결정자의 역할이 포함돼 있다. 인간의 삶에(심지어 태어나고 죽는 문제에도) 큰 영향을 미치는 각종 의사결정을 어느 선까지 기계에 넘겨줄 것인가. 효율성과 인간성 사이 어딘가에 있을 윤리적 적정선을 찾는 일. AI 시대를 맞아 철학자들이 하고 있는 작업이 바로 이것이다.
이런 이슈들을 찾아 써내는 옥스퍼드 AI윤리연구소의 논문에선 AI의 ‘블랙박스’ 특성이 자주 지적된다. 은행은 요즘 대출 심사에 AI를 접목하느라 분주하다. 수많은 대출 신청자의 적격 여부를 AI가 순식간에 판단해주니 많은 업무를 덜 수 있는데, 이를 먼저 도입한 미국 은행들은 낭패를 겪었다. 대출 거부 판정을 받은 사람이 이유를 물을 때 대답할 방법이 없었다. 스스로 학습하고 판단하는 AI의 신경망은 너무 복잡해서 왜 그런 결과물을 내놓는지 만든 사람도 알지 못한다.
몇 해 전 아마존이 소프트웨어 개발자 채용에 도입한 AI는 여성을 차별하는 경향이 뚜렷했고, 미국에서 판사들이 활용토록 개발된 형사 피의자의 재범 확률 예측 AI는 흑인에게 차별적이었다. 두 사안의 표면적 이슈는 AI의 편향성 문제였지만, 더 큰 심각성은 왜 편향성을 보이는지 알 길이 없다는 데 있었다(원인을 모르니 뚝딱 고칠 수도 없어서 아마존은 AI 채용을 접었다).
이렇게 논리적 설명이 불가능한 상태로 대출, 채용, 재판 같은 의사결정에 AI가 폭넓게 활용된다면? 우리의 데모크라시는 ‘알고크라시(algocracy·알고리즘이 지배하는 사회)’로 바뀌어 갈 것이다. AI 윤리학자들은 이런 점을 지적하며 “설명 가능한 AI(Explainable AI)를 만들라”고 끊임없이 주문하고 있다. 의사결정 역할을 기계에 일부 넘겨주더라도 그 과정을 속속들이 알아서 인간이 계속 통제권을 갖고 있어야 한다고 그들은 말한다.
AI를 둘러싼 철학적 논쟁은 이처럼 ‘의사결정권’이 핵심에 자리 잡고 있다. 우리 삶과 직결된 크고 작은 결정을 누가 내릴 것인가. 어쩌면 이는 사회의 주도권을 놓고 인간과 기계가 벌이는 일종의 권력투쟁 같은 것일지 모른다. 효율성을 앞세운 AI 시대에 인간의 가치를 지키려는 철학의 도전이 시작됐다. 그 사고의 깊이가 각국 정부에서 가시화하고 있는 AI 규제의 틀을 결정할 것이다. 사람 같은 기계와 공존해야 할 미래의 우리 모습은 결국 ‘생각하는 인간’에게 달려 있다.
태원준 논설위원 wjtae@kmib.co.kr
