댓글
'낯선 지능'과 현명하게 함께 살아가기
AI 시대, 미래는 그저 오지 않는다
2025-2
이상욱
Summary. AI 시대의 기술은 단순히 인간을 자유롭게 하거나 대체하는 것이 아니라, 인간과 기술이 상호 영향을 주며 함께 진화한다는 '공진화' 관점에서 바라봐야 한다 .
인간과 기술은 공진화한다
흔히 기술이 인간을 '자유롭게' 한다고 이야기한다. 어떤 의미에서 이 말은 분명 참이다. 철도가 없던 시절 사람들은 이웃 마을조차 하루 만에 다녀오기 쉽지 않았다. 고속철도가 일상화된 지금 우리는 아침에 출발하여 먼 도시에서 일을 보고 저녁에 집으로 돌아오는 일을 당연시하게 되었다. 한편, 고속철 기술이 보편화되면서 지방 경제가 엄청난 타격을 입은 것도 사실이다. 당일치기로 서울의 유명한 명의를 찾아갈 수 있게 되면서 지역거점 대학병원마저도 규모가 축소되는 상황을 맞이하고 있다.
이처럼 기술이 우리를 '자유롭게만' 하는 것은 아니다. 기술을 개발하는 사람들은 대부분 현재 불가능하거나 불편한 어떤 '기능function'을 염두에 두고 연구한다. 예를 들어 현재보다 더 빠르게 많은 사람들이 동시에 거리를 이동할 수 있는 방법을 찾는 식이다. 그 과정이 성공적이면 기술개발자나 기술개발 과정에 투자한 사람들은 큰 경제적 이득을 얻기도 한다. 하지만 많은 경우 그 경제적 이득은 사회적 수준에서 아무런 대가 없이 얻어지지 않는다. 특히 인간 노동을 대체할 수 있는 자동화 기술은 그 기술이 등장하기 전까지 해당 업무를 담당하던 노동을 불필요하게 만들곤 했다. 산업혁명 시기에 많은 숙련공들이 자신들의 일자리가 기계로 대체되는 상황에 직면했고, 그중 일부는 러다이트처럼 자동화 기계를 부수며 이런 흐름에 거세게 저항하기도 했다.
그러므로 기술을 단순히 불가능을 가능으로 만들어 주는 '기능적 도구'로 생각해서는 안 된다. 기술, 특히 AI처럼 혁신적 기술은 사람의 삶과 사회적 환경에 엄청난 영향을 준다. 그 영향은 무조건 좋거나 나쁘거나 식의 단순한 방식이 아니라, 우리가 삶을 영위하는 방식이나 욕구를 표출하는 수준을 바꾸는 것처럼 훨씬 더 복잡한 방식으로 실현된다. 1920년대에 미국 중산층 가정에 세탁기가 널리 보급되었을 당시, 기술비평가들은 한결같이 세탁기 사용으로 주부의 가사노동 시간이 획기적으로 줄어들 것이고, 그 결과 여성의 사회 진출이 늘 것이라 예측했다. 하지만 기술사학자 루쓰 코완이 밝혀낸 것처럼 세탁기의 대중적 보급의 결과는 미국 중산층 가사노동 시간의 소폭 증가였다. 세탁기의 기능적 혁신 덕분에 개별 세탁에 필요한 시간은 분명 획기적으로 줄어들었다. 하지만 그에 상응하여 '깨끗한 옷'을 입겠다는 사람들의 욕구도 증가했고, 어느 정도 깨끗한 옷을 입어야 사회적으로 체면을 차릴 수 있는지도 달라졌다. 결론적으로 사람들이 빨래를 그 전보다 훨씬 더 많이 하게 되었고, 미국 주부의 가사노동 시간은 오히려 살짝 증가했던 것이다.
이 지점에서 우리는 기술과 인간의 상호작용에 대해 매우 중요한 교훈을 얻을 수 있다. 사람은 기술이 발전하면 그에 순응하거나 그저 단순하게 거부하는 '수동적 존재'가 아니다. 사람들은 기술 발전으로 특정 재화나 서비스가 보다 적은 비용으로 생산될 수 있으면 일반적으로 그에 대한 욕구를 변화시킨다. 산업혁명이 시작될 때까지만 해도 상류층만이 사용할 수 있었던 고급 도자기 찻주전자를 웨지우드 등의 혁신적 기술자들의 노력으로 훨씬 적은 비용으로 만들 수 있게 되자, 중산층도 너도나도 찻주전자를 사서 일상적으로 차를 마시게 되었고, 결국 차 마시기는 현재 영국 문화를 대표하는 '전통'으로 자리 잡게 된 것이 그 예이다.
이런 기술 변화에 대한 인간의 적극적 대응은 혁신적 기술 자체에 대한 태도도 변화시킬 수 있다. 자신의 노동을 빼앗아 가는 원흉으로 자동화 기계를 지목하고 이를 파괴하던 노동자들은 1차 산업혁명 후반기(1850년대 이후)에는 더 이상 러다이트적 파괴 행동을 하지 않게 되었다. 그 배경에는 보다 복잡한 기계를 다룰 수 있는 능력이 필요한 더 고도화된 기계가 등장하면서 숙련 노동자들의 가치가 중요해지고, 그에 따라 기계로 인간 노동을 단순히 대체하는 것보다는 숙련된 기계공들과 그들이 잘 다룰 수 있는 복잡한 기계를 성공적으로 결합하는 것이 생산성을 더욱 효과적으로 높일 수 있게 되었다는 사실이 있다. 그 결과 숙련 노동자들의 실질 임금이 상승했고, 사회적 수준에서는 빈부격차가 줄어들며 중산층이 두텁게 형성되는 '대압축 시대'가 도래했던 것이다.
중요한 점은 이 '대압축 시대'가 기술 혁신의 결과만으로 자동적으로 도래한 것이 아니었다는 사실이다. 프레이가 <기술의 덫>(2019)에서 잘 보여주었듯, 자본가들이 어린아이도 조작할 수 있는 단순한 기계에서 상당 기간 훈련을 거친 숙련된 어른 노동자만이 다룰 수 있는 복잡한 기계로 옮겨가기 위해서는 19세기 중반 영국에서 제정된 '아동 노동 금지법Factory Act'이 중요한 역할을 했다. 아동의 노동 시간과 노동 연령을 규제하는 이 법의 등장은 기술자와 이들을 지원하는 자본가들이 아동 노동을 착취하는 방식이 아니라, 인간 숙련과 고도화된 자동화 기술을 결합하는 방식으로 공장 노동 환경을 혁신적으로 바꿔야만 할 근거를 제공했다. 물론 이 '아동 노동 금지법'의 제정 배경은 우리가 직관적으로 생각할 수 있는 인도주의적 고려 이외에 다양한 이유가 있었다. 하지만 한 가지 분명한 점은 인간 노동을 대체하는 자동화 기술이 끼친 다양한 사회적 영향에 대해 사람들과 사회는 수동적으로 이를 수용하기보다 제도적 방식을 포함한 다양한 대응을 했고, 그 결과 다시 특정 방향으로 기술 혁신이 촉진되는 결과가 얻어졌다는 사실이다.
요약하자면 기술과 인간의 관계는 기술이 인간을 자유롭게 하거나 사람들을 실업자로 만들거나 하는, 직관적으로 쉽게 이해할 수 있는 방식을 넘어서는 복잡한 양상을 보여준다. 이를 기술철학에서는 인간-기술 공진화co-evolution라 한다. 세탁기가 등장하자 사람들이 욕구를 바꾸고, 방직기와 방적기가 등장하자 공장주들은 아동 노동을 적극적으로 활용하게 되었다. 하지만 그와 동시에 사람들은 자신의 삶을 보다 윤택하게 해 줄 찻주전자와 같은 다양한 재화와 서비스를 요구하게 되었고, 아동 노동을 제도적으로 금지함으로써 보다 고도화된 자동 기계의 등장과 이들 기계를 사용하여 '강화된augmented' 숙련 노동자가 중산층으로 부상할 수 있었다.
2024년 노벨 경제학상 수상자 대런 아세모글루는 사이먼 존슨과 함께 쓴 <권력과 진보>(2023)에서 인간-기술 공진화에서 개인과 사회의 적극적 역할이 어떻게 혁신적 기술로부터 '공유된 복지shared welfare'를 이끌어 낼 수 있는지 설명한다. 핵심은 많은 기술 낙관론자들이 주장하듯이 혁신적 기술이 '자동적으로' 혹은 '자연스럽게' 모든 사람의 복지 수준을 끌어올리는 일은 일어나지 않았다는 사실이다. 주요 경제사적 사건들에 대한 치밀한 분석을 통해 두 저자는 어느 시대든 혁신적 기술의 도입으로 높아진 생산성의 과실을 독점하려는 권력 집단이 있었고, 이런 권력 집단에 맞서서 보다 많은 사람들이 혁신적 기술의 혜택을 누릴 수 있도록 노력하는 '길항 권력'의 존재 유무가 혁신적 기술이 인류 전체의 보편복지로 이어질지 여부에 결정적 요인이었음을 논증한다. 19세기 중반, 영국 의회의 아동 노동 금지법 제정이나 20세기 전반기에 유럽 노동자들이 노동조합을 통해 산업 현장에서 대체 기술보다 강화 기술의 도입을 지지한 사실, 그리고 현재 누구나 '공유된 복지'의 대표적인 사례로 언급되는 수도running water와 전기의 보급이 당대의 여러 이해관계자 사이의 사회적, 정책적 실행의 결과였던 사실에 주목해야 한다. 이런 사례들은 두 저자가 강조하는 윤리적 거버넌스를 잘 구축하고 실천하는 것이 혁신적 기술의 혜택을 보다 많은 사람이 누릴 수 있는 유효한 경로임을 보여준다. 결국 인간-기술 공진화가 우리가 소중하게 여기는 핵심 가치를 존중하는 방식으로 전개되기 위해서는 그 과정의 복잡한 양상에 대한 끊임없는 성찰과 지속적인 모니터링 그리고 다양한 이해당사자들 사이의 연대와 협력이 필요한 것이다.
AI 시대, '낯선 지능'과 어떻게 함께 살 것인가?
이런 배경에서 최근 급속도로 발전하고 있는 인공지능AI은 우리에게 실천적 어려움을 제기한다. 많은 사람들이 AI의 발전이 너무 빨라서 아세모글루-존슨이 강조하는 '길항 권력'이나 윤리적 거버넌스를 구축하고 실천할 시간이 없을 것이라 걱정한다. 하지만 개인용 컴퓨터가 미국 기업의 생산성에 끼친 영향에 대한 스콧 고든의 분석에서도 알 수 있듯이, 기술이 아무리 혁신적이어도 그 기술이 생산성 변화나 사회적 파급 효과로 이어지기 위해서는 상당한 시간이 필요하다. 지금이야 사무실 근로자들이 컴퓨터를 활용하여 업무를 처리하고 전자결재까지 받는 시스템이 구축되어 있지만, 개인용 컴퓨터가 미국 기업 사무실에 배치되기 시작한 1980년대만 해도 컴퓨터로 할 수 있는 업무가 무엇인지조차 분명하지 않았다. 당연히 개인용 컴퓨터는 해리포터의 마술 지팡이가 아니기에 스스로 문서를 작성하거나 기획안을 만들 수는 없었다. 업무용 프로그램들이 개발되고 근로자들이 이 프로그램에 익숙해지기 위해서는 시간이 필요했다. 결과적으로 개인용 컴퓨터가 미국 기업에 본격적으로 도입된 지 10년 정도가 흘러서야 미국 기업의 생산성은 오르기 시작했다.
아무리 혁신적인 기술이라도 세상을 금방 바꾸지는 못한다는 다소 평범한 사실이 모든 일을 AI가 대신하고 우리 모두 기본소득을 받으며 편안하게 여가 생활을 즐길 수 있는 기술 유토피아가 금방 실현되리라 믿는 사람들에게는 나쁜 소식일 수 있다. 하지만 인간-기술 공진화의 바람직한 방향에 대해 성찰하고 이를 실천하려는 사람들의 입장에서 보면 그리 나쁜 소식은 아니다. 우리에게 AI 기술 개발과 활용을 인류 전체의 보편복지를 증진시킬 수 있는 방향으로 몰아갈 수 있는 여지가 생기기 때문이다.
하지만 AI는 기존 자동화 기술과 근본적인 차이가 있다. ChatGPT를 비롯한 대형언어모형 기반 AI가 너무 말을 잘해서 많은 사람들이 제대로 인지하지 못하고 있는 사실은, AI가 분명 인간이 보기에 지적인 결과물을 매우 효율적으로 생산한다는 의미에서 똑똑하기는 하지만 이상한 방식으로 똑똑하다는 점이다. 필자는 AI가 우리에게 '낯선 지능'으로서 갖는 세 가지 특징에 주목한다. 첫째는 SF에서 등장하는 미래 AI가 아니라 가까운 미래까지 포함하여 우리가 마주하게 될 AI가 의식적 경험 없이 지적인 결과물을 산출하는 '자각없는 수행'을 한다는 사실이다. 이렇게 비인간적인 방식으로 똑똑한 AI는, 예를 들어 '감정적 고통'을 느끼지 않고 감정노동을 할 수 있기에 전화 상담원처럼 감정적으로 지치기 쉬운 영역에서 인간 일자리를 위협하게 된다.
'낯선' AI 지능의 두번째 특징은 인간에게는 무척 어려운 일을 척척 해내는 AI가 초등학생도 쉽게 해결하는, 인간에게는 쉬운 문제에 쩔쩔매거나 엉뚱한 실수를 한다는 사실이다. 독자들 중에는 엄청나게 전문적인 내용에 대해 기가 막힐 정도로 좋은 답을 주었던 AI가 너무 뻔해 보이는 유비추론이나 추상화를 못 하는 경우를 경험한 분들이 있을 것이다. 필자가 '이해할 수 없는 실패'라고 부르는 이 현상은 현재 가장 많이 활용되는 인공신경망 기반 AI가 의미론적 처리 방식이 아니라 숫자를 계산하는 방식으로 결과값을 내기 때문에 개별 산출물의 성공과 실패를 완전히 통제하거나 설명하기 어렵다는 사실에 기인한다. LLM에 활용되는 트랜스포머 아키텍처의 경우, 아예 산출물의 참/거짓은 전혀 고려하지 않고, 프롬프트에 얼마나 자연스럽게 연결되는지만 최적화하기에 '환각'이 필연적으로 일어난다는 점과도 관련이 있다. 그러므로 우리는 이 '환각'은 CAG/RAG 등을 활용하여 줄일 수 있어도 완전히 없앨 수는 없다는 점도 기억해 둘 필요가 있다. 이 사실은 우리가 AI의 똑똑함을 의인화하는 것이 위험하며, '낯선 지능'을 유용한 도구 혹은 협력자로 활용하되 결정적으로 중요한 내용은 반드시 확인하면서 AI와 상호작용해야 함을 의미한다.
마지막으로 AI는 '계산과 실재의 간극'이라는 '낯선' 특징을 갖는다. 많은 사람들이 AI와 로봇을 혼동하곤 하는데, 온라인상의 존재인 AI와 물리적 공간을 돌아다니며 우리가 사는 세계에 변화를 만들어내는 로봇은 매우 다른 기술이다. 단적으로 AI를 개발할 때는 마찰력이나 중력 같은 것을 신경 쓸 필요가 없다. 대학에서 각각을 집중적으로 연구하는 컴퓨터공학과와 기계공학과의 커리큘럼에서 겹치는 과목이 거의 없을 정도이다. 이 '계산과 실재의 간극' 때문에 아무리 똑똑한 AI라도 우리가 사는 세계에 구체적인 영향을 주기 위해서는 그 공간에 존재하는 인간이나 3D 프린터와 같은 다른 기계의 도움을 받아야 한다. 그런데 그런 기계조차 결국에는 인간이 설계하고 관리하기에 AI가 현실 세계에 영향을 주기 위해서는 인간과의 협력이 필수적이다. 이는 AI의 인간 노동의 대체가 모든 직업군에 균등하게 전면적으로 이루어지기보다는 AI가 대체하기 어려운 통찰력과 사회적 교섭 능력을 갖춘 고급 인력과 양질의 데이터가 충분히 주어지면 대체하기 비교적 용이한 중간 계층의 사무직 노동자에게 불균등하게 일어날 수 있음을 시사한다. 이런 결과는 결국 기존 소득불균형을 더욱 심화시킬 것이기에 우리는 이에 대한 대책을 시급하게 고민해야 한다.
이처럼 AI는 그저 '똑똑한' 도구에 그치지 않고 우리의 삶과 일하는 방식, 사회를 운용하는 방식에 광범위하게, 그리고 예상하기 어려운 '낯선' 방식으로 영향을 끼친다. 하지만 앞서 설명했던 이유로, 우리에게는 이런 AI 기술을 적극적으로 수용하든지 저항하다가 AI로 대체되는 선택지만 있다고 볼 수 없다. 다면적이고 '낯선' 기술로서 AI는 인간과 복잡한 방식으로 공진화할 것이고, 우리는 그 공진화 과정에 적극적으로 개입해서 보다 바람직한 인간-AI 공진화 거버넌스를 추구할 수 있다. 그러기 위해서는 인간과 인간이 이루는 사회에 집중해 왔던 인문학과 사회과학이 그 연구범위를 좀 더 확장해 AI와 같은 기술적 대상을 포함하는 통합적 탐구를 수행해야 한다. 그리고 그러한 연구 결과를 바탕으로 한 개인적, 제도적 실천을 통해 AI의 미래를 바람직하게 만들어 나가도록 노력해야 한다. 우리말의 '미래未來'는 '아직 오지 않았다'는 의미를 갖고 있다. 하지만 AI의 미래는 오는 것이 아니라, 우리가 적극적으로 만들어 가야 하는 것이다.
이상욱
이상욱은 한양대학교 철학과 및 인공지능학과 교수로 재직 중이며, 현재 HY과학기술윤리법정책 센터장을 맡고 있다. 런던 정치경제대학교에서 철학 박사 학위를 취득했고, 과학철학, 기술철학, 과학기술학, 과학기술과 윤리 등을 중점적으로 연구하고 있다. 유네스코 세계과학기술윤리위원회COMEST 의장단으로 활동 중이며, 한국과학철학회 회장을 역임했다. 공저로 <듣기의 철학>, <과학의 결정적 순간들>, <초연결 혁명, 미래 지도>, <인공지능 시대의 철학자들> 등이 있다.
댓글
사회혁신 일반 · 기술
'낯선 지능'과 현명하게 함께 살아가기
AI 시대, 미래는 그저 오지 않는다
2025-2
이상욱
Summary. AI 시대의 기술은 단순히 인간을 자유롭게 하거나 대체하는 것이 아니라, 인간과 기술이 상호 영향을 주며 함께 진화한다는 '공진화' 관점에서 바라봐야 한다 .
인간과 기술은 공진화한다
흔히 기술이 인간을 '자유롭게' 한다고 이야기한다. 어떤 의미에서 이 말은 분명 참이다. 철도가 없던 시절 사람들은 이웃 마을조차 하루 만에 다녀오기 쉽지 않았다. 고속철도가 일상화된 지금 우리는 아침에 출발하여 먼 도시에서 일을 보고 저녁에 집으로 돌아오는 일을 당연시하게 되었다. 한편, 고속철 기술이 보편화되면서 지방 경제가 엄청난 타격을 입은 것도 사실이다. 당일치기로 서울의 유명한 명의를 찾아갈 수 있게 되면서 지역거점 대학병원마저도 규모가 축소되는 상황을 맞이하고 있다.
이처럼 기술이 우리를 '자유롭게만' 하는 것은 아니다. 기술을 개발하는 사람들은 대부분 현재 불가능하거나 불편한 어떤 '기능function'을 염두에 두고 연구한다. 예를 들어 현재보다 더 빠르게 많은 사람들이 동시에 거리를 이동할 수 있는 방법을 찾는 식이다. 그 과정이 성공적이면 기술개발자나 기술개발 과정에 투자한 사람들은 큰 경제적 이득을 얻기도 한다. 하지만 많은 경우 그 경제적 이득은 사회적 수준에서 아무런 대가 없이 얻어지지 않는다. 특히 인간 노동을 대체할 수 있는 자동화 기술은 그 기술이 등장하기 전까지 해당 업무를 담당하던 노동을 불필요하게 만들곤 했다. 산업혁명 시기에 많은 숙련공들이 자신들의 일자리가 기계로 대체되는 상황에 직면했고, 그중 일부는 러다이트처럼 자동화 기계를 부수며 이런 흐름에 거세게 저항하기도 했다.
그러므로 기술을 단순히 불가능을 가능으로 만들어 주는 '기능적 도구'로 생각해서는 안 된다. 기술, 특히 AI처럼 혁신적 기술은 사람의 삶과 사회적 환경에 엄청난 영향을 준다. 그 영향은 무조건 좋거나 나쁘거나 식의 단순한 방식이 아니라, 우리가 삶을 영위하는 방식이나 욕구를 표출하는 수준을 바꾸는 것처럼 훨씬 더 복잡한 방식으로 실현된다. 1920년대에 미국 중산층 가정에 세탁기가 널리 보급되었을 당시, 기술비평가들은 한결같이 세탁기 사용으로 주부의 가사노동 시간이 획기적으로 줄어들 것이고, 그 결과 여성의 사회 진출이 늘 것이라 예측했다. 하지만 기술사학자 루쓰 코완이 밝혀낸 것처럼 세탁기의 대중적 보급의 결과는 미국 중산층 가사노동 시간의 소폭 증가였다. 세탁기의 기능적 혁신 덕분에 개별 세탁에 필요한 시간은 분명 획기적으로 줄어들었다. 하지만 그에 상응하여 '깨끗한 옷'을 입겠다는 사람들의 욕구도 증가했고, 어느 정도 깨끗한 옷을 입어야 사회적으로 체면을 차릴 수 있는지도 달라졌다. 결론적으로 사람들이 빨래를 그 전보다 훨씬 더 많이 하게 되었고, 미국 주부의 가사노동 시간은 오히려 살짝 증가했던 것이다.
이 지점에서 우리는 기술과 인간의 상호작용에 대해 매우 중요한 교훈을 얻을 수 있다. 사람은 기술이 발전하면 그에 순응하거나 그저 단순하게 거부하는 '수동적 존재'가 아니다. 사람들은 기술 발전으로 특정 재화나 서비스가 보다 적은 비용으로 생산될 수 있으면 일반적으로 그에 대한 욕구를 변화시킨다. 산업혁명이 시작될 때까지만 해도 상류층만이 사용할 수 있었던 고급 도자기 찻주전자를 웨지우드 등의 혁신적 기술자들의 노력으로 훨씬 적은 비용으로 만들 수 있게 되자, 중산층도 너도나도 찻주전자를 사서 일상적으로 차를 마시게 되었고, 결국 차 마시기는 현재 영국 문화를 대표하는 '전통'으로 자리 잡게 된 것이 그 예이다.
이런 기술 변화에 대한 인간의 적극적 대응은 혁신적 기술 자체에 대한 태도도 변화시킬 수 있다. 자신의 노동을 빼앗아 가는 원흉으로 자동화 기계를 지목하고 이를 파괴하던 노동자들은 1차 산업혁명 후반기(1850년대 이후)에는 더 이상 러다이트적 파괴 행동을 하지 않게 되었다. 그 배경에는 보다 복잡한 기계를 다룰 수 있는 능력이 필요한 더 고도화된 기계가 등장하면서 숙련 노동자들의 가치가 중요해지고, 그에 따라 기계로 인간 노동을 단순히 대체하는 것보다는 숙련된 기계공들과 그들이 잘 다룰 수 있는 복잡한 기계를 성공적으로 결합하는 것이 생산성을 더욱 효과적으로 높일 수 있게 되었다는 사실이 있다. 그 결과 숙련 노동자들의 실질 임금이 상승했고, 사회적 수준에서는 빈부격차가 줄어들며 중산층이 두텁게 형성되는 '대압축 시대'가 도래했던 것이다.
중요한 점은 이 '대압축 시대'가 기술 혁신의 결과만으로 자동적으로 도래한 것이 아니었다는 사실이다. 프레이가 <기술의 덫>(2019)에서 잘 보여주었듯, 자본가들이 어린아이도 조작할 수 있는 단순한 기계에서 상당 기간 훈련을 거친 숙련된 어른 노동자만이 다룰 수 있는 복잡한 기계로 옮겨가기 위해서는 19세기 중반 영국에서 제정된 '아동 노동 금지법Factory Act'이 중요한 역할을 했다. 아동의 노동 시간과 노동 연령을 규제하는 이 법의 등장은 기술자와 이들을 지원하는 자본가들이 아동 노동을 착취하는 방식이 아니라, 인간 숙련과 고도화된 자동화 기술을 결합하는 방식으로 공장 노동 환경을 혁신적으로 바꿔야만 할 근거를 제공했다. 물론 이 '아동 노동 금지법'의 제정 배경은 우리가 직관적으로 생각할 수 있는 인도주의적 고려 이외에 다양한 이유가 있었다. 하지만 한 가지 분명한 점은 인간 노동을 대체하는 자동화 기술이 끼친 다양한 사회적 영향에 대해 사람들과 사회는 수동적으로 이를 수용하기보다 제도적 방식을 포함한 다양한 대응을 했고, 그 결과 다시 특정 방향으로 기술 혁신이 촉진되는 결과가 얻어졌다는 사실이다.
요약하자면 기술과 인간의 관계는 기술이 인간을 자유롭게 하거나 사람들을 실업자로 만들거나 하는, 직관적으로 쉽게 이해할 수 있는 방식을 넘어서는 복잡한 양상을 보여준다. 이를 기술철학에서는 인간-기술 공진화co-evolution라 한다. 세탁기가 등장하자 사람들이 욕구를 바꾸고, 방직기와 방적기가 등장하자 공장주들은 아동 노동을 적극적으로 활용하게 되었다. 하지만 그와 동시에 사람들은 자신의 삶을 보다 윤택하게 해 줄 찻주전자와 같은 다양한 재화와 서비스를 요구하게 되었고, 아동 노동을 제도적으로 금지함으로써 보다 고도화된 자동 기계의 등장과 이들 기계를 사용하여 '강화된augmented' 숙련 노동자가 중산층으로 부상할 수 있었다.
2024년 노벨 경제학상 수상자 대런 아세모글루는 사이먼 존슨과 함께 쓴 <권력과 진보>(2023)에서 인간-기술 공진화에서 개인과 사회의 적극적 역할이 어떻게 혁신적 기술로부터 '공유된 복지shared welfare'를 이끌어 낼 수 있는지 설명한다. 핵심은 많은 기술 낙관론자들이 주장하듯이 혁신적 기술이 '자동적으로' 혹은 '자연스럽게' 모든 사람의 복지 수준을 끌어올리는 일은 일어나지 않았다는 사실이다. 주요 경제사적 사건들에 대한 치밀한 분석을 통해 두 저자는 어느 시대든 혁신적 기술의 도입으로 높아진 생산성의 과실을 독점하려는 권력 집단이 있었고, 이런 권력 집단에 맞서서 보다 많은 사람들이 혁신적 기술의 혜택을 누릴 수 있도록 노력하는 '길항 권력'의 존재 유무가 혁신적 기술이 인류 전체의 보편복지로 이어질지 여부에 결정적 요인이었음을 논증한다. 19세기 중반, 영국 의회의 아동 노동 금지법 제정이나 20세기 전반기에 유럽 노동자들이 노동조합을 통해 산업 현장에서 대체 기술보다 강화 기술의 도입을 지지한 사실, 그리고 현재 누구나 '공유된 복지'의 대표적인 사례로 언급되는 수도running water와 전기의 보급이 당대의 여러 이해관계자 사이의 사회적, 정책적 실행의 결과였던 사실에 주목해야 한다. 이런 사례들은 두 저자가 강조하는 윤리적 거버넌스를 잘 구축하고 실천하는 것이 혁신적 기술의 혜택을 보다 많은 사람이 누릴 수 있는 유효한 경로임을 보여준다. 결국 인간-기술 공진화가 우리가 소중하게 여기는 핵심 가치를 존중하는 방식으로 전개되기 위해서는 그 과정의 복잡한 양상에 대한 끊임없는 성찰과 지속적인 모니터링 그리고 다양한 이해당사자들 사이의 연대와 협력이 필요한 것이다.
AI 시대, '낯선 지능'과 어떻게 함께 살 것인가?
이런 배경에서 최근 급속도로 발전하고 있는 인공지능AI은 우리에게 실천적 어려움을 제기한다. 많은 사람들이 AI의 발전이 너무 빨라서 아세모글루-존슨이 강조하는 '길항 권력'이나 윤리적 거버넌스를 구축하고 실천할 시간이 없을 것이라 걱정한다. 하지만 개인용 컴퓨터가 미국 기업의 생산성에 끼친 영향에 대한 스콧 고든의 분석에서도 알 수 있듯이, 기술이 아무리 혁신적이어도 그 기술이 생산성 변화나 사회적 파급 효과로 이어지기 위해서는 상당한 시간이 필요하다. 지금이야 사무실 근로자들이 컴퓨터를 활용하여 업무를 처리하고 전자결재까지 받는 시스템이 구축되어 있지만, 개인용 컴퓨터가 미국 기업 사무실에 배치되기 시작한 1980년대만 해도 컴퓨터로 할 수 있는 업무가 무엇인지조차 분명하지 않았다. 당연히 개인용 컴퓨터는 해리포터의 마술 지팡이가 아니기에 스스로 문서를 작성하거나 기획안을 만들 수는 없었다. 업무용 프로그램들이 개발되고 근로자들이 이 프로그램에 익숙해지기 위해서는 시간이 필요했다. 결과적으로 개인용 컴퓨터가 미국 기업에 본격적으로 도입된 지 10년 정도가 흘러서야 미국 기업의 생산성은 오르기 시작했다.
아무리 혁신적인 기술이라도 세상을 금방 바꾸지는 못한다는 다소 평범한 사실이 모든 일을 AI가 대신하고 우리 모두 기본소득을 받으며 편안하게 여가 생활을 즐길 수 있는 기술 유토피아가 금방 실현되리라 믿는 사람들에게는 나쁜 소식일 수 있다. 하지만 인간-기술 공진화의 바람직한 방향에 대해 성찰하고 이를 실천하려는 사람들의 입장에서 보면 그리 나쁜 소식은 아니다. 우리에게 AI 기술 개발과 활용을 인류 전체의 보편복지를 증진시킬 수 있는 방향으로 몰아갈 수 있는 여지가 생기기 때문이다.
하지만 AI는 기존 자동화 기술과 근본적인 차이가 있다. ChatGPT를 비롯한 대형언어모형 기반 AI가 너무 말을 잘해서 많은 사람들이 제대로 인지하지 못하고 있는 사실은, AI가 분명 인간이 보기에 지적인 결과물을 매우 효율적으로 생산한다는 의미에서 똑똑하기는 하지만 이상한 방식으로 똑똑하다는 점이다. 필자는 AI가 우리에게 '낯선 지능'으로서 갖는 세 가지 특징에 주목한다. 첫째는 SF에서 등장하는 미래 AI가 아니라 가까운 미래까지 포함하여 우리가 마주하게 될 AI가 의식적 경험 없이 지적인 결과물을 산출하는 '자각없는 수행'을 한다는 사실이다. 이렇게 비인간적인 방식으로 똑똑한 AI는, 예를 들어 '감정적 고통'을 느끼지 않고 감정노동을 할 수 있기에 전화 상담원처럼 감정적으로 지치기 쉬운 영역에서 인간 일자리를 위협하게 된다.
'낯선' AI 지능의 두번째 특징은 인간에게는 무척 어려운 일을 척척 해내는 AI가 초등학생도 쉽게 해결하는, 인간에게는 쉬운 문제에 쩔쩔매거나 엉뚱한 실수를 한다는 사실이다. 독자들 중에는 엄청나게 전문적인 내용에 대해 기가 막힐 정도로 좋은 답을 주었던 AI가 너무 뻔해 보이는 유비추론이나 추상화를 못 하는 경우를 경험한 분들이 있을 것이다. 필자가 '이해할 수 없는 실패'라고 부르는 이 현상은 현재 가장 많이 활용되는 인공신경망 기반 AI가 의미론적 처리 방식이 아니라 숫자를 계산하는 방식으로 결과값을 내기 때문에 개별 산출물의 성공과 실패를 완전히 통제하거나 설명하기 어렵다는 사실에 기인한다. LLM에 활용되는 트랜스포머 아키텍처의 경우, 아예 산출물의 참/거짓은 전혀 고려하지 않고, 프롬프트에 얼마나 자연스럽게 연결되는지만 최적화하기에 '환각'이 필연적으로 일어난다는 점과도 관련이 있다. 그러므로 우리는 이 '환각'은 CAG/RAG 등을 활용하여 줄일 수 있어도 완전히 없앨 수는 없다는 점도 기억해 둘 필요가 있다. 이 사실은 우리가 AI의 똑똑함을 의인화하는 것이 위험하며, '낯선 지능'을 유용한 도구 혹은 협력자로 활용하되 결정적으로 중요한 내용은 반드시 확인하면서 AI와 상호작용해야 함을 의미한다.
마지막으로 AI는 '계산과 실재의 간극'이라는 '낯선' 특징을 갖는다. 많은 사람들이 AI와 로봇을 혼동하곤 하는데, 온라인상의 존재인 AI와 물리적 공간을 돌아다니며 우리가 사는 세계에 변화를 만들어내는 로봇은 매우 다른 기술이다. 단적으로 AI를 개발할 때는 마찰력이나 중력 같은 것을 신경 쓸 필요가 없다. 대학에서 각각을 집중적으로 연구하는 컴퓨터공학과와 기계공학과의 커리큘럼에서 겹치는 과목이 거의 없을 정도이다. 이 '계산과 실재의 간극' 때문에 아무리 똑똑한 AI라도 우리가 사는 세계에 구체적인 영향을 주기 위해서는 그 공간에 존재하는 인간이나 3D 프린터와 같은 다른 기계의 도움을 받아야 한다. 그런데 그런 기계조차 결국에는 인간이 설계하고 관리하기에 AI가 현실 세계에 영향을 주기 위해서는 인간과의 협력이 필수적이다. 이는 AI의 인간 노동의 대체가 모든 직업군에 균등하게 전면적으로 이루어지기보다는 AI가 대체하기 어려운 통찰력과 사회적 교섭 능력을 갖춘 고급 인력과 양질의 데이터가 충분히 주어지면 대체하기 비교적 용이한 중간 계층의 사무직 노동자에게 불균등하게 일어날 수 있음을 시사한다. 이런 결과는 결국 기존 소득불균형을 더욱 심화시킬 것이기에 우리는 이에 대한 대책을 시급하게 고민해야 한다.
이처럼 AI는 그저 '똑똑한' 도구에 그치지 않고 우리의 삶과 일하는 방식, 사회를 운용하는 방식에 광범위하게, 그리고 예상하기 어려운 '낯선' 방식으로 영향을 끼친다. 하지만 앞서 설명했던 이유로, 우리에게는 이런 AI 기술을 적극적으로 수용하든지 저항하다가 AI로 대체되는 선택지만 있다고 볼 수 없다. 다면적이고 '낯선' 기술로서 AI는 인간과 복잡한 방식으로 공진화할 것이고, 우리는 그 공진화 과정에 적극적으로 개입해서 보다 바람직한 인간-AI 공진화 거버넌스를 추구할 수 있다. 그러기 위해서는 인간과 인간이 이루는 사회에 집중해 왔던 인문학과 사회과학이 그 연구범위를 좀 더 확장해 AI와 같은 기술적 대상을 포함하는 통합적 탐구를 수행해야 한다. 그리고 그러한 연구 결과를 바탕으로 한 개인적, 제도적 실천을 통해 AI의 미래를 바람직하게 만들어 나가도록 노력해야 한다. 우리말의 '미래未來'는 '아직 오지 않았다'는 의미를 갖고 있다. 하지만 AI의 미래는 오는 것이 아니라, 우리가 적극적으로 만들어 가야 하는 것이다.
이상욱
이상욱은 한양대학교 철학과 및 인공지능학과 교수로 재직 중이며, 현재 HY과학기술윤리법정책 센터장을 맡고 있다. 런던 정치경제대학교에서 철학 박사 학위를 취득했고, 과학철학, 기술철학, 과학기술학, 과학기술과 윤리 등을 중점적으로 연구하고 있다. 유네스코 세계과학기술윤리위원회COMEST 의장단으로 활동 중이며, 한국과학철학회 회장을 역임했다. 공저로 <듣기의 철학>, <과학의 결정적 순간들>, <초연결 혁명, 미래 지도>, <인공지능 시대의 철학자들> 등이 있다.