댓글
첨단 기술 사회를
재구상하다
2025-2
MIKE KUBZANSKY
Summary. 디지털 기술이 사회 전반에 점점 더 깊이 영향을 미치는 지금, 그 발전은 반드시 사회를 위한 방향으로 나아가야 한다. 그러기 위해서는 먼저 우리가 지향하는 사회의 모습을 명확히 하고, 이를 실현하기 위해 디지털 기술의 잠재력을 어떻게 활용할지 구체적인 방안을 모색해야 한다.
지난 수십 년간 미국 사회는 디지털 기술이 공동체가 지향하는 가치나 미래상에 대한 충분한 고려 없이 무분별하게 확산되는 것을 방관해 왔다. 인권을 수호해 온 오랜 전통에도 불구하고, 미국 사회는 디지털 기술이 경제, 민주주의, 사법 체계, 사회 구조에 미치는 영향이 불가피하다는 인식을 바탕으로, 특유의 안일함 속에 그 흐름을 수용해 왔다.
그러나 이런 방관의 흐름에 균열을 내는 움직임도 나타나고 있다. 2023년 초, 시애틀 공립학교는 미국 교육구 가운데 처음으로 페이스북, 인스타그램, 스냅챗, 틱톡, 유튜브 등 주요 소셜미디어 기업을 상대로 소송을 제기했다. 이들 기업이 청소년 정신건강 위기의 주요 원인으로 작용했으며, 그 책임을 져야 한다는 것이었다. 이 소송을 시작으로 미국 전역의 교육구가 연이어 같은 조치를 취하고 있다. 2023년 3월에는 실리콘밸리 23개 학군이 포함된 캘리포니아 샌마테오 카운티 교육위원회와 교육감이 소셜미디어 기업을 상대로 집단 소송을 제기했다. 이들 기업이 AI와 머신러닝 기술을 활용해 청소년에게 해롭고 중독적인 플랫폼을 설계했다는 이유에서였다. 교육계의 이러한 우려는 이미 다수의 연구 결과로 뒷받침되고 있다.1
보험사, 대출기관, 고용주, 병원, 임대인 등은 점점 더 생성형 AI에 의존하고 있다. 예측 알고리즘과 프롬프트를 기반으로 새로운 콘텐츠와 아이디어를 만들어내는 생성형 AIGen AI는 이제 대출 및 임대 신청부터 의료 서비스 제공에 이르기까지 다양한 결정을 평가하고 있다. 그러나 이처럼 높은 AI 의존도는 형평성과 공정성 측면에서 심각한 우려를 낳고 있다. 2021 컨슈머 리포트의 한 연구에 따르면, 일부 자동차 보험사는 컴퓨터가 내린 결정에 따라 교육 수준과 소득이 낮은 개인에게 더 높은 보험료를 책정한 것으로 드러났다.2
2022년, 미국 상원의원 론 와이든(오리건, 민주당), 코리 부커(뉴저지, 민주당), 하원의원 이벳 클라크(뉴욕, 민주당)는 '알고리즘 책임법Algorithmic Accountability Act of 2022'을 공동 발의했다. 이 법안은 기업이 자사가 사용하는 자동화 시스템의 영향을 사전에 평가하고, 해당 시스템을 언제, 어떻게 활용하는지 투명하게 공개하도록 요구하는 내용을 담고 있다. 그러나 법안은 현재 위원회에 계류 중이며, 2019년에 발의된 유사 법안 역시 입법에 실패한 바 있다. 올해에는 척 슈머(뉴욕, 민주당) 상원 원내대표를 중심으로, 인공지능에 대한 새로운 규제 체계를 마련하기 위한 입법 프레임워크 논의가 본격화되고 있다.
연방 정부의 지침이 마련되기를 기다리는 사이, 여러 주 정부는 알고리즘 책임성 강화를 위한 조치를 검토하고 있다. 예를 들어, 콜로라도와 코네티컷주의 보험 규제 당국은 보험 가입 여부와 보험료 책정에 AI를 활용하는 보험사에 대한 규제를 추진 중이다. 현재 계류 중인 규제안은 AI 기술에 대한 보다 철저한 테스트와 지속적인 모니터링을 요구하며, 고객과의 소통에서도 더 높은 수준의 투명성을 확보하도록 요구하고 있다.
AI가 정치, 사회, 경제 전반의 담론을 지배하게 되면서, 그로 인한 잠재적 피해에 대한 우려가 커지는 것은 당연한 일이다. 특히 생성형 AI가 디지털 기술 논의의 최전선에 등장하면서, 사람들은 실존적 위협에 대한 주장부터 인종 편향이나 허위정보와 같은 현실적인 문제까지 다양한 우려에 직면하고 있다. 정책 입안자들과 사회 지도자들 역시 소셜미디어가 처음 등장했을 때 거버넌스 체계를 마련하지 못한 것을 분명히 후회하고 있으며, 생성형 AI의 빠른 확산을 목도하는 지금, 그 어느 때보다 규제의 필요성을 절실히 느끼고 있을 것이다.
실제로 AI 도구를 개발하는 기술업계의 리더들조차 안전장치 마련을 촉구하고 있다. 2023년 5월, AI 분야에서 활동하는 350명 이상의 임원과 연구자, 엔지니어는 'AI로 인한 종말의 위험을 전염병이나 핵전쟁과 같은 사회적 위협과 함께 전 세계적 우선과제로 삼아야 한다'는 성명서에 서명을 했다.3
기술과 기술자에게 모든 결정권을 맡기는 것이 얼마나 위험한 일인지에 대한 사회적 경각심이 높아지면서, 이제는 기술이 사회를 이끄는 것이 아니라 사회가 기술을 이끌어야 한다는 논의가 절실히 요구되고 있다. 오미디야르 네트워크Omidyar Network는 디지털 기술의 힘과 가능성을 오래전부터 지지해 왔으며, 사람들의 삶을 개선하기 위한 기술 스타트업에 7억 5천만 달러 이상을 투자해 왔다. 우리가 이 과정을 통해 배운 가장 중요한 교훈은, 기술이 소수가 아닌 다수를 위한 것이 되려면, 그 기술이 개인, 기업, 정부 누구에 의해 사용되든 혁신과 사회적 책임 사이에서 균형을 이뤄야 한다는 점이다.
기술의 힘을 사회 전체의 이익을 위해 활용하려면, 우리가 바라는 사회의 모습에 대한 공동의 비전이 필요하다. 미국 사회의 양극화가 심화되고 있음에도 불구하고, 대부분의 미국인은 대의제 민주주의의 원칙에 동의하며, 독립선언서에 명시된 세 가지 기본권, 즉 생명, 자유, 행복 추구를 지지한다는 점에서 공통된 기반을 가지고 있다. 언론, 종교, 집회의 자유와 사생활에 대한 권리를 포함한 자유와 개인의 권리는 미국 사회가 반드시 보장해야 할 핵심 가치로 여겨지고 있으며, 모든 시민의 평등, 공정한 법률 체계, 견실한 경제에 대한 기대 역시 널리 공유되고 있다. 아울러 모든 아이가 삶의 출발선에서 충분한 지원을 받아야 하며, 의료, 식량, 주택 등 기본적인 삶의 필수 요소에 접근할 수 있어야 하고, 지구 환경을 보호해야 한다는 데에도 폭넓은 사회적 합의가 존재한다.
이러한 가치를 기반으로 디지털 기술 시스템을 의도적으로 설계해 나간다면, 사회의 이익을 증진하는 동시에 더 나은 미래를 위한 디지털 기술 환경을 만들 수 있을 것이다.
이러한 공동의 행동이 이루어지려면, 미국 사회가 어떤 미래를 지향하는지, 그리고 디지털 기술이 그 비전 안에서 어떤 역할을 해야 하는지를 둘러싼 폭넓은 논의가 필요하다. 이 대화를 시작하기 위해, 나는 자선가, 기술자, 기업가, 정책 입안자, 학자, 활동가, 시민사회 리더, 학생, 소비자, 투자자를 비롯해 미국의 미래에 이해관계를 가진 모든 이들이 지금 반드시 던져야 할 다섯 가지 질문을 제시하고자 한다.
1. 더 나은 사회를 위한 디지털 기술 시스템을 만들기 위해, 우리는 어떤 전제와 사고방식, 아이디어를 바꿔야 할까?
무엇보다 중요한 것은 아이디어다. 아이디어는 가치에 뿌리를 두고 있으며, 지속적인 영향력을 발휘한다. 또한 아이디어는 무엇이 가능한지, 어떤 정책이 살아남고 어떤 정책이 폐지되어야 하는지에 대한 대화를 촉발한다.
오늘날 경제를 이끌고 있는 핵심 아이디어들과 디지털 기술 시스템의 대부분은 1970년대 후반, 소수의 학자, 정치인, 기업 리더, 부유층 그리고 기타 엘리트들이 사회 전반에 퍼뜨린 새로운 사상에서 출발했다. 이들은 정부의 통제로부터 벗어난 개인의 자유와 자유시장을 최우선 가치로 내세웠다. 그 결과, 경제 효율성, 작은 정부, 낮은 세금, 주주 이익, 개인 책임이 지배적인 원칙으로 자리 잡았고, 경제가 추구할 수 있는 다른 목적들은 밀려나게 되었다. 디지털 기술이 본격적으로 성장하기 시작한 시점은 바로 이 자유시장 철학이 정점을 찍은 시기였고, 그 영향으로 정책 입안자들은 디지털 기술에 대해 사실상 방임적laissez-faire 태도를 취했다. 그러나 이러한 방임은 결국 소비자, 지역사회, 더 나아가 사회 전체에 손해를 끼쳤다.
예를 들어, CEO와 이사회가 주주의 이익을 무엇보다 우선시해야 한다는 '주주 이익 우선주의shareholder primacy'는 기술 기업의 소유주와 투자자에게는 막대한 이익을 안겨주었지만, 그 대가로 노동자와 민주주의, 사회적 연대, 환경을 희생시켜왔다. 현재의 경제 패러다임은 이익은 사유화하고 피해는 사회화하는 구조를 조장하고, 기업이 져야 할 실질적인 책임을 회피하도록 유인한다. 사모펀드와 벤처캐피털은 최대 수익을 목표로 기업에 투자하며, 이를 위해 일자리, 연금, 급여를 삭감하는 것도 마다하지 않는다. 기업이 성공하면 투자사와 투자자들이 대부분의 수익을 가져가지만, 반대로 실패할 경우 그 손실은 사회로 떠넘겨진다. 그 결과, 한때 건실했던 기업이나 유망했던 스타트업이 파산하거나 구조적으로 무너기도 한다.
지금의 현실을 불가피한 것으로 받아들이기보다 디지털 기술 분야를 포함하면서 개인, 공동체 그리고 사회 전체의 안녕을 중심에 두는 새로운 경제 패러다임을 모색할 기회로 삼아야 한다. 국가의 디지털 기술 시스템을 사회에 기여하는 방향으로 재구상하려면, 구시대적이고 이미 신뢰를 잃은 기존의 아이디어를 걷어내고, 오늘날의 현실을 반영한 새로운 패러다임으로 대체하는 일부터 시작해야 한다. 오미디야르 네트워크는 2020년 보고서 <미국 자본주의를 다시 상상하라Our Call to Reimagine Capitalism in America>에서 개인, 공동체, 사회의 안녕을 중심에 두고, 모두가 실질적으로 참여할 수 있는 새로운 경제 체계를 만들기 위해 해결해야 할 다섯 가지 핵심 경제 영역을 제시했다.
더 공정하고 포용적이며 회복력 있는 사회를 만들기 위해 디지털 기술 시스템을 재설계하려면, 기술 기업이 단순히 이윤을 창출하고 극대화하는 데 그치지 않고 더 넓은 책임을 다하도록 요구해야 한다. 예를 들어, 개인의 자유와 권리를 중시하는 미국의 이상을 지향하는 디지털 시스템이라면, 무엇보다도 개인 데이터를 어떻게 다루고 보호할 것인지에 우선순위를 둬야 한다. 그러나 지금의 현실에서 소비자들은 자신의 데이터가 어디에 팔리거나 공유되고 있는지 확인하거나 이해할 방법조차 없다. 현재의 비즈니스 모델은 데이터를 상품처럼 취급하고, 가장 높은 값을 제시하는 곳에 넘겨버린다. 이러한 일방적인 가치 구조는 데이터를 생산하는 우리 모두를 배제하며, 기업이 미국 시민의 데이터에 대해 얼마나 큰 권력을 쥐고 있는지를 드러낸다. 단순한 동의 절차, 쿠키 설정, 개인정보 처리방침만으로는 이 문제를 해결할 수 없다. 동의를 거부한 사람은 오늘날 우리의 삶이 의존하고 있는 디지털 세계에서 사실상 배제되며, 그로 인해 부당한 불이익을 감수해야 한다. 이 시스템은 대중을 속이고, 강요하며, 대중으로부터 정보를 착취하는 방식으로 작동하고 있다.
수탈이 아닌 상생을 지향하는 새로운 경제적 사고방식과 비즈니스 모델을 채택함으로써, 데이터의 성격을 재정의하고 그 경제적 가치를 어떻게 산출하고 누구와 나눌지를 공정한 방식으로 새롭게 설정할 기회가 열린다. 데이터는 소유의 대상이 아니라, 공공의 이익을 위해 활용되어야 하며 사회 전체에 더 큰 혜택을 줄 수 있는 공공재로 인식되어야 한다. 직장에서 수집된 데이터를 노동자들이 직접 열람하고 활용할 수 있도록 돕는 비영리단체 워커 인포 익스체인지Worker Info Exchange는 이러한 비전을 이미 실천에 옮기고 있다. 예컨대, 우버와 리프트의 운전사, 배달 노동자, 그리고 기타 긱 이코노미 종사자들은 이 온라인 플랫폼을 통해 각자의 데이터를 모아, 공정한 임금과 더 나은 노동 조건을 집단적으로 요구할 수 있다.
미국의 디지털 기술 시스템을 사회에 더 이롭게 재구성하려면, 데이터의 이점과 해악, 한계를 보다 깊이 있게 탐색할 필요가 있다. 그 출발점으로 해외 사례를 참고해볼 수 있다. 유럽연합은 디지털 서비스법DSA과 디지털 시장법DMA을 통해 사용자 권리를 보호하고, 기업 간 공정한 경쟁을 보장하는 안전한 디지털 환경을 구축하며, 주목할 만한 리더십을 보여주고 있다. 디지털 서비스법은 소셜미디어 플랫폼과 디지털 서비스 제공업체 등 온라인 중개자를 규제하는 데 초점을 맞추고 있으며, 표현의 자유와 정보 접근권을 포함한 사용자의 기본권을 보호하는 동시에, 불법 콘텐츠와 허위정보, 그 밖의 유해한 온라인 활동을 차단하는 것을 목표로 한다. 이 법의 핵심에는 투명성 강화와 사용자 권한 확대가 있으며, 사용자가 불법 콘텐츠를 쉽게 신고할 수 있도록 하는 절차 또한 포함돼 있다. 디지털 시장법은 디지털 시장에서의 공정한 경쟁을 촉진하고, 기업들이 공정하게 시장에 접근할 수 있도록 지원하는 데 목적이 있다. 예컨대, 아마존과 같이 시장 지배력이 큰 플랫폼이 자사 서비스나 제품에 특혜를 주거나, 자사 플랫폼에서 수집한 데이터를 이용해 경쟁 우위를 확보하는 행위를 금지하는 조항이 포함돼 있다.
2. 포용적인 참여를 통해 어떻게 더 강력한 디지털 기술 시스템을 구축할 수 있을까?
"우리는 우리의 생명과 재산, 그리고 신성한 명예를 걸고 서로에게 맹세한다." 미국 독립선언서의 이 마지막 문장은, 이 나라가 모든 사람의 기여에 의존하고 있음을 분명히 밝히고 있다. 보다 민주적인 경제는 노동자, 소비자, 중소기업, 그리고 가족을 포함한 모든 이에게 동등한 발언권과 앞으로 나아갈 수 있는 기회를 보장해야 한다.
오늘날의 다른 많은 시스템과 마찬가지로, 디지털 기술 역시 소수의 목소리에 의해 형성되었으며, 그 중심에는 이성애자 백인 남성이 있다. 기술 업계 임원의 80%는 남성이며, 82%는 백인이다. 반면, 라틴계는 3%, 흑인은 2%에 불과하다. 여성, 유색인종, 성소수자, 청소년, 장애인과 같이 다양한 정체성과 배경을 가진 사람들은 기술을 만드는 주체로서도, 기술을 사용하는 이용자로서도 여전히 지속적으로 과소 대표되고 있다.
디지털 기술 개발 과정에서 다양한 집단이 충분히 대표되지 못하고, 이들의 데이터가 인공지능에 제대로 반영되지 않으면, 기술은 세계의 극히 일부만을 기준으로 최적화되고 기존의 편향은 오히려 심화될 수 있다. 예를 들어, 수사기관이 용의자를 빠르게 식별하기 위해 사용하는 안면 인식 소프트웨어는 여성보다 남성, 어두운 피부색보다 밝은 피부색을 더 정확하게 인식하는 경향이 있다. 디지털 기술이 정의롭고 공정한 사회에 기여하려면, 이를 설계하고, 자금을 조달하고, 창조하고, 운영하고, 개발하는 인력이 그 기술이 지향하는 사회의 다양성과 가치를 제대로 반영해야 한다.
카포 캐피탈Kapor Capital을 비롯한 일부 투자자들은 상업적 목적이 아닌 사회적 이익에 초점을 맞춘 다양한 기술 인력 개발을 지원해 왔다. 재단, 씽크탱크, 대학, 커뮤니티 대학으로 이뤄진 연합체 또한 공익 기술에 많은 투자를 하고 있다. 이 연합체는 더 많은 흑인을 기술 분야에 채용하고, 프레리 뷰 A&M 대학Prairie View A&M University이나 하워드 대학Howard University 같이 역사적으로 중요한 흑인 중심 대학이 연합회의 활동에 참여하도록 연결한다. 시민단체인 블랙&브라운 파운더스Black&Brown Founders는 기술 투자자와 협력해 기술 기업 창업자의 다양성을 높이기 위해 노력하고 있다.
디지털 기술 분야는 다양성을 높이기 위한 고용 관행과 계약상의 의무, 새로운 기준을 자발적으로 도입하고 실천해야 하며, 소비자들의 변화 요구에도 진지하게 귀를 기울여야 한다. 표준 제정 기관, 규제 당국, 정책 입안자, 국제기구 등 시스템 전반의 다양한 주체들이 더 폭넓게 참여할 때에만, 기술의 미래를 결정하는 과정이 모든 이해관계자의 입장과 필요 그리고 목소리를 균형 있게 반영할 수 있다.
3. 윤리와 투명성은 디지털 기술이 사회에 기여하는 역량을 어떻게 높일 수 있을까?
디지털 기술이 사회에 기여하려면, 사회 구성원이 공유하는 가치를 기반으로 한 명확한 윤리 강령과 규범에 따라야 한다. 열린 인터넷을 옹호하는 단체 퍼블릭 놀리지Public Knowledge의 전 회장이자 미 법무부 수석 고문을 지냈던, 진 키멜만은 이에 대해 다음과 같이 말한다. "우리는 새로운 기술을 기존의 규범과 규제 틀에 끼워 맞추기 위해 시장 관행과 정책을 끊임없이 조정해 왔습니다. 크립토나 핀테크 같은 사례가 그렇지요. 하지만 어떤 기술은 그 자체로 윤리적 함의가 너무 크기 때문에, 애초에 그 기술을 사용해도 되는지를 먼저 논의해야 합니다. 그런데 지금 우리는 이 흐름을 멈추고 되돌아볼 수 있는 '핵 동결'이나 '회로 차단기' 같은 장치를 갖고 있지 않습니다."
생체의학, 유전학, 의료를 비롯해 농업과 유전자 변형 식품에 이르기까지, 19세기와 20세기의 주요 과학기술 혁신은 대부분 윤리적 틀 안에서 논의되고 발전해 왔다. 핵에너지는 오랜 시간 도덕적 논쟁의 중심에 있었는데, 최근에는 기후변화의 영향을 되돌릴 수 있는 잠재력이 주목을 받으면서 '도덕적으로 허용 가능한' 수준의 핵에너지 생산에 대한 새로운 논의가 이어지고 있다. 이러한 도덕적 기준에 있어 디지털 기술이 예외가 되어서는 안 된다.
AI의 편향성 그리고 생성형 AI가 예측 불가능한 방식으로 진화할 수 있다는 가능성은 디지털 시스템을 이끌 윤리적 체계의 필요성을 분명히 보여준다. 알고리즘은 오늘날 사회의 여러 영역에서 정보를 제공하고, 의사결정을 지원하며, 나아가 시스템 운영 자체를 좌우할 정도로 경제적, 사회적 영향력이 막대하다. 예를 들어, 판사는 수십 년간의 범죄 기록을 학습한 알고리즘이 산출한 재범 위험 점수를 참고해 보석 여부를 판단하고, 주택담보 대출 기관은 채무 불이행 위험을 예측한 알고리즘을 바탕으로 대출 이자율을 설정할 수 있다. 공공복지 기관도 재정 지원 대상자 선정에 알고리즘을 활용할 수 있다.4 이러한 현실을 감안할 때, 공정하고 평등한 사회를 지향하는 디지털 기술 시스템을 구축하려면 기존의 편향과 기술적 편향, 발생 편향을 포함한 모든 알고리즘 편향을 철저히 제거해야 한다.
윤리적 기준은 디지털 기술 전반에서 새롭게 떠오르는 과제들을 해결하는 데에도 핵심적인 역할을 한다. 예를 들어, 인터넷의 기반이 되는 오픈소스 소프트웨어는 전력망과 병원, 통신 및 교통 시스템, 전화, 자동차, 항공기 등 사회의 핵심 인프라를 운영하는 데 폭넓게 활용되고 있다. 오픈소스 소프트웨어는 공동체를 연결하고, 혁신과 협업을 촉진하며, 시스템 전반에 투명성과 책임성을 내재화할 수 있는 잠재력을 지녔다. 누구나 코드를 자유롭게 활용하고, 수정하거나 상업적으로 재판매할 수 있기 때문에 새로운 기술적 가능성을 여는 데에도 기여하고 있다. 하지만 이러한 개방성이 혁신을 촉진하는 동시에, 보안과 안전 측면에서 새로운 위험성과 취약성을 발생시킬 수 있다. 악의적인 사용자가 코드를 해로운 목적으로 활용하거나, 시스템의 보안과 안정성을 위협하는 코드를 심을 가능성도 배제할 수 없다.
분산형 자율조직Decentralized Autonomous Organizations, DAO는 특정 개인이나 집단의 통제를 받지 않고, 다양한 이해관계자의 이익을 존중하며 공동체 중심으로 운영되는 조직이다. 오늘날 암호화폐와 웹 3.0 혁신의 핵심 기반이 되는 개념이기도 하다. 기술의 확산과 함께 DAO에 대한 관심도 높아지면서, 대중의 신뢰를 얻고 조직의 평판을 안정적으로 관리하기 위한 윤리적 기준 마련이 더욱 중요해지고 있다. 한편, 음성 인식이나 생체인식 기술이 빠르게 발전하는 가운데, 사용자 동의, 데이터 활용 방식, 편향 가능성 등과 관련한 윤리적 쟁점을 해결하는 것도 시급한 과제가 되었다. 이를 방치할 경우 기술의 오용이나 차별로 이어질 수 있기 때문이다. 또한, 데이터 보호에 필수적인 기술인 암호화 역시 균형이 필요하다. 암호화가 수사기관의 정당한 접근까지 원천적으로 차단하지 않도록, 윤리적 가이드라인이 보호와 접근의 균형점을 찾아야 한다.
일부 기술 기업들은 사내에 윤리 담당자나 인간 중심 디자이너를 두고 있다. 이는 분명 고무적인 흐름이며, 이러한 접근을 시도하는 기업들은 주목받아 마땅하다. 그러나 이들이 진정한 역할을 하려면, 제품과 업무에 대해 솔직하게 평가할 수 있는 환경이 뒷받침되어야 하고, 잠재적 위험과 문제를 직면할 수 있는 실질적 권한도 부여되어야 한다. 하지만 여전히 많은 기업들이 기술의 실제 영향을 넓은 시야로 바라보기보다, 제품 중심의 좁은 관점에서 운영되고 있다. 오미디야르 네트워크는 기술 분야 종사자들이 불편하더라도 꼭 필요한 질문을 던지고, 제품이 미칠 사회적 영향에 대해 사전에 숙고하며, 문제가 발견되면 과감히 방향을 전환할 수 있도록 다양한 파트너들과 함께 ' 에티컬 익스플로러 팩Ethical Explorer Pack'을 개발했다. 이 온라인 가이드는 디자이너, 엔지니어, 제품 관리자, 창업자 등 기술 개발자들이 제품에 윤리적 가치를 통합할 수 있도록 지원하는 데 목적이 있다. 내부 관행을 점검하고 변화시키는 데 필요한 도구와 자원 그리고 다른 기업의 실제 사례를 함께 제공한다.
정부는 신뢰성과 윤리적 기준을 충족하는 기업에 조달 기회를 제공함으로써, 더 나은 사회적 결과를 이끌어낼 수 있다. 신뢰 및 안전 전문가 협회Trust & Safety Professional Association, 청렴성 연구소Integrity Institute, 내부고발자 지원단체Whistleblower Aid, 코워커닷오알지Coworker.org, 알고리즘 정의 연맹Algorithmic Justice League 같은 시민단체와 전기전자기술자협회Institute of Electrical and Electronics Engineers 같은 전문 기관들도 새로운 윤리 기준을 수립하는 데 중요한 역할을 하고 있다. 이러한 윤리적 기준은 디지털 기술이 개인과 공동체에 미치는 간접적인 영향까지 폭넓게 반영해야 한다. 예를 들어 자동화와 인공지능이 노동자를 대체하는 문제, 데이터 센터와 암호화폐가 환경에 끼치는 부정적 영향, 개인정보의 공유 및 판매로 인한 프라이버시 침해와 신뢰 저하 등이 그것이다.
소비자 역시 더 강력한 윤리 기준을 정의하고 요구하는 데 중요한 역할을 할 수 있다. 디지털 환경에 익숙한 세대가 변화를 이끌고 있는 지금, 우리는 교육 현장에서 어린 시절부터 윤리적 사고와 규범적 선택의 중요성을 가르쳐야 한다. 디지털 기술이 어떤 사회를 지향해야 하는지 함께 고민하는 교육이 필요하다. 이러한 인식과 감수성이 사회 전반에 확산된다면, 디지털 기술 거버넌스를 근본적으로 바꾸려는 움직임으로 이어질 수 있다.
윤리적 기준을 보편화하려면 투명성 확보가 필수적이다. 패션, 식품 등 다른 산업 분야는 이미 투명성 요구에 대응하기 위한 다양한 모델을 선보이고 있다. 예를 들어, 패스트패션 산업이 환경과 사회에 미치는 영향에 대한 우려가 커지면서, 많은 브랜드들이 공급망과 생산 과정, 원자재 조달 방식 등을 공개하기 시작했다. 식품 산업 역시 원재료의 출처와 공급망 전반의 환경적・사회적 영향을 투명하게 공개하려는 노력을 기울이고 있다. 디지털 기술 분야에서도 소비자들은 자신의 개인정보가 어떻게 수집되고, 사용되며, 저장되고, 공유되는지에 대한 정보를 요구함으로써 기업을 견제할 수 있다. 이를 보여주는 사례가 바로 컨슈머 리포트가 개발한 앱 퍼미션 슬립Permission Slip이다. 이 앱은 기업의 데이터 수집 및 활용 방식에 대한 정보를 제공하고, 사용자가 해당 기업에 개인정보 삭제나 판매 중단을 요청할 수 있도록 지원한다. 소비자는 이 앱을 통해 기업의 데이터 수집을 이해하고 직접 통제할 수 있다.
생성형 AI에 대한 논의는 이제 이 기술이 초래할 수 있는 사회적 피해를 줄이기 위해, 투명성과 외부 감사를 어떻게 구현할 것인가에 초점이 맞춰지고 있다. 그러나 대형 언어 모델LLM 개발 기업들은 자신들의 모델이 어떻게 판단을 내리는지 설명하거나 공개하기 어렵다며 이를 거부하고 있다. 하지만 이러한 주장은 설득력이 떨어진다. 민간 기업이 정부와 데이터를 공유할 수 있는 기술적 수단은 이미 존재하기 때문이다. 예를 들어, 미국 증권거래위원회SEC는 EDGAR라는 포털을 통해 기업의 등록 서류, 정기 보고서 등을 누구나 자유롭게 열람하고 다운로드할 수 있도록 하고 있다. 또한 오픈마인드OpenMined와 같은 비영리단체들은 완전한 투명성을 구현할 수 있는 기술 인프라 구축에 나서고 있다. 하지만 이러한 기준과 시스템이 사회 전반의 규범으로 자리 잡기 위해서는 무엇보다 시민사회의 강력한 요구와 감시가 필요하다.
투명성은 알고리즘, 데이터, 프라이버시 같은 기술 사안뿐 아니라, 인권, 제조, 조달, 고용, 다양성, 형평성, 포용성 등 기업 운영과 노동 관행 전반에 걸쳐 필수적인 요소이다. 투명성을 높이려면 오픈소스 코드의 활용을 확대하고, 시스템 간 상호운용성을 강화하며, 지식 공유를 자연스럽게 유도하는 새로운 기술 프로토콜이 마련되어야 한다. 예를 들어, 개인의 데이터가 어디에서 판매되거나 공유되고 있는지를 직접 확인할 수 있는 시스템이 하나의 모델이 될 수 있다. 또한, 개인 식별 정보를 제거한 데이터를 학계, 언론, 시민사회, 공공기관 등 신뢰할 수 있는 연구자들에게 공개함으로써, 현재의 기술 흐름에 대한 이해를 높이고, 미래 대응을 위한 통찰을 제공할 수 있다. 뿐만 아니라 공익을 보호하고, 책임 주체에게 책임을 묻는 기반을 마련할 수도 있다.
2022년, 오미디야르 네트워크의 지원을 받은 진보 성향의 공공정책 싱크탱크 데모스Demos는 지속가능한 오픈소스 시스템 구축에 관한 핵심 보고서 <더 오픈 로드The Open Road>를 발표했다. 이 보고서는 '개방성이 높을수록 혁신도 활발해진다'는 결론을 내렸다. 투명성이 확보되면 기술에 대한 검토가 보다 면밀해지고, 그 결과 보안 취약점이 발견될 가능성도 높아진다는 것이다.5 특히 개방성은 개인정보 보호와 보안 등 다양한 보호 장치를 설계 단계부터 내재화한 '좋은 기술'을 개발하는 데 유리하다는 점을 강조했다. 또한 코드와 설계상의 한계를 드러내며, 이를 바탕으로 더 견고하고 신뢰할 수 있는 애플리케이션과 솔루션을 개발할 수 있도록 한다. 이러한 특성 덕분에 개방성은 혁신을 촉진할 뿐 아니라, 사용자에게 견제와 균형의 장치를 제공함으로써 보다 공정하고 형평성 있는 디지털 기술 시스템을 구축하는 데 기여할 수 있다.
4. 정책은 디지털 기술 시스템을 새롭게 설계하는 데 어떤 역할을 할 수 있을까?
정책 입안자는 민주주의를 수호하고 시민의 삶의 질을 보장하기 위해 선출된 사람들이다. 이들은 디지털 기술 시스템을 보다 책임 있는 방향으로 전환하는 과정에서도 핵심적인 역할을 할 수 있다. 그러나 많은 정책 결정자들이 기술 기업의 로비에 경제적으로 얽혀 있거나, 그 영향력에 지나치게 휘둘리고 있는 것이 현실이다. 애플, 아마존, 마이크로소프트, 알파벳, 메타 등 미국의 5대 빅테크 기업은 매년 약 6,900만 달러에 달하는 자금을 미국 내 로비 활동에 쏟아붓고 있다.
실질적인 경쟁 정책의 부재는 위험할 정도로 기업 권력을 집중시켰다. 2022년 8월 기준, 미국의 빅테크 5개 기업의 시가총액은 8조 5천억 달러로, 독일이나 일본의 국내총생산을 넘어섰다. 이처럼 통제되지 않은 권력의 집중은 혁신을 가로막을 뿐 아니라, 디지털 기술이 사회적 요구에 부응하도록 책임을 묻거나, 기업이 공동체의 가치를 지지하도록 유도하려는 정책적 노력에 큰 장벽이 되고 있다.6
혁신과 규제를 서로 반대되는 개념으로 보는 시각은 바람직하지 않다. 민주주의적 가치를 지향하는 디지털 기술 시스템에는 혁신과 규제, 두 요소가 모두 필요하다. 규제가 반드시 성장이나 혁신을 가로막는 것도 아니다. 예컨대, 은행업은 가장 규제가 강한 분야 중 하나지만, 핀테크 산업은 그 규제를 지키면서도 가장 빠르게 성장했으며, 벤처캐피털 투자가 활발한 분야로 떠올랐다. 생명과학 분야 역시 강한 규제를 받지만, 코로나19 팬데믹 당시 mRNA 기반의 새로운 백신이 9개월도 안 돼 개발되어 보급되기도 했다. 디지털 기술 기업 역시 올바른 인센티브와 규제가 함께한다면, 비즈니스 모델과 제품의 경쟁력을 높이는 방향에서 공익을 증진하는 방향으로 혁신을 실현할 수 있다.
연방 정부 기관과 의회, 백악관이 모두 최적의 규제 방안을 마련하기 위해 분주히 움직이고 있지만, 이를 총괄할 기관을 어디에 두고, 어떤 구조로 설계할지는 여전히 불투명하다. AI 관련 사안들이 워낙 복잡하고 얽혀 있다보니, 이에 대한 지속적인 검토는 연방거래위원회FTC와 같은 기존 기관들의 권한을 강화하거나 역할을 명확히 하는 방향으로 전개될 수 있다. 하지만 동시에 새로운 권한과 역량을 가진 기관이 새롭게 설립될 가능성도 열려 있다. 2023년 7월, 유엔이 주최한 AI 포 굿 서밋AI for Good Summit에서는 인공지능이 사회에 미치는 영향을 연구해온 개리 마커스, 카렌 바커, 안카 로엘이 AI 거버넌스를 위한 새로운 이니셔티브로 신뢰할 수 있는 AI 발전 센터Center for the Advancement of Trustworthy AI, CATAI를 소개했다. 오미디야르 네트워크의 재정 지원을 받는 이 프로젝트는 보다 신뢰할 수 있는 AI 기술을 위한 기초 및 응용 연구를 수행함으로써 새로운 글로벌 AI 거버넌스 모델을 설계하고 발전시키는 것을 목표로 하고 있다.
디지털 기술에 대한 규제 방향을 정할 때, 정책 입안자들은 해당 기술이 시스템 전반에 미치는 영향력, 규모, 성숙도 그리고 현실에서 발생할 수 있는 잠재적 피해를 종합적으로 평가할 수 있어야 한다. 경우에 따라 기존의 규제 체계를 보완하거나 다시 설계해야 하며, 소비자 가격이 명확히 존재하지 않는 비즈니스 모델을 다루기 위해 새로운 이론이나 정책 프레임워크가 필요할 수도 있다. 예를 들어, 페이스북이나 구글 검색처럼 사용자에게 '무료'로 제공되는 서비스 역시 소비자 피해나 시장 집중을 유발할 수 있기 때문에 이들 기업에도 책임을 물을 수 있는 규제 장치가 마련되어야 한다.
물론 정책 입안자들도 이미 중요한 조치들을 취하고 있다. 최근 몇 달간 연방 정부는 디지털 기술을 규제하기 위한 노력을 강화해 왔는데, 그 중 대부분의 목적은 보다 건강하고 활기찬 사회를 만드는 것이었다. 하원과 상원에서는 아동 및 청소년의 디지털 환경을 보다 안전하게 만들기 위한 다양한 법안들이 발의되었다. 그 안에는 사이버 괴롭힘이나 표적 광고처럼 소셜미디어 플랫폼 관련 위험을 줄이기 위한 내용이 포함되었다. 2022년에는 하원 에너지상업위원회를 통과한 한 법안이 소비자 개인정보 보호 강화를 목적으로 데이터 수집 관행에 더 강력한 규제를 도입하려 했으나, 상원이 회기 종료 전 이를 처리하지 못하면서 최종 입법으로 이어지지 못했다. 하지만 이 법안은 초당적 지지를 얻으며 의미 있는 진전을 보였다. 2023년 5월, 바이든 행정부는 '책임 있는 미국 내 AI 혁신을 촉진하고 국민의 권리와 안전을 보호하기 위한 조치'를 발표했다. 이 조치에는 윤리적이고 신뢰할 수 있으며, 책임감 있고 공익에 부합하는 AI 발전을 위해 고등교육기관, 연방기관, 산업계 등 다양한 주체가 협력할 수 있도록 장려하며, 이를 위해 1억 4천만 달러를 투입해 7곳의 새로운 국립 AI 연구소를 설립하는 내용이 포함되었다.
미국의 각 주 정부도 뒤늦게 디지털 기술에 대한 규제 강화에 나서고 있다. 캘리포니아주는 2022년, 아동 보호를 위해 캘리포니아 연령 적정 설계 규약법California Age-Appropriate Design Code Act을 제정했다. 이 법은 온라인 플랫폼이 아동 사용자의 최선의 이익이 우선적으로 고려되고, 아동의 정신적, 신체적 건강과 안전을 보호하는 방향으로 개인정보 보호 및 안전 설정이 기본값이 되도록 의무화하고 있다. 다른 많은 주들도 이에 발맞춰 유사한 법안을 추진 중이다. 현재 온라인에 접속하는 아동이 6억 명을 넘는 상황에서, 기술 기업은 아동의 안전과 프라이버시를 고려한 제품 설계를 책임 있게 수행해야 하며, 정책 입안자들 또한 각급 정부 차원에서 이에 대한 책임성을 담보할 수 있는 정책을 마련해야 한다.
이 외에도 약 20개 주 의회가 포괄적인 소비자 개인정보 보호 법안을 발의했다. 대부분의 법안은 소비자가 온라인상에서 자신의 정보를 열람, 삭제, 수정할 수 있도록 권한을 부여하며, 판매 홍보나 표적 광고를 거부하거나, 민감 정보 처리에 대해 사전 동의를 요구할 수 있도록 하고 있다.
기술은 끊임없이 변화하고 발전하기 때문에, 규칙과 규제는 변화를 뒤쫓기보다 미래를 내다보며 미리 준비되어야 한다.
5. 건강한 디지털 기술 시스템을 유도하는 금융 모델은 무엇일까?
역사적으로 주요 기술 혁명에는 언제나 이를 뒷받침하는 금융 혁명이 있었다. 디지털 기술도 예외는 아니다. 벤처캐피털VC은 새로운 유형의 투자자, 자본 운영 방식 그리고 혁신을 중심에 둔 인센티브 구조를 통해 디지털 기술 산업의 혁신 문화와 투자 생태계를 이끌어왔다. 2022년 한 해 동안 벤처캐피털은 생성형 AI 분야에 총 13억 7,000만 달러를 78건에 걸쳐 투자했다. 이는 앞선 5년간의 전체 투자액에 맞먹는 규모이다.7
하지만 벤처캐피털 중심의 금융 혁신에는 그림자도 존재한다. 현재의 자금 조달 모델과 투자 문화는 즉각적인 수익을 기대하는 주주들의 요구를 충족시키기 위해 무조건적인 성장을 최우선 가치로 삼는다. 전직 벤처캐피털리스트인 에반 암스트롱은 다음과 같이 지적한다. "스타트업 생태계는 지금 전환점에 도달했습니다. 대형 벤처캐피털 펀드 입장에서는 스타트업이 10억 달러 규모로 성장하는 것조차 이제는 의미가 없습니다. 펀드 수익률을 3~5배로 끌어올리려면, 최소 500억 달러 이상의 기업가치로 상장할 수 있는 기업과 손을 잡아야 하기 때문입니다." 하지만 현재 전 세계 상장 기술 기업 중 기업가치가 500억 달러를 넘는 곳은 48개에 불과하다.8 결국 창업자들은 시장에서 지배적 위치를 확보하기 위해 점점 더 큰 위험을 감수할 수밖에 없는 구조로 내몰리고 있다.
주주 이익 우선주의는 벤처캐피털이 기술이 초래할 수 있는 사회적 영향을 고려할 유인을 원천적으로 차단했다. 특히 현재의 VC 모델은 투자 수익을 실현하기 위해 사용자 수 확보에 최우선 가치를 두는 성장 중심 전략을 따른다. 투자자들은 운영 수익과 이익으로 성장 자금을 조달하는 경쟁 기업을 약화시키기 위해, 때로는 손실을 감수하면서까지 압박을 가하기도 한다. 이러한 투자자 중심의 구조는 VC의 지원을 받는 스타트업이 사용자, 지역사회, 노동자, 시장, 더 넓은 사회가 아닌, 오직 투자자에게만 책임을 지도록 만드는 왜곡된 책임 구조를 고착화하고 있다. 9 이제는 단기 수익 실현의 압박에서 벗어나, 재무적 성과 이상의 가치를 함께 고려할 수 있는 새로운 민간 금융 모델이 필요하다. 이미 노동자 연금기금, 대학 기금, 국부펀드 등 공익을 대표하는 기관들이 벤처캐피털의 주요 출자자Limited Partners로 참여하고 있다. 이들은 막강한 영향력을 바탕으로 벤처캐피털이 보다 책임 있는 투자 전략으로 전환하도록 유도할 수 있고, 또 그렇게 해야 한다.
자금 조달 방식에서도 수익 모델, 소유 구조, 수익 배분 방식 등에 대한 새로운 실험이 일부 나타나고 있지만, 여전히 예외적인 사례에 불과하며 주류로 자리 잡지는 못하고 있다. 벤처캐피털리스트 브라이스 로버츠가 설립한 인디.vcIndie.vc는 이러한 변화 가능성을 보여준 대표적인 시도였다. 이 프로그램은 이베이 창업자이자 오미디야르 네트워크 공동 설립자인 피에르 오미디야르가 초기 후원자로 참여했다. 인디.vc는 창업 초기 단계에 대규모 시드 자금을 투자하는 기존 방식 대신 이미 사업을 시작한 유망 스타트업에 소규모 투자를 진행했다. 특히 기존 VC 시장에서 소외되기 쉬운 지역이나 인구 집단의 창업자를 적극적으로 지원했으며, 초기 지분을 요구하지 않는 구조를 택했다. 그 목적은 창업자가 투자자 수익에 매이지 않고, 스스로의 방식으로 사업을 성장시키는 데 집중할 수 있도록 하는 것이었다. 그러나 인디.vc는 결국 확장을 위한 기관 투자자들의 지지를 충분히 얻지 못했고, 운영을 종료하게 되었다. 로버츠는 미디엄에 올린 발표문에서 '우리는 인디 경제Indie Economy에 기반한 투자와 아이디어를 보다 공격적으로 확장하려 했지만, 기관 투자자 시장에서 같은 열정을 가진 파트너를 찾지 못했다'고 밝혔다. 그러면서도 그는 '4~5년 뒤, 인디.vc의 포트폴리오 기업들은 이전 펀드에서 기관 투자자들에게 5배 이상의 수익을 안겨줬던 기업들과 비슷한 성과를 낼 것이라 확신한다'며 여전히 낙관적인 전망을 덧붙였다.
권리 보호, 정의 실현, 공익을 위한 기술 개발에 헌신하는 기술인들을 지원하려면, 단기 수익에 흔들리지 않는 인내형 자금 조달 구조가 필요하다. 이러한 구조는 더 건강한 디지털 기술 시스템을 구축하는 데 중요한 기반이 될 것이다.
더 나은 세상은 가능하다
디지털 기술은 이제 생성형 AI에까지 이르렀고, 그 발전 속도와 영향력은 기술 역사상 전례 없는 수준에 도달했다. 기술은 빠르게 확산되어 사회 전반에 깊이 스며들었고, 기본적인 사회 기능들조차 그 기술에 의존하고 있다. 스스로 학습하는 능력까지 갖춘 이 기술은 그 작동 원리와 복잡성이 일반 대중의 이해 수준을 넘어선 지 오래다. 이러한 특성은 존재론적 위협에 대한 불안과 맞물려, 디지털 기술의 흐름은 더 이상 되돌릴 수도 방향을 바꿀 수도 없는, '피할 수 없는 운명'과도 같이 받아들이는 분위기가 형성되고 있다.
우리는 그런 체념적 인식에 맞서야 한다. 미국 사회는 디지털 기술이 민주주의에 기여하도록 방향을 설정하고 조율하며, 자율적인 거버넌스를 구축할 충분한 역량을 갖추고 있다. 이를 실현하려면 기술 발전의 속도와 규모만을 성공의 기준으로 삼는 관행에서 벗어나, 디지털 기술이 사회의 긍정적 비전을 실현하는 데 어떻게 기여할 수 있을지를 먼저 고민해야 한다.
참고
1. Elena Bozzola et al., "The Use of Social Media in Children and Adolescents: Scoping Review on the Potential Risks," International Journal of Environmental Research and Public Health, vol. 19, no. 16, 2022.
2. Kaveh Waddell, "Why Your Education and Job Could Mean You're Paying Too Much for Car Insurance," Consumer Reports, January 28, 2021.
3. Center for AI Safety, "Statement on AI Risk."
4. Frederic Gerdon et al., "Social Impacts of Algorithmic Decision-Making: A Research Agenda for the Social Sciences," Big Data & Society, January-June, 2022.
5. Alex Krasodomski-Jones et al., "The Open Road: How to Build a Sustainable Open Infrastructure System," Demos, January 2022.
6. Nandita Bose, "Scathing Congressional Report Suggests Big Trouble for Big Tech If Biden Wins," Reuters, October 7, 2020.
7. Marina Temkin, "VCs Try to Parse through the 'Noise' of Generative AI," Pitchbook, December 23, 2022.
8. Evan Armstrong, "Venture Capital Is Ripe for Disruption," Every, October 27, 2022.
9. Anil Dash, "12 Things Everyone Should Understand About Tech," Medium, March 14, 2018.
> 원문 기사 보기
MIKE KUBZANSKY
마이크 쿠브잔스키는 오미디야르 네트워크의 CEO다.
댓글
사회혁신 일반 · 기술
첨단 기술 사회를
재구상하다
2025-2
MIKE KUBZANSKY
Summary. 디지털 기술이 사회 전반에 점점 더 깊이 영향을 미치는 지금, 그 발전은 반드시 사회를 위한 방향으로 나아가야 한다. 그러기 위해서는 먼저 우리가 지향하는 사회의 모습을 명확히 하고, 이를 실현하기 위해 디지털 기술의 잠재력을 어떻게 활용할지 구체적인 방안을 모색해야 한다.
지난 수십 년간 미국 사회는 디지털 기술이 공동체가 지향하는 가치나 미래상에 대한 충분한 고려 없이 무분별하게 확산되는 것을 방관해 왔다. 인권을 수호해 온 오랜 전통에도 불구하고, 미국 사회는 디지털 기술이 경제, 민주주의, 사법 체계, 사회 구조에 미치는 영향이 불가피하다는 인식을 바탕으로, 특유의 안일함 속에 그 흐름을 수용해 왔다.
그러나 이런 방관의 흐름에 균열을 내는 움직임도 나타나고 있다. 2023년 초, 시애틀 공립학교는 미국 교육구 가운데 처음으로 페이스북, 인스타그램, 스냅챗, 틱톡, 유튜브 등 주요 소셜미디어 기업을 상대로 소송을 제기했다. 이들 기업이 청소년 정신건강 위기의 주요 원인으로 작용했으며, 그 책임을 져야 한다는 것이었다. 이 소송을 시작으로 미국 전역의 교육구가 연이어 같은 조치를 취하고 있다. 2023년 3월에는 실리콘밸리 23개 학군이 포함된 캘리포니아 샌마테오 카운티 교육위원회와 교육감이 소셜미디어 기업을 상대로 집단 소송을 제기했다. 이들 기업이 AI와 머신러닝 기술을 활용해 청소년에게 해롭고 중독적인 플랫폼을 설계했다는 이유에서였다. 교육계의 이러한 우려는 이미 다수의 연구 결과로 뒷받침되고 있다.1
보험사, 대출기관, 고용주, 병원, 임대인 등은 점점 더 생성형 AI에 의존하고 있다. 예측 알고리즘과 프롬프트를 기반으로 새로운 콘텐츠와 아이디어를 만들어내는 생성형 AIGen AI는 이제 대출 및 임대 신청부터 의료 서비스 제공에 이르기까지 다양한 결정을 평가하고 있다. 그러나 이처럼 높은 AI 의존도는 형평성과 공정성 측면에서 심각한 우려를 낳고 있다. 2021 컨슈머 리포트의 한 연구에 따르면, 일부 자동차 보험사는 컴퓨터가 내린 결정에 따라 교육 수준과 소득이 낮은 개인에게 더 높은 보험료를 책정한 것으로 드러났다.2
2022년, 미국 상원의원 론 와이든(오리건, 민주당), 코리 부커(뉴저지, 민주당), 하원의원 이벳 클라크(뉴욕, 민주당)는 '알고리즘 책임법Algorithmic Accountability Act of 2022'을 공동 발의했다. 이 법안은 기업이 자사가 사용하는 자동화 시스템의 영향을 사전에 평가하고, 해당 시스템을 언제, 어떻게 활용하는지 투명하게 공개하도록 요구하는 내용을 담고 있다. 그러나 법안은 현재 위원회에 계류 중이며, 2019년에 발의된 유사 법안 역시 입법에 실패한 바 있다. 올해에는 척 슈머(뉴욕, 민주당) 상원 원내대표를 중심으로, 인공지능에 대한 새로운 규제 체계를 마련하기 위한 입법 프레임워크 논의가 본격화되고 있다.
연방 정부의 지침이 마련되기를 기다리는 사이, 여러 주 정부는 알고리즘 책임성 강화를 위한 조치를 검토하고 있다. 예를 들어, 콜로라도와 코네티컷주의 보험 규제 당국은 보험 가입 여부와 보험료 책정에 AI를 활용하는 보험사에 대한 규제를 추진 중이다. 현재 계류 중인 규제안은 AI 기술에 대한 보다 철저한 테스트와 지속적인 모니터링을 요구하며, 고객과의 소통에서도 더 높은 수준의 투명성을 확보하도록 요구하고 있다.
AI가 정치, 사회, 경제 전반의 담론을 지배하게 되면서, 그로 인한 잠재적 피해에 대한 우려가 커지는 것은 당연한 일이다. 특히 생성형 AI가 디지털 기술 논의의 최전선에 등장하면서, 사람들은 실존적 위협에 대한 주장부터 인종 편향이나 허위정보와 같은 현실적인 문제까지 다양한 우려에 직면하고 있다. 정책 입안자들과 사회 지도자들 역시 소셜미디어가 처음 등장했을 때 거버넌스 체계를 마련하지 못한 것을 분명히 후회하고 있으며, 생성형 AI의 빠른 확산을 목도하는 지금, 그 어느 때보다 규제의 필요성을 절실히 느끼고 있을 것이다.
실제로 AI 도구를 개발하는 기술업계의 리더들조차 안전장치 마련을 촉구하고 있다. 2023년 5월, AI 분야에서 활동하는 350명 이상의 임원과 연구자, 엔지니어는 'AI로 인한 종말의 위험을 전염병이나 핵전쟁과 같은 사회적 위협과 함께 전 세계적 우선과제로 삼아야 한다'는 성명서에 서명을 했다.3
기술과 기술자에게 모든 결정권을 맡기는 것이 얼마나 위험한 일인지에 대한 사회적 경각심이 높아지면서, 이제는 기술이 사회를 이끄는 것이 아니라 사회가 기술을 이끌어야 한다는 논의가 절실히 요구되고 있다. 오미디야르 네트워크Omidyar Network는 디지털 기술의 힘과 가능성을 오래전부터 지지해 왔으며, 사람들의 삶을 개선하기 위한 기술 스타트업에 7억 5천만 달러 이상을 투자해 왔다. 우리가 이 과정을 통해 배운 가장 중요한 교훈은, 기술이 소수가 아닌 다수를 위한 것이 되려면, 그 기술이 개인, 기업, 정부 누구에 의해 사용되든 혁신과 사회적 책임 사이에서 균형을 이뤄야 한다는 점이다.
기술의 힘을 사회 전체의 이익을 위해 활용하려면, 우리가 바라는 사회의 모습에 대한 공동의 비전이 필요하다. 미국 사회의 양극화가 심화되고 있음에도 불구하고, 대부분의 미국인은 대의제 민주주의의 원칙에 동의하며, 독립선언서에 명시된 세 가지 기본권, 즉 생명, 자유, 행복 추구를 지지한다는 점에서 공통된 기반을 가지고 있다. 언론, 종교, 집회의 자유와 사생활에 대한 권리를 포함한 자유와 개인의 권리는 미국 사회가 반드시 보장해야 할 핵심 가치로 여겨지고 있으며, 모든 시민의 평등, 공정한 법률 체계, 견실한 경제에 대한 기대 역시 널리 공유되고 있다. 아울러 모든 아이가 삶의 출발선에서 충분한 지원을 받아야 하며, 의료, 식량, 주택 등 기본적인 삶의 필수 요소에 접근할 수 있어야 하고, 지구 환경을 보호해야 한다는 데에도 폭넓은 사회적 합의가 존재한다.
이러한 가치를 기반으로 디지털 기술 시스템을 의도적으로 설계해 나간다면, 사회의 이익을 증진하는 동시에 더 나은 미래를 위한 디지털 기술 환경을 만들 수 있을 것이다.
이러한 공동의 행동이 이루어지려면, 미국 사회가 어떤 미래를 지향하는지, 그리고 디지털 기술이 그 비전 안에서 어떤 역할을 해야 하는지를 둘러싼 폭넓은 논의가 필요하다. 이 대화를 시작하기 위해, 나는 자선가, 기술자, 기업가, 정책 입안자, 학자, 활동가, 시민사회 리더, 학생, 소비자, 투자자를 비롯해 미국의 미래에 이해관계를 가진 모든 이들이 지금 반드시 던져야 할 다섯 가지 질문을 제시하고자 한다.
1. 더 나은 사회를 위한 디지털 기술 시스템을 만들기 위해, 우리는 어떤 전제와 사고방식, 아이디어를 바꿔야 할까?
무엇보다 중요한 것은 아이디어다. 아이디어는 가치에 뿌리를 두고 있으며, 지속적인 영향력을 발휘한다. 또한 아이디어는 무엇이 가능한지, 어떤 정책이 살아남고 어떤 정책이 폐지되어야 하는지에 대한 대화를 촉발한다.
오늘날 경제를 이끌고 있는 핵심 아이디어들과 디지털 기술 시스템의 대부분은 1970년대 후반, 소수의 학자, 정치인, 기업 리더, 부유층 그리고 기타 엘리트들이 사회 전반에 퍼뜨린 새로운 사상에서 출발했다. 이들은 정부의 통제로부터 벗어난 개인의 자유와 자유시장을 최우선 가치로 내세웠다. 그 결과, 경제 효율성, 작은 정부, 낮은 세금, 주주 이익, 개인 책임이 지배적인 원칙으로 자리 잡았고, 경제가 추구할 수 있는 다른 목적들은 밀려나게 되었다. 디지털 기술이 본격적으로 성장하기 시작한 시점은 바로 이 자유시장 철학이 정점을 찍은 시기였고, 그 영향으로 정책 입안자들은 디지털 기술에 대해 사실상 방임적laissez-faire 태도를 취했다. 그러나 이러한 방임은 결국 소비자, 지역사회, 더 나아가 사회 전체에 손해를 끼쳤다.
예를 들어, CEO와 이사회가 주주의 이익을 무엇보다 우선시해야 한다는 '주주 이익 우선주의shareholder primacy'는 기술 기업의 소유주와 투자자에게는 막대한 이익을 안겨주었지만, 그 대가로 노동자와 민주주의, 사회적 연대, 환경을 희생시켜왔다. 현재의 경제 패러다임은 이익은 사유화하고 피해는 사회화하는 구조를 조장하고, 기업이 져야 할 실질적인 책임을 회피하도록 유인한다. 사모펀드와 벤처캐피털은 최대 수익을 목표로 기업에 투자하며, 이를 위해 일자리, 연금, 급여를 삭감하는 것도 마다하지 않는다. 기업이 성공하면 투자사와 투자자들이 대부분의 수익을 가져가지만, 반대로 실패할 경우 그 손실은 사회로 떠넘겨진다. 그 결과, 한때 건실했던 기업이나 유망했던 스타트업이 파산하거나 구조적으로 무너기도 한다.
지금의 현실을 불가피한 것으로 받아들이기보다 디지털 기술 분야를 포함하면서 개인, 공동체 그리고 사회 전체의 안녕을 중심에 두는 새로운 경제 패러다임을 모색할 기회로 삼아야 한다. 국가의 디지털 기술 시스템을 사회에 기여하는 방향으로 재구상하려면, 구시대적이고 이미 신뢰를 잃은 기존의 아이디어를 걷어내고, 오늘날의 현실을 반영한 새로운 패러다임으로 대체하는 일부터 시작해야 한다. 오미디야르 네트워크는 2020년 보고서 <미국 자본주의를 다시 상상하라Our Call to Reimagine Capitalism in America>에서 개인, 공동체, 사회의 안녕을 중심에 두고, 모두가 실질적으로 참여할 수 있는 새로운 경제 체계를 만들기 위해 해결해야 할 다섯 가지 핵심 경제 영역을 제시했다.
더 공정하고 포용적이며 회복력 있는 사회를 만들기 위해 디지털 기술 시스템을 재설계하려면, 기술 기업이 단순히 이윤을 창출하고 극대화하는 데 그치지 않고 더 넓은 책임을 다하도록 요구해야 한다. 예를 들어, 개인의 자유와 권리를 중시하는 미국의 이상을 지향하는 디지털 시스템이라면, 무엇보다도 개인 데이터를 어떻게 다루고 보호할 것인지에 우선순위를 둬야 한다. 그러나 지금의 현실에서 소비자들은 자신의 데이터가 어디에 팔리거나 공유되고 있는지 확인하거나 이해할 방법조차 없다. 현재의 비즈니스 모델은 데이터를 상품처럼 취급하고, 가장 높은 값을 제시하는 곳에 넘겨버린다. 이러한 일방적인 가치 구조는 데이터를 생산하는 우리 모두를 배제하며, 기업이 미국 시민의 데이터에 대해 얼마나 큰 권력을 쥐고 있는지를 드러낸다. 단순한 동의 절차, 쿠키 설정, 개인정보 처리방침만으로는 이 문제를 해결할 수 없다. 동의를 거부한 사람은 오늘날 우리의 삶이 의존하고 있는 디지털 세계에서 사실상 배제되며, 그로 인해 부당한 불이익을 감수해야 한다. 이 시스템은 대중을 속이고, 강요하며, 대중으로부터 정보를 착취하는 방식으로 작동하고 있다.
수탈이 아닌 상생을 지향하는 새로운 경제적 사고방식과 비즈니스 모델을 채택함으로써, 데이터의 성격을 재정의하고 그 경제적 가치를 어떻게 산출하고 누구와 나눌지를 공정한 방식으로 새롭게 설정할 기회가 열린다. 데이터는 소유의 대상이 아니라, 공공의 이익을 위해 활용되어야 하며 사회 전체에 더 큰 혜택을 줄 수 있는 공공재로 인식되어야 한다. 직장에서 수집된 데이터를 노동자들이 직접 열람하고 활용할 수 있도록 돕는 비영리단체 워커 인포 익스체인지Worker Info Exchange는 이러한 비전을 이미 실천에 옮기고 있다. 예컨대, 우버와 리프트의 운전사, 배달 노동자, 그리고 기타 긱 이코노미 종사자들은 이 온라인 플랫폼을 통해 각자의 데이터를 모아, 공정한 임금과 더 나은 노동 조건을 집단적으로 요구할 수 있다.
미국의 디지털 기술 시스템을 사회에 더 이롭게 재구성하려면, 데이터의 이점과 해악, 한계를 보다 깊이 있게 탐색할 필요가 있다. 그 출발점으로 해외 사례를 참고해볼 수 있다. 유럽연합은 디지털 서비스법DSA과 디지털 시장법DMA을 통해 사용자 권리를 보호하고, 기업 간 공정한 경쟁을 보장하는 안전한 디지털 환경을 구축하며, 주목할 만한 리더십을 보여주고 있다. 디지털 서비스법은 소셜미디어 플랫폼과 디지털 서비스 제공업체 등 온라인 중개자를 규제하는 데 초점을 맞추고 있으며, 표현의 자유와 정보 접근권을 포함한 사용자의 기본권을 보호하는 동시에, 불법 콘텐츠와 허위정보, 그 밖의 유해한 온라인 활동을 차단하는 것을 목표로 한다. 이 법의 핵심에는 투명성 강화와 사용자 권한 확대가 있으며, 사용자가 불법 콘텐츠를 쉽게 신고할 수 있도록 하는 절차 또한 포함돼 있다. 디지털 시장법은 디지털 시장에서의 공정한 경쟁을 촉진하고, 기업들이 공정하게 시장에 접근할 수 있도록 지원하는 데 목적이 있다. 예컨대, 아마존과 같이 시장 지배력이 큰 플랫폼이 자사 서비스나 제품에 특혜를 주거나, 자사 플랫폼에서 수집한 데이터를 이용해 경쟁 우위를 확보하는 행위를 금지하는 조항이 포함돼 있다.
2. 포용적인 참여를 통해 어떻게 더 강력한 디지털 기술 시스템을 구축할 수 있을까?
"우리는 우리의 생명과 재산, 그리고 신성한 명예를 걸고 서로에게 맹세한다." 미국 독립선언서의 이 마지막 문장은, 이 나라가 모든 사람의 기여에 의존하고 있음을 분명히 밝히고 있다. 보다 민주적인 경제는 노동자, 소비자, 중소기업, 그리고 가족을 포함한 모든 이에게 동등한 발언권과 앞으로 나아갈 수 있는 기회를 보장해야 한다.
오늘날의 다른 많은 시스템과 마찬가지로, 디지털 기술 역시 소수의 목소리에 의해 형성되었으며, 그 중심에는 이성애자 백인 남성이 있다. 기술 업계 임원의 80%는 남성이며, 82%는 백인이다. 반면, 라틴계는 3%, 흑인은 2%에 불과하다. 여성, 유색인종, 성소수자, 청소년, 장애인과 같이 다양한 정체성과 배경을 가진 사람들은 기술을 만드는 주체로서도, 기술을 사용하는 이용자로서도 여전히 지속적으로 과소 대표되고 있다.
디지털 기술 개발 과정에서 다양한 집단이 충분히 대표되지 못하고, 이들의 데이터가 인공지능에 제대로 반영되지 않으면, 기술은 세계의 극히 일부만을 기준으로 최적화되고 기존의 편향은 오히려 심화될 수 있다. 예를 들어, 수사기관이 용의자를 빠르게 식별하기 위해 사용하는 안면 인식 소프트웨어는 여성보다 남성, 어두운 피부색보다 밝은 피부색을 더 정확하게 인식하는 경향이 있다. 디지털 기술이 정의롭고 공정한 사회에 기여하려면, 이를 설계하고, 자금을 조달하고, 창조하고, 운영하고, 개발하는 인력이 그 기술이 지향하는 사회의 다양성과 가치를 제대로 반영해야 한다.
카포 캐피탈Kapor Capital을 비롯한 일부 투자자들은 상업적 목적이 아닌 사회적 이익에 초점을 맞춘 다양한 기술 인력 개발을 지원해 왔다. 재단, 씽크탱크, 대학, 커뮤니티 대학으로 이뤄진 연합체 또한 공익 기술에 많은 투자를 하고 있다. 이 연합체는 더 많은 흑인을 기술 분야에 채용하고, 프레리 뷰 A&M 대학Prairie View A&M University이나 하워드 대학Howard University 같이 역사적으로 중요한 흑인 중심 대학이 연합회의 활동에 참여하도록 연결한다. 시민단체인 블랙&브라운 파운더스Black&Brown Founders는 기술 투자자와 협력해 기술 기업 창업자의 다양성을 높이기 위해 노력하고 있다.
디지털 기술 분야는 다양성을 높이기 위한 고용 관행과 계약상의 의무, 새로운 기준을 자발적으로 도입하고 실천해야 하며, 소비자들의 변화 요구에도 진지하게 귀를 기울여야 한다. 표준 제정 기관, 규제 당국, 정책 입안자, 국제기구 등 시스템 전반의 다양한 주체들이 더 폭넓게 참여할 때에만, 기술의 미래를 결정하는 과정이 모든 이해관계자의 입장과 필요 그리고 목소리를 균형 있게 반영할 수 있다.
3. 윤리와 투명성은 디지털 기술이 사회에 기여하는 역량을 어떻게 높일 수 있을까?
디지털 기술이 사회에 기여하려면, 사회 구성원이 공유하는 가치를 기반으로 한 명확한 윤리 강령과 규범에 따라야 한다. 열린 인터넷을 옹호하는 단체 퍼블릭 놀리지Public Knowledge의 전 회장이자 미 법무부 수석 고문을 지냈던, 진 키멜만은 이에 대해 다음과 같이 말한다. "우리는 새로운 기술을 기존의 규범과 규제 틀에 끼워 맞추기 위해 시장 관행과 정책을 끊임없이 조정해 왔습니다. 크립토나 핀테크 같은 사례가 그렇지요. 하지만 어떤 기술은 그 자체로 윤리적 함의가 너무 크기 때문에, 애초에 그 기술을 사용해도 되는지를 먼저 논의해야 합니다. 그런데 지금 우리는 이 흐름을 멈추고 되돌아볼 수 있는 '핵 동결'이나 '회로 차단기' 같은 장치를 갖고 있지 않습니다."
생체의학, 유전학, 의료를 비롯해 농업과 유전자 변형 식품에 이르기까지, 19세기와 20세기의 주요 과학기술 혁신은 대부분 윤리적 틀 안에서 논의되고 발전해 왔다. 핵에너지는 오랜 시간 도덕적 논쟁의 중심에 있었는데, 최근에는 기후변화의 영향을 되돌릴 수 있는 잠재력이 주목을 받으면서 '도덕적으로 허용 가능한' 수준의 핵에너지 생산에 대한 새로운 논의가 이어지고 있다. 이러한 도덕적 기준에 있어 디지털 기술이 예외가 되어서는 안 된다.
AI의 편향성 그리고 생성형 AI가 예측 불가능한 방식으로 진화할 수 있다는 가능성은 디지털 시스템을 이끌 윤리적 체계의 필요성을 분명히 보여준다. 알고리즘은 오늘날 사회의 여러 영역에서 정보를 제공하고, 의사결정을 지원하며, 나아가 시스템 운영 자체를 좌우할 정도로 경제적, 사회적 영향력이 막대하다. 예를 들어, 판사는 수십 년간의 범죄 기록을 학습한 알고리즘이 산출한 재범 위험 점수를 참고해 보석 여부를 판단하고, 주택담보 대출 기관은 채무 불이행 위험을 예측한 알고리즘을 바탕으로 대출 이자율을 설정할 수 있다. 공공복지 기관도 재정 지원 대상자 선정에 알고리즘을 활용할 수 있다.4 이러한 현실을 감안할 때, 공정하고 평등한 사회를 지향하는 디지털 기술 시스템을 구축하려면 기존의 편향과 기술적 편향, 발생 편향을 포함한 모든 알고리즘 편향을 철저히 제거해야 한다.
윤리적 기준은 디지털 기술 전반에서 새롭게 떠오르는 과제들을 해결하는 데에도 핵심적인 역할을 한다. 예를 들어, 인터넷의 기반이 되는 오픈소스 소프트웨어는 전력망과 병원, 통신 및 교통 시스템, 전화, 자동차, 항공기 등 사회의 핵심 인프라를 운영하는 데 폭넓게 활용되고 있다. 오픈소스 소프트웨어는 공동체를 연결하고, 혁신과 협업을 촉진하며, 시스템 전반에 투명성과 책임성을 내재화할 수 있는 잠재력을 지녔다. 누구나 코드를 자유롭게 활용하고, 수정하거나 상업적으로 재판매할 수 있기 때문에 새로운 기술적 가능성을 여는 데에도 기여하고 있다. 하지만 이러한 개방성이 혁신을 촉진하는 동시에, 보안과 안전 측면에서 새로운 위험성과 취약성을 발생시킬 수 있다. 악의적인 사용자가 코드를 해로운 목적으로 활용하거나, 시스템의 보안과 안정성을 위협하는 코드를 심을 가능성도 배제할 수 없다.
분산형 자율조직Decentralized Autonomous Organizations, DAO는 특정 개인이나 집단의 통제를 받지 않고, 다양한 이해관계자의 이익을 존중하며 공동체 중심으로 운영되는 조직이다. 오늘날 암호화폐와 웹 3.0 혁신의 핵심 기반이 되는 개념이기도 하다. 기술의 확산과 함께 DAO에 대한 관심도 높아지면서, 대중의 신뢰를 얻고 조직의 평판을 안정적으로 관리하기 위한 윤리적 기준 마련이 더욱 중요해지고 있다. 한편, 음성 인식이나 생체인식 기술이 빠르게 발전하는 가운데, 사용자 동의, 데이터 활용 방식, 편향 가능성 등과 관련한 윤리적 쟁점을 해결하는 것도 시급한 과제가 되었다. 이를 방치할 경우 기술의 오용이나 차별로 이어질 수 있기 때문이다. 또한, 데이터 보호에 필수적인 기술인 암호화 역시 균형이 필요하다. 암호화가 수사기관의 정당한 접근까지 원천적으로 차단하지 않도록, 윤리적 가이드라인이 보호와 접근의 균형점을 찾아야 한다.
일부 기술 기업들은 사내에 윤리 담당자나 인간 중심 디자이너를 두고 있다. 이는 분명 고무적인 흐름이며, 이러한 접근을 시도하는 기업들은 주목받아 마땅하다. 그러나 이들이 진정한 역할을 하려면, 제품과 업무에 대해 솔직하게 평가할 수 있는 환경이 뒷받침되어야 하고, 잠재적 위험과 문제를 직면할 수 있는 실질적 권한도 부여되어야 한다. 하지만 여전히 많은 기업들이 기술의 실제 영향을 넓은 시야로 바라보기보다, 제품 중심의 좁은 관점에서 운영되고 있다. 오미디야르 네트워크는 기술 분야 종사자들이 불편하더라도 꼭 필요한 질문을 던지고, 제품이 미칠 사회적 영향에 대해 사전에 숙고하며, 문제가 발견되면 과감히 방향을 전환할 수 있도록 다양한 파트너들과 함께 ' 에티컬 익스플로러 팩Ethical Explorer Pack'을 개발했다. 이 온라인 가이드는 디자이너, 엔지니어, 제품 관리자, 창업자 등 기술 개발자들이 제품에 윤리적 가치를 통합할 수 있도록 지원하는 데 목적이 있다. 내부 관행을 점검하고 변화시키는 데 필요한 도구와 자원 그리고 다른 기업의 실제 사례를 함께 제공한다.
정부는 신뢰성과 윤리적 기준을 충족하는 기업에 조달 기회를 제공함으로써, 더 나은 사회적 결과를 이끌어낼 수 있다. 신뢰 및 안전 전문가 협회Trust & Safety Professional Association, 청렴성 연구소Integrity Institute, 내부고발자 지원단체Whistleblower Aid, 코워커닷오알지Coworker.org, 알고리즘 정의 연맹Algorithmic Justice League 같은 시민단체와 전기전자기술자협회Institute of Electrical and Electronics Engineers 같은 전문 기관들도 새로운 윤리 기준을 수립하는 데 중요한 역할을 하고 있다. 이러한 윤리적 기준은 디지털 기술이 개인과 공동체에 미치는 간접적인 영향까지 폭넓게 반영해야 한다. 예를 들어 자동화와 인공지능이 노동자를 대체하는 문제, 데이터 센터와 암호화폐가 환경에 끼치는 부정적 영향, 개인정보의 공유 및 판매로 인한 프라이버시 침해와 신뢰 저하 등이 그것이다.
소비자 역시 더 강력한 윤리 기준을 정의하고 요구하는 데 중요한 역할을 할 수 있다. 디지털 환경에 익숙한 세대가 변화를 이끌고 있는 지금, 우리는 교육 현장에서 어린 시절부터 윤리적 사고와 규범적 선택의 중요성을 가르쳐야 한다. 디지털 기술이 어떤 사회를 지향해야 하는지 함께 고민하는 교육이 필요하다. 이러한 인식과 감수성이 사회 전반에 확산된다면, 디지털 기술 거버넌스를 근본적으로 바꾸려는 움직임으로 이어질 수 있다.
윤리적 기준을 보편화하려면 투명성 확보가 필수적이다. 패션, 식품 등 다른 산업 분야는 이미 투명성 요구에 대응하기 위한 다양한 모델을 선보이고 있다. 예를 들어, 패스트패션 산업이 환경과 사회에 미치는 영향에 대한 우려가 커지면서, 많은 브랜드들이 공급망과 생산 과정, 원자재 조달 방식 등을 공개하기 시작했다. 식품 산업 역시 원재료의 출처와 공급망 전반의 환경적・사회적 영향을 투명하게 공개하려는 노력을 기울이고 있다. 디지털 기술 분야에서도 소비자들은 자신의 개인정보가 어떻게 수집되고, 사용되며, 저장되고, 공유되는지에 대한 정보를 요구함으로써 기업을 견제할 수 있다. 이를 보여주는 사례가 바로 컨슈머 리포트가 개발한 앱 퍼미션 슬립Permission Slip이다. 이 앱은 기업의 데이터 수집 및 활용 방식에 대한 정보를 제공하고, 사용자가 해당 기업에 개인정보 삭제나 판매 중단을 요청할 수 있도록 지원한다. 소비자는 이 앱을 통해 기업의 데이터 수집을 이해하고 직접 통제할 수 있다.
생성형 AI에 대한 논의는 이제 이 기술이 초래할 수 있는 사회적 피해를 줄이기 위해, 투명성과 외부 감사를 어떻게 구현할 것인가에 초점이 맞춰지고 있다. 그러나 대형 언어 모델LLM 개발 기업들은 자신들의 모델이 어떻게 판단을 내리는지 설명하거나 공개하기 어렵다며 이를 거부하고 있다. 하지만 이러한 주장은 설득력이 떨어진다. 민간 기업이 정부와 데이터를 공유할 수 있는 기술적 수단은 이미 존재하기 때문이다. 예를 들어, 미국 증권거래위원회SEC는 EDGAR라는 포털을 통해 기업의 등록 서류, 정기 보고서 등을 누구나 자유롭게 열람하고 다운로드할 수 있도록 하고 있다. 또한 오픈마인드OpenMined와 같은 비영리단체들은 완전한 투명성을 구현할 수 있는 기술 인프라 구축에 나서고 있다. 하지만 이러한 기준과 시스템이 사회 전반의 규범으로 자리 잡기 위해서는 무엇보다 시민사회의 강력한 요구와 감시가 필요하다.
투명성은 알고리즘, 데이터, 프라이버시 같은 기술 사안뿐 아니라, 인권, 제조, 조달, 고용, 다양성, 형평성, 포용성 등 기업 운영과 노동 관행 전반에 걸쳐 필수적인 요소이다. 투명성을 높이려면 오픈소스 코드의 활용을 확대하고, 시스템 간 상호운용성을 강화하며, 지식 공유를 자연스럽게 유도하는 새로운 기술 프로토콜이 마련되어야 한다. 예를 들어, 개인의 데이터가 어디에서 판매되거나 공유되고 있는지를 직접 확인할 수 있는 시스템이 하나의 모델이 될 수 있다. 또한, 개인 식별 정보를 제거한 데이터를 학계, 언론, 시민사회, 공공기관 등 신뢰할 수 있는 연구자들에게 공개함으로써, 현재의 기술 흐름에 대한 이해를 높이고, 미래 대응을 위한 통찰을 제공할 수 있다. 뿐만 아니라 공익을 보호하고, 책임 주체에게 책임을 묻는 기반을 마련할 수도 있다.
2022년, 오미디야르 네트워크의 지원을 받은 진보 성향의 공공정책 싱크탱크 데모스Demos는 지속가능한 오픈소스 시스템 구축에 관한 핵심 보고서 <더 오픈 로드The Open Road>를 발표했다. 이 보고서는 '개방성이 높을수록 혁신도 활발해진다'는 결론을 내렸다. 투명성이 확보되면 기술에 대한 검토가 보다 면밀해지고, 그 결과 보안 취약점이 발견될 가능성도 높아진다는 것이다.5 특히 개방성은 개인정보 보호와 보안 등 다양한 보호 장치를 설계 단계부터 내재화한 '좋은 기술'을 개발하는 데 유리하다는 점을 강조했다. 또한 코드와 설계상의 한계를 드러내며, 이를 바탕으로 더 견고하고 신뢰할 수 있는 애플리케이션과 솔루션을 개발할 수 있도록 한다. 이러한 특성 덕분에 개방성은 혁신을 촉진할 뿐 아니라, 사용자에게 견제와 균형의 장치를 제공함으로써 보다 공정하고 형평성 있는 디지털 기술 시스템을 구축하는 데 기여할 수 있다.
4. 정책은 디지털 기술 시스템을 새롭게 설계하는 데 어떤 역할을 할 수 있을까?
정책 입안자는 민주주의를 수호하고 시민의 삶의 질을 보장하기 위해 선출된 사람들이다. 이들은 디지털 기술 시스템을 보다 책임 있는 방향으로 전환하는 과정에서도 핵심적인 역할을 할 수 있다. 그러나 많은 정책 결정자들이 기술 기업의 로비에 경제적으로 얽혀 있거나, 그 영향력에 지나치게 휘둘리고 있는 것이 현실이다. 애플, 아마존, 마이크로소프트, 알파벳, 메타 등 미국의 5대 빅테크 기업은 매년 약 6,900만 달러에 달하는 자금을 미국 내 로비 활동에 쏟아붓고 있다.
실질적인 경쟁 정책의 부재는 위험할 정도로 기업 권력을 집중시켰다. 2022년 8월 기준, 미국의 빅테크 5개 기업의 시가총액은 8조 5천억 달러로, 독일이나 일본의 국내총생산을 넘어섰다. 이처럼 통제되지 않은 권력의 집중은 혁신을 가로막을 뿐 아니라, 디지털 기술이 사회적 요구에 부응하도록 책임을 묻거나, 기업이 공동체의 가치를 지지하도록 유도하려는 정책적 노력에 큰 장벽이 되고 있다.6
혁신과 규제를 서로 반대되는 개념으로 보는 시각은 바람직하지 않다. 민주주의적 가치를 지향하는 디지털 기술 시스템에는 혁신과 규제, 두 요소가 모두 필요하다. 규제가 반드시 성장이나 혁신을 가로막는 것도 아니다. 예컨대, 은행업은 가장 규제가 강한 분야 중 하나지만, 핀테크 산업은 그 규제를 지키면서도 가장 빠르게 성장했으며, 벤처캐피털 투자가 활발한 분야로 떠올랐다. 생명과학 분야 역시 강한 규제를 받지만, 코로나19 팬데믹 당시 mRNA 기반의 새로운 백신이 9개월도 안 돼 개발되어 보급되기도 했다. 디지털 기술 기업 역시 올바른 인센티브와 규제가 함께한다면, 비즈니스 모델과 제품의 경쟁력을 높이는 방향에서 공익을 증진하는 방향으로 혁신을 실현할 수 있다.
연방 정부 기관과 의회, 백악관이 모두 최적의 규제 방안을 마련하기 위해 분주히 움직이고 있지만, 이를 총괄할 기관을 어디에 두고, 어떤 구조로 설계할지는 여전히 불투명하다. AI 관련 사안들이 워낙 복잡하고 얽혀 있다보니, 이에 대한 지속적인 검토는 연방거래위원회FTC와 같은 기존 기관들의 권한을 강화하거나 역할을 명확히 하는 방향으로 전개될 수 있다. 하지만 동시에 새로운 권한과 역량을 가진 기관이 새롭게 설립될 가능성도 열려 있다. 2023년 7월, 유엔이 주최한 AI 포 굿 서밋AI for Good Summit에서는 인공지능이 사회에 미치는 영향을 연구해온 개리 마커스, 카렌 바커, 안카 로엘이 AI 거버넌스를 위한 새로운 이니셔티브로 신뢰할 수 있는 AI 발전 센터Center for the Advancement of Trustworthy AI, CATAI를 소개했다. 오미디야르 네트워크의 재정 지원을 받는 이 프로젝트는 보다 신뢰할 수 있는 AI 기술을 위한 기초 및 응용 연구를 수행함으로써 새로운 글로벌 AI 거버넌스 모델을 설계하고 발전시키는 것을 목표로 하고 있다.
디지털 기술에 대한 규제 방향을 정할 때, 정책 입안자들은 해당 기술이 시스템 전반에 미치는 영향력, 규모, 성숙도 그리고 현실에서 발생할 수 있는 잠재적 피해를 종합적으로 평가할 수 있어야 한다. 경우에 따라 기존의 규제 체계를 보완하거나 다시 설계해야 하며, 소비자 가격이 명확히 존재하지 않는 비즈니스 모델을 다루기 위해 새로운 이론이나 정책 프레임워크가 필요할 수도 있다. 예를 들어, 페이스북이나 구글 검색처럼 사용자에게 '무료'로 제공되는 서비스 역시 소비자 피해나 시장 집중을 유발할 수 있기 때문에 이들 기업에도 책임을 물을 수 있는 규제 장치가 마련되어야 한다.
물론 정책 입안자들도 이미 중요한 조치들을 취하고 있다. 최근 몇 달간 연방 정부는 디지털 기술을 규제하기 위한 노력을 강화해 왔는데, 그 중 대부분의 목적은 보다 건강하고 활기찬 사회를 만드는 것이었다. 하원과 상원에서는 아동 및 청소년의 디지털 환경을 보다 안전하게 만들기 위한 다양한 법안들이 발의되었다. 그 안에는 사이버 괴롭힘이나 표적 광고처럼 소셜미디어 플랫폼 관련 위험을 줄이기 위한 내용이 포함되었다. 2022년에는 하원 에너지상업위원회를 통과한 한 법안이 소비자 개인정보 보호 강화를 목적으로 데이터 수집 관행에 더 강력한 규제를 도입하려 했으나, 상원이 회기 종료 전 이를 처리하지 못하면서 최종 입법으로 이어지지 못했다. 하지만 이 법안은 초당적 지지를 얻으며 의미 있는 진전을 보였다. 2023년 5월, 바이든 행정부는 '책임 있는 미국 내 AI 혁신을 촉진하고 국민의 권리와 안전을 보호하기 위한 조치'를 발표했다. 이 조치에는 윤리적이고 신뢰할 수 있으며, 책임감 있고 공익에 부합하는 AI 발전을 위해 고등교육기관, 연방기관, 산업계 등 다양한 주체가 협력할 수 있도록 장려하며, 이를 위해 1억 4천만 달러를 투입해 7곳의 새로운 국립 AI 연구소를 설립하는 내용이 포함되었다.
미국의 각 주 정부도 뒤늦게 디지털 기술에 대한 규제 강화에 나서고 있다. 캘리포니아주는 2022년, 아동 보호를 위해 캘리포니아 연령 적정 설계 규약법California Age-Appropriate Design Code Act을 제정했다. 이 법은 온라인 플랫폼이 아동 사용자의 최선의 이익이 우선적으로 고려되고, 아동의 정신적, 신체적 건강과 안전을 보호하는 방향으로 개인정보 보호 및 안전 설정이 기본값이 되도록 의무화하고 있다. 다른 많은 주들도 이에 발맞춰 유사한 법안을 추진 중이다. 현재 온라인에 접속하는 아동이 6억 명을 넘는 상황에서, 기술 기업은 아동의 안전과 프라이버시를 고려한 제품 설계를 책임 있게 수행해야 하며, 정책 입안자들 또한 각급 정부 차원에서 이에 대한 책임성을 담보할 수 있는 정책을 마련해야 한다.
이 외에도 약 20개 주 의회가 포괄적인 소비자 개인정보 보호 법안을 발의했다. 대부분의 법안은 소비자가 온라인상에서 자신의 정보를 열람, 삭제, 수정할 수 있도록 권한을 부여하며, 판매 홍보나 표적 광고를 거부하거나, 민감 정보 처리에 대해 사전 동의를 요구할 수 있도록 하고 있다.
기술은 끊임없이 변화하고 발전하기 때문에, 규칙과 규제는 변화를 뒤쫓기보다 미래를 내다보며 미리 준비되어야 한다.
5. 건강한 디지털 기술 시스템을 유도하는 금융 모델은 무엇일까?
역사적으로 주요 기술 혁명에는 언제나 이를 뒷받침하는 금융 혁명이 있었다. 디지털 기술도 예외는 아니다. 벤처캐피털VC은 새로운 유형의 투자자, 자본 운영 방식 그리고 혁신을 중심에 둔 인센티브 구조를 통해 디지털 기술 산업의 혁신 문화와 투자 생태계를 이끌어왔다. 2022년 한 해 동안 벤처캐피털은 생성형 AI 분야에 총 13억 7,000만 달러를 78건에 걸쳐 투자했다. 이는 앞선 5년간의 전체 투자액에 맞먹는 규모이다.7
하지만 벤처캐피털 중심의 금융 혁신에는 그림자도 존재한다. 현재의 자금 조달 모델과 투자 문화는 즉각적인 수익을 기대하는 주주들의 요구를 충족시키기 위해 무조건적인 성장을 최우선 가치로 삼는다. 전직 벤처캐피털리스트인 에반 암스트롱은 다음과 같이 지적한다. "스타트업 생태계는 지금 전환점에 도달했습니다. 대형 벤처캐피털 펀드 입장에서는 스타트업이 10억 달러 규모로 성장하는 것조차 이제는 의미가 없습니다. 펀드 수익률을 3~5배로 끌어올리려면, 최소 500억 달러 이상의 기업가치로 상장할 수 있는 기업과 손을 잡아야 하기 때문입니다." 하지만 현재 전 세계 상장 기술 기업 중 기업가치가 500억 달러를 넘는 곳은 48개에 불과하다.8 결국 창업자들은 시장에서 지배적 위치를 확보하기 위해 점점 더 큰 위험을 감수할 수밖에 없는 구조로 내몰리고 있다.
주주 이익 우선주의는 벤처캐피털이 기술이 초래할 수 있는 사회적 영향을 고려할 유인을 원천적으로 차단했다. 특히 현재의 VC 모델은 투자 수익을 실현하기 위해 사용자 수 확보에 최우선 가치를 두는 성장 중심 전략을 따른다. 투자자들은 운영 수익과 이익으로 성장 자금을 조달하는 경쟁 기업을 약화시키기 위해, 때로는 손실을 감수하면서까지 압박을 가하기도 한다. 이러한 투자자 중심의 구조는 VC의 지원을 받는 스타트업이 사용자, 지역사회, 노동자, 시장, 더 넓은 사회가 아닌, 오직 투자자에게만 책임을 지도록 만드는 왜곡된 책임 구조를 고착화하고 있다. 9 이제는 단기 수익 실현의 압박에서 벗어나, 재무적 성과 이상의 가치를 함께 고려할 수 있는 새로운 민간 금융 모델이 필요하다. 이미 노동자 연금기금, 대학 기금, 국부펀드 등 공익을 대표하는 기관들이 벤처캐피털의 주요 출자자Limited Partners로 참여하고 있다. 이들은 막강한 영향력을 바탕으로 벤처캐피털이 보다 책임 있는 투자 전략으로 전환하도록 유도할 수 있고, 또 그렇게 해야 한다.
자금 조달 방식에서도 수익 모델, 소유 구조, 수익 배분 방식 등에 대한 새로운 실험이 일부 나타나고 있지만, 여전히 예외적인 사례에 불과하며 주류로 자리 잡지는 못하고 있다. 벤처캐피털리스트 브라이스 로버츠가 설립한 인디.vcIndie.vc는 이러한 변화 가능성을 보여준 대표적인 시도였다. 이 프로그램은 이베이 창업자이자 오미디야르 네트워크 공동 설립자인 피에르 오미디야르가 초기 후원자로 참여했다. 인디.vc는 창업 초기 단계에 대규모 시드 자금을 투자하는 기존 방식 대신 이미 사업을 시작한 유망 스타트업에 소규모 투자를 진행했다. 특히 기존 VC 시장에서 소외되기 쉬운 지역이나 인구 집단의 창업자를 적극적으로 지원했으며, 초기 지분을 요구하지 않는 구조를 택했다. 그 목적은 창업자가 투자자 수익에 매이지 않고, 스스로의 방식으로 사업을 성장시키는 데 집중할 수 있도록 하는 것이었다. 그러나 인디.vc는 결국 확장을 위한 기관 투자자들의 지지를 충분히 얻지 못했고, 운영을 종료하게 되었다. 로버츠는 미디엄에 올린 발표문에서 '우리는 인디 경제Indie Economy에 기반한 투자와 아이디어를 보다 공격적으로 확장하려 했지만, 기관 투자자 시장에서 같은 열정을 가진 파트너를 찾지 못했다'고 밝혔다. 그러면서도 그는 '4~5년 뒤, 인디.vc의 포트폴리오 기업들은 이전 펀드에서 기관 투자자들에게 5배 이상의 수익을 안겨줬던 기업들과 비슷한 성과를 낼 것이라 확신한다'며 여전히 낙관적인 전망을 덧붙였다.
권리 보호, 정의 실현, 공익을 위한 기술 개발에 헌신하는 기술인들을 지원하려면, 단기 수익에 흔들리지 않는 인내형 자금 조달 구조가 필요하다. 이러한 구조는 더 건강한 디지털 기술 시스템을 구축하는 데 중요한 기반이 될 것이다.
더 나은 세상은 가능하다
디지털 기술은 이제 생성형 AI에까지 이르렀고, 그 발전 속도와 영향력은 기술 역사상 전례 없는 수준에 도달했다. 기술은 빠르게 확산되어 사회 전반에 깊이 스며들었고, 기본적인 사회 기능들조차 그 기술에 의존하고 있다. 스스로 학습하는 능력까지 갖춘 이 기술은 그 작동 원리와 복잡성이 일반 대중의 이해 수준을 넘어선 지 오래다. 이러한 특성은 존재론적 위협에 대한 불안과 맞물려, 디지털 기술의 흐름은 더 이상 되돌릴 수도 방향을 바꿀 수도 없는, '피할 수 없는 운명'과도 같이 받아들이는 분위기가 형성되고 있다.
우리는 그런 체념적 인식에 맞서야 한다. 미국 사회는 디지털 기술이 민주주의에 기여하도록 방향을 설정하고 조율하며, 자율적인 거버넌스를 구축할 충분한 역량을 갖추고 있다. 이를 실현하려면 기술 발전의 속도와 규모만을 성공의 기준으로 삼는 관행에서 벗어나, 디지털 기술이 사회의 긍정적 비전을 실현하는 데 어떻게 기여할 수 있을지를 먼저 고민해야 한다.
참고
1. Elena Bozzola et al., "The Use of Social Media in Children and Adolescents: Scoping Review on the Potential Risks," International Journal of Environmental Research and Public Health, vol. 19, no. 16, 2022.
2. Kaveh Waddell, "Why Your Education and Job Could Mean You're Paying Too Much for Car Insurance," Consumer Reports, January 28, 2021.
3. Center for AI Safety, "Statement on AI Risk."
4. Frederic Gerdon et al., "Social Impacts of Algorithmic Decision-Making: A Research Agenda for the Social Sciences," Big Data & Society, January-June, 2022.
5. Alex Krasodomski-Jones et al., "The Open Road: How to Build a Sustainable Open Infrastructure System," Demos, January 2022.
6. Nandita Bose, "Scathing Congressional Report Suggests Big Trouble for Big Tech If Biden Wins," Reuters, October 7, 2020.
7. Marina Temkin, "VCs Try to Parse through the 'Noise' of Generative AI," Pitchbook, December 23, 2022.
8. Evan Armstrong, "Venture Capital Is Ripe for Disruption," Every, October 27, 2022.
9. Anil Dash, "12 Things Everyone Should Understand About Tech," Medium, March 14, 2018.
> 원문 기사 보기
MIKE KUBZANSKY
마이크 쿠브잔스키는 오미디야르 네트워크의 CEO다.