댓글
[미국] 소셜섹터를 위해
우리는 어떤 AI를 개발해야 하는가?
글로벌 시리즈: 평등을 향한 도전
KELLY FITZSIMMONS
Summary. 비영리단체를 위해 정교하게 설계된 AI 기반 애플리케이션이 어떻게 더욱 강력하고 공정한 성과를 내도록 돕는지 설명한다.
인공지능은 전 세계적으로 다양한 분야에서 개인과 조직의 사고와 행동 양식을 급속히 바꾸고 있다. 미국에서는 넷플릭스, 아마존 같은 회사는 수년 전부터 맞춤 상품 추천과 가상 고객 지원 업무에 AI를 활용하고 있으며, 연구 기관과 딥마인드DeepMind 같은 AI 연구소에서는 의학 연구를 가속화하고 기후변화에 대응하는 데 AI를 활용 중이다.
하지만 비영리단체들은 그간 이러한 기술 혁신의 순간에 그다지 관여하지 않았다. 어느 정도는 이해할 만한 현상이다. 여러모로 어려움을 겪고 있는 비영리영역은 다른 영역과 달리 연구개발 투자가 적고, AI 전문인력도 부족하기 때문이다. 하지만 이제 변화가 필요하다. 업무를 하고, 일상을 살아가는 방식을 포함해 AI가 사회에 끼치는 영향이 갈수록 커지는 상황에서 소셜섹터만이 예외가 될 수는 없다. 사실 AI의 발전에 있어 비영리가 담당할 중요한 역할이 있다. 공정성을 고려해 설계, 구현한 AI 도구는 데이터 격차를 해소하고 편견을 줄이며 비영리단체의 효율성을 높이는 데 도움이 될 수 있다. 소셜섹터에서 공정한 AI를 발전시키기 위해 기금제공자, 비영리단체 리더, AI 전문가는 시급히 협력하며 움직여야 한다.
형평성을 높이기 위해AI 활용하기
물론 AI는 흥미로운 기회를 많이 제공하지만 심각한 위험을 유발할 가능성이 있다는 점 또한 잘 알려져 있다. 개발자들은 사회 전반에서 수집한 데이터를 활용해 AI 알고리즘을 학습시킨다. 그렇기에 애초부터 편견이 AI에 내재된다. 예를 들어 금융 서비스 제공사에서 AI를 활용해 대출 여부를 결정하는 경우가 많은데, 미국 금융업계는 특정 경계 지역 설정redlining(역자주: 유색인이 주로 거주하는 빈곤 지역 등 특정 지역에 금융 서비스를 차별적으로 제공하는 관행), 불공정한 감정 및 인수 정책 등으로 오래전부터 여성과 유색인 커뮤니티를 제도적으로 차별해 온 역사가 있다. 대출 결정에 활용되는 알고리즘은 특정 우편번호와 직업뿐 아니라 인종 및 성별 관련 특성 등에 의도적으로 불이익을 주는 관행이 반영된 그간의 데이터를 학습하기 때문에 이를 해결하지 않으면 불공정한 대출 관행과 금융 불평등이 고착될 수 있다. 선의를 지닌 비영리단체라 하더라도 의도치 않게 피해를 초래하는, 결함 있는 AI 애플리케이션을 설계하기 쉽다. 예를 들어 사회적 기업가에게 초기 자금을 제공하는 단체가 편견이 내재된 금융 데이터로 AI를 학습시킬 경우, 의도와 다르게 특정 집단을 선호하게 될 수 있다. 이는 부의 형평성을 높이려는 단체의 사명에 반하는 결과를 초래하는 것이다.
또한 관리 및 분석 업무, 창의적인 업무를 수행하는 AI의 능력이 급격히 향상되면서 수많은 일자리가 사라지고, 나아가 산업 전체가 쓸모없어질 수 있다는 우려가 널리 퍼지고 있다. 최근 디지털 미디어 업체 버즈피드Buzzfeed가 AI를 활용해 자사 웹사이트에 게재할 기사를 작성하기 시작한 것처럼, 예산이 부족한 비영리단체가 홍보팀을 축소하고, AI 기반 언어 모델인 챗지피티ChatGPT를 쓰는 상황은 상상하기 어렵지 않다. 게다가 규제 사항도 아니고 재정적으로 도움이 되지도 않는 상황에서 단체가 AI의 공정성을 우선시할 이유는 별로 없다. 구글, 마이크로소프트 같은 선도적인 기술기업에서도 최근 몇 년 사이에 윤리적 AI 담당 인력을 감축했다.
이는 매우 우려할 만한 일이며, 조직들이 앞으로 해결해야 하는 문제이다. 그렇지만 공정성을 고려해 신중히 개발한다면, AI 기반 애플리케이션은 특히 다음의 세 영역에서 비영리단체가 강력하고 공정한 성과를 거두는 데 도움이 될 수 있다.
1. 데이터 격차 해소
영리 섹터와 소셜섹터의 데이터 격차가 커지면서 미국에서 핵심적인 사회서비스를 제공하는 비영리단체들의 효율성이 떨어지고, 필요한 지원을 받지 못할 위험에 처해 있다. 크리스 데이글메이어Kriss Deiglmeir는 최근 스탠퍼드 소셜 이노베이션 리뷰 기고문에 다음과 같이 썼다. “데이터는 하나의 권력이다. 그리고 슬프게도 그 권력은 정의롭고 지속가능하며 풍요로운 세상을 만들고자 애쓰는 단체들이 아니라, 상업 부문으로 점점 더 많이 넘어가고 있다.” AI는 데이터와 근거를 생성하고 모으는 과정을 민주화함으로써 예산과 내부 전문인력이 부족한 단체를 포함해 다양한 단체에서 지속적인 연구 개발, 평가, 데이터 분석을 시도할 수 있게 해 이 추세를 타파하는 데 도움을 줄 수 있다.
독해, 글쓰기, 언어 능력 향상을 위한 무료 서비스를 제공하는 비영리단체 퀼Quill.org을 살펴보자. 퀼은 AI 기반 챗봇을 활용해 학생에게 교재에 바탕을 둔 개방형 질문을 던진 후, 답변을 검토하여 개선 사항을 제시한다. 예를 들면 명확하게 서술해야 한다거나, 주장을 뒷받침할 근거를 제시하라고 조언한다. 이 기술을 통해 퀼은 학생과 학교들에 수준 높은 비판적 사고와 글쓰기 능력을 쌓을 수 있도록 돕는데, 이는 기술이 없었다면 쉽게 접하기 어려운 지원이다. 퀼 창립자이자 상임이사인 피터 골트Peter Gault는 최근 이렇게 밝혔다. “미국에서 기초적인 글쓰기 능력이 떨어져 학교와 직장에서 불이익을 겪는 저소득층 학생이 2천7백만 명에 달합니다······. AI를 활용해 학생들에게 글쓰기에 대한 즉각적인 피드백을 제공한다면, 우리는 교사들이 수백만 명의 학생들을 실력 있는 작가, 비판적 사상가, 민주주의의 적극적인 구성원이 되도록 지원할 수 있습니다."
2. 편견 완화
어떻게 AI가 편견을 더 고착시킬 수 있는지를 보여주는 사례는 많다. 경찰서에서 흑인 피고인이 백인보다 향후 재범 위험이 더 높다고 판단하는 알고리즘을 활용한 일이나 기업에서 여성 지원자에게 불리한 채용 알고리즘을 사용한 일 등이 바로 그런 사례이다. 이때 AI는 공정한 의사결정을 내리도록 도와 편견을 완화하는 데 도움을 줄 수 있다. 신중하게 설계된 알고리즘은 인종, 성별, 연령과 같이 결과와 무관한 변수를 무시하고 인간의 의사결정에 영향을 미치는 변수를 배제하여 비영리단체 실무진이 인간으로서 가진 편견과 맹점에 빠지지 않고, 패턴을 파악해 증거에 기반한 의사결정을 내릴 수 있도록 도와준다.
근거 기반 의사결정을 지원하는 AI를 활용하는 단체로는 퍼스트 플레이스 포 유스First Place for Youth를 들 수 있는데, 이곳은 청소년이 자족하며 책임감 있는 성인으로 성장하도록 돕는 기관이다. 퍼스트 플레이스 포 유스는 데이터 안에서 인과관계를 찾아내 추세와 행동 패턴을 예측하는 정밀 분석 기술을 활용한다. 이를 통해 사업 운영 및 사례 평가 데이터를 분석하고 청소년들의 성과 차이를 학습하는 방식으로 추천 엔진을 구축했다. 실무진은 이 추천 엔진을 통해 특정 집단에게 이전에 어떤 사업이 효과적이었으며 어떤 식으로 지원을 할 때 성공 가능성이 가장 높은지를 더 잘 파악할 수 있다. 공정성이라는 관점에 맞추어 설계된 AI 알고리즘은 각 인구집단이 사업에 동등하게 참여할 수 있는지를 분명하게 판별할 수 있다. 또한 기존의 편견을 답습하지 않기 위해 추천 사례를 인종과 같은 사회문화적 요소에 근거하지 않고 선별한다. 어떤 아동이 특정 사업에 선정되는 이유가 인종과 같은 요소여서는 안 되기 때문이다.
3. 효율성 증대
뉴욕타임스 칼럼니스트에게 음침한 판타지를 내보이며 사랑 고백을 한 빙Bing 챗봇, 트랜스젠더 혐오 농담 때문에 트위치에서 금지당한 AI 생성 사인필드 드라마 패러디, 인종차별 발언으로 운영 중지된 마이크로소프트 챗봇 등 우스꽝스러운 수준에서 끔찍한 지경에 이르기까지 AI 애플리케이션이 저지른 실수 사례는 넘쳐난다. 그러나 추천 엔진, 정밀 분석, 자연어 처리 같은 AI 기반 애플리케이션은 인간이기에 저지르는 실수를 줄이고, 단체의 성과를 높이는 데 도움을 줄 수 있다. 단순 반복 작업을 AI에 맡기면 비영리단체 실무진은 컴퓨터가 할 수 없는 전략적 업무와 대인 업무에 더 집중할 수 있다.
무료 문자 기반 정신건강 지원 및 위기 개입을 제공하는 비영리 단체 크라이시스 텍스트 라인Crisis Text Line은 AI를 활용해 고품질의 대인 서비스를 유지하면서 효율성과 확장성을 높였다. 특히 과거 문자 데이터를 학습해 고위험 단어와 표현을 인지하도록 AI를 훈련해 심각도에 따라 발신자를 더 효율적으로 분류할 수 있게 했다. 자원봉사자의 위기 대응력 강화 교육에도 AI가 일부 활용된다. 현실을 반영한 가상 사례로 학습한 크라이시스 텍스트 라인의 자연어 처리 알고리즘은 자원봉사자와 내담자 간의 대화를 모방할 수 있다. 크라이시스 텍스트 라인은 이 기술을 활용해 효율적이고 유연하게 자원봉사자 교육을 진행한다. 그 덕에 자원봉사자가 시간대를 자유롭게 선택하여 교육을 이수할 수 있을뿐더러, 실무진 및 교육 이수 자원봉사자들이 내담자에게 실시간으로 양질의 서비스를 제공하는 데 더 많은 시간을 쓸 수 있다.
비영리 AI 개발 지원
위에서 언급한 사례들은 인공지능의 가능성을 보여주지만 안타깝게도 아직은 일반적이지 않은 예외적 사례에 불과하다. 소셜섹터는 이 변화의 기회를 잡기 위해 더 노력해야 한다. AI를 활용하면 어떤 것들이 가능할지 그려보고, AI가 공정성을 더 갖출 수 있도록 적절한 도구와 기반을 구축해야 한다.
내가 속한 단체, 프로젝트 에비던트Project Evident는 비영리단체가 데이터와 근거의 힘을 활용해 더 큰 영향력을 발휘하도록 돕고, 보다 공정한 생태계를 구축하는 것을 목표로 한다. 지난 18개월 동안 AI에 초점을 맞춘 시범 사업을 추진하면서 우리는 AI를 활용해 사업 성과를 끌어올리고자 하는 비영리단체들을 모아 실제 AI 시범 적용 및 도입 과정을 보여주는 사례를 발굴했다. 현재는 효과적이고 공정한 AI 도구 개발에 도움을 주고자 스탠퍼드 인간중심 AI 연구소Stanford Institute for Human-Centered AI와 협업하여 전국적인 AI 활용 실태조사를 실시하는 한편, 비영리단체와 기금제공자 측의 욕구를 파악하는 중이다. 이러한 사업을 통해 우리는 소셜섹터가 공정한 AI 생태계를 강화할 몇 가지 방안을 도출했다.
1. AI 도구 개발을 위한 투자 확대하기
AI가 업무에 어떤 도움을 줄지 알고 싶지만 이를 확인해줄 수단이 부족한 비영리단체와 교육구school district가 많다. 우리의 시범 사업에 참여한 교육 분야 비영리단체 디지털 프로미스Digital Promise의 대표 장클로드 브리자드Jean-Claude Brizard는 이렇게 말했다. “비영리단체의 기금 조달 구조상 이런 사업을 실제로 추진하기는 어렵습니다. 대부분 이런 데 쓸 시간과 자원이 없거든요.” 이 문제를 해결할 한 가지 방법은 기금제공자들이 다음 두 부류의 비영리단체에 모두 기금을 제공하는 것이다. 한 부류의 단체는 AI '선주민natives'으로 공정한 결과물을 내는 AI를 이미 활용 중인 단체이고, 또 다른 부류는 AI '탐색자explorers'로 AI를 도입해볼 의향이 있지만 자본과 지원이 부족한 단체이다.
재단들 또한 자체적으로 AI 학습에 투자하고 기금 배분 과정의 효율성을 높이거나 모금 전략을 개선하는 데 AI를 활용할 가능성과 방법을 검토해야 한다. 일례로 우리와 협력하는 재단 중 한 곳에서는 효율적인 모금 전략 요소의 패턴을 찾기 위해 지난 기금배분 보고서를 읽고 분석하도록 AI를 훈련시켰다. 데이터 평가자와 데이터 과학자로 구성된 팀을 고용해 휴먼 인 더 루프human-in-the-loop(역자주: 인간의 상호작용을 포함하는 기계 학습 방식) 검증을 통해 수천 건의 제안서와 보고서에 담긴 정성적 문자 데이터를 구조화된 종단 데이터로 변환하는 대규모 언어 모델large language model을 훈련시킨 것이다. 그런 다음 이 데이터를 설문조사, 면접, 포커스그룹 등의 1차 평가 데이터와 결합해 우리의 시범사업에서 제시한 변화이론에 따라 정리, 처리, 프레임화, 구조화, 라벨링을 진행했다. 마지막으로 인간/직무전문가human/subject-matter-expert의 지도 및 검토를 병행하는 기계 학습 알고리즘으로 서술적, 예측적, 인과적 모델링을 거쳤다. 재단 실무자들은 이렇게 나온 온디맨드 데이터를 보고서 작성, 대화형 보고서, 시각화, 대시보드에 활용하는데, 이 과정에서 사업의 효과성 여부를 파악하는 AI의 능력도 강화된다. 이로써 재단은 사전 지식을 바탕으로 새로운 기금 배분 전략을 수립하고, 학습 내용을 기금 수혜자 및 활동 현장에 더 잘 전달할 수 있게 된다. 또한 효율성이 높아짐에 따라 사업 담당자들은 오직 인간만이 할 수 있는 일, 즉 수혜자, 예비 수혜자, 지역사회와 관계를 강화하는 작업에 더 많은 시간을 쓸 수 있다.
2. AI와 공정성 문제를 해결하는 활동에 협력하기
단체가 AI 개발의 윤리 및 공정성 측면을 고려하도록 유도하는 재정적 인센티브나 규제가 적다는 것도 문제다. 영리 부문에서는 대체로 수익성과 확장성을 염두에 두어 AI를 개발한다.
공정한 AI를 개발하기 위해서는 연구자, 정책입안자, 기술 지원 제공자, 기금 제공자, 비영리 실무자, 지역사회 구성원이 두루 협력하여 신중하게 관행과 정책을 발전시켜야 한다. 입법과 규제를 요구하고, 현장에 적용할 체계와 기준을 개발하며, 지역사회의 필요를 충족할 도구 개발 과정에 지역사회를 참여시키고, AI 알고리즘의 편견 측정 및 감시 관련 지식과 모범 사례를 공유하는 등의 활동이 병행되어야 한다.
현재 소셜섹터를 지원하고 자문하는 일을 강화하기 위한 몇 가지 작업이 진행되고 있다. 미 상원 민주당 원내대표 척 슈머Chuck Schumer는 의회에서 포괄적이고 초당적인 AI 법안을 마련하는 데 도움이 될 AI 포럼을 연속 개최할 것이라고 공표했다. 지난 9월에 열린 첫 번째 포럼에는 기술 전문가뿐 아니라 노동운동가와 민권운동가들도 참여했다. 또한 분산형 AI 연구소Distributed AI Research Institute에서는 AI가 어떤 식으로 소외 집단에 더 큰 영향을 미칠 수 있는지 연구하는 한편 지역사회의 의견을 중시하고 공정성을 높이는 AI 개발 및 실무 체계를 구축하고 있다. 두 가지 모두 공정성과 AI라는 문제에 대응하는 진보적이고 융합적인 작업으로서 기대할 만한 사례이다.
3. 기본에 충실하기
AI를 시범 도입하는 단체가 공정한 결과물을 얻으려면 전략적 목적, 적절한 기술 체계, 정의롭고 공정하게 설계할 능력, 열정적인 학습 문화를 갖추어야 한다. 새로운 이야기도, AI에만 해당되는 이야기도 아니지만, 소셜섹터에서는 이같은 역량이 간과되거나 관련 재정이 부족한 경우가 많다.
프로젝트 에비던트는 지속적인 근거 구축 및 사업 개선의 지침으로 활용할 전략적 근거 계획strategic evidence plan을 수립하려는 단체들과 협력하고 있다. 우리는 이사회나 기부자의 요구 때문이든 리더가 '당연히 할 일'이라고 생각하기 때문이든 평가를 수행하려 하는 비영리단체에 한 걸음 물러나 이러한 질문을 던져보도록 조언한다. 우리가 이를 통해 얻으려는 교훈은 무엇인가? 이루려는 성과는 무엇인가? 이렇게 명확한 방향성은 근거 전략 개발뿐 아니라 추천 엔진이나 다른 AI 기반 도구를 개발할 때도 마찬가지로 중요하다. 사실 AI 알고리즘은 사업의 투입 및 기대 성과를 설명하는 논리 모델을 단순히 번역한 것에 지나지 않는다.
비영리단체 리더들은 AI 활용하기에 앞서 조직이 적절한 기반을 적절히 갖추고 있는지 확인해야 한다. 또한 소셜섹터의 다른 기관들은 비영리단체들에게 기본적으로 역량 구축에 필요한 기금과 도구를 제공하여 이들을 지원해야 한다. 필라델피아에 본사를 둔 사회서비스 기관 젬마 서비시스Gemma Services는 지역 내 기금제공자(스캐터 굿 재단Scattergood Foundation)와 필라델피아를 대상으로, 단체에서 개발하려는 AI 애플리케이션이 어떻게 젬마서비시스팀 뿐 아니라 정신건강에 관심 있는 필라델피아 전역의 기금제공자와 정책입안자에게도 유용한 교훈을 제공할 수 있는지 보여주어, AI 도구 개발 기금을 성공적으로 유치했다.
소셜섹터에서 AI의 잠재력은 어마어마하다. 신중하게 설계된 AI 애플리케이션은 데이터 격차를 해소하고 편견을 줄이며 비영리단체의 효율성을 높이는 데 도움이 될 수 있다. 하지만 AI의 잠재성을 최대한 활용하기 위해서는 필요한 자원을 제공하고 공정성을 우선시하며 조직의 기본적 역량에 투자하는 기반이 소셜섹터에 강력히 구축되어야 한다. 우리는 더 많은 자원을 확보하고, 이를 더 잘 연계하며, 더 강력한 목적의식을 가지고 소셜섹터를 준비시켜야 한다. 소셜섹터가 AI의 힘을 활용해 모두를 위한 강력하고 공정한 성과를 이루도록 말이다.
> 원문 기사 보기
KELLY FITZSIMMONS
켈리 피츠시먼스는 강력하고 공정한 생태계 구축을 목표로 하는 프로젝트 에비던트(Project Evident)의 창립자이자 최고경영자이다. 열정적인 사회혁신가로서 에드나 매코널 클라크 재단(Edna McConnell Clark Foundation)에서 부대표 및 사업전략 책임자로 일했고, 리드웰 파트너스(Leadwell Partners)와 뉴 프로핏 주식회사(New Profit Inc.)를 공동창립했다. 현재 리절츠 포 아메리카(Results for America)의 연방탁월성기준부합투자(Invest in What Works Federal Standard of Excellence) 자문위원회 위원인 리프 커뮤니티 앰배서더(Leap Community Ambassador)를 맡고 있다.
댓글
사회혁신 일반 · 기술
[미국] 소셜섹터를 위해
우리는 어떤 AI를 개발해야 하는가?
글로벌 시리즈: 평등을 향한 도전
KELLY FITZSIMMONS
Summary. 비영리단체를 위해 정교하게 설계된 AI 기반 애플리케이션이 어떻게 더욱 강력하고 공정한 성과를 내도록 돕는지 설명한다.
인공지능은 전 세계적으로 다양한 분야에서 개인과 조직의 사고와 행동 양식을 급속히 바꾸고 있다. 미국에서는 넷플릭스, 아마존 같은 회사는 수년 전부터 맞춤 상품 추천과 가상 고객 지원 업무에 AI를 활용하고 있으며, 연구 기관과 딥마인드DeepMind 같은 AI 연구소에서는 의학 연구를 가속화하고 기후변화에 대응하는 데 AI를 활용 중이다.
하지만 비영리단체들은 그간 이러한 기술 혁신의 순간에 그다지 관여하지 않았다. 어느 정도는 이해할 만한 현상이다. 여러모로 어려움을 겪고 있는 비영리영역은 다른 영역과 달리 연구개발 투자가 적고, AI 전문인력도 부족하기 때문이다. 하지만 이제 변화가 필요하다. 업무를 하고, 일상을 살아가는 방식을 포함해 AI가 사회에 끼치는 영향이 갈수록 커지는 상황에서 소셜섹터만이 예외가 될 수는 없다. 사실 AI의 발전에 있어 비영리가 담당할 중요한 역할이 있다. 공정성을 고려해 설계, 구현한 AI 도구는 데이터 격차를 해소하고 편견을 줄이며 비영리단체의 효율성을 높이는 데 도움이 될 수 있다. 소셜섹터에서 공정한 AI를 발전시키기 위해 기금제공자, 비영리단체 리더, AI 전문가는 시급히 협력하며 움직여야 한다.
형평성을 높이기 위해AI 활용하기
물론 AI는 흥미로운 기회를 많이 제공하지만 심각한 위험을 유발할 가능성이 있다는 점 또한 잘 알려져 있다. 개발자들은 사회 전반에서 수집한 데이터를 활용해 AI 알고리즘을 학습시킨다. 그렇기에 애초부터 편견이 AI에 내재된다. 예를 들어 금융 서비스 제공사에서 AI를 활용해 대출 여부를 결정하는 경우가 많은데, 미국 금융업계는 특정 경계 지역 설정redlining(역자주: 유색인이 주로 거주하는 빈곤 지역 등 특정 지역에 금융 서비스를 차별적으로 제공하는 관행), 불공정한 감정 및 인수 정책 등으로 오래전부터 여성과 유색인 커뮤니티를 제도적으로 차별해 온 역사가 있다. 대출 결정에 활용되는 알고리즘은 특정 우편번호와 직업뿐 아니라 인종 및 성별 관련 특성 등에 의도적으로 불이익을 주는 관행이 반영된 그간의 데이터를 학습하기 때문에 이를 해결하지 않으면 불공정한 대출 관행과 금융 불평등이 고착될 수 있다. 선의를 지닌 비영리단체라 하더라도 의도치 않게 피해를 초래하는, 결함 있는 AI 애플리케이션을 설계하기 쉽다. 예를 들어 사회적 기업가에게 초기 자금을 제공하는 단체가 편견이 내재된 금융 데이터로 AI를 학습시킬 경우, 의도와 다르게 특정 집단을 선호하게 될 수 있다. 이는 부의 형평성을 높이려는 단체의 사명에 반하는 결과를 초래하는 것이다.
또한 관리 및 분석 업무, 창의적인 업무를 수행하는 AI의 능력이 급격히 향상되면서 수많은 일자리가 사라지고, 나아가 산업 전체가 쓸모없어질 수 있다는 우려가 널리 퍼지고 있다. 최근 디지털 미디어 업체 버즈피드Buzzfeed가 AI를 활용해 자사 웹사이트에 게재할 기사를 작성하기 시작한 것처럼, 예산이 부족한 비영리단체가 홍보팀을 축소하고, AI 기반 언어 모델인 챗지피티ChatGPT를 쓰는 상황은 상상하기 어렵지 않다. 게다가 규제 사항도 아니고 재정적으로 도움이 되지도 않는 상황에서 단체가 AI의 공정성을 우선시할 이유는 별로 없다. 구글, 마이크로소프트 같은 선도적인 기술기업에서도 최근 몇 년 사이에 윤리적 AI 담당 인력을 감축했다.
이는 매우 우려할 만한 일이며, 조직들이 앞으로 해결해야 하는 문제이다. 그렇지만 공정성을 고려해 신중히 개발한다면, AI 기반 애플리케이션은 특히 다음의 세 영역에서 비영리단체가 강력하고 공정한 성과를 거두는 데 도움이 될 수 있다.
1. 데이터 격차 해소
영리 섹터와 소셜섹터의 데이터 격차가 커지면서 미국에서 핵심적인 사회서비스를 제공하는 비영리단체들의 효율성이 떨어지고, 필요한 지원을 받지 못할 위험에 처해 있다. 크리스 데이글메이어Kriss Deiglmeir는 최근 스탠퍼드 소셜 이노베이션 리뷰 기고문에 다음과 같이 썼다. “데이터는 하나의 권력이다. 그리고 슬프게도 그 권력은 정의롭고 지속가능하며 풍요로운 세상을 만들고자 애쓰는 단체들이 아니라, 상업 부문으로 점점 더 많이 넘어가고 있다.” AI는 데이터와 근거를 생성하고 모으는 과정을 민주화함으로써 예산과 내부 전문인력이 부족한 단체를 포함해 다양한 단체에서 지속적인 연구 개발, 평가, 데이터 분석을 시도할 수 있게 해 이 추세를 타파하는 데 도움을 줄 수 있다.
독해, 글쓰기, 언어 능력 향상을 위한 무료 서비스를 제공하는 비영리단체 퀼Quill.org을 살펴보자. 퀼은 AI 기반 챗봇을 활용해 학생에게 교재에 바탕을 둔 개방형 질문을 던진 후, 답변을 검토하여 개선 사항을 제시한다. 예를 들면 명확하게 서술해야 한다거나, 주장을 뒷받침할 근거를 제시하라고 조언한다. 이 기술을 통해 퀼은 학생과 학교들에 수준 높은 비판적 사고와 글쓰기 능력을 쌓을 수 있도록 돕는데, 이는 기술이 없었다면 쉽게 접하기 어려운 지원이다. 퀼 창립자이자 상임이사인 피터 골트Peter Gault는 최근 이렇게 밝혔다. “미국에서 기초적인 글쓰기 능력이 떨어져 학교와 직장에서 불이익을 겪는 저소득층 학생이 2천7백만 명에 달합니다······. AI를 활용해 학생들에게 글쓰기에 대한 즉각적인 피드백을 제공한다면, 우리는 교사들이 수백만 명의 학생들을 실력 있는 작가, 비판적 사상가, 민주주의의 적극적인 구성원이 되도록 지원할 수 있습니다."
2. 편견 완화
어떻게 AI가 편견을 더 고착시킬 수 있는지를 보여주는 사례는 많다. 경찰서에서 흑인 피고인이 백인보다 향후 재범 위험이 더 높다고 판단하는 알고리즘을 활용한 일이나 기업에서 여성 지원자에게 불리한 채용 알고리즘을 사용한 일 등이 바로 그런 사례이다. 이때 AI는 공정한 의사결정을 내리도록 도와 편견을 완화하는 데 도움을 줄 수 있다. 신중하게 설계된 알고리즘은 인종, 성별, 연령과 같이 결과와 무관한 변수를 무시하고 인간의 의사결정에 영향을 미치는 변수를 배제하여 비영리단체 실무진이 인간으로서 가진 편견과 맹점에 빠지지 않고, 패턴을 파악해 증거에 기반한 의사결정을 내릴 수 있도록 도와준다.
근거 기반 의사결정을 지원하는 AI를 활용하는 단체로는 퍼스트 플레이스 포 유스First Place for Youth를 들 수 있는데, 이곳은 청소년이 자족하며 책임감 있는 성인으로 성장하도록 돕는 기관이다. 퍼스트 플레이스 포 유스는 데이터 안에서 인과관계를 찾아내 추세와 행동 패턴을 예측하는 정밀 분석 기술을 활용한다. 이를 통해 사업 운영 및 사례 평가 데이터를 분석하고 청소년들의 성과 차이를 학습하는 방식으로 추천 엔진을 구축했다. 실무진은 이 추천 엔진을 통해 특정 집단에게 이전에 어떤 사업이 효과적이었으며 어떤 식으로 지원을 할 때 성공 가능성이 가장 높은지를 더 잘 파악할 수 있다. 공정성이라는 관점에 맞추어 설계된 AI 알고리즘은 각 인구집단이 사업에 동등하게 참여할 수 있는지를 분명하게 판별할 수 있다. 또한 기존의 편견을 답습하지 않기 위해 추천 사례를 인종과 같은 사회문화적 요소에 근거하지 않고 선별한다. 어떤 아동이 특정 사업에 선정되는 이유가 인종과 같은 요소여서는 안 되기 때문이다.
3. 효율성 증대
뉴욕타임스 칼럼니스트에게 음침한 판타지를 내보이며 사랑 고백을 한 빙Bing 챗봇, 트랜스젠더 혐오 농담 때문에 트위치에서 금지당한 AI 생성 사인필드 드라마 패러디, 인종차별 발언으로 운영 중지된 마이크로소프트 챗봇 등 우스꽝스러운 수준에서 끔찍한 지경에 이르기까지 AI 애플리케이션이 저지른 실수 사례는 넘쳐난다. 그러나 추천 엔진, 정밀 분석, 자연어 처리 같은 AI 기반 애플리케이션은 인간이기에 저지르는 실수를 줄이고, 단체의 성과를 높이는 데 도움을 줄 수 있다. 단순 반복 작업을 AI에 맡기면 비영리단체 실무진은 컴퓨터가 할 수 없는 전략적 업무와 대인 업무에 더 집중할 수 있다.
무료 문자 기반 정신건강 지원 및 위기 개입을 제공하는 비영리 단체 크라이시스 텍스트 라인Crisis Text Line은 AI를 활용해 고품질의 대인 서비스를 유지하면서 효율성과 확장성을 높였다. 특히 과거 문자 데이터를 학습해 고위험 단어와 표현을 인지하도록 AI를 훈련해 심각도에 따라 발신자를 더 효율적으로 분류할 수 있게 했다. 자원봉사자의 위기 대응력 강화 교육에도 AI가 일부 활용된다. 현실을 반영한 가상 사례로 학습한 크라이시스 텍스트 라인의 자연어 처리 알고리즘은 자원봉사자와 내담자 간의 대화를 모방할 수 있다. 크라이시스 텍스트 라인은 이 기술을 활용해 효율적이고 유연하게 자원봉사자 교육을 진행한다. 그 덕에 자원봉사자가 시간대를 자유롭게 선택하여 교육을 이수할 수 있을뿐더러, 실무진 및 교육 이수 자원봉사자들이 내담자에게 실시간으로 양질의 서비스를 제공하는 데 더 많은 시간을 쓸 수 있다.
비영리 AI 개발 지원
위에서 언급한 사례들은 인공지능의 가능성을 보여주지만 안타깝게도 아직은 일반적이지 않은 예외적 사례에 불과하다. 소셜섹터는 이 변화의 기회를 잡기 위해 더 노력해야 한다. AI를 활용하면 어떤 것들이 가능할지 그려보고, AI가 공정성을 더 갖출 수 있도록 적절한 도구와 기반을 구축해야 한다.
내가 속한 단체, 프로젝트 에비던트Project Evident는 비영리단체가 데이터와 근거의 힘을 활용해 더 큰 영향력을 발휘하도록 돕고, 보다 공정한 생태계를 구축하는 것을 목표로 한다. 지난 18개월 동안 AI에 초점을 맞춘 시범 사업을 추진하면서 우리는 AI를 활용해 사업 성과를 끌어올리고자 하는 비영리단체들을 모아 실제 AI 시범 적용 및 도입 과정을 보여주는 사례를 발굴했다. 현재는 효과적이고 공정한 AI 도구 개발에 도움을 주고자 스탠퍼드 인간중심 AI 연구소Stanford Institute for Human-Centered AI와 협업하여 전국적인 AI 활용 실태조사를 실시하는 한편, 비영리단체와 기금제공자 측의 욕구를 파악하는 중이다. 이러한 사업을 통해 우리는 소셜섹터가 공정한 AI 생태계를 강화할 몇 가지 방안을 도출했다.
1. AI 도구 개발을 위한 투자 확대하기
AI가 업무에 어떤 도움을 줄지 알고 싶지만 이를 확인해줄 수단이 부족한 비영리단체와 교육구school district가 많다. 우리의 시범 사업에 참여한 교육 분야 비영리단체 디지털 프로미스Digital Promise의 대표 장클로드 브리자드Jean-Claude Brizard는 이렇게 말했다. “비영리단체의 기금 조달 구조상 이런 사업을 실제로 추진하기는 어렵습니다. 대부분 이런 데 쓸 시간과 자원이 없거든요.” 이 문제를 해결할 한 가지 방법은 기금제공자들이 다음 두 부류의 비영리단체에 모두 기금을 제공하는 것이다. 한 부류의 단체는 AI '선주민natives'으로 공정한 결과물을 내는 AI를 이미 활용 중인 단체이고, 또 다른 부류는 AI '탐색자explorers'로 AI를 도입해볼 의향이 있지만 자본과 지원이 부족한 단체이다.
재단들 또한 자체적으로 AI 학습에 투자하고 기금 배분 과정의 효율성을 높이거나 모금 전략을 개선하는 데 AI를 활용할 가능성과 방법을 검토해야 한다. 일례로 우리와 협력하는 재단 중 한 곳에서는 효율적인 모금 전략 요소의 패턴을 찾기 위해 지난 기금배분 보고서를 읽고 분석하도록 AI를 훈련시켰다. 데이터 평가자와 데이터 과학자로 구성된 팀을 고용해 휴먼 인 더 루프human-in-the-loop(역자주: 인간의 상호작용을 포함하는 기계 학습 방식) 검증을 통해 수천 건의 제안서와 보고서에 담긴 정성적 문자 데이터를 구조화된 종단 데이터로 변환하는 대규모 언어 모델large language model을 훈련시킨 것이다. 그런 다음 이 데이터를 설문조사, 면접, 포커스그룹 등의 1차 평가 데이터와 결합해 우리의 시범사업에서 제시한 변화이론에 따라 정리, 처리, 프레임화, 구조화, 라벨링을 진행했다. 마지막으로 인간/직무전문가human/subject-matter-expert의 지도 및 검토를 병행하는 기계 학습 알고리즘으로 서술적, 예측적, 인과적 모델링을 거쳤다. 재단 실무자들은 이렇게 나온 온디맨드 데이터를 보고서 작성, 대화형 보고서, 시각화, 대시보드에 활용하는데, 이 과정에서 사업의 효과성 여부를 파악하는 AI의 능력도 강화된다. 이로써 재단은 사전 지식을 바탕으로 새로운 기금 배분 전략을 수립하고, 학습 내용을 기금 수혜자 및 활동 현장에 더 잘 전달할 수 있게 된다. 또한 효율성이 높아짐에 따라 사업 담당자들은 오직 인간만이 할 수 있는 일, 즉 수혜자, 예비 수혜자, 지역사회와 관계를 강화하는 작업에 더 많은 시간을 쓸 수 있다.
2. AI와 공정성 문제를 해결하는 활동에 협력하기
단체가 AI 개발의 윤리 및 공정성 측면을 고려하도록 유도하는 재정적 인센티브나 규제가 적다는 것도 문제다. 영리 부문에서는 대체로 수익성과 확장성을 염두에 두어 AI를 개발한다.
공정한 AI를 개발하기 위해서는 연구자, 정책입안자, 기술 지원 제공자, 기금 제공자, 비영리 실무자, 지역사회 구성원이 두루 협력하여 신중하게 관행과 정책을 발전시켜야 한다. 입법과 규제를 요구하고, 현장에 적용할 체계와 기준을 개발하며, 지역사회의 필요를 충족할 도구 개발 과정에 지역사회를 참여시키고, AI 알고리즘의 편견 측정 및 감시 관련 지식과 모범 사례를 공유하는 등의 활동이 병행되어야 한다.
현재 소셜섹터를 지원하고 자문하는 일을 강화하기 위한 몇 가지 작업이 진행되고 있다. 미 상원 민주당 원내대표 척 슈머Chuck Schumer는 의회에서 포괄적이고 초당적인 AI 법안을 마련하는 데 도움이 될 AI 포럼을 연속 개최할 것이라고 공표했다. 지난 9월에 열린 첫 번째 포럼에는 기술 전문가뿐 아니라 노동운동가와 민권운동가들도 참여했다. 또한 분산형 AI 연구소Distributed AI Research Institute에서는 AI가 어떤 식으로 소외 집단에 더 큰 영향을 미칠 수 있는지 연구하는 한편 지역사회의 의견을 중시하고 공정성을 높이는 AI 개발 및 실무 체계를 구축하고 있다. 두 가지 모두 공정성과 AI라는 문제에 대응하는 진보적이고 융합적인 작업으로서 기대할 만한 사례이다.
3. 기본에 충실하기
AI를 시범 도입하는 단체가 공정한 결과물을 얻으려면 전략적 목적, 적절한 기술 체계, 정의롭고 공정하게 설계할 능력, 열정적인 학습 문화를 갖추어야 한다. 새로운 이야기도, AI에만 해당되는 이야기도 아니지만, 소셜섹터에서는 이같은 역량이 간과되거나 관련 재정이 부족한 경우가 많다.
프로젝트 에비던트는 지속적인 근거 구축 및 사업 개선의 지침으로 활용할 전략적 근거 계획strategic evidence plan을 수립하려는 단체들과 협력하고 있다. 우리는 이사회나 기부자의 요구 때문이든 리더가 '당연히 할 일'이라고 생각하기 때문이든 평가를 수행하려 하는 비영리단체에 한 걸음 물러나 이러한 질문을 던져보도록 조언한다. 우리가 이를 통해 얻으려는 교훈은 무엇인가? 이루려는 성과는 무엇인가? 이렇게 명확한 방향성은 근거 전략 개발뿐 아니라 추천 엔진이나 다른 AI 기반 도구를 개발할 때도 마찬가지로 중요하다. 사실 AI 알고리즘은 사업의 투입 및 기대 성과를 설명하는 논리 모델을 단순히 번역한 것에 지나지 않는다.
비영리단체 리더들은 AI 활용하기에 앞서 조직이 적절한 기반을 적절히 갖추고 있는지 확인해야 한다. 또한 소셜섹터의 다른 기관들은 비영리단체들에게 기본적으로 역량 구축에 필요한 기금과 도구를 제공하여 이들을 지원해야 한다. 필라델피아에 본사를 둔 사회서비스 기관 젬마 서비시스Gemma Services는 지역 내 기금제공자(스캐터 굿 재단Scattergood Foundation)와 필라델피아를 대상으로, 단체에서 개발하려는 AI 애플리케이션이 어떻게 젬마서비시스팀 뿐 아니라 정신건강에 관심 있는 필라델피아 전역의 기금제공자와 정책입안자에게도 유용한 교훈을 제공할 수 있는지 보여주어, AI 도구 개발 기금을 성공적으로 유치했다.
소셜섹터에서 AI의 잠재력은 어마어마하다. 신중하게 설계된 AI 애플리케이션은 데이터 격차를 해소하고 편견을 줄이며 비영리단체의 효율성을 높이는 데 도움이 될 수 있다. 하지만 AI의 잠재성을 최대한 활용하기 위해서는 필요한 자원을 제공하고 공정성을 우선시하며 조직의 기본적 역량에 투자하는 기반이 소셜섹터에 강력히 구축되어야 한다. 우리는 더 많은 자원을 확보하고, 이를 더 잘 연계하며, 더 강력한 목적의식을 가지고 소셜섹터를 준비시켜야 한다. 소셜섹터가 AI의 힘을 활용해 모두를 위한 강력하고 공정한 성과를 이루도록 말이다.
> 원문 기사 보기
KELLY FITZSIMMONS
켈리 피츠시먼스는 강력하고 공정한 생태계 구축을 목표로 하는 프로젝트 에비던트(Project Evident)의 창립자이자 최고경영자이다. 열정적인 사회혁신가로서 에드나 매코널 클라크 재단(Edna McConnell Clark Foundation)에서 부대표 및 사업전략 책임자로 일했고, 리드웰 파트너스(Leadwell Partners)와 뉴 프로핏 주식회사(New Profit Inc.)를 공동창립했다. 현재 리절츠 포 아메리카(Results for America)의 연방탁월성기준부합투자(Invest in What Works Federal Standard of Excellence) 자문위원회 위원인 리프 커뮤니티 앰배서더(Leap Community Ambassador)를 맡고 있다.