올해 국정감사에서 AI산업에 대한 진흥과 규제를 동시에 논의할 것으로 보인다. 기업들의 AI 도입 및 활용을 적극 지원함과 동시에 AI 윤리 기반을 조성해야 한다는 것이 주요 쟁점이다.
국회입법조사처는 지난 3일 '2021 국정감사 이슈 분석' 보고서를 통해 올해 산업통상자원중소벤처기업위원회 국감 이슈로 '기업의 AI 도입 및 활용 현황 점검'을, 과학기술정보방송통신위원회 이슈로 '인공지능 윤리 기반 조성'을 제시했다.
AI가 전산업 분야로 기술 도입이 확대되면서, 혐오·차별 등 여러 사회적 문제들도 함께 부각되고 있다. 특히, 올해 초 AI 챗봇 '이루다 사태'를 통해 AI의 윤리 문제를 전국민이 목격한바 있다. 올해 국감에서는 기술의 오용을 견제하고, 신뢰할 수 있는 기반 조성을 위한 AI 윤리 수립의 필요성이 제시됐다.
최근 미국, 유럽 등은 추상적으로 다루었던 AI 윤리를 법･제도로 구체화하여 개발 및 활용 과정에서 AI 윤리를 고려한 통제 체계를 구축하려는 움직임이 늘고 있다. 특정 분야에서 AI 활용 금지, 고위험 분야 AI에 대한 안전성 요건 수립 등을 법률안이나 지침 형태로 논의되고 있는 상황이다. 국제표준화기구도 AI 윤리 규범을 평가하는 표준을 수립하기 위한 작업반을 구성하고 있다.
우리 정부도 지난해 12월 'AI 윤리기준'을 마련했고, 대통령 직속 4차산업혁명위원회는 전체회의를 열어 ‘AI 윤리기준’을 심의 의결했다. 하지만 아직 통합적이고 구체적인 기준은 제시되지 않았다.
이는 인간 존엄성, 사회의 공공선, 기술의 합목적성이라는 3대 원칙과 이를 실현하기 위한 10대 핵심요건에 그쳐 선언적이라는 한계가 있다는 지적이 있다. 또, 개인정보보호위원회가 지난 5월 AI 서비스 개발과 운영 과정에서 자율점검표를 발표했으나 이는 개인정보 보호 측면에 한정돼 있다.
세계 주요국들도 윤리적이고 신뢰할 수 있는 AI 구현을 위해 다양한 정책을 추진해왔다. 미국은 2016년 발표된 ‘AI 미래를 위한 준비’와 ‘국가 AI R&D 전략계획’에 이어 2020년 1월 연방정부의 규제 가이드라인에 AI 윤리 및 안전, 신뢰성 제고를 위한 원칙 및 방안 포함시켰다.
EU의 경우 2019년 4월 ‘신뢰할 만한 AI 윤리 가이드라인’을 발표했고, 2020년 7월 AI의 신뢰성 측정을 위한 평가 목록을 공개한바 있다. 또한, 지난 4월 EU 집행위원회는 EU 전역에 걸쳐 통일된 법적 프레임워크를 구축하기 위한 최초의 AI 규제안(Artificial Intelligence Act)을 발표했다.
이처럼 AI 윤리와 신뢰성이 주목받고 있는 현시점에서 부산광역시와 더에이아이, 디지틀조선일보가 개최하는 글로벌 AI 컨퍼런스 'AWC 2021 in Busan'이 오는 9월 1일과 2일 양일간 부산 벡스코에서 개최되며, 'AI for SDGs'라는 대주제 안에서 AI 윤리에 대한 발표도 진행될 예정이다.
AWC(AI World Congress)는 국·내외 AI 분야 전문가·관계자의 전문 강연과 토론을 통해 4차 산업기술의 핵심인 AI의 현황과 미래를 살펴보고, 각국의 교류가 이루어질 수 있는 장을 제공하는 국내 대표 글로벌 AI 컨퍼런스다.
코로나19로 경제 상황이 많이 위축되었음에도 AI산업 발전을 위해 개최되는 이번 컨퍼런스는 온라인과 오프라인에서 동시에 진행되며, 현장에서는 방역수칙을 철저히 준수할 계획이다.
'AWC 2021 in Busan'에 연사로 참여하는 루스 키킨 길(Ruth kikin-Gil) 마이크로소프트 시니어 AI 전략가는 '책임 있는 AI를 생각하며 AI 제품을 디자인'이라는 주제로 AI의 윤리와 신뢰성에 대하여 발표를 진행할 예정이다.
루스 키킨 길은 마이크로소프트의 '책임 있는 AI(Responsible AI)'를 이끄는 설계 전략가이자 '인간-AI 상호작용에 대한 지침'의 공동 제작자이다. 또한, 워싱턴 대학교 HCDE(Human Centered Design and Engineering) 학과에서 디자인을 가르친 경험이 있다.
AWC 2021 in Busan에 앞서 루스 키킨 길 마이크로소프트 시니어 AI 전략가에게 책임 있는 AI와 AI 윤리에 대한 생각을 들어보았다.
Q. 간단한 자기소개를 해주세요.
안녕하세요. 제 이름은 루스 키킨길이고 디자이너입니다. 저는 마이크로소프트(Microsoft, 이하 MS)에서 책임 있는 AI(Responsible AI, RAI) 업무를 주도하고 있습니다. AI의 올바르고 책임감 있는 방향을 선도하는 사람으로서 책임감 있는 AI 기술과 책임의 의미, 그리고 우리가 취해야 할 자세와 접근 방식의 본질, 그리고 조직 내에서의 실제 활성화를 위해 노력하고 있습니다.
Q. MS의 '책임 있는 AI'란 무엇인가요?
MS의 중요한 이정표 중 하나는 2017년 AI 윤리 에터 위원회(Aether Committee)의 창립이었습니다. AI 설계 및 개발에서 기술화 단계까지 전 과정에서 감시·비판할 수 있는 사내 자문 조직인 에터 위원회는 제품, 윤리 및 엔지니어링 관행에 대해 매우 잘 아는 전문가들로 구성된 소규모 그룹입니다. AI 윤리 에터 워원회는 윤리 문제에 대해 MS의 리더들과 협의하여 내부의 원칙을 만들었습니다. MS에서 AI의 윤리와 책임 있는 AI가 영향력을 가지는 순간이었습니다. 그 이후로 에터 위원회는 MS 내에서 확고한 자리를 잡고 있습니다. 또한, 현재 우리는 진행하면서 배우고 있습니다. 소규모로 모범 사례를 수립한 후 대규모로 발전시키려고 노력하고 있습니다.
Q. '책임 있는 AI'의 리더이자 수석 UX 디자이너 이기도 합니다. 업무적으로 시너지가 있는지?
디자인은 문제 해결에 관한 것입니다. 디자인은 생각하고, 틀을 짜고, 재구성하고 그리고 우리가 다른 문제들을 어떻게 인식하는지에 관한 것입니다. 따라서, 전략적이고, 탐구적이며, 무엇을 해야 하는지 이해하고, 어떻게 해야 하는지 알아내는 것입니다. 모든 디자이너의 교육의 한 부분은 인간 중심입니다. 사람을 중심에 두고 호기심과 공감을 하는 것을 의미합니다. 이는 책임 있는 AI의 본질에 매우 가깝습니다. 디자인하면서 사람과 시스템의 결과를 생각하는 것입니다. 이것은 보통 디자이너들이 세상에 내놓을 무언가를 만들려고 할 때 생각하는 것입니다. 전통적으로, 많은 사람들은 데이터 과학자가 책임 있는 AI를 선도하고 있다고 생각할 수 있습니다. 데이터 과학과 데이터 과학자가 엔진인 반면, 디자이너는 이를 세계와 사람들에게 전달해야 하는 주체입니다. 저는 이것이 인간의 문제이자 사회적 문제이기 때문에 참여해야 할 사람들의 범위가 단순한 데이터 과학보다 훨씬 더 넓다고 말하고 싶습니다. 또한, 책임 있는 AI의 관행을 생각하고 적용할 때, 모든 분야의 사람들이 이 과정에 참여하기를 원합니다. 사람마다 사물에 대한 관점이 다르며, 문제(위험)와 해결 방법을 서로 다른 각도에서 볼 수 있습니다. 데이터 과학 배경을 사용하는 경우 데이터 과학 모델을 살펴볼 수 있습니다. 법적 관점을 가지고 있다면, 규제 부분을 볼 수 있습니다. 사용자 경험이 있는 경우 모든 종류의 완화를 살펴보는 경향이 있습니다. 사실, 이 모든 다양한 관점이 필요합니다. AI를 담당하는 새로운 분야에서는 모든 각도에서 통찰력을 포함하는 전체적인 접근 방식이 필요합니다.
Q. MS에서 책임 있는 AI의 역할은 무엇입니까?
책임 있는 AI는 우리가 AI의 제품을 어떻게 보고 있는지, 그리고 그것들이 어떻게 우리의 삶에 나타나는지에 대한 인간 중심적인 접근이라고 생각합니다. 우리는 제품을 출시할 때 부정적인 점보다 긍정적인 점이 훨씬 더 많을 수 있도록 노력하고 있습니다. 우리는 또한 원칙에 대해 생각하고 있습니다. 올바른 가치관을 바탕으로 MS는 포용성, 공정성, 신뢰성, 책임, 보안 및 개인 정보 보호와 같은 일련의 AI 원칙을 가지고 있습니다. 우리가 취하고 있는 모든 접근방식은 이 원칙들을 기반으로 하고 있습니다. 또한, 서로 다른 관점을 가지고 협력하여 문제되는 지점과 가능한 해결책을 이해합니다. 아울러, 나타나는 문제에 적극적으로 대처합니다. 무슨 일이 일어날 때까지 기다리지 않고, 문제 생기기 전에 문제를 찾아보는 노력을 하는 것입니다.
Q. 책임 있는 AI 달성을 위한 주요 과제는 무엇이며 이러한 과제를 어떻게 해결할 수 있나요?
모두 사람들은 책임 있는 AI의 아이디어를 좋아합니다. 하지만 현실화에는 여러가지 어려움을 가지고 있습니다. 자원이 한정되어 있지만, 높은 품질 보장할 수 있는 제품을 출시하는데 많은 부분이 투입되고, 규정 가이드라인을 준수합니다. 접근성에 대한 프라이버시 등 많은 작업이 그러한 부분에 속합니다. 그래서 사람들이 이전에 생각하지 못했던 새로운 것, 특히 책임감 있는 AI가 상대적으로 새로운 것으로 완전히 새로운 과정을 거치고 있을 때, 가장 큰 도전은 문화의 변화, 즉 'RAI Literacy'입니다. 사람들이 윤리에 관해 이야기하는 것은 별개이지만, 실제로 그것을 적용하려고 할 때는 다릅니다. 제품이 윤리적이거나 책임감을 가지기 위해서는 교육, RAI에 대한 인식 등 필수 요소가 있어야 합니다. 또한, 사용 가능한 도구와 방법에 대해 아는 사람이 필요합니다. RAI가 신흥 분야이기 때문에 핵심 툴과 방법에 대한 이해가 진화하고 있습니다. AI와 기술적인 측면에 대한 지식과 이해도 발전했습니다. 우리는 1년 전과 다른 지식과 이해를 하고 있습니다. 이전의 이해는 버려지지 않고 발전해 왔습니다. 우리는 새로운 이해를 얻거나 이전 도구들을 기반으로 더 많은 도구를 구축할 수 있습니다. 어려움으로 돌아가면 사람들은 해답을 원합니다. 그들은 정확히 무엇을 해야 하는지 알고 싶어 합니다. 하지만, 확실한 해답은 없습니다. 윤리는 상황과 상대에 따라 적용이 달라질 수 있기 때문입니다.
Q. 책임 있는 AI의 확산은 어떻게 할 수 있나요? 논의를 주도하는 것은 정부와 MS 같은 큰 기업에 달려 있나요?
저는 개인적으로 정부이던 대기업이던 아무거나 좋습니다. 하지만, 그것은 하룻밤 사이에 일어나지 않을 일입니다. 시간이 걸릴 것이에요. 먼저 문제를 인지하고 책임 있는 AI가 무엇을 의미하는지 미묘한 뉘앙스를 파악하는 것부터 시작 해야합니다. 그러면 사용 가능한 도구, 사용 방법 및 시기에 대한 이해와 같이 더 많은 것을 배울 수 있습니다. 우리 중 누구나 할 수 있는 일이 있다고 생각합니다. 그것은 대기업이든 스타트업이든 상관없습니다. 이미 RAI에 대해 스스로 교육하고 문제를 더 잘 인식하거나 깨달아야 할 것들이 있습니다. 저는 전 세계 여러 회사와 정부 간에 많은 변화가 일어나고 있다고 생각합니다. 결국은, 그들은 모두 책임있는 AI에 대해 동의하게 될 것입니다.
Q. 기업이 AI 윤리 및 책임 있는 AI를 고려하지 않고 기술 및 제품을 성급하게 밀어내어 부정적인 결과를 낳기도 합니다. 이것에 대해 어떻게 생각하세요?
AI의 문제는 매우 강력하고, 파급력이 크지만 많은 오해도 받는다는 것입니다. AI와 기술 산업이나 분야에 종사하지 않는 사람들과 AI에 관해 이야기할 수 있는데, 그들이 가장 먼저 상상하는 것은 인간을 죽이고 세계를 장악할 초지능 로봇입니다. 그러나 기술에 대해 자세히 살펴보면 모든 것을 수행할 수 있는 슈퍼모델은 없습니다. 로봇은 각 모델이 특정 기능을 가지고 있어 다른 모델로 결과를 이동하는 다양한 모델의 이불에 가깝습니다. 예를 들면, 자율주행 차량을 지향해야 하는지를 결정하는 것과 같은 전체와 의도를 조율하는 인간이 있습니다. 기술 자체는 지능이나 큰 기능을 가지고 있지 않습니다. AI는 우리 삶의 어디에나 존재하게 될 것입니다. 핸드폰, 컴퓨터를 이용하거나, 마트에 가거나, ATM에서 돈을 꺼내거나, 구직활동을 하거나. 모든 것에는 AI가 들어 가게 될 것입니다. 이러한 파급력 때문에 여기서 우리가 나서서 그게 좋은지, 안전한지, 개발 해야하는지 실제로 생각해봐야 합니다. 그리고 만약에 해야 한다면, 한번 해보고, 하지만 계속 지켜 봐야 합니다. 책임감 있는 AI를 재미없게 보는 사람도 있겠지만, 우리가 사는 세상을 어떻게 만들고 있는지, 어떻게 형성하고 있는지에 대해 중요한 일하고 있습니다.
Q. 책임 있는 AI와 지속발전 가능성의 연관성은?
제 전문 분야인 책임 있는 AI 시각에서 답변하겠습니다. 책임 있는 AI의 중요한 부분은 책임감입니다. 단순히 AI 제품에 적용하는 것보다 더 큰 의미를 지닌 책임 있는 기술(Responsible Tech)이라 합니다. 유명한 디자이너 앨런 쿠퍼(Alan Cooper)는 '오펜하이머 모멘트'(The Oppenheimer Moment)라고 불렀는데, 이 모멘트는 사람들이 아무 생각 없이 어떤 일을 하다가 갑자기 자신이 한 일을 깨닫는 순간을 말합니다. 지속발전 가능성과 우리의 삶, 그리고 행성의 미래에 대해 생각할 때, 이것은 더 큰 생각의 흐름에 영향을 주는 것 중 하나입니다. 왜냐하면, 결국 우리는 AI를 이용해서 이러한 문제들을 해결하고 전력 소비와 같은 지속 가능성에서도 문제를 만들 수 있기 때문입니다.
Q. ‘AWC 2021 in Busan’에서 어떤 주제를 가지고 이야기하실 예정인지?
책임 있는 AI가 왜 중요한지, 그리고 무엇이 중요한지 등 조직적이고, 실용적이며, 넓은 관점에서 어떻게 생각해야 하는지 발표할 것입니다. 그리고 우리가 할 수 있는 것들에 설명합니다.
Q. AI에 대해 추가적으로 하고 싶은 이야기가 있다면?
제품을 책임감 있게 만들어야 합니다. 고민하고 또 고민할 필요가 있습니다. 당신이 살고 싶은 세상, 당신의 자녀들과 손주들이 살고 싶은 세상에 대해 생각해보시기 바랍니다. 책임 있는 AI에 대한 이해를 갖추면, 인식을 쌓고 사람들을 교육하면, 좋은 일들이 일어날 것입니다.