Trend

[AWC] 마리야 액센테 “규칙과 윤리를 고려한 책임감 있는 AI 접근법 필요”
  • 김경희 기자
  • 기사입력 2021.09.01
    • “지난 몇 년 동안 AI 개발 및 활용 전면에 리스크와 윤리적 고려사항이 대두되고 있다. 점점 더 많은 기업이 AI의 사전적 거버넌스를 우선하고 있으며, 자율 시스템이 가져오는 새로운 과제를 반영하기 위해 현재의 조직 관행, 역할 및 책임을 업데이트하고 있다”

      마리야 액센테(Maria Axente) PwC의 윤리적인 AI 실행 책임자 겸 RSA 선임 연구원은 1일 디지틀조선일보, 부산시, 더에이아이, 부산정보산업진흥원, 벡스코가 공동 주최한 글로벌 AI 콘퍼런스 ‘AWC 2021 in Busan’의 강연에서 이렇게 말했다.

    • ‘AWC 2021 in Busan’ 줌웨비나 화면 캡쳐
      ▲ ‘AWC 2021 in Busan’ 줌웨비나 화면 캡쳐

      ‘책임 있는 AI를 향한 여정’을 주제로 마리야 액센테는 책임 있는 AI의 개발 및 사용에 관한 모범 사례와 예측된 결과, 그뿐만 아니라 의도하지 않은 결과를 완화하면서 이점을 극대화하기 위한 여정에 착수하는 방법에 대해 강연했다.

      마리야 액센테는 “지난 5년 동안 다양한 전 세계적으로 다양한 알고리즘과 핵심 AI에 다루는 다양한 기사가 많이 쏟아졌다. 채용에 있어 여성을 차별하는 알고리즘이나 신용카드, 빈곤 가정 출신 학생의 차별 등 AI의 알고리즘 활용에 있어서 긍정적, 부정적 인식이 생기기 시작하며, AI의 장점뿐 아니라 단점이 있을 수 있다는 것을 알 수 있다”고 설명했다.

      이러한 애플리케이션을 사용하기 전에 AI의 부정적인 측면도 고려해야 하며, AI가 어떻게 자율성을 보여줄 수 있을지, 외부 상호 작용도 파악을 해야 한다.최근 2021년 세계적으로 AI에 대한 법안이 개정됐다. 이 법안은 AI 애플리케이션의 규제 등 올바른 규제를 만들고 있다. 일종의 행위나 AI 개발 촉진과 관련해서 초기 단계에서 위험을 고려하게 한다. AI 생애주기도 지속적으로 모니터링이 필요하다.

    • ‘AWC 2021 in Busan’ 줌웨비나 화면 캡쳐
      ▲ ‘AWC 2021 in Busan’ 줌웨비나 화면 캡쳐

      특히, 코로나 팬데믹 이후 여러 기업에서는 AI 기술을 더 많이 활용하고 투자하고 있다. 팬데믹 발생 이전에는 임원의 47%가 AI 상황 투자나 고려하지 않고 있다고 답했지만, 팬데믹 발생 1년 후는 5%로 대폭 감소했다. 즉 기업들은 경제 상황의 회복과 생산성을 높일 수 있는 AI 기술사용을 고려하고 있다는 것이다.

      AI 산업이 발전하며 늘어나는 현상도 있다. 바로 새로운 규율과 분야와 연구 발전이 있는 것이다. 규칙과 윤리를 고려한 책임감 있는 AI 접근법이다. AI의 도덕적 측면도 살펴본다는 의미이다. AI를 사용함에 있어서 장점 외에 위험도 있다는 것을 생각해야 한다. 도덕적인 요인과 잠재적으로 발생할 수 있는 위험과 혜택의 극대화를 고려해야 한다.

      마리야 액센테는 “AI의 규정 달성을 위해서는 여정을 통해 우리가 최대한 AI가 무엇인지 시작에 대해 이해할 수 있게 된다. 어떠한 의미에서 개발되었고, 사용하는 것 등 책임감 있는 AI의 책임이 필요하다”고 말했다.

      AI 측면에서는 기업이나 사업 전략을 어떻게 실현할지에 대해 고려해야 하며 정책, 절차, 비즈니스 유닛, 조직 구성 방식, 절차, 업계의 규체 등 조직의 현실도 고민해야 한다.현재 전 세계적으로 규제가 수립되고 있고, 책임에 대한 경계, 책임에 대한 규칙이 마련되고 있다.

      또 상황에 맞게 올바른 가치를 반영해야 한다. 마리야 액센테는 “올바른 가치란, 일반적인 행위다. 바로 윤리적 원칙을 채택하는 것이다. 현실에서는 이러한 규칙이 고유적 철학적하고 일치하지 않는 경우도 있다. 정말 중요한 것은 주요 도덕적 원칙을 이해하는 것이 중요하다”고 산업, 연구기관 등 각 문화는 개별적 가치를 가지고 있고, 이런 윤리는 AI 반영 규칙에 반영되어야 한다고 덧붙였다.마리야 액센테는 “궁극적으로 중요한 것은 우리가 모두 생각을 바꿔야 하고 관점을 바꿔야 한다”고 강조했다.

    최신 뉴스

    더보기