THE AI View

[AI풍향계] ‘챗GPT’는 논문 공장장?
  • 김동원 기자
  • 기사입력 2023.01.17 17:31

    논문 활용 사례 급증 추세… 악용 막을 ‘검사프로그램’도 등장
    美서 공저자 등록, 英선 교신저자로도 이름 올려

    • 의학논문 사전 공개사이트인 ‘매드아카이드’에는 챗GPT를 공저자로 이름을 올린 논문이 개제됐다. /매드아카이드 캡처
      ▲ 의학논문 사전 공개사이트인 ‘매드아카이드’에는 챗GPT를 공저자로 이름을 올린 논문이 개제됐다. /매드아카이드 캡처

      미국 인공지능(AI)연구소 ‘오픈AI’가 개발한 ‘챗GPT’가 학계의 이단아로 떠올랐다. 연구 분야에 상관없이 다양한 논문의 ‘공저자’로 이름을 올리고 있는 사례가 발견되고 있기 때문이다. 

      지난달 12일 의학논문 사전 공개사이트인 ‘매드아카이드’에 올라온 ‘대규모 언어 모델을 이용한 인공지능 지원 의료교육의 가능성’이란 논문에는 챗GPT가 세 번째 공저자로 이름을 올렸다. 같은 달 16일 시오반 오코너 영국 맨체스터대 간호학과 교수는 국제 간호학회에 발표한 ‘간호 교육에서 AI 플랫폼을 개방 : 학문적 진보 또는 남용을 위한 도구’라는 논문에 챗GPT를 교신저자로 등재했다.

      챗GPT는 1750억 개 이상 파라미터(매개변수)를 보유한 거대 언어모델 ‘GPT-3’를 기반으로 제작된 대화형 AI 서비스다. GPT-3에 보상과 처벌을 통해 AI가 올바른 결괏값을 내게 하는 강화학습을 적용, AI가 사람과 더 수준 높은 대화를 할 수 있게 만들어졌다. 이 서비스는 마치 실제 사람과 대화하는 것과 같은 서비스를 제공해 출시 1주 만에 100만 명 이상의 사용자를 확보했다. 하지만 이 서비스는 문제점도 초래했다. 챗GPT의 대화 생성 능력을 논문이나 과제 등에 적용하면 큰 노력 없이 결과물을 만들어낼 수 있어서다. 

      챗GPT를 이용한 논문은 기존의 논문검사 프로그램도 무사히 통과하는 것으로 나타났다. 캐서린 가오 미국 노스웨스턴대 박사 연구진은 챗GPT가 작성한 논문이 표절 검사 프로그램을 통과할 수 있는지에 관한 연구 결과를 지난달 27일 공개했다. 연구진은 미국의학협회저널(JAMA), 뉴잉글랜드저널오브메디슨(NEJM), 랜싯, 브리티시메디컬저널(BMJ), 네이처 메디슨 등 세계적인 의학 학술지에 실린 논문을 참조해 의학 논문 초록 50편을 작성하게 했다. 이 초록을 표절 검사 프로그램으로 돌린 결과, 표절 검사를 100% 통과했다. AI로만 쓴 논문이 실제로 등재될 수 있다는 가능성을 입증한 것이다.

      이 문제는 과학자들에게 이슈로 떠올랐다. 논문 작성에 챗GPT를 사용하는 경우 교신저자나 공동저자로 이름을 올릴 수 있지만, 아직 이러한 제도나 규칙은 정해져 있지 않아 남몰래 악용하는 사람도 나올 수 있어서다. 샌드라 와처 영국 옥스퍼드대 교수는 “과학 연구는 사회에 큰 영향을 준다”며 “과학자들의 연구가 진짜인지 판단할 수 없다면 무서운 결과를 가져올 수 있다”고 지적했다.

    • 미국 프린스턴대 4학년에 재학 중인 애드워드 티안은 챗GPT로 쓴 글을 판별하는 ‘GPT제로’를 개발했다. /GPT제로 홈페이지 캡처
      ▲ 미국 프린스턴대 4학년에 재학 중인 애드워드 티안은 챗GPT로 쓴 글을 판별하는 ‘GPT제로’를 개발했다. /GPT제로 홈페이지 캡처

      사태가 이렇다 보니 이를 막기 위한 프로그램도 개발됐다. 미국 프린스턴대 4학년에 재학 중인 애드워드 티안 학생이 개발한 ‘GPT제로’다. 이 프로그램은 특정 문장이나 단어가 사용되는 비율과 특정 문맥에서의 단어 사용 빈도 수치를 뜻하는 ‘언어적 간헐성’으로 챗GPT 활용 여부를 판단한다. 작성자가 제출한 글의 문장 구조를 측정해 언어적 간헐성 비율을 파악하고, 이 결과를 챗GPT 언어 데이터와 비교하는 방식이다. 애드워드 티안은 “분석 결과가 데이터와 유사할수록 챗GPT가 쓴 글일 확률이 높은 결과가 나왔다”며 “현재 탐지 정확도는 98%”라고 주장했다. 또 “현재 하버드대, 예일대, 로드 아일랜드대 등 주요 대학의 6000명 이상 교수들이 GPT제로를 사용하기로 계약했다”고 밝혔다.

      챗GPT의 논문 작성 여부는 국내에서도 유의 깊게 보고 있다. 챗GPT가 한국어 전용 프로그램이 아니라 당장의 위험은 없어도 국내 초거대 AI 기술로 유사한 기술을 만들어낼 수 있어서다. 국내에서 AI 기반 표절검사 서비스 ‘카피킬러’를 공급하고 있는 무하유의 송복령 프로는 “초거대 AI 기반 대화형 서비스는 공개된 데이터를 토대로 글을 만들어내기 때문에 이러한 데이터를 탐지하는 기술을 고도화하면 AI가 작성한 논문을 탐지할 수 있을 것으로 본다”면서 “해외 사례를 유의 깊게 지켜보면서 국내에 필요한 부분이 있으면 준비할 수 있도록 하겠다”고 말했다.

    최신 뉴스

    더보기