대한소화기학회

[윤리레터] 인공지능과 출판윤리(Artificial intelligence & Publication Ethics): 2024.03.22

인공지능과 출판윤리(Artificial intelligence & Publication Ethics)

한림의대 강동성심병원 김유선
의편협 출판윤리위원

　인공지능(Artificial intelligence, AI)은 인간의 학습능력, 추론능력, 지각능력 등을 인공적으로 구현하는 컴퓨터 시스템이다. 인공지능의 개발은 이전부터 진행되어 왔지만, 최근 주어진 입력 데이터를 기반으로 새로운 콘텐츠를 생성하는 능력을 보유한 생성형 인공지능(generative AI)의 출현으로 획기적인 성장세를 보이고 있다. 특히 대화형 인공지능의 대표격인 ChatGPT는 자료조사, 엑셀 활용 등 업무에 사용될 뿐만 아니라, 법률 자문, 영어 공부 등의 일상생활, 그리고 소설 등을 작성하는 창작 활동에도 이미 널리 사용되고 있다. 이로 인해 과제 대필, 표절 증가 등 큰 우려가 표명되었으나, 현재는 ChatGPT 등의 인공지능 사용을 금지하는 것은 시대의 흐름에 역행하는 것으로 이를 현명하게 사용하는 기준을 정하는 것이 옳다는 의견이 지배적이다.

　실제로 네이처지에서 1,600여명의 연구자들에게 인공지능 사용에 대해 설문 연구를 진행한 결과, 많은 연구자들은 비록 그릇된 정보 양산, 알아채기 힘든 표절이나 변조를 증가시키는 등 많은 우려가 존재하는 것은 분명하지만, 영어 논문 작성이나 편집을 용이하게 함으로써 연구자들의 시간과 노력을 절약할 수 있으며 앞으로 연구자들은 더욱 인공지능을 사용하게 될 것이라고 답변하였다.¹ 한국연구재단의 “연구개발에서 인공지능 도구의 활용과 관련된 연구윤리 이슈 분석” 리포트에 따르면, 우리나라에서도 이미 많은 연구자들이 연구계획서 및 연구보고서(논문 포함) 작성에 인공지능을 활용하고 있다. 하지만, 인공지능은 존재하지 않는 데이터 또는 입력된 데이터와 연관 없는 질문에 그럴듯한 답변을 하는 환각(hallucination)을 만들어낼 수 있고, 입력된 자료에 따른 내재된 편향 또는 편견(hidden bias)을 보일 수 있으며, 저자됨(authorship), 저작권(copyright) 등에서 문제를 일으킬 수 있다.

　먼저 저자됨에 대한 우려가 제기됨에 따라 많은 편집 관련 기관 및 유수 학술지에서 인공지능은 저자가 될 수 없음을 천명하였는데, 인공지능은 저자됨의 가장 중요한 요건 중의 하나인, 연구에 대한 책임을 질 수 없고, 논문 최종본에 대한 승인을 할 수 없기 때문이다. 또한 인공지능은 의지를 가지고 창작을 하는 것이 아니고 인간의 명령에 의해 결과물을 생성하므로 저작자로 표시될 수 없다.

세계 의학 편집자 협의회(World Association of Medical Editors, WAME)는 2023년(January 20, 2023; Revised May 31, 2023) 학술지 출판에서 챗봇(chatbots) 및 생성형 인공지능 사용에 대한 5개의 추천 내용을 제시하여 각 학술지의 챗봇 사용에 대한 정책 개발 및 저자와 리뷰어가 챗봇을 활용하는데 도움을 주고자하였다.²5개의 추천 내용은 다음과 같다.

　1) 인간만이 저자가 될 수 있다.

　2) 저자는 논문에 사용된 자료의 출처를 밝혀야 하며, 특히 챗봇 사용에 대해 투명하게 밝혀야 한다.

　3) 저자는 연구결과를 포함한 논문에 대한 책임을 져야 하는데, 챗봇이 제공한 자료에 대해서도 책임을 져야 한다.

　4) 편집인과 리뷰어들은 심사 과정에서 챗봇을 사용하여 심사평을 적거나 논문을 평가할 경우, 이를 저자 및 서로에게 밝혀야 한다.

　5) 편집인들은 출판에서 챗봇의 영향을 확인하고 처리할 적절한 디지털 툴을 사용하여 도움을 받아야 한다. 특히 의학 논문의 경우 잘못된 정보는 사람들에게 해를 끼치므로 더욱 중요하다.

　저자들이 꼭 알아야 할 것은 챗봇 사용 정보를 투명하게 공개해야 한다는 것이다. 특히 문장을 생성하기 위해 챗봇을 사용한 경우, 감사의 글 등에 문장 생성에 사용된 프롬프트 내용, 챗봇이 제시한 문장, 논문에 기술된 최종 문장 등을 기술해야 한다. 또한 챗봇을 이용하여 결과를 분석하거나 그림, 표 등을 만든 경우에는, 논문의 초록과 방법에 이에 대해 기술하고 이때 사용된 챗봇의 종류, 버전이나 사용한 날짜 등도 제공해야 한다. 뿐만 아니라, 저자들은 챗봇이 생성한 결과물에 책임을 져야 하고 표절 위험성을 줄이기 위해 노력해야 한다.

　이외에 세계 의학 편집자 협의회는 학술 출판에서 챗봇은 다음과 같은 기능으로 사용될 수 있다고 제시하였다. 1) 간단한 워드 프로세싱 작업으로 단어나 문법 체크, 2) 연구 및 논문 작성을 위한 아이디어 및 문장 생성, 3) 실체적 연구 등이다.

　실제로 연구자들은 인공지능을 이용하여 연구 주제 분야의 토픽을 선정하거나 실험 설계 및 연구 디자인의 적절성 평가 등을 할 수 있다. 또한 적절한 투고 저널 선정, 참고문헌 및 피어 리뷰어 제안 등에서도 도움을 받을 수 있다. 무엇보다 영어가 모국어가 아닌 연구자들에게 인공 지능은 영문 문장 작성 및 문법 수정에 큰 도움을 줄 수 있고 이외에도 통계 및 데이터 분석, 논문 요약 제공, 표절 예방 프로그램 사용 등에도 도움이 된다.

　인공 지능은 이미 우리 사회에 지대한 영향력을 끼치고 있으며, 학술 출판 분야에서도 인공지능의 사용은 기하급수적으로 확대되고 있다. 연구자 및 저자들은 인공지능을 적절하게 사용할 경우, 연구 및 출판에 큰 도움을 받을 수 있는데, 이를 위해서는 세계 의학 편집자 협의회가 권장한 챗봇 사용에서 저자들이 지켜야 할 내용을 잘 이해하고 준수해야 한다. 무엇보다 저자는 챗봇 사용에 대해 투명하게 밝혀야 하고 챗봇이 제공한 자료에 대한 책임을 져야 한다는 사실을 명심해야 한다.

참고문헌

　1. Noorden RV, Perkel JM. AI and science: what 1,600 researchers think. Nature 2023;621:672-675. DOI: 10.1038/d41586-023-02980-0

　2. Zielinski C, Winker MA, Aggarwal R, et al. Chatbots, generative AI, and scholarly manuscripts: WAME recommendations on chatbots and generative artificial intelligence in relation to scholarly publications. Curr Med Res Opin. 2024;40:11-13. DOI: 10.1080/03007995.2023.2286102.

윤리레터

대한소화기학회 사이트맵