연구에 쓰는 AI, 심사자료도 넣어도 될까…국내외 지침이 나눈 경계

대학 연구실에서 AI 활용을 가르칠 때는 결과를 잘 만드는 방법과 함께, 어떤 자료를 입력할 수 있는지도 구분해야 한다. 이달 공개된 국내 국가연구개발 AI 연구윤리 가이드와 미국 국립과학재단(NSF)의 공식 지침은 연구자의 책임과 심사자료의 기밀성을 함께 다룬다.

한국과학기술기획평가원(KISTEP)이 9월 18일 게시한 ‘국가연구개발 AI 연구윤리 가이드’는 국가연구개발에서 AI를 쓰는 연구자를 주 대상으로 한다. AI 활용을 규제하기 위한 문서가 아니라 윤리적 활용을 지원하는 권고라고 목적을 밝힌다. 이를 모든 초중고 과제의 일률적인 채점 규칙으로 옮겨 읽어서는 안 된다.

가이드는 연구자가 AI 생성물의 오류와 출처의 진위를 확인하고, 결과가 나온 과정을 설명할 수 있어야 한다고 제시한다. 최종 성과물을 내거나 발표할 때는 사용한 모델·버전과 목적·범위를 공개하도록 권고한다. 사용 여부를 밝히는 일과 결과를 검증하는 일은 각각 필요하다.

평가 단계에서는 입력자료의 경계가 더 분명하다. 연구계획서·결과보고서·논문 등 평가 대상 자료를 외부 AI에 입력하지 않도록 하며, 평가자는 자신의 전문성과 판단에 근거해 심사하도록 안내한다. 보안이 필요한 연구에는 기관이 허가한 보안 환경의 도구를 사용한다는 원칙도 담았다.

해외 비교 사례인 NSF의 2023년 12월 14일 공지는 심사자가 제안서 내용, 심사정보와 관련 기록을 승인되지 않은 생성형 AI 도구에 올리는 것을 금지한다. 공개 인터넷을 통한 제안서 정보 공유는 심사의 기밀성과 무결성 원칙을 위반한다는 설명이다. 공개적으로 이용 가능한 정보를 도구와 공유하는 경우와는 구분한다.

반면 NSF는 제안서 작성자에게 AI를 얼마나, 어떻게 활용했는지 밝히도록 권장하면서 제출 내용의 정확성과 진실성은 작성자가 책임져야 한다고 명시한다. 연구 지원 도구로 사용하는 상황과 타인의 비공개 연구를 심사하는 상황을 같은 허용 기준으로 보지 않는 것이다.

두 문서는 적용 기관과 시점이 다르며, 국내 가이드 발표가 NSF 규정을 바꾸는 것은 아니다. 연구실 교육에서는 이 차이를 유지한 채 ‘내가 작성하는 자료인가, 심사를 위해 맡은 자료인가’, ‘공개 가능한 정보인가’, ‘해당 기관이 허용한 도구인가’를 확인하는 출발점으로 삼을 수 있다. 이는 원문 비교에서 도출한 교육적 시사점이며 실제 교육 효과를 측정한 결과는 아니다.