AI에 입력한 아이의 질문, 누구의 데이터가 될까

아이가 AI에 숙제나 고민을 입력한다. 화면에 답이 나타난 뒤에도 질문은 남는다. 입력한 내용은 어디에 보관되고, 어떤 목적으로 쓰이는가. 학교의 AI 도입을 살펴볼 때 확인해야 할 질문이다.

미국교사연맹(AFT), 뉴욕시 교원노조(UFT), 마이크로소프트는 9월 9일 학교용 AI의 안전과 개인정보 보호 기준을 발표했다. 학생·교직원 데이터 보호, 사람의 감독, 학교와 학부모에 대한 설명 책임이 핵심이다. 공개된 발표와 협약을 문답으로 정리했다. 아래 질문은 취재 발언이 아니라 쟁점을 설명하기 위해 편집부가 구성한 것이다.

Q. 이름을 입력하지 않으면 학생 정보가 아닌가?

이름만으로 판단할 수는 없다. 협약 원문은 식별 가능한 학생과 연결된 질문과 AI 답변, 행동 기록, 기기 식별정보 등을 학생 데이터에 포함한다. 입력 내용이 계정이나 다른 정보와 연결되는지도 살펴야 한다.

Q. 학생 데이터를 AI 학습에 사용할 수 있나?

협약은 보호 대상 데이터를 AI 모델 학습·개선에 사용하는 것을 원칙적으로 금지한다. 다만 위해나 보안 위협을 탐지·예방하는 데 필요한 제한적 예외가 있다. 이 예외는 일반적인 모델 개선이나 광고 등에 활용할 수 있다는 뜻이 아니며, 목적과 처리량 등을 제한한다.

Q. 학교에서 사용하는 AI라면 모두 적용되나?

그렇지 않다. 협약은 교육을 주목적으로 설계·판매되고 교육기관과의 계약에 따라 사용하는 생성형 AI 제품을 대상으로 정의한다. 학교에서 사용하는 범용 업무·검색·협업 도구가 모두 포함되는 것은 아니다. 미국 교육기관 고객을 대상으로 하는 계약 체계이므로 국내 학교나 학생 개인 계정에 같은 보호가 자동 적용된다고 볼 수 없다.

Q. 개인정보 보호 기준이 있으면 학습 효과도 입증된 것인가?

별도로 판단해야 한다. 마이크로소프트는 9월 16일 후속 발표에서 학생의 사고를 대신하지 않는 AI와 교사의 통제권을 원칙으로 제시했다. 이는 회사의 교육 방향이며, 특정 제품의 학습 효과가 독립적으로 입증됐다는 뜻은 아니다.

초월의 해석: 계정의 이름보다 실제 이용 조건을 확인해야

이번 발표는 학교의 AI 선택 기준을 구체적으로 묻는 계기가 될 수 있다. 어떤 정보를 보관하는지, 보관·삭제를 누가 통제하는지, 학생이 사용할 제품과 계정에 무엇이 적용되는지 확인할 필요가 있다. 개인정보 보호와 학생이 스스로 생각하는 수업인지는 각각 살펴야 한다.

이 기사는 공개 자료에 근거한 해설이며, 학교 현장 인터뷰나 협약의 실제 이행 여부를 독립적으로 검증한 결과는 포함하지 않는다.