서울대, AI 탐지기 사용 중단, AI시대 대학교육 어디로 가야 하나?

AI 탐지기 중단이 던지는 대학 교육의 질문

서울대가 AI 탐지 서비스 사용을 중단했다는 소식은 짧지만 묵직한 질문을 남긴다. 학생이 생성형 AI를 사용해 쓴 과제를 어떻게 가려낼 것인가. 그리고 더 근본적으로는, AI가 글과 코드, 요약과 분석까지 만들어내는 시대에 대학은 무엇을 가르치고 무엇을 평가해야 하는가.

 

서울대의 결정은 얼핏 보면 “AI 부정행위를 더 이상 감시하지 않겠다”는 뜻처럼 들릴 수 있다. 그러나 사실은 반대에 가깝다. 서울대가 멈춘 것은 AI 사용을 관리하려는 노력 자체가 아니라, 정확성이 충분히 검증되지 않은 탐지 결과에 학생의 성적과 명예를 맡기는 방식이다.

 

최근 보도에 따르면 서울대는 AI 작성 가능성을 판별하는 서비스 ‘GPT킬러’와의 제휴 계약을 2026년 7월 1일 종료했다. 이에 따라 학생과 교직원이 학내에서 이용하던 AI 탐지 서비스도 중단됐다. 서울대는 이 서비스가 AI 사용 여부를 확정하는 기술이 아니라, AI가 작성했을 가능성을 추정하는 수준에 머물러 있고, 그 과정에서 직접 작성한 글이 AI 글로 판정되는 오류가 생길 수 있다는 점을 우려한 것으로 알려졌다.

 

매일경제 | 서울대, AI 탐지기 사용 중단… “부정행위 잡으려다 교육 놓쳐”

[단독] 서울대, AI 탐지기 사용 중단… "부정행위 잡으려다 교육 놓쳐" - 매일경제

 

이 결정이 나온 시점은 역설적이다. 대학가의 AI 부정행위 우려가 줄어서가 아니라, 오히려 더 커진 때이기 때문이다. 보도에 따르면 GPT킬러의 2025년 10월 중간고사 기간 이용량은 전년 같은 기간보다 3.9배 늘었고, 교수 평가용 이용량은 4.3배 증가했다. AI를 쓴 학생을 찾아내고 싶어 하는 수요가 그만큼 커졌다는 뜻이다.

 

하지만 탐지 수요가 늘어날수록 대학은 불편한 현실과 마주하게 된다. AI 탐지기가 정말 학생의 부정행위를 정확하게 가려내는가. 학생이 직접 쓴 글을 AI가 썼다고 잘못 판단하지는 않는가. AI가 만든 글을 학생이 조금만 다듬으면 탐지 결과를 피할 수 있다면, 탐지율 경쟁은 교육에 어떤 도움을 주는가.

 

서울대의 선택은 바로 이 문제를 정면으로 드러낸다.

탐지 점수는 ‘판결문’이 아니다

AI 탐지기는 학생이 작성한 문장에서 AI 특유의 패턴이 나타나는지를 분석한다. 문장 구조가 지나치게 일정한지, 표현이 반복되는지, 문법 오류가 적은지, 단어 선택이 평균적인지 등을 보고 AI 작성 가능성을 추정한다.

 

그러나 인간의 글도 충분히 그런 특징을 가질 수 있다. 글을 많이 쓰고 여러 번 퇴고한 학생, 정형화된 학술문체를 익힌 학생, 문법 교정을 받은 학생, 한국어보다 영어 글쓰기에 더 익숙한 학생의 글도 AI가 쓴 것처럼 보일 수 있다. 반대로 AI가 만든 글에 사람이 자신의 경험과 표현을 덧붙이면 탐지가 어려워질 수도 있다.

 

AI 작성 탐지 기능을 제공하는 Turnitin도 이 한계를 공식적으로 인정한다. Turnitin은 AI 탐지 결과가 인간 작성물과 AI 생성물, AI 도움을 받은 의역문을 잘못 분류할 수 있으며, 탐지 결과를 학생에게 불이익을 주는 조치의 유일한 근거로 써서는 안 된다고 안내한다.

 

Turnitin | AI writing detection in the enhanced Similarity Report

Using the AI Writing Report

 

이 문제는 기술적으로만 중요한 것이 아니다. 학생의 성적과 징계, 대학에서의 평판, 진학과 취업에까지 영향을 줄 수 있기 때문이다. AI 탐지 결과가 불완전하다면, 높은 탐지 점수를 근거로 곧바로 과제 0점이나 징계를 부과하는 일은 공정성의 원칙에 어긋날 수 있다.

 

탐지기는 필요하다면 추가 검토가 필요한 신호로 활용할 수 있다. 그러나 탐지 점수 그 자체가 학생을 유죄로 판단하는 증거가 되어서는 안 된다. 학생에게 설명 기회를 주고, 수업 규정과 실제 작업 과정, 참고문헌, 초안, 구두 설명, 과제의 내용과 맥락을 함께 검토해야 한다.

 

서울대의 결정은 AI 탐지기를 ‘판결문’처럼 사용하는 대학 문화에 제동을 건 사례로 볼 수 있다.

연구가 확인한 불편한 사실

영국의 두 대학 비즈니스스쿨에서 진행된 Kofinas, Tsay, Pike의 2025년 실험연구는 서울대 사례를 이해하는 데 중요한 근거를 제공한다.

 

연구진은 대학 교원 8명에게 세 가지 종류의 과제를 섞어 제시했다. 실제 학생이 작성한 과제, 학생 과제 일부를 ChatGPT 3.5로 수정한 과제, ChatGPT 3.5가 전면 작성한 과제다. 평가자들은 어느 과제가 인간 작성물이고 어느 과제가 AI 개입물인지 모르는 상태에서 총 21개 과제를 채점했다.

 

결과는 간단하지 않았다. 평가자 쌍별 AI 개입 여부 판단 정확도는 33.3%에서 85.7%까지 크게 차이 났다. 어떤 평가자 쌍은 21개 과제 중 7개만 정확히 구분했다. 인간이 직접 쓴 과제를 AI가 쓴 것으로 의심한 오탐 사례도 6건 있었고, AI가 수정하거나 전면 생성한 과제를 인간 작성물로 본 미탐 사례도 7건 있었다.

 

연구진은 특히 AI 사용 가능성을 알고 있는 것 자체가 채점자의 판단을 흔들 수 있다고 지적한다. 평가자는 문법 오류가 거의 없는 글, 지나치게 매끄러운 문장, 균일한 문단 구조를 AI의 흔적으로 보기도 했다. 그러나 이는 성실하고 글쓰기 능력이 높은 학생의 특징일 수도 있다.

 

좋은 글을 쓴 학생이 “너무 잘 썼다”는 이유로 의심받는다면, 대학의 평가는 교육적 정당성을 잃는다.

 

이 연구에서 ChatGPT 3.5가 전면 작성한 과제물 6개는 55점에서 70점 사이의 평가를 받았다. 영국 학부 평가체계에서 통과 가능한 수준의 결과물이었다. 연구진이 설계한 조건에서는 약 90분 안에 생성된 AI 과제물이 실제 학습 과정과 무관하게 과목 통과에 필요한 수준으로 평가될 수 있었다.

 

Kofinas·Tsay·Pike | The impact of generative AI on academic integrity of authentic assessments

<em>British Journal of Educational Technology</em> | BERA Journal | Wiley Online Library

 

물론 이 연구 하나로 모든 대학 과제가 무력화됐다고 말할 수는 없다. 연구는 영국의 두 대학, 비즈니스 분야, 서면형 과제, ChatGPT 3.5라는 제한된 환경에서 진행됐다. 최신 모델이나 실험·실습·예술·임상·현장 프로젝트·구술시험까지 포괄하는 연구는 아니다.

 

그러나 최소한 하나의 사실은 분명하다. 최종 보고서나 에세이만 보고 학생의 실제 학습과 AI의 개입을 확실하게 구분할 수 있다는 믿음은 더 이상 안전하지 않다.

AI 시대의 대학은 무엇을 평가해야 하는가

서울대의 탐지기 중단 소식은 “AI 사용자를 어떻게 잡아낼 것인가”라는 질문을 넘어, 대학 평가의 목적을 다시 묻게 한다.

 

그동안 대학은 글쓰기와 보고서, 논문, 코드, 시험 답안 같은 결과물을 통해 학생의 학습을 평가해 왔다. 물론 이런 평가 방식은 여전히 중요하다. 글을 쓰고, 근거를 찾고, 논증을 만들고, 문제를 해결하는 능력은 대학 교육의 핵심이다.

 

문제는 이제 글의 일부 또는 전부를 AI가 만들 수 있다는 데 있다. AI는 정책 보고서 초안을 쓰고, 기업 사례를 정리하고, 법률 쟁점을 요약하고, 코드를 만들고, 발표문을 구성할 수 있다. 학생이 AI의 결과를 그대로 제출한다면, 교원은 완성된 결과물만으로 학생이 실제로 무엇을 이해했는지 확인하기 어려워진다.

 

그래서 대학은 결과물 평가를 포기하는 것이 아니라, 결과물만 평가하는 방식에서 벗어나야 한다.

 

학생이 정책 보고서를 제출한다면, 최종 보고서만 받는 데서 끝나지 않을 수 있다. 학생이 처음 설정한 문제는 무엇이었는지, 어떤 자료를 찾아보고 어떤 자료를 제외했는지, 핵심 통계와 인용을 어디서 확인했는지, AI의 답변 가운데 무엇을 채택하고 무엇을 수정하거나 폐기했는지, 왜 그런 판단을 내렸는지를 함께 볼 수 있다.

 

보고서 제출 뒤 3분에서 5분 정도의 짧은 구두 설명을 더할 수도 있다. 학생이 자신의 핵심 주장, 자료 선택, 정책 대안의 한계를 직접 설명하게 하면, AI가 만들어 준 문장을 읽는 것과 실제로 이해하는 것을 구별하는 데 도움이 된다.

 

수업 중 짧은 자료 해석, 제한시간 내 논증 구성, 현장 사례 적용, 동료 토론, 프로젝트 중간 점검도 중요한 평가 장치가 될 수 있다. 이런 방식은 AI를 완전히 차단하기 위해서가 아니다. 학생이 AI를 활용하더라도 자기 생각과 판단, 검증 과정과 책임을 남기도록 하기 위해서다.

 

이런 관점은 국제 전문가 연구에서도 확인된다. Crompton 등을 포함한 35명의 연구자는 22개 국가·지역, 6개 대륙의 고등교육 전문가를 대상으로 델파이 조사를 진행했다. 이 연구에서 전문가 패널의 88%는 대학이 공식 정책과 유연한 현장 지침을 함께 운영해야 한다고 답했다.

 

공식 정책은 학업윤리 위반의 정의, 처분 절차, 개인정보 보호, 책임 주체처럼 대학 전체에 공통으로 적용할 원칙을 정한다. 반면 교과목별 지침은 전공과 수업의 특성에 따라 AI를 어디까지 허용할지, 어떤 과제에서 사용을 제한할지, AI를 사용했다면 무엇을 공개해야 할지를 구체화한다.

 

연구진은 대학 AI 거버넌스가 적어도 학업윤리, 책임 있는 AI 활용, 개인정보 보호, 공정한 접근성, AI 리터러시, 교육과정 통합, 인간의 감독과 책임, 기관의 지원과 인프라를 포함해야 한다고 제시했다.

 

Crompton 등 | Governing generative AI in higher education: a global Delphi study

 

서울대의 사례에서 특히 중요한 것은 ‘인간의 감독과 책임’이다. 성적과 징계처럼 학생의 권리와 미래에 직접 영향을 주는 결정은 탐지 점수나 자동화된 도구에 맡길 수 없다. 학생의 작업 과정과 수업 규정, 실제 증거를 인간이 검토하고, 학생이 설명하고 소명할 수 있어야 한다.

AI를 금지하는 교육과 AI에 항복하는 교육 사이

AI 시대의 대학은 두 가지 잘못된 길을 피해야 한다.

 

첫 번째는 AI를 무조건 금지하는 길이다. 학생이 이미 일상적으로 활용하는 기술을 교실 밖으로만 몰아낸다고 해서 AI가 사라지는 것은 아니다. 오히려 대학은 학생이 AI의 오류와 편향을 어떻게 검증해야 하는지, 어떻게 출처를 확인해야 하는지, 개인정보와 저작권 문제를 어떻게 다뤄야 하는지 가르칠 기회를 잃게 된다.

 

두 번째는 AI에 모든 것을 맡기는 길이다. AI가 요약한 자료를 읽고, AI가 쓴 초안을 내고, AI가 만든 발표문을 그대로 읽는다면 학생은 지식을 자신의 것으로 만드는 과정을 잃을 수 있다. AI는 그럴듯한 답을 만들 수 있지만, 그 답의 정확성을 보장하지 않으며, 특정한 사회적 맥락에서 어떤 판단이 더 타당한지 책임질 수도 없다.

 

생성형 AI의 위험을 다룬 Bernstein 등의 2025년 체계적 문헌고찰은 컴퓨팅교육 분야의 연구 224편을 분석했다. 연구진은 AI가 인지, 메타인지, 학업윤리, 형평성, 사회적 관계, 수업 운영에서 다양한 위험을 만들 수 있다고 정리했다.

 

AI가 틀린 정보를 그럴듯하게 제시할 수 있고, 학생이 문제를 스스로 풀기보다 정답을 즉시 얻는 방식에 익숙해질 수 있으며, 유료 구독 서비스와 기기·언어 격차가 새로운 교육 불평등을 만들 수 있다는 것이다.

 

그러나 이 연구가 강조하는 더 중요한 사실은 많은 위험 주장이 아직 충분한 실증연구로 검증되지 않았다는 점이다. “AI가 학생의 비판적 사고를 반드시 약화시킨다”거나 “AI 사용이 부정행위를 폭발적으로 늘린다”는 식의 단정은 아직 연구가 허용하는 범위를 넘어선다.

 

정확한 판단은 이렇다. 생성형 AI는 교육의 위험 요인이 될 수 있다. 그러나 그 효과는 학생의 준비도, 과제의 설계, 교수자의 안내, AI 도구의 사용 방식, 수업 환경에 따라 달라질 수 있다. 따라서 대학은 공포나 낙관이 아니라, 실제 교육 효과를 관찰하고 수정하는 정책을 만들어야 한다.

 

Bernstein 등 | Beyond the Benefits: A Systematic Review of the Harms and Consequences of Generative AI in Computing Education

Beyond the Benefits: A Systematic Review of the Harms and Consequences of Generative AI in Computing Education

 

서울대 이후, 대학이 해야 할 일

서울대의 AI 탐지 서비스 중단은 끝이 아니라 시작이다. 탐지기를 끈 다음, 대학은 더 어려운 일을 해야 한다.

 

먼저 모든 강의계획서와 과제 안내문에 AI 사용 범위를 분명하게 적어야 한다. AI를 학습 보조로 허용하는지, 특정 단계에서만 조건부 허용하는지, 독립적 수행이 필요한 평가에서는 금지하는지를 학생이 수업 시작부터 알 수 있어야 한다.

 

다음으로 조건부 허용 과제에는 AI 활용 선언을 요구할 수 있다. 학생은 어떤 도구를 어떤 목적으로 사용했는지, AI 답변 가운데 무엇을 반영했는지, 핵심 사실과 인용을 어떻게 검증했는지를 밝혀야 한다. 이는 AI 사용을 면죄하는 장치가 아니라, 투명성과 책임을 배우게 하는 장치다.

 

또한 대학은 최종 결과물뿐 아니라 학습 과정을 평가해야 한다. 연구 질문, 자료 탐색 기록, 출처 검증 메모, 초안과 수정 이력, 발표와 질의응답은 학생의 실제 이해를 확인하는 데 도움을 준다.

 

무엇보다 AI 탐지 결과는 성적 불이익이나 징계의 단독 근거가 되어서는 안 된다. AI 사용 의심은 확인이 필요한 출발점일 수 있지만, 판단은 실제 증거와 수업 규정, 학생의 설명 기회, 공정한 절차를 바탕으로 이뤄져야 한다.

 

서울대가 중단한 것은 AI 부정행위 관리가 아니라, 오류 가능성이 있는 AI 탐지 결과만으로 학생의 AI 사용 여부를 판단하는 방식이다. 이제 대학은 탐지 점수보다 과목별 사용 규칙, 학생의 작업 과정, 실제 이해를 확인하는 평가 방식에 더 의존해야 한다.

 

이제 대학이 평가해야 할 것은 학생이 AI를 한 번도 사용하지 않았는가만이 아니다. 학생은 AI가 제시한 답의 오류와 편향을 찾아낼 수 있는가. 인용과 통계의 출처를 검증할 수 있는가. AI의 제안을 자신의 문제와 현실 맥락에 맞게 수정할 수 있는가. 자신의 주장과 근거를 다른 사람 앞에서 설명하고 방어할 수 있는가.

 

생성형 AI 시대의 대학 교육은 AI를 피하는 교육이 아니라, AI 앞에서도 인간의 판단과 책임을 잃지 않게 하는 교육이어야 한다.