"AI를 끈 뒤에도, 그 결과를 당신의 이름으로 책임질 수 있습니까?"

튀르키예의 한 고등학교에서 9∼11학년 학생 약 1,000명을 대상으로 수학 학습 실험이 진행되었다. 학생들은 세 집단으로 나뉘었다. 한 집단은 ChatGPT와 유사하게 답하는 범용 AI를 사용했고, 다른 집단은 정답을 바로 알려주지 않고 학생이 푼 과정을 먼저 확인한 뒤 힌트와 단계적인 안내를 제공하도록 설계된 AI 튜터를 사용했다. 나머지 학생들은 AI 없이 교과서와 수업자료만으로 문제를 풀었다.

연습문제를 푸는 동안 범용 AI를 사용한 학생들의 성적은 AI를 사용하지 않은 학생들보다 48% 높았다. AI 튜터를 사용한 학생들의 성적은 127% 높았다. 적어도 AI를 사용할 수 있는 동안에는 두 집단 모두 훨씬 좋은 결과를 냈다.

그러나 AI를 사용할 수 없는 시험에서는 전혀 다른 결과가 나타났다. 범용 AI를 사용한 학생들은 처음부터 AI를 사용하지 않은 학생들보다 17% 낮은 점수를 받았다. 연습 중에는 더 많은 문제를 맞혔지만, 그 과정이 학생 자신의 수학 능력으로 충분히 남지는 않았던 것이다. 정답을 바로 제공하지 않도록 설계된 AI 튜터 집단에서는 성적이 그만큼 크게 저하되지는 않았지만, 그렇다고 AI 없이 공부한 집단보다 더 높은 시험 성과를 보이지도 않았다.

더 흥미로운 것은 학생들이 이 차이를 제대로 인식하지 못했다는 점이다. 범용 AI 집단은 시험 성적이 낮아졌는데도 자신이 덜 배웠다고 생각하지 않았다. AI 튜터 집단 역시 AI 를 활용했을 때만큼의 성적을 내지 못했음에도 자신은 더 잘 배웠다고 평가했다. 실제로 축적된 역량과 스스로 느끼는 학습 효과 사이에 차이가 있었던 것.

이 실험은 AI가 학습에 도움이 되는가, 해가 되는가라는 단순한 이분법적인 문제가 아니다. 같은 생성형 AI를 사용하더라도, AI가 답을 대신하게 하는지 아니면 직접 사고하도록 돕는 방식으로 쓰는지에 따라 이후의 역량 변화가 달라질 수 있다는 점이다.

이 문제는 비단 고등학생의 수학 학습에만 국한되지 않는다. 많은 사람이 논문이나 업무 보고서, 책을 요약하고, 자료를 비교하며 문서 구조를 만들고, 논지의 빈틈을 찾거나 다음 질문을 만들어내는 데 AI를 활용한다. AI에게 반론을 요청해 개념 사이의 연결을 테스트하거나, 아직 정리되지 않은 생각을 대화를 통해 발전시킬 수도 있다. 실제로 AI는 이전에 보지 못했던 관점을 발견하게 하거나, 학습과 작업의 범위를 넓히거나, 혼자서는 오래 걸렸을 사유를 더 멀리 밀어주는 역할을 하기도 한다.

AI 활용으로 이루어진 학습과 사유의 확장까지 부정할 순 없다. 다만 AI 덕분에 더 잘 수행할 수 있었던 것과, 그 수행이 자신의 역량으로 남았는지는 다른 문제다.

결과물은 이전보다 더 빠르고 정교하게 완성된다. 대화 수준도 높아지고, 질문을 던질 때마다 적절한 답이 돌아온다. 그러나 그 과정에서 자신의 역량이 확장된 것인지, 아니면 이전에 자신이 수행하던 과정의 일부가 AI 쪽으로 이동한 것인지 결과만으로는 구분하기가 점점 어려워진다. 오히려 AI를 능숙하게 사용할수록 이 차이는 더 잘 가려진다.

AI의 위험을 가장 크게 말하던 사람들조차 어느새 여러 AI 서비스를 병행해 사용하는 모습을 종종 본다. ‘AI를 믿지 않는다고 말하는 것’과 ‘AI를 사용하지 않는 것’은 이미 전혀 다른 문제가 되었다. 생성형 AI는 불과 2-3년 전만 해도 대학 수업에서 사용을 규제해야 한다는 논의가 오갔다는 사실이 무색할 만큼 빠르게 일상적인 환경으로 자리 잡았다.

국제노동기구는 2025년 전 세계 일자리 네 개 중 하나가 생성형 AI에 어느 정도 노출되어 있으며, 직업 전체의 즉각적인 자동화보다 인간과 AI가 맡는 업무가 다시 나뉘는 직무 전환이 더 가능성 높은 결과라고 분석한다. 세계경제포럼 역시 2030년까지 직무에 필요한 핵심 기술의 39%가 달라질 것으로 전망한다. AI와 빅데이터 같은 기술 역량의 중요성이 빠르게 높아지는 동시에, 분석적 사고, 창의적 사고, 회복탄력성, 협업과 같은 인간 역량을 어떻게 유지하고 강화할 것인지도 계속 중요한 문제로 남는다.

그렇다면 이제 질문은 “AI를 사용할 것인가”가 아니다.

AI를 사용하는 동안 오히려 내 역량이 약화되고 있지는 않은가.
어떤 작업을 AI에 넘겨도 좋고, 어떤 작업은 넘기면 안되는 지 그 경계를 제대로 알고 있는가.
스스로 판단하고 수행해야 하는 일까지도 넘기고 있지는 않은가.
그리고 그 경계가 달라지고 있다는 사실을 스스로 자각하고 있는가.

OECD의 「디지털 교육 전망 2026」은 생성형 AI가 명확한 교육 원칙 아래 사용될 때에는 학습을 지원할 수 있지만, 인지적 과제를 AI에 넘기는 방식으로 사용하면 당장의 수행만 향상되고 실제 학습으로 이어지지 않을 수 있다고 지적한다. 여러 연구에서 범용 생성형 AI를 사용한 학습자들은 과제를 수행할 때 더 좋은 결과를 냈지만, AI를 사용할 수 없는 시험에서는 그 우위가 사라지거나 오히려 역전되었다.

AI 사용 과정에서 느끼는 이해와 성장의 감각은 중요한 경험이다. 그러나 그 감각 자체가 역량 향상의 증거가 되지는 않는다. 유네스코의 AI 역량 프레임워크 역시 AI의 결과를 효율적으로 소비하는 능력보다 인간의 비판적 이해와 창조적 주도권을 강조한다.

AI는 단순히 더 좋은 답을 얻기 위한 도구가 아니다. 무엇을 직접 판단하고, 무엇을 AI와 나누며, 그 결과를 어디까지 스스로 책임질 것인지를 결정하는 능력이다.

문서 파일을 정리하고, 발표자료를 만들고, 표를 고치고, 이미지나 형식을 다듬는 일에서 AI의 역할은 비교적 쉽게 식별된다. 어떤 업무를 AI가 대신 수행했는지가 결과물의 형식과 작업 단계에 드러나기 때문이다.

그러나 AI의 개입이 다음과 같은 단계로 이동하면 구분이 어려워진다.

· 무엇이 중요한 문제인지 제안받는 일
· 자료에서 가능한 논지를 추려내는 일
· 주장 사이의 관계를 구성하는 일
· 여러 해석의 방향을 시험하는 일
· 아직 정리되지 않은 생각을 언어화하는 일
· 다음 질문이나 반론을 만들어내는 일

특히 연구자, 강사, 창작자, 인문학 학습자에게 AI는 단순한 보조 도구에 머물지 않는다. 문제를 다시 설정하고, 논지의 빈틈을 찾고, 서로 떨어져 있던 생각을 연결하며, 아직 정리되지 않은 사유를 전개하는 대화 상대 역할까지 수행한다. 오히려 이러한 사용은 추론 모델로서 AI의 특성을 더 제대로 활용하는 방식일 수도 있다. 실제로 AI와의 대화를 통해 이전에는 미처 생각하지 못했던 반론을 발견하고, 자신의 이론을 더 멀리 밀고 나간 사람도 있다.

문제는 AI가 사유의 과정에 참여했다는 사실 자체가 아니다. 중요한 것은 그 과정에서 무엇이 자신의 판단에서 나왔고 무엇이 AI의 제안에서 시작되었는지, AI가 만들어낸 논리와 판단을 자신의 역량인 것처럼 덮어씌우고 있지는 않은지, 그 결과를 자신의 이름으로 설명하고 책임질 수 있는지를 스스로 구분할 수 있는가다.

이러한 오인은 한 번의 결과물에 그치지 않는다. 충분히 이해하지 못한 전제와 논리를 다음 작업의 기반으로 삼고, 스스로 검토할 수 없는 판단 위에 다시 새로운 결과를 쌓으면 오류와 모순은 갈수록 눈덩이처럼 커진다. 결과물의 수준은 계속 높아 보이지만, 그것을 내놓은 사람이 그 구조를 설명하거나 방어하지 못한다면..? 문제가 발견되어도 어떤 전제에서 잘못되었는지, 어디서부터 수정해야 할지를 모른다면..? 결국 자신의 이름으로 내놓은 작업에 스스로 책임질 수 없는 상황에 이르게 된다.

이 문제는 외부에서도 확인이 쉽지 않다. 매끄러운 논지와 완성도 높은 결과물만으로는 AI의 제안을 비판적으로 선택하고 다시 구성한 것인지, 아니면 AI의 관점을 그대로 자신의 판단으로 받아들였는지 파악하기 어렵기 때문이다. ‘경계 짓기’는 AI가 사유에 참여하지 못하게 막는 것이 아니다. AI의 제안이 어디까지 들어왔는지, 자신이 무엇을 이해하고 선택했는지, 그 결과를 어디까지 설명하고 책임질 수 있는지를 구분하는 일이다.

최근 연구들은 새로 만들어지는 웹 콘텐츠의 상당 부분에 이미 생성형 AI가 관여하고 있다고 추정한다. 2025년 중반 새로 게시된 웹사이트 가운데 약 35%가 AI가 생성했거나 AI의 도움을 받은 텍스트로 분류되었다. 정확한 비율을 확정하기는 어렵지만, 인터넷은 더 이상 인간이 만든 자료만으로 이루어진 공간이 아니다. AI가 만든 자료를 다른 AI가 다시 읽고, 그 결과가 다시 웹에 쌓이는 순환이 이미 시작되었다. AI가 생성한 데이터를 무분별하게 다시 학습에 사용하면 원래 데이터의 드물고 다양한 정보가 사라질 수 있다는 연구 결과도 있다.

따라서 이제는 어떤 자료가 인간이 만든 것인지, 어떤 자료에 AI가 개입했는지, 그 가운데 무엇이 신뢰할 수 있는 원자료인지를 구분하는 능력이 더 중요해지게 된다. 가끔 AI가 만든 답이 적절한지 다시 AI에게 묻곤 한다. AI가 자신의 답에서 모순이나 누락을 찾아내고 다른 관점을 제안할 수 있다. 하지만, 생성형 AI가 내놓은 답을 같은 AI나 다른 플랫폼의 AI에게 재확인하는 것은 엄밀히 말해 독립적인 검증이 아니다.

그 과정은 하나의 점검 단계는 될 수 있다. 하지만 외부 근거를 대조하거나 AI 없이 다시 설명하며 결론을 내릴 수 있는, 제대로된 검증을 대신할 수는 없다. 그런데 우리는 그 점검마저 AI에게 맡기려 한다.

AI가 답한다.
그 답이 맞는지 다시 AI에게 묻는다.
그리고 우리는 두 번째 답변을 검증이라고 부른다.

「AI 경계 짓기」는 AI의 답을 다시 AI에게 되묻는 순환을 끊고, 자신의 판단으로 돌아오는 데서 시작된다.

AI 사용 능력은 단순히 얼마나 많은 기능을 알고 있는지가 아니다. 자신이 지금 무엇을 하고 있는지를 구분하는 것이다.

AI가 만들어준 구조 없이도 자신의 주장을 다시 설명할 수 있는가.
AI가 제안한 논지나 해석을 거부하고 다른 방향으로 다시 구성할 수 있는가.
AI와 공부한 내용을 며칠 뒤에도 자기 언어로 재구성할 수 있는가.
AI가 제시하지 않은 질문을 스스로 만들 수 있는가.
AI가 자신을 이해한다는 느낌을, 그 제안을 신뢰해도 된다는 근거로 받아들이고 있지는 않은가.
AI와의 대화를 중단하고 원문, 사람, 현장으로 돌아가야 할 시점을 알고 있는가.

이 질문에 자신 있게 대답하기 어렵다고 해서 AI 사용을 중단해야 하는 것은 아니다. 다만 현재의 편리함이 무엇을 대신하고 있는지, 그 과정에서 자신의 판단과 역량이 어디까지 이동했는지는 확인할 필요가 있다. AI를 사용하는 방식은 결국, 무엇을 맡길 것인가뿐 아니라 무엇을 자신의 것으로 남길 것인지를 정하는 일이기 때문이다.

2026.7.27
권신경아(權申庚娥)

이 글에서 다룬 문제의식에서 출발한 「AI 경계 짓기」 시즌 2 강의를 9월부터 시작합니다.

강의 구성과 신청 안내 보기 →

https://kwonshinka.substack.com/p/ai-ai-ai-2