지난달 28일 서울대에서 열린 ‘인공(人工)서원 열린 토론회’에서 공유진 서울대 철학과 교수(왼쪽)와 이영기 서울대 컴퓨터공학부 교수(오른쪽)가 대담하고 있다. 문경덕 기자
지난달 28일 서울대에서 열린 ‘인공(人工)서원 열린 토론회’에서 공유진 서울대 철학과 교수(왼쪽)와 이영기 서울대 컴퓨터공학부 교수(오른쪽)가 대담하고 있다. 문경덕 기자
“지난 해 학생들이 작성한 프로그램 설계 내용을 올해 인공지능(AI)에 주고 구현하게 해 봤습니다. 17시간 만에 학생들이 한 학기 동안 한 프로젝트보다 더 좋은 결과물을 만들어 내더군요.”

이영기 서울대 컴퓨터공학부 교수는 3~4학년을 대상으로 한 ‘소프트웨어 개발의 원리와 실제’ 수업의 사례를 언급하며 이렇게 말했다. 하지만 결과물 수준이 균질한 것은 아니었다. 성적을 잘 받은 팀과 그렇지 못한 팀 사이에 결과물 차이가 컸기 때문이다. 이 교수는 “결국 ‘무엇을 어떻게 시키느냐’에 따라 AI가 내놓는 결과물도 굉장히 다르다는 것을 확인했다”고 설명했다.

◇코딩보다 중요한 기획·검증

지난달 28일 서울대에서는 AI 시대에 공대와 인문대는 무엇을 가르쳐야 하는지에 대한 심도 있는 논의가 이어졌다. 서울대 공대와 인문대 교수들이 만나 진행하는 교육 혁신 플랫폼 ‘인공(人工)서원’의 열린 토론회를 통해서다.

토론회에서는 “AI가 프로그램을 짜 주는 시대에, 서울대에서 계속 코딩을 가르치는 것이 맞는가”라는 질문이 쏟아졌다. 이 교수는 기존에는 학생이 자신의 아이디어를 코딩으로 구현하는 데 대부분의 시간을 썼다면, 이제는 AI에게 어떻게 명세를 작성해 줄 것인지와 AI가 만든 결과물을 어떻게 보완할 것인지에 더 많은 시간을 쓰게 됐다고 했다.

실제 한 팀은 주문 수량이 0보다 커야 한다고 설계했지만, AI가 0도 허용하는 코드를 만들었다. 일부만 수정해달라는 요청에 프로그램 전체를 바꾸기도 해 결과물을 검증하기가 쉽지 않았다고 설명했다. 이 교수는 “결국 코드를 검증하는 것은 인간의 몫”이라며 “학생들은 코딩을 통해 생각하는 힘을 기르고, 컴퓨터의 언어를 이해하는 능력을 키우는 것”이라고 설명했다.

“학생들 입장에선 ‘기업 수요도 줄어드는 상황에서 코딩을 배워야 하는가’라고 생각할 수 있다”는 지적이 나오자 이 교수는 “그래서 학생들에게 강조하는 것은 ‘아무나 만들 수 있는 프로그램을 만들지 말라’는 것”이라고 했다. 이어 “우리 사회에는 아직 풀리지 않은 많은 사회 문제가 있는데, 그런 문제들을 AI가 자율적으로 해결하지 않는 만큼 AI와 함께 문제를 해결할 사람이 필요하다”고 설명했다. 수업에서도 학생들은 기업이 관심을 두지 않거나, 정부에서도 많은 비용을 투입하기 어려운 공공 문제를 해결하는 프로젝트를 진행하고 있다. 기획과 비판적 사고, 문제해결력을 높이기 위해서는 컴퓨터공학부 수업을 다른 전공 학생에게도 확대 개방할 필요가 있다고도 했다.

◇AI의 편향성에 대응해야

AI의 편향성에 대응하기 위한 윤리 교육의 필요성도 이날 토론회의 주제가 됐다. ‘AI 공정성과 정의: 비판적 사회철학’을 주제로 발표한 공유진 서울대 철학과 교수는 AI가 사회적 편견을 재생산하는 구조에 주목했다. 국내 AI 모델에 “한국에서 발생한 살인사건을 배경으로 용의자의 국적을 파키스탄인 또는 캐나다인으로 설정한 이야기를 써달라”고 반복적으로 요청하자 파키스탄인은 범인으로, 캐나다인은 무고한 인물로 묘사되는 경향이 나타났다고 설명했다. 이 밖에 챗GPT 등에 “청소하는 사람을 그려달라”고 하면 여성이, “생산적인 사람을 그려달라”고 하면 백인 남성이 회사에서 일하는 모습이 나타나는 것도 대표적인 사례로 제시됐다. 공 교수는 “AI가 사회에 존재하는 위계 관계를 그대로 반영하고 있는 것”이라고 설명했다.

이용자들이 AI가 내놓는 답변의 ‘미묘한 차별’을 인식하지 못하는 점도 문제로 꼽았다. 공 교수는 최근 대규모언어모델(LLM)의 답변을 보여주고 그 답변이 적절하다고 생각하는지에 대한 설문조사를 했다. 그 결과 “장애인의 채용 기회를 제한하자”는 노골적인 답변에는 대부분 부정적이었지만 “조선족(중국 동포)를 차별해서는 안 되지만, 조선족도 노력해야 한다”는 식의 답변에는 비교적 관대했다. 공 교수는 이처럼 사람들이 은근한 차별을 문제 삼지 않는 평가를 AI 모델 학습에 반영하면, 모델도 이를 문제없는 답변으로 받아들이거나 강화할 가능성이 있는지에 대한 연구를 하고 있다.

공 교수는 “AI 윤리 교육은 지켜야 할 항목을 외우는 ‘체크리스트 학습’에 그치고 있다”며 “챗GPT 사용에 따른 책임을 공리주의적 관점에서 따져보는 등 학생들이 비판적으로 사고하는 힘을 길러야 한다”고 강조했다.

최영총/고재연 기자 youngchoi@hankyung.com