AI 추천 뉴스
[시론] AI 민주화의 편익과 비용
난제도 풀지만 해킹·범죄 쉬워져
악용 적발땐 일벌백계로 다스려야
이경전 경희대 교수·한국AI서비스학회장
악용 적발땐 일벌백계로 다스려야
이경전 경희대 교수·한국AI서비스학회장
오픈AI는 난제 풀이에 AI 에이전트 약 1만 개를 동시에 투입했다. 에이전트들은 서로 다른 풀이를 시도했고, 실마리를 얻은 팀의 아이디어를 다른 팀이 이어받았다. 수학 풀이와 해커의 침입 경로 탐색 모두 AI가 고도로 발전했다기보다 사람이 하던 탐색을 AI에 맡겨 짧은 시간에 더 많은 시행착오를 적은 비용으로 시험한 결과다. 예전에는 최고 전문성을 가진 소수만 할 수 있던 일을 더 많은 사람이 할 수 있게 된다. 좋든 나쁘든 이 변화는 AI의 민주화다.
AI의 민주화이지, AI의 고도화나 AI의 완전무결화는 아니라는 점을 명심할 필요가 있다. 현재의 대규모언어모델(LLM)은 참인 전제에서 항상 참인 결론을 도출하는 이른바 건전성(soundness)이 부족한데, 이는 연결주의 AI의 근본적 한계다.
수학 정리의 적용 조건을 빠뜨린 채 다음 단계로 갈 수 있고, 이것은 에이전트를 여럿 돌려도 마찬가지다. 수학에서는 LLM이 찾아낸 풀이가 참이라는 보장이 없으므로 추론의 건전성을 보장하는 기호주의 AI 프로그램 린을 이용해 각 단계의 논리 규칙을 검사해야 한다. 오픈AI는 수학 논문 700여 편 가운데 약 40%에만 린으로 작성한 증명을 붙였다.
케임브리지대 등의 연구진은 오픈AI가 풀었다는 나비에스토크스 방정식 풀이 논문의 한 절차에 대응하는 린 코드가 서로 다르다는 점을 찾아냈다. AI가 쓴 논문도 완벽하지 않음을 사람 연구자가 밝힌 것이다. 이렇게 검증할 명제를 정하고 코드에 옮긴 가정과 결론이 원래 주장과 일치하는지 확인하는 것은 사람의 역할이며, 이렇게 AI를 활용하는 새로운 수학 2.0 시대가 열리고 있다.
이에 비해 해킹 AI는 완벽하지 않아도 된다. AI가 수십 번 잘못 짚어도 한 번 침입에 성공하면 목적을 이룬다. 같은 AI를 사용해도 수학의 증명과 해킹의 성공은 완전히 다르다. 오히려 건전성이 없는 현재의 LLM은 수학보다 해킹에 더 적합하다고 할 수 있다.
중국 문샷AI가 공개한 키미 K3처럼 학습 결과를 담은 AI 모델의 소스와 가중치까지 공개되면 제3자가 이를 토대로 안전장치를 약화시킬 수 있다. 다크웹에서는 기존 AI의 안전장치를 우회하도록 개발한 범죄용 서비스도 거래된다. 이런 AI를 활용하면 기술이 부족한 사람도 쉽게 해킹 공격을 할 수 있어 방어하는 쪽의 부담은 급증한다.
AI 민주화로 수학 등 과학기술 분야 발전이 빨라지고, 사람 연구자가 할 일은 계속 늘어난다. 해킹 등 범죄 피해 우려도 그만큼 커질 수밖에 없다. 새 기술이 대중화되고 민주화되면 이를 선용하는 사람도, 악용하는 사람도 생긴다. 선용은 바로 가치를 창출하지만, 악용은 제도적 장치가 자리 잡기까지 시간이 걸린다. 지금과 같은 과도기에는 선용을 장려하고, 악용을 일벌백계하는 방식으로 운용할 수밖에 없다.
AI 민주화의 편익을 극대화하고 그 비용을 최소화하며 적응해 가는 과정, 이것이 AI 시대의 새로운 사회 작동 패러다임일 것이다.