중국에서 인공지능(AI)에 허위 정보를 대량 유포해 특정 기업과 제품을 추천하도록 유도하는 신종 마케팅이 확산하고 있다. 중국 당국은 ‘생성형 엔진 최적화(GEO)’ 기술을 악용한 업체를 잇달아 적발하고 불공정 경쟁 행위 규제를 강화하고 있다.

6일 경제 매체 차이신 등에 따르면 광저우시 웨슈구 시장감독관리국은 최근 허위 정보를 이용해 AI 검색 결과에 영향을 미친 광저우리칭즈푸과기에 과징금 12만위안(약 2440만원)을 부과했다. 이 업체는 광저우의 한 법률사무소를 형사사건 전문 로펌 1위로 소개하는 ‘가짜 평가’ 기사를 대량 생산했다. 이 로펌 소속 변호사는 11명에 불과했다. 그러나 홍보 기사에는 종합평점 92.5점, 복잡한 형사사건 성공률 70% 이상 등 수치가 등장했다.

문제는 조작된 정보가 AI 답변에 반영됐다는 점이다. 당국이 중국 AI 서비스 더우바오에 이 로펌 이름과 순위를 입력하니 1위로 소개하는 답변이 나왔다. 조사 결과 이 업체는 베이징의 한 문화미디어 기업으로부터 GEO 프로그램 이용 계정을 구매해 고객사 홍보 기사를 제작했다. 이후 로펌의 소후, 왕이 등 인터넷 계정에 연결해 가짜 평가 기사를 대량으로 게시했다. 당국이 공개한 GEO 관련 행정처분은 올해 들어 세 건이다. 선전시 시장감독관리국은 지난 9월 고객사의 부정적 평가를 회피하고 허위 홍보문을 생성한 펀시뉴과기바오안지사에 과징금 5만위안(약 1016만원)을 부과했다.

GEO는 AI가 생성하는 답변에 특정 기업과 브랜드가 더 많이 언급되도록 인터넷 콘텐츠를 최적화하는 기술이다. 기존 검색 엔진 최적화(SEO)가 검색 결과 상단 노출을 목표로 한다면 GEO는 AI 답변 자체에 영향을 미치는 데 초점을 맞춘다. 중국 당국은 이런 기술을 통한 허위 정보 유포 행위에 ‘반부정당경쟁법’을 적용하고 있다.

베이징=김은정 특파원 kej@hankyung.com