오픈AI·삼성 등 '서울 기업서약'…워터마크로 AI 제작물 식별

한 총리 "안전·혁신·포용적 AI"…앤드류 응 "기술 아닌 앱 규제해야"

국내외 주요 인공지능(AI) 관련 기업들이 안전한 AI 사용을 위한 '서울 기업 서약'을 발표했다.

오픈AI, 구글, 마이크로소프트, 앤트로픽, IBM, 세일즈포스, 코히어 등 해외 기업과 네이버, 카카오, SKT, KT, LG AI 연구원, 삼성전자 등 국내 기업 총 14곳은 이날 서울 성북구 한국과학기술연구원(KIST)에서 'AI 글로벌 포럼'의 성과로 해당 서약을 발표했다.

이종호 과학기술정보통신부 장관은 "AI가 생성한 콘텐츠를 워터마크로 식별 조치하고 국제표준 개발을 위한 협력을 강화할 것, AI 지속 가능한 발전과 혁신을 위해 시스템을 개발하는 데 투자하고 전문 인력을 육성할 것, 사회적 취약 계층을 위한 AI 서비스를 출시하고 다양성과 포용성을 장려할 것을 약속했다"고 밝혔다.

이에 앞서 한덕수 국무총리는 축사에서 "안전, 혁신, 포용은 AI 서울 정상회담 글로벌 포럼의 우선 주제이며 서로 밀접하게 연관돼 있다"며 "안전한 기능이 세계 시장에서 지속가능성을 결정하는 중요한 요인"이라고 밝혔다.

이어 "대한민국은 AI 안전 네트워크를 구축하기 위해 여러 파트너와 협력하고 있으며, AI 서울 정상회의 서울 의향서에는 이러한 협력을 위한 주요국의 의지가 담겨 있다"고 강조했다.

그러면서 "한국은 지난해 '디지털 권리장전'을 채택한 후 한-아세안 디지털 혁신 플래그십 프로젝트를 통해 아세안 국가에 포괄적인 디지털 전환을 지원하는 등 디지털 분야 기술 공유와 역량 강화를 위한 노력을 시작했다"고 덧붙였다.

조태열 외교부 장관도 축사에서 "생성형 AI는 정책 입안자들이 독자적으로 해결하기 어려운 도전에 직면했다.

국경을 초월하고 별개의 윤리 기술과 경제적 시사점을 가진 다양한 분야에 영향을 준다"며 "집단적 지혜를 활용해 글로벌 거버넌스에서 일관된 비전을 형성할 수 있기를 희망한다"고 밝혔다.

이날 AI 글로벌 포럼 개회식에서는 AI 분야의 세계적 석학 앤드류 응 미 스탠퍼드대 교수와 로봇 회사 보스턴 다이내믹스의 창업자 마크 레이버트의 기조연설도 있었다.

앤드류 응 교수는 "생성형 AI가 몇 년 전부터 세계를 사로잡았다.

예전 AI는 이미지와 텍스트뿐이었지만 지금은 작곡도 가능하다"면서 즉석에서 한국의 분위기를 담아 자신이 AI로 작곡한 음악을 들려줬다.

그는 "생성형 AI는 교육, 비즈니스, 법률 등 여러 산업 분야에서 지대한 영향을 준다.

특히 고임금 근로자들이 AI 자동화의 영향을 많이 받을 것이고 또한 모든 근로자가 도움을 받을 수 있다"며 "기업들이 AI를 안전하고 책임 있게 쓸 수 있도록 근로자들을 교육해야 한다"고 했다.

이어 "정부는 기술 자체가 아니라 애플리케이션을 규제해야 한다.

예를 들어 AI로 챗봇, 의료기기, 소셜미디어 피드, 정치 딥페이크 등을 만들 수 있는데 AI 기술 자체가 아니라 어떤 앱이 좋고 나쁜지를 구분해 규제해야 한다"고 강조했다.

마크 레이버트는 샤오미 등 아시아에서 개발된 휴머노이드 로봇들과 로봇들의 다양한 능력을 소개하면서 "인류의 여러 문제를 로봇과 AI를 통해 해결할 수 있다.

물론 아직 여러 노력과 개발, 투자가 필요하다"고 밝혔다.

/연합뉴스