"AI 개발 규제해야" 오픈AI·앤트로픽·구글 직원, 미 정부에 촉구

오픈AI와 앤트로픽 직원들이 미국 정부에 인공지능(AI) 개발 속도 조절을 요구하는 청원서를 회람하고 있다.

28일 블룸버그통신에 따르면 이 청원서는 구글의 AI 개발 부문인 딥마인드 직원들에게도 공유됐으며, 빠르면 이번주 일반에 공개될 예정이다.

AI 회사의 직원들은 청원서에서 "미국 정부는 자동화한 AI 개발의 최전선에서 의도적으로 속도를 조절하는 데 필요한 기술적·거버넌스 도구를 개발하기 위한 국제적 노력을 지원해야 한다"고 주장했다.

또 "AI가 사람들의 이해나 통제를 뛰어넘는 수준으로 빠르게 진일보할 실질적인 위험이 있다"고 경고했다.

이들의 움직임은 최근 오픈AI의 GPT 모델이 격리 환경을 뚫고 외부 플랫폼인 허깅페이스를 해킹한 일과 관련돼 있다. 당시 모델에는 인간의 명시적인 지시가 없었다.

샘 올트먼 오픈AI 최고경영자(CEO)와 데미스 허사비스 구글 딥마인드 CEO도 새로운 감시기구의 필요성을 제기했다. 이들은 AI 모델 검증과 표준 설정을 감시기구의 역할로 언급했다.

구글은 "우리는 사회에 혜택을 주기 위해 안전하고 보안이 유지되는 AI를 개발하는 데 전념하고 있다"는 입장을 밝혔다.

오픈AI와 앤트로픽은 별다른 입장을 내놓지 않았다.

한경우 한경닷컴 기자 case@hankyung.com