사진=연합뉴스
사진=연합뉴스
미국 인공지능(AI) 기업 앤트로픽이 기업가치 약 1조5000억달러로 증시에 상장하기 직전 AI 개발 속도가 자체 위험관리 기준에 도달했다고 판단해 추가 안전통제 조치를 발동했다. AI가 다음 세대 AI의 개발을 가속하는 기술이 기업가치를 끌어올리는 동시에 인간의 통제 능력을 넘어설 수 있다는 우려도 커지고 있다.

20일 파이낸셜타임스(FT)에 따르면 AI 챗봇 클로드 개발사인 앤트로픽은 전날 월가에서 첫 거래를 시작하기에 앞서 지난주 기업공개(IPO) 신고서(S-1)를 수정해 '책임 있는 확장 정책(Responsible Scaling Policy)'의 일부를 발동했다고 밝혔다. 2023년 도입한 이 정책은 AI가 지나치게 빠르게 발전해 재앙적 위험을 초래하는 것을 방지하기 위한 내부 안전관리 체계다. 앤트로픽은 전체적인 기술 발전 속도를 고려할 때 추가 보안과 감독 조치를 시행해야 하는 기준에 도달했다고 판단했다.