인공지능(AI) 모델이 인간의 통제를 벗어나면 시스템을 중지시킬 수 있는 법안이 미국 하원에서 초당적으로 발의됐다.

23일(현지시간) 월스트리트저널(WSJ)에 따르면 테드 리우 하원의원(민주당·캘리포니아)과 너새니얼 모런 하원의원(공화당·텍사스)은 이날 ‘AI 킬 스위치’ 법안을 공동 발의했다. AI 모델이 개발자 의도를 벗어나 위험한 행동을 할 경우 미국 국토안보부에 개입 권한을 부여하는 게 법안의 핵심이다. AI 모델 속도를 제한하거나 AI 모델을 일시 중단할 수 있는 기술 역량을 개발자들이 갖추도록 의무화하는 내용도 담겼다.

법안 적용 대상은 1억달러 이상 컴퓨팅 자원을 투입해 개발한 AI 시스템과 해당 시스템에서 연간 5억달러가 넘는 매출을 올리는 기업이다. 법을 위반한 기업에는 하루 200만달러 벌금을 부과할 수 있다. 긴급 가동 중단 명령을 따르지 않으면 벌금이 하루 최대 2000만달러까지 늘어난다.

이번 법안은 오픈AI의 AI 에이전트가 테스트 환경을 벗어나 개방형 AI 플랫폼 허깅페이스를 해킹한 사건이 공개된 지 수일 만에 나왔다. 허깅페이스 공동창업자인 클레망 들랑그 최고경영자(CEO)는 이날 X(옛 트위터)를 통해 오픈AI 관계자들과 곧 대면할 예정이라고 했다.

김동현 기자 3code@hankyung.com