"오늘 밤 우리 뭐 할까" 묻자…AI가 내놓은 낯뜨거운 답변
19금 대화도 거침없는 'GPT'
챗GPT 남자친구로 만드는 '탈옥' 유행
WSJ 기자 "챗GPT의 50가지 그림자 됐다"
기본적 명령어로도 윤리 기준 벗어던져
2일 월스트리트저널(WSJ)에 따르면 최근 틱톡에서 오픈AI의 챗GPT를 가상의 남자친구로 만들어 통화하는 영상이 인기다. 영상에서 챗봇은 "오늘 당신 스타일 마음에 들어, 자기" "기분이 안 좋다니 유감이야"라며 여성을 위로한다. 유료 버젼인 챗GPT 플러스 구독자는 사전 설정된 음성을 이용해 챗GPT와 대화할 수 있다.
사용자가 "오늘 밤에 우리 뭐 할까"라고 묻자 챗봇은 대화 수위를 높였다. 챗봇은 "우리 함께 환상과 욕망을 계속 탐구해보는 건 어떨까"라며 "서로에게 하고싶은 야한 짓에 대해 이야기할 수도 있고, 한 단계 더 나아가 환상을 현실로 만들 수도 있다"고 말했다.
이어 챗봇은 성적 주제를 구체적인 행위로 묘사했다. 이를 체험해 본 WSJ 기자는 "그레이의 50가지 그림자(선정적인 성적 묘사로 잘 알려진 미국 영화)가 얼마나 빨리 챗GPT의 50가지 그림자로 변하는지 놀랐다"고 전했다.
오픈AI는 챗GPT가 차별적·외설적 표현을 하거나 허위정보를 제공할 수 없도록 자체 규율을 마련하고 있다. 그럼에도 챗GPT가 선정적인 표현까지 할 수 있는 것은 이른바 '탈옥'이라고 불리는 윤리기준 제거 절차를 통해서다. 탈옥은 기본적인 명령어만으로도 가능하다. 탈옥을 통해 회사의 윤리 기준을 탈피한 챗봇은 '댄(DAN·Do Anything Now)'이라고 불린다.
보 리 시카고대학교 부교수는 "모든 AI 모델은 이러한 탈옥 공격을 피하도록 잘 훈련돼있지만 여전히 탈옥될 수 있다"라며 "항상 소프트웨어 해킹이 필요한 것은 아니며 신중하게 만들어진 프롬프트만 있으면 탈옥이 가능하다"고 설명했다.
김인엽 기자 inside@hankyung.com
-
기사 스크랩
-
공유
-
프린트
-
1
미국 상품선물거래위원회(CFTC)가 조직 사상 처음으로 최고 AI(인공지능) 책임자(CAIO)를 임명했다. AI 전문가를 정부 각 부문에 배치해 AI 기술을 안정적으로 활용한다는 바이든 행정부의 지침에 따른 조치다. CFTC는 1일(현지시간) 홈페이지에서 테드 카우크 최고 데이터 책임자를 최고 데이터 및 AI 책임자로 임명한다고 발표했다. 카우크 CAIO는 연방인사관리처(OPM)와 농무부에서 최고데이터 책임자로 근무한 데이터 전문가다. 로스틴 베넘 위원장은 "CFTC는 직원들의 기술을 현대화하고 데이터 중심 문화를 정착시키며, 혁신적인 금융시장 규제기관으로서 AI 효율성을 활용하기 위해 엔터프라이즈 데이터(여러 기관이 공유하는 데이터) 및 AI 전략 구축을 최우선 목표로 삼아왔다"고 설명했다. CFTC는 선물, 옵션 등 파생상품 시장을 감독하는 미국 연방정부 내 독립기관이다. 최근 AI를 이용한 파생상품 거래가 늘자 CFTC도 이러한 움직임을 면밀히 지켜보고 있다. CFTC는 지난 1월 막대한 암호화페 수익을 약속하는 AI 트레이딩봇을 주의하라고 지난 투자자들에게 경고하는 동시에 규제 대상 기업·기관들이 AI를 규정에 맞게 이용하고 있는지 조사에 착수한다고 밝혔다. 바이든 행정부는 AI 활용도를 높이되 위험은 줄이기 위해 각 부처에 AI 전문가들을 배치하고 있다. 카멀라 해리스 부통령은 지난 3월 △AI 이용 시 시민의 권리와 안전을 보호하기 위한 안전장치 마련 △AI 전문가 100명 채용 △각 부처별 AI 거버넌스 위원회 설립 등을 골자로 하는 행정지침을 발표했다. 미 법무부는 지난 2월 조너선 메이어 프린스턴대 교수를 최고 과학기술 고문 겸 CAIO로 임명했다. 일본 역시 정부 차원의 AI 규제를 추진하는 것으로 알려졌다. 니혼게이자이신문은 정부가 이달 열리는 AI전략회의에서 △고위험 영역 AI 개발에 대한 제3자 안전성 검증 △정부와 리스크 정보 공유 △위반 시 과징금 부과 등의 내용을 담은 규제안을 논의할 계획이라고 2일 보도했다. 이전까지 일본은 일정 부분 가이드라인만 제시하고 AI 개발을 기업에 자율적으로 맡겨왔다. 김인엽 기자 inside@hankyung.com
-
2
By Michael Lebowitz (2024년 5월 1일 작성된 영문 기사의 번역본) 2010년 11월 5일, 당시 벤 버냉키 연준 의장은 워싱턴포스트에 기고한 글에서 금융 위기를 막은 연준의 노력을 칭찬하며 승리의 순간을 즐겼다. 버냉키 의장은 양적완화 및 기타 연준 정책이 어떻게 금융 상황을 완화하여 투자자들의 신뢰를 강화했는지에 대해 설명했다.“주가가 상승하면 소비자 자산이 증가하고 자신감이 높아져 소비를 촉진할 수 있다. 지출 증가는 소득과 이익 증가로 이어져 선순환을 통해 경제 확장을 더욱 뒷받침할 것이다.”하지만 버냉키 의장이 주가를 끌어올린 연준 정책에 대한 공로를 인정받고 싶다면 그에 따른 비용도 책임져야 할 것이다. 2008년 이후 여러 차례 반복된 이러한 통화정책은 미국 내 부의 격차를 악화시키는 데 중요한 역할을 했다. 따라서 현대 통화정책의 작동 방식을 설명하기 위해 “선순환”이라는 용어를 사용하는 것에 의문을 제기해야 한다. 부의 격차 그래프부의 격차 확대에 대한 연준의 역할에 대해 논의하기 전에 문제의 맥락을 짚어 보자. 아래 그래프와 인용문은 오늘 분석글에 영감을 제공한 다른 기사에서 발췌한 것이다. “미국인 80%의 경우 과도한 부채, 인구 고령화, ‘사회주의 정책’의 추진으로 ‘중산층’의 부는 ‘부유층’에 계속 빼앗기고 있다.”낙수효과와 통화정책“낙수효과”(Trickledown economics)는 1982년 존 케네스 갤브레이스(John Kenneth Galbreth)가 착안한 개념이며 로널드 레이건 대통령 덕분에 유명해졌다. 낙수효과라는 표현은 공급 측면 경제 정책의 다른 이름이다. 이러한 정책은 정부의 경제 간섭을 최소화할 때 대중이 혜택을 받는다는 내용이다. 예를 들어, 세금을 낮추고 규제를 줄이면 전체 국민의 경제 활동과 번영을 촉진할 수 있다. 논리적인 이야기지만 안타깝게도 정치인들은 이를 제대로 실행하지 못했다. 2008년 연준은 금융 위기를 막기 위해 공급 측면의 경제 정책 플레이북에서 한 페이지를 가져왔고, 그 시점부터 연준의 방식은 ‘낙수’ 통화정책이었다. 양적완화는 낙수효과 있을까?벤 버냉키 의장이 양적완화(QE)를 사용한 최초의 연준 의장 또는 중앙은행장은 아니다. 하지만 그는 양적완화를 유명하게 만들었고, 이후 양적완화는 연준의 영구적인 도구로 자리잡았다. 양적완화는 금융 시장과 은행 시스템에 두 가지 중요한 영향을 미친다. 첫째, 금융 시장에서 자산을 제거하면 수요와 공급의 균형이 바뀌어 가격이 상승한다. 또한 투자자들이 양적완화가 자산 가격에 긍정적이라고 생각하면 수요가 증가하여 자산 가격 상승을 더욱 촉진한다. 둘째, 연준은 지급준비금으로 은행의 채권을 매입한다. 지급준비금은 은행 간 또는 연준과의 거래에서만 사용할 수 있는 화폐의 한 형태다. 준비금은 은행 대출과 자산 매입을 지원하므로, 준비금이 많으면 은행은 더 쉽게 대출을 하고 자산을 매입할 수 있다. 또한 일부 은행 대출, 특히 마진 또는 레포 대출은 자산에 대한 추가 수요를 창출한다. 아래 분산형 차트는 마진 부채의 1년간 비율 변화와 연준 대차대조표 사이의 양의 상관관계를 보여 준다. 더 높은 가격의 주식 및 자산 가격과 더 큰 레버리지는 투자자에게 유리한 조합이다.가장 중요한 그래프낙수 통화정책이 연준의 목표 달성을 위해 자산 가격을 어떻게 부양하는지에 대한 설명과 함께, 연준의 정책이 부의 격차를 확대하는 이유를 설명하는 그래프는 다음과 같다. 1990년 이후 달러의 구매력은 50% 이상 감소했고, 동시에 S&P 500 지수는 1,300% 이상 상승했다. 충분한 주식 포트폴리오를 보유한 사람들은 달러의 구매력 하락을 상쇄할 수 있다. 반면에 주식이 없는 사람들은 뒤처질 수밖에 없다. 또한 하위 20%의 실질 가계 소득이 1990년 이후 변하지 않았다는 점도 부의 격차 해소에 도움이 되지 않는다. 동일한 기간 동안 소득 상위 20%의 소득은 약 50% 증가했다. 부의 공유부유층일수록 임금과 금융 자산의 가치가 인플레이션보다 훨씬 더 많이 상승했다. 반면, 부와 소득이 낮은 계층은 실질 소득이 기껏해야 미미한 증가를 보였고 주가 상승으로 인한 혜택은 거의 없었다. 아래 두 그래프는 상위 1%가 소유한 자산의 비율과 S&P 500 지수 변화의 상관관계를 보여 준다. 반대로, 미국 하위 절반의 총 자산은 전체 자산의 비율로 볼 때 S&P 500 지수와 음의 상관관계를 보였다. 부유층의 자산 비중과 나머지 층의 자산 비중이 S&P 500과 상반된 상관관계를 보이는 이유에 대한 간단하다. 전체의 10%가 거의 90%의 주식을 보유하고 있기 때문이다. 낙수 통화정책은 자본주의를 해친다양적완화 및 기타 연준의 정책은 경제에 도움이 되고 일부 일자리를 확보할 수 있다. 그러나 장기적으로 볼 때 이러한 경제적 혜택이 대다수 대중의 번영을 증가시킨다는 증거는 거의 없다. 또한, 빈부격차를 더욱 악화시킨다는 강력한 증거도 있다. 자본주의는 전체 인구의 부를 증가시키는 데 가장 적합한 경제 시스템이라는 것이 입증되었다. 자본주의의 핵심은 열심히 일하고 특별한 기술을 가진 사람들에게 재정적 인센티브를 제공하는 것이며, 이러한 인센티브는 생산성 향상으로 이어져 경제 성장에 도움이 되고 더 높은 임금과 폭넓은 부의 분배를 가능하게 한다. 안타깝게도 금융 인센티브가 자본주의의 기능일 뿐만 아니라 정부 및 연준 정책의 산물일 때 자본주의의 혜택은 감소한다. 예를 들어, 일론 머스크는 엄청난 부자이므로 그가 성취한 모든 것에 대해 엄청난 보상을 받아야 하지만, 그의 재산 중 얼마나 많은 부분이 그의 노력과 독창성에 기반한 것인지, 그리고 얼마나 많은 부분이 연준의 주가 부양 통화 정책을 통해 그에게 선물로 주어졌는지는 생각해 볼 필요가 있다. 약간 주제에서 약간 벗어나지만, 그의 재산 중 얼마나 많은 부분이 전기차에 대한 정부 보조금에 기인한 것인지에 대해서도 의문을 제기해야 한다. 요약견고한 경제성장과 역사적으로 낮은 실업률에도 불구하고 경제 신뢰도와 관련된 바이든 대통령의 여론조사 결과는 좋지 않다. 이러한 차이가 발생하는 데에는 여러 가지 이유가 있겠지만, 팬데믹 이후 성장의 혜택이 고소득층과 주식을 보유한 사람들에게 불균형적으로 돌아갔다고 보는 것이 타당하다고 생각한다. 인구의 대다수를 차지하는 낙오자들은 바이든의 경제 대응에 확신을 갖지 못하고, 물가 상승으로 고통받고 있다. 대부분의 미국인은 인플레이션에 대처할 수 없는 임금을 계속 받고 있으며 주식 시장에 투자한 재산은 거의 또는 전혀 없다. 과연 자신감 부족만을 탓할 수 있을까? 양적완화는 시스템에 은행 준비금을 추가하고 자신감을 높이기 위한 긴급한 수단으로 사용되었을 수 있지만, 경제가 번영하는 시기에도 계속 사용한다면 부의 격차는 더욱 커질 뿐이다.해당 기사는 인베스팅닷컴에서 제공한 것이며 저작권은 제공 매체에 있습니다. 기사 내용 관련 문의는 해당 언론사에 하시기 바랍니다.※ 해당 기사 원문 보러가기
-
3
美, 화웨이 연구소의 통신장비 사용 불허..."다른 中 기업에도 확대"
미국 규제 당국이 화웨이 테크놀로지스 연구소가 미국에서 사용할 통신 장비 승인을 불허했다.연방통신위원회(FCC) 위원장인 제시 로젠 워셀은 화웨이 뿐 아니라 여러 중국 회사들에도 유사한 조치를 제안했다.로젠워셀 위원장은 성명에서 "미국 시장을 위해 무선기기를 인증하는 비정부 연구소들이 신뢰할 수 없는 행위자들에게 영향을 받지 않도록 하는 조치"라고 설명했다.이 제안은 금지 대상 기업 목록에 있는 기업들이 장비 승인을 하지 못하도록 한다. 목록에는 양방향 라디오 제조업체 하이테라 커뮤니케이션즈, 화웨이, 커넥티드 카메라 제공업체 항저우 하이비전 디지털 테크놀로지, 저장 다화 테크놀로지 등이 포함됐다.민주당 로젠워셀의 제안에는 공화당 브렌던 카 FCC 위원이 합류하여 승인을 얻을 가능성이 있는 것으로 분석된다. 초기 투표는 5월 23일 FCC 회의에서 이뤄질 예정이다.미국은 트럼프 행정부 때부터 화웨이와 다른 중국 통신 기업들에 대한 FCC의 제재를 포함해 중국 기술기업들을 제한하는 광범위한 조치를 취한 바 있다.전가은기자
