사법연수원 37기로 주로 IT기업의 송무 및 자문 사건을 수행하고 있습니다. 금융위원회, 개인정보보호위원회, 특허청, 대한상사중재원등에서 자문위원, 조정위원, 중재인 등으로 활약하고 있어 기업의 애로사항과 행정 기관의 입장에 대한 이해도가 높습니다. 법무법인 린 TMT 그룹 내에서 개인정보보호팀장 및 미디어플랫폼팀장으로서 새로운 산업에 관하여 실질적인 해결방안을 도출하고 있습니다.
한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.인공지능(AI)기본법 시행 이후 AI서비스를 개발하거나 이용하는 기업들은 그간 영위해온 기존의 업무 방식이 새로운 법적 질서 안에서도 종전과 다름없이 가능할지, 의도하지 않게 법적 의무를 간과하여 잠재적 위반자가 되고 있는 것은 아닌지 막연한 불안감이 있다. 심지어 인공지능서비스를 내부적으로 이용만 하고있는 기업들조차 인공지능을 사용하고 있다는 사실을 고객에게 알리는 등의 의무를 이행해야 하는 것은 아닌지에 관하여 의문을 갖기도 한다. 그러나 인공지능기본법이 인공지능을 개발하거나 이용하는 모든 기업에게 의무를 부과하는 것은 아니다. 인공지능기본법은 생성형 인공지능사업자, 최첨단 인공지능사업자, 고영향 인공지능사업자에게만 일정한 의무를 부과하고 있다. 먼저 생성형 인공지능사업자의 경우 투명성 확보의무(인공지능기본법 31조, 이하 ‘법’이라 한다)가 있다. 다음으로 학습에 사용된 누적 연산량이 일정 기준 이상인 최첨단 인공지능사업자는 위험의 식별ㆍ평가, 위험관리체계 구축 의무(법 32조) 등이 있다. 마지막으로 고영향 인공지능사업자는 투명성 확보의무(법 31조), 위험관리방안 수립 등 사업자의 책무(법 34조), 사전 인공지능 영향 평가의무(법 35조) 등을 수행하여야 한다. 인공지능 기본법의 쟁점 생성형 인공지능사업자의 경우 혼동방지를 위하여 사전 고지의무 및 해당 결과물이 AI를 통하여 생성되었다는 사
![우리 회사의 AI서비스, 규제 대상일까? 인공지능기본법 제대로 읽기 [린의 행정과 법률]](https://img.hankyung.com/photo/202604/01.43588739.3.jpg)
업무 미팅, 사적 모임 할 것 없이 인공지능(AI)가 화제다. 인공지능 대전환은 시대의 흐름이며, 산업 전반과 일상을 혁신적으로 바꾸고 있다. AI의 성능은 방대한 데이터 학습에 달려있다. 그러나 AI가 똑똑해질수록 개인정보 침해 위험 역시 비례하는 딜레마가 발생한다. 생성형 AI는 학습데이터에 포함된 정보를 ‘영구 기억’(memory) 형태로 내재화하는 기술적 특성이 있으므로 더욱 그렇다. AI, 개인정보 학습의 '회색지대'AI를 이용해 본 사람이라면 아래와 같은 의문을 가져보았을 것이다. 공개된 개인정보를 AI 학습에 활용하는 것이 무제한으로 허용되는 것일까. 이용자들이 프롬프트에 입력한 각종 개인 정보를 LLM 성능을 개선하기 위하여 학습 데이터로 수집, 재이용 하는 것은 개인정보보호법상 문제 없을까. 정보주체의 동의 없이 의료 AI 연구 개발을 할 수 있을까. 자율주행 기업이 수집한 영상정보를 가명처리 없이 영상 원본을 활용하고자 하는데 가능한 것일까. 개인정보보호법은 개인정보의 ‘최소한의 수집’과 ‘목적 내 이용’을 기본 원칙으로 정하고 있다. 무엇보다 개인정보보호법은 태생부터 동의를 원칙으로 하여 제정되었다. 반면 AI 시대에서는 양질의 데이터를 활용하여 학습할수록 AI 발전이 이루어진다. AI 시대의 데이터 처리방식 또한 개인정보보호법이 예상한 것과 완전히 다르다. 전통적인 개인정보보호법은 수집 목적 및 항목을 특정하여 ‘정보주체의 동의’를 득한 이후 데이터를 처리하는 단편적인 방식을 전제로 하였다. 그러나 AI 시대에는 특정 서비스 매개 없이 인터넷 공간에서 개인정보를 스크랩핑 하는 경우 동의, 계
![AI 시대, '데이터 학습'과 '개인정보 보호'의 균형점 찾기 [린의 행정과 법률]](https://img.hankyung.com/photo/202510/01.42215612.3.jpg)
한경 로앤비즈의 'Law Street' 칼럼은 기업과 개인에게 실용적인 법률 지식을 제공합니다. 전문 변호사들이 조세, 상속, 노동, 공정거래, M&A, 금융 등 다양한 분야의 법률 이슈를 다루며, 주요 판결 분석도 제공합니다.정치적 혼란 속에서도 '인공지능기본법(AI기본법)'이 2024년 12월 26일 국회를 통과했다. 내년 1월 22일 시행 예정인 이 법은 2024년 8월 통과된 EU AI법에 이어 세계에서 두 번째로 제정됐지만, 전면 시행 시기로만 보면 세계 최초다. EU의 일반개인정보보호법(GDPR)이 2018년 제정 이후 글로벌 표준이 되며 '브뤼셀 효과(Brussel effect)'라는 신조어를 탄생시켰듯이, AI법 분야에서도 유사한 영향력을 행사할지 주목된다. 우리나라 인공지능기본법의 진흥과 규제수년간 입법 논의 과정에서 국내 AI산업이 성숙하기도 전에 선제적 규제를 도입하는 것 아니냐는 우려가 제기됐다. 이를 의식한 듯 우리 인공지능기본법은 기본법·진흥법적 성격을 강조하는 모습이다. 각종 의무 규정이 있지만 위반에 대한 벌칙 규정은 없고 3000만원 이하 과태료만 부과하도록 해, EU AI법보다 규제 강도가 완화됐으며 자율규제 성격이 강하다.인공지능기본법은 인공지능 정책 거버넌스(제1장), 인공지능발전(제2장), 산업육성(제3장) 규정에 비중을 두고 있다. 다만 규제적 요소로 고영향 인공지능 사업자에게 이용자 사전 고지의무(제31조), 안전성 확보의무(제34조), 영향평가 실시의무(제35조)를, 생성형 인공지능 사업자에게는 결과물 표시의무와 가상 결과물 고지의무(제31조)를 부과했다. 따라서 해당 사업자들은 내년 법 시행 전 이러한 의무 관련 사항을 정비해야 한다. 인공지능기본법 보강
기자를 구독하려면
로그인하세요.
안서연 구독을 취소하시겠습니까?
