'세계 첫 전면 시행' 인공지능기본법은 무엇이고, 내게 미칠 영향은?
한국에서 인공지능(AI) 관련 법이 세계 최초로 전면 시행됐다.
과학기술정보통신부(이하 과기부)는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)'이 22일부터 시행된다고 밝혔다.
AI 기본법은 지난 2024년 12월 여·야 합의를 거쳐 국회를 통과했다.
정부에 따르면 이는 세계에서 두 번째로 제정된 인공지능기본법으로, 크게는 국가 AI 행정체계(거버넌스)를 법제화하고, AI 산업 활성화를 지원하며, 안전 신뢰 기반을 구축하는 내용을 담고 있다.
구체적인 내용은
법 시행으로 개인이 느낄 변화는 크지 않을 것으로 보인다.
사실상 법의 상당 부분이 AI 정책 기반을 구축하고 관련 기업을 지원하는 내용으로 구성됐기 때문이다.
구체적으로는 AI 정책의 컨트롤타워인 국가AI전략위원회의 법적 근거를 마련하고, 학습용 데이터 구축 및 관리·제공, 국제 협력 및 해외시장 진출 지원, AI 집적단지지정 등의 내용이 포함됐다.
규제 대상도 AI를 활용하는 '이용자'가 아니라 AI 제품 및 서비스를 직접 제공하는 국내외 '사업자' 뿐이다.
규제 핵심은 기업에 투명성 및 안전성 확보 의무를 지우는 것이다. 더 강한 규제를 받는 '고영향 AI' 기준도 도입했다.
'이용자'는 단순히 개인을 뜻하는 것이 아니라 '활용' 여부에 따라 구분된다. 예를 들어 영상 생성 AI를 제공하는 회사는 '사업자'에 해당하지만 이를 활용해 영화를 제작·배급하는 제작사는 '이용자'에 해당한다.
가장 큰 비중을 차지하는 생성형 AI를 포함한 규제의 핵심은 '표시 의무'다. AI 사업자는 이용자들이 AI 활용 여부를 알 수 있도록 AI가 생성한 음성·이미지·영상에 워터마크(식별 무늬)나 문구 등을 표시해야 한다.
딥페이크 활용 여부와 서비스 외부 반출 여부, 예술·창의적 콘텐츠 여부에 따라 구체적인 적용 사항은 조금씩 다르다.
법이 정의하는 '고영향 AI'란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능이다.
고영향 AI는 에너지와 먹는 물·의료·원자력·범죄 수사·채용·대출 심사·교통·공공서비스·교육 등 10개 분야에서 활용되는 AI다. 예를 들어 '레벨 4' 이상의 완전 자율주행 기술이 여기에 해당한다.
고영향 AI 사업자는 위험 관리 및 이용자 보호 방안을 마련해야 하는 의무가 추가로 부과된다.
AI 학습에 사용한 누적 연산량이 10의 26제곱 부동소수점 연산(FLOPs) 이상인 고성능 AI의 경우에도 안전사고 모니터링 및 대응 위험 관리 체계를 구축하는 등 의무가 강화된다. 다만 국내 모델 중에는 고성능 AI가 없는 것으로 알려져 해외 빅테크 기업이 주요 대상이 될 것으로 보인다.
한국전자통신연구원(ETRI) 부설 AI안전연구소 소장을 맡고 있는 김명주 서울여대 정보보호학부 교수는 BBC에 "우리나라에는 아직 고성능 AI가 없고, 미국의 '에포크 AI'를 기준으로 하더라도 전 세계적으로 3개 정도 있을까 말까 하다"라고 말했다.
"하지만 AI 성능이 앞으로 점점 좋아질 것이고, 그럴수록 위험해지기 때문에 이를 대비해 만든 조항이라고 봅니다."
인공지능 기본법상 의무를 위반하면 최대 3000만원의 과태료가 부과되지만, 정부는 혼란을 줄이기 위해 최소 1년 이상 규제 유예 기간을 두기로 했다.
업계 및 사람들의 반응은?
한국의 AI 기본법은 유럽연합(EU)에 비해 처벌 강도가 세진 않지만, AI 산업 진흥부터 규제에 이르기까지 너무 많은 내용을 폭넓게 담고 있고, '고영향 AI' 등에 대한 기준이 다소 모호한 부분이 있다는 지적이 나온다.
생성형 AI 서비스를 제공하는 국내 대기업에 근무하는 도민선(35) 씨는 AI 기본법은 이용자 보호 관점에서 일정 부분 의미가 있다면서도 기업 입장에서는 다소 부담이 될 수 있다고 봤다.
도 씨는 "업계에서 서비스 기획 단계부터 법무·컴플라이언스 검토가 필수 요소로 자리 잡게 될 가능성이 크다"라며 "결과물의 책임 주체와 고지 방식, 오인 가능성까지 고려해야 하기 때문에 실제 현장에서의 부담이 적지 않을 것"이라고 했다.
이어 "이번 법의 성패는 규제 강도보다도, 실제 집행 과정에서 얼마나 일관되고 예측 가능하게 적용되느냐에 달려 있다고 본다"라며 "특히 AI 서비스는 국경을 넘나드는 특성이 강한 만큼, 국내 기업과 해외 기업 간 규제 적용 형평성이 담보되지 않으면 또 다른 역차별 논란으로 이어질 수 있다"고 봤다.
글로벌 매출 1조원 이상, 국내 AI 서비스 100억원 이상 등의 조건에 해당하는 기업이면 법 적용을 받도록 돼 있지만, 현실적으로 해외 기업에 국내 법을 적용하는 일이 쉽지 않다는 지적이다.
시민단체를 중심으로 이용자 보호 방안이 부족하다는 지적도 나온다.
최근 들어 SNS에 AI를 활용한 이미지나 영상 콘텐츠가 급증하는 상황에서 개인 제작자(크리에이터)를 규제할 방안이 사실상 없다는 것이다.
이들이 활용하는 AI 제품 및 서비스에 워터마크 등을 표시하는 기능이 포함돼 있더라도 이를 제거하는 등 우회 수단을 쉽게 찾을 수 있기 때문이다.
또 미성년자 등 취약 계층에 대한 별도의 보호 의무도 구체적으로 명시돼 있지 않다.
전창배 국제인공지능윤리협회(IAAE) 이사장은 "AI 기본법에 대해 기업에는 기업대로 AI 산업이 무르익기 전에 규제부터 도입했다는 불만이 있고, 일부 소비자들 사이에서는 오히려 규제가 없다시피 하다는 불만이 나오고 있는 것으로 보인다"라고 말했다.
전 이사장은 "(AI 기본법을) 시간을 두고 개정하거나 시행령을 통해 보완해나가는 작업이 필요하다"라며 근본적으로는 이를 AI 기술 및 산업 진흥에 관련된 법안과 윤리적인 부분을 다루는 법안으로 나눠 구체화해야 한다고 봤다.
- '국가대표 AI' 한국형 독자 AI 파운데이션 모델 프로젝트란?
- AI가 만든 영상인지 구분할 수 있는 가장 확실한 방법은?
- 데이터센터, AI 수요에도 점점 작아질까?
- '한국 AI 리더 될 가능성 무한대'...엔비디아, 한국과 대규모 AI 협력 계획 발표
- AI를 최대한 활용하는 방법: 스스로에게 물어봐야 할 4가지 질문
- AI를 거부하는 사람들: '기계가 쓴 글을 왜 읽어야 하죠?'
