고영향 AI·초거대 모델·안전·투명성 기준 제시
AI산업 진흥 방점·기업 부담·제재는 최소화
최소 1년 이상 규제 유에…혼란 최소화
AI기본법 지원데스 통해 기업 컬성팅 지원

과학기술정보통신부는 ‘인공지능기본법(AI 기본법)’이 22일 시행된다고 21일 밝혔다. 사진은 AI기본법(챗GPT 이미지 생성). 한국과학기술단체총연합회(과총) 제공

고영향 AI 관련 주요 내용. 과기정통부 제공

정부는 22일 시행되는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(이하 인공지능기본법 혹은 AI 기본법)과 관련, 규제보다는 산업 진흥에 방점을 둔 '최소 규제 원칙'을 재확인했다.

과학기술정보통신부는 ‘인공지능기본법(AI 기본법)’이 22일 시행된다고 21일 밝혔다. 앞서 과기정통부는 전날 서울 광화문에서 설명회를 열고 ‘AI 기본법의 세부 적용 기준과 기업 지원 방안’을 소개했다.

업계에서는 그간 AI 기본법상 '고영향 AI'의 정의와 안전성·투명성 의무가 모호해 자칫 과잉 규제로 이어질 수 있다는 우려를 제기해 왔다. 특히, 스타트업 등을 대상으로 한 실태조사에서는 고영향 AI 지정 기준, 데이터셋 투명성 요구, 생성물 표시 의무 등이 부담 요인으로 꼽히기도 했다.

이에 정부는 법 시행 이후 최소 1년 이상의 규제 유예기간 동안 'AI 기본법 지원 데스크'를 중심으로 컨설팅과 계도에 주력할 방침이라고 설명했다.

고영향 AI는 실제 위험성이 높은 AI만을 대상으로 법률이 정한 영역에서 활용되면서 사람의 기본권에 중대한 영향을 미치거나 위험한 업무에 사용되는 경우를 의미한다. 여기에 사람의 개입이 없는 경우에만 적용 대상을 판단한다. 현재로서는 완전 자율주행 단계인 ‘레벨 4’ 이상 차량 정도만 이에 해당한다고 과기정통부는 설명했다.

안전성 확보 의무가 부과되는 초거대 AI 사업자의 기준은 학습 연산량이 10의 26제곱 플롭스(부동소수점 연산) 이상인 모델로, AI 설계 목표와 위험도 등을 종합적으로 고려해 판단한다. 아직 국내외 시장에서 이 기준에 도달해 즉각적인 규제 대상이 되는 모델은 사실상 없다.

AI 투명성 제고를 위한 '생성물 표시 의무'는 이용자에게 최종적으로 서비스를 제공하는 사업자에게 부과된다. 구글, 오픈AI 등 해외 빅테크 기업도 포함된다.

특히, 육안으로 가짜임을 식별하기 어려운 딥페이크 생성물에 대해서는 엄격한 기준이 적용된다. 텍스트나 일반 AI 생성물의 경우엔 메타데이터에 생성 정보를 포함하는 등 보다 유연한 표시 방식이 허용된다.

AI 안전성, AI 투명성 관련 주요 내용. 과기정통부 제공

일각에서 제기된 개인에 대한 단속 사각지대 우려에 대해 정부는 "이번 법안은 사업자의 의무를 규정하는 것이 핵심"이라며 "개인의 불법 콘텐츠 유포는 정보통신망법이나 성폭력처벌법 등 기존 법으로 대응하고 있다"고 설명했다.

과기정통부 실태조사에 따르면 국내 AI 기업은 약 2500곳으로 추산되며, 이 중 실제 AI 기본법 적용 사정권에 들어오는 사업자는 약 1800곳이다.

김경만 과기정통부 AI정책실장은 "국회도 '개문발차'라는 취지로 말했고, AI 기본법이 완벽하다고 생각하지 않는다"며 "법이 좀 더 발전하고 안정될 수 있도록 개정 작업을 병행하고, 산업계·시민단체 등과 함께 논의해서 플랫폼을 만들겠다"고 말했다.

한편, 국가 인공지능 경쟁력을 높이고, 안전하고 신뢰할 수 있는 인공지능 활용 기반 조성을 위한 인공지능기본법(AI 기본법)은 2024년 12월 여·야 합의를 거쳐 국회를 통과했다. 세계에서 두 번째로 제정된 AI 기본법은 국가 인공지능 거버넌스를 법제화하고, 인공지능 산업 활성화와 인프라 조성, 인공지능 혁신을 뒷받침하는 안전신뢰 기반에 관한 내용을 담고 있다.

구체적으로 국가인공지능 거버넌스와 관련, 국가인공지능 정책의 컨트롤타워인 국가인공지능전략위원회의 법적 근거와 전략위원회 내 분과위원회, 지원단, 인공지능책임관 등에 관한 설치 근거를 마련함으로써 국가인공지능 정책이 체계적이고 실효성있게 추진될 수 있도록 했다. 또 AI산업 발전을 위해 AI R&D(연구개발), 학습용데이터 구축, AI 도입·활용 지원, 창업 지원, AI융합 촉진, 전문인력 확보, AI데이터센터 구축 지원 등 법률상 지원 사항과 그 세부 기준과 절차 등을 시행령에서 구체화했다.

송현수 기자 songh@busan.com