‘AI기본법’에 업계 우려 증폭… ‘중복·과잉 규제’ 산더미

연내 본회의 통과 전망… 고영향 AI 등 용어 모호해
워터마크 부착, 기술 제약 있어… 중복 규제 우려도

AI 이미지. /픽사베이

[마이데일리 = 박성규 기자] AI(인공지능) 산업 육성과 규제 원칙을 담은 ‘AI 기본법’ 제정을 두고 업계 우려가 커지고 있다.

3일 AI 업계에 따르면 이달 AI 기본법의 국회 본회의 통과가 유력하다. 하지만 법안 용어의 모호성, 불명확한 기준, 중복 규제 우려 등으로 잡음이 일고 있다.

국회는 다음 주 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)’을 최종 의결할 방침이다.

오는 9일 법제사법위원회와 10일 본회의를 거쳐 법안 통과가 유력시된다. 과학기술방송통신위원회(과방위)는 지난달 26일 전체회의에서 19개 관련 법안을 통합해 대안 법안을 마련했다.

AI 기본법은 △고영향 AI 정의·규제 △AI 생성물 워터마크 표시 의무 △해외 기업의 국내 대리인 지정 △위반 시 과태료 부과 등 내용을 담고 있다.

업계는 우선 고영향 AI에 대한 개념·정의가 불확실하다고 지적한다. 고영향 AI는 사람의 생명과 안전, 기본권에 중대한 영향을 미치는 AI를 뜻한다. 고영향 AI라는 명확하지 않은 용어와 규제는 산업 육성에 방해가 될 수 있다는 지적이다.

자율주행과 의료기기 등 기존 산업에서 활용되는 AI가 고영향 AI로 분류될 경우, 산업 생태계가 위축될 수 있다는 우려도 나온다. 고영향 AI 사업자로 지정되면 위험 관리 방안을 마련하고 관련 자료를 보관해야 하는데, 이는 업계에 상당한 부담으로 작용할 수 있다.

업계 관계자는 “고영향 AI의 기준이 명확하지 않아 기업들이 제공하는 서비스가 규제 대상에 해당하는지 판단하기 어렵다”며 “AI 모델의 종류와 규모 등 구체적인 기준이 규제 내용에 포함돼야 혼란을 줄일 수 있다”고 말했다.

AI 워터마크 의무화 관련 기술적 제약과 적용 생성물의 기준도 모호하다는 우려도 있다. 법안에는 사업자가 생성형 AI를 활용한 제품·서비스를 제공할 때, 생성형 AI에 의해 만들어졌다는 사실을 표시해야 한다는 조항을 담았다.

모든 AI 생성물에 워터마크를 부착하려면 추가 기술 개발과 운영 비용이 발생한다. 중소기업에는 특히 큰 부담으로 작용할 가능성이 있다. 워터마크를 어떤 방식으로, 어디에 부착할 것인지 명확하지 않아 법 적용 시 혼선이 불가피하다.

콘텐츠 산업 한 관계자는 “AI 콘텐츠 워터마크 의무화가 문화·예술 창작의 자유를 제약하거나, 창작 산업의 성장 동력을 저해할 수 있다”고 말했다.

지난달 26일 국회 과학기술방송통신위원회 전체회의장에서 AI 기본법 제정안이 통과됐다. /국회의사중게시스템

중복 규제에 대한 문제 제기도 있다. 기존 법령에 더해 AI 관련 규제가 추가되면서, 방송통신위원회의 ‘AI 이용자 보호법’까지 포함할 경우 3단계 규제를 동시에 받아야 할 가능성이 있다.

고영향 AI와 권익·안전에 영향을 미치는 AI를 동일한 기준으로 취급해 안전성·신뢰성 확보 의무를 일괄적으로 부과하는 것은 산업계에 과도한 부담이 될 수 있다.

참여연대 등 시민단체들은 “단 한두 차례의 심사만으로 제대로 된 제정법이 마련됐다고 보기 어렵다”고 지적하고 있다.

이들은 고위험 AI 규제 측면에서 유럽연합(EU) AI 법안보다 기준이 낮아 시민 안전과 인권 보호보다는 AI 산업 육성에 초점이 맞춰져 있다는 점에서 제도가 성급하다는 평가다.

일각에서는 AI 영향을 받는 개인의 요구권·거부권 등 기본적인 권리가 법안에 포함되지 않았다는 비판까지 나온다. 이에 후속 입법 과정에서 보완해야 한다는 목소리가 높다.

AI 업계 한 관계자는 “AI 기본법은 기술 안전성과 윤리적 사용을 위한 중요한 첫걸음이지만, 과도한 규제가 혁신을 억제할 수 있다는 우려도 존재한다”며 “법안이 실질적으로 산업에 도움이 되기 위해선, 규제 범위와 구체적인 적용 방안에 대한 추가 논의가 필요하다”고 말했다.

박성규 기자 psk@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -