AI 기본법 52건 상정 속, 기업 실무 대응을 위한 핵심 쟁점과 규제 로드맵
씨앗 뉴스: "AI 기본법 등 52건 국회 논의 본격화…생성형AI·딥페이크 규제안 포함" (더브리프뉴스) · 원문 검색 아래는 위 이슈에 대한 실제 보도 3건에서 검증한 사실을 근거로 AI가 작성한 오리지널 해설입니다(원문 번역·복제 아님). 출처는 글 하단 참고.
22대 국회에 AI 기본법 개정안을 비롯해 생성형 AI, 딥페이크, 개인정보 보호 등 총 52건의 관련 법안이 상정되며 입법 공세가 본격화되고 있다. 기업 실무자들은 고영향 AI 규제, 생성물 표시 의무, 데이터 전송 차단 등 각 법안의 구체적 쟁점을 빠르게 파악하고 사내 규정 정비 시기를 조율해야 하는 시점에 직면했다.
왜 지금인가: 22대 국회 AI 입법 공세의 현황과 속도
22대 국회는 AI 규제 입법을 본격화하며 입법 공세를 가속화하고 있다. 현재 과학기술정보방송통신위원회에서 심사 중인 AI기본법 개정안만도 19건에 달하며, 이 중 7건은 법안심사소위원회에 회부되고 나머지 12건은 전체회의 상정을 기다리고 있다. 이는 개별 법안부터 산업별 특별법, 생성형AI 및 딥페이크 규제, 저작권과 개인정보 보호 관련 법안까지 약 52건의 AI 관련 법안이 발의된 포괄적인 규제 환경의 시작점이다.
특히 최근 6월 공포된 '인공지능 데이터센터 산업 진흥에 관한 특별법'은 과방위 대안으로 마련된 첫 번째 성과물로, 데이터 인프라에 대한 규제와 지원이 병행되는 방향성을 보여준다. 이처럼 입법 속도가 빨라짐에 따라 기업은 단순한 법적 준수 차원을 넘어, 고영향AI의 설명요구권 도입이나 금지된 AI 규정 등 다양한 쟁점별로 입법 동향을 면밀히 추적해야 한다. 현재 진행 중인 심사 과정을 통해 향후 규제 로드맵을 예측하고 선제적으로 대응 전략을 수립하는 것이 시급한 상황이다.
핵심 쟁점 1: 고영향AI와 금지된 AI, 어디까지 규제받는가
최민희 의원안은 고영향AI 이용자에게 설명요구권을 부여하고, 분쟁조정위원회 도입으로 사후 구제 경로를 마련했다. 반면 이훈기 의원안은 기본권 침해 위험이 큰 AI를 '금지된 AI'로 명시해 사전 차단 강도를 높였다. 두 안은 규제 시점과 방식에서 차이를 보이며, 기업은 위험도 평가와 함께 법적 리스크 관리 전략을 세우야 한다.
핵심 쟁점은 다음과 같다.
- 설명요구권: 고영향AI 이용자가 알고리즘 논리나 결과에 대한 설명을 요구할 수 있는 권리 보장
- 금지된 AI: 기본권 침해 우려가 극심한 경우 개발·이용 자체를 금지하는 사전 규제 적용
- 분쟁조정: AI 관련 분쟁 시 신속한 조정을 위한 전담 기구 설치로 소송 부담 경감
이처럼 규제 강도와 범위를 비교 분석하면, 기업은 고영향AI와 금지된 AI에 대한 준수 사항을 명확히 하고, 분쟁 발생 시 대응 체계를 선제적으로 구축할 수 있다.
핵심 쟁점 2: 생성형AI와 딥페이크, 표시 의무와 책임 소재
안철수 의원안은 생성형 AI 결과물의 표시 책임 소재를 모델 및 API 개발자와 서비스 제공자로 명확히 구분한다. 이는 기술적 구현자와 최종 서비스 제공자가 각각의 역할에 따라 책임을 분담하도록 하여, 이용자 보호와 산업 활성화를 동시에 꾀하는 방향이다. 반면 조인철 의원안은 정보통신망법 개정안을 통해 AI 생성물 표시 의무와 플랫폼의 기술적·관리적 조치 의무를 강화한다. 현재 법안심사소위원회에서 축조심사를 진행 중이며, 플랫폼 사업자가 생성된 허위 정보 등으로 인한 피해를 예방하기 위한 실질적인 관리 책임을 부과하는 데 초점을 맞추고 있다.
실무적으로는 두 가지 입법 흐름이 병행되어 규제망이 확대될 전망이다. 서비스 제공자는 단순히 정보를 전달하는 것을 넘어, 하위 기술 제공자와의 계약상 책임 분담 구조를 정립해야 하며, 플랫폼 사업자는 생성물 식별을 위한 기술적 장치를 마련해야 한다. 이에 따라 기업은 AI 결과물의 출처 표시 절차를 표준화하고, 플랫폼 내 생성물 모니터링 및 차단 시스템을 고도화해야 한다. 입법 과정에서 책임의 경계가 어떻게 최종적으로 정립될지 주시하며, 선제적인 내부 규정 정비가 필요하다.
- 모델·API 개발자와 서비스 제공자 간 책임 분담 체계 정립
- 정보통신망법상 AI 생성물 표시 의무 및 플랫폼 조치 의무 강화
- 법안심사소위원회 심의 진행 중, 최종 입법 방향성 주시 필요
- 생성물 식별 기술 도입 및 내부 규정 표준화 선제적 대응
핵심 쟁점 3: AI 에이전트와 공공기관, 새로운 감독 체계의 등장
김현 의원안이 제안한 AI 에이전트의 권한 범위 설정과 인간 감독체계 도입은 자동화 결정의 책임 소재를 명확히 하는 데 핵심적이다. 단순 기술 도입을 넘어, AI가 독자적으로 행위를 수행할 때 반드시 인간이 개입하거나 검증할 수 있는 구조를 법적으로 의무화함으로써 오작동이나 불법 행위에 대한 대응력을 강화한다. 이는 기업이 AI를 업무 프로세스에 통합할 때, 단순 기술 검증뿐만 아니라 내부 통제 절차와 인력 배치 기준을 사전에 마련해야 함을 시사한다.
또한 채현일 의원안은 공공기관이 외부 AI 서비스를 이용할 때 사전 보안심사와 데이터 외부 전송 차단을 의무화한다. 공공 데이터의 유출을 원천 차단하고 접근 기록을 저장하도록 함으로써, 정부 기관의 AI 도입 시 데이터 보안이 최우선 과제가 됨을 보여준다. 기업도 공공기관과 거래하거나 서비스를 제공할 경우, 이러한 엄격한 보안 기준을 충족하는 기술적·관리적 장치를 갖추지 않으면 수주에 불이익을 받을 수 있어, 공공 부문 AI 공급자를 위한 보안 인증 및 감사 체계 구축이 시급하다.
실무 영향: AI 기업과 일반 기업의 규제 준수 시나리오
피지컬 AI 특별법 통과 등 산업 진흥 측면과 규제 측면이 공존하는 가운데, 기업들이 즉시 점검해야 할 사내 규정 및 계약서 조항 정비 사항을 제시한다.
- 계약상 책임 소재 명확화: 생성형 AI 결과물 표시 책임은 모델·API 개발자와 서비스 제공 사업자로 나누어 부담하도록 하는 안이 제시되고 있다. 기업은 공급망 내 책임 분담을 계약서에 명시해야 한다.
- 데이터 보안 및 접근 통제: 공공기관 외부 AI 사용 시 사전 보안심사, 데이터 외부전송 차단, 접근기록 저장 의무화가 강화될 전망이다. 특히 정보통신망법 개정안에서는 플랫폼의 기술적·관리적 조치 의무가 포함됐다.
- 고영향 AI 및 금지된 AI 대응: 고영향AI에 대한 설명요구권, 이용자보호 평가, AI분쟁조정위원회 도입 등 새로운 감독 체계가 등장한다. 기본권 침해 위험이 큰 AI는 '금지된 AI'로 규정될 수 있어, 해당 영역의 서비스 개발은 즉시 중단하거나 법적 검토가 필요하다.
점검사항: 입법 참여를 통한 리스크 관리와 기회 포착
22대 국회에는 AI 기본법 개정안부터 산업별 특별법, 생성형AI 및 딥페이크 규제, 저작권·노동·개인정보·선거 관련 개별법까지 약 52건의 AI 관련 법안이 발의됐다. 현재 별도로 심사 중인 AI 기본법 개정안은 19건으로, 이 중 7건은 법안심사소위원회에 회부되었고 나머지 12건은 과방위 전체회의 상정을 기다리고 있다. 이처럼 다양한 개정안이 공존하는 현상 속에서 기업은 단순 준수를 넘어 입법 과정에 적극 참여해야 한다.
입법 참여를 통한 선제적 대응은 리스크 관리와 기회 포착의 핵심이다. 최민희 의원은 고영향AI에 대한 설명요구권과 이용자보호 평가, AI분쟁조정위원회 도입을, 이훈기 의원은 기본권 침해 위험이 큰 AI를 '금지된 AI'로 규정하는 방안을 제시했다. 김현 의원은 AI 에이전트의 권한 범위와 인간 감독체계를, 채현일 의원은 공공기관 외부 AI 사용 시 사전 보안심사와 데이터 외부전송 차단을 담았다. 안철수 의원은 생성형AI 결과물 표시 책임을 모델·API 개발자와 서비스 제공 사업자로 나누어 부담하도록 했다. 조인철 의원은 정보통신망법 개정안을 통해 AI 생성물 표시 의무와 플랫폼의 기술적·관리적 조치 의무를 명시했다.
기업은 이러한 입법 동향을 분석해 자사 사업 모델과의 부합도를 평가해야 한다. 특히 과방위 대안으로 마련된 '인공지능 데이터센터 산업 진흥에 관한 특별법'은 5월 본회의를 통과해 6월 공포되는 등 입법 속도가 빠른 점을 고려해, 관련 규제 변화에 유연하게 대응할 수 있는 거버넌스를 구축해야 한다. 입법 참여를 통해 기업의 입장을 반영하고 향후 통과될 법안의 방향성을 예측함으로써 선제적 대응 방안을 모색해야 한다.
자주 묻는 질문
22대 국회에 상정된 AI 관련 법안은 총 몇 건이며, 현재 심사 현황은 어떠한가?
22대 국회에는 AI 기본법 개정안을 비롯해 산업별 특별법과 생성형AI 규제안 등 약 52건의 AI 관련 법안이 발의됐다. 이 중 AI 기본법 개정안 19건은 별도로 심사 중이며, 7건은 법안심사소위원회에, 나머지 12건은 과방위 전체회의 상정을 기다리고 있다.
생성형AI 결과물의 표시 책임과 고영향AI 규제 관련 주요 개정안은 무엇인가?
안철수 의원안은 생성형AI 결과물 표시 책임을 모델 개발자와 서비스 제공 사업자로 나누어 부담하도록 했다. 또한 최민희 의원안은 고영향AI에 대한 설명요구권과 AI분쟁조정위원회 도입 내용을 포함해 이용자 보호를 강화했다.
공공기관과 플랫폼의 AI 사용 시 의무화되는 보안 및 관리 조치는 무엇인가?
채현일 의원안은 공공기관이 외부 AI를 사용할 때 사전 보안심사와 데이터 외부전송 차단, 접근기록 저장 의무화를 규정했다. 조인철 의원안이 발의한 정보통신망법 개정안도 AI 생성물 표시 의무와 플랫폼의 기술적·관리적 조치 의무를 담고 있다.