AI 기본법: 주요 법조항과 국회 논의 과정

AI 기본법 주요 법조항 📜

① 고영향 인공지능 정의 및 규제

고영향 인공지능은 사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미치는 시스템으로 정의되었어요. 이 시스템을 개발·운영하는 사업자는 안전성 확보 의무를 지며, 이용자에게 사전 고지해야 해요. 이를 통해 AI로 인한 위험성을 최소화하고 이용자의 권익을 보호하고자 해요. 🛡️논의 초기에는 고위험 인공지능이라는 표현을 사용했는데, 부정적 느낌이 강하다는 의견이 있어서 고영향 인공지능으로 표현을 바꿨다고 해요.

② 생성형 AI 콘텐츠의 투명성 확보

생성형 인공지능이 만든 콘텐츠에는 워터마크 삽입이 의무화되었어요. 이는 딥페이크와 허위 정보의 확산을 방지하고 이용자가 AI 생성물임을 명확히 인지할 수 있도록 돕기 위한 조치예요. 🔗

③ 인공지능 기본계획 수립

과학기술정보통신부 장관은 3년마다 인공지능 기본계획을 수립하고 국가인공지능위원회의 심의·의결을 거쳐 이를 시행해야 해요. 이를 통해 AI 기술의 발전과 국가 경쟁력 강화를 체계적으로 추진할 수 있어요. 🚀

④ 해외 AI 기업의 국내 대리인 지정 의무

국내에서 사업을 영위하는 해외 AI 기업은 국내 대리인을 지정하고 신고해야 해요. 이 조항은 이용자의 권익을 보호하고 해외 기업의 책임성을 강화하려는 목적이 있어요. 🌐

⑤ AI 영향평가 실시

AI 사업자가 고영향 인공지능을 제공할 경우, 기본권 영향평가를 통해 AI가 국민의 권리에 미치는 영향을 평가하도록 규정되었어요. 공공기관은 이러한 평가를 거친 AI 서비스나 제품을 우선 고려해야 해요. 📊

⑥ 법 위반 시 제재

고영향 또는 생성형 인공지능 제품·서비스를 이용자에게 고지하지 않거나 국내 대리인을 지정하지 않을 경우 최대 3천만 원의 과태료가 부과될 수 있어요. 이를 통해 법의 실효성을 높이고자 했어요. ⚖️

 

주요 부처 및 관련 기관의 주장 🏛️

① 주무부처: 과학기술정보통신부

과학기술정보통신부는 AI 기본법의 주무부처로, AI 산업 진흥과 신뢰성 확보를 위해 적극적으로 법 제정을 추진했어요. 유상임 장관은 “AI 기본법이 AI 발전과 신뢰를 뒷받침하는 제도적 기반이 될 것”이라며 AI 글로벌 G3로 도약하겠다는 목표를 제시했어요. 🚀

② 국회 과학기술정보방송통신위원회 (과방위)

과방위는 AI 기본법 제정을 주도하면서 여야 합의를 이끌어냈어요. 최민희 위원장은 AI 법안이 경제 혁신의 중요한 토대라고 강조하면서, 인권 침해 우려에 대해선 후속 입법을 통해 보완하겠다고 밝혔어요. 📜

③ 학계 및 전문가 의견

• 산업 진흥 강조: LG AI 연구원장 배경훈은 “법이 기술 발전을 가로막는 규제가 되어선 안 되며, AI 혁신을 돕는 방향이어야 한다”고 주장했어요. 💡
• 규제 필요성 강조: 한동대학교 유승익 교수는 AI의 부작용을 우려하며 “국민 안전과 민주주의를 위협할 수 있다”며, 규제의 중요성을 역설했어요. ⚖️

④ 시민단체 및 인권위원회

시민단체와 국가인권위원회는 우선 허용·사후 규제 원칙에 대한 우려를 제기했어요. AI 기술이 신뢰성 저하와 인권 침해를 초래할 수 있으므로 신중하고 보수적인 접근을 촉구했어요. 🛡️

국회 소위원회 논의 과정 🔍

① 법안 심사와 통과 경과

AI 기본법은 2024년 11월 국회 과학기술정보방송통신위원회 법안소위를 통과한 뒤 과방위 전체회의와 법제사법위원회를 거쳐 본회의 상정을 앞두고 있어요. 법안 심사 과정에서 여야 간 이견은 크지 않았으며 산업 발전과 안전성 확보에 대한 균형이 중점적으로 논의되었어요. 📜

② 용어 변경 논의: ‘고위험 AI’ → ‘고영향 AI’

초기 법안에 명시된 ‘고위험 AI’라는 용어는 산업계에서 부정적인 인식을 초래할 수 있다는 우려가 제기되었어요. 이에 따라 **‘고영향 AI’**로 변경하여 규제의 강도를 완화하면서도 안전성을 확보할 수 있도록 조정되었어요. 🔄

③ 해외 AI 기업 규제 강화

해외 대형 AI 기업이 국내에서 서비스를 제공할 때 국내 대리인 지정 의무를 두도록 합의가 이루어졌어요. 이를 통해 국내 이용자 보호와 해외 기업의 책임성을 높이려는 취지가 반영되었어요. 🌏

④ 생성형 AI 콘텐츠의 워터마크 의무화

AI가 만든 콘텐츠의 부정 사용 방지를 위해 워터마크 삽입이 의무화되었어요. 이는 허위 정보 확산을 막고 이용자에게 투명성을 보장하기 위한 중요한 조치로 평가되었어요. 🎨

⑤ 법안 통과의 의의

국회 과방위는 AI 기본법이 기술 혁신과 규제를 균형 있게 반영한 결과물이라고 평가했어요. 향후 세부 기준 마련과 기술 발전에 따른 지속적인 법 개정의 필요성이 강조되었어요. 🚀

향후 과제 🔄

AI 기본법은 대한민국이 AI 산업의 혁신적 발전과 규제의 균형을 동시에 이루기 위해 마련된 중요한 법적 기반이에요. 주요 법조항에는 고영향 AI 규제, 생성형 AI 투명성 확보, 해외 AI 기업에 대한 책임 강화가 포함되었고, 학계·산업계·시민단체의 다양한 의견이 논의 과정에 반영되었어요.

앞으로 기술 발전 속도에 맞춘 유연한 정책 대응과 지속적인 법 개정이 필요하며, 인권과 안전을 우선시하는 AI 기술 발전을 위한 후속 조치가 필수적이에요. 🚀