블로그
새 정부 AI 법정책 과제와 제언
새 정부 AI 법정책 과제와 제언홍대식 교수(서강대 법학전문대학원)[원문 링크]1. 서론AI 기술의 발전은 경제, 사회, 문화 등 다양한 분야에 큰 영향을 미치고 있다. 특히, 생성형 AI의 출현은 플랫폼 경제에 새로운 도전과 기회를 제공하고 있다. 이에 따라, 새 정부는 AI 기술의 안전하고 책임 있는 사용을 보장하기 위한 법적, 정책적 대응으로서, AI 법정책을 재정비하고, 새로운 규제와 정책을 마련해야 할 필요성이 대두되고 있다. 2. 생성형 범용 모델 출현에 따른 플랫폼 경제의 변화 예측AI 기술이 도입되기 전, 플랫폼 경제는 기존의 규제와 경쟁 정책에 의해 관리되었다. 그러나 생성형 범용 모델의 출현으로 인해 플랫폼 경제의 구조와 경쟁 환경이 변화하고 있다. 특히, 생성형 AI는 단순한 기술적 발전을 넘어 자율적인 "에이전트" 시스템으로 진화하고 있으며, 이는 기업의 핵심 워크플로우를 재정의하고 있다. 생성형 범용 모델의 출현은 플랫폼 경제에 큰 변화를 가져올 것으로 예상된다. 첫째, AI 기술의 발전으로 인해 플랫폼 간의 경쟁이 더욱 치열해질 것이다. 둘째, AI를 활용한 새로운 비즈니스 모델이 등장하면서 기존의 규제 체계가 무력화될 가능성이 있다. 셋째, AI의 윤리적 문제와 개인정보 보호 이슈가 더욱 부각될 것이다. 국내 AI 시장의 경우 기업들의 지속적인 AI 도입 확대, 정부의 디지털 플랫폼 투자, 그리고 새로운 소비자 기기와의 AI 통합이 시장 성장을 견인할 것이다. 그러나 국내 시장의 참여자들은 다음과 같은 핵심적 도전 과제에 직면하고 있다. 첫째, 미국, 중국에 비해 최고 수준의 AI 연구 및 엔지니어링 인력이 절대적으로 부족한 점, 둘째, GPU 등 고성능 컴퓨팅 파워 확보에 드는 막대한 비용은 여전히 중소기업과 스타트업에게 높은 진입 장벽으로 작용한다. 셋째, 양질의 데이터를 확보하고, 개인정보를 보호하며, 기업 내 데이터 사일로(silo)를 극복하는 것은 지속적인 과제다. 넷째, 시장은 두 가지 방향으로 재편될 가능성이 높다. 네이버, SKT와 같은 소수의 'AI 주권' 플랫폼을 중심으로 한 '통합'과, 특정 산업 문제를 깊이 파고드는 '버티컬 AI' 스타트업 생태계의 '분화'가 동시에 일어날 것이다. 3. 생성형 범용 모델 출현에 따른 주요 법정책적 과제 (1) 규제의 부상과 책임감 있는 AI유럽연합(EU)의 AI 법(AI Act)을 필두로 한 규제 환경의 등장은 '책임감 있는 AI'를 단순한 윤리적 구호에서 핵심적인 경쟁 우위 및 시장 진입 장벽으로 변모시키고 있다. 새 정부는 이러한 글로벌 규제 동향을 반영하여 국내 AI 법정책을 수립해야 한다.(2) 기술과 비즈니스의 균형생성형 AI 시장은 기초 모델의 성능에서 특정 비즈니스 워크플로우를 자동화하고 통합하는 능력으로 경쟁의 축이 이동하고 있다. 새 정부는 기술 발전과 비즈니스 적용 간의 균형을 맞추는 정책을 마련해야 한다.(3) 데이터 보안과 프라이버시AI 시스템의 데이터 보안과 프라이버시 문제는 중요한 과제이다. 특히, 고위험 AI 시스템의 경우 데이터 보안과 프라이버시를 보장하는 법적 장치가 필요하다. (4) 경쟁과 거래 과정에서의 문제생성형 AI 서비스는 경쟁과 거래 과정에서 다양한 문제를 야기할 수 있다. 예를 들어, 데이터 독점, 알고리즘 편향, 개인정보 보호 등의 문제가 발생할 수 있다. 이러한 문제를 해결하기 위해서는 공정한 경쟁 환경을 조성하고, 투명성을 강화하는 정책이 필요하다. 5. 글로벌 주요 소송 동향글로벌 주요 소송 동향을 살펴보면, AI 기술과 관련된 다양한 법적 분쟁이 발생하고 있다. 예를 들어, 알고리즘의 공정성, 데이터 사용의 적법성, 개인정보 보호, 잠재적 경쟁제한 행위 등의 이슈가 주요 쟁점으로 떠오르고 있다. 특히 잠재적 경쟁제한 행위와 관련해서는 미국 연방지방법원의 U.S. v. Google LLC 사건에서 구글의 생성형 AI '제미나이(Gemini)'를 기기에 선탑재하고 기본값으로 설정하는 계약과 같이 지배적 플랫폼의 생성형 AI 통합으로 인해 발생하는 경쟁 문제가 쟁점으로 다루어지고 있다. 이러한 동향을 참고하여 국내 법정책을 마련하는 데 반영해야 한다. 6. 새로운 정책 개발 또는 정책 변화를 모색하기 위한 주요 쟁점새로운 정책을 개발하거나 기존 정책을 변화시키기 위해서는 몇 가지 주요 쟁점을 고려해야 한다. 첫째, AI 기술의 발전 속도에 맞춘 유연한 규제 체계가 필요하다. 둘째, AI의 윤리적 문제를 해결하기 위한 법적 장치가 마련되어야 한다. 셋째, 개인정보 보호를 위한 강력한 법적 보호 장치가 필요하다. 이러한 쟁점을 바탕으로 정책을 마련해야 한다. 7. 새로운 정책 개발 또는 변화의 방향새로운 AI 법정책은 다음과 같은 방향으로 개발되어야 한다. 첫째, 허가 우선, 사후 규제의 접근 방식을 채택해야 한다. 둘째, 비례원칙에 기반한 규제 체계를 마련해야 한다. 셋째, 적응형 및 학습 접근 방식을 도입하여 AI 기술의 발전에 대응해야 한다. 넷째, 결과 기반의 규제 체계를 마련하여 실질적인 효과를 거둘 수 있도록 해야 한다. 다섯째, 협업형 다중 이해관계자 참여를 통해 다양한 의견을 수렴해야 한다. 여섯째, 자율 및 공동 규제를 통해 유연성과 민첩성을 확보해야 한다. 마지막으로, 전문적이고 참여형 규제 체계를 마련하여 AI 기술의 발전에 대응해야 한다. 8. 결론AI 기술의 발전은 우리 사회에 많은 기회를 제공하지만, 동시에 다양한 법적, 윤리적 문제를 야기할 수 있다. 따라서 새 정부는 이러한 문제를 해결하기 위한 법정책을 마련하고, 공정하고 투명한 AI 기술 활용을 촉진해야 한다.
2025.08.27
