민사소송에서의 AI 알고리즘 심사 – 호주 Trivago 판결과 관련하여

민사소송에서의 AI 알고리즘 심사 – 호주 Trivago 판결과 관련하여

한애라 교수(성균관대학교 법학전문대학원)

이 글은 『민사소송』 2023년 27호, 185-234면에 실려 있는 글입니다 (전문보러가기).

I. 들어가며

인공지능, 특히 머신러닝 기법은 사회 전반에서 이미 활발히 이용되고 있다. 인공지능의 활용이 폭증하면서 AI 알고리즘에 의한 자동화된 의사결정(대출이든, 운전이든, 상품 추천이든)의 결함으로 인한 민사책임이 발생할 가능성도 커지고 있다.

그런데 AI 알고리즘에서의 결함이나 하자의 의미, 책임의 주체, 책임의 분배, 과실 판단 기준, 제조물책임법의 개정 등에 관하여는 국내외적으로 상당히 심도 깊은 논의가 전개되어 왔으나, 민사소송절차에서 알고리즘을 어떻게 심사할 지에 대하여는 아직 논의가 부족하다. 인공지능의 하자나 결함에 따른 실체적인 책임을 묻기 위해서는 쟁점이 되는 AI 알고리즘의 내용을 분석할 수 있도록 충분히 증거 제출, 조사, 심리가 이루어져야 하고, 이를 통해 법원이 AI 알고리즘을 둘러싼 쟁점에 관하여 판단을 내릴 수 있어야 한다. 그러나 인공지능, 특히 머신러닝 기법에 의한 AI 알고리즘은 그 불투명성으로 인하여 사법심사가 용이하지 않다. AI 알고리즘이 어떻게 작동하는지가 소송의 쟁점이 될 때, 이러한 불투명성을 극복하기 위하여 AI 알고리즘을 어떠한 방식으로 감정하고 그 감정결과를 법원이 어떻게 판단의 자료로 삼아 심증을 형성할 것인지가 문제된다.  

그런데 최근 호주 연방법원에서는 Trivago 사이트의 호텔 딜 추천 AI 알고리즘이 어떻게 작동하는가가 정면으로 주된 쟁점이 되어 이 점에 관하여 전문가 의견서 제출 및 전문가 증언을 거쳐 비교적 상세한 판결이 내려진 바 있다. 이 글에서는 먼저 Trivago 사건에서 AI 알고리즘을 어떻게 감정하고 심리하였는지 살펴보고, 이를 우리나라의 민사소송절차와 비교하면서, 설명 가능성이 떨어지는 머신러닝 알고리즘을 심리하는 과정에서 등장할 수 있는 여러 문제점과 그 해결 방안을 검토한다.