인공지능(AI) 산업이 지속해서 성장하려면 기술 경쟁력뿐 아니라 안전성과 투명성, 책임성을 확보해 소비자의 신뢰를 얻어야 한다는 제안이 나왔다.

22일 한국소비자원과 한국소비자법학회를 포함한 소비자단체 9곳은 서울 중구 한국프레스센터에서 ‘소비자 신뢰와 AI 혁신 포럼 출범식 및 제1차 라운드테이블’을 개최했다. 이번 행사는 소비자 관점에서 AI 서비스의 기본 원칙을 마련하고 정부와 기업, 소비자단체, 학계가 참여하는 협력적 논의 구조를 구축하기 위해 마련됐다.

행사에는 문미란 소비자 신뢰와 AI 혁신 포럼 공동의장 겸 소비자시민모임 회장을 비롯해 김현 더불어민주당 국회의원, 윤수현 한국소비자원장 등이 참석했다.

문미란 의장은 개회사에서 “오늘은 정부와 소비자단체, 학계, 산업계가 함께 모여 건강한 AI 생태계 조성을 위한 첫걸음을 떼는 순간”이라며 “AI의 혁신과 산업의 성장은 소비자의 단단한 신뢰가 뒷받침될 때 비로소 지속 가능하다. 포럼이 소비자 권익 향상과 신뢰 기반 혁신을 이끄는 중추적인 플랫폼이 되도록 노력하겠다”고 말했다.

주병기 공정거래위원장은 축사를 통해 “AI워싱으로 인한 소비자 피해를 예방하기 위해 제도와 정책을 보완해 나가고 있지만 이런 과제는 정부만의 노력으로 해결하기 어렵다”며 “소비자단체와 학계, 산업계, 관계기관이 함께 협력할 때 건강한 AI 생태계와 지속 가능한 혁신이 이뤄질 수 있다”고 전했다.

윤수현 한국소비자원장은 “기술과 시장 성장의 속도에 소비자의 권익이 뒤처지지 않도록 소비자 관점에서 AI 시대의 기본 원칙을 모색하는 일은 매우 시의적절한 과제”라며 “오늘 논의되는 내용들이 소비자 정책으로 이어질 수 있도록 노력하겠다”고 말했다.

김현 더불어민주당 의원은 “산업이 발전함에 있어 소비자의 권익과 신뢰가 뒷받침되지 않으면 한순간에 무용지물이 될 수도 있다”며 “AI 영역뿐 아니라 다른 제반 영역에서도 소비자를 보호할 수 있는 제도 개선을 만들어내겠다”고 강조했다.
 

이날 김현수 소비자 신뢰와 AI 혁신 포럼 공동의장 겸 한국소비자법학회장은 ‘소비자 신뢰와 AI 혁신을 위한 기본원칙안’을 발표했다.

김 의장은 “AI 기술이 아무리 발전하더라도 소비자 또는 이용자가 그것을 신뢰하지 못한다면 AI 기술과 그에 따른 사회의 혁신이 과연 성공할 수 있을 것인가”라며 “AI 혁신의 지속 가능성은 소비자 신뢰에 달려 있다”고 말했다.

그는 AI가 검색과 쇼핑을 넘어 금융·의료·교육 등 소비자의 일상 전반으로 확산하면서 기술이 소비자에게 미치는 영향과 위험도 함께 커지고 있다고 진단했다. 불투명한 알고리즘과 데이터 편향에 따른 차별, 과도한 개인정보 수집, 소비자의 선택을 유도하는 다크패턴 등을 대표적인 위험 요인으로 꼽았다.

김 의장은 “AI 산업 육성과 관련된 논의는 매우 활발하게 진행되고 있지만 소비자 관점에서 AI를 어떻게 신뢰할 수 있게 만들 것인지에 관한 논의는 아직 상대적으로 부족하다”며 “포럼은 이러한 공백을 메우기 위해 출범했다”고 밝혔다.

이어 소비자 보호와 AI 혁신은 서로 충돌하는 가치가 아니라 상호 보완하는 선순환 관계라고 강조했다. AI 서비스의 안전성과 투명성, 책임성이 확보되면 소비자의 신뢰가 형성되고, 이를 바탕으로 이용이 확대돼 산업의 지속적인 성장으로 이어질 수 있다는 설명이다.

그는 ▲안전성과 신뢰성 ▲투명성과 설명가능성 ▲공정성과 비차별 ▲자기결정권과 인간 개입권 ▲책임성과 피해구제 가능성 등 5가지 기본 원칙을 제안했다.

안전성과 신뢰성 원칙에는 AI의 오작동·오류·환각·예측 실패에 따른 소비자 피해를 예방하고, 추천·상담·거래·심사 등 소비자에게 중대한 영향을 미치는 서비스의 정확성을 관리해야 한다는 내용이 담겼다.

투명성과 설명가능성 원칙은 소비자가 AI 이용 사실과 자신에게 영향을 미친 결과의 도출 이유를 알 수 있어야 한다는 내용이다. 공정성과 비차별 원칙에는 알고리즘과 데이터 편향을 점검하고, 추천·광고·거래·심사 과정에서 부당한 차별이 발생하지 않도록 해야 한다는 방향이 포함됐다.

아울러 소비자가 AI 서비스와 개인정보 활용 여부를 실질적으로 선택할 수 있도록 하고, 중대한 결정에는 사람의 검토와 개입이 가능해야 한다는 원칙도 제시했다. AI로 소비자 피해가 발생하면 개발자와 제공자, 운영자 등의 책임 범위를 합리적으로 정하고 신속한 피해구제 경로를 마련해야 한다는 내용도 포함됐다.

김 의장은 기본원칙을 설계한 방향으로 혁신과 소비자 보호의 조화, 산업 현실의 반영, 협력적 거버넌스, 단계적 접근 등 네 가지를 제시했다. 그는 “둘 중 하나를 선택하는 것이 아니라 혁신과 소비자 보호는 함께 실현돼야 할 가치”라며 “기술적 한계와 비용 부담, 영업비밀 보호 등 산업 현장의 목소리를 듣는 것도 중요한 과제”라고 밝혔다.

이어 “오늘 제안하는 내용은 기본원칙안이기 때문에 완성된 규범이 아니다”며 “공감대를 형성하고 쟁점별 논의를 거쳐 다듬은 뒤 분야별 가이드라인이나 정책으로 단계적으로 구체화하기 위한 출발점”이라고 설명했다.

포럼은 향후 라운드테이블을 통해 개인정보와 플랫폼, 금융, 공정거래, 전자상거래, 피해구제 등 분야별 쟁점을 논의하고 기본원칙안을 구체화할 계획이다.

[소비자가만드는신문=정현철 기자]