소비자가만드는신문은 21일 오후 서울 중구 대한상공회의소 지하 2층 중회의실B에서 'AI 시대와 소비자 권익 보호 방안'을 주제로 한 '2025 AI 포럼'을 개최했다.
이날 토론에는 이병준 고려대학교 법학전문대학원 교수가 좌장을 맡은 가운데 서종희 연세대학교 법학전문대학원 교수, 이정민 한국금융소비자보호재단 연구위원, 정지연 한국소비자연맹 사무총장, 정혜련 경찰대학교 법학과 교수가 자리했다.
이어 "부유층과 빈곤층의 계층 간극은 앞으로 더 커질 것이다. 결과적으로 취약계층들은 기술적으로나 인지적으로나 한계를 가질 수밖에 없다"고 꼬집었다.
서 교수는 "AI의 고도화가 취약계층의 차별로 이어지는 것"이라며 "앞으로의 AI 기술 활용 방향성에 대해서 생각해봐야 한다"고 덧붙였다.
이정민 한국금융소비자보호재단 연구위원은 "소비자들의 합리적인 의사결정과 자기 결정권이 중요해지고 있다"며 "금융 분야에서도 다크 패턴에 대한 문제가 대두되고 있다"고 지적했다.
이정민 연구위원은 "AI를 활용한 다크패턴 문제가 더욱 심화된다면 소비자들의 비합리적인 결제를 유도할 수 있다"고 덧붙였다.
이어 "다크패턴 사례가 워낙 많지만 제재 수준보다 다크패턴을 이용한 영업이익이 더 크다"며 "올바른 규제가 작용될지 의문"이라고 설명했다.
이 위원은 "소비자들이 일회성 계약이 아니라 장기적인 계약을 유지하고 있기 때문에 금융 소비자들의 취약성이 높다고 생각한다"고 꼬집었다.
정지연 한국소비자연맹 사무총장은 최근 AI 관련 소비자 인식 조사 결과를 언급하며 “소비자의 60~70%가 AI 발전 자체는 긍정적으로 평가하지만 가장 큰 우려는 딥페이크와 민감정보 수집 문제”라고 설명했다.
특히 현재 금융당국이 가이드라인 수준에 머무는 소극적 접근을 하고 있다는 점을 지적하며 AI 전문성 강화와 규제·감독 권한의 적극적 행사를 촉구했다.
또한 한국소비자연맹이 2020년 제정한 ‘AI 시대 소비자 8대 권리’를 소개하며 “AI 설계부터 유통·사후단계 전 과정에 포용성·공정성·비차별·안전성·투명성·개인정보 통제권·책임성·피해구제권이 반영돼야 한다”고 강조했다.
그는 특히 ▲AI 개발·운영 과정에서의 사전 고지 및 AI 표시제 ▲AI 워싱 및 과장 홍보 규제 ▲책임 주체의 명확화 및 실질적·신속한 피해구제 체계 ▲소비자가 직접 의견을 제시·참여할 수 있는 거버넌스 구축을 핵심 정책 과제로 꼽았다.
아울러 “AI 기술의 접근성과 포용성을 확대하지 않으면 디지털 취약계층의 소외가 심화될 수 있다”며 정부의 정책 설계 단계부터 이를 고려해야 한다고 했다.
끝으로 그는 “AI 기술에 대한 소비자의 이해도가 높을수록 공포와 거부감이 낮아진다는 조사 결과가 존재한다”며 ▲체계적 소비자 교육 ▲사람과의 대면 소통 선택권 보장의 중요성을 재차 강조했다.
정혜련 경찰대 법학과 교수는 금융 시장은 의료, 금융, 법률, 특히 공공성이 큰 영역은 소비자들에게 주는 피해가 막대하다. 더욱이 소비자 보호가 강력하게 요구된다고 밝혔다.
이어 지난 16일 네이버가 쇼핑 검색 알고리즘을 조정해 자사 스마트스토어 제품을 검색순위 상단에 노출한 행위에 대해 공정거래위원회에서 과징금을 부과한 처분이 잘못됐다며 파기환송한 대법원의 판단을 언급했다.
정 교수는 “AI 알고리즘 조정이 단순 기술 문제가 아닌 소비자의 선택 구조를 통제하는 행위로서 법적 규제 대상이 될 수 있음을 최초로 확인한 의미 있는 사건”이라고 강조했다.
이어 “해당 판결은 자사우대가 불공정거래로 판단될 수 있음은 인정하되 입증자료의 객관성과 전문성이 부족하면 제재가 어렵다는 점을 명확히 했다는 것에 의미가 있다”며 알고리즘 조작 입증 책임과 실증 기반 검증체계 구축이 국가 경쟁당국과 금융 감독당국에 중요한 과제로 부상했다고 분석했다.
또한 그는 금융 영역에서의 AI 추천 시스템 역시 소비자의 금융, 상품 선택 구조를 결정하는 ‘게이트키핑 알고리즘’임을 지적하며 내부 데이터가 영업비밀로 보호돼 소비자가 접근하거나 검증할 방법이 극히 제한적인 현실을 문제로 꼽았다.
이에 따라 “금융감독원의 전문성·예산·전담조직을 입법적으로 보강하는 조치가 반드시 필요하다”고 강조했다.
마지막으로 정 교수는 “유럽 표준을 그대로 수용할 필요는 없으며 한국은 이미 독자적 표준 구축 경험이 있는 만큼 국내 소비자 특성을 반영한 K-알고리즘 안전·검증 체계를 주도적으로 만들 필요가 있다”고 강조했다.
또한 금융 플랫폼 이용 사업자 등도 ‘넓은 의미의 소비자’로 포함시키는 확장된 소비자 보호 패러다임 구축이 향후 경쟁력이 될 것이라고 전망했다.
[소비자가만드는신문=정은영 기자]
