‘컨슈머 소사이어티 코리아’는 우리나라 소비자 운동의 과제와 성과를 공유하고 정부와 기업, 소비자가 협력해 새 시대에 맞는 경제와 시장 환경, 소비자정책을 토론하고 의제를 형성하는 공간이다.
행사는 개회식과 1, 2섹션 소비자 컨퍼런스로 나눠 진행됐다. 특히 미래소비자행동 주최로 열린 'AI 금융사기 소비자 피해 예방을 위한 정책' 포럼은 많은 참석자들의 이목을 끌었다.
양진영 법무법인 민후 대표변호사가 강연자로 나섰다.
발표에 따르면 모든 산업군의 디지털 전환이 가속화되는 가운데 금융업계에서도 AI 활용이 확대되며 로보어드바이저, 챗봇, 상품추천, 이상거래탐지, 신용평가 및 여신심사 등에 다양한 업무에 활용되고 있다. 특히 금융권의 경우 AI가 가장 활발하게 활용될 수 있는 분야로 꼽힌다.
AI의 등장으로 개인 맞춤형 금융서비스가 확대됐으며 이후에는 경제 주체 간 정보비대칭 해소라는 효익을 기대할 수 있지만 그 이면에는 AI로 인한 리스크가 상존한다고 경고한다.
실제로 애플카드에서는 AI가 신용 및 대출 시 남성의 신용을 여성보다 높게 평가해 신용한도를 다르게 제공한 사례가 있었다.
금융권과 연관성이 높은리스크를 ▲데이터 관련 리스크 ▲산출물 관련 리스크 ▲시장변동성확대 관련 리스크로 크게 3가지로 분류했다.
먼저 데이터 관련 리스크에선 개인정보 유출 및 프라이버시 문제, 데이터 편향, 데이터 오염 등의 문제가 우려되는데, 이를 해결하기 위해선 데이터 편향성 극복과 교정을 위한 사람의 개입과 데이터 처리 및 관리에 대한 기술적·물리적 통제방안 마련이 필요하다고 제언했다.
양 변호사는 "인공지능에 의한 의사결정은 소비자에 의해 이해될 수 있어야 한다"며 "의사 결정 기구와 감독 기구가 마련돼야 한다"고 말했다.
산출물 관련 리스크 면에선 오류가 있는 데이터나 분류되지 않은 데이터로 학습하는 등 문제로 잘못된 정보나 허위 정보를 생성하는 '환각효과'가 발생할 수 있다고 설명했다. 금융시장에 생성형 AI가 잘못된 결정을 내리는 경우 소비자가 사용해서는 안되는 상품이나 잘못된 상품을 추천할 가능성이 있어 피해가 발생할 수 있어 주의를 요구했다.
시장변동성관련 리스크 면에선 다수의 투자자가 동일 유사한 AI 모델을 통해 금융시장에 참여하게 되면 투자 성향이 비슷해지면서 버블-버스트 사이클이 심화될 수 있다는 우려가 제기됐다. 이에 대해 양 변호사는 "AI 알고리즘 트레이딩의 장점을 수용해 시장 대응력을 개선하고 보편화가 초래될 수 있는 시장 변동성 확대에도 대비해야 한다"고 말했다.
아울러 법률 지원도 마련돼야 한다는 주장이다. 금융정보와 관련해 데이터와 알고리즘 조작에 의한 사기 위험도가 높아진 만큼, 인공지능 콘텐츠 및 상품에 대한 표시, 데이터/알고리즘 영향 평가와 인증 등 구체적 제도의 마련이 시급하다고 강조했다.
[소비자가만드는신문=이정민 기자]
