네이버, 쿠팡, 카카오모빌리티 등 대표적인 대형 온라인 플랫폼 기업들은 AI 알고리즘을 통해 검색 및 추천 서비스 등을 제공하고 있다.
하지만 기업들이 자사에 유리한 방향으로 이 알고리즘을 조작한다는 의혹이 확산되면서 입점업체나 이용자들의 거센 반발을 사고 있다.
네이버는 지난해 검색 알고리즘을 조작해 자사 브랜드(PB) 상품을 상단에 노출한 문제로 공정거래위원회 제재를 받았다. 쿠팡 또한 같은 의혹으로 공정위가 조사에 착수했다.
카카오모빌리티는 역시 AI 알고리즘을 통해 택시 콜을 배차해주는데, 이 알고리즘을 조작해 가까운 거리에 있는 일반택시가 아니라 멀리 있는 가맹택시 카카오T블루에 우선 배차했다는 의혹을 받아 공정위 조사를 받고 있다.
배달앱 또한 AI 알고리즘이 라이더들에게 추천 배차를 해주는 방식인데, 이 알고리즘을 조작해 라이더들을 통제하고 있다는 의혹이 제기된 바 있다.
배달앱들은 주문지와의 거리, 라이더 수락률, 평점 등을 고려해 AI가 배차를 한다고 밝혔지만 라이더들은 가까운 거리보다 먼 거리 주문이 잡히는 경우가 상대적으로 많다며 납득하지 못하고 있다.
먼 거리라고 배차를 거부하면 콜 수락률이 떨어져 배차를 받기가 더 어려워지는 악순환의 고리를 만들게 돼 울며 겨자 먹기 식으로 콜을 수락할 수 밖에 없다는 것이다.
이같은 폐해들이 불거지자 당정은 온라인 플랫폼 규제 입법을 다수 발의한 상태다. 현재 계류 중인 법안은 온라인 플랫폼 공정화법 제정안, 전자상거래법 전부개정안과 온라인 플랫폼 이용자 보호법 등이다.
공정거래위원회는 올 1월 온라인 플랫폼의 알고리즘 등 광고 노출 기준을 공개하는 내용을 담은 ‘온라인 플랫폼 공정화법’(온플법)을 발의했다.
지난 3월 공정위가 입법예고한 전자상거래법 전부개정안은 소비자가 AI 알고리즘에 의한 맞춤형 광고 대신 일반 광고를 선택할 수 있다는 내용을 담았다. 다만 맞춤형 광고만 제공하는 플랫폼 사업자들이 일반 광고를 추가로 제공하는 데 대한 부담이 크다고 반발해 공정위는 해당 규정을 빼기로 했다.
지난해 12월에는 과학기술정보방송통신위원회(과방위) 소속 전혜숙 더불어민주당 의원 등이 콘텐츠 등의 노출 방식 및 노출 순서 결정 기준을 공개해야 한다는 내용을 담은 ‘온라인 플랫폼 이용자 보호법’을 발의했다.
공정거래위원회와 방송통신위원회는 최근 같은 취지인 두 법안의 합의안을 마련하고 알고리즘 노출 기준에 대해선 '주요'한 검색 기준에 대해서만 공개하도록 범위를 좁혔다. 사업자와 이용자, 정부 부처 간 의견 갈등이 지속되고 있다는 판단에서다.
지난 11월 24일 더불어민주당 윤영찬 의원 등은 '고위험 인공지능의 기술 또는 서비스를 이용함에 있어 손해를 입으면 해당 사업자에게 손해배상을 청구할 수 있다'는 내용을 담은 ‘알고리즘 및 인공지능에 관한 법률’을 발의했다.
지난 6월에는 정의당 류호정 의원 등이 알고리즘 서비스 제공자에게 알고리즘에 대한 설명을 요구할 수 있도록 하는 등의 내용을 담은 ‘정보통신망법 개정안’을 발의한 바 있다.
하지만 관련 법안들은 모두 국회 계류 중이다. 이와 관련해 공정위와 방통위의 법안 주도권 다툼으로 인해 처리가 늦어졌다는 비난이 거세진 바 있다. 정부는 지난 9일 열린 국회 본회의에서 '온플법' 처리를 목표로 했으나 상정조차 되지 않았다.
온라인 플랫폼 기업들은 알고리즘 기준까지 공개하는 데 대해 우려를 표하고 있다.
한 대형 온라인 플랫폼 기업 관계자는 “알고리즘 시스템은 이용자들의 성향에 맞춰 최적의 검색 결과를 보여주기 위한 것”이라며 “노출 기준을 공개한다고 해도 이해 관계자가 어떤 측면에서 바라보느냐에 따라 논쟁이 될 수밖에 없는 것 같다”고 밝혔다.
다른 온라인 플랫폼 관계자는 “기업 입장에서는 섣불리 규제가 이뤄질 경우 사업 전체가 흔들릴 수도 있다”며 “온라인 플랫폼 공정화법과 전자상거래법 개정안 등에 담긴 내용이 상충하는 부분도 있고 정부 부처끼리도 의견이 다른 부분이 있으니 학계, 업계, 정부 부처 등 여러 목소리를 듣고 처리해야 한다. 빨리 처리해야 한다는 목소리들도 나오는 상황인데 너무 섣불리 진행될 경우 부작용이 우려된다”고 지적했다.
또 다른 업계 관계자는 “알고리즘 기준이 노출되면 기업의 영업 기밀이 노출되는 거나 다름없기 때문에 공정한 경쟁을 저해하는 것과 같다"며 "현재 배달앱 같은 경우도 일부 라이더들이 AI 알고리즘 추천과 상관없이 GPS를 조작해 단가가 높이거나 거리가 가까운 콜을 가져가는 악용 사례가 있다고 들었는데, 알고리즘 방식까지 공개되면 악용하는 이용자들이 분명 생길 것이다"라고 꼬집었다.
이어 "현재는 배달앱마다 AI 리뷰 시스템이 있어서 허위 리뷰를 적발하고 의도적으로 평점 높이는 업체들을 제재하고 있다. 이런 기준이 노출되면 악용하는 사업자들이 생기지 않을 것이라는 보장이 없다"며 "온라인 플랫폼 기업마다 가지고 있는 알고리즘 시스템이 다 다른데 기업 입장에선 좋은 의도로만 노출된다고 볼 순 없다. 노출하고 말고는 고민이 많이 필요한 부분이다"라고 강조했다.
전문가들도 알고리즘 기준 모두를 공개하는 것엔 반대한다는 입장이다. 또 정부가 처음부터 명확한 기준을 만들지 않아 온라인 플랫폼 기업의 우려와 갈등만 양산했다고 비난했다.
권세화 한국인터넷기업협회 실장은 “온라인 플랫폼의 알고리즘 시스템이 투명해지면 평등한 기준이 부여될 거기 때문에 소비자의 후생이 극도로 좋아질 거라는 큰 착각을 하는 경우가 많은데 오히려 그 반대가 될 확률이 훨씬 높다"면서 "오히려 소상공인과 소비자들에게 더 큰 피해가 될 것"이라고 밝혔다.
그는 "현재 알고리즘 기준을 분석한 후 악용해 제품을 상위 노출시키거나 허위 리뷰를 조작하는 등의 악성 업체들과의 전쟁을 벌이는 플랫폼들이 많다"며 "그렇기 때문에 온라인 플랫폼들은 알고리즘을 수시로 바꿀 수밖에 없다"고 설명했다.
이어 "그렇기 때문에 많은 소비자 단체나 소상공인들이 주장하는 것과 달리 알고리즘이 투명화될수록 악성 업체들이 광고하는 특정 제품만 상위 노출될 확률이 높아지고 성행할 확률이 높다"며 "그렇게 악용할 수 있는 건 돈 있는 업체들뿐이고, 영세한 업체들은 경쟁에서 밀려날 수밖에 없다. 그러면 소비자 입장에서도 선택권을 강제 박탈당하는 것이기 때문에 불만이 커질 게 분명하다"고 강조했다.
정신동 강릉원주대 법학과 교수는 “원래 알고리즘 관련된 모든 기준은 기업의 영업기밀"이라며 "그 기준이 노출되는 건 일종의 기술 유출 같은 것이기 때문에 경쟁사업자와의 경쟁에서 치명타를 얻을 수밖에 없다"고 설명했다.
정 교수는 "처음에는 공정위가 알고리즘 공개 기준에 대해 상세하게 기재하지 않아 알고리즘 자체를 공개해야 하는 거냐는 온라인 플랫폼 기업들의 우려가 있었다"며 "하지만 최근 우려한 것과는 달리 알고리즘 내에서 검색 순위를 결정하는 중요한 매개변수(parameter)만 몇 개 공개하기로 바뀌었고 외국에서도 소상공인이 알아야 할 일부 기준은 공개하자는 움직임을 보이고 있다"고 밝혔다.
그러면서 "관련 법안들은 연내 처리가 불가능해진 것과 다름없다"며 "올해 초부터 추진됐지만 정부 부처 간의 입장 정리하는 데만 장시간 소요됐다"고 비판했다.
공정위 측은 국회에서 지속적으로 논의 중이기 때문에 예단할 수는 없다는 입장이다.
공정위 관계자는 “현재 국회에서 계속 논의 중인 것으로 알고 있다"며 "최근 열린 본회의 때 상정 안 됐다고 해서 연내 통과가 불가능하다고 상황을 단언할 수는 없다"고 일축했다.
[소비자가만드는신문=황혜빈 기자]
