[이뉴스코리아 손은경 기자] 일본에서 절도가 의심스러운 ‘수상한 고객’을 잡아내는 인공지능 소프트웨어가 개발됐다.
일본 스타트업 ‘바크(Vaak)’가 개발한 AI ‘바크아이(VaakEye)’는 범죄 행위를 예측할 수 있다. 이 AI는 일본 전역의 편의점과 약국 등 50여곳에서 사용되고 있다.
이 AI가 도둑을 잡아내는 방법은 이러하다. 상점에서 감시카메라로 포착한 영상을 통해 인물 행동을 분석하고 의심스러운 행동을 감지해 점원의 스마트폰에 알리는 시스템이다. 바크아이는 점원에게 “이 사람을 확인해보세요. 절도 행각을 벌일 것 같습니다.”와 같은 알림을 보낸다. AI로부터 수상한 고객의 정보를 받은 직원은 의심스러운 행동을 한 고객에게 다가가 도둑질을 미연에 방지하는 식이다.
바크사는 고객의 얼굴 표정과 몸짓, 옷차림을 토대로 고객의 이상행동을 가려낼 수 있도록 10만시간 이상의 데이터를 바크라이의 알고리즘에 적용했다.
바크사에 따르면 테스트 기간 동안 바크아이를 현지 편의점서 사용한 결과 절도로 인한 손실액이 77%까지 감소했다고 한다.
하지만 바크아이를 둘러싼 논란도 적지 않다. 개인정보 무단 수집 논란이 그 중 하나이다. 고객의 동의를 구하지 않은 상황에서 안면인식 AI가 개인정보를 무단으로 수집해 범죄 행위 분별에 사용해도 되냐는 것이다.
또 매장을 방문한 소비자들 중에서 자신이 AI의 무분별한 감시의 대상이 된다는 점을 꺼려해 바크아이가 도입된 매장으로는 발길을 끊을 수도 있다. 이로 인해 매출 감소로 이어질 가능성도 높다.
또 바크아이와 같은 안면인식 AI가 차별을 부추기고 있다는 비판이 나온다. 미국 매사추세츠공대(MIT)와 스탠포드대는 다양한 상업적 용도의 안면인식 프로그램이 피부색과 성별에 대한 편견을 갖고 있다는 것을 발견했다.
럿거스대학(Rutgers University)의 제롬 윌리암스(Jerome Williams) 교수는 바크아이와 같은 안면인식 AI에 대해 “인종 차별적인 요소가 섞이면 안 된다”며 “고객의 행동을 기반으로 한 데이터가 잘 누적돼 있어야 한다”고 전했다.