“아동 성범죄 막아야 하니 당신 사진첩 좀 보겠습니다”
애플이 사용자의 아이클라우드 사진첩에 전송되는 이미지를 탐지, 분석하겠다고 밝혔습니다. 전 세계적으로 끔찍하게 자행되는 아동 성범죄를 막기 위해선데요, 범죄에 악용될 사진 유포를 예방하고 관련 정보를 사법당국에 제공하겠다는 취지입니다.
애플은 아이클라우드에 등록된 이미지들을 AI 기술로 분석해 차단하고, 메시지 앱을 통해 아동이 성적으로 노골적인 사진을 주고받는 경우 해당 아동과 부모에게 경고하겠다는 방침을 지난 7일 발표했습니다. 또 사용자가 Siri(시리)나 검색으로 CSAM 관련 용어를 검색하려고 하면 또 다른 기능이 개입된다는데요, iCloud에 업로드된 사진에서 알려진 CSAM 이미지를 감지하는 동시에 소비자의 개인 정보를 보호한다는 계획입니다.
애플은 이를 ‘아동 성학대 자료(CSAM) 감지 기술’이라고 밝혔습니다. 이렇게 식별해 아동 성범죄 사진으로 분류될 경우에는 곧바로 법 집행 기관에 보고됩니다.
◇ 개인정보에도 우선순위가 있을까
그동안 구글독스(Dropbox) 및 마이크로소프트(Microsoft)와 같은 대부분의 클라우드 서비스는 이미 사용자 파일에서 서비스 약관을 위반하거나 CSAM과 같이 잠재적으로 불법일 수 있는 콘텐츠를 검색해 왔습니다.
반면, 애플은 아이클라우드에서 사용자의 파일을 스캔하는 것을 오랫동안 거부해 왔죠. ‘개인 정보 보호가 더 중요하다’면서 테러 범죄자의 비밀번호 잠금 해제도 해주지 않던 게 바로 애플입니다.
애플은 CSAM 관련 이미지 분석은 어디까지나 기기 내에서 이뤄지며 암호화된 상태로 실행된다며 사용자들을 안심시킵니다.
또 아이클라우드에 이미지가 업로드되기 전에 해당 해시는 NCMEC(National Center for Missing & Exploited Children) 및 아동 보호 기관과 같은 데 제공되는 아동 학대 이미지 해시 데이터베이스와 비교 분석해 식별한다는 건데요,
뉴럴 해시는 개인 집합 교차라는 암호화 기술을 사용해 이미지가 무엇인지 공개하거나 사용자에게 경고하지 않고 해시 일치를 감지한다고 밝혔습니다.
또 ▲결과는 애플이 접근하거나 자체적으로 읽을 수는 없다 ▲일치하는 이미지를 해독하고 ▲ 문제가 있다고 감지될 경우에만 직접 확인하고 사용자 계정을 비활성화한다 ▲ NCMEC에 이미지를 보고한 다음 법 집행 기관에 전달한다는 게 애플이 밝힌 프로세스입니다.
그러면서 새로운 아동 학대 이미지가 아닌 (아동 보호 기관 등에) 알려진 이미지만 검색하기 때문에 프로세스가 클라우드에서 파일을 스캔하는 것보다 개인 정보를 더 중요하게 생각한다고 말합니다.
◇ 자녀가 민감한 사진 주고받으면 부모에게도 경고문 발송
또 문자 메시지 앱에는 아동 성범죄 관련 사진을 보내는 경우를 방지하기 위해, 해당 사진을 흐릿하게 처리하는 기능과 경고 메시지 기능도 탑재합니다.
애플에 따르면 메시지 스레드에서 민감한 사진이 발견되면 이미지가 차단되고 사진 아래에 “민감한 사진일 수 있습니다”라는 레이블이 표시됩니다.
클릭해서 사진을 볼 수 있는 링크가 표시되는데 아이가 사진을 보기로 선택하면 추가 정보가 있는 다른 화면이 나타납니다. 여기에 민감한 사진과 영상은 “수영복으로 가려진 사적인 신체 부위를 보여준다”, “네 잘못은 아니지만 민감한 사진과 영상은 해를 입힐 수 있다”는 내용을 아이에게 알려준다는 거죠. 그럼에도 아이들이 관련 사진을 주고받는 경우 부모에게 알립니다.
애플은 “이 기술은 모두 기기에서 처리되기 때문에 애플이 자녀의 개인 통신에 액세스 하거나 읽을 필요가 없다. 클라우드에 있는 Apple 서버로 다시 전달되는 것은 없다”며 거듭 강조합니다.
그리고 오탐 확률을 두고 ‘1조 분의 1’이라고 자신합니다. 그럼에도 오류가 발생할 경우를 대비해 항소 절차도 마련했다고 밝혔습니다. 이 기능들은 iOS15 및 macOS 몬테레이(Monterey)에 두 달 내 출시될 예정입니다.
◇ 과도한 사생활 침해 우려, 정부기관 악용 소지도
그러나 사용자들은 반대합니다. 프라이버시를 과도하게 침해한다는 거죠. 아무리 아동 성범죄를 막기 위한 취지라지만 내 아이폰, 애플 워치, 아이패드 등의 사진을 뒤진다는 건 불쾌한 일입니다. 또 그래서는 안 되겠지만, 이를 수집한 정부기관이 악용할 가능성도 배제하기 힘듭니다.
왓츠앱 총괄 책임자인 윌 캐스카트도 일침을 놓습니다. 애플의 방식이 매우 우려스럽다는 거죠. 왓츠앱은 트위터를 통해 “이용자 보고와 아동 착취 근절 시스템을 통해 아동 착취 사례 40만 건 이상을 당국에 보고했다”는 점도 같이 언급했습니다.
사실 왓츠앱은 애플의 이 같은 방침에 할 말이 많습니다. 왓츠앱 모회사는 페이스북입니다. 페이스북은 애플과 이용자 프라이버시에 관해 오랫동안 갈등을 빚는 중이죠.
지난해부터 애플은 맞춤형 광고를 제공하려면 이용자 동의를 받아야 한다는 정책을 내놓겠다고 밝혔습니다. 광고업체가 이용자 동의 없이 기기 내 정보를 추적, 활용하는 것을 막겠다는 취지에섭니다.
페이스북은 즉각 반발했습니다. 페이스북의 주된 수익원은 맞춤형 광고이기 때문이죠. 애플의 방침대로라면 페이스북 입장에선 광고 효과가 급감할 수밖에 없습니다.
그러나 이러한 정책은 결국 지난 4월 iOS 14.5부터 적용됐습니다. 실제로 정책 도입 이후 페이스북 맞춤형 광고 수용률이 4%에 그쳤다는 조사 결과도 나왔습니다. 이런 와중에 애플이 지금껏 주장해온 개인 정보 보호와 반대되는 정책을 내놓은 것입니다.
매튜 그린 존스홉킨스대 부교수도 “검열 대상이 아이클라우드에 등록된 이미지에서 더 나아가 암호화된 메시지 시스템으로도 확장될 것”이라면서 아이클라우드 이미지 AI 분석을 우려했습니다.
그린 교수는 “전 세계 법 집행기관들이 이런 검열 시스템을 종단 간 암호화(E2E) 메시지 시스템에 추가 적용하는 것을 요청해왔다”며 “휴대폰에서 아동 성 범죄물을 찾는 데에 도움이 되더라도, 정부 기관이 이런 권한을 갖게 되면 어떤 일이 일어날지 상상해보라”고 지적했습니다.
또 비교분석 수단이 되는 아동 성 범죄물 해시 DB를 소비자가 검토할 수 없다는 것도 우려점으로 짚었습니다. 아동 성 범죄물이 아닌데도 아동 성 범죄물의 해시가 충돌될 가능성을 완전히 배제할 수 없다는 거죠. 가령 정치적인 내용의 이미지를 전송받았는데, 아동 성 범죄물과 해시가 충돌한다는 이유로 당국에 보고될 가능성이 있다는 설명입니다.
시민단체들도 목소리를 높입니다. 기술 및 민주주의 센터(CDT) 이사인 그렉 노자임은 “애플은 감시 및 검열 목적의 인프라로 교체하고 있다”면서 “이 계획이 실행되면 선례가 돼 미국뿐만 아니라 전 세계에서 이 시스템이 남용 및 확대되기 쉬울 것”이라고 주장했습니다. 그러면서 “메시지 시스템 상의 이미지 스캔이 결국 그간 당국이 요청해왔던 ‘백도어’를 만드는 것과 다름없다”고 덧붙였습니다.
미국 정보인권단체인 전자 프런티어 재단(EFF)도 “애플이 기기 상에서 머신러닝을 사용해 메시지 내용을 스캔한다는 건 더 이상 아이메시지를 E2E라고 말할 수 없다는 것”이라고 비판했습니다.
여러분은 어떻게 생각하시나요?
아동 학대, 아동 성범죄는 너무나 끔찍한 일이고 사후조치보다는 사전 예방만이 아이들을 지킬 수 있는 건 사실입니다.
취지는 좋지만 문제는 이 기술을 다루는 건 결국 사람이고, 당국에도 보고된다는 것이죠. 모든 애플 관계자와 정부 관계자가 악당이라고 단정할 수는 없지만, 견물생심이라는 말이 생각나더군요. 수많은 데이터베이스를 만질 수 있고 이를 다루는 권한을 가지게 된다면 없던 나쁜 마음이 생길 수도 있지 않을까요? 사람의 욕심은 끝이 없기도 하고요. 기술에 접근하더라도 사람의 개입을 어디까지 막을 수 있을까요. 그것 역시 기술적으로 걸러낼 수 있을까요.
그리고 이를 허락하지 않으면 아동 성범죄 가해자가 되는 듯한 기분, 마치 내가 떳떳하지 못해서 반대하는 것 같은 이상한 기분, 또 모든 사용자를 잠재적 범죄자로 취급한다는 불쾌한 느낌도 지울 수 없습니다. 누군가의 사진첩에 나쁜 이미지가 있을지도 모른다는 걸 전제로 하는 듯한.
애플은 절대 기기에서만 감지, 식별될 뿐 애플은 거기에 접근할 수 없다고 합니다. 페이스북도 늘 주장했었죠. 개인정보를 수집하지 않는다고요. 그런데 어떤가요. 개인정보유출 문제까지 발생했습니다.
페이스북이나 애플이나, 여기서 언급되진 않았지만 아마존, 구글 등 우리가 알만한 글로벌 빅 테크 기업들. 다 그놈이 그놈입니다.
다음 시간에는 왜 애플이 이런 방침을 내놓았는지 분석해볼게요!
기자 김연지 님이 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.
