⚖️ Part 4. 소비자의 권리와 그 이후 | 18화. 자동화된 결정을 거부할 수 있나 — 설명 요구권 사용법

기계가 나를 판단했을 때

보험 상품을 알아보던 한 사람이 앱에서 가입 가능한 상품 목록을 받아 봅니다. 그런데 친구가 받은 목록과 전혀 다르고, 보험료도 훨씬 비쌉니다. 이유를 물어도 고객센터는 시스템이 자동으로 산출한 결과라는 말만 되풀이합니다. 쇼핑몰의 쿠폰 대상에서 빠지거나, 구독 서비스의 특가 혜택이 나에게만 보이지 않을 때도 비슷한 답을 듣습니다. 초개인화가 깊어질수록 사람이 아니라 시스템이 나에 대해 결정하는 순간이 늘어납니다. 그 결정이 마음에 들지 않을 때 우리는 무엇을 할 수 있을까요. 이번 화에서는 기존의 프라이버시와 초개인화 금융 이야기에 담겼던 문제의식을 이어받아, 자동화된 결정에 맞서는 소비자의 권리와 그 사용법을 정리합니다.

2024년 3월부터 생긴 권리

2024년 3월 15일부터 개정 개인정보 보호법 제37조의2가 시행되었습니다. 인공지능을 포함해 완전히 자동화된 시스템이 개인정보를 처리해 내린 결정을 자동화된 결정이라고 부르고, 이런 결정에 대해 정보주체가 행사할 수 있는 권리를 새로 정한 조항입니다. 사람이 중간에 실질적으로 검토하지 않고 시스템이 스스로 내린 결정이 대상이 됩니다. 소비자에게 이 조항은 기계의 판단 앞에서 할 말이 생겼다는 뜻입니다. 지금까지는 시스템이 그렇게 정했다는 답을 들으면 더 물어볼 방법이 마땅치 않았지만, 이제는 법이 정한 절차에 따라 요구할 수 있습니다.

거부할 권리와 설명을 요구할 권리

이 조항이 정한 권리는 크게 두 가지입니다. 먼저 자동화된 결정이 내 권리나 의무에 중대한 영향을 미친다면 그 결정을 거부할 수 있습니다. 다음으로 자동화된 결정이 내려졌다면 그 결정에 대해 설명을 요구할 수 있습니다. 소비자가 거부하거나 설명을 요구하면, 개인정보를 처리하는 쪽은 정당한 사유가 없는 한 자동화된 결정을 적용하지 않거나, 사람이 다시 검토해 처리하거나, 필요한 설명을 해야 합니다. 정당한 사유 없이 이런 요구를 따르지 않으면 3천만 원 이하의 과태료가 부과될 수 있습니다.

책상, 노트북 심사 결과와 메모하는 손

기업은 기준을 공개해야 합니다

권리만 생긴 것이 아닙니다. 자동화된 결정을 하는 기업과 기관은 그 기준과 절차, 개인정보가 처리되는 방식을 소비자가 쉽게 확인할 수 있도록 공개해야 합니다. 자동화된 결정이 이뤄진다는 사실과 그 목적, 결정의 대상이 되는 사람의 범위, 결정에 쓰이는 주요 개인정보의 종류, 결정 과정에서 고려하는 사항 같은 내용이 여기에 포함됩니다. 대개 개인정보 처리방침에 이런 내용이 담기므로, 자주 쓰는 서비스의 처리방침에서 자동화된 결정 항목이 있는지 찾아보는 것이 권리 행사의 출발점이 됩니다.

2026년 1월, 인공지능 기본법이 더한 것

2026년 1월 22일에는 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 흔히 인공지능 기본법이라 부르는 법이 시행되었습니다. 이 법은 사람의 생명과 안전, 기본권에 중대한 영향을 줄 수 있는 인공지능을 고영향 인공지능으로 정하고, 채용과 대출 심사, 의료, 교육, 공공서비스 같은 영역을 예로 들었습니다. 고영향 인공지능이나 생성형 인공지능을 쓰는 제품과 서비스는 이용자에게 그 사실을 미리 알려야 합니다. 정부는 기업의 부담을 고려해 과태료 부과에 최소 1년 이상의 유예 기간을 두기로 했습니다. 개인정보 보호법이 결정에 맞서는 권리를 줬다면, 인공지능 기본법은 인공지능이 쓰인다는 사실을 알 권리를 더한 셈입니다.

유럽은 먼저 이 질문을 던졌습니다

이런 권리는 유럽에서 먼저 자리 잡았습니다. 유럽연합의 일반 개인정보 보호법은 사람에게 법적 효과나 그와 비슷한 중대한 영향을 주는 결정을 오로지 자동화된 처리만으로 받지 않을 권리를 정해 두었습니다. 사람의 개입을 요구하고, 자신의 의견을 밝히고, 결정에 이의를 제기할 수 있게 한 것입니다. 한국의 제37조의2도 같은 문제의식에서 출발했습니다. 기계의 판단이 빠르고 정확해 보일수록, 그 판단이 틀렸을 때 사람이 바로잡을 수 있는 길을 열어 두어야 한다는 생각입니다.

어떤 결정에 쓸 수 있을까

모든 추천과 광고에 이 권리를 쓸 수 있는 것은 아닙니다. 쇼핑 앱이 첫 화면에 어떤 상품을 보여 줄지 정하는 일은 대개 권리와 의무에 중대한 영향을 미치는 결정으로 보기 어렵습니다. 반면 보험 가입 가능 여부나 보험료 산정, 서비스 이용 제한처럼 내 권리와 의무에 직접 영향을 주는 결정이라면 설명을 요구해 볼 만합니다. 어디까지가 중대한 영향인지는 앞으로 사례가 쌓이며 더 분명해질 부분입니다. 확실하지 않다면 먼저 설명을 요구해 보고, 답변을 받아 본 뒤 거부 여부를 판단하는 순서가 현실적입니다.

세피아 콜센터, 헤드셋 상담원 뒤 서류 더미.

권리를 쓰는 순서

실제로 권리를 쓰려면 몇 가지 순서를 기억해 두면 좋습니다. 먼저 해당 서비스의 개인정보 처리방침에서 자동화된 결정 항목과 문의처를 확인합니다. 다음으로 어떤 결정에 대해 설명을 원하는지, 혹은 거부하고 사람이 다시 검토해 주기를 원하는지 분명하게 적어 요청합니다. 요청한 날짜와 내용, 받은 답변은 기록으로 남겨 둡니다. 답변이 없거나 납득하기 어렵다면 개인정보 분쟁조정위원회나 개인정보 침해 신고 창구를 통해 도움을 구할 수 있습니다. 한 사람의 요청은 작아 보여도, 요청이 쌓이면 기업이 기준을 더 투명하게 다듬는 계기가 됩니다.

동의하지 않은 계약에서 벗어나기

기존 글은 초개인화가 우리 모르게 맺어진 거대한 동의하지 않은 계약이라고 표현했습니다. 앱에 가입하며 체크한 동의 한 번이 끝없는 추적과 예측으로 이어진다는 문제의식이었습니다. 자동화된 결정에 대한 권리는 그 계약에 소비자가 뒤늦게라도 조건을 붙일 수 있게 해 주는 도구입니다. 모든 것을 막을 수는 없지만, 나에 대한 중요한 결정만큼은 기계가 혼자 내리지 않게 하고 이유를 들을 수 있게 합니다. 초개인화 시대의 소비자 권리는 기술을 거부하는 권리가 아니라 기술의 판단에 질문할 수 있는 권리입니다.

질문하는 소비자가 기준을 바꿉니다

권리는 쓰는 사람이 있을 때 살아납니다. 시스템이 정했다는 답을 들었을 때 그 기준을 물어보는 것, 중요한 결정이라면 사람이 다시 봐 달라고 요구하는 것, 처리방침의 한 줄을 읽어 보는 것이 모두 권리를 쓰는 일입니다. 다음 화에서는 초개인화가 선물이라는 가장 사람다운 소비에까지 들어온 모습, 선물하기와 기프티콘 이야기를 이어서 다루겠습니다.