용인음주운전변호사 전략만 있고 인간은 없다···‘AI 3대 강국’에 빠진 것들

페이지 정보

작성자 이길중 작성일25-09-23 19:00 조회248회 댓글0건

본문

용인음주운전변호사 [주간경향] 지난 9월 8일 이재명 대통령은 국가인공지능전략위원회(이하 전략위원회) 출범식에서 “국가 경쟁력과 미래 변혁을 좌우하는 핵심 동력으로서 인공지능(AI) 같은 첨단 기술은 국력이자 경제력이고, 곧 안보 영역이기도 하다”며 “AI 3대 강국의 비전은 단지 희망 섞인 구호만이 아니며, 우리 대한민국의 미래를 결정할 핵심 생존전략”이라고 말했다.
생존, 전략, 국력, 성장, 안보, 경쟁(력)… 그간 이재명 정부의 AI 관련 발표에서 거의 빠지지 않고 등장한 단어들이다.
‘AI 3대 강국’은 이 대통령의 대선 공약이자 이 정부의 핵심 과제다. 그는 지난 6월 4일 취임사에서도 급격한 변화의 시대에 “정부가 나서 다가올 미래를 준비하고 지원하며 투자할 것”이라며 “AI, 반도체 등 첨단 기술 산업에 대한 대대적 투자와 지원을 통해 미래를 주도하는 산업 강국으로 도약할 것”이라고 강조했다.
이 대통령은 취임 직후 하정우 네이버클라우드 AI 혁신센터장을 신설 AI 미래기획수석비서관으로 임명했고, 과학기술정보통신부 장관을 부총리급으로 격상했다. 내년도 예산안에서 AI 관련 R&D 예산은 올해 대비 106.1%가 증가한 2조3000억원이 편성됐다. 지난 8월 22일 이재명 정부의 첫 경제정책 방향을 공개한 ‘새 정부 경제성장전략’에서는 30대 프로젝트 가운데 절반인 15개의 프로젝트가 ‘AI 대전환’에 집중됐다.
지난해 12월 국회에서 통과된 인공지능법은 연내 시행령 보완을 거쳐 내년 1월 시행될 예정이다. 하지만 여전히 주된 내용의 초점이 ‘진흥’에만 맞춰져 있다는 지적이 제기된다. 과태료 문제와 관련해서도 3년 유예론이 거론되는 등 시작 전부터 실효성에 대한 의문이 제기되고 있다.
“첨단 동시대 기술은 시장기술의 범위를 넘어 사회적 기술이 됩니다. 단순히 기술 시장 내에서가 아니라 사회적 인프라, 구조, 관계 등에 폭넓게 영향을 미치게 되는 거죠. 정책 단위에서 사회적 효과에 대한 내용을 충분히 고민하지 않으면 파급효과를 감당하기 어렵습니다.”
이광석 한국과학기술대학교 IT정책전문대학원 교수의 말이다. AI는 이미 시장 기술의 범위를 넘어 사회적 기술이 되고 있다.
지난해 12월에 통과된 인공지능법에서 눈에 띄는 부분은 권리주체로서의 ‘영향받는 자(제2조·제3조)’라는 표현이다. 이는 2024년 3월 제정된 유럽연합(EU) 인공지능법에도 등장하는 용어로, EU는 인공지능법에서 좁은 의미에서의 ‘피해자’가 아닌 ‘영향을 받는 사람’으로 의미를 넓혀 이들에 대한 기업의 설명 의무, 기본권 존중 필요성을 명시하고 있다.
이는 AI로 인한 피해가 직접적으로 보이지 않을 수 있지만 광범위하게 영향을 미친다는 의미이기도 하다. 2021년 미첼 바첼레트 유엔인권최고대표는 “AI의 개발, 배치, 사용에서 영향을 받는 사람이나 집단의 참여 보장 장치가 필요하다”고 강조한 바 있다.
실제로 AI는 비단 산업적 측면뿐 아니라 오늘날 수많은 분야에서 ‘부수적 피해’를 낳고 있다. 대표적으로 플랫폼 노동 및 실업, 업무강도 강화 등의 문제다. 특히 국내에서 AI 도입이 빠르게 이뤄지고 있는 콜센터 업계에는 이러한 노동 처우 악화 등의 문제가 두드러진다.
보험회사 7년차 콜센터 노동자 김주현씨(공공운수노조 든든한 콜센터지부 지부장)는 AI 도입 이후 업무 강도가 훨씬 강해졌지만 임금은 줄어들었다고 말한다. 김씨는 “사건 등록 과정에서 모바일 챗봇 등이 도입되다 보니, 이를 알아서 잘할 수 있는 젊은 층에 비해 콜센터에는 자세한 안내가 필요한 노인층의 유입률이 크게 올랐다”며 “콜수가 줄면서 예전에는 별도의 후처리 업무 담당팀이 하던 업무까지 콜센터에 몰려 업무의 복잡성과 강도는 더 올라갔다” 고 말했다.
반면 절대적인 콜수가 줄어들고 특근 등은 사라지면서 임금이 줄었다. “AI로 인해 단위 시간당 콜수는 적어졌지만 여전히 실적은 콜수만을 기준으로 하고 있기 때문에 실질 임금은 줄어들었습니다.” 실제로 2023년 유럽중앙은행(ECB)이 발표한 보고서에 따르면 AI는 실업률보다 노동자들의 임금 수준 등에 직접적인 영향을 미치는 것으로 나타났다.
지난 7월 5일 열린 충청타운홀 미팅에서 자신을 20년차 콜센터 노동자라고 소개한 한 여성은 이 대통령에게 “기술개발에 치중한 나머지 그 자리에서 일하고 있는 사람들을 배제한다면 계속해서 일자리를 잃게 될 것”이라며 정부가 AI 진흥뿐 아니라 노동자들의 처우를 함께 정책적으로 고려해달라고 호소했다.
노동자들은 AI 도입으로 노동환경이나 처우 등이 바뀔 때 의견을 내기 어렵다. AI를 도입할 때 영향을 받는 당사자들과 노동전문가의 의견도 고려돼야 하는 이유다. 그럼에도 지난 9월 8일 정부가 발표한 전략위원회 가운데는 시민사회단체나 기타 분야 관계자는 거의 포함되지 않았다. 이에 참여연대 등 시민단체는 지난 9월 9일 논평을 내고 “(AI는) 개발과 활용 과정에서 인권 침해, 차별, 개인정보 유출, 노동 구조 변화, 환경 부담 등 다양한 위험을 발생시킬 수 있다”며 “민주적 원칙을 준수하려면 지금과 같은 산업계 중심 구성에서 벗어나 다양한 사회 집단을 포괄하는 AI 거버넌스 구조로 개편해야 한다”고 주장했다.
꾸준히 산업 진흥과 자원 채굴의 차원에서만 강조되고 있는 학습데이터 문제 역시, 개인의 정보 결정권과 저작권 차원에서 신중하게 접근해야 한다는 목소리가 존재해왔다.
2022년 4월 개인정보보호위원회가 발표한 내용에 따르면 법무부·과학기술정보통신부 등이 2019년부터 추진한 ‘인공지능 식별추적시스템 개발사업’을 위해 출입국심사 과정에서 수집·보유한 여권번호, 국적, 생년, 성별 등 내·외국인 개인정보와 안면데이터 약 1억7000만건을 당사자 동의 없이 민간 기업에 제공한 것이 알려져 논란이 된 바 있다. 시민단체 등은 개인정보 자기결정권 침해 등에 대한 헌법소원을 제기했다.
헌법소원에 참여한 장여경 정보인권연구소 상임이사는 “헌법소원에 앞서 당시 법무부에 개인정보보호법상 정보 열람과 분쟁 조정신청까지 했지만, 이름 일부가 가명으로 처리돼 있다거나 학습 데이터가 유효기간 만료로 파기됐다는 이유 등으로 기각됐다”며 “현재 다양한 분야에서 AI 개발을 위해 ‘학습 데이터’를 필요로 하고 있는데, 여전히 그 정보의 보유당사자들은 침해 방지를 위해 행동은커녕 침해 여부조차 알 수 없는 상황”이라고 했다.
지난해 12월 16일 인공지능법 국회 통과에 앞서 한국기자협회 등 언론단체 5곳은 AI 사업자의 학습데이터 공개 의무화를 촉구하며 “(학습데이터 공개를 의무화하지 않을 경우) 저작권자는 자신의 저작물이 어디에 어떻게 사용됐는지 알권리를 잃게 될 뿐 아니라 정당한 대가 요구도 어려워진다”고 주장했다. 문화체육관광부도 지난해 ‘생성형 AI 학습 데이터 공개 의무’ 규제를 신설해달라는 의견을 제시했지만 받아들여지지 않았다.
일상적으로 이용자들이 자신의 민감 정보가 어떻게 취합되고 이용되는지 명확하게 알고 정보에 대한 권리를 주장하기도 쉽지 않다. 장 이사는 “AI가 전반적으로 어떻게 학습했는지를 알아야 구제할 수 있는데 당사자를 포함해 기업 외부인이 알기는 어려운 구조”라며 “EU 인공지능법에는 구체적으로 학습용 데이터를 규정하고 있고, 최근 미국 캘리포니아주 등에서 학습데이터를 공개하도록 하는 법안이 통과됐지만, 우리나라 인공지능법의 경우 최근 발표된 시행령 방향에도 명확히 규정이 안 돼 있다”고 우려했다.
이처럼 ‘영향받는 자’의 범위는 넓지만, 내년 시행을 앞둔 국내법은 위반 시 매출액의 3~7% 수준을 부과하도록 명시한 EU의 과태료에 비해서도 과태료 액수가 지나치게 낮고(3000만원 이하), 그마저도 3년 유예 가능성이 높아 실효성 문제가 대두된다. 고영향 AI에 대한 인권 영향평가 역시 의무가 아니라 “노력하여야 한다(제35조)”라는 구절만 법 조항에 들어 있다.
인공지능법상의 ‘고영향’이라는 단어가 AI 위험성에 대한 경각심을 축소할 수 있다는 지적도 꾸준히 제기돼왔다. EU 인공지능법과 국내 인공지능법에서 크게 두드러지는 차이 중 하나는 ‘고위험’ 대신 ‘고영향’이라는 단어가 사용되고, 가능한 위험을 세분화하지 않는다는 점이다. 사용 불가능한 AI에 대한 금지 규정도 없다. EU 인공지능법의 경우 AI 활용과 관련해 허용할 수 없는 위험부터 고위험, 제한된 위험, 저위험까지 총 4단계로 구분하고 각각의 경우에 따라 금지 혹은 차등 된 규제를 부과하지만, 국내법은 이런 구분을 두지 않았다.
유승익 한동대 법학전문대학원 교수는 “위험도를 단계별로 나누고 특히 위험도가 높은 활용의 경우엔 원천 금지하는 것이 필요한데, 현재 국내 인공지능법에서는 이런 부분이 존재하지 않는다”며 “AI 활용의 경우 초기 개발, 디자인 단계부터 기본값에 의한 보호(PBD·Protection by Default)를 강조하는 것이 중요하다”고 말했다.
“경부고속도로가 대한민국 산업화 성공을 이끌었던 것처럼 AI 데이터 센터 건설을 시작으로 과감한 세제 혜택, 규제혁신을 통해 민간의 투자를 촉진하고 대한민국 AI 대전환의 성공을 이끌 AI 시대의 고속도로를 구축하겠다.” 이재명 대통령은 지난 6월 20일 울산 데이터센터 출범식에서 이렇게 말했다.
이광석 교수는 이런 상황에 대해 모종의 기시감이 든다고 말한다. 그는 “기술 성장과 그로 인한 부국강병만이 살길이라는 정서는 한국에서 꾸준히 이어져 오던 정서”라며, ‘소버린 AI’에 대해 “국내에서는 이것이 국내 토종 기업에 대한 부양론을 강화하는 일종의 이데올로기가 되고 있다”고 말했다.
AI와 관련해 일련의 정책적 방향성은 일관되게 반규제-진흥을 가리키고 있다. ‘국가의 명운이 걸린’ 사항이기 때문에 이에 대한 일련의 규제는 걷어내야 한다는 것이다. 과연 인권을 위한 규제와 진흥은 함께 갈 수 없는 것일까?
유 교수는 “세계적으로 인권 요소를 평가에 많이 반영하는 추세로, 단순히 진흥 차원에서만 봐도 이런 부분을 없애야 할 규제로 치부하는 것이 과연 도움이 될지 모르겠다”며 “세계 시장 진출을 위해서도 이를 선택이 아닌 필수로 여기는 것이 필요하다”고 했다.
전국 법관 대표들이 대법관 증원 등 상고심 제도 개선 방안을 놓고 토론회를 연다. 최근 더불어민주당이 추진 중인 대법관 증원과 추천 방식 개선 등 ‘사법개혁 5대 의제’와 관련해 논의를 하는 것이다.
전국법관대표회의 내 재판제도 분과위원회는 오는 25일 법관 대표와 법관들이 참석하는 상고심 제도 개선 토론회를 연다고 22일 밝혔다. 회의는 온라인으로 진행되는데, 오프라인 회의 병행 여부는 정해지지 않았다. 법관대표회의는 각급 법원에서 선출된 대표 판사들이 모여 사법행정 및 법관 독립에 관해 의견을 표명하거나 건의하는 회의체다. 재판제도 분과위는 지난 6월 만들어졌다.
이번 토론의 안건은 민주당 사법개혁특별위원회가 추진 중인 5개 사법개혁 의제 가운데 ‘대법관 수 증원안’과 ‘대법관 추천 방식 개선안’이다. 분과위는 이날 법원 내부망에 그간 논의를 정리한 보고서를 공유했다.
분과위는 보고서에서 종합의견으로 “‘상고심 심리 충실화’를 입법 취지로 하는 대법관 증원안은 경청할 부분이 많다”며 “2019년 전국법관대표회의도 법관 설문조사를 거쳐 대법관 증원안을 포함한 상고심 개선안에 동의한 바 있다”고 밝혔다. 당시 설문조사 결과 조사에 응답한 법관 과반이 대법관 증원에 찬성했다. 분과위는 “상고심 개선 논의가 반복되는 상황과 관련해 국민의 권리 구제가 충분한지, 사법부가 국민의 신뢰를 받는 재판을 해왔는지 자성할 필요가 있다”며 “상고 제도 개선안과 관련해 법원·국회·정부·학계·시민단체 등이 협의체를 구성해 진지한 토론과 숙의를 거치고, 국민에게 가장 바람직한 모델을 설계하고 추진하기를 희망한다”고 밝혔다.
분과위 개별 의견으로는 대법관 증원과 하급심 강화 병행 필요성, 증원의 속도와 범위에 대한 논의 필요성 등을 제시했다. 민주당 추진안처럼 대법관 26~30명으로 구성된 전원합의체는 논의가 단순 다수결로 전개될 가능성이 크고, 재판의 공정성에 대한 국민 신뢰가 떨어진다며 급격한 증원안에 반대하는 의견도 있었다.
김병기 더불어민주당 원내대표가 19일 조희대 대법원장이 지난 대선을 앞두고 한덕수 전 국무총리를 만나 이재명 당시 대통령 후보의 사건 처리를 논의했다는 의혹에 대해 “그걸 처음에 거론하신 분들이 해명을 하셔야 될 것 같다”고 밝혔다.
김 원내대표는 이날 SBS 라디오 <김태현의 정치쇼>에 출연해 ‘조 대법원장과 한 전 총리의 회동 의혹 진위를 확인했느냐’는 질문을 받자 “지금 당사자들이 일제히 부인하고 나선 것 아니냐”며 이같이 말했다. 이 의혹은 윤석열 전 대통령 파면 직후인 지난 4월 조 대법원장이 한 전 총리 등과 만나 “이재명 (공직선거법 위반) 사건이 대법원에 올라오면 알아서 처리한다”고 말했다는 내용이다.
서영교 의원이 지난 5월2일 국회 법제사법위원회에서 이 의혹을 처음 제기했다. 같은 달 10일에는 유튜브 채널 ‘열린공감TV’가 제보자의 변조된 녹취 음성을 공개했다. 지난 16일 부승찬 민주당 의원이 국회 대정부질문에서 의혹을 재차 제기했고 다음날 정청래 민주당 대표가 최고위원회의에서 특검 수사를 요구했다.
김 원내대표는 특검 수사 가능성에 대해 “일단 해명을 듣고 수사나 이런 것이 필요하면 수사 주체가 누가 돼야 할지는 사법 영역에 맡기는 게 좋겠다”며 “본인들이 안 만났다 그러는 걸 보니까 처음 말한 분이 그 근거, 경위나 주변 상황, 그런 얘기를 한 베이스가 있지 않겠나”라고 말했다.
김 원내대표는 “정치라는 분야에 면책특권을 주는 건 의혹을 제기하라는 것”이라며 “언론은 그러면 안 되지만, 사실 정치라는 부분은 의혹을 제기하면, 거기에 대해 어떤 증거 같은 많은 것이 언론을 통해 확인되고, 이러면 이제 수사로 들어가는 것 아니겠냐”고 말했다.