의정부성범죄전문변호사 헐거운 ‘고영향 AI’ 범주 … 인공지능 규제, 이렇게 풀어도 될까?

페이지 정보

작성자 이길중 작성일25-09-22 09:28 조회193회 댓글0건

본문

의정부성범죄전문변호사 정부가 공개한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)의 하위법령을 두고 AI 산업 진흥에만 초점을 맞춰 규제를 지나치게 풀었다는 지적이 나오고 있다. 인간의 기본권에 중대한 영향을 미치는 ‘고영향 AI’의 범주를 소극적으로 규정한 데다 ‘과태료 부과’ 장기 유예까지 예고해 “처벌 없는 법이 될 수 있다”는 우려가 제기된다.
과학기술정보통신부는 내년 1월 시행되는 AI 기본법의 시행령과 고시 2종, 가이드라인 5종을 17일 기자간담회를 통해 공개했다. 관련 하위법령 초안이 모두 공개된 것은 지난해 12월 AI 기본법이 국회를 통과한 지 약 9개월 만이다.
그간 업계에선 ‘고영향 AI’의 규정이 초미의 관심사였다. 사업자에게 안전성·신뢰성 확보 책무가 부여되고 최대 3000만원의 과태료 부과 조항도 있기 때문이다. AI 기본법은 ‘고영향 AI’를 에너지, 먹는 물, 보건의료 등 10개 영역에서 활용되는 AI 가운데 인간의 기본권에 “중대한 영향”을 미치거나 위험 초래 우려가 있는 경우 등으로 규정했다. 그러면서 “그밖”의 영역은 시행령으로 정하도록 했다. ‘중대한 영향’ 표현이 모호하고 법에서 정한 영역이 제한적이라 하위법령이 추가 기준을 제시할 것으로 여겨져왔다.
뚜껑을 열어보니, 시행령·가이드라인은 고영향 AI 범주를 최소한으로 규정했다. 시행령에선 고영향 AI 영역이 추가·보완되지 않았고 가이드라인은 법에 이미 나열된 영역의 구체적 적용 사례를 제시한 정도였다. 이를테면 운전자의 개입 없이 AI 스스로 판단해 도로를 주행하는 레벨4 이상 자율주행시스템은 고영향 AI에 해당한다.
한국보다 앞서 AI 법을 제정한 유럽연합(EU)은 관련 규제가 촘촘하다. 예를 들어 개인 또는 집단의 행동이나 성향을 점수화해 차별에 활용(소셜 스코어링)하는 AI는 아예 ‘수용 불가’로 규정해 금지한다. 얼굴 표정, 음성, 생체 신호 등을 통해 인간 감정 상태를 판별하는 AI는 ‘고위험 AI’로 분류한다. 금지되는 것은 아니지만 위험관리시스템과 인간 감독 체계 구축, 기본권 영향 평가, 이용자 안내 등 다양한 의무가 부과된다. 한국의 AI 기본법과 시행령으로는 EU에서 금지하거나 강력 제재하는 AI를 규제하기 힘들 가능성이 있다.
오병일 진보네트워크센터 대표는 “제품 안전, 사법, 선거에 영향을 주거나 인간의 취약점을 이용하는 AI에 대해선 EU처럼 금지까진 못하더라도 고영향 AI로 규정해 최소한의 규제를 해야 하는데 하위법령에 그런 노력이 보이지 않는다”고 지적했다.
정부가 AI 기본법의 ‘과태료 부과’ 유예를 거듭 예고하고 있는 것도 비판 대상이다. AI 기본법에 따르면 고영향 AI 사업자는 위험관리 방안·이용자보호 방안 수립 및 사람 관리·감독, 관련 문서의 작성과 보관 등의 의무를 진다. 이를 어길 경우 사실조사를 거쳐 시정명령을 받을 수 있고 명령을 이행하지 않으면 최대 3000만원의 과태료를 받게 된다.
이날 간담회에서 김경만 과기정통부 인공지능기반정책관은 유예기간 설정에 무게를 두면서 그 기간에 대해선 “기업, 시민사회와 논의해 설정해 나갈 것”이라고 설명했다. 앞서 지난 12일 배경훈 과기정통부 장관도 “최소 1년 이상”의 유예기간을 언급한 바 있다. 이에 대해 오 대표는 “법에 따라 책무를 이행하지 않아도 가만히 두겠다는 것으로, 처벌규정 없는 법이 될 우려가 있다”고 말했다.
정부는 이날 “진흥에 중점을 둔 최소한의 규제” 기조를 강조했다. “글로벌 3강 목표로 하는 AI 분야에서 진흥이 우선”이라는 것이다.
정부가 ‘느슨한 규제’를 천명한 만큼 업계에선 긍정적인 반응이 나왔다. 국내 AI 스타트업 관계자는 “투명성(AI 표시) 의무와 관련한 일부 면제조항과 과태료 계도기간 설정 등이 긍정적”이라고 평가했다. 또 다른 AI 스타트업 관계자 역시 “규제와 관련한 불확실성이 걷혔다는 점에서 바람직하다”며 “AI 산업이 초기 단계에 있는 만큼 시행 과정도 매끄럽기를 기대한다”고 말했다.
반면 고위험 AI 안전장치를 강력하게 요구해온 시민단체 등의 반발이 이어질 가능성이 있다. 이재흥 시민기술네트워크 상임이사는 “국가인공지능전략위원회에 산업계뿐 아니라 시민사회 인사들도 다수 참여하게 된 만큼 우려 사항에 대해 숙의가 이뤄질 것으로 본다”고 말했다.
정부가 동남권투자공사를 설립키로 하자 박형준 부산시장이 “명백한 대통령 공약 파기”라고 비판했다.
박 시장은 17일 사회관계망서비스(SNS)에 올린 글에서 “이재명 정부가 산업은행의 부산 이전을 백지화하고 동남권산업투자공사를 설립하기로 했다고 한다. 동남권투자은행도 아니고 동남권투자공사이다”라며 “이것은 부산 시민의 오랜 여망을 팽개치는 처사”라고 밝혔다.
박 시장은 “(동남권투자공사 설립은) 한마디로 사탕발림으로 지역발전의 근원적 해결책을 외면하는 결정”이라고 비판했다.
이어 “산은 부산 이전은 노무현 대통령의 지역균형발전을 위한 공공기관 이전 정책에 뿌리를 둔 부산의 염원”이라며 “민주당이 추진하던 정책이었고 민주당 지도부가 정략적인 이유로 외면하지 않았다면 진작에 실현됐을 정책”이라고 지적했다.
박 시장은 “이 대통령은 후보 시절 산은 이전 대신 동남투자은행을 공약했는데 어제 국무회의에서 동남권투자공사를 설립하기로 결정했다”며 “이는 명백한 대통령 공약 파기이자 부산시민을 무시하는 처사”라고 말했다.
투자공사 형태는 실패한 모델이라며 안 되는 이유를 5가지를 들었다.
박 시장은 “첫째, 동남투자공사는 자금 조달 규모와 탄력성에서 산은과 비교가 되지 않는다”고 밝혔다. 이어 “출자·사채·펀드 조성 등 간접 조달 중심이라 정책자금 지원이 제약되고 민간 자금 유치에도 한계가 뚜렷하다”고 주장했다. 그리고 기존 금융기관의 기능 중복, 주무 부처 위주의 관리 감독으로 고위험·부실 위험 가능성이 큰 점, 수익 위주의 투자로 지역 기업의 접근성 미흡과 지역파급효과의 한계 등을 꼽았다.
박 시장은 “이 때문에 과거 한국정책금융공사가 실패했는데도 실패할 가능성이 큰 모델을 고집하는 이유를 모르겠다”며 “산은 이전이 아니라면 그에 버금가는 역할을 할 투자은행이 돼야 한다고 강조했음에도 정부가 이런 결정을 내려 납득할 수 없다”고 말했다.
이어 “실패한 적이 있고 다시 실패할 가능성이 높은 모델을 고집하는 이유가 무엇이냐”고 반문했다.
박 시장은 “이 대통령이 국가균형발전은 선택이 아닌 운명이라고 한 발언과 산은 부산 이전을 백지화한 데 이어 투자은행도 아닌 투자공사를 설립하겠다는 건 과연 부합하는지 묻지 않을 수 없다”며 “투자공사는 산은 이전과 함께 쓸 수 있는 보조수단일 뿐”이라며 산은 이전을 요구했다.
이재명 대통령은 16일 정부세종청사에서 열린 국무회의에서 동남권투자은행 대신 동남권투자공사를 설립하겠다는 전재수 해양수산부 장관의 설명을 들은 뒤 “그럼 그렇게 하시죠”라고 말했다.
유엔 조사위원회가 이스라엘이 가자지구에서 팔레스타인인들을 상대로 집단학살(제노사이드)을 저지르고 있다고 판단한 가운데 이스라엘은 가자시티 지상 작전에 돌입한 지 이틀째인 16일(현지시간) 대규모 공세를 이어갔다. 국제사회의 빗발치는 비난에도 불구하고 베냐민 네타냐후 이스라엘 총리는 도널드 트럼프 미국 대통령의 지지를 등에 업고 공세를 이어가고 있다.
■불타는 도시, 끝없는 피란 행렬
전날 가자시티에 대한 전면 장악 지상작전에 돌입한 이스라엘군은 밤새 폭격을 이어갔다. 이스라엘군은 지상작전 도입 후 이틀 동안 공군과 포병이 150여개 목표물에 타격을 가했다고 밝혔다.
전차와 부비트랩을 장착한 차량이 공격을 이어가고, 공중에선 아파치 공격헬기가 폭격을 퍼부었다. 무너진 건물의 잔해 속에서 주민들이 매트리스와 담요 등을 챙기는 동안 머리 위로는 이스라엘군의 무인기가 날아다녔다. 가자시티 주민 에삼 아므르는 “폭발이 멈추지 않았다. 공습, 포격, 무인기, 헬기까지 사방에서 공격이 쏟아졌다. 도시 전체가 포화 속에 있는 것 같다”고 말했다.
이스라엘군은 이날 현역 및 예비군 3개 사단 군인들이 가자시티 지상작전에 투입했으며, 지상군은 공중·해상 화력의 지원을 받았다고 밝혔다. 이스라엘군은 현 단계는 화력으로 테러 기반시설을 무력화하는 것이 작전 목표라고 밝혔다.
도로에는 불타는 도시를 벗어나기 위한 피란 행렬이 밀려들었다. 이스라엘군은 알라시드 해안도로를 민간인들이 대피할 수 있는 통로로 지정했지만 도로는 짐을 실은 트럭과 피난민들로 가득 차 극심한 정체에 시달렸다.
가자지구 최대 도시인 가자시티에는 약 100만명의 주민이 거주하고 있으며, 이스라엘군은 약 35만명이 피난을 떠났다고 밝혔다. 높은 비용 때문에 피난을 포기하는 주민들도 있다. BBC는 소형 트럭을 빌리는 데 3000셰켈(약 124만원)이 들고, 5인용 텐트는 4000셰켈(약 166만원)에 팔린다고 전했다. 전쟁 발발 이후 대부분의 가구가 소득을 잃은 상황에서 많은 주민이 수㎞를 걸어가길 선택하거나, 폭격에 휩싸인 도심으로 발길을 돌렸다. 아직 가자시티에는 수십만명의 주민이 남아있다.
스테판 뒤자리크 유엔 사무총장은 대변인은 “대부분 여성과 노인이 이끄는 피란민 가족들이 극심한 더위 속에서 맨발로, 다친 아이들을 데리고 최대 9시간씩 걷고 있다”며 “많은 이들이 (피란민 캠프 등에) 도착했을 때 지낼 대피소조차 없는 상황”이라고 말했다.
유엔 기구 등으로 구성된 통합식량안보단계분류(IPC)가 가자지구 북부 등에 기근을 선포한 가운데 가자시티 점령은 인도적 위기를 더욱 심화시킬 것이라고 국제기구와 구호단체는 우려하고 있다.
■수개월 장기화될 수 있는 가자시티 점령 작전
네타냐후 총리는 이날 기자회견을 열어 팔레스타인 무장정파 하마스 지도부를 향해 “우리는 생각보다 훨씬 빨리 당신들에게 도달할 것”이라고 말했다. 하지만 에피 데프린 이스라엘군 대변인은 인질들을 구출하고 하마스를 격퇴하기 위해 작전이 “필요한 한 계속될 것”이라며 “수개월이 걸릴 것으로 예상한다”고 밝혔다.
이스라엘군은 현재 가자시티에 2000~3000명의 하마스 무장세력이 남아있다고 추정하고 있다. 전쟁 초기에 비해 소총과 탄약 등이 고갈되는 등 군사력이 크게 약화된 하마스는 폭발물 설치와 게릴라식 공격에 의존하고 있다. 이스라엘군이 가자시티에 대규모 폭격을 가하는 동안 하마스는 지하 터널 등에 숨어 있다가 지상군이 도심 깊숙이 진입하면 매복 공격을 감행할 것으로 보인다.
이스라엘군 분석가들은 이스라엘군이 실수로 인질을 공격할 수 있다는 우려 때문에 느리게 움직일 것으로 예상된다고 뉴욕타임스(NYT)에 말했다.
CNN은 하마스 대원이 민간인의 피난 행렬에 합류해 가자시티를 떠나는 것을 막을 방법이 없으며, 가자시티 침공이 결정적 결과를 내지 못해 추가 작전이 진행될 가능성도 있다고 지적했다. 이스라엘군 관계자는 “가자시티는 현재 하마스의 주요 거점”이라며 “주요 거점이지만, 마지막 거점은 아니”라고 말했다.
■트럼프의 ‘청신호’에 끝없는 전쟁 벌이는 네타냐후
전날 유엔 인권이사회 산하 독립조사위원회가 이스라엘이 가자지구에서 집단학살을 저질렀다는 보고서를 발표했지만, 트럼프 대통령은 이날 백악관에서 기자들에게 “거기에 대해서 많이 알지 못한다”고 즉답을 피했다. 또 이스라엘의 가자시티 공격을 지지하냐는 질문에 “두고 봐야 한다. 잘 모르겠다”고 답했다. 대신 하마스를 향해서 “(인질들을) 인간 방패로 사용하려 한다고 들었는데, 만약 그렇게 한다면 큰 곤경에 처할 것”이라며 경고했다.
NYT는 전임 조 바이든 행정부 시절 미국이 이스라엘이 가자지구에서 민간인 생명을 보호하기 위한 작전 계획을 수립하지 않는다면 미국 무기 운송을 차단하겠다고 위협하며 이스라엘의 작전을 통제하려 했던 것과 달리 트럼프 대통령이 방관자적 태도를 취함으로써 네타냐후 총리에게 가자지구 점령 확대를 위한 ‘자유통행권’을 줬다고 지적했다. 미국이 이스라엘에 군사지원을 제공하는 상황에서 미국만이 네타냐후 총리를 제지할 수 있지만, 트럼프 대통령은 아무런 조치를 취하지 않음으로써 네타냐후 총리에게 ‘무죄 판결’을 내린 셈이라고 꼬집었다.
실제 이스라엘은 마코 루비오 미 국무장관이 이스라엘을 방문 중일 때 가자지구 지상작전을 시작했으며, 루비오 장관은 네타냐후 총리에게 가자시티 공격을 중단해달라고 요청할 가능성은 없다고 밝혔다.
■국제사회 빗발치는 비난
이스라엘의 가자시티 지상작전 돌입에 국제사회의 비난이 쏟아졌다. 폴커 튀르크 유엔 인권최고대표는 “이 학살은 반드시 중단되어야 한다”며 “전 세계가 평화를 외치고 있다. 모두가 이 사태의 종식을 원하는데, 용납할 수 없는 확전이 이뤄지고 있다”고 말했다. 이어 이스라엘에 대해 “전쟁 범죄가 계속해서 쌓여가고 있고, 반인도적 범죄가 자행되고 있다”고 덧붙였다.
이베트 쿠퍼 영국 외교장관은 “완전히 무모하고 끔찍한 행위”라며 “더 많은 무고한 민간인을 죽이고, 남은 인질들을 위험에 빠뜨릴 뿐”이라고 밝혔다. 이스라엘의 최우방국인 독일의 요한 바데풀 외교장관도 이스라엘이 “잘못된 길”에 있다며 “우리는 이를 거부하며 이스라엘 정부에 분명히 전달했다”고 비판했다.