[2025 경향포럼]“견제 없는 AI가 만들 미래 암울···‘레드팀’ 있어야”

페이지 정보

작성자 이길중 작성일25-06-28 01:44 조회1회 댓글0건

본문

세상의 속도에 맞춰 호흡하는 것만으로 숨가쁜 시대다. 자고 일어나면 진화하는 인공지능(AI)의 속도는 때론 두렵기까지 하다. 한 번의 실수만으로 벼랑 끝으로 떨어질지 모른다는 이 공포를 희망으로 바꿀 방법은 없을까. 한국 사회는 다가올 AI 시대를 어떻게 맞이해야 할까.
25일 서울 중구 롯데호텔에서 열린 <2025 경향포럼>의 오전 세션 ‘숨가쁜 변화, 문명사적 대전환’의 마지막 순서는 이 질문에 대한 세계적인 석학·전문가들의 대답이 될 듯하다. 지나 네프 영국 케임브리지대 민더루 기술·민주주의 센터장과 샹바오 독일 막스플랑크 사회인류학 연구소장, 이광형 카이스트(KAIST) 총장은 AI가 불러올 인간 사회 변화를 예측하고 이를 위해 필요한 준비에 관해 다각도의 의견을 나눴다. 토론자들은 AI가 세상을 완전히 바꿔놓을 것인 만큼 만반의 준비가 필요하다는 데 이견이 없었다. 좌담 진행은 이정동 서울대 공학전문대학원 교수가 맡았다.
AI 기술이 견제받지 않은 채 발전한 10년 뒤 인간 사회 모습을 예측해달라는 질문에 토론자들은 공통적으로 ‘격차’를 꼽았다.
이 총장은 “디지털 격차에 이어 ‘AI 디바이드(격차)’가 나타날 수 있다”고 우려했다. 이미 노년층이 식당 등에서 키오스크 사용에 어려움을 겪으며 소외되고 있는 것처럼 AI 활용 여부에 따라 경제·사회적 격차가 발생할 수 있다는 것이다.
네프 센터장은 AI가 인간의 탐욕에 따라 움직이는 미래를 최악의 시나리오로 그렸다. 그는 “아무리 강력한 AI가 나와도 걱정하지 않는다. 어디까지나 인간의 문제”라며 “권력이 특정 국가나 인물에게 치중돼 전력이나 데이터, 수자원 같은 중요한 자원의 배분을 마음대로 분배하는 상황이 가장 걱정된다”고 말했다. 이것이 극심한 빈부 격차와 불평등으로 이어질 수 있다고 경고했다.
샹 소장 역시 ‘힘의 쏠림’을 가장 우려했다. 소수의 엘리트가 AI의 혜택을 독점하는 시나리오다. 국방과 부의 측면에서 벌어질 격차를 그는 특히 우려했다. 샹 소장은 “경향포럼은 무척 좋은 취지의 행사지만 극히 일부만 관심을 갖고 참여한다”며 “농민이나 택시 기사에게 AI가 어떤 의미가 있을지, 이들의 삶을 AI가 어떻게 편리하게 만들 수 있을지 그들에게 물어봐야 한다”고 했다.
샹 소장은 독일 철학자 마르틴 하이데거의 말을 인용, ‘지루함’이 AI 시대의 문제로 등장할 수 있다고도 내다봤다. AI가 극도로 발전한 사회에서 주도권을 상실한 인간은 일상의 작은 경이로움이나 놀라움마저 빼앗기고 삶의 의미를 의심할 수 있다는 것이다.
“오늘을 살아가는 것이 따분해진다는 것은 심오한 문제입니다. 우리가 모든 것을 잃어도 마지막까지 붙잡아야 하는 것은 감정입니다. 이것을 빼앗긴 세상은 꽤 무서울 겁니다. 이 영향을 예의주시해야 합니다.”
토론자들은 AI가 불러올 변화의 파도가 높은 만큼 비판적인 접근이 반드시 필요하다고 입을 모았다.
샹 소장은 “퇴장(출구)을 위한 기회와 공간이 필요하다”고 말했다. 그는 20세기에 등장한 다른 기술과 비교해 AI는 ‘사용할 수 있느냐 없느냐’보다 ‘선택의 여지가 없음’이 더 문제라고 본다. 포용성이 높고 일상에 침투할 가능성이 크기 때문이다. 그렇기에 개인이 AI의 위험성과 이로 인해 치러야 할 비용을 인지하고 사용을 거부할 수 있는 공간을 마련해두는 것이 중요하다는 게 그의 생각이다.
네프 센터장은 “지금은 가장 큰 목소리만 듣고 AI를 설계하고 있다”며 “세계 각지에서 내는 목소리를 경청하고 이를 녹여낼 필요가 있다”고 말했다.
AI 기술 개발이 메타, 구글 등 빅테크 공룡의 주도로 이뤄지는 상황에서 국제사회 협력과 견제가 필요하다는 의견도 제시됐다. 네프 센터장은 “빅테크, 그중에서도 미국의 대기업들은 ‘AI 기술은 너무 복잡해서 당신들은 이해하기 힘들 테니 우리를 규제하지 말라’는 식의 태도를 취하고 있다. 이것은 말도 안 되는 일”이라며 “여러 국가가 힘을 합쳐 과학 기술을 이해하고, AI 발전이 인류 번영과 인권 존중을 기반으로 이뤄질 수 있도록 적극적으로 참여해야 한다”고 말했다.
이날 현장에서는 인문·사회학의 역할에 관한 질문도 나왔다. AI는 흔히 기술과 공학의 문제로만 여겨지지만, 전통적 인문·사회학이 줄 수 있는 도움도 있지 않겠느냐는 취지다.
이 총장은 “인간의 본성이나 인류의 발전 방향 등을 어려서부터 배우는 것이 중요하다”며 “인문학을 소홀히 해선 안 된다”고 강조했다. 카이스트는 이 총장 취임 이듬해인 2022년 기존에 있던 인문사회과학부를 디지털인문사회과학부로 확대하고 대학원 과정을 개설한 바 있다. 인간과 사회, 예술 분야에 대한 디지털 분석 역량을 갖춘 인문융합공학자를 양성하기 위해서다.
이 총장은 인문학과 공학의 ‘융합’에 방점을 찍었다. “인문학만 공부해서는 부가가치가 너무 적습니다. AI 개발자가 인문학을 공부할 수 있는 환경을 만들어줘야 합니다. 메타나 오픈AI 같은 기업이 나서줄 수 있다고 봅니다.”
사회자인 이정동 교수도 극작술을 연구하는 ‘드라마 터그’를 예로 들며 공감을 표했다. 드라마 터그는 하나의 연극 무대가 완성되기까지 문학적·예술적 조언을 하는 연극 전문가로 일종의 ‘레드팀’(취약점을 발견, 지적하는 조직) 역할을 한다. 이 교수는 “터그는 보통 잔소리를 하는 사람이기 때문에 제작진에게 환영받진 못한다. 하지만 터그가 훌륭하면 결과물이 훌륭하다”며 AI에 있어서도 인문·사회학적 시각이 반드시 필요하다고 말했다.
한국 사회는 다가올 AI 시대를 어떻게 맞아야 할까. 이 총장은 교육의 중요성을 재차 강조했다. 그는 “향후 몇 년간 AI를 어떻게 하는지가 후손의 미래를 결정할 것”이라며 “한국이 과거 디지털 전환 성공으로 번영을 이룬 것처럼 AI 전환(AX)에도 성공하려면 교육 확대를 통해 AI 관련 인력을 2~3배 이상 늘려야 한다”고 말했다.
네프 센터장은 한국의 제조업 경쟁력을 꼽았다. 그는 “한국에는 제조업 관련 자원이 아주 많다는 사실을 알아야 한다”며 “놀라운 한국 경제 역사와 그 강점을 바탕으로 제조업 시스템을 AI를 통해 생산적으로 바꿀 수 있다”고 말했다.
샹 소장은 지난해 12·3 불법계엄 당시 거리로 나선 시민 수백만명의 이야기를 꺼냈다.
“계엄령이 내려진 그날 밤 많은 사람들이 거리에 나왔습니다. 그들은 노래하고 춤추며 하나되는 힘을 보여줬는데, 이건 세상의 많은 나라가 이미 잃어버린 것입니다. 불법계엄을 막은 뛰어나고 역동적인 법치에도 감탄했습니다. 하지만 저는 이 앞의 두 층위는 개개인의 삶이 뒷받침돼야 유지될 수 있다고 봅니다. 내가 내 삶을 주도하고 있고 이 사회에 기여할 수 있다는 감각 같은 것들 말이죠. 이것들은 공식적인 인프라만큼이나 중요한 비공식적 인프라이고 사회 에너지를 생산해냅니다.”
김민석 국무총리 후보자가 24일 과거 불법 정치자금을 제공했던 정치인 강모씨로부터 매달 450만원의 미국 유학비용을 지원받았다는 의혹에 대해 “배추 농사 투자 수익금을 (강씨에게서) 송금받았다”고 밝혔다.
김 후보자는 이날 국회 인사청문회에서 김희정 국민의힘 의원이 ‘강씨로부터 미국 유학비용을 제공받은 사실이 있느냐’는 취지로 묻자 “미국으로 유학을 갈 당시 저희가 월 생활비가 필요했는데 강씨가 ‘배추 관련한 무슨 농사에 투자하면 수익이 생겨 미국 학비에 도움이 될 수 있다’고 말해 저희들이 그때 전세금을 빼서 드린 바 있다. 저희가 월 송금을 받았다”고 대답했다. 김 후보자는 2005년 미국 럿거스대 로스쿨에 입학해 2011년 박사학위를 받았다.
김 후보자는 2007~2008년 강씨를 비롯한 3명에게서 7억2000만원의 불법 정치자금을 받은 혐의(정치자금법 위반)로 재판에 넘겨져 2010년 대법원에서 벌금 600만원을 확정받았다. 당시 1심 재판부는 판결문에 “피고인(김 후보자)과 강씨는 서로 형제와 같은 사이라고 진술하고 있다”고 적었다. 김 후보자는 2018년에도 강씨에게 4000만원을 빌린 사실이 언론에 보도되자 지난 12일 신용대출을 받아 갚았다.
김 후보자는 ‘본인뿐 아니라 직계비속(자녀)까지 강씨 소유 오피스텔로 2008·2010년 주소지를 옮겼는데 사용료를 어떻게 냈느냐’는 김 의원 질의에는 “외국에 갔다가 잠시 왔을 때 우편물 수령을 위해 주소를 뒀다. 아니면 다른 단체 주소가 돼 있던 걸 질문하신 걸로 보인다”고 말했다.
국회에 제출된 김 후보자 임명동의안 자료를 보면 김 후보자는 2008년 해당 오피스텔로 전입 신고를 했다. 김 후보자가 이사장으로 활동한 사단법인 ‘아이공유 프로보노 코리아’도 2011·2016년 이 오피스텔을 주소지로 신고했다. 김 후보자 정치자금법 위반 사건 1심 재판부는 “피고인(김 후보자)으로 하여금 (강씨가) 자신 소유의 오피스텔을 개인 사무실로 무상으로 사용하도록 하기도 했다”고 밝혔다.
AI와 출판계 관계성 풀어내
“최근 지인이 생성형 인공지능(AI)에게 플롯을 짜보라고 시켰더니 회복이나 화합 등 긍정적 결말은 잘 짜는데, 못된 이야기는 만들지 못했다는 얘기를 했다. 인간이 가진 감정은 불편함과 어두움도 있는데 (AI가 그것을 쓰지 못한다면) ‘인간 창작자의 장점은 어두움이 되는 것인가’라는 철학적인 질문을 해봤다.”
25일 서울 롯데호텔에서 열린 <2025 경향포럼> 오후 세션 ‘초가속 시대 - 모두를 위한 기술 진보’의 특별 강연자로 나선 정세랑 소설가는 기술 변화가 예술과 상상력에 미치는 영향에 대해 얘기했다.
생성형 AI 관련 기술이 출판계에서도 이용되고 있고, 문학 작품의 초벌 번역은 AI를 활용하는 경우가 많아졌다고 그는 전했다.
그러나 AI 활용에 대한 반발도 있다고 했다. 그는 “생성형 AI가 처음 나왔을 때, 국내 출판계에서 도서 표지 디자인을 AI를 사용해 제작해보자는 움직임이 있었는데 격렬한 반발이 있었다”며 “책 안의 내용이 존중받길 원하다면 책 바깥의 시각예술도 인정받아야 한다는 것이 업계의 반응이었다”고 했다.
생성형 AI가 학습을 위해 저작권이 있는 자료를 무단으로 학습해 논란을 일으킨 사례를 언급하며 자신의 경험도 소개했다.
정 소설가는 “AI는 아니고 해커에 의해 3권 정도 책의 저작권 침해를 당한 적이 있다. 경제적 피해는 없었지만 당시 ‘치욕을 받았다, 누가 나를 때리고 갔다’는 느낌을 받았다”며 “창작자들에게 저작권 피해는 꼭 숫자로 계산되는 것이 아니라 모욕감, 모멸감을 주는 것 같다”고 말했다. 그는 “책에 ‘이 작품은 AI 학습에 쓸 수 없습니다’라는 문구를 적어야 한다는 논의가 국내 출판계에서도 진지하게 진행되고 있다”고 했다.
다만 기술 진보의 미래를 부정적으로만 보지는 않았다. 앞으로 자본과 인력의 한계에서 벗어난 창작의 자유가 더 활발해질 수도 있다고 봤다.
그는 “종합예술일수록 자본과 인적 자원을 어디에 쓸지 정하는 결정권자의 수가 적다”며 “AI가 자본에서 창작자들을 해방시켜줄 수 있다면, 그 결정권을 더 많은 사람에게 줄 통로가 될 수 있지 않을까 생각한다”고 말했다.
2010년부터 작품 활동을 해온 정 소설가는 창비장편소설상, 문화체육관광부 오늘의 젊은 예술가상 등을 수상했다. 2015년 발표한 장편소설 <보건교사 안은영>은 넷플릭스 오리지널 드라마로 영상화됐다. <스타워즈 비젼스> 시즌 2의 에피소드 <어둠의 머리를 벨 수 있다면>의 각본을 쓰기도 했다.
2020년 이후 부산의 자살률은 지속해서 상승하는데도 부산시는 관련 업무의 예산을 대폭 삭감한 것으로 밝혀졌다. 부산시의 자살예방 정책이 후퇴하면서 경찰, 교육청, 일선 학교 등도 덩달아 약화했다. 부산시의 무관심이 최근 학생 3명이 숨진 사건과 무관하지 않다는 지적이 나온다.
25일 부산시에 따르면 올해 부산자살예방센터의 사업 예산 2억4000만원이 30%가량 삭감된 것으로 밝혀졌다. 부산시는 2022~2024년 매년 2억4000만원을 책정했으나 올해는 1억7000만원으로 7000만원을 삭감했다. 해당 부서에서는 추경예산에 편성을 요구했으나 받아들여지지 않았다. 독거노인 방문 서비스, 생명지킴전화 수리, 생명존중문화 홍보, 교사대상 생명존중 전문교육 등의 예산이 반영되지 못했다.
국비 없이 시비 100%로 진행하는 사업으로 유사중복사업이 있다는 이유로 감액한 것으로 알려졌다. 삭감한 7000만원은 각 사업의 인건비로 사업 관련자들은 사실상 사업 중단으로 받아들이고 있다.
한 관계자는 “예산의 30%가량 삭감한 것으로 보이지만 2명의 인건비 삭감은 사실상 사업 중단 선언”이라고 말했다.
통계청 자료를 보면 부산의 인구 10만명당 자살률(고의적 자해로 사망한 사람 수)은 2019년 30.1로 최근 10년 새 최고치를 기록했다. 2020년 27.4로 낮아졌으나 2021년 27.7, 2022년 27.3, 2023년 29.1로 다시 높아지는 추세이다. 매년 전국 평균보다 1.7~3.2가량 높다.
보건복지부의 ‘2015~2019년 지역별 자살사망자 동향 분석’에서도 부산은 타 지역과 비교해 ‘여성’과 ‘19세 이하’ 등의 지표에서 ‘높음’으로 평가됐다. ‘높음’은 상위 25% 이내를 말한다.
부산은 ‘자살률 높은 도시’라는 오래된 오명에서 벗어나기 위해 2013년 전국에서 처음으로 ‘심리적 부검’을 실시했다. 맞춤형 예방으로 자살률을 낮추겠다는 부산시의 행보에 시선이 집중됐다. 그러나 그 해 실적은 228건으로 2012년 부산지역 자살자 1050명의 21%에 불과했다. 20% 남짓한 심리적 부검으로는 자살자의 심리적 요인과 환경 등을 종합적으로 분석하는 데 한계가 있다는 지적이 일었다. 전형적인 ‘전시성 정책’이었다.
실제로 그후 심리적 부검은 유명무실해졌고 부산시의 관심은 더욱더 약해져 지난해 부산에서 이뤄진 심리적 부검은 8건에 불과했다.
학생 3명이 숨진 고교에서는 4년 전에도 같은 반(무용반)에서 같은 사건 있었던 것으로 확인됐다. 2021년 12월 이 학교 2학년생이 숨졌으며, 경찰은 학업 스트레스 때문으로 결론 짓고 이 사건을 종결했다. 당시 부산시교육청은 학생들의 동요를 막기 위해 안정화 지원을 한 것을 제외하면 별다른 조치나 대안 마련을 위한 모색은 하지 않았다. 3명 학생이 숨지는 사건이 일어나자 학교 측은 4년 전 사건에 대해 ‘쉬쉬’하기에 급급했다.
이 때문에 입시 환경의 구조적 문제 등을 해결해야 한다는 이 학교 학부모회의 주장이 설득력을 얻는다.
※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살 예방 핫라인 ☎1577-0199, 희망의 전화 ☎129, 생명의 전화 ☎1588-9191, 청소년 전화 ☎1388 등에서 24시간 전문가의 상담을 받을 수 있습니다.
시진핑 중국 국가주석이 집권 후 처음으로 브릭스(BRICS) 정상회의에 불참할 예정이다.
홍콩 사우스차이나모닝포스트(SCMP)는 25일 소식통을 인용해 중국 정부가 다음달 6~7일 브라질 리우데자네이루에서 열리는 브릭스 회의에 시 주석 대신 리창 국무원 총리가 참석할 것이라고 브라질 측에 통보했다고 보도했다.
블룸버그 통신도 중국 정부가 시 주석의 브릭스 정상회의 불참 의사를 브라질 측에 전달했다고 브라질 정부 관계자를 인용해 이날 보도했다.
보도에 따르면 회의 일정이 다른 일정과 겹쳤다는 것이 중국 측이 내세운 불참 이유다. 중국 측은 시 주석이 1년도 안 돼 루이스 이나시우 룰라 다시우바 브라질 대통령과 두 차례나 만난 점을 내세웠다고 전해진다.
SCMP는 외교 소식통을 인용해 룰라 대통령이 나렌드라 모디 인도 총리를 국빈 만찬에 초대한 것이 시 주석의 불참 결정에 영향을 미쳤다는 분석을 소개했다. 시 주석이 행사에서 ‘조연’ 취급을 받을 수 있다고 판단했다는 것이다. 중국과 인도는 국경 분쟁 등으로 긴장 관계를 이어온 오랜 앙숙이다.
브라질은 미국을 대체하는 농산물 수출국으로 자리매김하는 등 중국과 협력을 확대해 왔지만 일대일로(육해상 실크로드 구상)에는 가입하지 않았다.
시 주석이 브라질을 방문하지 않는다면 집권 후 브릭스 정상회의에 처음 불참하는 것이 된다. 시 주석은 2023년 남아프리카공화국에서 열린 정상회의에서 예정된 연설을 돌연 취소했지만 행사 자체에는 참석했다. 코로나19 대유행 기간인 2020년과 2021년 각각 러시아와 중국에서 열린 회의에서는 화상으로 연설했다.
궈자쿤 중국 외교부 대변인은 이날 정례 브리핑에서 관련 질문에 “중국과 브라질은 모두 세계적인 대국이자 글로벌 사우스의 대표적 역량”이라며 “중국은 브라질이 올해 브릭스 의장국을 맡아 협력을 함께 추동하고 새로운 성과를 끊임없이 얻는 것을 지지한다”고 말했다.
궈 대변인은 이어 “중국의 브릭스 정상회의 참석 상황에 관해 우리는 적시에 소식을 발표할 것”이라고 했다.
브릭스는 2006년 브라질, 러시아, 인도, 중국의 영문명 앞글자를 딴 모임으로 출범한 신흥 개도국 경제 협력체이다. 2010년 남아공에 이어 지난해 1월1일 이집트, 에티오피아, 이란, 아랍에미리트가 가입하고 지난 1월6일 인도네시아가 합류해 회원국은 10개국으로 늘어났다.
중국은 브릭스를 지렛대로 위안화의 영향력 확대 등을 꾀하고 있다.