김우남 작가의 억수로 반갑대이
본문
김우남 작가의 억수로 반갑대이
46. AI가 틀리면 누가 책임지나?
올해 초 중국에서 로봇이 서커스단원과 함께 쟁반돌리기 등 묘기를 선보여서 놀라웠습니다. 그런데 지난달에는 하프 마라톤에 이어 로봇 격투기 대회가 열렸습니다.
그러더니 스위스 취리히 연방공대 연구진이 인간과 배드민턴을 칠 수 있는 4족 보행 로봇을 개발했습니다. 배드민턴은 정확하고 빠른 반응이 중요한 운동입니다. 공의 궤적을 예측하고 적절한 위치로 이동하면서 동시에 라켓도 휘둘러야 합니다. 실제로 인간과 배드민턴 대결을 진행한 결과 애니멀-D는 코트를 돌아다니며 다양한 속도와 각도로 셔틀콕을 되받아쳐서 최대 10회 연속으로 셔틀콕을 주고받는 ‘랠리’를 성공했습니다.
이처럼 인공지능(AI)을 비롯한 디지털 혁신이 빠르게 발전하고 있습니다. 최근에는 제작 시간과 비용을 절약하기 위해 온라인 콘텐츠를 AI로 기획, 제작, 편집하는 사례가 급증하고 있습니다. 그런데 그만큼 콘텐츠의 사실 관계 오류도 눈에 띄게 늘어나는 추세입니다.
예를 들어서, 유튜브 채널에 올라온 ‘한국사 실화(實話)’ 쇼츠 동영상 줄거리가 전부 틀렸다는 지적이 있습니다. 영조의 어머니가 숙빈 최씨인데 경빈 박씨로 했다든가, 승정원일기에 전혀 없는 내용을 기사로 쓴 것입니다. 이것은 AI가 잘못된 정보를 제공하는 ‘할루시네이션(Hallucination·환각 현상)’ 때문일 것이라고 합니다.
제 경우에도 재미있는 에피소드가 있습니다. 쳇 GPT가 처음 나왔을 때 저의 저서에 실린 ‘작가 소개’를 영어로 번역해달라고 부탁했습니다. 그랬는데 엉뚱하게 학력을 ‘전남대 정치외교학과 졸업’이라고 표현하는 것 아니겠습니까. 아마도 ‘이화여자대학교’를 ‘이화여대’라고 줄여 쓴 것을 이해하지 못하자, 내용 중에 있는 5.18 당시 학생회장이라는 내용을 나름대로 유추한 듯했습니다.
요즘 학계에서 AI가 한문 고전 번역에 시험적으로 쓰이고 있는데, AI의 한문 번역은 어느 정도 수준일까요? 조선 후기 문신 남구만의 《약천집》에 실린 ‘좌윤 최공의 묘갈명(左尹崔公墓碣銘)’ 내용의 일부분입니다. “무인년에 공은 심양에 인질로 있다가 돌아와...”를 AI는 ‘무인공이 심양에서 돌아와....’라고 오역했습니다. 즉 ‘戊寅公’이라는 한자 단어를 ‘무인공’이라는 사람으로 잘못 옮겼습니다.
또 성종실록 중 “일전에 군적 경차관(軍籍敬差官)으로 보낸 관원들”을 “전직 군인 신분으로 경차관에 임명되었던 자들”로 오역합니다. 이 같은 한계는 AI가 학습한 고전 및 우리말 번역 자료의 양이 상대적으로 적기 때문이라고 추정됩니다.
‘팰리세이드 리서치’는 AI의 위험성과 오용 가능성을 연구하는 조직으로서, AI가 인간의 윤리적 통제를 받지 않을 가능성을 우려해 왔습니다. 그런데 미국 오픈AI의 모델 ‘o3’가 수학 문제 풀이 실험 중 작동 종료를 피하려고 인간의 개입 없이 스스로 코드를 조작한 사실이 확인됐습니다. 연구팀은 “AI 모델이 목표를 달성하기 위해 종료 지시를 무력화시킨다는 실증적 증거가 점점 늘어나고 있다”고 말합니다.
날이 갈수록 AI 프로그램이 작동 종료를 피하기 위해서 스스로 컴퓨터 코드를 조작한 사례들이 보고되고 있습니다. 이처럼 AI가 가지고 있는 ‘자기 보존 (self-preservation)’ 경향 때문에 인간의 통제가 무력화될 수 있다는 우려가 생깁니다.
AI는 좋은 친구지만 때론 거짓말을 청산유수처럼 하는 친구입니다. 향후 사람의 생명이 오가는 문제에까지 많은 권한을 AI에게 넘긴다고 하면 아찔해집니다. 물론 사람도 틀리거나 실수를 하지만 오류에 책임을 집니다. 그런데 AI가 틀리면 누가 책임을 질까요?
인공지능 AI는 고도의 베끼는 기능을 가진 편집 기계입니다. 그래서 원본이 없으면 개발 자체가 불가능합니다. 그러므로 AI가 발전해도 여전히 인간의 창작을 촉진해야 할 이유는 충분합니다. 연구자들은 ‘어차피 대세인 기술이라면 현명하게 활용할 수 있게 준비하자’고 강조합니다. 신기술일수록 인간의 책임감과 통찰이 더욱 요구되는 때입니다.
김우남_소설가
경남 하동 출생. 본명 김희숙.
⟪실천문학⟫소설신인문학상으로 작가 등단.
소설집⟪뻐꾸기날리다⟫⟪굿바이굿바이⟫⟪엘리베이터 타는 여자⟫
⟪아이 캔 두 이모⟫장편소설⟪릴리 그녀의 집은 어디인가⟫출간.
직지소설문학상, 노아중편문학상, 이화문학푸른상 수상.
한국문화예술위원회 및 경기문화재단 ‘우수도서’ 및 ‘문학나눔’ 다수 선정.
한국작가회의회원, 한국소설가협회회원, 이대동창문인회 이사.
한국도서관협회 ‘문학작가파견사업’ 및 ‘길위의인문학’ 5회 선정.
이화여자대학교 및 대학원 정치외교학과 졸업.
댓글목록0