챗(Chat) GPT 등장 이후 인공지능(AI) 기술에 대한 관심은 점점 높아지고 있다. 기업들은 AI 기술의 주도권을 갖기 위해 기술 개발을 서두르고 있다. 동시에, AI 개발이 우리 삶에 어떤 영향을 미칠지에 대한 우려의 목소리도 나오고 있다. 과연 지금 우리는 AI에 대해서 얼마나 알고 있을까?
지난 19일 서울 영등포구 국회의원회관에서 '청년들의 작당'과 김종민 의원실이 '시민, 기업, 정부가 함께 만드는 AI 윤리의 도전과제와 해결을 위한 공론장'을 진행했다. 이번 행사는 김종민 국회의원, 사회적협동조합 스페이스작당이 주최하고, 청년들의 작당 '디지털과 혁신'팀이 주관하며, 과학기술정보통신부가 후원했다.
AI 발전은 우리에게 편리함을 주고 있지만 딥페이크 기술 악용, 저작권 문제, 데이터 라벨링 노동 등 부정적인 영향도 가져올 수 있다. 하지만 전문가가 아닌 일반 시민들은 AI 윤리 안에 포함될 수 있는 다양한 사례들에 대한 이해가 부족한 경우가 많다. 이번 공론장은 이러한 문제의식에서 시작됐다.
행사 1부에서는 'AI 윤리의 도전과제 이해'에 대해 사람과디지털연구소 구본권 소장이 발제하고, 2부에서는 국회입법조사처 사회문화조사실 과학방송통신팀 박소영 입법조사관, 과학기술정보통신부 인공지능 기반정책과 남철기 과장, 네이버 아젠다 리서치(Agenda Research) 박우철 리더가 국회, 정부, 기업의 입장을 각각 소개한 뒤에 '규제의 주도권은 누구에게 있어야 하는가?'를 주제로 시민 토론을 진행했다.
행사에 참여한 양정숙 국회의원은 "사람을 해치는 AI가 있으면 안 된다"며 "청년들이 마주하는 사회의 문제를 AI가 해결할 수 있었으면 좋겠다"는 바람을 전했다.
발제를 맡은 구본권 소장은 미국의 컨설팅기업 가트너가 '생성 AI플랫폼에 대해 규제 당국이 유념해야 할 문제'로 지목한 여섯 가지 윤리적 과제, 즉 ▲GPT 모델의 설명 불가능성 ▲부정확한 허구 답변(환각 현상) ▲기밀데이터 침해 ▲편향성 ▲지적재산권·저작권 위험 ▲사이버·사기 위험 등을 이야기하며 "권력과 주권이 국가로부터 기술기업으로 이동하고 있는 '기술극화 세계'(technopolar world) 현상이 나타나고 있다"는 문제점을 지적했다.
발제 이후에는 청년 참여자들이 직접 AI의 여섯 가지 윤리적 과제 중 가장 심각한 문제를 선택했다. 50여 명의 청년 참여자들은 '부정확한 허구 답변'을 가장 심각한 문제로 선정했고(32%) GPT 모델의 설명 불가능성을 두번째로(24%) 선택했으며, 편향성(17%), 사이버·사기 위험(12%), 기밀데이터 침해(9%), 지적재산권·저작권 위험(6%)이 뒤를 이었다.
이는 사전에 진행된 AHP 분석(계층화 분석법)에서 GPT 모델의 설명 불가능성이 6번째 중요도로 나왔던 것과는 다른 양상으로(AHP 분석에서의 순위: 부정확한 허구 답변, 기밀데이터 침해, 지적재산권·저작권 위험, 사이버·사기 위험, 편향성, GPT 모델의 설명 불가능성 순) 생성형 AI에 대한 이야기를 듣고 난 다음 참여자들의 생각이 변했음을 보여준다.
부정확한 허구 답변을 가장 심각한 문제로 선정한 전소영 참여자는 "챗 GPT를 사용해서 점을 보는 사람들도 늘어나고 있는데, 부정확한 허구 답변을 사람들은 점점 믿고 있다는 증거이지 않을까"라며 우려를 표출했다.
AHP 분석을 진행한 김지우 엔지니어는 "생성형 AI의 긍정적인 측면에 비해 부정적인 측면이 일반 시민들에게 충분히 설명되지 않았다"며 "AI가 전문가뿐만 아니라 더 많은 시민에게 다가가야 한다"고 말했다.
AI 윤리의 과제에 대해 논의한 이후에는 국회, 정부, 기업에서 각각 어떻게 AI 윤리 문제에 대응하고 있는지 공유했다.
박소영 입법조사관은 미국과 유럽연합(EU)의 인공지능법에 대해 소개하며 'AI 규제와 더불어 그 규제를 집행하고 AI 시대에 대응하기 위한 국가의 역량 제고가 필요하다'는 이야기를 남겼다.
남철기 과장은 '생성형 AI 기술이 전례없이 빠른 속도로 발전하면서 경제·사회·문화 전반에 AI 적용이 확산되고 있다'는 현재의 상황을 정리하며, 지난 9월 국내 주요 AI 기업이 소비자 기대를 충족하는 AI 윤리·신뢰성 확보를 위해 자발적인 안전조치를 마련할 것을 선언했다는 사실을 전했다.
박우철 리더는 '네이버 AI 윤리 준칙에서 첨단의 AI 기술을 누구나 쉽고 편리하게 활용할 수 있는 일상의 도구로 만들겠다'는 관점을 소개하며 네이버가 AI에 대해 고민하고 경험한 것이 단순히 한 기업의 자산으로 남는 것이 아니라, 사회 구성원 모두의 자산이 되는 것이 중요하다는 제언을 남겼다.
발제를 모두 들은 참여자들은 '규제의 주도권은 누구에게 있어야 하는가?'라는 질문에 정부 주도의 규제가 필요하다는 입장(52%)과 기업의 자율 규제에 맡겨야 한다는 입장(48%)이 첨예하게 대립했다.
기업의 자율 규제를 선택한 한승범 참여자는 "인간 발전의 역사는 도구 발전의 역사와 함께했고, 챗 GPT도 하나의 도구이다. 챗 GPT를 활용해 우리가 발전을 지속할 수 있다면 소비자와 가깝고, 삶에 밀접하게 영향을 미치는 기업이 주체가 되어야 한다"며 기업에게 주도권이 있어야 한다고 주장했다.
행사를 주관한 청년들의 작당 '디지털과 혁신'팀 팀장 김치라 변호사는 "AI가 가져올 윤리적 과제를 미리 머리를 맞대고 하나씩 해결하다 보면, 다른 어떤 기술보다도 인간과 세상에 좋은 것만을 남겨줄 수 있지 않을까?"라며 빠르게 변화하는 사회 속에서 AI 윤리에 대한 이야기를 멈추지 말아야 한다는 이야기를 남겼다.
한편 청년들의 작당은 다양한 목소리를 모아 사회의 변화를 만들기 위한 청년들의 모임으로, 스페이스작당에서 운영하는 프로젝트다.
라이프인 열린인터뷰 독점기사는 후원독자만 볼 수 있습니다.
후원독자분들은 로그인을 하시면 독점기사를 바로 볼 수 있습니다.
후원독자가 아닌 분들은 이번 기회에 라이프인에 후원을 해보세요.
독립언론을 함께 만드는 자부심을 느낄 수 있습니다.
