[공감신문] 인공지능(AI) 기술의 발달이 가속되는 가운데, 이를 긍정적으로 내다보는 예상과 부정적인 관측은 모두 나오고 있다. 'AI 비관론자'들은 AI의 지나친 발전이 인류에게 위해로 다가올 수 있다고 전망한다. 

특히 AI 살해도구, 이른바 '살인로봇'의 현실화에 대한 우려의 목소리를 내놓고 있다. AI의 무기화를 우려하는 시선이다. 

이에 대해 국제사회가 규제 논의를 본격적으로 시작했다. 미국 워싱턴포스트(WP) 등의 보도에 따르면, 스위스 제네바에서는 지난 13일(현지시간)부터 유엔(UN) 특정재래식무기금지협약(CCW) 회의가 5일간 열리고 있다. 

현재까지는 인간이 작성한 알고리즘을 스스로 바꾸면서 변화된 환경에 적응하는 AI 무기체계는 존재하지 않는다. 아직은 사람의 손이 필요하다는 얘기다. 이번 논의는 특히 '사람의 손을 빌리지 않고 자체적으로 표적을 정한 뒤 제거하는 살인로봇'의 활용, 부작용 등을 유엔 차원에서 다루는 첫 번째 논의여서 더욱 관심을 끈다. 

WP는 우리나라와 북한의 접경 비무장지대(DMZ)에 설치된 감시로봇을 예로 들면서, 이론적으로는 사람의 개입 없이 표적을 추적, 제거할 수 있다고 설명했다. 일부 AI 무기체계는 현실화를 눈 앞에 두고 있다는 지적이다. 

또 시민단체 '킬러로봇을 막을 캠페인(Campaign to Stop Killer Robots)'은 "저비용 센서와 인공지능의 진화가 계속되면 살인로봇의 진정한 위협은 현실화될 것"이라 우려하고 있다. 

이밖에 IT 전문가나 업계 일각에서도 살인로봇의 출현을 막아야 한다는 목소리가 들려오고 있다. 특히 대표적인 'AI 비관론자'로 여겨지는 테슬라의 일론 머스크, '알파고'를 만든 구글 딥마인드의 무스타파 술레이만 등 관련 기업 대표 및 설립자 100여명은 '살인로봇으로부터 인류를 보호하는 방법을 찾아야 한다'는 요지의 공개서한에 서명하고, 이 서한이 UN으로 보내진 바 있다. 

이들은 소위 '살인로봇'들이 일반적인 국가의 군사무기로 활용되는 것 외에도 테러리스트 등 범죄자, 불량 국가가 살인로봇을 손에 넣을 수 있다고 우려하고 있다. 독재자나 테러리스트의 손에 이 무기가 들어가면, AI무기가 무고한 민간인을 대상으로 한 테러 무기로 활용될 수 있으며, 이 무기가 해킹당할 경우 대형 참사로 이어질 것이라고 주장하고 있다. 

다만, UN 회원국 사이에 '살인로봇 규제' 논의가 큰 지지를 얻고 있지는 못하는 상황이다. 미국, 러시아, 중국 등 세계의 군사 강국들은 이와 관련된 연구와 실험을 계속하고 있으며, 도리어 AI가 인간보다 정확성이 높기 때문에 오인공격 등의 가능성을 줄일 수 있다는 주장도 제기되고 있다. 

군사 전문가 조슈아 포우스트는 "사람도 완전하지 않아 표적을 오판할 수 있다"며 "자동 시스템(AI)이 진화하면 민간인이 더 잘 보호받을 수 있다"고 주장한다. 

이와 같은 문제점 때문에 당장 이번 회의에서 '살인로봇 규제' 등에 관한 규제 방안, 해법이 나오기는 어려울 것으로 예상된다. 

이번 회의를 주재하는 아만디프 길 인도 군축대사는 회의에 대해 "이제 출발선에 섰을 뿐"이라며, "단칼에 금지하는 게 쉬운 처방이지만, 매우 복잡한 문제의 결론을 바로 내리는 것은 현명하지 않다"고 설명했다. 

AI의 무기화는 AI 개발의 태동기부터 거론되어온 쟁점이다. 과거에는 현실화의 가능성이 다소 적었다면, 최근 들어서는 이같은 논쟁이 지속적으로 언급될만큼 우리 곁으로 다가와있다는 점이 다르다. 

아만디프 길 인도 군축대사의 설명대로, 이 문제는 매우 복잡하기 때문에 바로 결론을 내리는 것이 쉽지 않을 수 있다. 그러나 장기간의 논의 과정 와중에 '살인로봇'이 현실화될 경우에 대해서도 대비해야 할 것은 분명해 보인다.