내 스마트폰 정보가 군사용으로 쓰인다면?

사람은 생각보다 현명하지 않다. 때로는 당연히 예상했어야 하는 사실조차 뒤늦게 깨닫고 섬뜩한 느낌에 사로잡힐 수 있다. 차라리 아예 몰랐으면 좋았을 거라고 생각한 진실이 숨어있을 수 있기 때문이다.

(사진출처:테크노아)

나는 다분히 이상주의자다. 그래서 아직도 될 수 있으면 세계가 평화롭기를 바라고, 생명은 누구의 것이든 소중하다고 생각한다. 내 스스로가 잘 먹고 잘 사는 것 외에도 누군가 내 그림자 뒤에서 희생되지 않기를 바란다. 하다못해 의무적으로 군대에 가서 총을 잡게 된 날조차 이 총으로 사람을 죽이는 일이 영원히 없기를 희망했다.

미국 애플사에서 내놓은 첨단 인공지능 음성 시스템인 시리(Siri)를 예로 들어보자. 이 시스템은 미군의 프로젝트에서 나온 결과물을 사들여서 개발된 것이다.

그게 뭐? 라고 할 사람을 위해 약간 과장해서 다시 한번 풀어보자. "시리야, 32번가에 있는 해산물 레스토랑을 찾아봐줘." 라고 하면 스마트하게 대답해준다고 치자. 그러니까 원래 이 기술은 " 제길! 톰이 당했어! 시리! 32번 블록에 있는 아프간 게릴라를 찾아봐. 그 놈들 다 죽여버리겠어!" 라고 말할 미군병사를 위한 기술이라는 의미다.

하지만 뭐가 문제인가? 원래는 그렇게 위험한 용도였던 기술이 평화로운 민간용 기술이 되었으니 그야말로 바람직한 게 아닌가. 라고 생각할 수 있다. 그렇다. 나도 이제까지 그렇게 생각했다. 그런데 다음 기사를 잠깐 보자. (출처)

(사진출처: 아시아경제)

미국의 국방뉴스 전문매체 디펜스뉴스에 따르면, DARPA는 최대 3개월간 바다에서 수천 킬로미터를 스스로 움직이면서 해저의 적 디젤잠수함을 탐지할 수 있는 '드론십'(drone ship.무인함정) 설계,건조 및 시운전을 위해 지난 8월 버지니아주 방산업체 SAIC에 5800만 달러를 지급했다.

이는 대잠수함전 지속 추적 무인함정(ACTUV) 프로그램 2-4단계 사업이다. 1단계 프로그램에서 DARPA는 시스템의 개념을 규정하고 잠수함 추적 센서와 자주성과 관련된 리스크 감소 테스트를 수행했다. 이로써 SAIC와 하청업체들은 앞으로 3년간 디젤잠수함 탐지능력을 갖춘 드론 함정 설계와 건조를 하게 된다.

DARPA는 드론십 프로토타입은 2015년께 해상 시험을 할 것으로 예상하고 있다.

드론십은 소나로 적 잠수함을 추적하면서도 모래톱과 다른 선박을 회피하면서 안전하게 항행할 수 있을 것으로 예상되고 있다. 이같은 복잡하고 스스로 움직이는 함정을 건조하는 일은 미 해군의 다른 분야에도 영향을 줄 기술적인 돌파구가 될 것이라고 디펜스뉴스는 전망했다.

그러나 풀어야 할 과제가 적지 않다. 공학상의 최대 난제는 최대 3개월간 해저의 조용한 잠수함을 추적하면서 대양을 스스로 이동하고 다른 함정과의 충돌을 피할 수 있는 설계 즉 엔지니어들이 말하는 총명한 자율성(intelligent autonomy)을 입증하는 일이다.

함정 항해시스템 회사이자 DARPA 계약자인 스페셜 인터그레이티드 시스템스의 이사이자 퇴역 대령인 릭 사이먼은 "함정 건조는 오히려 쉽다"면서"90일간 나가서 구조요청을 하지 않을 만큼 똑똑하게 하는 일이 진짜 어려운 부분"이라고 말했다.

얼핏 보기에는 별 것 아닌 기사다. 그냥 미 해군이 사람 없이 스스로 해저에서 움직이며 적을 찾아 내는 인공지능형 무인 잠수함을 계획하고 있다는 이야기다. 그런데 잠깐! 인공지능이라고? 여기까지 생각이 미치자 나는 등골이 서늘해졌다.

애플이 지금 운용하고 있는 시리 시스템을 포함해서 구글이 운용하는 각종 인공지능 시스템을 생각해보자. 그 시스템은 그냥 설계자가 혼자 만들어서 일방적으로 공급하는 것만이 아니다. 사용자의 대화와 반응패턴을 다시 인터넷으로 입력받아서 데이터베이스를 쌓고 그에 따라 더욱 '스마트' 하게 진화한다. 더 똑똑해지고 빨라진다. 더 사람에 가까워진다는 뜻이다. 

내 스마트폰 정보가  군사용으로 쓰인다면?

그런 시스템을 이용할 때 우리는 어떤 약관에 동의하고 있는가? 그 시스템에 쓰이는 정보를 제공하고 그에따른 법적권리는 해당 회사에 있음을 인정한다. 사실 별 거 아닌 듯 보였다. 내가 내는 장난기 어린 음성명령 하나와 동작 명령 하나가 뭐 그리 값어치 있거나 위험한 건 아닐 테니까. 라고 생각했다.

하지만 잘 생각해보자. 애초에 시리는 미군이 애플에 팔았다. 그렇다면 반대로 애플이나 구글의 인공지능 데이터베이스와 시리가 쓸 만해지면 미군이나 다른 나라 군대가 사지 말라는 법이 어디 있는가? 돈과 조건만 맞는다면 굳이 해당 회사가 안 팔 이유가 없다. 그건 자본주의의 당연한 이치이고 법적으로도 아무런 하자가 없다.

그럼 다시 위의 뉴스로 보자. 저 인공지능 잠수함의 핵심인 총명한 자율성을 확보하는 데 필요한 데이터베이스는 어디서 구할까? 결국은 우리가 생각없이 스마트폰으로 말하고 지시하며 내놓는 정보가 될 수 있다. 전세계의 스마트폰 사용자가 말한 데이터가 축적된 시스템이 쌓이고 가공되어 그야말로 사람같은 인공지능을 만든다. 그러면 그런 사람같은 인공지능은 곧바로 무인병기에 탑재될 가능성이 극히 높다. 

특히 미군은 돈이 많고 무인병기에 관심이 높다. 생각없이 제공한 내 스마트폰 정보가 미군의 무인전투기, 무인 잠수함, 무인 동물형 로봇에 쓰여 누군가를 감정없이 살상하는 데 쓰인다면? 나는 과연 완전히 책임이 없다고 말할 수 있을까?

어쩌면 차라리 이런 불편한 진실을 내가 깨닫지 않는게 나았을 수 있다. 말하지 않는게 좋았을 수도 있다. 그러나 아직도 나는 이상주의자인가보다.말하는 나도 너무도 불편하지만 그런 가능성을 외면하고 싶지는 않다.

이제부터 우리는 애플과 구글 등을 상대로 캠페인이라도 벌여야 할까? '내가 제공하는 정보는 영원히 군사용으로는 쓰지 않겠다는 조건하에서만 허락한다고? 아마 힘들 것 같다. 앞으로 내가 계속 IT업계를 주시해야 될 이유가 하나 더 늘어난 셈이다.