드론이 지성을 갖기 시작했다.멈출려면 지금이다

무인공격기는 이제 상식이다 만약 그것이 지성을 갖는다면?

얼굴인식 기능과 AI를 탑재한 터키의 드론 'Kargu-2'는 표적을 스스로 발견하고 추적, 살해하는 데 성공했을 수 있다

영화 터미네이터 시리즈에서는 아놀드 슈워츠제네거가 맡은 슈퍼로봇이 인간의 표적을 쫓아다녀 죽이려 한다.

1980년대 개봉 당시 이는 현실에선 있을 수 없는 SF세상 이야기였다.

하지만 지금 살인 로봇에 의한 표적 추적은 현실이 되어, 또 이러한 로봇이 매매되어 전장에 배치되고 있다.

다만 살인 로봇이라고 해도 영화에 나오는 사이보그가 아닌 자율형 살인 드론이다.

터키가 새로 개발한 쿼드콥터형 드론 카구-2는 얼굴인식 기능과 AI(인공지능)를 이용해 인간의 표적을 스스로 발견하고 추적해 살해할 수 있을 것으로 보인다.

사실이라면 인간의 원격조종이 필요한 드론에서 엄청난 기술적 비약을 이룬 셈이다.


https://youtu.be/H5Uw5ohtjWc

■ AI를 사용하여 처음으로 자율적으로 사람을 죽이는 것에 성공했다고 여겨지고있는 Kargu-2

유엔 안전보장이사회는 3월에 발표한 보고서에서, 2020년 3월의 리비아에서의 전투에서 Kargu-2가 인간 표적을 추적해 공격했다고 지적했다.

보고서에 따르면 Kargu-2는 철수하는 후방지원부대나 군용차량을 추적해 조종자와의 데이터 접속이 필요 없이 공격을 했을 가능성이 있다고 한다.

이전보다 구하기 쉬워지고 기능도 급속히 향상되고 있는 드론은 인류 전체에 여러 가지 절박한 과제를 안긴다.

전투능력에 새로운 비대칭을 가져오다

국제사회가 그 개발과 매매 중단에 합의하지 않으면 불량국가로부터 소규모 범죄조직, 심지어 사이코패스적인 단독범에 이르기까지 누구나 카구-2 같은 자율형 살인드론을 입수해서 사용할 날이 멀지 않을 것이다.

살인 드론이 대량으로 나돌면 기술적으로 앞선 국가들이 개발한 대테러 방위 기술이 무의미해진다.

게다가 전쟁에 새로운 힘의 불균형을 낳음으로써 자율형 살인 드론이 수많은 지역의 평화를 불필요하게 해칠 수도 있다.

저렴한 가격의 드론이 확산되고 있어 안정적인 지역을 쉽게 전투지역으로 바꿀 수 있게 되는 것이다.

그러나 살인드론의 탄생과 급속한 확산은 아무것도 아니다.

수십년 전부터 군에 의한 최신 기술의 도입을 웃도는 페이스로 소비자 기술의 개발이 진행되어 왔다.

드론은 기본적으로 회전날개가 달린 스마트폰이고 현재 구할 수 있는 소비자용 드론은 스마트폰 기술 급속한 발전의 부산물이라고 할 수 있다.

소비자용 드론은 3차원으로 접속할 수 있게 해 식료품 의약품 배달 등 새로운 상업적 기회를 창출하고 있다.



하지만 드론에 (예를 들어 급속히 진보하고 있는 얼굴 인식 기능과 AI를 조합하는 것으로) 인간 수준의 인지 능력을 준다면, 별 거물은 아닌 독재자나 테러리스트, 난폭한 10대 젊은이 등이, 미군이 사용하는 것 같은 고가 드론의 몇분의 1 값에, 강력한 무기를 손에 넣을 수 있게 된다.

그 같은 드론 개발에 대항하기 위한 구체적인 조치를 당장 취하지 않으면 값싼 드론을 자율형 살인무기로 만드는 방법이 조만간 인터넷에 공개될 것이다.

지금까지 AI를 이용해 사물이나 사람의 얼굴을 정확히 식별하기는 어려웠다.

이미지에 문자를 추가해 살짝 바꾸는 것만으로 알고리즘에 혼란이 생기기 쉽기 때문이다.

예를 들어 화상인식시스템에 사과를 과일로 식별시키기 위한 훈련에서는 사과에 아이팟이라고 인쇄한 작은 종이쪽지를 붙였을 뿐 시스템이 쉽게 속아 사과를 아이팟으로 식별했다.

홍콩 민주화 시위 참가자들은 정부의 얼굴인식 시스템을 혼란시키기 위해 얼굴에 페인트를 칠했다.

AI를 탑재한 인식 시스템은 안개나 비, 눈이나 눈부신 빛 등 환경 요인에 따라 정확도가 크게 떨어질 수 있다.

때문에 현재의 개발 수준이라면 드론에 대한 방어 차원에서 비교적 간단한 대책으로 인식 시스템을 혼란시킬 수 있을지도 모른다.

하지만 관련 피해나 죄 없는 희생자를 내는 것을 아무렇지도 않게 생각하는 이들에게 있어서, 시스템의 정도는 그다지 큰 문제는 아니다.

이들이 띄우는 드론은 어차피 표적(답식 대상)을 살해하도록 프로그램돼 있을 가능성이 있다.

911 테러마저 퇴색할 듯한 피해

게다가 개개의 표적을 겨냥한 드론에 대해 어떤 방어책을 쓴다고 드론이 새로운 대량살상무기로 배치되는 것을 막을 수는 없다.

폭발물을 탑재한 드론 대군이 스포츠행사나 도시 인구밀집지역을 들이받고 폭발하면 많은 사망자가 발생하기 때문에 이를 막기는 어려울 것이다.

현재 여러 기업이 위험한 비행물체나 드론에 대항하는 시스템을 판매하고 있으며 진보적인 군에서는 이미 드론의 제어시스템을 방해하는 대항조치를 도입하고 있다.

하지만 지금은 아직 드론 1대를 격추하기도 어려운 상황이다.

이스라엘이 최근 드론을 항공기에서 파괴할 수 있는 레이저 무기 실험에 성공했지만 드론 대군을 통째로 격추시키기는 아직 매우 어렵다.

그리고 신세대의 자율형 드론에 맞서려면 통신을 차단하는 것만으로는 부족하다.

불필요한 혼란이나 피해를 피하려면 이들 드론을 안전하게 착륙시키기 위한 방법을 개발하는 것이 필수적이다.

자율형 드론은 큰 피해 가능성을 중시하는 집단에 전혀 새로운 가능성을 열어준다.

단 하루에 100곳을 공격할 수 있다면 911테러마저 퇴색해 보이는 피해를 입게 된다.

살인 드론에게 공격당할 위험은 어느 나라에나 있지만 가장 큰 피해자는 국경 경비가 허술하고 법 집행 기관이 취약한 가난한 나라들이다.

살인 드론을 이용한 전쟁은 일단 미국보다는 아프리카에서 벌어질 가능성이 높고 희생자도 많을 가능성이 높다.

새로운 자율형 비행무기를 만드는 기업들은 자사 제품을 치열하게 판매하고 있다.

미국과 중국은 아직까지 완전자율형 무기 개발 및 제조 금지를 지지하지 않고 있다.

이들 무기업체와 새로운 살인드론을 전장에 배치한 정부들의 정통성을 은근히 인정하는 셈이다.

이런 드론이 도움이 될 수도 있다.자율형반자율형 드론은 전투지대 정세를 바꾸는 데 이용되기도 한다.

예를 들어 시리아에서는 반정부 세력이 드론을 사용해(정부군이 사용하고 있는) 러시아제의 장갑 차량을 공격했다.

값싼 드론을 이용해 수천 백만달러의 전차를 파괴하고 있다.

그러나 드론을 유리하게 사용할 수 있다는 장점보다는 그것이 악의적인 자들의 손에 떨어져 극히 정밀도가 낮은 대량살상무기로 배치될 위험이 훨씬 크다.

우리의 행동이 미래를 바꾼다

무인항공기를 비롯한 온갖 류의 살인 로봇의 개발 및 판매를 전 세계에서 정지시키기는데는 늦지 않다.

그것을 실현하기 위해서는 복수의 초강대국이 전략 변경을 요구할 수 있게 된다.

개발 및 판매 중단은 공격 시스템만을 대상으로 하며, 모든 종류의 대 드론 방어 시스템의 개발 판매는 허용되어야 한다.

그리고 금지 조치의 일환으로 부유한 나라의 정부는 보다 가난한 나라의 대 드론 방위 시스템 구입에 자금 지원을 검토하고, 그들에게 드론의 대군을 물리치는 방법을 가르쳐야 할 것이다.

드론 기술은 인류가 한마음으로 대처해야 할 세계적 규모의 문제이기 때문이다.

영화 터미네이터 시리즈에서 살인 로봇은 결국 파괴된다.

하지만 현실에서는 AI를 건설적인 목적을 위해서만 사용하게 하기 위한 투쟁은 향후도 계속 되어, 결코 끝나지는 않을 것이다.

AI가 살인 드론에 도입된 것은 AI가 가져올 수 있는 혼란을 다룬 두꺼운 책의 짧은 첫 장에 불과하다.

우리가 행동을 할 것인지 아니면 그 책을 덮어버리느냐에 따라 자녀들에게 물려주고 싶은 미래의 종류가 달라진다.

그 미래는 모든 곳에 죽음의 불안이 깔려 있는 터미네이터형 혼란의 세계가 될 것인가.

그렇지 않으면, 테크놀로지를 분쟁이나 폭력보다 사회를 좋게 하는 활동과 번영을 위해 유용하게 쓰려고 인류가 단결해 대처하는, 스타트렉 유형의 세계가 될 것인가.




(-15%)
https://www.stylec.co.kr/shop/item.php?it_id=1620973596&cid=3156541440

벨레스 포켓팬 넥밴드 선풍기