- 이스라엘은 AI 시스템 하버소라의 확률적 추론을 통해 27일 만에 유의미한 1만 2천여 곳을 선별 타격했다.
- 우크라이나의 델타 상황 인식 시스템은 다양한 정찰 자산과 통합되어 우크라이나 군 지휘관에게 러시아 군의 위치를 정확하게 전달했다.
- 전장에서 불확실성이 사라지고 있다.
- 세 차례의 군사혁명,
- 화약 혁명: 중세의 성곽을 무너뜨리며 봉건제를 붕괴시켰다.
- 산업혁명: 기관총을 등장시켰고,
- 핵 혁명: 인류에게 국가적 수준의 전쟁이 아닌 인간 종의 종말을 가져오는 혁명을 일으켰다.
- AI는 단순히 기존 무기 체계를 개선하는 수준이 아니라 예측할 수 없는 모든 것의 변화로 이끌고 있다.
- 향후의 전쟁은 인지전의 시대가 될 것 같다.
- 전쟁의 템포는 인간의 대응 능력을 완전히 넘어서고 있다.
- 2024년 이스라엘 라벤더 시스템이 3만 7천 명의 팔레스타인을 수초 만에 위협 등급으로 분류한 사례는 단순히 기술적 돌파가 아니라 의사결정 권력의 이전을 의미한다.
- 인공지능의 초고속 의사 결정은 전술적 우위를 제공하고 있다.
- AI 시대의 빠른 의사 결정과 대응이 얼마나 책임 없는 결과를 가져올 것인지 걱정스럽다.
- 2024년 AI를 활용한 군사 의사결정 시스템을 개발했다.
- 적과 아군을 구분하는 것은 이제 인간의 역할이 아니라 AI의 알고리즘이다.
- 대중 선동에도 AI가 이용되고 있다.
- AI 시대의 전쟁법은 인간 중심주의에서 벗어나 기능 중심주의로 전환되고 있다.
- 이제 국가의 힘은 전차의 수가 아닌 데이터의 양과 알고리즘의 질로 측정되기 시작하고 있다.
- 기술은 가치 중립적이지만 그 영향은 결코 가치 중립적이지 않다.
- 중국의 사회 신용 시스템
- AI는 전쟁의 본질을 변화시키고 있다.
- AI 기술의 발전은 사회 전반의 효율성을 높이고 엄청난 부를 창조하지만 감시 사회의 도래라는 우려를 증폭시키고 있다.
- 기술의 발전을 막을 수는 없다. 그러나 우리는 그 방향을 결정할 수는 있다.
- 시민의 동의가 없는 AI가 중요한 국가적 결정을 내리는 상황이 온다면 이는 민주주의의 근간을 흔들 수가 있을 것이다.
- 화약의 발명은 중세 성곽을 무력화했고, 증기 기관은 병력 이동의 속도를 혁신적으로 높였다.
- 2020년은 드론 전쟁의 시대를 개막했다. 러시아와 우크라이나 전쟁에서 AI 기반 자율 드론 시스템이 사용되고 있다.
- 자율 무기 체계는 전쟁의 상황을 실시간 으로 분석하고 최적의 작전 방안을 스스로 결정할 수 있는 완전한 자율성을 갖추게 될 날이 얼마 남지 않은 것으로 보인다. 이는 군사 작전의 효율을 극대화시키고 있다.
- 산업혁명은 무기와 군사 조직을 변화시켰고,
- 지식혁명은 전쟁을 사이버 공간으로 이동시키고 있다.
- 데이터와 알고리즘이 새로운 전쟁의 화약이 된 것이다.
- 지식혁명 시대의 군사 기술은 정교함을 중심으로 일어나고 있다.
- 군대를 보내지 않고도 데이터를 통해 국가를 지배할 수 있게 되고 있다.
- 데이터의 독점이 과거 영토 독점보다 위험하다.
- 전쟁에서 인간 군인들의 모습은 점점 사라지고 그 자리를 차가운 금속의 군단이 채우고 있다.
- 미 국방성의 프로젝트 네이버는 AI를 활용해 드론의 영상을 분석하고 표적을 식별하는 시스템을 개발하고 있다.
- AI의 의사 결정 과정은 종종 블랙박스로 여겨지고 있다.
- 새로운 전쟁, 사이버 공간과 정보전이 되고 있다.
- 2010년 발견된 스트스넷 바이러스는 이란의 핵 시설을 타격한 최초의 사이버 무기다.
- 민간 기업이나 개인이 국가 수준의 사이버 공격 능력을 보유할 수 있다는 점에서 전쟁의 주체가 모호해지고 있다.
- 로봇들만이 싸우는 전쟁도 앞으로는 가능하다.
- ISIS와 같은 테러 조직이 상업용 드론을 개조해 폭발물을 장착하고 공격에 사용했다.
- AI를 이용한 디페이크 기술은 허위 정보를 생성하고 확산시키는 데 사용되고 있다.
- 자율무기의 발전은 전쟁의 속도를 급격히 증가시키고 있다. AI 시스템은 인간보다 훨씬 빠르게 상황을 분석하고 대응할 수 있기 때문이다. 초고속 전쟁 시대가 도래하고 있다.
- 선진 각국은 더 똑똑하고 더 빠르며 더 치명적인 AI 무기를 개발하고자 경쟁하고 있다.
- AI 기술의 이중 목적성
- AI는 본질적으로 우리의 삶을 바꿀 것이다.
- 미래에서 인간의 역할은 무엇일까?
- AI는 인간과 다른 방식으로 전략을 구상하고 실행할 수 있으며 이제 우리에겐 전통적인 군사 전략의 재검토가 필요한 순간이 왔다.
- 21세기 AI 시대 전쟁은 새로운 영역, 사이버 공간의 전쟁으로 되고 있다. 해킹, 정보 탈취, 기반 시설 공격 등 다양한 형태의 사이버 공격이 포함된다.
- 사이버 전쟁은 컴퓨터 네트워크를 통해 적국의 주요 인프라를 공격하거나 방어하는 행위를 말한다.
- 디페이크는 AI를 이용해 실제와 구분하기 어려운 합성 영상을 만들어내는 기술로 실제 일어나지 않는 일을 마치 실제 사건인 것처럼 조작할 수가 있다.
- 군사 전략의 AI 혁신은 결정 속도와 정확성이다.
- AI는 실시간 정보 분석, 표적 식별, 전술 제안에 이르기까지 다양한 분야에서 핵심적인 역할을 수행하고 있다.
- 이스라엘 AI시스템은 인물 3만 7천 명의 표적을 20초 간격으로 식별했다.
- 위치 태그, 휴대전화 신호, 드론 영상 등 다양한 데이터를 종합해 놀라운 속도로 잠재적 위협을 파악하고 있다.
- AI는 결정을 내린 근거를 명확히 설명하기 어렵다.
- 인간 지휘관은 AI의 초고속 판단 속도를 따라 잡을 수 없다.
- 미군과 중국군 모두 AI 기반의 지휘 통제 시스템을 도입하여 초고속 의사결정 체계를 구축하는 데 집중하고 있으며 러시아 역시 AI 기반의 전술적 신속 대응 체계를 개발하고 있다.
- AI 기반 무기 설계
- AI는 무기 설계뿐만 아니라 생산 방식의 혁명도 일으키고 있다. 이미 방위산업 분야에서는 AI가 생산 공정의 중심으로 자리 잡고 있다.
- 책임 공백과 인간이 과연 어디까지 기술을 통제할 수 있을지
- 법적 책임을 져야 한다는 것이다. 그러나 최근 급속히 발전하고 있는 AI 기반의 자율 무기는 이 근본적인 원칙을 무력화시키고 있다.
- 자율무기가 전쟁 수행 과정에서 인간적 판단을 최소화해 전쟁의 도덕적 정당성을 심각하게 위협한다고 경고하고 있다.
- 인류가 전쟁과 책임에 대한 기존의 도덕적, 윤리적 관념을 근본적으로 재검토해야 하는 시기가 왔음을 뜻한다.
- 아무도 책임지지 않는 비인도적 전쟁과 끝없는 윤리적 혼란이 있을 뿐이다.
- 군사적 동맹이란 곧 첨단 기술의 공유를 의미한다.
- 기술 공유가 지나치면 기술 의미가 악화되고, 기술 독점이 지나치면 동맹 내 결속이 흔들릴 위험이 있기 때문이다.
- 회원국은 민감한 데이터와 AI 기술에 대해 국가 안보와 직결된 부분까지 전면적 공유를 꺼리고 있다.
- 기술 공유와 기술 독점의 딜레마
- AI는 이미 군사 분야에서 혁신적 역할을 수행하고 있으며, 이는 전쟁의 양상을 근본적으로 변화시키고 있다.
- AI는 현대 전쟁에서 신속한 의사결정과 전술적 우위를 확보하는 중요한 도구가 되어가고 있다.
- 이익의 공유가 충돌 위험을 줄인다.
- 경제적 상호 의존이 강할수록 전쟁의 비용이 급격히 증가해 무력 충돌이 억제된다.
- 정보의 흐름이 평화를 유지하는 새로운 전략이 되고 있다.
- AI 기반 기술이 특정 국가에 집중되거나 독점될 경우, 이 기술을 지배하는 국가가 정치적 압박과 경제적 압박, 강압 수단으로 악용할 가능성이 높다.
- AI는 상호 의존 이론이 지향하는 연결을 통한 평화의 핵심 도구로 진행할 잠재력을 지니고 있다.
- 투명성과 상호 의존에 의한 억제,
- 국가 간 AI 군사 능력과 데이터의 투명성을 최대한 높이는 것이다.
- AI 기술은 자율 무기 도입, 사이버 전쟁의 확대, 군사 전략의 재편을 초래하며, 방위산업의 경쟁 구도를 근본적으로 바꾸고 있다.
- 이러한 기술 발전은 윤리적 책임과 책임의 문제와 국제법의 공백을 심화시켰으며, 군사적 동맹조차 기술 공유와 독점의 딜레마에 빠지게 만들었다.
- AI 기술을 더 강력하고 효율적인 전쟁의 도구로 발전시키는 길을 걸을 수도 있고, 반대로 이 기술을 활용하여 전쟁을 억제하고 평화를 유지하는 새로운 국제 기술을 구축할 수도 있을 것이다.
Published in Artificial Intelligence
