샹그릴라에 모인 고위 지휘관들이 폭탄선언을 했습니다: 인공지능은 핵무기보다 더 위험하다. 폭탄은 인간의 명령이 필요하지만, 알고리즘은 밀리초 만에 폭격을 결정할 수 있습니다. 문제는 기계가 아니라, 통제 없이 이를 풀어놓는 사람들입니다. 수년 전부터 예고해 온 미래에 오신 것을 환영합니다. 센서 하나의 오류가 전쟁을 촉발할 수 있는 세상입니다.
스스로 결정하는 드론, 외면하는 장군들 🤖
정부들은 비밀리에 인간의 개입 없이 표적을 선정할 수 있는 로봇 군대와 자율 드론에 자금을 지원하고 있습니다. 기술은 이미 알고리즘이 표적을 식별하고, 위협을 평가하며, 순식간에 공격을 실행할 수 있게 해줍니다. 한편, 국제 정상회의에서는 아무도 지키려 하지 않는 윤리 규범이 논의되고 있습니다. 디지털 군비 경쟁은 어떤 통제 조약보다 빠르게 진행되고 있습니다. 진정한 위험은 AI가 미쳐버리는 것이 아니라, 창조자에게 너무나 잘 작동하는 데 있습니다.
인간의 통제: 군사 정상회담의 허울 좋은 구호 🎭
장군들은 마치 경주용 오토바이에 보조 바퀴를 달듯이, AI에 인간의 제동 장치를 달자고 말합니다. 연설에서는 듣기 좋지만, 연구소에서는 드론이 허락을 구할 필요가 없도록 만드는 것이 최우선입니다. 어차피 알고리즘이 실수하면, 항상 프로그래머나 데이터를 유출한 스파이 탓으로 돌릴 수 있으니까요. 그동안 군사용 로봇들은 아무도 제지하지 않는 가운데 계속해서 살육을 학습하고 있습니다. 평화와 사랑, 하지만 스마트 미사일과 함께 말이죠.