승인되지 않은 인공지능, 즉 섀도우 AI(Shadow AI)가 디지털 밀항자처럼 기업에 스며들었습니다. 직원들은 IT 부서의 감독 없이 ChatGPT, Copilot 또는 Midjourney를 사용하여 데이터 유출 및 편향 위험을 초래합니다. 과제는 금지하는 것이 아니라, 업무를 저해하지 않으면서 이러한 혁신을 관리하는 것입니다.
기업 내 AI를 관리하기 위한 다섯 가지 기술적 단계 🛡️
첫 번째 단계는 네트워크 로그 또는 DLP를 통해 승인되지 않은 도구의 인벤토리를 만드는 것입니다. 그런 다음, 어떤 데이터(신용 정보, 고객 정보, 코드)를 처리해서는 안 되는지 명시하는 명확한 정책을 정의합니다. LLM 모델의 기업 인스턴스와 같은 승인된 대안을 제공하면 유혹을 줄일 수 있습니다. 직원을 비난하지 않고 보안 위험에 대해 교육하고, 활동 대시보드로 사용을 모니터링하여 주기를 완료합니다. 목표는 혁신을 안전한 채널로 유도하는 것입니다.
ChatGPT에게 자신의 급여를 물어본 직원 (그리고 받아낸 직원) 😅
물론, 직원들이 자신의 해고 통지서를 작성하거나 챗봇에게 연간 보너스를 계산해 달라고 요청하는 데 AI를 사용하지 않도록 교육하는 것보다 더 좋은 방법은 없습니다. 결국 섀도우 AI는 성냥을 든 아이와 같습니다. 감시하지 않으면 사무실을 불태울 것입니다. 하지만 IT 부서가 승인한 라이터를 주면 적어도 무엇이 불탈지는 알 수 있습니다.