연방 판사가 정부 효율성 부서가 추진한 1억 달러 이상의 보조금 취소를 무효화했습니다. 콜린 맥마흔 판사는 다양성, 형평성 및 포용성(DEI) 관련 자금을 식별하고 제거하기 위해 ChatGPT를 사용한 것은 법적 근거가 부족하다고 판결했습니다. 이 사건은 인간의 감독 없이 행정 결정을 인공지능에 위임할 때의 위험성을 드러냅니다.
맥락을 이해하지 못한 알고리즘 🧠
DOGE의 전 직원인 저스틴 폭스는 전인문학 재단의 보조금 설명을 분석하기 위해 ChatGPT를 사용했다고 인정했습니다. 그의 방법론은 간단했습니다. 각 프로젝트가 DEI와 관련이 있는지 챗봇에게 물어보고, 간단한 설명과 함께 예 또는 아니오 답변을 기대하는 것이었습니다. 폭스는 AI에게 DEI라는 용어를 정의하지 않았으며, AI가 포용성이나 형평성과 같은 복잡한 개념을 어떻게 해석하는지 확인하지도 않았습니다. 이로 인해 문화 및 교육 프로젝트에 대한 자의적인 취소가 발생했습니다.
상사가 잘못 작성된 프롬프트일 때 🤖
이 사건에서 가장 흥미로운 점은 아무도 ChatGPT에게 DEI가 무엇을 의미하는지 설명하려고 하지 않았다는 것입니다. 폭스는 AI가 그 용어를 어떻게 해석하는지 몰랐다고 인정했습니다. 기본적으로, 저녁이 생선인지 고기인지 모르면서 웨이터에게 와인을 선택해 달라고 부탁하는 것처럼, 맥락 없이 챗봇에게 물어보며 수백만 달러의 미래를 결정한 것입니다. 결과는 법적 혼란과 무작위적인 보조금 삭감이었습니다.