인공지능은 엄청난 양의 전력을 소비합니다. Rain AI는 뇌에서 영감을 받은 아날로그 컴퓨팅 기반의 NPU로 패러다임 전환을 제안합니다. 메모리와 프로세서 간에 데이터를 이동하는 대신 메모리 내에서 직접 계산을 수행하는데, 이는 인메모리 컴퓨팅(in-memory computing)이라고 불리는 접근 방식으로 AI 워크로드에 대한 급진적인 에너지 효율성을 약속합니다.
인메모리 컴퓨팅: 이 아날로그 아키텍처의 작동 방식 🧠
Rain AI의 칩은 저장과 연산을 분리하지 않고 신경망의 핵심인 행렬 연산을 수행하기 위해 물리 법칙을 활용합니다. 멤리스터 및 기타 아날로그 부품은 시냅스 가중치를 저장하고 동일한 위치에서 곱셈을 실행합니다. 이는 폰 노이만 병목 현상을 제거하고 디지털 GPU에 비해 에너지 소비를 여러 자릿수로 줄이지만, 수치 정밀도는 낮습니다.
아날로그 뇌: 열쇠를 어디에 두었는지 기억하지 못해도 완벽함 😅
물론, 뇌를 모방하는 데는 단점이 있습니다. 현재 GPU가 픽셀 하나를 잘못 계산하면 오류입니다. Rain AI의 아날로그 칩이 실수하면 고양이를 토스터기로 혼동할 수도 있습니다. 하지만 패턴 인식이나 신호 처리와 같은 작업의 경우 정밀도 부족은 버그가 아니라 기능(feature)입니다. 적어도 우리처럼 실존적 위기를 겪지는 않을 테니까요.