새마을금고 B300 GPU 64장 — 금융권 AI 경쟁, 모델에서 통제권으로

전자신문 보도에 따르면 국내 금융권의 생성형 AI 경쟁 축이 모델 도입에서 연산 자원·금융데이터·접근권한을 직접 관리하는 쪽으로 옮겨가고 있습니다. 새마을금고중앙회는 엔비디아 B300 GPU 64장을 확보해 모델 추론·학습·데이터 처리를 내부에서 수행하는 환경을 마련했고, 한국은행은 내부 AI 플랫폼 'BOKI'로 약 140만 건의 내부 문서를 디지털화했습니다. 금융위원회는 6/22부터 개정 가이드라인을 시행해 경영진 책임 명확화, 신뢰할 수 있는 데이터·모델 사용, 임직원의 최종 의사결정 책임, 보안·점검체계를 원칙으로 제시했습니다. AI 활용이 업무지원을 넘어 고객 서비스와 여신·리스크 관리로 넓어진 것이 배경입니다.