금융권 AI팀에서 GPU 서버 '딥가젯' 활용하기 | IBK시스템 IT혁신사업본부 인터뷰
고성능 수냉 서버 ‘딥가젯’ 워크스테이션은 저소음 특성 덕분에 사무실에서도 쾌적하게 사용할 수 있어, AI 신생팀, 연구실, 스타트업에서 널리 활용되고 있습니다. 중공업, 의료, 이미지(비전), 컴퓨터 공학, 금융 등 다양한 분야에서도 그 활용도가 높습니다.
최근 중견, 대기업에서도 AI를 적극 도입하여 새로운 가치를 창출하는 팀들이 많아지고 있습니다. IBK시스템의 IT혁신사업본부와의 인터뷰를 통해 AI 도입을 통해 어떻게 업무를 효율화하고 새로운 서비스를 개발했는지에 대한 이야기를 들어보았습니다.
금융IT 서비스 기업 신생 AI팀이 일하는 방법
IT혁신사업본부 류경균 팀장님, 김희중 차장님, 이혜진 대리님, 박다솔 대리님께 질문해보았습니다.
IBK시스템 회사와 하시는 일을 간단히 소개해주신다면?
IBK시스템은 1991년에 설립된 IBK기업은행의 자회사로, 금융 IT 서비스 전문 기업입니다. 전통적인 금융 시스템 구축부터 차세대 금융 시스템과 디지털 신기술 기반 서비스를 제공해 고객의 비즈니스 경쟁력을 높이고 있습니다.
저는 IT 혁신사업본부에서 일하며 금융권에 AI를 도입해 다양한 프로젝트를 진행하고 있습니다. 특히, 업무 자동화에 많은 노력을 기울이고 있습니다. 최근에는 OCR(Optical Character Recognition) 기술을 자체 개발해 내재화했습니다. OCR은 스캔한 이미지나 사진에서 문자를 인식해 컴퓨터에서 사용할 수 있는 텍스트로 변환하는 기술입니다.
금융권 특성상 캐피탈 투자 심사의견서 등 다량의 서류를 읽고 등록하는 과정이 많습니다. IBK시스템에서는 '200만 시간 절감 프로젝트'를 통해 예전에는 사람이 직접 처리하던 매출액 등록과 재무제표 분석 작업도 자동화해 업무 효율을 크게 높였습니다.
저희 팀은 자연어 처리와 비전 처리 전문가들로 구성된 4~5년 된 신생팀이며, 데이터 팀과의 협업도 활발히 진행하고 있습니다. 아직 금융권에서 AI 도입은 초기 단계이기 때문에, 다른 부서와 협력하여 설명하고 지원하는 역할도 많이 맡고 있습니다.
서버실 환경은 어떤가요?
회사의 주요 서버실은 수지 데이터센터(IDC)에 위치해 있습니다. 이곳에는 랙 2개 정도의 작은 서버실이 있으며, 대부분 CPU 서버로 구성되어 있습니다. ‘딥가젯’이 유일한 GPU 서버입니다.
딥가젯을 선택하신 이유가 있으신가요?
한정된 예산으로 서버를 구매하다 보니 정말 많은 고민하고 조사했던 것 같습니다. (웃음) 딥가젯을 선택한 이유는 수냉식으로 조용하게 사용할 수 있으며, 다른 수냉식 서버들과 달리 병렬 방식으로 냉각 성능이 매우 좋고 안정적이기 때문입니다. 여러 곳에서 견적을 받아봤지만, 가격과 성능 모두 만족스러웠고, 매니코어소프트 공장을 직접 방문해 실사를 진행한 후 결정하게 되었습니다.
딥가젯을 쓰면서 만족하시는 점은?
무엇보다도 고장이 나지 않는다는 점이 가장 만족스럽습니다. 2022년 9월에 구매한 이후로 트러블 없이 잘 사용하고 있습니다. 또한 매우 조용합니다. 서버실 환경이 일반 에어컨 환경인데도 불구하고 RTX 3090 그래픽 카드 6장이 50-60도를 안정적으로 유지하고 있습니다.
딥가젯으로 얻으신 성과는 어떤가요?
저희 팀에서 연구하고 결과물을 내놓는 모든 작업이 딥가젯을 통해 이루어집니다. 시범 서비스 구축, OCR 내재화, 200만 시간 절감 프로젝트 등 모두 딥가젯을 활용하여 진행했습니다. 한 대의 서버로도 고성능 작업이 가능하다는 점이 큰 장점입니다.
앞으로의 계획은 어떻게 되시나요?
최근 3개월 동안 밤낮없이 일해 OCR 자동화를 이루어낸 후 현재는 잠시 휴식 중입니다. 하지만 이제 새로운 프로젝트를 기획하며 예산을 확보하려고 준비 중입니다. (웃음) 예산이 확보되면 딥가젯 한 대를 더 구입할 계획도 있습니다.
앞으로도 금융권에 AI를 도입해 새로운 서비스를 개발하고 업무 자동화를 추진하기 위해 열심히 달릴 예정입니다. 금융권에서는 아직 AI 도입에 대한 인식이 낮고 활용 방안에 대한 이해가 부족한 경우가 많습니다. 인지도를 높이고 적합한 서비스를 만들어 다른 회사와도 계속해서 협력해 나갈 예정입니다.
Edit 매니코어랩스 팀