AI 생성 이미지 (출처 : 구글 제미나이)

경북IT융합산업기술원(이하 ‘기술원’)은 고가의 GPU 인프라나 상용 API 이용료 부담 없이 다양한 인공지능(AI) 서비스를 개발하고 검증할 수 있는 공공형 AI 모델 서빙 플랫폼인 ‘오픈 AI 서비스 허브(Open AI Service Hub)’​를 운영하고 있다고 20일 밝혔습니다.

오픈 AI 서비스 허브는 기업, 기관, 개발자, 학생 등 누구나 별도 비용 없이 생성형 AI, 피지컬 AI, 양자 시뮬레이터 등을 API 형태로 활용할 수 있도록 지원하는 플랫폼입니다. 기술원 ICT연구본부 AI클라우드센터는 개발 단계부터 개념검증(PoC) 단계까지 플랫폼을 무료로 제공하고 있습니다.

그동안 AI 서비스를 개발하기 위해서는 고성능 GPU 서버 구축과 상용 API 이용에 상당한 비용이 필요했으며, 전문 개발 인력이 부족한 경우 활용에도 어려움이 있었습니다. 오픈 AI 서비스 허브는 이러한 진입장벽을 낮추고 보다 많은 기업과 연구자, 학생들이 AI 기술을 쉽게 활용할 수 있도록 구축됐습니다.

이용자는 별도의 GPU 인프라를 구축하지 않아도 API 호출만으로 AI 모델을 즉시 연동할 수 있습니다. 기존에 활용하던 오픈AI 소프트웨어개발키트(SDK) 환경을 유지하면서 기본 주소(Base URL)와 API 키만 변경하면 사용할 수 있도록 구성돼 있습니다.

특히 매개변수 규모가 1,200억 개(120B)에 이르는 오픈소스 대규모 언어모델(LLM)을 비롯해 대화, 추론, 코딩, 비전, 음성, 이미지·영상 생성 등을 지원하는 생성형 AI 모델을 활용할 수 있습니다. 또한 현실 세계의 물리적 데이터를 학습·예측하는 피지컬 AI와 차세대 컴퓨팅 환경을 체험할 수 있는 양자 시뮬레이터도 하나의 API 게이트웨이를 통해 제공됩니다.

플랫폼 이용 절차는 체험, 연결, 개발, 확장​의 4단계로 구성돼 있습니다. 이용자는 가입 후 플레이그라운드에서 다양한 모델을 직접 테스트하고 무료 개발키를 발급받아 자신의 시스템에 API를 연동할 수 있습니다.

이후 챗봇, 검색증강생성(RAG), 코딩 지원 등의 아이디어를 프로토타입으로 구현하고 PoC 검증을 진행할 수 있습니다. 검증이 완료된 서비스는 심의를 거쳐 트래픽 한도가 적용된 운영키를 발급받아 실제 서비스로 확장할 수 있습니다.

또한 검증된 워크플로를 즉시 활용할 수 있는 템플릿과 실제 서비스 화면 및 흐름을 참고할 수 있는 프로토타입도 함께 제공하고 있습니다.

코딩 지식이 부족한 이용자를 위한 지원 기능도 마련돼 있습니다. 이용자가 만들고자 하는 서비스 아이디어와 플랫폼 연결 정보를 AI 코딩 에이전트에 입력하면 프로젝트 구성, 화면 제작, API 연동, 실행 방법 등을 자동으로 지원받을 수 있습니다.

다만 발급받은 개발키와 운영키는 일반적인 API 키와 동일하게 외부에 노출되지 않도록 관리해야 하며, 채팅창이나 공개 저장소 등에 공유하지 않도록 주의가 필요합니다.

기업과 기관은 별도 심의 없이 개발 및 PoC 단계까지 무료로 플랫폼을 활용할 수 있으며, PoC 이후 실제 고객을 대상으로 상용 서비스를 운영할 경우에는 별도 심의를 거쳐 법인 전용 운영 API 키를 발급받을 수 있습니다. 법인 전용 상업용 서비스 운영 API 키는 유료로 제공됩니다.

윤칠석 기술원장은 “코딩 지식이 없어도 아이디어만으로 AI 서비스를 직접 구현하고 검증할 수 있다는 점이 오픈 AI 서비스 허브의 가장 큰 특징”이라며 “기업과 연구자, 학생들이 AI 활용을 부담 없이 시작하고, 이를 새로운 서비스와 제품으로 발전시킬 수 있는 공공 AI 기반으로 자리매김하기를 기대합니다”라고 말했습니다.

출처 : 뉴스웍스