[에파타뉴스=서울] 한국인공지능협회(회장 김현철)가 AI 리더를 양성하기 위해 2025년 10월 17일 개최한 CAIO 과정 2회차 특강 연사로 참석한 연세대 이주석 연구교수(NUMP CEO & Co-Founder)는 ‘산업 생태계 활성화 전략과 제조 분야 LLM 적용 사례’를 주제로 강연하며, 데이터 보안 및 추론 효율성을 극대화하기 위한 산업별/지역별 특화 LLM(sLLM) 구축의 중요성을 강조했다.

이 교수는 인공지능 모델 개발 과정을 ‘해산물 파스타/라면 조리법을 만드는 과정’에 비유하며 복잡한 문제를 단순화하고 해결 방법을 찾는 방법을 제시했다. AI는 크게 재료 준비(데이터 수집 및 전처리), 조리법 만들기(학습), 그리고 요리 제공(추론)의 세 단계를 거치는데, 최종 목적은 고객에게 맛있는 요리를 만들어 많이 파는 것, 즉 모델을 활용하여 비즈니스 가치를 창출하는 것에 있음을 역설했다.

◆ 도메인 지식 기반 ‘양질의 데이터’가 AI 성능의 핵심

이 교수는 AI 개발 과정에서 실질적으로 데이터 수집과 전처리(재료 손질)에 전체 시간의 70~80%가 소요된다고 지적했다. 특히, 도메인 지식이 매우 중요하며, 이는 현업 전문가만이 진짜 필요한 양질의 데이터(적절한 재료)를 선별하여 불필요한 데이터를 줄이고 저장 및 학습 비용을 절감할 수 있기 때문이다.

최근에는 기업 내부의 특허 출원서, 신제품 기획 데이터 등 대외비 정보를 포함하는 경우가 많아 ChatGPT와 같은 공개 LLM(대규모 언어 모델)을 사용할 수 없는 상황이 발생한다. 이로 인해 LLM을 회사 내부의 폐쇄망 안에서 쓸 수 있는 프라이빗 클라우드(Private Cloud) LLM을 구축하려는 수요가 급증하고 있다.

이 교수는 이러한 보안 및 특화 요구를 충족하기 위해 산업별/지역별 소버린 AI(Sovereign AI)를 만들어 나가야 한다고 주장했다. 실제로 원자력 연구소나 엘스비어(Elsevier)처럼 의료 논문 데이터만을 기반으로 특화된 모델을 개발하는 사례는 만능 조리법인 챗GPT보다 특정 분야에서 훨씬 좋은 성능을 제공하며, 이를 상업화하고 있다.

◆ 학습 후 추론 시스템은 NPU로… 비용 효율 10배 달성

AI 모델 개발 시 GPU(그래픽 처리 장치)가 학습(조리법 제작)에 필수적이지만, 모델을 실제 활용하는 추론(Inferencing) 단계에서는 GPU가 비효율적이며 비용이 많이 든다는 점이 문제로 지적되었다. GPU는 멀티모달(언어, 이미지, 오디오) 모델을 빠르게 전환하는 데 적합한 구조가 아니므로, 추론 전용 시스템이 필요하다.

이러한 문제에 대응하기 위해 NPU(신경망 처리 장치)와 같은 추론 전용 하드웨어의 역할이 강조된다. 이 교수는 특히 SambaNova와 같은 NPU 서버 시스템은 GPU 대비 10분의 1 수준의 비용으로 시스템 구축이 가능하며, 토큰 처리량(Tokens/user/kW)에서도 GPU보다 10배 정도의 성능 우위를 보인다고 소개했다. 이는 LLM을 폐쇄 환경에 도입하고자 하는 기업의 비용 부담을 획기적으로 낮출 수 있는 대안으로 제시되었다.

◆ 제조 및 바이오 헬스케어 LLM 적용 사례

이 교수는 LLM이 산업계의 다양한 프로세스 개선에 적용되고 있음을 설명했다.

첫째, 제조업 혁신의 경우를 보면, LLM은 방대한 장비 매뉴얼 및 기술 문서를 자연어로 분석하여 현장 직원의 고장 원인 진단과 대응 방법 제시, 직원 교육 및 현장 지원에 활용된다. 또한, 신제품 기획 및 설계 자동화 분야에서도 활용되는데, GM, BAC 등은 생성형 AI를 활용해 기존 대비 무게를 30~40% 줄인 경량 부품을 설계하는 성과를 달성했다.

둘째, 바이오 분야는 정밀 의료와 고객 맞춤형 의료 서비스를 목표로 하며, LLM은 신약 개발 가속화 및 정밀 진단 지원에 활용된다. 특히, NVIDIA의 CLARA 플랫폼은 의료 이미지 분석(MONAI), 연합 학습(FLARE), 신약 개발(BioNeMo) 등 바이오 헬스케어 분야에 특화된 애플리케이션 플랫폼을 제공하며 생태계를 구축하고 있다. 의료기관들은 LLM을 통해 진료 및 진단 지원 서비스, 다중 오믹스 데이터 기반 바이오마커 발굴 등을 진행하고 있다.

이 교수는 AI 시대가 개발자 중심에서 사용자 중심으로 변화하고 있으며, 이는 LLM을 어떻게 잘 활용하여 새로운 애플리케이션을 개발할지에 가치를 두는 시대가 왔음을 의미한다고 정리하며, 산업별 특화 데이터 모델 개발과 효율적인 추론 시스템 구축을 위한 협력을 강조하며 강연을 마쳤다.

한국인공지능협회 사무국에서는 3기 CAIO 과정이 12월 5일까지 매주 우리나라 대기업 및 스타트업의 AI 전문 CEO들의 특강이 계속될 예정이므로, CAIO 과정에 참가를 희망하는 리더는 한국인공지능협회 사무국(전화 02-713-4800)으로 문의하면 사무국 직원이 안내해 준다고 하였다.