LLM을 MES, ERP, 설비 데이터와 연결하면 사용자가 복잡한 메뉴와 보고서를 직접 찾지 않고 자연어로 질문하여 필요한 정보를 확인할 수 있습니다.

예를 들어 다음과 같이 사용할 수 있습니다.

LLM이 직접 생산설비를 임의로 제어하는 것이 아니라, MES와 데이터베이스에서 필요한 정보를 조회하고 분석하여 현장관리자와 경영진의 의사결정을 지원하는 방식으로 구성합니다.

AI 기능의 목적과 고객사의 보안정책에 따라 OpenAI 등 상용 LLM의 기업용/API 서비스를 활용하여 시스템을 구성할 수 있습니다.

이 경우 MES 전체 데이터베이스를 외부 AI에 그대로 전달하는 방식이 아니라, 질문에 필요한 최소한의 데이터만 선별하여 전달하도록 시스템 구조를 설계할 수 있습니다.

예를 들어 사용자가

“오늘 불량이 가장 많은 품목은?”

이라고 질문하면 전체 생산데이터를 전달하는 것이 아니라 MES에서 필요한 기간과 품질정보를 먼저 조회한 뒤, 분석에 필요한 데이터만 AI 모델에 전달하는 방식으로 구성할 수 있습니다.

이를 통해 LLM은 자연어 이해와 분석을 담당하고, 실제 제조데이터의 조회와 권한관리는 기존 MES 서버가 담당하도록 역할을 분리할 수 있습니다.

LLM API를 사용한다고 해서 고객사의 제조데이터가 자동으로 공개 학습데이터에 포함되는 것은 아닙니다.

예를 들어 OpenAI는 API로 전송된 데이터를 고객이 명시적으로 공유하도록 설정하지 않는 한 모델 학습 및 개선에 사용하지 않는다고 안내하고 있습니다. 다만 기본 API 환경에서는 일부 요청 데이터가 악용 모니터링 목적으로 일정 기간 보관될 수 있으며, 적용 가능한 고객과 기능에서는 Zero Data Retention과 같은 별도 데이터 보존 제어도 제공됩니다.

따라서 유랩이노베이션은 고객사의 보안 요구 수준에 따라 사용하는 AI 서비스의 데이터 처리정책, 보존기간, 접근권한 및 적용 가능한 보안옵션을 검토하여 구축방식을 결정합니다.

제조 AI에서 중요한 것은 AI 모델보다도 데이터 접근구조입니다.

유랩이노베이션은 LLM이 MES 데이터베이스 전체에 무제한으로 접근하는 방식보다 사용자 권한과 업무범위에 따라 필요한 데이터만 조회하도록 구성할 수 있습니다.

LLM 자체가 기업의 작업표준서, 설비매뉴얼, 품질기준 등을 알고 있는 것은 아닙니다.

따라서 필요에 따라 RAG(Retrieval-Augmented Generation) 구조를 적용할 수 있습니다. RAG를 적용하면 다음과 같은 사내 자료를 AI가 검색하여 답변에 활용할 수 있습니다.

예를 들어 작업자가

“CNC 5호기에서 이 Alarm이 발생했는데 무엇을 확인해야 해?”

라고 질문하면 AI가 해당 설비의 매뉴얼과 과거 정비이력을 검색한 뒤 관련된 내용을 기반으로 점검항목을 안내하도록 구성할 수 있습니다.

방산, 의료, 연구개발, 핵심 제조기술 등 보안 요구가 높은 기업은 생산데이터가 외부 네트워크로 전송되는 것 자체를 제한하는 경우가 있습니다.

이러한 환경에서는 외부 LLM API 대신 사내 서버에 LLM을 직접 구축하는 온프레미스 방식을 적용할 수 있습니다. 대표적으로 Ollama와 같은 로컬 LLM 실행환경을 활용하여 공개형 모델을 고객사의 내부 서버에서 운영하는 방식입니다.

Ollama는 LLM을 로컬 서버 또는 사내 인프라에서 실행할 수 있도록 지원하는 환경입니다.

이를 활용하면 고객사의 보안정책에 따라 외부 AI API 호출 없이 내부망에서 AI 서비스를 운영할 수 있습니다. 적용 가능한 예시는 다음과 같습니다.

유랩이노베이션은 특정 AI 플랫폼 하나만을 고집하지 않습니다.

고객사의 업무환경, 성능 요구, 보안정책 및 구축비용을 검토하여 적합한 구조를 선택할 수 있습니다.

필요에 따라 Cloud LLM과 Local LLM을 함께 사용하는 하이브리드 방식도 구성할 수 있습니다.

예를 들어 민감한 생산·품질 데이터는 내부 Local LLM으로 처리하고, 일반적인 문서작성이나 비민감 분석은 상용 LLM API를 활용하도록 역할을 분리할 수 있습니다.

유랩이노베이션은 제조 AI 구축 시 AI 모델의 성능뿐만 아니라 데이터가 어디에서 처리되고 어떤 정보가 전달되는지를 함께 검토합니다. 필요에 따라 다음과 같은 구조를 적용할 수 있습니다.

유랩이노베이션의 제조 AI는 하나의 모델이나 기술에 종속되는 구조를 지향하지 않습니다.

분석목적에 따라 XGBoost, LightGBM, Random Forest, Isolation Forest 등 머신러닝 모델을 적용하고, 자연어 분석과 제조 Copilot에는 LLM을 활용할 수 있습니다. 보안정책에 따라 상용 Cloud LLM 또는 Ollama 기반 Local LLM을 선택할 수 있습니다.

제조 AI를 도입하기 위해 기업의 모든 데이터를 외부 AI 서비스에 제공할 필요는 없습니다.

유랩이노베이션은 고객사의 환경에 따라 상용 LLM API, 사내 Local LLM 또는 두 방식을 조합한 Hybrid AI 구조를 설계할 수 있습니다.

높은 AI 성능이 필요한 환경에서는 기업용/API 기반 LLM을 활용하고, 보안 요구가 높은 현장에서는 Ollama 등을 이용하여 사내 서버에서 AI를 운영하는 방법을 검토할 수 있습니다.

중요한 것은 어떤 AI 모델을 사용하는지가 아니라 기업의 제조데이터를 보호하면서 실제 업무에서 활용할 수 있는 AI 구조를 만드는 것입니다.