Enterprise AI2026.02 — present
조선업 온프레미스 LLM 에이전트
외부 반출이 어려운 기업 환경에서 문서·통합 에이전트를 사용할 수 있도록 현장 서버에 모델 서빙과 서비스를 구성했습니다.
01 / OUTCOMES
온프레미스 AI 서비스의 배포·운영 조건을 실제 현장에서 검증
문서 지식과 업무 도구를 에이전트로 연결하는 기반 마련
02 / CONTEXT
왜 만들었는가
사내 문서와 업무 시스템을 다루면서도 접근 제한과 오픈소스 모델 조건을 지켜야 하는 PoC였습니다.
03 / OWNERSHIP
내가 맡은 일
- 현장 요구사항과 에이전트 사용 시나리오를 기술 작업으로 분해
- 컨테이너 기반 모델 서빙과 API·웹 서비스 배포 구조 구성
- 데이터 접근 경계와 사용자 요청 흐름을 확인하고 현장 대응
04 / SYSTEM
구현과 구조
기능을 나열하기보다 데이터가 들어와 사용자의 결과가 되기까지의 흐름을 기준으로 정리했습니다.
- 사내 네트워크 안에서 문서 검색·모델 호출·업무 도구를 분리
- 외부 API 의존을 줄이고 GPU 서버 자원에 맞춰 모델을 서빙
- PoC 결과를 다음 플랫폼 협의와 운영 작업으로 연결
05 / STACK