생성형 AI
AI를 도입한다는 말은 범위가 너무 넓습니다. 실제로 쓸모가 있으려면 어떤 업무를 줄일 것인지부터 정해야 합니다. 우마미돔 디지털은 문의 응대, 문서 검색, 데이터 정리처럼 경계가 분명한 업무부터 시작하는 방식을 씁니다.
생성형 AI로 무엇을 할 수 있나
모든 업무에 AI가 필요한 것은 아닙니다. 반복되는 판단이 있고, 입력 형식이 매번 조금씩 달라지는 일에 먼저 붙입니다.
고객 문의에 답하고, 사내 문서에서 필요한 내용을 찾고, 긴 텍스트를 요약하고, 정해진 형식으로 데이터를 정리하는 일이 대표적입니다. 공통점은 사람이 매번 비슷한 판단을 반복하고 있다는 것입니다. 반대로 결과가 매번 달라도 되는 업무에는 잘 맞지 않습니다. 정확도가 중요한 계산이나 법적 판단은 사람이 확인하는 절차를 남겨야 합니다.
- 문의 응대 자주 오는 질문은 초안까지 만들고, 판단이 필요한 건은 사람에게 넘깁니다.
- 문서 검색 규정, 매뉴얼, 상품 정보에서 근거가 되는 문장을 찾아 함께 보여줍니다.
- 요약과 정리 긴 상담 기록과 회의 내용을 정해진 형식으로 줄여 정리합니다.
- 데이터 입력 정리 사람이 옮겨 적던 항목을 표준 형식으로 맞춰 채웁니다.
RAG가 필요한 경우
회사 내부 문서를 근거로 답해야 한다면 RAG 구조가 필요합니다. 모델이 학습한 일반 지식이 아니라, 우리 회사의 규정, 매뉴얼, 상품 정보에서 답을 찾아 인용하게 만드는 방식입니다.
문서를 어떻게 나누고 어떤 기준으로 검색할지가 품질을 좌우합니다. 문서가 자주 바뀐다면 갱신 절차도 함께 설계해야 합니다. 답변마다 어떤 문서에서 왔는지 표시해 두면, 나중에 틀린 답을 찾아 고치는 일도 쉬워집니다.
AI 에이전트는 언제 쓰나
정해진 절차를 여러 단계로 실행해야 할 때 에이전트가 필요합니다. 예를 들어 문의를 분류하고, 담당자를 배정하고, 알림을 보내는 흐름처럼 순서가 정해진 작업입니다. 단순히 답변만 생성하면 되는 경우에는 에이전트까지 가지 않아도 됩니다.
실행 권한
에이전트는 실행 권한을 가지므로 어떤 범위까지 허용할지 먼저 정해야 합니다.
읽기만 할지, 초안까지 만들지, 실제로 발송하고 기록을 남길지에 따라 필요한 검토 범위가 달라집니다. 단계마다 되돌릴 수 있는 지점을 남겨 두면 운영 중 문제를 줄일 수 있습니다.
분류와 배정
들어온 문의를 유형별로 나누고 담당 팀을 정합니다. 기준이 문서로 남아 있으면 새로 합류한 사람도 같은 결과를 냅니다.
알림과 후속 조치
정해진 시간 안에 답이 없으면 알림을 보내고, 처리 결과를 기록에 남깁니다. 누가 어디까지 처리했는지 나중에 확인할 수 있습니다.
사람이 맡는 마지막 단계
금액 조정, 예외 승인, 계약 조건처럼 판단이 필요한 지점은 사람이 확인하도록 남겨 둡니다.
업무 자동화와 AI의 경계
모든 반복 업무에 AI가 필요한 것은 아닙니다. 정해진 규칙으로 처리되는 일은 일반 자동화가 더 빠르고 안정적입니다. AI는 판단이 애매하거나 입력 형식이 일정하지 않은 경우에 강합니다. 그래서 설계할 때는 어디까지 규칙으로 처리하고 어디부터 AI에 맡길지 나누는 작업이 먼저입니다. 이 구분이 없으면 비용만 늘어납니다.
정해진 규칙으로 끝나는 일
정산 마감일 계산, 정해진 양식으로 파일 옮기기, 조건에 맞는 담당자에게 전달하기처럼 입력이 일정하고 결과가 하나로 정해지는 업무입니다. 일반 자동화로 처리하면 같은 입력에 항상 같은 결과가 나오고, 오류를 찾기도 쉽습니다.
판단이 섞이는 일
문의 내용을 읽고 긴급도를 가늠하거나, 상담 기록에서 다시 연락해야 할 고객을 골라내는 일입니다. 규칙만으로는 예외가 계속 생깁니다. 이때 AI가 초안을 만들고 사람이 확인하는 방식이 맞습니다.
입력 형식이 제각각인 일
이메일, 메신저, 첨부 파일이 뒤섞여 들어오는 업무입니다. 형식을 먼저 맞추는 데 드는 시간이 크기 때문에, 여기서 줄어드는 시간이 눈에 보입니다. 대신 결과를 그대로 확정하지 않고 검수 단계를 둡니다.
경계를 나눈 뒤에는 어느 쪽이 담당인지 문서로 남깁니다. 그래야 담당자가 바뀌어도 같은 기준으로 운영됩니다.
도입 전에 정해야 할 것
가장 먼저 정할 것은 어떤 데이터가 외부로 나가고 어떤 데이터가 사내에 남는지입니다. 개인정보와 내부 문서를 구분하고, 접근 권한과 기록을 어떻게 남길지 정해야 합니다.
데이터 구분
개인정보, 계약 정보, 내부 문서를 나누고 각각 어디까지 다룰지 정합니다. 외부 모델로 보내지 않을 항목은 목록으로 남깁니다.
품질 확인 기준
답변 품질을 어떻게 확인할지 기준을 세웁니다. 담당자가 표본을 보고 판단하도록 하고, 기준에서 벗어난 사례는 모아서 다시 봅니다.
운영 담당자
마지막으로 담당자를 정합니다. 운영 주체가 없으면 도입 후 관리가 끊깁니다. 문의 창구와 정기 점검 일정도 함께 정해 둡니다.
클라우드와 인프라
AI 기능을 실제 서비스에 넣으려면 모델만으로는 부족합니다. 서버 자원, 데이터 저장소, 보안 설정, 비용 구조를 함께 봐야 합니다. 국내 기업용 AI 프로젝트에서는 플랫폼, 장비, 운영 지원을 연결하는 협업이 중요하다는 사례가 있습니다.
우마미돔 디지털은 클라우드 인프라 구성과 운영까지 프로젝트 범위에 포함할 수 있습니다. 어떤 요청이 얼마나 들어오는지, 어느 시간대에 몰리는지를 먼저 보고 자원을 정합니다. 비용은 사용량과 보관 기간을 기준으로 나눠 확인할 수 있게 설계합니다.
기존에 쓰던 인프라가 있다면 그 위에 얹는 방식을 먼저 검토합니다. 새로 만드는 범위가 줄어들면 운영 부담도 함께 줄어듭니다.
대규모 배포에서 생기는 문제
한 팀에서 잘 돌던 AI 도구도 조직 전체에 퍼지면 문제가 달라집니다. 사용자 권한, 데이터 접근 범위, 사용량 관리, 비용 배분이 새로 필요해집니다. 대규모 조직에 생성형 AI를 배포한 사례에서도 기술보다 배포와 거버넌스가 관건으로 다뤄집니다. 작은 범위에서 검증한 뒤 확장하는 순서가 안전합니다.
확장 단계에서는 누가 어떤 도구를 쓸 수 있는지 목록으로 관리하고, 사용량이 몰리는 팀을 파악해 자원을 나눕니다. 처음부터 전사 배포를 목표로 하면 검증 없이 비용이 먼저 나갑니다.
어떤 순서로 시작하면 좋은가
범위가 좁으면 무엇이 잘못됐는지 확인하기도 쉽습니다. 검증 결과를 문서로 남기면 다음 단계로 넓힐 때 기준이 됩니다.
기존 시스템과 연결하기
AI 기능은 보통 기존 서비스나 사내 시스템 위에 얹습니다. 그래서 API 구조와 데이터 형식이 정리되어 있어야 연동이 수월합니다. 기존 시스템이 오래되었다면 연동 지점을 새로 만드는 작업이 필요할 수 있습니다. 이 부분은 착수 전에 확인해야 일정이 예측 가능해집니다.
사내 시스템에 직접 접근할 수 없는 환경이라면, 주고받을 데이터를 파일이나 중간 저장소로 옮기는 방식도 검토합니다. 어떤 방식을 택하든 착수 전에 연동 지점을 목록으로 정리해 두고, 각 지점의 담당자와 확인 일정을 함께 정합니다.
착수 전 확인 목록
- 연동할 시스템과 담당자
- 주고받을 데이터의 형식과 주기
- 접근 권한과 기록 방식
- 문제가 생겼을 때 확인할 창구
자주 묻는 질문
RAG, LLM, AI 에이전트는 어떻게 다른가요? 열기 닫기
LLM은 답을 만드는 모델 자체, RAG는 사내 문서를 찾아 답에 반영하는 구조, AI 에이전트는 정해진 절차를 실행하는 형태입니다. 실제 프로젝트에서는 이 셋을 조합해서 씁니다.
사내 문서를 AI에 넣어도 안전한가요? 열기 닫기
어떤 데이터가 외부 모델로 나가고 어떤 데이터가 사내에 남는지를 먼저 정해야 합니다. 접근 권한과 기록 방식도 함께 설계합니다.
작은 규모로 먼저 시도할 수 있나요? 열기 닫기
권장하는 방식입니다. 업무 하나를 골라 검증한 뒤 확장하는 편이 비용과 위험 모두에서 낫습니다.
AI 도입에 개발이 꼭 필요한가요? 열기 닫기
기존 시스템에 붙이려면 연동 작업이 필요합니다. 독립적으로 쓰는 도구라면 개발 범위가 줄어들 수 있습니다.
어디서부터 시작할지 함께 정리합니다
줄이고 싶은 업무 하나와 그 업무에 쓰는 자료 목록을 가지고 오시면 상담이 빠릅니다. 아직 정하지 못했다면 함께 후보를 좁히는 것부터 시작합니다.
문의
- 전화 +82-51-740-9285
- 이메일 [email protected]
- 16, Centum jungang-ro, Haeundae-gu, Busan, 48058, Republic of Korea
- 상담 가능 시간 월요일–금요일 09:00–18:00