AI 자동화를 준비할 때 가장 먼저 고민하는 것이 어떤 도구를 쓸지, 어떤 모델이 더 성능이 좋은지입니다. 저도 한동안 그랬습니다. 그런데 직접 써보고 나서야 알았습니다. 도구 선택보다 훨씬 먼저 해결해야 할 것이 있었습니다.
AI가 80%를 처리한다는 말, 실제로 검증해봤습니다
BCG가 전 세계 1,700명을 대상으로 조사한 결과, 업무에서 AI를 주기적으로 사용한다고 답한 비율은 약 88%였습니다. 그런데 AI가 회사 수익에 실제로 기여했다고 답한 사람은 40%가 채 되지 않았습니다(출처: BCG). 숫자를 보고 처음엔 '왜 이럴까' 싶었는데, 직접 블로그에 AI를 적용해보고 나서는 완전히 이해가 됐습니다.
저도 새로운 AI 서비스가 나왔다는 소식이 들리면 바로 써봤습니다. 더 좋은 결과를 낼 수 있다는 기대감으로 기존에 쓰던 것과 비교하고, 프롬프트를 수정하고, 결과물을 다시 확인하는 과정을 반복했습니다. 그런데 어느 순간 자동화를 위해 시작한 작업 자체가 새로운 업무가 되어 있었습니다. 솔직히 이건 예상 밖이었습니다.
일반적으로 AI 자동화의 성패는 좋은 모델과 정교한 프롬프트에 달려 있다고 알려져 있지만, 제 경험상 핵심은 따로 있었습니다. 바로 RAG(Retrieval-Augmented Generation)의 기반이 되는 데이터, 즉 AI가 참조할 수 있는 구조화된 정보를 얼마나 잘 쌓아두었느냐입니다. 여기서 RAG란 AI가 외부 데이터베이스에서 관련 정보를 검색한 뒤 그것을 바탕으로 답변을 생성하는 방식을 의미합니다. 모델이 아무리 뛰어나도 참조할 데이터가 없으면 범용 답변밖에 나오지 않습니다.
AX(AI Transformation), 즉 AI 전환이라는 말이 요즘 자주 들립니다. 여기서 AX란 단순히 AI 도구를 몇 가지 도입하는 것이 아니라 업무 전반의 흐름을 AI 중심으로 재편하는 것을 뜻합니다. 딜로이트 보고서에 따르면 절반 이상의 기업이 직원 AI 교육을 실시하고 있지만, 그 중 80% 이상은 실제 업무 방식을 전혀 바꾸지 않고 있다고 합니다(출처: Deloitte). 교육은 받았지만 데이터 준비가 안 된 상태라 현장에서 활용이 안 되는 것입니다.
블로그를 운영하면서 제가 직접 겪은 상황도 비슷했습니다. 과거에 조사한 자료, 참고한 기사, 이전에 작성한 글이 각각 다른 곳에 흩어져 있었습니다. 같은 내용을 반복해서 검색하게 되고, 글을 쓰기 전에 자료를 모으는 데만 시간이 상당히 들었습니다. AI에게 일을 맡기려 해도 넘겨줄 정보가 없으니 매번 처음부터 설명을 다시 해야 했습니다. 결국 AI 자동화 도입의 첫 번째 단계는 이메일, 회의록, 통화 기록, 파일, 서버 데이터 등 업무에서 발생하는 데이터를 한곳에 모으는 작업입니다. 데이터가 흩어져 있으면 AI가 아무리 똑똑해도 맥락을 파악할 수가 없습니다.
- 이메일: 업무용 계정을 아웃룩 등에 자동 동기화 설정
- 회의록·아이디어 메모: 세컨드 브레인(Second Brain) 같은 메모 도구로 한곳에 집약
- 통화 녹취: 업무 관련 통화만 별도 업로드 후 자동 처리
- 파일 및 서버 데이터: 원드라이브, 셰어포인트 등 변경 이력 자동 동기화
- 외부 채널 데이터: 유튜브, 인스타그램 등 플랫폼 리소스를 단일 저장소로 통합
업무 매뉴얼과 위임 설계, 처음부터 잘 만들 필요 없었습니다
데이터를 어느 정도 모으고 나면 그다음 문제가 생깁니다. 쌓인 데이터를 어떻게 분류하고, AI에게 무엇을 어떻게 시킬 것인가입니다. 저는 처음에 분류 작업을 직접 하려다가 주관이 너무 많이 개입된다는 것을 금방 느꼈습니다. 지금은 데이터를 가공하지 않고 그대로 넣고, 분류는 AI에게 맡깁니다. 단, 그 전에 몇 시간을 투자해서 분류 가이드라인을 사람이 직접 정의해두는 과정을 반드시 거칩니다. 이 부분을 빠뜨리면 AI가 중구난방으로 묶습니다. 제 경험상 이건 좀 다릅니다.
업무 매뉴얼에 대해서도 일반적으로는 문서로 정리해야 한다고 생각하는 분들이 많은데, 실제로 써보니 꼭 그럴 필요가 없었습니다. 제가 자료를 어떤 순서로 찾고, 무엇을 중요하게 판단하며, 결과물을 어떻게 수정하는지를 그냥 화면을 보면서 말로 녹화하면 됩니다. 이 영상을 AI에게 넘기면서 "0.5초 단위로 분석해서 업무 매뉴얼로 만들어줘"라고 요청하면 AI가 캡처 화면까지 포함한 매뉴얼을 알아서 작성합니다. 처음에는 이게 될까 싶었는데 결과를 보고 실제로 놀랐습니다.
이 방식에서 꼭 지켜야 할 것이 있습니다. 녹화 전에 화면에 고객 정보 같은 개인정보가 노출되지 않았는지 반드시 확인해야 합니다. 또 회사 데이터를 AI에 넣기 전에는 사내 보안 규정 확인이 먼저입니다. 개인정보는 마스킹 처리를 하고, 가능하면 데이터가 모델 학습에 사용되지 않는 엔터프라이즈 플랜을 쓰는 것이 안전합니다.
데이터와 매뉴얼이 갖춰지면 마지막 단계는 위임 설계입니다. 여기서 위임 설계란 전체 업무 중 AI가 처리할 범위와 사람이 직접 판단할 범위를 명확하게 구분하는 작업을 뜻합니다. 예를 들어 저는 유튜브 댓글 답변 초안은 AI가 작성하지만 게시는 직접 합니다. 강의 관련 반복 문의 메일은 AI가 처리하지만 강의 요청이나 협업 제안처럼 맥락이 복잡한 메일은 초안을 다시 다듬습니다. 마음먹으면 완전 자동화도 기술적으로는 가능하지만, 잘못된 답변의 책임은 결국 제가 집니다. 그래서 처음부터 자동화 비율을 높이기보다 오류가 났을 때 제가 감당할 수 있는 범위 안에서 조금씩 위임 수준을 높이는 방식이 현실적이라고 봅니다.
ChatGPT 팀즈나 Claude 프로젝트 같은 협업형 AI 도구를 쓰면 수집한 데이터를 프로젝트 단위로 관리하고 팀원들과 공유할 수 있어 실제 업무 적용이 훨씬 수월해집니다. 다만 이 도구들도 결국 데이터와 매뉴얼이 준비되지 않으면 초기 80%의 결과에서 멈춥니다. 그 나머지 20%를 채우는 것이 진짜 자동화 작업입니다.
자주 묻는 질문
Q. AI 자동화 시작할 때 어떤 도구부터 써야 하나요?
A. 도구보다 데이터 준비가 먼저입니다. 좋은 모델을 써도 참조할 데이터가 없으면 범용 답변밖에 나오지 않습니다. 이메일, 회의록, 업무 파일부터 한곳에 모으는 것을 먼저 하고, 그 이후에 ChatGPT 팀즈나 Claude 프로젝트 같은 도구를 연결하는 순서가 효율적입니다.
Q. 업무 매뉴얼을 문서로 따로 작성해야 하나요?
A. 반드시 그럴 필요는 없습니다. 제가 직접 써봤는데, 업무 화면을 보면서 말로 설명하는 영상을 녹화한 뒤 AI에게 넘기는 방식이 훨씬 빠릅니다. AI가 0.5초 단위로 화면을 분석해서 캡처 이미지까지 포함한 매뉴얼을 작성해줍니다. 단, 녹화 전에 개인정보 노출 여부를 반드시 확인해야 합니다.
Q. 회사 데이터를 AI에 넣어도 보안상 괜찮은가요?
A. 일반적으로는 괜찮다고 알려져 있지만, 제 경험상 무조건 믿는 것은 위험합니다. 사내 보안 규정을 먼저 확인하고, 고객 이름이나 연락처 같은 개인정보는 마스킹 처리를 해야 합니다. 가능하면 입력 데이터가 모델 학습에 사용되지 않는 엔터프라이즈 플랜을 사용하는 것이 안전합니다.
Q. AI가 업무의 80%를 처리한다는 게 현실적인 수치인가요?
A. 데이터와 매뉴얼이 충분히 쌓인 환경에서는 가능한 수치로 보입니다. 다만 중요한 것은 자동화 비율 자체가 아니라 실제로 절약된 시간, 결과물 품질 유지 여부, 오류 수정에 드는 추가 비용까지 함께 따져보는 것입니다. 처음부터 높은 자동화를 목표로 하기보다 반복적이고 기준이 명확한 작업부터 단계적으로 넓혀가는 방식이 현실적입니다.
결론
AI 자동화 준비에서 가장 먼저 해야 할 일은 비싼 강의나 컨설팅 프로그램을 찾는 것이 아닙니다. 제가 직접 부딪혀 보니, 그 비용으로 AI 도구를 직접 구독하고 내 데이터를 준비하는 쪽이 훨씬 빠르게 결과를 냈습니다. 모으고, 말하고, 위임하는 세 단계입니다. 업무 데이터를 한곳에 모으고, 내가 일하는 방식을 내 언어로 설명하고, 준비된 것을 바탕으로 AI에게 맡길 범위를 정하는 것입니다.
AI는 사람을 대신해 모든 것을 결정하는 존재가 아닙니다. 제 판단을 더 빠르게 실행할 수 있도록 돕는 도구입니다. 도구의 성능에 기대기 전에 제 업무를 먼저 이해하고, AI가 낸 결과를 검증하는 습관을 갖추는 것이 진짜 AI 활용 능력이라고 생각합니다. 반복되는 작업 하나부터 정리해보는 것으로 시작해보시길 권합니다.