공문서 지식베이스 구축, HWP·PDF 행정문서를 AI가 활용하게 만드는 방법

공공기관의 업무 문서는 파일 형식뿐 아니라 내부 구조도 제각각입니다. HWP·PDF 기반의 공문과 지침, 업무편람, 스캔 문서와 각종 서식까지 문서 유형이 다양하고, 같은 파일 형식 안에서도 본문 중심 문서와 중첩 표·병합 셀·체크박스처럼 레이아웃 자체가 의미를 갖는 문서는 처리 방식이 달라집니다.

따라서 문서를 AI에 연결하는 것만으로는 곧바로 활용 가능한 지식베이스가 만들어지지 않습니다. 텍스트를 추출하는 것과, 문서 안의 구조와 관계를 보존한 채 AI가 검색·비교·검증할 수 있는 데이터로 변환하는 것은 서로 다른 문제이기 때문입니다.

예를 들어 표 안의 텍스트와 숫자를 모두 정확하게 인식하더라도 행과 열, 병합 셀의 관계가 사라지면 각 값이 어떤 항목에 대응하는지 알기 어렵습니다. 최신 지침과 이전 버전을 구분하는 정보가 없다면 검색 결과는 만들 수 있어도 실제 업무에서 어떤 문서를 기준으로 삼아야 하는지는 판단하기 어렵습니다.

그래서 공문서 기반 지식베이스 구축에서는 OCR이나 문서 AI 솔루션을 먼저 선정하기보다, 보유 문서의 구조와 업무 활용 목적에 맞는 데이터 구조를 먼저 설계해야 합니다. 어떤 정보를 추출할지, 어떤 관계를 유지할지, 어떤 메타데이터를 함께 관리할지를 먼저 정의해야 이후의 검색과 AI 활용도 안정적으로 설계할 수 있습니다.

이 글에서는 RAG나 LLM 자체보다 그 앞단에서 필요한 문서 구조화와 지식베이스 설계 과정을 중심으로, 실제 Worktro의 공공기관 지식베이스 구축 프로젝트에서는 수만 건의 문서를 대상으로 이 문제를 어떻게 풀었는지도 함께 살펴봅니다.

보유 문서의 유형과 구조를 파악합니다

지식베이스 구축 초기에는 먼저 문서를 어떤 방식으로 읽고 구조화해야 하는지 판단할 수 있는 기준을 정리해야 합니다.

같은 PDF라도 텍스트 레이어가 있는 디지털 문서와 스캔 이미지는 처리 방식이 다르고, 같은 HWP 문서라도 본문 중심 문서와 중첩 표·병합 셀·복합 서식이 포함된 문서는 필요한 인식 수준이 달라집니다. 특히 표의 행·열 관계나 체크박스, 다단 레이아웃처럼 위치 정보가 의미를 결정하는 문서는 텍스트 추출만으로 원래 구조를 보존하기 어렵습니다.

이와 별도로 지식베이스에서는 문서 유형, 시행 시점, 버전, 담당 부서, 접근권한과 같은 메타데이터도 함께 관리해야 합니다. 이러한 정보는 문서를 읽는 방식보다는 어떤 문서를 검색 결과에 노출하고, 어떤 문서를 우선해서 사용할지 결정하는 데 필요합니다.

텍스트뿐 아니라 문서 안의 관계를 함께 추출합니다

공문서의 정보는 단순 텍스트만으로 구성되지 않습니다.

특히, 공문서에서 자주 등장하는 표에서는 행과 열의 관계가 중요하고, 병합된 셀은 여러 항목을 하나의 기준 아래 묶기도 합니다. 체크박스의 선택 여부나 제목과 본문의 계층 관계 역시 정보의 의미를 결정합니다.

따라서 문서 구조화에서는 텍스트 인식 정확도뿐 아니라 정보 사이의 관계가 얼마나 유지됐는지를 함께 확인해야 합니다.

예를 들어 다음과 같은 정보입니다.

• 어떤 제목 아래에 어떤 내용이 포함되는지

• 표의 각 값이 어느 행과 열에 해당하는지

• 병합 셀이 어떤 항목들을 묶고 있는지

• 체크박스 중 어떤 항목이 선택됐는지

• 본문과 첨부·별지 서식이 어떻게 연결되는지

Worktro DocuOps는 OCR과 VLM을 활용해 중첩 표, 병합 셀, 체크박스, 회전 텍스트, 다단 레이아웃 등 복잡한 문서 요소를 인식하고, 필요한 정보를 이후 AI와 업무 시스템이 활용할 수 있는 구조화 데이터로 변환하는 방식을 지원합니다.

중요한 것은 문서 전체를 그대로 옮기는 것이 아니라 업무에서 필요한 정보와 그 관계를 잃지 않는 것입니다.

검색에 필요한 메타데이터를 함께 설계합니다

공문서에서는 텍스트 자체만큼 문서 안에서 정보가 배치되고 연결되는 방식이 중요합니다.

특히 표 중심 문서는 행과 열의 관계, 병합 셀의 범위, 다단 헤더의 계층 구조가 함께 유지돼야 각 값의 의미를 정확하게 해석할 수 있습니다. 체크박스나 별지·첨부서식 역시 단순히 문자를 추출하는 것만으로는 원래 문맥을 충분히 복원하기 어렵습니다.

따라서 문서 구조화에서는 OCR의 문자 인식 정확도뿐 아니라 레이아웃과 항목 간 관계가 얼마나 정확하게 보존됐는지까지 함께 봐야 합니다. 제목과 본문의 계층, 표의 셀 관계, 선택 항목, 본문과 첨부서식의 연결 정보가 유지돼야 이후 검색이나 비교, 데이터 조회 단계에서도 원문의 의미를 잃지 않을 수 있습니다.

Worktro DocuOps는 OCR과 VLM을 기반으로 중첩 표, 병합 셀, 체크박스, 회전 텍스트, 다단 레이아웃 등 복잡한 문서 구조를 인식하고, 이를 이후 AI와 업무 시스템에서 활용할 수 있는 구조화 데이터로 변환합니다.

결국 문서 구조화의 핵심은 텍스트를 얼마나 많이 추출했는지가 아니라, 업무에 필요한 정보와 그 관계를 얼마나 정확하게 데이터로 재구성했는가에 있습니다.

질문에 따라 검색과 데이터 조회 방식을 구분합니다

지식베이스를 실제 업무에 적용하려면 질문의 성격에 따라 정보 조회 방식을 구분해서 설계할 필요가 있습니다.

예를 들어

“이 지침의 핵심 내용을 정리해줘.”
“이 업무를 처리할 때 확인해야 할 사항을 알려줘.”
“두 문서에서 공통으로 언급되는 내용을 찾아줘.”

위와 같은 질문은 문서의 의미를 해석하고 관련 내용을 찾는 것이 핵심이기 때문에 RAG 기반의 의미 검색이 적합합니다.

반면

“이 조건에 해당하는 문서는 몇 건인가?”
“지난해와 올해의 항목을 비교해줘.”
“특정 항목이 포함된 문서만 목록으로 보여줘.”

위와 같은 질문은 의미적으로 유사한 문서를 찾는 것만으로는 정확성을 확보하기 어렵습니다. 조건에 맞는 데이터를 누락 없이 조회하고, 필요에 따라 집계·비교할 수 있는 정형 데이터 기반의 접근 방식이 필요합니다.

Worktro가 수행한 공공기관 프로젝트에서도 의미 기반 질의와 정형 데이터 조회를 분리해, 질문 유형에 따라 적절한 검색 경로를 적용했습니다. 지식베이스 설계의 핵심은 RAG를 적용하는 것 자체가 아니라, 질의 유형에 따라 어떤 데이터 소스와 조회 방식을 사용할지 결정하는 데 있습니다.

원문을 다시 확인할 수 있는 구조를 만듭니다

AI가 문서를 잘 검색하고 답변하는 것만큼 중요한 것이 답변의 근거를 확인할 수 있는가입니다.

특히 지침이나 규정, 행정업무와 관련된 내용은 AI가 생성한 문장을 그대로 받아들이기보다 원문을 다시 확인해야 하는 경우가 많습니다.

그래서 지식베이스에서는 구조화된 데이터와 원본 문서의 연결 관계를 유지하는 것이 중요합니다.

예를 들어 검색 결과나 AI 답변에서

• 어떤 문서를 근거로 했는지

• 문서의 어느 페이지인지

• 어떤 표나 항목에서 가져온 내용인지

확인할 수 있도록 설계할 수 있습니다.

문서를 잘게 나누어 저장하는 과정에서 원본과의 연결 정보까지 사라진다면 검색 성능은 높아져도 실제 업무에서 결과를 검증하기 어려워집니다.

따라서 공문서 지식베이스에서는 검색 결과와 원문을 다시 연결할 수 있는 구조까지 함께 고려해야 합니다.

답변의 근거를 원문까지 추적할 수 있어야 합니다

공문서 기반 AI에서는 답변 정확도만큼 결과의 근거를 추적할 수 있는 구조가 중요합니다.

특히 지침, 규정, 행정 절차처럼 업무 판단에 직접 활용되는 정보는 생성된 답변만 확인하는 것으로는 충분하지 않습니다. 어떤 문서의 어떤 내용을 근거로 답변이 만들어졌는지 다시 확인할 수 있어야 실제 업무에서 검증과 책임 있는 활용이 가능합니다.

이를 위해 지식베이스를 설계할 때는 구조화된 데이터와 원본 문서 사이의 연결 정보를 함께 유지해야 합니다. 검색 결과나 AI 답변에서 원본 문서, 페이지, 표·항목 단위의 출처까지 추적할 수 있도록 구성하는 방식입니다.

문서를 청크 단위로 분할하거나 구조화하는 과정에서 이러한 출처 정보가 사라지면 검색 결과는 얻을 수 있어도, 그 결과가 원문의 어느 부분에서 나온 것인지 검증하기 어려워집니다.

따라서 공문서 지식베이스에서는 검색 정확도뿐 아니라 구조화된 데이터와 원문 사이의 추적 가능성(traceability)까지 함께 설계해야 합니다.

실제 공공기관에서는 문서를 어떻게 지식베이스로 활용했을까

앞서 설명한 문서 구조화와 지식베이스 설계는 실제 공공기관 업무에서도 적용된 바 있습니다.

Worktro는 국내 공공기관의 인증심사 업무를 대상으로 수만 건 규모의 문서를 AI가 활용할 수 있는 지식베이스로 구축한 프로젝트를 수행했습니다. 여러 유형으로 분산된 심사 문서를 구조화해 필요한 정보를 검색하고 자연어로 질의할 수 있는 환경을 구성했습니다. 실제 운영에서는 복잡한 문서의 인식 정확도와 심사 문서 검토 효율에서도 개선을 확인했습니다.

이 프로젝트에서 주목할 부분은 AI 모델 자체보다 기존 문서를 업무에서 다시 활용할 수 있는 데이터 기반으로 전환했다는 점입니다. 문서를 읽는 단계에서 끝나는 것이 아니라, 축적된 자료를 필요한 시점에 검색하고 업무 지식으로 활용할 수 있는 구조를 만드는 것이 지식베이스 구축의 목적이었습니다.

기관마다 보유 문서의 유형과 활용 업무가 다른 만큼 실제 구조화 범위와 지식베이스 설계 방식도 달라질 수 있습니다. 해당 프로젝트의 구체적인 구축 과정과 적용 방식은 추후 별도의 Use Case 콘텐츠에서 자세히 소개하겠습니다.

공문서 AI 활용의 출발점은 데이터 구조화입니다

공문서 기반 AI를 실제 업무에 적용하려면 RAG나 LLM을 연결하기 전에 문서를 신뢰할 수 있는 데이터로 구조화하는 과정이 선행돼야 합니다.

문서에서 필요한 정보를 추출하는 것뿐 아니라 표와 항목의 관계를 보존하고, 버전·시행 시점·접근권한과 같은 메타데이터를 함께 관리해야 합니다. 이후 실제 업무에서 발생하는 질의 유형에 따라 의미 검색과 정형 데이터 조회를 구분하고, 결과를 원문까지 추적할 수 있는 구조를 설계할 수 있습니다.

이렇게 정리된 문서 데이터는 하나의 검색 서비스에만 사용되는 것이 아닙니다. 내부 지식 검색과 업무지침 안내는 물론, 민원 응대, 규정 검토, 보고서 작성 등 다양한 AI Agent 업무의 공통 지식 기반으로 확장할 수 있습니다.

처음부터 기관이 보유한 모든 문서를 대상으로 구축할 필요도 없습니다. 실제 업무에서 활용 빈도가 높고 구조적 난도가 다른 대표 문서를 선정해 필요한 정보를 어느 수준까지 정확하게 추출·구조화할 수 있는지 검증하는 것부터 시작하는 편이 현실적입니다.

결국 공문서 지식베이스의 품질은 어떤 AI 모델을 사용하는지만으로 결정되지 않습니다.
AI가 신뢰하고 활용할 수 있는 형태로 문서를 얼마나 정확하게 구조화했는지가 그 기반을 결정합니다.

HWP·PDF 등 다양한 문서를 AI가 활용할 수 있는 형태로 구조화하는 Worktro DocuOps의 기능은 제품 페이지에서 확인할 수 있습니다.