Recently, large language models (LLMs) have been expanding beyond simple question-answering into AI agents that judge their next action based on goals and context and make use of external tools. Our research team is also conducting research using AI agents, and in this series we’ll introduce the basic concepts of AI agents as well as the structure and key functions of the AI agent our team is developing. This first installment focuses on the theme “What Is an AI Agent?” and looks at the concept of AI agents and how they generally operate.
[글쓴이:] 문 경태
KAIST 사이버보안연구센터 AI 기술보안팀 선임연구원으로 AI 및 LLM을 이용한 AI 모델 경량화와 보안 연구를 수행하고 있다.
최근 대규모 언어 모델(LLM)은 단순한 질의응답을 넘어, 목표와 상황에 따라 다음 행동을 판단하고 외부 도구를 활용하는 AI 에이전트로 확장되고 있습니다. 우리 연구팀도 AI 에이전트를 활용한 연구를 진행하고 있으며, 이번 시리즈에서는 AI 에이전트의 기본 개념부터 연구팀이 개발하고 있는 AI 에이전트의 구조와 주요 기능을 소개합니다. 본 1편에서는 ‘AI 에이전트란 무엇인가’를 주제로, AI 에이전트의 개념과 일반적인 동작 방식을 살펴봅니다.
AI model optimization is not simply a matter of making a model smaller — it is the process of reducing costs such as memory, processing time, computation, and power consumption while maintaining the quality required in the actual runtime environment. Representative methods include quantization, pruning, knowledge distillation, and efficient architecture design. That said, reductions in parameter count or computation do not automatically translate into lower real-world costs, so the results must be verified directly on the target device and execution engine. Ultimately, the key is to tune the techniques — and how strongly they are applied — to the characteristics of the model and its modules, and to confirm that the final system meets both the quality and cost criteria.
AI 모델 경량화는 단순히 모델 크기를 줄이는 것이 아니라, 실제 실행 환경에서 요구되는 품질을 유지하면서 메모리, 처리 시간, 연산량, 전력 소모 등의 비용을 줄이는 최적화 과정이다. 대표적인 방법으로는 양자화, 프루닝, 지식 증류, 효율적인 구조 설계가 있다. 다만 파라미터 수나 연산량 감소가 실제 비용 감소로 곧바로 이어지는 것은 아니므로 목표 기기와 실행 엔진에서 직접 검증해야 한다. 결국 모델과 모듈의 특성에 맞게 기법과 적용 수준을 조정하고, 최종 시스템이 품질과 비용 기준을 함께 만족하는지를 확인하는 것이 핵심이다.