AI model optimization is not simply a matter of making a model smaller — it is the process of reducing costs such as memory, processing time, computation, and power consumption while maintaining the quality required in the actual runtime environment. Representative methods include quantization, pruning, knowledge distillation, and efficient architecture design. That said, reductions in parameter count or computation do not automatically translate into lower real-world costs, so the results must be verified directly on the target device and execution engine. Ultimately, the key is to tune the techniques — and how strongly they are applied — to the characteristics of the model and its modules, and to confirm that the final system meets both the quality and cost criteria.
[태그:] AI
AI 모델 경량화는 단순히 모델 크기를 줄이는 것이 아니라, 실제 실행 환경에서 요구되는 품질을 유지하면서 메모리, 처리 시간, 연산량, 전력 소모 등의 비용을 줄이는 최적화 과정이다. 대표적인 방법으로는 양자화, 프루닝, 지식 증류, 효율적인 구조 설계가 있다. 다만 파라미터 수나 연산량 감소가 실제 비용 감소로 곧바로 이어지는 것은 아니므로 목표 기기와 실행 엔진에서 직접 검증해야 한다. 결국 모델과 모듈의 특성에 맞게 기법과 적용 수준을 조정하고, 최종 시스템이 품질과 비용 기준을 함께 만족하는지를 확인하는 것이 핵심이다.
Malicious websites rarely exist in isolation; instead, they form interconnected networks known as ‘cybercrime ecosystems,’ where a single organization manages various illicit sites simultaneously. In Part 1, we examined this ecosystem and introduced the CCT (Cyber Crime Tracker) framework as a necessary tool to combat these threats.
In Part 2 of this series, we will dive into the step-by-step technical process of uncovering the connections between these sites—starting from data collection, the ‘tracking eyes’ of the CCT framework, all the way to the final analysis.
유해사이트들은 단일 사이트로 존재하기보다 서로 연결된 네트워크 형태로 결합되어, 하나의 운영 조직이 여러 유형을 병렬적으로 관리하는 이른바 ‘사이버범죄 생태계’를 이루고 있습니다. 지난 1편에서는 이러한 생태계의 특징을 파악하고, 위협에 효과적으로 대응하기 위한 CCT(Cyber Crime Tracker) 프레임워크의 필요성을 살펴보았습니다.
시리즈로 이어지는 본 2편에서는 CCT 프레임워크의 첫 단추이자 ‘추적하는 눈’이라 할 수 있는 데이터 수집부터 최종 분석에 이르기까지, 사이트 간 연관성을 기술적으로 추적하는 단계별 과정을 구체적으로 소개하고자 합니다.
In Parts 1 and 2, we explored the concept of LLM and RAG-based cyber threat prediction and examined methods for enhancing LLM prediction accuracy by integrating XAI. Building upon those discussions, this article introduces the comprehensive LLM pipeline that leverages XAI-integrated RAG to forecast potential future cyber threats. In particular, we illustrate the integration framework of T9 Detect, which moves beyond single-log-centric defense to organically understand data flows, and T9 Predict, which reliably forecasts subsequent attack sequences based on those insights, thereby presenting a technical vision for a proactive security response architecture.
앞선 1탄과 2탄에서는 LLM 및 RAG 기반 사이버 위협 예측의 개념을 살펴보고, XAI를 결합하여 LLM의 예측 정확도를 높이는 방법에 대해 알아보았습니다. 본 글에서는 이러한 내용을 바탕으로, XAI가 결합된 RAG를 활용하여 향후 출현 가능한 사이버 위협을 예측하는 LLM의 전체 파이프라인을 소개합니다. 특히 단일 로그 중심의 방어를 넘어 데이터 흐름을 유기적으로 이해하는 T9 Detect와, 이를 기반으로 차단계 공격 흐름을 신뢰성 있게 전망하는 T9 Predict의 결합 구조를 설명하며 능동형 보안 대응 체계의 기술적 비전을 제시합니다.
In the previous post (Part 1), we introduced the concept and necessity of cyber threat prediction by combining LLM and RAG. Building on this foundation, this article takes a step further by presenting a method for integrating XAI-derived attack detection evidence with RAG to enable more precise cyber threat analysis and prediction. In particular, we explain how XAI results can be effectively utilized through semantic token reconstruction, and how this approach allows the LLM to interpret attack flows and predict subsequent attack stages.
앞선 1탄에서는 LLM과 RAG를 결합한 사이버 위협 예측의 개념과 필요성에 대해 살펴보았습니다. 본 글에서는 이러한 개념을 기반으로 한 단계 더 나아가, XAI를 통해 도출된 공격 탐지 근거 정보를 RAG와 결합하여 보다 정교한 사이버 위협 분석 및 예측을 수행하는 방법을 소개합니다. 특히 의미 단위 기반 토큰 재구성을 통해 XAI 결과를 효과적으로 활용하고, 이를 기반으로 LLM이 공격 흐름을 해석하고 향후 공격 단계를 예측할 수 있도록 하는 접근 방식을 설명합니다.
Harmful websites rarely operate as isolated, standalone entities. Instead, they are typically run as interconnected networks, where a single operating organization manages multiple types of harmful sites in parallel. To effectively respond to this evolving threat landscape, our research team is developing the Cyber Crime Tracker (CCT) framework, designed to reflect the structural and operational characteristics of harmful website ecosystems. This blog series introduces the overall CCT research approach, focusing on how relationships between harmful sites and their underlying operating organizations can be identified and analyzed. In Part 1, we first provide a brief overview of the key characteristics of harmful websites. We then discuss the necessity of research aimed at technically detecting these ecosystems and analyzing inter-site relationships to uncover shared operational origins.
유해사이트들은 단일 사이트로 존재하기보다 서로 연결된 네트워크 형태로 결합되어 운영되고, 하나의 운영 조직이 여러 유형의 유해사이트를 병렬적으로 관리하는 구조를 보이고 있습니다. 이런 위협에 효과적으로 대응하기 위해 우리 연구팀은 유해사이트의 특징을 반영하여 CCT(Cyber Crime Tracker) 프레임워크를 연구하고 있습니다. 시리즈로 기획된 이번 포스팅에선 동일한 운영 조직과 유해사이트간 연관성을 색출하기 위한 CCT의 전반적인 연구 내용을 시리즈로 정리해 소개합니다. 본 1편에서는 유해사이트의 특징을 간략히 살펴본 뒤, 이러한 생태계를 기술적으로 탐지하고 사이트 간 연관 관계를 분석하기 위한 연구의 필요성에 대해 소개하고자 합니다.