최근 빅데이터와 AI 기술의 발전으로 다양한 산업에서 텍스트 데이터 활용이 증가하고 있으며, 데이터 속에 있는 개인정보와 민감정보 보호가 중요한 과제로 대두되고 있습니다. 텍스트 데이터는 문맥적 해석을 통해 숨겨진 정보가 유추될 수 있어, 이를 보호하기 위해 자연어 처리 기술이 활용될 수 있으며, 특히 BERT와 같은 언어모델을 활용하면 단순 키워드 매칭을 넘어 문맥을 인식해 민감정보를 효과적으로 식별할 수 있습니다. 본 포스팅에서는 BERT-CRF 기반 개체명 인식 모델을 활용한 개인정보 식별 방안을 소개해드리겠습니다.
[글쓴이:] 최 규현
KAIST 정보전자연구소 연수연구원. KAIST 사이버보안연구센터에서 LLM을 이용한 유해사이트 분류 및 탐지 연구를 수행하고 있다.
사람은 특정 키워드를 보면 키워드가 어떤 성격과 의미를 갖고 있는지를 이해할 수 있습니다. 이와 마찬가지로 언어모델은 키워드를 통해 이 키워드가 어떤 특성을 갖고 의미하는지 이해할 수 있습니다. 이를 활용하여 유해사이트에 등장하는 키워드를 사용하여 유해사이트를 분류하는 BERT 모델을 파인튜닝으로 학습하는 방법과 그 과정에 대해 소개해 드리겠습니다. 특히, 키워드를 다양한 콘텐츠에서 수집하는 방법과 모델의 성능에 영향을 주는 데이터의 질을 향상시키기 위한 전처리 방법도 함께 소개해 드리겠습니다.
최근 ICT발전으로 인터넷이 보편화 되었지만, 이를 악용한 유해사이트들이 출현하고 사회적 문제로 대두되었습니다. 최근 정부에서 유해사이트 근절을 위한 많은 대처법을 강구하고 있지만, 이를 비웃기나 하는듯 여전히 유해사이트는 기하급수적으로 증가하고 있습니다. 이번 글에서는 유해사이트를 근절하기 위한 기초 단계인 유해사이트를 분류하는 방법에 대해서 논의하고 특히, 대용량 언어모델을 활용하여 어떻게 유해사이트를 분류할 수 있는지에 대하여 살펴보도록 하겠습니다.