ChatGPT의 눈부신 성공으로 촉발된 초거대 언어 모델(Large Language Model) 및 생성형 인공지능(Generative Artificial Intelligence) 개발 경쟁은 전세계 유수의 기업들이 앞다투어 초거대 언어 모델 기반 서비스를 공개하는 원동력으로 작용하고 있습니다. 그렇지만 초거대 언어 모델은 여타의 기술과 같이 완벽하지 않으며, 이에 따른 보안 위협이 존재합니다. 본 글에서는 초거대 언어 모델이 지니는 보안 위협과 그를 완화하고자 활용될 수 있는 설명가능한 기술에 대해 몇 가지 예시를 통해 살펴봅니다.
[태그:] AI
최근 사회의 악이라 불리는 온라인 불법 도박 사이트가 증가함에 따라, 수사 및 사정기관에서 꾸준한 단속을 진행하고 있지만 완벽한 불법 도박 사이트를 차단하는 것은 많은 한계점이 존재합니다. 본 글은 불법 도박 사이트의 ‘키워드’라는 특징점을 활용하여 어떻게 효과적으로 탐색 및 분류하는 방법에 대한 글을 진행해보고자 합니다.
인공지능은 4차 산업 혁명의 중요 요소 기술로 현재 얼굴 인식, 이미지 분류 등 다양한 분야에서 활용되고 있습니다. 하지만, 인공지능에도 보안 위협이 존재하는데요. 본 글에서는 인공지능의 위협 요인에 대해서 설명하고, 저희 CSRC AI보안팀이 이러한 위협을 방어하는 연구 내용을 담고있습니다.
지난 “AI 보안팀의 딥러닝 경진대회 : 개요 및 소감”에 이어서 이번 글은 어떻게 딥러닝 모델을 설계했는지 등 기술적인 내용으로 작성하였습니다. 이후 처음 도전하는 초보자에게 많은 도움을 드리는 이야기를 하고자 합니다.
저희 AI 보안팀은 데이터 사이언스 경진대회 플랫폼인 DACON에서 열린 산업제어시스템 보안위협 탐지 AI 경진대회에 참가하여 5등의 수상하였습니다. 대회에 참가하면서 느낀 점에 대하여 가감하게 나타내면서 추가로 딥러닝을 학습하는 초보 개발자에게 도움을 주는 이야기를 하고자 합니다.
우리가 연구를 처음 시작하게 되면, 성공한 사람들의 사례를 주로 보게 됩니다. 트위터만 보더라도 획기적 연구 결과가 하루가 멀다고 쏟아져 나오니까요. 이 글에서는 연구의 다른 측면, 즉 질 좋은 연구를 하는 것이 얼마나 길고, 고된 과정인지를 얘기하고자 합니다. 이것은 분명 연구자들에게 흔히 일어나는 일임에는 분명하지만, 잘 알려진 이야기는 아닙니다. “성공의 확률을 높이려거든, 실패의 확률을 높여라.” 토마스
Introduction When you start in research you see all these successful people. On Twitter, it seems there is one new game changing paper published every week or so. Here, I want to show the other side, how it is actually a long and painful process to produce good quality research. I believe it is a