최근 인공지능 기술은 뛰어난 발전과 함께 다양한 분야에서 널리 활용되고 있지만, 반면 예상치 못한 문제점을 발생시켜 보안 중요성 또한 주의 깊게 살펴봐야 합니다. 이번 글은 인공지능에는 어떤 보안 취약점이 존재하며, 이를 방어 및 보완하는 방법에 대하여 살펴보도록 하겠습니다.
[글쓴이:] 임 규민
임규민 연구원은 정보보호학부를 졸업하고, 한양대학교 정보보안학과 석사과정을 졸업했다. 현재 카이스트 사이버보안연구센터 AI보안 팀원으로 XAI를 활용한 인공지능의 보안 연구를 진행하고 있다.
최근 사회의 악이라 불리는 온라인 불법 도박 사이트가 증가함에 따라, 수사 및 사정기관에서 꾸준한 단속을 진행하고 있지만 완벽한 불법 도박 사이트를 차단하는 것은 많은 한계점이 존재합니다. 본 글은 불법 도박 사이트의 ‘키워드’라는 특징점을 활용하여 어떻게 효과적으로 탐색 및 분류하는 방법에 대한 글을 진행해보고자 합니다.
인공지능은 4차 산업 혁명의 중요 요소 기술로 현재 얼굴 인식, 이미지 분류 등 다양한 분야에서 활용되고 있습니다. 하지만, 인공지능에도 보안 위협이 존재하는데요. 본 글에서는 인공지능의 위협 요인에 대해서 설명하고, 저희 CSRC AI보안팀이 이러한 위협을 방어하는 연구 내용을 담고있습니다.
소개와 소감을 적은 지난 글에 이어서, 이번 글에서는 저희 BLEEP 팀이 해커톤에서 구현한 단일 토큰 스테이킹 시스템에 대해서 설명하고, 개발시 고려한 스마트 컨트랙트 보안 이슈에 대해서 이야기하려고 합니다.
저희 CSRC BLEEP 팀은 TAEBIT에서 주최한 글로벌 DeFi 해커톤에 참여하여 1등상을 수상했습니다. 대회에 대한 간략한 설명 및 느낀 점에 대하여 이야기하고, 블록체인 어플리케이션 개발을 수행하는 초보 개발자에게 도움을 주는 이야기를 하고자 합니다.
지난 “AI 보안팀의 딥러닝 경진대회 : 개요 및 소감”에 이어서 이번 글은 어떻게 딥러닝 모델을 설계했는지 등 기술적인 내용으로 작성하였습니다. 이후 처음 도전하는 초보자에게 많은 도움을 드리는 이야기를 하고자 합니다.
저희 AI 보안팀은 데이터 사이언스 경진대회 플랫폼인 DACON에서 열린 산업제어시스템 보안위협 탐지 AI 경진대회에 참가하여 5등의 수상하였습니다. 대회에 참가하면서 느낀 점에 대하여 가감하게 나타내면서 추가로 딥러닝을 학습하는 초보 개발자에게 도움을 주는 이야기를 하고자 합니다.
다크웹은 정보를 제공하는 자와, 정보를 활용하는 자의 Identity를 노출하지 않기에 Privacy가 극대화된 웹 환경이라고 볼 수 있습니다. 이런 환경을 좋은 쪽으로 활용하면 좋으나 서로의 정보를 모르기에 나쁜 쪽으로 활용을 하게 되고 결국 많은 불법 행위들이 다크웹에서 발생하게 되었습니다. 우리 연구실은 이런 다크웹에서 발생하는 불법 행위를 자동으로 수집하고 분석하는 시스템을 만들어서 발표하였습니다. 이런 연구는 수사기관들을 주목을 받아서 INTERPOL World 2019에 발표되기도 하였습니다. 공학은 실제 현장의 요구를 파악하고 현장에서 쓰일 수 있는 기술을 만드는 것이 중요하다고 생각합니다.
글로벌 기업들의 문제점들을 찾아 소통하고 노력한 점들이 산업계와 학계가 서로 이해하고 이러한 기술을 공유하는 데 도움이 되었다고 생각합니다. 구글이나 삼성 등 글로벌 기업의 문제점을 찾는 것은 사회와 사회구성원들의 관계를 연결하는 중요한 역할을 합니다. 기업에서 제공하는 서비스에서의 보안 문제점은 이용하는 사용자들에게 직접적인 영향을 끼칠 수 있기 때문입니다.