AI 기술은 챗봇, 안면 인식, 자율주행, 의료 지원 등 다양한 분야에 적용되며 빠르게 발전하고 있습니다. 하지만 의사 결정 과정이 불투명하기 때문에 흔히 ‘블랙박스’ 문제라고 불리는 AI의 결정을 완전히 신뢰하기 어려운 경우가 많습니다. 바로 이 부분에서 설명 가능한 AI(XAI)가 등장하여 AI의 결정을 설명하는 데 도움을 줍니다.
[태그:] 설명가능한 인공지능
ChatGPT의 눈부신 성공으로 촉발된 초거대 언어 모델(Large Language Model) 및 생성형 인공지능(Generative Artificial Intelligence) 개발 경쟁은 전세계 유수의 기업들이 앞다투어 초거대 언어 모델 기반 서비스를 공개하는 원동력으로 작용하고 있습니다. 그렇지만 초거대 언어 모델은 여타의 기술과 같이 완벽하지 않으며, 이에 따른 보안 위협이 존재합니다. 본 글에서는 초거대 언어 모델이 지니는 보안 위협과 그를 완화하고자 활용될 수 있는 설명가능한 기술에 대해 몇 가지 예시를 통해 살펴봅니다.