가쟤의 해변일기 🐳

1. 적대적 샘플(Adversarial Examples)적대적 샘플은 인공지능 모델, 특히 딥러닝 모델의 취약점을 노리기 위해 고안된 입력 데이터다. 사람에게는 같은 데이터처럼 보이지만 모델에게는 완전히 다르게 해석되도록 설계된다. 일부 픽셀값을 미세하게 조정하고 이로 인해 모델이 입력 데이터를 잘못 분류하거나 엉뚱한 출력을 내놓게 된다.위는 육안으로 구별 불가한 특정 노이즈를 주어 이미지를 합성하여 적용한 판다이다. 사람에게는 여전히 판다로 보이지만 모델은 긴팔원숭이로 분류하게 된다. 이렇게 gibbon으로 분류된 샘플 이미지를 Adversarial Examples(AEs)라고 한다.2. 모델의 강건성(Robustness)Robustness는 모델이 가질 수 있는 성능 하락 환경을 가정하고 이를 잘 극..