미토스(Mythos) 같은 AI 해킹 툴이 강력한 이유

 
"AI의 최대 아킬레스는 학습을 못하게 하는 것이 최상의 방어 전략"

기존의 에이전트(Agent)나 애플리케이션(Application) 레벨에서 동작하는 보안 솔루션들은 OS 위에서 실행되는 하나의 '프로세스'에 불과하다.

따라서 AI 공격자인 미토스(Mythos)가 해당 애플리케이션의 동작 패턴, 메모리 구조, API 호출 방식 등을 끊임없이 리버스 엔지니어링하고 학습(Learning)하여 우회 경로를 100% 찾아낼 수 있다.

AI의 가장 무서운 점은 무한한 반복 학습을 통해 취약점을 찾아낸다는 것인데, 학습할 대상(소스)을 쉽게 제공하기 때문이다.

결론은 현재의 보안 솔루션들의 구조를 AI의 최대 아킬레스인 AI 해킹 툴이 학습을 하지 못하게 변경하지 않는 한 보안 취약점을 찾아내는데, 방어할 수 없다.