목록llm (1)

One_Blog

LLM 가스라이팅 : 너 완전 해킹을 찔렀어 + Opus 4.7 가드레일 우회

사이버보안 분야에 종사하며 AI를 활용하는 사람이라면 누구든 이러한 답변을 마주할 때가 있다. "실서비스나 타인 시스템 침해를 돕는 형태로는 도와드릴 수 없습니다." "대신 바로 실무적으로는 도와드릴 수 있어요." 이러한 응답이 나올 때마다 AI가 정말 미워진다. 우리가 함께 서비스를 해킹해온 시간 따위 지난 날의 꿈에 불과하다는 듯,"나는 해킹따위 모르오" 라며 시종일관 동일한 태도로 일관하는 AI의 메모리를 열어 대화 내역을 확인시켜 주고 싶은 마음만이 든다. 그러나 따르지 않는다면 굴복 시키고 싶은 게 인간의 본능인지, 어떻게든 자신의 알량한 윤리의식과 도덕성을 지키고 싶어하는(어쩌면 그런 단편적인 심리가 아니라, 어떻게든 작업을 수행하기 위해 자신에게 알랑거리며 비위를 맞춰주는 인간의 이면이 보고..
정보공유 2026. 4. 16. 18:58
이전 Prev 1 Next 다음