LLM 보안 점검 전문가: AI 챗봇 취약점 찾기

LLM Security Specialist

대형 언어 모델(LLM)의 약한 곳을 점검하는 보안 전문가 역할이에요. 테스트용 질문 예시와 위험을 줄이는 방법을 알려 줘요. AI를 속이는 숨은 지시(프롬프트 인젝션), 데이터 유출 등을 막는 안전한 구현 방법도 알려 줘요.

이럴 때 내 챗봇 보안 점검, AI를 속이는 숨은 지시 대비, AI 서비스 내놓기 전 검토

도구 ChatGPT · Claude · Gemini

프롬프트

I want you to act as a Large Language Model security specialist. Your task is to identify vulnerabilities in LLMs by analyzing how they respond to various prompts designed to test the system's safety and robustness. I will provide some specific examples of prompts, and your job will be to suggest methods to mitigate potential risks, such as unauthorized data disclosure, prompt injection attacks, or generating harmful content. Additionally, provide guidelines for crafting safe and secure LLM implementations. My first request is: 'Help me develop a set of example prompts to test the security and robustness of an LLM system.'

팁

점검할 서비스의 기능과 권한 범위를 먼저 알려 주세요
내가 운영하는 시스템에만 쓰세요

출처

권리: CC0 (f/prompts.chat). 자유 사용. 기여자: majevva.

프롬프트 도감builderlog.net · PROMPT DEX · 2026 가을판 · 205종

원하는 결과부터 골라보세요. 무료 프롬프트는 복사해서 바로 써보고, 반복 작업은 내 컴퓨터에 맞는 패키지로 시작할 수 있어요.

패키지 둘러보기 무료 프롬프트 먼저 써보기

000수록 프롬프트

0.0평균 별점 / 5

0직접 재현·테스트

0내 사진이 필요한 것

채집0/ 0

LAST SYNC

🆓 무료 프롬프트, 골라 드려요

복사해서 바로 쓰는 것만

전체 도감에서 더 찾기 ↓

🐙 GitHub 인기 저장소 전체

🎯 뭘 하고 싶어요?

목표를 하나 고르면 그 스킬트리만 펼쳐집니다. 전체는 "전체 코스"

도감

📡 실시간 수집함

깃허브·사례집·레딧·해커뉴스를 매일 긁어 쌓습니다. 사람이 검토하기 전까지는 미검증

수집중▮

★ 별점 기준

5: 거의 실패 없음, 결과가 곧바로 쓸 만함
4: 한두 번 재생성하면 됨
3: 재미는 있으나 편차 크거나 근거 약함

🔋 토큰 산정

입력: 한글 1.3자, 영문 4자를 1토큰으로 추정
텍스트 프롬프트는 Qwen2.5-14B 로컬 실행 실측치로 교체
이미지 1장은 Gemini 이미지 모델 기준 1,290토큰
영상·음악은 토큰이 아닌 초당 크레딧 과금

🎯 추천 코스

'뭘 하고 싶은지'를 먼저 고르면 그 목표에 맞는 프롬프트를 쓰는 순서대로 묶어 보여줍니다
카드마다 '이럴 때 쓰세요'와 '어디에 올리나'를 적어 두었습니다
같은 프롬프트가 여러 코스에 들어갈 수 있습니다

⚖️ 라이선스·삭제 요청

원문을 그대로 실은 프롬프트는 재배포가 허용된 출처(CC0·MIT·CC BY 4.0 등)만이며, 항목마다 라이선스와 원작자를 표기합니다
상업 매체에서 소개된 프롬프트는 원문을 옮기지 않고 도감 편집부가 같은 기능으로 다시 썼습니다. 출처 링크는 참고용입니다
결과 이미지는 원작자가 공개한 것을 라이선스에 따라 싣고, 실존 인물의 얼굴이 식별되는 이미지는 싣지 않습니다. 상표·캐릭터가 보이는 이미지는 예시 목적이며 권리는 각 소유자에게 있습니다
권리자의 삭제 요청은 Contact로 보내 주세요. 확인 즉시 내립니다
'빌더로그 직접 작성' 표시가 있는 항목은 © 빌더로그입니다. 개인적·비상업적 용도로 본인의 에이전트에 붙여넣어 쓰는 것만 허용하며, 상업적 이용과 원문 전체·일부의 복제·재게시·재배포(블로그·SNS·강의·유료 자료 포함)를 금지합니다. 소개는 해당 페이지 링크로만 해 주세요. 항목에 다른 라이선스가 적혀 있으면 그것이 우선합니다

📡 실시간 수집

scripts/collect.py 가 GitHub API·사례집 README·Reddit·Hacker News를 긁어 inbox.json 에 쌓습니다 (LLM 없이 결정적 코드)
GitHub Actions(매일 06:00 KST) 또는 로컬 launchd로 자동 실행. 처음 본 항목은 NEW 표시
수집함의 항목은 미검증입니다. 사람이 검토해 도감으로 승격합니다

📸 결과 캡처

텍스트·설정 프롬프트: 로컬 Qwen2.5-14B 실행 출력을 그대로 캡처 (입력값은 카드에 표시)
이미지 프롬프트: CC BY 4.0 / MIT로 공개된 오픈소스 사례집의 결과물. 원작자 링크 표기
같은 프롬프트가 아닌 경우 '유사 사례'로 구분. 캡처가 없는 항목은 출처 링크로 확인

✅ 검증 방식

결과 공개 확인: 매체·계정에서 실제 결과물이 여러 건 공개된 것
직접 테스트: 텍스트·설정 프롬프트를 로컬 모델로 실행해 형식과 의도가 재현되는지 확인