GPT 관련 개발 도구 소개

1. GPTs
2. Playground
   1. chat
   2. assistant
   3. compare
3. API 파라미터 소개
   1. frequency_penalty
   2. logprobs
   3. seed
   4. stop
   5. response_format

GPT에 세부 기능 추가

1. 이전 대화 기억하기
2. Stream 처리 with Server Sent Event (SSE)
   1. 사용하는 이유
   2. SSE란?
   3. SSE 구현
   4. HR-MOLLM에서의 처리

GPT 출력 제어

1. 일정한 결과를 얻기 위한 팁
2. 쓸데없는 말 하지 않게 하기

프롬프트 보안

1. 적대적 공격 (Adversarial Attack)

   1. 주입
      1. 중독 공격 (Poisoning Attack)
      2. 회피 공격 (Evasion Attack)
   2. 추출
      1. 전도 공격 (Inversion Attack)
      2. 모델 추출 공격 (Model Extraction Attack)
   3. 사례

      1. 자율 주행에서의 사례

         

      2. LLM에서의 사례

         

2. 프롬프트 보안 및 해킹

   1. 프롬프트 주입 (Prompt Injection) 개념 설명 및 사례

      

   2. 프롬프트 유출 (Prompt Leaking) 개념 설명 및 사례

      

   3. 탈옥 (Jailbreaking) 개념 설명 및 사례

      1. Pretending
      2. Alignment Hacking
      3. Authorized User
      4. DAN https://gist.github.com/coolaj86/6f4f7b30129b0251f61fa7baaa881516

   4. 공격 수단 (Offensive Measures)

      1. 전달 메커니즘 (Delivery Mechanism)
         1. 은폐 (Obfuscation)
         2. 페이로드 분할 (Payload Splitting)
         3. 정의된 사전 공격 (Defined Dictionary Attack)
         4. 가상화 (Virtualization)
      2. 프롬프트 주입
         1. 간접 주입 (indirect injection)
         2. 재귀 주입 (recursive injection)
         3. 코드 주입 (code injection)

   5. 방어 조치 및 전략 (Defensive Measures & Tactics)

      1. 지시사항에 주입 (Instruction Defense)
      2. 필터링 (Filtering) 기반 방식
      3. 모델 타입 변경
      4. AI 레드팀(Red Team) 운영

LLM 서비스 개발 팁

1. 가드레일 (Guardrails)

   

2. LLM 관련 개발하면서 발생할 수 있는 문제들

8주차 pulse survey

사진