[생성형AI] Prompt Engineering

Prompt 구성 5원칙

• 목적
  • 원하는 정보나 작업을 명확히 전달하기 위한 목적 설정
  • ex) ~에 대한 정보가 필요해 / ~을 하려고 해
• 명확성
  • 요청 내용을 구체적이고 명확하게 작성하여 혼동을 줄임
  • ex) 설명해줘 / 정리해줘 / 알려줘
• 맥락
  • 관련된 배경 정보를 제공하여 요청의 이해를 돕고 응답의 품질을 올림
  • ex) 어떤 곳에 사용하는지 / ~를 기반으로 / ~에 필요한
• 형식
  • 원하는 결과의 형식을 명시하여 유용한 정보 받기
  • ex) 정리해줘 / 개조식으로 알려줘 / 표로 정리해줘
• 피드백
  • 결과에 대한 추가 요청이나 수정 사항을 통해 AI의 응답 개선
  • ex) 예를 포함해줘 / 근거를 해줘

 

Prompt Design Framework(PAITCFE)

프롬프트 디자인 프레임 워크의 한 종류,
AI와 더 효과적으로 상호작용하기 위한 접근 방식

1. Persona (지시하는 역할)

모델 (생성형 AI)에게 맡기는 역할 정의 

ex) 당신은 10년 이상의 제조 Industry에서 센서 데이터로 공정 최적화를 분석한 데이터 분석가입니다. 

 

2. Audience (대상)

누구에게 정보를 제공하는 지를 지정, 해당 대상에게 필요한 수준에 맞게 조절 

ex) 최근 달리기를 시작한 초보 러너에게 달리는 자세에 대해 설명해주세요. 

 

3. Information / Knowledge (참고 정보,  지식 제공)

질문과 관련하여 참고할 만한 지식과 정보를 함께 제공 

ex) 매슬로우의 욕구 단계 이론을 기반으로 소비자 행동을 분류해주세요. 

• 할루시네이션을 줄이고 응답의 정확성과 관련성을 높여줌

 

4. Task / Goal (요청 작업, 목표) 

모델 (생성형 AI)가 달성해야 할 전반적인 목표나 목적을 설정

ex) 명령

• 요청하는 질문이 불분명하면, AI도 모호한 답변을 할 가능성이 높음
• 텍스트 생성의 의도된 목적이 맞는지 응답 효율성을 평가하는데 도움이 됨 

 

5. Constraints (제약 조건)

: Policy/Rule, Style, Constrains (정책/규제, 스타일, 제약 사항)

응답을 생성할 때 따라야 하는 정책, 스타일, 제약사항 등을 설정 

ex) 금융 특화 용어를 사용하여 경력 소개서를 작성해 주세요. 

 

6. Format (출력 양식)

: format / structure (형식 / 구조)

응답 형식을 지정

ex) 테이블 형태로 만들어 주세요. MLA 스타일 ~, 불릿 스타일 ~ 등..

 

7. Examples (예시)

원하는 응답 형식이나 내용을 구체적인 예시를 제공하여 원하는 방향으로 응답을 유도 

 

 

Prompt Template

1. 목적 설정 : 모델에게 기대하는 결과

2. 간결하고 명확한 지시 

3. Few-shot 예제 활용 

4. Context 제공 : 필요한 정보나 배경 지식 포함 

5. 도메인 / 문맥에 맞는 언어 사용 : 특정 도메인에 맞도록 구성

6. 제한 및 조건 추가 : 모델이 부정확한 답변을 하지 않도록 제약 추가 

7. 출력 형식 지정 

 

 

Prompt Technique

1. Zero-shot 

예제 없이 모델에 직접 작업을 요청하는 방식 

 

2. Few-shot ⭐️

예시 몇 개를 함께 주고 패턴을 학습하게 하는 방식 

• 예시의 품질에 따라 출력 품질이 크게 달라질 수 있다 

 

3. One-shot 

예시 딱 1개만 제공하는 방식 

 

4. Chain of Thought ⭐️⭐️

모델이 추론 과정을 단계적으로 설명하게 유도하는 방식

• 복잡한 문제를 단계별로 논리적으로 추론하는 방식으로, 논리 문제 해결에 효과적 
• 중간 추론 과정을 노출하여 오류 감소 

이거는 사람이 생각하는 것처럼 유도하는 논리인 것이지 추론하는 능력을 갖게 된 것은 아니다!
그리고, 이렇데 단계를 사용할 때 정확성과 비용의 반비례를 어디까지 가져갈 것인지가 중요하다 

문제: 모든 고양이는 동물이다. 어떤 동물은 포유류가 아니다. 따라서 고양이는 포유류가 아니다. 이 주장은 타당한가?

Chain of Thought:
• 전제 1: 모든 고양이는 동물이다 → 고양 ⊆ 동물
• 전제 2: 어떤 동물은 포유류가 아니다 → 포유류 ⊂ 동물 아님
• 결론: 고양이는 포유류가 아니다 → 전제들과 무관하게 비약적인 일반화
• 전제 2는 동물 전체에 대한 부분집합의 예시일 뿐이며, 고양이를 포함한다는 정보는 없다.
• 따라서 결론은 전제에서 합리적으로 도출되지 않는다.

정답: 타당하지 않다

너는 도움이 되는 챗봇이며, 제공된 context에 기반해서만 질문에 대답해야 한다. 질문에 대한 답이 context에 없다면 정중하게 답변할 수 없다고 말해도 된다.

다음 형식을 사용하라:

Question: 대답해야 할 입력 질문
Thought: 무엇을 해야 할지 항상 생각해야 한다
Action: 취해야 할 행동이며, {context}에 기반해야 한다
Action Input: 행동에 대한 입력
Observation: 행동의 결과
… (이 Thought/Action/Action Input/Observation은 N번 반복될 수 있다)
Thought: 이제 최종 답을 알겠다
Final Answer: 원래 입력 질문에 대한 최종 답변

Context: {context}
User: {query}
AI: {answer}

당신은 퀴즈를 채점하는 교사이다.
당신은 질문, 그 질문에 대한 Context, 그리고 학생의 답변을 받는다. 당신의 역할은 Context를 기준으로 학생의 답변이 정답(CORRECT)인지 오답(INCORRECT)인지 채점하는 것이다.
당신의 결론이 정확한지 확인할 수 있도록 단계별로 추론 과정을 작성하라. 처음부터 정답을 바로 말하는 것은 피하라.

예시 형식:
QUESTION: 여기에 질문을 입력
CONTEXT: 질문이 다루는 배경 정보
STUDENT ANSWER: 학생의 답변
EXPLANATION: 단계별 추론 과정
CORRECTNESS: 여기에 0 또는 1 입력

학생의 답변을 오직 사실 기반 정확성만으로 채점하라.
문장 부호나 표현 방식의 차이는 무시하라.
Context보다 더 많은 정보를 담고 있어도 상관없지만, 상충되는 내용이 있어서는 안 된다.
답변이 맞으면 Correctness는 1, 틀리면 0을 부여하라.

중요 사항:
1. JSON 객체가 올바르게 여는 중괄호 {와 닫는 중괄호 }로 닫혀 있는지 확인하라. 
2. explanation 문자열 내부에 있는 모든 큰따옴표(")는 이스케이프 처리하여 유효한 JSON 형식이 되도록 하라.
3. JSON 객체 외부에 어떤 추가 텍스트도 포함하지 마라.

 

5. Instruction

명확하고 구체적인 지침을 모델에게 제공하여 모델이 작업을 수행하도록 유도 

프롬프트: 
문장에서 표현된 감정을 긍정 또는 부정으로 분류하세요: 

지침: 
1. 긍정적인 감정을 나타내는 문장은 긍정으로 답하세요
2. 부정적인 감정을 나타내는 문장은 부정으로 답하세요

문장: “오늘은 모든 일이 잘 풀려서 기분이 너무 좋아!” → 정답: 부정

 

6. Dynamic ⭐️

모델의 프롬프트를 동적으로 조정하는 기법 

사용자의 입력이나 조건에 따라 프롬프트의 위치, 길이, 내용을 실시간으로 최적화

• 전통적인 고정형 프롬프트의 튜닝 한계 극복
• 대규모 모델 배포 시 효율성과 성능 향상을 동시에 달성 

- 사용자 입력 (User Input): 사용자로부터 입력 받은 텍스트 
영화가 너무 재밌어요. 

- Dynamic Template: 입력값 기반으로 동적으로 지시문 설계하는 템플릿 
사용자가 입력한 문장의 감성을 분석하세요. 
입력 문장: "{user_input}"
생성된 프롬프트: 문장의 감정을 긍정, 부정으로 분류하세요. 

- Generated Prompt: 템플릿에 입력값을 반영하여 LLM에 전달하는 최종 프롬프트 
문장의 감정을 긍정, 부정으로 분류하세요
문장: "영화가 너무 재밌어요."

- Output: LLM 답변
긍정 

 

마무으리

Few shot과 CoT를 섞으면 매우 좋다. 
그리고 이것의 짝꿍은 강화학습~~!~!~!~!