프롬프팅테크닉

 Few shot examples

- 충분히 큰 모델에서만 유의미하게 작동

- 산술 추론 문제에는 적합하지 않음

- 정답을 정확히 주기보다 레이블의 랜덤한 분포를 가진 것이 더 나음 

 

Chain of Thought

- LLM에게 이유에 대해서 설명하도록 만들어 답을 더 정확하게 생성하도록 만드는 기술로, 중간 추론 단계를 거치도록 하여

복잡한 사고가 필요한 작업에 정확도를 향상 시키는 방법

- 답이 나오는 과정에 대해 설명한 예시를 보여주고 지시에 대한 답을 생성할 때 예시와 동일한 방식으로 그에대한 과정을 설명하도록 만듦

 

 

Zero-shot CoT

"단계별로 생각해봅시다" 라는 문구를 마지막에 추가함으로써 CoT예제를 제공하는 것과 같은 효과를 내어 성능을 향상시키는 방법

 

Self-Consistency

LLM이 산술에 약하다는 것을 보강하기위해 Self-Consistency라는 기법을 사용해서

여러가지 방법으로 답을 구하고 답이 6이 두번, 답이 26이 한번 나왔으면 답은 6임

 

Least-to-Most

Cot와 Selection-Inference를 결합한 방법

Task를 분할하여 작은 문제로 나눠 해결하는, 분할 정복 방법으로 응용하여 Autonomous Agent개발 등에 사용 

 

 

ReAct

실행 계획을 유도하고 추적하여 작업별로 실행할 액션을 선택하고 실행하는 방법. 외부 API와 상호작용하여 검색엔진을 통해 신뢰할 수 있는 정보를 사용하거나, 계산기나 이미지 생성 등의 도구를 사용할 수 있음 

실제 툴을 사용해서 정보를 주입하지 않아도, wikipedia 검색을 시뮬레이션 하는 것만으로 성능을 향상 시킬 수 있음

실제 툴을 사용하도록 할 때는, 각 단계별로 끊어서 결과를 출력하도록 제어할 필요가 있음

기본 프롬프트가 매우 길어지므로 토큰 제어에 유의할 필요가 있음

 

Self Evaluation

구체적인 프레임웍이 존재하는 것은 아니며, 스스로 평가한다는 컨셉으로 Self Critique, Constitutional AI등 다양한 응용 방식이 있음

장기적으로는 Automatic Prompt Engineer, Autonomous Agent. 등 AI가 스스로의 결과를 평가하고 향상시키는 방법이 가장 중요한 방법론 중 하나가 될 것으로 예상함

다만, GPT-4 수준의 성능을 가진 LLM으로만 의미 있는 평가를 할 수 있으므로 당분간은 사용범위에 상당한 제약이 있음