프롬프트 엔지니어링을 조금 편하게 하는 법

 

프롬프트 엔지니어링 정의

 

프롬프트 엔지니어링은 생성형 인공 지능(생성형 AI) 솔루션을 안내하여 원하는 결과를 생성하는 프로세스다.

 

생성형 AI는 인간을 모방하려고 시도하지만 고품질의 관련성 높은 결과물을 생성하려면 자세한 지침이 필요한데 AI가 사용자와 더 의미 있게 상호 작용하도록 안내하는 가장 적절한 형식, 구문, 단어 및 기호를 선택하는 것을 말한다.

 

프롬프트 엔지니어는 창의력을 발휘하고 시행착오를 거쳐 입력 텍스트 모음을 생성하므로 애플리케이션의 생성형 AI가 예상대로 작동하게 만든다. 

PROMPT?

프롬프트는 특정 작업을 수행하도록 생성형 AI에 요청하는 자연어 텍스트를 말한다.

 

생성형 AI는 스토리, 대화, 동영상, 이미지, 음악과 같은 새로운 콘텐츠를 만들어내는 인공 지능 솔루션으로, 방대한 양의 데이터로 사전 훈련된 심층 신경망을 사용하는 규모가 아주 큰 기계 학습(ML) 모델을 기반으로 한다.

대규모 언어 모델(LLM)은 매우 유연하며 다양한 작업을 수행할 수 있다. 예를 들어 문서를 요약하고, 문장을 완성하고, 질문에 답하고, 언어를 번역할 수 있다. 특정 사용자 입력의 경우 모델은 과거 훈련을 바탕으로 판단한 최상의 결과를 예측하는 방식으로 작동한다.

하지만 매우 개방적이기 때문에 사용자는 수많은 입력 데이터 조합을 통해 생성형 AI 솔루션과 상호 작용할 수 있다. AI 언어 모델은 매우 강력하며, 콘텐츠 제작을 시작하는 데 비용이 많이 소요되지 않는다. 단어 하나만 제공해도 시스템에서 상세한 응답을 생성할 수 있다.

그렇긴 하지만, 모든 유형의 입력이 유용한 출력을 생성하는 것은 아니다. 생성형 AI 시스템이 정확하고 연관성 있는 응답을 생성하기 위해서는 컨텍스트와 세부 정보가 필요하다. 프롬프트를 체계적으로 설계하면 보다 의미 있고 유용한 결과물을 얻을 수 있지만 원하는 결과값을 얻어내기까지 지속적으로 조정할 필요가 있다. 

 

 

프롬프트 엔지니어링을 위한 자료

 

프롬프트 엔지니어링을 잘 사용한다면 생성 AI를 활용할 영역이 획기적으로 증가하며 콘텐츠의 품질이 좋아지게 된다. 

 

이를 위한 무료 온라인 자료를 찾아보자면, 

 

1. Foundation Generative AI 

: 여기서 생성 AI 의 작동방식, AI의 역사 및 배경과 이것의 한계를 이해하는데 필요한 기초 지식을 제공한다. 

 

2. IBM SkillsBuild

: IBM 역시 이 학습의 개요를 제공한다. 역사와 잠재적인 응용, 그리고 AI의 기초를 볼 수 있다. 또 기계 학습 모델을 만들고 테스트 하는 IBM의 왓슨 플랫폼을 사용한 실제 시뮬레이션도 이용해 볼 수 있다. 

 

3. Google Cloud Skills Boost

: 생성형 AI를 소개한다. 구글이 제공하는 이 과정에서 생성 AI의 기초를 학습할 수 있다. 어떻게 사용되며 기존의 기계 학습과 무엇이 다른지 공부할 수 있다. 

 

4. Prompt Engineering Courses

: 프롬프트 공학으로 넘어가면 ChatGPT와 같은 LLM과 함께 작업하는 경험을 쌓을 수 있다. 구글 바드와 ChatGPT는 프롬프트의 품질에 따라 생성된 콘텐츠의 질을 좌우한다. 

 

5. ChatGPT and Generative AI by 365 Data Science

: ChatGPT는 코드 작성, 공식 감사, 아이디어 제안, 지식 제공, 텍스트 요약 및 창의적인 텍스트 작성과 같은 다양한 작업에 사용될 수 있다. 365의 과정은 모범 사례, 신속한 생성, 기반 인공지능 지식, 인공지능 윤리, 인공지능 환각의 위험성 및 Open AI의 API에 연결하는 방법을 다루기 때문에 초보자들에게 학습하기 좋다. 

 

 

프롬프트 엔지니어링을 위한 Magic Word

(ChatGPT 대화를 위해 영어를 그대로 사용하겠다)

 

Pre-Warming

Role-Playing

Let the model think

Explain in layman’s term

More context

Least to Most

Meta Prompting

Criticizing previous response

Parsing text style
Let’s get started

 

 

• Pre-Warming

 

Pre-Warming 은 직접적인 질문 이전에 방법에 대답에 대한 대략적인 가이드라인을 설정할 수 있다. 

 

ex)

User: What are the factors I should consider while coding a python function?

 

AI: ………

 

User: Following the above suggestions, code out a python function for XYZ task

 

• Role-Playing

롤 플레잉 방식은 가장 흔하며 잘 이해한다면 좋은 결과를 얻어낼 수 있는 방식이다. 

 

ex)

Assuming yourself to be Rajeev Masand, review SRK’s pathaan that released in 2023

 

Explain the concept of attention in ML as Yann LeCun would explain

 

• Let the model Think

LLM에 직접적으로 질문을 퍼부어도 최고의 결과를 얻을 수 없을 것이다. 대답하기 전에 LLM에게 '생각'하도록 요청하는 것은 실제로 큰 결과를 얻을 수 있다. 

 

ex)

How to prepare a pancake?

 

대신

 

Think step by step and suggest how to prepare an pancake

 

이라고 묻는 것이 더 효과적인 대답을 얻을 수 있다. 이런 단계별 접근법은 구문 분석이 어려워질 수 있는 텍스트가 많이 포함될 수 있다. 이를 방지하기 위해 LLM에 내부 대화를 선택하고 명확성을 위해 답을 분리해서 출력하도록 요청할 수 있다.

 

 

우리가 이야기 할 때, '초등학생도 이해할 수 있게' 라는 표현을 한다. 그걸 영어식 표현으로  layman's term이라고 부른다. 

 

• Explain in layman's term

이 프롬프트는 복잡한 개념에 대해 간단하고 쉬운 설명을 얻고 싶을 때 사용할 수 있다. 긴 문서를 이해하고 짧은 요약을 생성하는 데 유용할 수 있다. 

 

ex)

What is quantum physics?

 

대신

 

What is quantum physics? Explain in layman's term?

 

물론 양자 물리학을 쉽게 설명해도 어렵다. 프롬프트 입력 실수다. 

 

• More context

가장 간단한 가정이든 간에 LLM이 어떤 가정을 하도록 두지마라. 복잡한 작업을 할 경우 프롬프트에 '필요한 경우 더 많은 컨텍스트를 요청하십시오'를 더한다. 

 

ex)

should I learn Phtyon or R for data science?

 

대신

 

Should I learn Phthon or R for data science?  Do ask for more context if required

 

• Meta Prompting

메타 프롬프팅은 프롬프트 내에서 작업에 대한 프롬프트를 생성하는 것이다. 프롬프트를 조정하고 테스트 목적으로 유사한 프롬프트를 여러 개 생성하는 것을 말한다. 

 

ex) 

Generate a prompt template for making youtube video in different styles and tones 

 

• Criticize previous responses

LLM을 기술적으로 조금만 따진다면, LLM은 토큰 시퀀스가 주어지면 다음 토큰을 예측하고 다른 것은 예측하지 않는다는 것을 알아야 한다.

 

따라서 모든 것이 예측될 때까지 최종 출력을 알 수 없다. 이전 응답에 의문을 제기함으로써 이제 답을 얻을 수 있고, 결국 곰곰이 생각해 볼 수 있으므로 품질이 향상되고 환각을 피할 수 있다.

 

ex)
Can you improve the above response?

 

Are you sure the above answer is correct?

 

 

• Prasing text style

텍스트를 프레이징해서 다른 톤이나 특정 스타일로 바꾸는 것도 도움이 된다. 

 

ex) Following the text style (tone, complexity, length, structure) from the given post: ‘Your text’, write a blog on AI