Generative AI vs. LLM
생성형 AI는 텍스트외에 다앙한 유형의 콘텐트를 생성하는 더 넓은 범위의 모델을 포괄하는 반면, LLM은 생성형 AI 모델의 한 유형으로 언어 작업에 특화된 모델을 의미.
생성형 AI:
- 생성 모델을 사용하여 텍스트, 이미지, 기타 데이터를 생성할 수 있는 인공지능의 한 분야이며 주로 프롬프트에 응답합니다.
- 입력된 학습 데이터에서 패턴과 구조를 학습한 후 유사한 특성을 가진 새로운 데이터를 생성합니다.
- LLM의 학습원리와 학습목적. LLM은 대규모 범용 언어 모델로 선행 학습 후 특정 목적에 맞게 미세 조정이 가능. 이때 대규모란 경우에 따라 페타바이트급에 달하는 학습 데이터 세트의 규모와 파라미터 수를 의미. 파라미터는 머신이 모델 학습을 통해 학습한 메모리와 지식. 파라미터는 텍스트 예측 등 모델의 문제 해결 능력을 결정하며 그 수는 수십억에서 수조 개에 이름. 범용이란 모델이 일반적인 문제를 충분히 해결할 수 있다는 뜻. 이는 작업의 종류와 무관하게 적용되는 인간 언어의 공통성 때문.
- LLM이 선행 학습되고 미세 조정되었다고 하면 이 모델이 대규모 데이터 세트를 사용해 범용으로 선행 학습된 후 특정 목표에 맞게 더 적은 데이터 세트로 미세 조정되었음을 뜻함.
- LLM의 학습: LLM에 프롬프트를 제출하면 선행 학습된 모델에서 정답의 확율을 계산함. 이 확율은 선행 학습이라고 불리는 작업을 통해 결정됨. 선행 학습은 방대한 텍스트, 이미지, 코드 데이터 세트를 모델에 피드하는 것으로 모델이 이 언어의 기본 구조와 패턴을 익힐 수 있게 함. 이 프로세스를 통해 모델은 인간의 언어를 효과적으로 이해하고 생성하게 됨. 이처럼 LLM은 고급형 자동 완성 기능처럼 작동하면서 프롬프트에 대해 가장 일반적인 정답을 제안함.
프롬프트 엔지니어링:
- 프롬프트란 모델에 입력하는 텍스트이며 프롬프트 엔지니어링이란 모델에서 최적의 응답을 얻기 위해 프롬프트를 명확하게 설명하는 기술.
- 제로, 원, 퓨 프롬프트 + 롤 프롬프트 롤 프롬프트: 모델이 질문에 답할 때 참고할 수 있는 기준을 설정. (예) 경영대학교 교수처럼 답변할것. 내가 입력한 용어의 의미를 정확하게 설명. 답변이 정확한지 확인필요. “ROI가 무엇인가??
- 두 가지 입력: 프리앰블, 입력 Preamble 프리앰블: 모델에 주요 질문이나 요청을 제공하기 전에 컨텍스트와 요청 사항을 명시하는 도입 텍스트를 의미. 사용자의 요구사항을 잘 이해하도록 LLM에 사전 정보를 주는 단계. 여기에는 작업의 컨텍스트, 작업 자체, 모델에 지짐이 되는 예가 포함될 수 있음. 입력은 LLM에 요청하려는 주된 내용. 모델이 지침으로 삼을 요청 사항이나 작업을 의미. (예) ‘의견: 이 동영상을 어떻게 평가해야 하는지 모르겠어’ ‘후기:’ 라고 입력하면, Gemini는 프리앰블을 기반으로 입력 정보를 검토하고 후기가 긍정적인지, 중립적인지, 부정적인지 평가. 단, 프롬프트에 반드시 위의 요소를 모두 포함할 필요는 없고 작업에 따라 형식이 달라지나거나 요소의 순서도 변경될 수 있음.
[베스트 프렉티스]
- 구체적이고 명확한 요청 사항을 작성. 프롬프트가 모호할수록 모델이 쓸모없는 결과를 생성할 가능성이 높아짐. 모델에 입력하는 프롬프트는 간단명료하게 작성.
- 프롬프트의 경계를 정의히야 함. 하지 말아야 하는 것보다는 해야 하는 것을 지시하는 편이 좋음. 모델이 대답하지 못할 때 사용하도록 여러 상황에 맞는 대체 출력을 제공.
- 입력에 페르소나를 부여. 모델에 페르소나를 부여하면 관련 질문에 집중하는 데 유용한 컨텍스트를 제공해 정확도를 높일 수 있음.
- 문장을 간결하게 유지. 문장이 길어지면 결과의 품질이 낮아질 수 있음. 따라서 프롬프트의 긴 문장을 짧고 단순한 여러 문장으로 나누는 게 가장 좋음.