반응형
이번 포스트는 생성형 AI 기초 및 Prompt Engineering에 관해 배운걸 정리한다.
AGI(Artificial General Intelligence)
(인간 수준의) 광범위하고 유연한 학습 및 추론 능력 확보
- AI의 미래적 목표로 아직 구체적으로 실현된 예는 없음
- 더 나아가면 ASI(Artificial Super Intelligence) 가능성도 거론
생성형 AI
- 새로운 컨텐츠를 창출하거나 창의적인 작업을 수행
- 편향, 환각 가능성 잔존
- 입력된 데이터나 조건을 바탕으로 새로운 텍스트, 이미지, 음악, 동영상 등을 생성
AI Agent
- 물리적 또는 가상 환경에서 자율적으로 목표를 달성하기 위해 행동하는 소프트웨어 시스템
- 사용자의 요구를 이해하고 그에 맞는 기능 또는 결과를 제공하는 과정에서 언어모델과의 상호 작용 통해 이루어짐
- 특정 목표를 수행하기 위해 매우 구체적인 프롬프트와 **특정 도구(브라우저, 코드 실행)**가 필요하고 제한된 환경(WEB, API, Plug-in) 에서만 작동
Knowledge Distillation
복잡한 모델(Teacher Model)의 지식을 더 작은 모델(Student Model)로 압축하는 기술
즉 : 대형 모델이 학습한 정보를 축약하여 작은 모델에 전달하여 성능을 유지하면서도 연산량을 줄이는 방식
Prompt : LLM으로부터 응답을 생성하기 위한 입력값,
→ 자연어 처리 모델들과 효과적으로 상호 작용 하기 위해 특정한 질문이나 지시사항을 구성
Prompt Engineering
- LLM의 입력에 해당하는 프롬프트를 효과적으로 만들고 최적화 하는 과정
- 입력 텍스트를 잘 구성하여 모델이 원하는 방식으로 응답하도록 유도하는 방식으로 모델을 추가로 학습시키지 않음
- 페르소나 설정, 형식 지정, 닫힌 질문 설정, 참고 예제 제공이 대표적
토큰
문장을 단어 또는 서브워드로 쪼개어 나눈 조각 → 단어 조각
임베딩
각 토큰을 고정된 벡터 공간으로 변환한 수치 표현 → 단어별 의미 점수표(정적인 의미 공간)
인코딩
토큰의 위치/문맥 등 포함된 정보까지 반영한 고차원 표현 → 문맥에 따라 달라지는 점수표
2> 프롬프트 프레임워크 7가지 구성요소
1) Role
답변에 대한 배경지식을 가지고 답변함
EX) 당신은 축구 선수입니다. 축구 규칙에 관하여 답변하시오.
2) Audience
답변의 대상이 되는 사람
EX) 축구에 관해 아예 모르는 사람
3) Knowledge
답변에 참고할 정보(DB, API, 검색엔진 등) 삽입
4) Task
수행하는 특정작업이나 목표
축구 선수들의 업적을 정리해줘
5) Policy
따라야할 규칙
EX)<긍정적인 부분>으로만 <논문어투>로 <1000토큰 미만으로> 작성해줘
6) Format
응답의 형식적인 구조 설정
EX) 파이썬의 리스트 형태로 출력해줘
7) Examples
원하는 응답의 예시를 추가로 제공
EX) 메시 : 발롱도르 8회 수상
반응형
