LLM 4

[7-8일차 OpenAI API 대화와 구조화 / OpenAI API 멀티모달 기능 활용 ]

[7일차 4.4~4.5절 (128p ~ 143p)] AI가 이전 대화 내용을 기억하게 하기 위해서는? => 대화 기록을 append 메서드를 사용하여 리스트에 쌓아나간다.  시스템 프롬포트를 통해 원하는 조건을 작성한다. 사용자가 입력한 질문은 conversation_history에 추가(append)하고, 돌아온 답도 conversation_history에 추가하여 저장한 덕에 사용자가 이전에 입력한 정보를 기억할 수 있게되었다.   처음에 시스템 프롬프트에 적어둔 "세상에서 가장 예쁜 사람이 백설공주"라는 항목과 "사용자의 기분을 맞춰주기 위해 거짓말도 할 줄 알아야합니다."라는 항목에 맞게 결과를 출력한다. 시스템 프로프트에 적기 적절한 것 대화의 맥락AI가 따라야 할 지침말투퍼소나 JSON 모드모..

LLM 2025.03.30

[5-6일차 프롬프트 엔지니어링 심화/ OpenAI API 시작하기]

[5일차 3.5~3.8절 (82p~93p)] 예를 몇 개 드는지에 따라제로샷 : 예를 들지 않음원샷 : 예를 한 번만 보임퓨삿 : 예를 몇 개 보임매니샷: 수백 ~ 수천 개의 예시를 사용원샷 프롬프팅 방법시스템 메세지를 입력한다채팅창에 사용자 메세지 예를 입력한다어시스턴트 메세지 예를 additional messages란에 입력한다사용자가 실제 작업을  시킬 텍스트를 chat란에 입력한 후 전송한다원샷에서 해라 체를 사용할 경우 원하는 결과를 얻지 못함을 확인할 수 있다. 퓨삿 원하는 결과를 얻을 수는 있지만, 프롬포트가 길어진다  수행 단계 나누기: 규모가 크고 성능이 높은 모델 -> 사용료가 비쌈 => 저렴한 모델로 작업을 두세 단계로 나눠서 응답 프롬포트 연쇄작업 단계를 나누어 한 단계씩 질의응답하..

LLM 2025.03.23

[3-4일차 LLM 기본 개념과 매개변수/ 프롬프트 엔지니어링 기초]

[ 3일차 2.4~2.6절 (28p~43p)] 프롬포트 예제 페이지에서 하나를 선택해서 들어오면 예제 프롬포트가 채워진 상태로 playground 페이지가 열려있는걸 확인할 수 있다.   run버튼을 누름으로써 쉽게 문법을 정정할 수 있다.   토큰 텍스트를 이루는 작은 단위 (한 단어, 한 글자가 될 수도 있고 토큰 두 개가 모여서 한 글자가 되기도 함)텍스트를 더 작은 구성 요소로 나누는 단위토큰화 과정을 통해 텍스트 데이터 분석하거나 언어 모델 훈련할 때 데이터를 처리하기 쉬운 형태로 변환토큰화 방법공백 기준문자 단위 , 형태소 단위titoken이라는 토큰화기를 사용하는데 tokenizer를 사용해 텍스트를 토큰이 구분되는지를 확인 가능많은 토큰을 처리하면 응답도 느려짐   Temperature ..

LLM 2025.03.18

[1-2일차 LLM API 프로그래밍 개요/ OpenAI 플레이그라운드 기초]

2p ~ 27p 까지 학습함 프롬포트 엔지니어링 : LLM에게 효과적인 지시나 질문을 제공해 우수한 성능을 끌어내는 기술  LLM API를 활용하여 개발하려면 어떤 모델을 선택할 지 신중히 고르기 ✔️ 전반적인 성능과 응답 속도✔️ 세부 태스크별 성능(대화, 질의응답, 요약, 번역)✔️ 최대 토큰 수✔️ 지원 언어 및 해당 언어에서의 성능✔️ 과금방식✔️ 특화 기능 ✔️ 데이터 프라이버시 및 보안 정책 ...  openAI 플레이그라운드를 통해 LLM을 배운다하여 가입하고 간단한 기능들을 써보았다   API를 사용할만큼 선불로 결제를 하고 이용하는 시스템이라고 하고, 자주 API에 대해 이야기하기에 API에 대해 물어보았다.   API는 소프트웨어 간에 데이터를 주고받거나 기능을 사용할 수 있도록 해주는..

LLM 2025.03.18