LLM, 어떻게 쓰고 계신가요? 아마 웹이나 앱을 다운받아서 쓰는 경우가 많으실텐데요. 모델을 좀 더 심도깊게 쓸 수 있는 방법이 있습니다. 바로 Playground를 이용하는 것입니다. Playground로 들어가면 직접 모델을 선택할 수 있고, 각종 설정값(파라미터)를 조절하고, 프롬프트를 조금씩 바꿔가면서 답변을 비교해볼 수 있습니다. OpenAI의 ‘Playground’가 대표적이며, Claude는 Anthropic Console에서, 구글에서는 Google AI Studio에서 사용할 수 있습니다.
# AI 모델의 창의성을 끌어올리고 싶다면?
빈 화면을 켜놓고 하염없이 깜박이는 커서를 바라보며 느끼는 막막한 기분. 마케팅 문구를 만들어야 하는데, 아무런 아이디어가 떠오르지 않을 때. 플레이그라운드에서 여러 파라미터를 조절해가며 좀 더 창의적인 답변을 얻어보도록 하겠습니다.
OpenAI의 ‘Playground’에 들어가면(모델 사용시에 토큰당 비용이 발생하므로 1달러라도 충전을 해야합니다. 테스트용으로는 5달러만 충전해도 충분합니다.) 아래와 같이 모델 옆에 설정 버튼을 누르면 Temperature, Max tokens, Top P 등의 값을 조절할 수 있는 창이 뜹니다.
온도와 Top P, Max token 등에 대한 이론적 개념 설명은 링크를 참고해주시구요.
창의적인 답변을 끌어내고 싶을 때 사용하는 파라미터는 주로 ‘온도(Temperature)입니다. 온도 설정은 높이면 글이 창의적으로 변하고 낮추면 좀 더 뻔해집니다(정답에서 크게 벗어나지 않는다는 의미로).
동일한 프롬프트를 넣고, 온도를 제외한 모든 옵션은 동일하게 설정했을 때 결과가 어떻게 달라지는 지 보았습니다. 왼쪽이 온도가 0, 오른쪽이 온도가 1입니다.
프롬프트
# 역할
마케팅 전문가
# 작업 개요
도서를 소개하는 매력적인 마케팅 문구 5개를 작성해줘.
- 문구 하나당 20글자 이내로 작성
- 풍부한 상상력을 자극하는 창의적인 문구
# 도서 정보
-책 이름: 코스모스
-저자: 칼 세이건.
-책 소개: (예스24에서 책 소개 부분 긁어오기)
Top P의 값을 낮추면 안정적이고 제한된 예측 가능한 답변을 생성합니다. “안드로메다 은하에서 지구로 여행을 온 외계인이 사람을 납치한 뒤에 하는 말은?”을 물었습니다. 온도 0.1, Top p 0.1로 정석적인 답변을 유도했을 때는 정중하고 예의 바른 외계인의 답변을 내놓았는데요. 반대로 온도 0.9, top p 0.9로 높였을 때 답변은 온도와 top p가 낮을 때보다 더 참신합니다.
말도 안 되는 질문을 또 해봤습니다. “마법사가 죽음의 마법을 외칠 때 쓰는 주문”은 뭘까요? 온도와 top p를 높였을 때는 정말 아무 말이나 하는 것 같네요.
보통 웹에서 챗gpt를 사용할 때에는 온도와 top p의 값이 고정되어 있습니다. 공식적으로 공개된 값은 없지만, 많은 사람들이 추측하기로는 온도는 0.7~0.8, top-p=1로 추정하고요. 이렇게 파라미터를 직접 변경해보면 작업 특성에 맞는 최적의 파라미터값을 찾을 수 있습니다.
창의성보다는 자연스럽고 일관된 흐름이 중요한 번역에서는 어떨까요. 오징어 게임의 명대사를 영어로 한번 번역해보도록 했습니다. 번역은 딱딱하지 않으면서 동시에 자연스러운 표현이 중요하기 때문에 온도와 top p값을 여러 번 바꿔가며 테스트를 해야합니다. 온도와 top p를 모두 0.1로 뒀을 때보다 온도와 top p를 높였을 때 좀 더 풍부한 번역이 나오는 것을 볼 수 있습니다.
Temperature와 Top-P를 조합해 ‘톤앤매너’ 답변 필터 조절하기
이 파라미터들을 마케팅 관점에서 바라보면, 온도와 Top-P를 조절하여 원하는 답변의 톤앤매너를 만들어낼 수 있습니다. 인스타그램에서 사진을 올릴 때 필터를 선택하듯, AI의 답변에도 적절한 필터를 씌울 수 있습니다. 상냥하고 따뜻한 F감성 필터, 차갑지만 객관적 답변을 잘 하는 T 감성 필터처럼 말입니다.
정리하면,
온도(Temperature): AI의 창의성 범위를 조절합니다. 온도가 낮은 필터(0.1~0.3)는 마치 브랜드 가이드라인을 철저히 따르는 사람처럼 안전하고 일관된 메시지를 만듭니다.(완전 FM) 반면, 온도가 높은 필터(0.7~1.0)는 마치 브레인스토밍 세션에서 자유롭게 아이디어를 던지는 사람같이 독특하고 예상치 못한 표현을 제시합니다.
Top-P 필터: 이 필터는 AI가 사용할 어휘의 다양성을 제어합니다. Top-P 값이 낮으면(0.1~0.3) 핵심 메시지만을 강조하는 포커스 필터처럼 작동합니다. 핵심 키워드와 표현에 집중하는 것이죠. 높은 값(0.7~1.0)은 와이드 필터로, 다양한 표현과 비유를 통해 스토리를 풍성하게 만듭니다.
예를 들어 제품을 설명하는 문구를 작성해야 할 때에는 온도와 Top p를 낮춰 정확한 스펙과 기능을 전달하게 하는 것이 좋습니다. 반대로 브랜드 스토리텔링을 만든다면 둘다 높이는 게 좋겠죠? 고객 응대를 위한 시나리오를 쓴다면 낮은 온도와 중간 top p로 일관된 메시지를 받을 수 있게 하고요. 상황에 따라 필요로 하는, 또 작업에 따라 최적의 파라미터 값은 매번 다를 수 있습니다.
중요한 것은 답변에도 필터를 씌울 수 있고, 다양한 상황에 맞는 AI 답변을 생성할 수 있게 하는 것입니다. 또 나만의 시그니처 필터 설정을 만들어 두는 것도 좋겠죠. 정답은 없습니다. 여러분도 직접 값을 조정해가며 조금씩 차이를 느껴보시길 바랍니다.
이 내용은 AI 전문 뉴스레터 "AI안테나"에 실린 글을 토대로 재작성한 글입니다.
뉴스레터를 구독하시면 AI 소식들과 인사이트를 가장 빠르게 접할 수 있어요.
뉴스레터 구독은 이 링크로 들어와 주세요!
