ํต์ฌ๋ก
newrelic.agent.record_llm_feedback_event(trace_id, rating, category=None, message=None, metadata=None)AI ํ๋ฌ๊ทธ์ธ ๋ฒ์ (LLM)์ ๋ํ ์ฌ์ฉ์ ์ ์ ํผ๋๋ฐฑ ์ด๋ฒคํธ๋ฅผ ๊ธฐ๋กํฉ๋๋ค.
์๊ตฌ ์ฌํญ
Python ์์ด์ ํธ ๋ฒ์ 9.8.0 ์ด์.
์ค๋ช
์ด API ๋ด๋ ๋ฆญ UI ์์ ์กฐํ ๋ฐ ์ฟผ๋ฆฌํ ์ ์๋ ํผ๋๋ฐฑ ์ด๋ฒคํธ LlmFeedbackMessage ๋ฅผ ๊ธฐ๋กํฉ๋๋ค. ํผ๋๋ฐฑ ์ด๋ฒคํธ๋ AI๊ฐ ์์ฑํ ๋ฉ์์ง์ ์ต์ข
์ฌ์ฉ์๊ฐ ์ด์ ๋ํด ์ ์ถํ ํผ๋๋ฐฑ ์ฌ์ด์ ํธ๋ ์ด์ค ID๋ฅผ ์ฐ๊ด์ํต๋๋ค. ๋ฉ์์ง๋ฅผ ํผ๋๋ฐฑ๊ณผ ์ฐ๊ด์ํค๋ ค๋ฉด AI ๋ฉ์์ง๋ฅผ ์์ฑํ๋ ํธ์ถ ์งํ์ current_trace_id ์ ๋ํ ํธ์ถ์ ํตํด ํ์ฑ ํ๋ก์ธ์์ ํธ๋ ์ด์ค ID๋ฅผ ์ป์ ์ ์์ต๋๋ค. ๋์ค์ ์ฌ์ฉ์๊ฐ ํผ๋๋ฐฑ์ ์ ๊ณตํ ๋ ํธ๋ ์ด์ค ID๋ฅผ ํผ๋๋ฐฑ ํธ์ถ์ ์ ๋ฌํฉ๋๋ค.
๋ง์ ๊ฒฝ์ฐ AI ๋ฉ์์ง์ ์๋ํฌ์ธํธ๋ ํผ๋๋ฐฑ ์๋ํฌ์ธํธ์ ๋ค๋ฅธ ์์น์ ๊ธฐ๋ก๋ฉ๋๋ค. ์ด๋ฌํ ํ์์ ๋ค๋ฅธ ๋ฐ์คํฌํ์์ ๋ฐ์ํ ์ ์์ต๋๋ค. ๋ค์ ์ฌํญ์ด ์ค์ํฉ๋๋ค.
- AI ๋ฉ์์ง๋ฅผ ์์ฑํ๋ ํค๋ํฌ์ธํธ ๋ด๋ถ์ ํธ๋ ์ด์ค ID๊ฐ ์บก์ณ๋์ด ์๋์ง ํ์ธํ์ธ์.
- ํผ๋๋ฐฑ์ ๊ธฐ๋กํ๋ PointPoint ๋ด๋ถ์ ํด๋น ํธ๋ ์ด์ค ID๋ฅผ ์ ๋ฌํฉ๋๋ค.
๋งค๊ฐ๋ณ์
๋งค๊ฐ๋ณ์ | ์ค๋ช |
|---|---|
๋ | ํ์์. ํผ๋๋ฐฑ ๊ด๋ จ ์ฑํ
์๋ฃ๊ฐ ๋ฐ์ํ ํธ๋ ์ด์ค์ ID์
๋๋ค. ์ด ID๋ |
๋ฌธ์์ด ๋๋ ์ ์ | ํ์์. ์ต์ข ์ฌ์ฉ์๊ฐ ์ ๊ณตํ ํ๊ฐ(์: '์ข์/๋์จ', '1-10') |
๋ | ์ ํ ๊ณผ๋ชฉ. ์ต์ข ์ฌ์ฉ์๊ฐ ์ ๊ณตํ ํผ๋๋ฐฑ ์นดํ ๊ณ ๋ฆฌ(์: "์ ์ตํจ", "๋ถ์ ํํจ") |
๋ | ์ ํ ๊ณผ๋ชฉ. ์ต์ข ์ฌ์ฉ์์ ์์ ํ์ ํ ์คํธ ํผ๋๋ฐฑ์ ๋๋ค. |
๋์ ๋๋ฆฌ | ์ ํ ๊ณผ๋ชฉ. ํผ๋๋ฐฑ ์ด๋ฒคํธ์ ํจ๊ป ์ ์ถํ ๊ธฐํ ์ํ๋ ๋ฐ์ดํฐ๋ฅผ ์ ์ฅํ๋ ํต์ฌ ๊ฐ์น ์ ์ธํธ์ ๋๋ค. |
๋ฐํ ๊ฐ
์์.
์
ํธ๋ ์ด์ค ID ํ๋ ๋ฐ ํผ๋๋ฐฑ ๊ธฐ๋ก
ํผ๋๋ฐฑ ์ด๋ฒคํธ ๊ธฐ๋ก์ ์:
import newrelic.agent
def get_message(request): trace_id = newrelic.agent.current_trace_id()
def post_feedback(request): newrelic.agent.record_llm_feedback_event(trace_id=request.trace_id, rating=request.rating, metadata= {"my_key": "my_val"})