pip install llm-cache-pro

from llm_cache import cached_call

@cached_call(provider="openai", model="gpt-4")
def ask_ai(question: str):
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": question}]
    )
    return response.choices[0].message.content

# Lần gọi đầu tiên: trả phí OpenAI
result1 = ask_ai("Thời tiết hôm nay thế nào?")

# Lần gọi thứ hai: miễn phí, lấy từ cache
result2 = ask_ai("Thời tiết hôm nay thế nào?")

from llm_cache import wrap_openai

with wrap_openai(client, ttl_days=7):
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": "Xin chào!"}]
    )

@cached_call(provider="openai", model="gpt-4")
def stream_response(prompt: str):
    return client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": prompt}],
        stream=True
    )

stats = cache.get_stats()
print(f"Đã tiết kiệm ${stats.total_savings:.2f} trong tháng này!")

@cached_call(ttl_days=30)
def answer_faq(question: str):
    return ask_ai(question)

@cached_call(ttl_days=7)
def generate_outline(topic: str):
    return ask_ai(f"Tạo đề cương cho: {topic}")

@cached_call(ttl_days=14)
def generate_boilerplate(language: str, framework: str):
    return ask_ai(f"Tạo mã mẫu {language} cho {framework}")