Khám phá cách Temperature và Top-P định hình câu trả lời của AI.
Temperature điều chỉnh sự "sáng tạo" của mô hình. Giá trị thấp làm cho các từ có xác suất cao được ưu tiên tuyệt đối (kết quả dễ đoán). Giá trị cao làm phẳng sự phân bổ xác suất, cho phép các từ hiếm hơn có cơ hội được chọn (kết quả ngẫu nhiên hơn).
Top-P (Nucleus Sampling) lọc ra các từ có xác suất thấp. Mô hình chỉ xem xét nhóm từ nhỏ nhất có tổng xác suất tích lũy lớn hơn giá trị Top-P. Điều này giúp loại bỏ các lựa chọn không liên quan, đặc biệt khi Temperature cao.