Method processResponse

gpt/chat.py:209–236

:param response: :return: result id: 请求的ID object：返回的对象类型（例如，chat.completion） created: 请求的时间戳 model：用于生成 response 的模型的全名 usage：用于生成回复、对prompt计数、完成completion 的 总计使用的 token 数 choices：completion 的列表（只有一个，除非将 n 设置为大

(self, response)

                return ""

    def processResponse(self, response):
        """
        :param response:
        :return: result
            id: 请求的ID
            object：返回的对象类型（例如，chat.completion）
            created: 请求的时间戳
            model：用于生成 response 的模型的全名
            usage：用于生成回复、对prompt计数、完成completion 的 总计使用的 token 数
            choices：completion 的列表（只有一个，除非将 n 设置为大于 1）
            message：模型生成的消息对象，有role和content
            finish_reason：模型停止生成文本的原因（如果达到 max_tokens 限制，则为 stop 或 length）
            index: completion在 choices 列表中的索引
        """
        result = response['choices'][0]['message']['content']
        completion_tokens = response['usage']['completion_tokens']
        prompt_tokens = response['usage']['prompt_tokens']
        total_tokens = response['usage']['total_tokens']
        finish_reason = response['choices'][0]['finish_reason']
        index = response['choices'][0]['finish_reason']
        if total_tokens > self.MAX_TOKEN:
            logging.error("the input token exceed the max token.")
        logging.info("the token cost" + str(
            {"completion_tokens": completion_tokens,
             "prompt_tokens": prompt_tokens,
             "total_tokens": total_tokens,
             "finish_reason": finish_reason}))
        return result

    def num_tokens_from_messages(self, messages):
        """Returns the number of tokens used by a list of messages."""