Function process_user_input

app.py:244–341

处理用户输入，根据用户输入内容调用相应的模型生成回复。 Args: prompt (str): 用户输入的内容。 model (str): 使用的模型名称。 tokenizer (object): 分词器对象。 llm: langchain包装的大模型 generation_config (dict): 生成配置参数。

(prompt,
                       model,
                       tokenizer,
                       llm,
                       generation_config)

def process_user_input(prompt,
                       model,
                       tokenizer,
                       llm,
                       generation_config):
    """
    处理用户输入，根据用户输入内容调用相应的模型生成回复。

    Args:
        prompt (str): 用户输入的内容。
        model (str): 使用的模型名称。
        tokenizer (object): 分词器对象。
        llm: langchain包装的大模型
        generation_config (dict): 生成配置参数。

    """

    # Check if the user input contains certain keywords
    keywords = ["怎么做", "做法", "菜谱"]
    contains_keywords = any(keyword in prompt for keyword in keywords)

    # Display user message in chat message container
    with st.chat_message("user", avatar=user_avatar):
        st.markdown(prompt)
    real_prompt = combine_history(prompt)

    # Add user message to chat history
    st.session_state.messages.append(
        {"role": "user", "content": prompt, "avatar": user_avatar})

    # If keywords are not present, display a prompt message immediately
    if not contains_keywords:
        with st.chat_message("robot", avatar=robot_avatar):
            st.markdown(error_response)
        # Add robot response to chat history
        st.session_state.messages.append(
            {"role": "robot", "content": error_response, "avatar": robot_avatar})
    else:
        # Generate robot response
        with st.chat_message("robot", avatar=robot_avatar):
            message_placeholder = st.empty()
            # print("prompt:", prompt)
            # print("real_prompt:", real_prompt)
            if enable_rag:
                cur_response = generate_interactive_rag(
                    llm=llm,
                    question=prompt,
                    verbose=verbose,
                )

                cur_response = cur_response.replace('\\n', '\n')

                # print(cur_response)
                if enable_markdown:
                    cur_response = return_final_md(cur_response)
                    # print('after markdown：', cur_response)
                message_placeholder.markdown(cur_response + "▌")
            else: