二、高级功能

发布于 2023-07-17 23:38:23 字数 11436 浏览 0 评论 0 收藏 0

使用状态保存数据：Gradio 支持 ”会话状态“，其中数据在页面加载中的多次提交中持续存在。会话状态对于构建演示很有用，例如，聊天机器人需要保留历史会话数据。请注意, 会话状态不会在模型的不同用户之间共享数据。

要将数据存储在会话状态中，你需要做三件事：

向函数中传递一个额外的参数，该参数表示 Interface 的状态。

在函数结束时, 将状态的更新后的值以额外的返回值来返回

在创建Interface时添加 state input 组件和 state output 组件。

例如下面的聊天机器人的例子：


xxxxxxxxxx
import random


import gradio as gr


def chat(message, history): # history 存储 Interface 的状态
    history = history or []
    if message.startswith("How many"):
        response = random.randint(1, 10)
    elif message.startswith("How"):
        response = random.choice(["Great", "Good", "Okay", "Bad"])
    elif message.startswith("Where"):
        response = random.choice(["Here", "There", "Somewhere"])
    else:
        response = "I don't know"
    history.append((message, response))
    return history, history # history 作为额外的返回值


iface = gr.Interface(
    chat,
    ["text", "state"],
    ["chatbot", "state"],
    allow_screenshot=False,
    allow_flagging="never",
)
iface.launch()

注意：可以给 state 参数（即， history 变量）传入一个默认值，作为 state 的初始值。

为输出结果提供解释：大多数机器学习模型都是黑盒子，函数的内部逻辑对终端用户是隐藏的。为了提高透明度，我们通过简单地将 Interface 类中的 interpretation 关键字设置为默认值，使得向模型添加解释变得非常容易。这允许你的用户理解输入的哪些部分负责输出。

示例：


xxxxxxxxxx
import requests
import tensorflow as tf


import gradio as gr


inception_net = tf.keras.applications.MobileNetV2()  # load the model


# Download human-readable labels for ImageNet.
response = requests.get("https://git.io/JJkYN")
labels = response.text.split("\n")


def classify_image(inp):
    inp = inp.reshape((-1, 224, 224, 3))
    inp = tf.keras.applications.mobilenet_v2.preprocess_input(inp)
    prediction = inception_net.predict(inp).flatten()
    return {labels[i]: float(prediction[i]) for i in range(1000)}


image = gr.Image(shape=(224, 224))
label = gr.Label(num_top_classes=3)


title = "Gradio Image Classifiction + Interpretation Example"
gr.Interface(
    fn=classify_image, inputs=image, outputs=label, interpretation="default", title=title
).launch()

通过提交一个输入，然后单击输出组件下的 Interpret 来测试解释功能。

除了 Gradio 提供的 default 解释方法之外，你还可以为 interpretation 参数指定 shap，并设置 num_shap 参数。这使用基于Shapley 的解释。最后，还可以将自己的解释函数传入 interpretation 参数。

Blocks：Blocks 是底层的 API，它和 Interface 的区别在于：
- Interface：高级 API，让你只需提供 input 和 output 组件，即可创建完整的机器学习演示。
- Block ：低级 API，它允许你完全控制你的应用程序的数据流和布局。
为什么要用 Block ？虽然 Interface API 非常易于使用，但是缺乏 Blocks API 提供的灵活性。例如：
- 将一组演示整合成 web application 中的多个选项卡。
- 更改 demo 的布局，例如，指定 input 组件和 output 组件的位置。
- 具有 multi-step 的接口，其中一个模型的输出作为下一个模型的输入，或者通常具有更灵活的数据流。
- 根据用户输入来调整组件的属性（如下拉列表的选项）、或可见性。
简单的示例：
```
xxxxxxxxxx
import gradio as gr


def flip_text(x):
    return x[::-1]


demo = gr.Blocks()
with demo:
    gr.Markdown(
    """
    # Flip Text!
    Start typing below to see the output.
    """
    )
    input = gr.Textbox(placeholder="Flip this text")
    output = gr.Textbox()
    input.change(fn=flip_text, inputs=input, outputs=output) # input 的 change 事件触发器


demo.launch()
```
上述简单示例介绍了 block 的 4 个基本概念：
- block 允许你允许你构建结合了 markdown 、HTML 、button、以及交互组件的 web 应用程序，只需实例化这些组件。
  实例化组件的顺序很重要，因为每个元素都按照创建的顺序呈现到 web 应用程序中。更复杂的布局将在接下来讨论。
- 你可以在代码中的任何位置定义常规 Python 函数, 并使用block在用户输入的情况下运行它们。如示例中的 flip_text 函数。你可以编写任何 Python 函数, 从简单的计算到处理机器学习模型预测。
- 你可以将事件指定给任何block组件。这将在组件被单击、被修改等情况下运行函数。当你分配一个事件时，你传入三个参数：
  - fn：事件发生时，应该被调用的函数。
  - inputs：被调用的输入组件（及其列表）
  - outputs：被调用的输出组件（及其列表）
  在上面的示例中，当名为 input 的 Textbox 中的值发生变化时，我们运行 flip_text() 函数。该事件读取input 组件中的值，将其作为参数传递给 flip_text()，然后该函数返回一个值从而被传递给名为 output 的 Textbox。
- block 会根据你定义的事件触发器自动确定组件是否应该是交互式的（接受用户输入）。在我们的示例中：
  - 第一个文本框是交互式的，因为它的值由 flip_text() 函数使用。
  - 第二个文本框不是交互式的，因为它的值从不用作输入。
  在某些情况下，你可能想要覆盖它。此时，你可以通过传递一个布尔值给组件的interactive参数。例如 gr.Textbox(placeholder="Flip this text", interactive=True)。

自定义布局：默认情况下，block 在单列中垂直呈现创建的组件。你可以通过使用 with gradio.Column(): 创建其他列或使用 with gradio.Row(): 创建其他行，从而在这些上下文中创建组件来改变这一点。注意：在 Column 下创建的任何组件都将垂直布局（这也是默认设置）；在 Row 下创建的任何组件都将水平布局。

最后，你还可以使用 with gradio.Tabs() 上下文管理器为你的 demo 创建选项卡。在此上下文中，你可以通过使用 gradio.TabItem(name_of_tab): 指定来创建选项卡的多个选项。在 gradio.TabItem(name_of_tab): 中创建的任何组件都会出现在该选项卡中。

示例：


xxxxxxxxxx
import numpy as np
import gradio as gr


demo = gr.Blocks()


def flip_text(x):
    return x[::-1]


def flip_image(x):
    return np.fliplr(x)


with demo:
    gr.Markdown("Flip text or image files using this demo.") # 一个 Markdown 组件
    with gr.Tabs(): # 一个选项卡
        with gr.TabItem("Flip Text"):
            with gr.Row(): # 一行
                text_input = gr.Textbox()
                text_output = gr.Textbox()
            text_button = gr.Button("Flip")
        with gr.TabItem("Flip Image"):
            with gr.Row():
                image_input = gr.Image()
                image_output = gr.Image()
            image_button = gr.Button("Flip")


    text_button.click(flip_text, inputs=text_input, outputs=text_output)
    image_button.click(flip_image, inputs=image_input, outputs=image_output)


demo.launch()

探索事件和状态：正如你可以控制布局一样， block 可以让你对触发函数调用的事件进行细粒度控制。每个组件和许多布局都有它们支持的特定事件。例如。 Textbox 组件有两个事件：
- change() ：当文本框内的值发生变化时，该事件发生。
- submit() ：当用户焦点在文本框时且按下 enter 键，则该事件发生。
更复杂的组件可以有更多的事件。例如，Audio组件也有单独的事件，用于播放、清除、暂停音频文件等。
你可以将事件触发器附加到这些事件中的一个或多个。你可以通过在组件实例中调用事件名称作为函数来创建一个事件触发器。例如 textbox.change(...) 或 btn.click(...)。如前所述, 该函数接受三个参数：
- fn：当该事件发生时需要回调的函数。
- inputs：组件（及其列表），其值应作为 fn 函数的输入参数提供。每个组件的值按顺序映射到相应的函数参数。如果 fn 函数不带任何参数，则此参数可以为 None 。
- outputs：应根据函数返回的值更新其值的组件（及其列表）。每个返回值按顺序设置相应组件的值。如果 fn 函数不返回任何内容，则此参数可以为 None 。
你甚至可以使输入和输出组件成为同一个组件，如：
```
xxxxxxxxxx
import gradio as gr


api = gr.Interface.load("huggingface/EleutherAI/gpt-j-6B")


def complete_with_gpt(text):
    # Use the last 50 characters of the text as context
    return text[:-50] + api(text[-50:])


with gr.Blocks() as demo:
    textbox = gr.Textbox(placeholder="Type here and press enter...", lines=4)
    btn = gr.Button("Generate")
    btn.click(complete_with_gpt, textbox, textbox)


demo.launch()
```

创建多步骤的演示：在某些情况下, 您可能需要一个多步骤的演示，其中复用一个函数的输出作为下一个函数的输入。使用 block 很容易做到这一点，因为你可以使用某个组件作为一个事件触发器的输入，但作为另一个事件触发器的输出。

例如：一个文本组件，它的值是语音到文本模型的结果，但也被传递到情感分析模型中：


xxxxxxxxxx
from transformers import pipeline
import gradio as gr


asr = pipeline("automatic-speech-recognition", "facebook/wav2vec2-base-960h")
classifier = pipeline("text-classification")


def speech_to_text(speech):
    text = asr(speech)["text"]
    return text


def text_to_sentiment(text):
    return classifier(text)[0]["label"]


demo = gr.Blocks()


with demo:
    audio_file = gr.Audio(type="filepath")
    text = gr.Textbox()
    label = gr.Label()


    b1 = gr.Button("Recognize Speech")
    b2 = gr.Button("Classify Sentiment")


    b1.click(speech_to_text, inputs=audio_file, outputs=text)
    b2.click(text_to_sentiment, inputs=text, outputs=label)


demo.launch()

更新组件的属性：到目前为止，我们已经了解了如何创建事件来更新另一个组件的值。但是，如果你想更改组件的其他属性（例如文本框的可见性），那么你可以通过返回组件类的 update() 方法而不是返回常规的返回值来做到这一点。

示例：


import gradio as gr


def change_textbox(choice):
    if choice == "short":
        return gr.Textbox.update(lines=2, visible=True)
    elif choice == "long":
        return gr.Textbox.update(lines=8, visible=True)
    else:
        return gr.Textbox.update(visible=False)


with gr.Blocks() as block:
    radio = gr.Radio(
        ["short", "long", "none"], label="What kind of essay would you like to write?"
    )
    text = gr.Textbox(lines=2, interactive=True)


    radio.change(fn=change_textbox, inputs=radio, outputs=text)
    block.launch()

分享到QQ

分享到微博