正确使用 fmin_l_bfgs_b 拟合模型参数

Question

我有一些实验数据（对于 y、x、t_exp、m_exp），并且想要使用 约束多元 BFGS 方法。参数E必须大于0，其他无限制。

def func(x, A, B, C, D, E, *args):
    return A * (x ** E) * numpy.cos(t_exp) * (1 - numpy.exp((-2 * B * x) / numpy.cos(t_exp))) +  numpy.exp((-2 * B * x) / numpy.cos(t_exp)) * C + (D * m_exp)

initial_values = numpy.array([-10, 2, -20, 0.3, 0.25])
mybounds = [(None,None), (None,None), (None,None), (None,None), (0, None)]
x,f,d = scipy.optimize.fmin_l_bfgs_b(func, x0=initial_values, args=(m_exp, t_exp), bounds=mybounds)

有几个问题：

1. 我的模型公式 func 应该包含我的自变量 x 还是应该从实验数据 x_exp 中提供作为 x_exp 的一部分>*args？
2. 当我运行上面的代码时，出现错误 func() 需要至少 6 个参数（给定 3 个），我假设是 x，以及我的两个 *args... 我应该如何定义 <代码>函数？

编辑：感谢@zephyr的回答，我现在明白目标是最小化残差平方和，而不是实际函数。我得到了以下工作代码：

def func(params, *args):
    l_exp = args[0]
    s_exp = args[1]
    m_exp = args[2]
    t_exp = args[3]
    A, B, C, D, E = params
    s_model = A * (l_exp ** E) * numpy.cos(t_exp) * (1 - numpy.exp((-2 * B * l_exp) / numpy.cos(t_exp))) +  numpy.exp((-2 * B * l_exp) / numpy.cos(theta_exp)) * C + (D * m_exp)
    residual = s_exp - s_model
    return numpy.sum(residual ** 2)

initial_values = numpy.array([-10, 2, -20, 0.3, 0.25])
mybounds = [(None,None), (None,None), (None,None), (None,None), (0,None)]

x, f, d = scipy.optimize.fmin_l_bfgs_b(func, x0=initial_values, args=(l_exp, s_exp, m_exp, t_exp), bounds=mybounds, approx_grad=True)

我不确定边界是否正常工作。当我为 E 指定 (0, None) 时，我得到运行标志 2，异常终止。如果我将其设置为 (1e-6, None)，它运行正常，但选择 1e-6 作为 E。我是否正确指定了边界？

Answer 1

我不想尝试弄清楚您正在使用的模型代表什么，所以这里有一个适合线条的简单示例：

x_true = arange(0,10,0.1)
m_true = 2.5
b_true = 1.0
y_true = m_true*x_true + b_true

def func(params, *args):
    x = args[0]
    y = args[1]
    m, b = params
    y_model = m*x+b
    error = y-y_model
    return sum(error**2)

initial_values = numpy.array([1.0, 0.0])
mybounds = [(None,2), (None,None)]

scipy.optimize.fmin_l_bfgs_b(func, x0=initial_values, args=(x_true,y_true), approx_grad=True)
scipy.optimize.fmin_l_bfgs_b(func, x0=initial_values, args=(x_true, y_true), bounds=mybounds, approx_grad=True)

第一个优化是无界的，并给出了正确的答案，第二个优化尊重阻止它的边界达到正确的参数。

您错误的重要一点是，对于几乎所有优化函数，“x”和“x0”指的是您正在优化的参数 - 其他所有内容都作为参数传递。同样重要的是，您的 fit 函数返回正确的数据类型 - 这里我们需要一个值，一些例程需要一个错误向量。此外，除非您想分析计算梯度并提供它，否则您还需要 approx_grad=True 标志。