OpenSpiel中Negotiation游戏的确定性状态问题解析

背景介绍

在OpenSpiel游戏框架中，Negotiation（谈判）游戏是一个模拟谈判过程的策略环境。开发者在使用过程中发现了一个有趣的现象：尽管期望游戏初始状态应该是随机的，但实际运行时却总是返回相同的状态。这种现象背后涉及OpenSpiel框架中随机数生成机制的实现细节。

问题现象

当开发者使用以下代码创建Negotiation游戏状态时：

game = pyspiel.load_game("negotiation")
state = game.new_initial_state()
if state.is_chance_node():
    outcomes_with_probs = state.chance_outcomes()
    action_list, prob_list = zip(*outcomes_with_probs)
    action = np.random.choice(action_list, p=prob_list)
    state.apply_action(action)
    print(state)

每次运行都会得到相同的初始状态，这与期望的随机行为不符。

技术原理

这种现象源于OpenSpiel框架中两种不同的机会节点处理模式：

1. 显式随机模式(kExplicitStochastic)：在这种模式下，机会节点会明确列出所有可能的结果及其概率分布。开发者需要显式地选择并应用一个随机动作。

2. 隐式随机模式(kSampledStochastic)：随机性在应用动作时内部处理，游戏对象内部维护随机数生成器(RNG)。

Negotiation游戏采用的是隐式随机模式。在这种模式下：

• 游戏初始化时只有一个机会结果
• 实际的随机性在应用动作时由游戏内部的RNG处理
• 如果没有指定随机种子(rng_seed)，游戏会使用默认的梅森旋转算法(Mersenne Twister)生成器
• 默认种子(-1)会导致每次运行产生相同的随机序列

解决方案

开发者可以通过以下方式解决这个问题：

1. 指定随机种子：在加载游戏时明确设置随机种子，确保每次运行产生不同的随机序列。

game = pyspiel.load_game("negotiation(rng_seed=3279011)")

2. 使用Bargaining游戏：如果需要显式随机模式，可以考虑使用OpenSpiel中的"bargaining"游戏，它采用了显式随机机会节点模式。

最佳实践

在使用OpenSpiel框架时，开发者应当注意：

1. 游戏对象只需加载一次，可以重复使用来创建多个状态
2. 理解不同游戏的随机性处理模式差异
3. 需要真正的随机性时，务必指定随机种子
4. 考虑游戏设计时选择适合的随机模式

总结

OpenSpiel框架中Negotiation游戏的确定性状态行为是由其隐式随机模式实现方式导致的。理解这一机制有助于开发者正确使用游戏框架，并根据需要选择合适的随机性控制方式。对于需要显式随机行为的场景，开发者可以选择指定随机种子或改用其他游戏类型。