AWS SDK Ruby 中使用 Nova Sonic 双向流式调用的实践指南

背景介绍

AWS Ruby SDK 近期新增了对 Nova Sonic 模型双向流式调用的支持，这为开发者提供了更高效的实时交互能力。本文将详细介绍如何在 Ruby 项目中正确实现这一功能。

核心问题解析

许多开发者在尝试使用 invoke_model_with_bidirectional_stream 方法时遇到了参数验证错误，这主要是因为：

1. 该方法仅适用于 AsyncClient 而非标准 Client
2. 事件流处理器的配置方式较为特殊
3. 输入事件的格式要求严格

正确实现方案

1. 初始化异步客户端

首先需要创建 AsyncClient 实例，并启用 ALPN 协议：

async_client = Aws::BedrockRuntime::AsyncClient.new(
  region: 'us-east-1', 
  enable_alpn: true
)

2. 创建输入输出流处理器

input_stream = Aws::BedrockRuntime::EventStreams::InvokeModelWithBidirectionalStreamInput.new
output_stream = Aws::BedrockRuntime::EventStreams::InvokeModelWithBidirectionalStreamOutput.new

3. 配置输出流处理器

output_stream.on_event do |event|
  puts "收到响应事件: #{event}"
end

4. 发起双向流调用

async_resp = async_client.invoke_model_with_bidirectional_stream(
  model_id: "amazon.nova-sonic-v1:0",
  input_event_stream_handler: input_stream,
  output_event_stream_handler: output_stream
)

事件流构建详解

Nova Sonic 需要按照特定顺序发送事件：

会话初始化事件

session_start = {
  event: {
    sessionStart: {
      inferenceConfiguration: {
        maxTokens: 10000,
        topP: 0.95,
        temperature: 0.9
      }
    }
  }
}.to_json

提示配置事件

prompt_start = {
  event: {
    promptStart: {
      promptName: "唯一提示ID",
      textOutputConfiguration: { mediaType: "text/plain" },
      audioOutputConfiguration: {
        mediaType: "audio/lpcm",
        sampleRateHertz: 24000,
        sampleSizeBits: 16,
        channelCount: 1,
        voiceId: "en_us_matthew",
        encoding: "base64",
        audioType: "SPEECH"
      },
      toolUseOutputConfiguration: { mediaType: "application/json" },
      toolConfiguration: { tools: [] }
    }
  }
}.to_json

音频流处理

对于音频输入，需要分块发送：

audio_event_template = {
  event: {
    audioInput: {
      promptName: "唯一提示ID",
      contentName: "唯一内容ID",
      content: "%s",  # 将被替换为base64编码的音频块
      role: "USER"
    }
  }
}.to_json

File.open("音频文件路径", 'rb') do |f|
  while (chunk = f.read(1024))
    encoded_chunk = Base64.strict_encode64(chunk)
    input_stream.signal_chunk_event(bytes: audio_event_template % encoded_chunk)
  end
end

最佳实践建议

1. 异常处理：确保为事件流添加错误处理回调
2. 资源清理：使用完毕后及时关闭流连接
3. 性能优化：根据网络状况调整音频分块大小
4. 会话管理：合理设计会话ID生成策略

常见问题排查

如果遇到参数验证错误，请检查：

• 是否使用了 AsyncClient 而非标准 Client
• 事件格式是否符合规范
• 是否所有必填字段都已提供

通过以上方法，开发者可以充分利用 Nova Sonic 的双向流式能力，构建高效的实时语音交互应用。