上下文管理是對(duì)話式 AI 的記憶中樞，需通過技術(shù)方案（RAG、結(jié)構(gòu)化記憶）與優(yōu)化策略 （意圖過濾、動(dòng)態(tài)裁剪）解決連貫性、資源消耗與準(zhǔn)確性的三角平衡問題。

聲網(wǎng)對(duì)話式 AI 引擎采用的方案是通過結(jié)構(gòu)化短期記憶+動(dòng)態(tài)長期記憶注入，在保障兼容性的同時(shí)，針對(duì)實(shí)時(shí)語音交互場(chǎng)景（尤其中斷處理）進(jìn)行深度優(yōu)化，并賦予開發(fā)者高度靈 活的上下文控制權(quán)限。

1．短期記憶機(jī)制

短期記憶（Short-term Memory）是智能體在當(dāng)前會(huì)話中臨時(shí)保存和處理的信息空間。 用戶和對(duì)話式智能體互動(dòng)期間，智能體會(huì)在短期記憶中緩存當(dāng)前對(duì)話的上下文，確保智能體 能夠連貫地理解和回應(yīng)用戶的連續(xù)輸入。

對(duì)話式 AI 引擎整體短期記憶會(huì)以 JSON 的形式存儲(chǔ)，遵循 OpenAI Chat Completions 的規(guī)則，同時(shí)進(jìn)行了部分的擴(kuò)展。

2．短期記憶的獲�。�

◇ 智能體運(yùn)行期間，調(diào)用 GET 獲取智能體短期記憶接口獲取短期記憶 JSON。該接 口會(huì)得到智能體生命周期內(nèi)儲(chǔ)存的完整的短期記憶。

◇ 智能體停止后，聲網(wǎng)會(huì)通過消息通知服務(wù)將短期記憶回調(diào)至你的業(yè)務(wù)服務(wù)器，詳見 消息通知事件類型。

3．固化和注入長期記憶：

智能體的短期記憶會(huì)隨智能體停止而消失，你可以在智能體停止后，將短期記憶儲(chǔ)存到 你的服務(wù)器以固化為長期記憶，之后在創(chuàng)建智能體時(shí)通過 llm.system_messages 直接注入 原始記憶內(nèi)容或經(jīng)過總結(jié)的記憶內(nèi)容，從而實(shí)現(xiàn)在智能體退出或重啟后仍然能夠訪問和使用 這些數(shù)據(jù)。

以下示例展示了通過 system_messages 注入經(jīng)過總結(jié)的記憶內(nèi)容：