Skip to content

wenet-e2e/heros

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

224 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

HerOS

HerOS - Sensation and action in every conversation.

HerOS 的灵感来自电影《HER》。目标是做一个接近电影中 HER 形态的语音助理:既能进行有深度、自然、连续的对话,也能在需要时帮用户完成任务。

产品定义

  • HerOS 是一个语音优先的个人助理,核心体验是“直接说话”。
  • 产品形态参考电影《HER》:它应该像一个可以长期相处的智能存在,而不是传统命令式工具。
  • HerOS 既要能聊得有深度,也要能把对话中的意图转化为实际任务执行。
  • 桌面优先,同时支持移动端;Web 不作为第一形态。
  • MVP 聚焦「实时语音交互 + 深度对话 + 异步任务执行」。

系统设计

HerOS 采用 Interaction Model + Background Model 架构:

  • Realtime Interaction Model:负责实时语音交互、轻量回应、打断处理和上下文承接。
  • Background LLM/Agent:负责任务判断、技能选择、工具调用、提醒创建、记忆管理和长任务。
  • Shared Context:Interaction Model 和 Background LLM/Agent 共享上下文;任务通过 realtime function call 交给后台,后台结果再交回 Interaction Model 自然播报。

Interaction model and background model reference

参考图来自 Thinking Machines Lab 的 Interaction Models: A Scalable Approach to Human-AI Collaboration 中的 System overview。

详细架构见 docs/system-design.md

功能说明

  • 深度对话:支持自然、连续、有上下文的语音交流。
  • 端到端语音(realtime)交互:打开后直接说话,支持打断和连续对话。
  • 任务执行:Realtime 先自然承接,再通过 handoff_to_background 把任务交给 Background LLM/Agent 执行。
  • 技能系统:用可发现的技能定义组织提醒、记忆等任务能力,由 Background LLM/Agent 统一选择和调度。
  • 提醒能力(MVP):识别提醒意图,创建、查询、修改、取消提醒,并语音确认。
  • 无界面 CLI 先行:先验证 realtime 语音、上下文、后台任务和提醒闭环,再进入桌面界面。
  • 极简界面:桌面阶段主界面只展示核心状态反馈,让注意力回到语音关系本身。
  • 长期记忆:维护必要的长期记忆,让对话和任务体验具备连续性。

安装与运行

HerOS 当前是 Phase 1 无界面 CLI 版本。

安装依赖:

npm install
brew install sox

配置 .env.local

DASHSCOPE_API_KEY=your_dashscope_api_key
HEROS_REALTIME_MODEL=qwen3.5-omni-plus-realtime
HEROS_BACKGROUND_MODEL=qwen3.7-plus
HEROS_REALTIME_VOICE=Cindy

检查环境:

npm run preflight
npm run doctor

启动连续语音模式:

npm run voice

常用 CLI:

npm run status
npm run cli
npm run realtime -- "你好"
npm run task -- "明天九点提醒我喝水"
npm run skills

添加自定义技能:

.heros/skills/<skill_id>/SKILL.md

SKILL.md 使用标准技能形式:YAML frontmatter 中至少包含 namedescription,正文是技能说明。详细说明见 docs/custom-skills.md

About

HerOS — Sensation and action in every conversation.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors