02 / REINFORCEMENT LEARNING
从尝试中,学会抵达。
在当前地图上训练真实的表格 Q-learning,查看奖励曲线与策略。
策略与价值地图
未训练↑ 箭头:当前最优动作绿色深浅:相对状态价值橙色:目标
训练回报
20 回合移动平均训练参数
0 / 1,000 回合
每步 −1,碰撞额外 −4,抵达 +100。每回合最多 300 步,探索率线性衰减至 0.05。重复训练从零开始。
—
尚未评估
训练成功率包含随机探索。评估采用 ε = 0 的确定性策略,检测重复状态并报告失败;不代表真实机器人性能。
实验建议:先在空白地图训练,再增加障碍物比较收敛速度。地图变化会清除旧策略。参数、随机种子和训练结果都可随策略文件导出。
03 / ROBOT MANIPULATION
把目标,变成动作。
用解析逆运动学控制双关节机械臂,完成一次抓取与放置。
机械臂工作空间
就绪 · 点击设置目标机械臂待抓取物体放置区
—
—
—cm
0
控制面板
点击画布设定末端目标;物体在橙色方块,放置区为蓝色方框。闭合夹爪时须距物体小于 10 cm,进入放置区后松开。
运动学说明
虚线环表示可达区域。目标超出可达范围时会明确提示,不会伪装成功。
x = L₁ cos θ₁ + L₂ cos(θ₁ + θ₂)
y = L₁ sin θ₁ + L₂ sin(θ₁ + θ₂)
本实验仅模拟平面运动学与距离判定抓取;不包含动力学、重力、碰撞或真实机械臂接口。
04 / EXPERIMENT NOTEBOOK
每一次探索,都有迹可循。
本机保存最近 100 次实验,导出 JSON 或 CSV 继续分析。
| 时间 | 实验 | 策略 / 参数 | 结果 | 步数 / 回合 | 备注 |
|---|
还没有实验记录。完成导航、训练或抓取后,结果会自动出现在这里。
数据保存在当前浏览器中。不同浏览器或移动 HTML 文件后可能使用不同的存储空间,重要实验请导出备份。
05 / QUICK START
三分钟,开始你的第一个实验。
一个 HTML 文件,一个完整的感知、决策与行动入门流程。
01 · 规划一条最短路径
- 打开「自主导航」,保持仓储通道与 A* 默认设置。
- 点击「开始运行」,观察路径与探索节点。
- 选择 BFS 重跑,对比规划时间与路径长度。
- 用障碍物工具拖动编辑地图;用起点、目标工具改变任务。
02 · 训练一个导航策略
- 导航地图会自动共享到「强化学习」。
- 点击「开始训练」,观察奖励移动平均与成功率。
- 点击「评估策略」,检查无探索时能否到达目标。
- 导出策略 JSON;在导航页面「载入环境 / 策略」可以恢复。
03 · 控制机械臂
- 点击画布,机械臂将移动到可达目标。
- 点击「自动抓取并放置」,观察接近、抓取、转移和释放。
- 调整臂长或肘部方向,比较不同的逆运动学解。
- 手动抓取:点击物体 → 闭合夹爪 → 点击放置区 → 松开夹爪。
实验边界与可复现性
导航使用已知完整地图与理想定位,四向移动、单位步长;没有相机、SLAM 或动力学仿真。Q-learning 是真实表格更新,固定地图、种子和参数可复现完整训练。
种子在「自主导航」设置,修改后点击「重建地图」生效。每次训练重新初始化随机数与 Q 表。机械臂为二维解析运动学,不连接硬件。
无需联网、服务器或第三方库。建议使用近期 Chrome、Edge、Safari 或 Firefox。所有实验都在当前设备运行,轻量训练会分批执行。
快捷键:在自主导航页面用方向键手动移动;空格开始 / 暂停自动导航。编辑输入框时不拦截按键。环境与策略支持文件导入导出,实验记录会尽力自动保存。