Files
GenericAgent/memory/ljqCtrl_sop.md
T
dd3xp b1352f2de1 chore: sync framework to upstream lsdefine/GenericAgent @ b365945
上次同步点是 1eb8c4c (我们 fork 上为 8f89766),lsdefine 自那以来 102 个

commit,包括飞书 IM 插件、TUI v2 修、conductor OOP 重构、L4 scheduler

mkdir 修复、checklist 系统、computer_use SOP 等。

处理分桶:

  - 45 个 lsdefine-only 文件:整文件覆盖(safe,无我方改动)

  - 17 个 ours-only 文件:完全保留(桌面前端 + bridge + plan_state)

  - 4 个双方都动:逐个 3-way 合

      * .gitignore: 取并集(lsdefine 新增 + 我们 /BUG_*.md)

      * reflect/scheduler.py: 已字节对齐 lsdefine,无操作

      * frontends/conductor.py: lsdefine OOP 重构作 base,我们 6 处

          改动(CORS / add_chat files+images / cost_tracker / token-stats

          / WS running / WS receive files+images)原样塞进新结构

      * frontends/conductor.html: lsdefine 重组作 base,我们 40 行

          输入字数限制 + toast 原样塞进 keydown 监听之后

未触动 desktop_bridge.py(memory 规则约定 exclude bridge)。

已 grep 全文件无 <<<<<< / ======= / >>>>>> 冲突标记残留。

我们改动一行未漏,全部按原代码原文落实,没有自创新代码。
2026-06-06 23:05:59 +08:00

3.1 KiB
Raw Blame History

ljqCtrl 使用与坐标转换 SOP

must call update working ckp:一律使用物理坐标|禁pyautogui|操作前先激活窗口

0. API 快速参考 (Signatures)

  • ljqCtrl.dpi_scale: float (缩放系数 = 逻辑宽度 / 物理宽度)
  • ljqCtrl.Click(x, y=None): 模拟点击。支持 Click((x, y)) 或 Click(x, y)
  • ljqCtrl.Press(cmd, staytime=0): 模拟按键。如 Press('ctrl+c')
  • ljqCtrl.FindBlock(fn, wrect=None, threshold=0.8): 找图。返回 ((center_x, center_y), is_found)
  • ljqCtrl.GrabWindow(hwnd_or_name): 前台截图(先Activate), 传hwnd(int)或窗口标题子串(str), 返回PIL Image
  • ljqCtrl.GrabWindowBg(hwnd_or_name, timeout=5): WGC后台截图(Win10+)
  • ljqCtrl.MouseDClick(staytime=0.05): 鼠标双击

1. 环境载入

import ljqCtrl

2. 核心:High-DPI 物理坐标换算

ljqCtrl 的 Click/MoveTo 接口接收的是物理像素坐标。 当使用 pygetwindow 等其他工具获取窗口位置(逻辑坐标)时,必须除以缩放系数。

  • 换算公式:物理坐标 = 逻辑坐标 / ljqCtrl.dpi_scale

3. 截图bbox → 屏幕物理坐标(核心公式)

# ui_detect获取的都是物理坐标
# ClientToScreen拿客户区原点(逻辑) → 除dpi_scale得物理偏移
cx, cy = win32gui.ClientToScreen(hwnd, (0, 0))
ox, oy = int(cx / ljqCtrl.dpi_scale), int(cy / ljqCtrl.dpi_scale)
ljqCtrl.Click(ox + (bbox[0]+bbox[2])//2, oy + (bbox[1]+bbox[3])//2)

禁止全屏ImageGrab(必须针对窗口),所有逻辑坐标都要转物理。

4. 避坑指南

  • ⚠️ 一律使用物理坐标:传给 ljqCtrl.Click/SetCursorPos 的坐标必须是物理坐标(=截图像素坐标)。禁止传入逻辑坐标。
  • 物理验证:模拟操作前必须确保窗口已通过 activate() 置于前台。
  • 坐标对齐: 物理坐标 = 截图坐标;ljqCtrl 自动处理 DPI 换算,禁止手动重复计算。
  • ⚠️ 窗口坐标转换陷阱:使用 win32gui.GetWindowRect(hwnd) 获取的矩形包含标题栏和边框,而截图内容是客户区。点击截图内元素时,必须用 win32gui.ClientToScreen(hwnd, (0, 0)) 获取客户区原点的屏幕坐标,再加上截图内坐标。禁止直接用 GetWindowRect 左上角 + 截图坐标。同理禁止 DwmGetWindowAttribute(hwnd, 9, ...) 取窗口矩形替代 ClientToScreen,它也包含标题栏/阴影。
  • ⚠️ Click 后 0% 像素变化 = 点歪了:ljqCtrl.Click 会报告像素变化百分比。若为 0% 或接近 0%,说明点击落在了错误位置(坐标计算有误),必须立即停下来诊断坐标转换逻辑,禁止盲目重试。常见原因:用了错误的窗口原点API、忘记 /dpi_scale、混淆了客户区与窗口矩形。
  • ⚠️ win32 DPI 坐标陷阱:未调用 SetProcessDPIAware() 时,GetWindowRect/ClientToScreen/GetClientRect 等拿到的窗口/客户区坐标通常是逻辑坐标,必须进行换算!
  • 文本输入:ljqCtrl 无 TypeText/SendKeys。向输入框键入文本:先点击/三击选中字段,再 pyperclip.copy('文本'); ljqCtrl.Press('ctrl+v')。