xinyouhe/fangke
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
38 Commits 2 Branches 0 Tags
16207ae309ecc985be679084efb7c5e199ff5721
Commit Graph

20 Commits

Author SHA1 Message Date
浅念 16207ae309 feat: 站点管理接口 
GET/POST /api/admin/sites、PATCH /api/admin/sites/<pk> 登录成员可用；
DELETE 仅 admin，走软删（is_active=False），物理清除留待未来管理命令
分批删（防大站级联删除锁表），CASCADE 仅完整性兜底。域名归一去协议/
端口/路径、小写、去空去重；错误响应统一信封（EnvelopeMixin）。
软删后 collect 上报 403 not_allowed（Task7 联动，测试锁定）。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 14:29:18 +08:00
浅念 f22786d746 refactor: 提取共享信封模块 EnvelopeMixin/ok 
auth.py 的 _EnvelopeMixin/_ok 提取到 tracker/api/envelope.py（去下划线前缀），
auth.py 改为 import 使用；collect.py 的 finalize_response 含 ACAO 回显逻辑
保留在自身视图，仅注释指向未来收敛。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 14:25:14 +08:00
浅念 7ff1536fbf fix: auth 畸形body防御/字段校验信封/用户名校验/429 测试 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 14:18:37 +08:00
浅念 754ae1d39d feat: JWT 登录与用户接口 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 14:01:59 +08:00
浅念 77a7f568b2 fix: new_visitors 排爬虫+日界/爬虫口径回归测试 
- refresh_daily new_visitors 加 is_bot=False（爬虫不是受众，四指标口径统一）
- test_refresh_daily_shanghai_boundary：固定 UTC 时间戳钉死上海自然日界
- test_refresh_daily_excludes_bots：事件/会话/访客 is_bot 均不计入
- refresh_stats 删未使用的 stat = 赋值

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 13:55:13 +08:00
浅念 cc1ea6805b feat: 日聚合服务与命令 + 索引迁移打包（Task3 审查结论） 
- refresh_daily：按上海自然日聚合 pv/uv/sessions/new_visitors，update_or_create 幂等
- refresh_stats 管理命令：回刷近 N 天（生产由 1Panel 每日 00:10 调度，见 Task 22）
- 索引打包（0002）：Event/VisitSession 增加 (site, 时间) 日聚合索引；
  删 5 个冗余单列 FK 索引（Event.site/session、VisitSession.site/visitor、DailyStat.site），
  保留 Event.visitor/Visitor.site；sqlite PRAGMA 实证级联索引完整、EXPLAIN 走新索引
- test_models：IntegrityError 断言收紧 + Site 级联删除测试

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 13:38:01 +08:00
浅念 678d215b31 fix: 采集接口 origin urlsplit/finalize_response 信封/CL 防御 
审查三项必修：
1. Origin host 提取改 urlsplit（封堵 https://evil.com/?x=https://www.a.com
   类查询串绕过）；"null" Origin 视为无 host 走 allow_no_origin；
   Referer 回显死逻辑一并清理，ACAO 只回显真正的 Origin 头。
2. finalize_response 统一钩子：429/ParseError 等 DRF 异常响应补 ACAO +
   {code,data,message} 信封（浏览器 SDK 需读错误体，误判网络错误重试会
   打爆限流器）；删 post/_deny/options 三处临时加头代码。
3. Content-Length isdecimal 防御（"abc" → 400 非 500；isdigit 放过 "²"
   而 int("²") 仍崩，isdecimal 与 int() 可解析集精确对齐）。

锁定测试 ×4：429 信封+ACAO / 坏 JSON 信封+ACAO / 查询串绕过 403 / 畸形 CL 400。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 13:24:31 +08:00
浅念 cf04db794b feat: 采集接口（域名白名单/限流/textplain解析/幂等） 
POST /api/collect/batch：text/plain JSON 解析（ParseError 400 防 500）、
域名白名单/站点停用/未知站点统一 403 not_allowed 防枚举、
Anon 限流（collect scope，get_rate 读实时 api_settings 修 import 固化）、
occurred_at ISO 归一（naive 补 UTC）、XFF 末段取 IP + ::ffff: 归一、
成功/拒绝分支均回显 ACAO 供 SDK 读响应。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 13:07:56 +08:00
浅念 173d13dbf3 fix: ingest 同批去重/会话族切分修复/xdb 无关测试/边界加固 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:59:13 +08:00
浅念 6147f2b9ff feat: 批量入库服务（幂等/首触/会话兜底/聚合更新） 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:44:33 +08:00
浅念 e880dbe458 fix: geo 收口（模块单例/IPv6测试/降级日志） 
- 导出模块级 resolver 单例：Task 6 起 import resolver 使用，
  防多实例各持 ~11MB xdb 副本、lru_cache 按实例分片
- 补公网 IPv6→None 测试，锁定 M1 v4-only 决策
- __init__ 降级路径（文件过短/结构无法识别/except）均记
  warning 日志，运维可区分「没部署 xdb」与「库 API 崩了」
- 删掉测试未使用的 monkeypatch 参数

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:39:08 +08:00
浅念 138b472485 feat: ip2region 离线地理解析（优雅降级） 
GeoResolver 进程级单例，c_buffer 模式一次读入内存（线程安全）。
适配 py-ip2region 3.0.4 实际 API：new_with_buffer(version, buff) 需
Version 对象，由 xdb 头 256 字节探测（2.0 老库自动归 IPv4）。
数据段布局按结构版本分派：3.0 新库 国家|省|城市|ISP|国家代码，
2.0 老库 国家|区域|省|市|ISP——错位会把 ISP 串进 city。
包/xdb 缺失或损坏时 resolve 一律返回 None，测试全绿。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:28:01 +08:00
浅念 7b26c7e14a fix: 孤代理三入口堵漏+精确断言+截断清洗换序 
- _utf8_ok 助手：event_id/path/title 含孤代理（"\ud800"）在入口即拒
  （原会流到下游 encode 必 500）；props 字节守门 try/except 归入 properties_invalid
- 补零覆盖原因码测试：path=123 → invalid_field_type；utm 三层嵌套 → properties_depth
- 子串断言（"sensitive" in r 等）全改精确等值断言，码即 API
- path 改为先 sanitize_url 再截 500：中文查询参数 urlencode 膨胀最多 3 倍，
  先截后洗会破坏出门 ≤MAX_PATH_LEN 不变量（实测汉*200 查询洗后截回 500）
- docstring 写明就地写回契约（Task 6 ingest 依赖）

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:20:27 +08:00
浅念 c5f900f3bd fix: 校验守门按字节+递归长度+非dict拒绝 
- 体积守门改 UTF-8 字节数（原按字符数，"汉"*1500 约 4.5KB 可绕过 4096 上限）
- 字符串长度检查并入 _walk_props 递归，嵌套字符串同样受 MAX_STR_LEN 约束
  （顺序：体积先行，故同一值既超长又超体积时报 properties_too_large）
- properties 传了但非 dict（[]/""/0/None）不再被 or {} 静默放行，缺省键仍放行

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:10:56 +08:00
浅念 f2a5f7611a fix: 校验加固（嵌套敏感键/naive时间防御） 
- _depth_ok 与敏感键扫描合并为单次递归 _walk_props，dict 所有层级键均过
  _SENSITIVE（此前嵌套键不扫描，utm 白名单内可夹带敏感键）
- occurred_at 为 naive datetime 时返回 invalid_occurred_at（原为 TypeError 500）
- 删除未使用的 timedelta 导入
- 深度超限即停止下探，10 万层嵌套不爆栈

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:04:40 +08:00
浅念 cb57e67179 feat: 事件校验服务（白名单/敏感键/时间窗/URL清洗） 
TDD：7 测试先红（ModuleNotFoundError）后绿。与计划的一处偏差：
敏感键扫描移至属性白名单之前——白名单内无任何键命中敏感模式，
原顺序下 sensitive_field 不可达，test_sensitive_property_rejected
（user_password 非白名单键）将得到 property_not_allowed 而失败。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 12:01:45 +08:00
浅念 462852c3f3 fix: VisitSession 时间戳恢复 NOT NULL，测试补显式时间（修正计划的测试笔误） 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 11:46:51 +08:00
浅念 d1472c1845 feat: 核心数据模型（Site/Visitor/VisitSession/Event/DailyStat） 
VisitSession.started_at/ended_at 在计划模型基础上加 null=True（计划测试
未传这两字段，原 NOT NULL 会导致测试失败；ended_at 为空也表示会话进行中）。

Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 11:45:03 +08:00
浅念 2a7f08fd14 fix: Task1 质量审查修复（RuntimeError fail-fast/ALLOWED_HOSTS strip/lock 清理/测试缓存隔离） 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 11:27:25 +08:00
浅念 6dbe26af0b chore: Django 工程骨架（config+tracker app+常量） 
Co-Authored-By: Claude Code <noreply@anthropic.com>
 2026-09-15 11:16:01 +08:00