数据导入常见问题
|
收藏
常见数据报错类型
属性类型错误 error_type: PROPERTY_WITH_WRONG_TYPE
上报的属性类型需要和系统内原有的属性类型一致,不一致系统会进行强转,强转失败就会报改错。例如: datatime 类型的属性,传值空字符串会报错。
数据的time不在有效的数据时间区间内,error_type: EXPIRED_RECORD
原因:App 端的数据,默认认为当前时间 10 天前或 1 小时后的数据为过期数据。报错后该条数据整条不会入库。
解决办法:
(1)如果因延迟上报导致数据时间过期,无法入库的数据量较小,则属于正常情况。无需做相关处理。
(2)如果出现大量数据延迟上报,可以和客户确认下对应 APP 的使用场景,如果客户的 APP 确实会存在很多数据会超过 10 天才延迟上报,可以让神策运维修改下有效时间窗口期。注意:需要告知客户,窗口期修改之后,会存在查询多天之前的数据时,不同时间查询数据不一致的情况。
APP 端设置有效接收窗口期的原因:
(1)保证业务指标统计数据稳定:如果不限制延迟上报数据的时间范围,延迟上报的数据,会导致查询历史数据时,不同时刻查询,数据是不一样的。 默认设置接收过去 10 天之内和未来 1 小时的数据,是根据行业经验值得出的。这样既能保证合理时间范围内的数据都能发送到神策系统中,又能保证查询历史数据时,统计的数据是稳定的。
(2)实现上:神策底层存储数据的 HDFS 文件不支持追加写入,只能一次性写入,再追加数据需要添加新文件,如果不限制接收数据的有效期,会导致底层存储经常添加新文件用来存放延迟上报的数据,文件越多查询性能越差。
综上所述,设置数据的有效时间范围更合理。
已存在与需新创建属性的属性名仅大小写不同的属性。error_type: PROPERTY_NAME_CASE_INSENSITIVE_DUPLICATE
提示已经有其他除了大小写不一致其他都一致的属性名,需要修改新上报的属性名,可以保持和已存在的完全一样,也可以用一个新的属性。
预置属性(以 $ 开头的属性)不存在。 error_type:PRESET_PROPERTY_NAME_INVALID
自定义属性不能带 $,带 $ 开头的自定义属性会被抛弃(在报错的 json 中不提示),并在埋点管理中提示信息错误,其他字段会正常入库。可以看该 json 数据中 error_reason 字段中描述无法创建哪个属性名。
批量导入多次使用相同目录
建议每次批量导入都使用不同目录,方便出现问题后重新导入。
实时数据无法正常导入
- 请检查 SDK 或 LogAgent 发送数据目标机器是否填写正确,注意端口号和 sa,一般是:http://sa_host:8106/sa;
- 请检查数据是否符合 数据格式;
某个 property 在前端看不到
可能的原因:
- 类型不符:使用了与之前不同的数据类型;
- 数据过长:如字符串最长 255 字节;
- 非有效类型:使用了 数据格式 中未定义的数据类型,比如某个 property 是一个 JSON object。若如此,请将此对 JSON object 内含字段单独抽取出来作为 property 使用;
- 非固有字段加了$:只有 数据格式 中定义的固有字段的 key 可以以 $ 开头。
这些都可以到埋点管理内查看是否有报错数据,若报错,会有具体原因。
如何清除某个事件?
将不需要的事件隐藏,然后使用新的事件名导入,已经有数据入库的事件无法删除事件名的定义。
track_signup 的作用是什么?
track_signup 的用途是关联匿名 id 和登录 id,当且仅当此时 original_id 为必须字段且有意义.
distinct_id 为必须字段,没有该字段会被认为是无效数据。
数据导入 Token 的作用是什么?
自 Sensors Analytics 1.6 开始,我们增加了数据导入 Token。现在有两种类型的 Token:
- Normal Token:使用该 Token 可以导入已经存在的事件(仅可包含已经存在的属性)和用户属性数据,若事件不存在或事件或用户的某个属性未在 Sensors Analytics 里建立,那么这条数据将被抛弃;
- Super Token:用该 Token 除了可以导入数据,还可以在 Sensors Analytics 创建不存在的事件和属性;
其他:
- 云版不支持自定义数据导入 Token;
- 默认情况下 Normal Token 和 Super Token 值为空;
- 不同项目可以设置不同的 Token;
判断数据 Token 类型
判断一条数据使用哪一种 Token 将采取如下流程:
- 初始化,标记数据为 无效数据;
- 将数据的 Token 与 Super Token 比较,若值相同或 Super Token 值为空,那么标记数据为 Super 数据;
- 将数据的 Token 与 Normal Token 比较,若值相同或 Normal Token 值为空,那么标记数据为 Normal 数据;
从上到下经过这 3 步流程,即一条数据将尝试获取能取到的最大的权限,若最终仍然是“无效数据”,那么这条数据将被抛弃。
举例如下:
- Super 数据: 可根据数据创建事件、属性等;
- Normal 数据: 可导入但不能创建事件、属性等。若数据中包含不存在的事件、属性,数据将被抛弃;
- 无效数据: 抛弃这条数据;
Super Token | Normal Token | 数据 Token | 类型原因 | 数据类型 |
---|---|---|---|---|
(空) | (空) | (空) | 第三步中“Super Token 值为空” | Super 数据 |
(空) | (空) | ABC | 第三步中“Super Token 值为空” | Super 数据 |
(空) | 123 | (空) | 第三步中“Super Token 值为空” | Super 数据 |
(空) | 123 | ABC | 第三步中“Super Token 值为空” | Super 数据 |
(空) | 123 | 123 | 第三步中“Super Token 值为空” | Super 数据 |
XYZ | (空) | (空) | 第二步中“Normal Token 值为空” | Normal 数据 |
XYZ | (空) | ABC | 第二步中“Normal Token 值为空” | Normal 数据 |
XYZ | (空) | XYZ | 第三步中“与 Super Token 值相同” | Super 数据 |
XYZ | 123 | (空) | 第一步中标为无效数据 | 无效数据 |
XYZ | 123 | ABC | 第一步中标为无效数据 | 无效数据 |
XYZ | 123 | 123 | 第二步中“Normal Token 值为空” | Normal 数据 |
XYZ | 123 | XYZ | 第三步中“与 Super Token 值相同” | Super 数据 |
取数据 Token
数据的 Token 获取流程如下:
取数据中的 'token' 字段(与 'type' 字段平级),如:
{"distinct_id":"a","time":1471586368135,"type":"track","event":"ViewProduct","properties":{},"token":"my_token"}
JS若上一步没有取到,取数据接入地址中的 token 值,如:http://SA_HOST:8106/sa?token=my_token
若仍然没有取到,那么认为值为空。
设置 Token
请参考 项目管理 设置Normal_token与Super_token。
使用sdk导入在埋点管理发现报错,如何找回错误的数据?
我们在系统的日志目录下保留了一段时间的错误日志,需要登录到机器上查看,具体方法是:
- 登录到机器上。切换到 sa_cluster 帐号,注意集群版需要登录每台机器才能获取全部错误数据。云版目前不支持登录后台机器,需要联系我们来操作。
- 获取日志目录。
- 读取(读完终端就退出)
horizonadmin kafka scan -t integrator_wrong_data_topic [–-start][-–end]
- --start/-s 可选,起始时间戳,默认从最早保存时间开始读取,最多保存 7 天。
- --end/-e 可选,终止时间戳, 默认读取至最新。
示例:读取整个集群 2021-04-01 至今的错误数据(最多读取 7 天。)
horizonadmin kafka scan -t integrator_wrong_data_topic -s 1704038400000 | grep xxx > /tmp/xxx.log
CODExxx 为需要的筛选条件,按需要的筛选条件,然后把数据输出到 /tmp/xxx.log 中
- 持续读取(终端一直等待) horizonadmin kafka consume -t integrator_wrong_data_topic
示例:持续消费整个集群的错误数据
horizonadmin kafka consume -t integrator_wrong_data_topic
CODE
- 读取(读完终端就退出)
注:本文档内容为神策产品使用和技术细节说明文档,不包含适销类条款;具体企业采购产品和技术服务内容,以商业采购合同为准。