...
关于自助数据集的数据来源,详情请参考 自助数据集-数据来源。
锚V9_数据准备_3 V9_数据准备_3
V9_数据准备_3 | |
V9_数据准备_3 |
^【自助数据集】统一计算字段使用的函数
背景介绍
之前的版本自助数据集计算字段支持的函数是根据其所属数据库类型决定的,这种方式有个弊端在于当我们切换到高速缓存库时会存在函数不兼容的问题,导致在抽取时报SQL错误。针对这一弊端,也结合产品的使用,V9及之后版本我们基于SQL92为标准,封装一套Smartbi自身的函数语法,用于适配Smartbi所支持的所有数据库,不包括“Teradata_v12”和“aliyun AnalyticDB”这两个数据库。
功能简介
1、V9及之后版本封装一套Smartbi自身的函数语法,用于适配Smartbi所支持的所有数据库,不包括“Teradata_v12”和“aliyun AnalyticDB”这两个数据库。
函数分为四种类型:字符串、时间日期、数值、系统。
2、新增函数校验功能,校验输入的函数是否在提供的函数列表中。
- 如果表达式不在函数列表中,点击 确定 按钮,弹出提示框,提示该函数不是标准函数库语法,在其他数据库可能无法使用。
- 在编辑表达式过程中,可通过点击 校验 按钮,校验输入的函数是否在提供的函数列表中。
注意事项
1、对于ClickHouse数据库,用该自助数据集创建自助仪表盘时,对于一个组件要求:设置了聚合方式的字段与用该字段创建的计算字段不能同时使用。
2、对于HadoopHive数据库,用该自助数据集创建透视分析时,要求透视分析只能使用一个包含getdate函数的计算字段。
3、在创建计算字段时使用了getdate函数,且数据类型选择为“TIME”类型,不支持应用于透视分析和电子表格,原因为:元数据是DATE类型,不支持转换为TIME类型。
详情参考
关于自助数据集的计算字段,详情请参考 自助数据集-计算字段。
...
+【数据抽取】从缓存中抽取和多线程并发抽取来提高抽取效率
...
背景介绍
数据抽取存在如下两种情况:
1、之前的版本,执行抽取时直接从数据库读取数据,在数据量较大的情况下,则抽取需要较多时间。因此,我们对其进行优化,V9及之后版本增加设置数据抽取时每次读取的数据条数,这样执行抽取时从缓存中读取,提高抽取效率。
2、当抽取亿级别数据量时,如果为单线程抽取,容易出现抽取缓慢,抽取不成功甚至环境奔溃的情况。因此,V9及之后版本增加多线程并发抽取,在用户抽取较大数据量时,可设置多线程并发抽取。
功能简介
1、在“系统选项 > 查询设置”界面增加“数据抽取时每次读取数据条数(JDBC Fetchsize)”设置项。用于设置一次从数据库读取的数据条数,执行抽取时直接从缓存中读取,提高抽取效率。
...
批数=抽取总数量/一批的抽取数量,有余数加1取整数。
锚 V9_数据准备_
V9_数据准备_ |
...
4 V9_数据准备_
4 | |
V9_数据准备_ |
...
4
4 |
^【自助数据集】预览数据界面的提示更准确
...
背景介绍
自助数据集支持预览数据,且数据为数据库的实时数据,为了更准确地表述,V9及之后版本将原先的“刷新数据”更改为“刷新实时数据”,表明数据是数据库的实时数据。
功能简介
预览数据界面提示文字为“刷新实时数据”。
锚 V9_数据准备_
V9_数据准备_ |
...
5 V9_数据准备_
5 | |
V9_数据准备_ |
...
5
5 |
^【自助数据集】完善筛选器操作符
...
功能简介
1、筛选器字段类型为“integer”、“datetime”,增加“模糊匹配”和“不匹配”操作符。
...
2、筛选器字段类型为“string”,增加“开头为”和“结尾为”操作符。
锚 V9_数据准备_6 V9_数据准备_6
V9_数据准备_6 | |
V9_数据准备_6 |
^【自助数据集】统一计算字段使用的函数
...
背景介绍
之前的版本自助数据集计算字段支持的函数是根据其所属数据库类型决定的,这种方式有个弊端在于当我们切换到高速缓存库时会存在函数不兼容的问题,导致在抽取时报SQL错误。针对这一弊端,也结合产品的使用,V9及之后版本我们基于SQL92为标准,封装一套Smartbi自身的函数语法,用于适配Smartbi所支持的所有数据库,不包括“Teradata_v12”和“aliyun AnalyticDB”这两个数据库。
功能简介
1、V9及之后版本封装一套Smartbi自身的函数语法,用于适配Smartbi所支持的所有数据库,不包括“Teradata_v12”和“aliyun AnalyticDB”这两个数据库。
函数分为四种类型:字符串、时间日期、数值、系统。
2、新增函数校验功能,校验输入的函数是否在提供的函数列表中。
- 如果表达式不在函数列表中,点击 确定 按钮,弹出提示框,提示该函数不是标准函数库语法,在其他数据库可能无法使用。
- 在编辑表达式过程中,可通过点击 校验 按钮,校验输入的函数是否在提供的函数列表中。
注意事项
1、对于ClickHouse数据库,用该自助数据集创建自助仪表盘时,对于一个组件要求:设置了聚合方式的字段与用该字段创建的计算字段不能同时使用。
2、对于HadoopHive数据库,用该自助数据集创建透视分析时,要求透视分析只能使用一个包含getdate函数的计算字段。
3、在创建计算字段时使用了getdate函数,且数据类型选择为“TIME”类型,不支持应用于透视分析和电子表格,原因为:元数据是DATE类型,不支持转换为TIME类型。
详情参考
关于自助数据集的计算字段,详情请参考 自助数据集-计算字段。
锚V9_数据准备_7 V9_数据准备_7
V9_数据准备_7 | |
V9_数据准备_7 |
^【数据集】抽取日志采取分页加载
...