类型 | 说明 | 适用范围 |
DLCUtils 函数库 | 与 Notebook 配套的 Python 工具库,简化参数、密钥、任务通信等操作。 | 所有 Notebook 文件。 |
魔法命令 | Jupyter 提供的特殊指令,用于切换语法、引用其他 Notebook、安装依赖等。 | 所有 Notebook 文件。 |
模块 | 主要函数 | 用途 |
dlcutils.widgets | text(name, defaultValue, label)、get(name)、remove(name)、removeAll()、getAll() | 定义与获取动态参数。 |
dlcutils.notebook | exit(value)、run(path, timeout, parameters) | Notebook 间退出参数传递与跨文件执行。 |
dlcutils.jobs.taskValues | set(key, value)、get(taskKey, key, debugValue) | Workflow 任务间通过 taskValues 传递结果。 |
dlcutils.secrets | get(secretName, secretVersion, region) | 从腾讯云 SSM 凭据管理服务获取加密凭据。 |
# 定义文本参数dlcutils.widgets.text(name='your_name', defaultValue='Ricky', label='Your name')# 获取参数print(dlcutils.widgets.get('your_name'))# 输出: Ricky
# 获取任务参数try:task_value = dlcutils.widgets.get('task_param')if not task_value:task_value = 'default_value'except Exception:task_value = 'default_value'print(task_value)# 获取工作流参数try:workflow_value = dlcutils.widgets.get('workflow_param')if not workflow_value:workflow_value = 'default_value'except Exception:workflow_value = 'default_value'print(workflow_value)
# upstream.ipynbdlcutils.notebook.exit('12345')
# downstream.ipynbresult = dlcutils.notebook.run('/folder/upstream.ipynb', 60)print(result)# 输出: 12345
# 上游任务 notebook_upstreamdlcutils.jobs.taskValues.set(key='favorite_food', value='apple')
# 下游任务 notebook_downstream(已配置上游为 notebook_upstream)value = dlcutils.jobs.taskValues.get(taskKey='notebook_upstream',key='favorite_food',debugValue='banana')print(value)# Studio 调试时输出: banana# Workflow 调度时输出: apple
taskValues.get 仅在 Workflow 调度运行场景下能取到上游 set 的值;在 Studio 调试运行时取的是 debugValue。secret = dlcutils.secrets.get('my_secret', 'v1', 'ap-guangzhou')print(secret)
命令 | 作用 |
%sql | 将当前单元格切换为 Spark SQL 语法。 |
%md | 将当前单元格切换为 Markdown,仅作展示用。 |
%scala | 将当前单元格切换为 Scala 语法(依赖引擎)。 |
%sqlSELECT count(*) FROM your_catalog.your_schema.your_table;
%run /path/to/another_notebook.ipynb
%pip install pandas==2.2.0 jieba
dlcutils.widgets.text(...)、dlcutils.notebook.exit(...) 等函数,无需额外 import。%sql / %md / %scala。dlcutils.widgets.text 定义的与可视化定义的)。dlcutils.notebook.run / dlcutils.jobs.taskValues 在 Studio 调试运行时返回 debugValue;只有在 Workflow 调度运行场景下能取到真实上下游传递值。%pip install 安装的依赖不持久化;新建会话或重置环境后失效。dlcutils.widgets.get;不支持 ${param_key} 占位符语法(该语法仅适用于 SQL)。dlcutils.widgets.get('xxx') 返回 NameError?
通常是该参数名称未被定义,可以使用dlcutils.widgets.widgets() 函数进行参数名和参数值的定义,或者在界面上点击参数 按钮,在弹窗中定义参数名称和取值。%run 引用的 Notebook 路径怎么写?/workspace_1/your_username/folder/upstream.ipynb。folder/upstream.ipynb(相对当前文件)。ap-guangzhou / ap-shanghai。可在 SSM 控制台查看凭据归属地域。文档反馈