Skip to main content

Script-On-Yarn

配置 Script

已配置前置组件

  • SFTP
  • YARN
  • HDFS

Script-On-Yarn 计算组件用于运行 Shell、Python 等脚本任务, 若您有运行脚本任务的需求,请确保 Script-On-Yarn 组件正确配置

参数说明

参数项默认值说明是否必填
script.java.opts-Dfile.encoding=UTF-8script container jvm 扩展参数
script.am.memory512mam container 使用的内存量
script.am.cores1am container 使用的 cpu 核数
script.worker.memory512mwork container 使用的内存量
script.worker.cores1work container 使用的 cpu 核数
script.worker.num1work container 实例数量
container.staging.dir/insight/script/staging任务临时文件路径
script.container.heartbeat.interval10000am 和 work 之间的心跳间隔,单位毫秒
script.container.heartbeat.timeout120000am 和 work 之间的心跳超时时间,单位毫秒
script.python2.path/data/miniconda2/bin/python2python2.x 二进制可执行文件地址
script.python3.path/data/miniconda3/bin/python3python3.x 二进制可执行文件地址
tip

任务运行在Hadoop的计算节点上,适合复杂的脚本和大量的任务

caution

若您有运行 Python 任务的需求,请确保 script.python2.path、script.python3.path 对应的二进制可执行文件存在,否则无法运行 Python 任务