Spark提交任务到集群


提交Spark程序到集群与提交MapReduce程序到集群一样,首先要将写好的Spark程序打成jar包,再在Spark-submit下通过命令提交。

Step1:打包程序

Intellij IDEA进行打包步骤:



Step2:提交任务

./spark-submit --class com.jz.bigdata.DecisionTree --master spark:master:7077 --executor-memory 2g --num-executors 5 /bigdata/DecisionTree.jar

附:

官方给定的通过spark-submit提交Spark程序的例子:

    # Run application locally on 8 cores  
    ./bin/spark-submit \  
      --class org.apache.spark.examples.SparkPi \  
      --master local[8] \  
      /path/to/examples.jar \  
      100  
      
    # Run on a Spark standalone cluster  
    ./bin/spark-submit \  
      --class org.apache.spark.examples.SparkPi \  
      --master spark://207.184.161.138:7077 \  
      --executor-memory 20G \  
      --total-executor-cores 100 \  
      /path/to/examples.jar \  
      1000  
      
    # Run on a YARN cluster  
    export HADOOP_CONF_DIR=XXX  
    ./bin/spark-submit \  
      --class org.apache.spark.examples.SparkPi \  
      --master yarn-cluster \  # can also be `yarn-client` for client mode  
      --executor-memory 20G \  
      --num-executors 50 \  
      /path/to/examples.jar \  
      1000  
      
    # Run a Python application on a cluster  
    ./bin/spark-submit \  
      --master spark://207.184.161.138:7077 \  
      examples/src/main/python/pi.py \  
      1000  

优质内容筛选与推荐>>
1、基于饿了么(elementUI)UI组件分组表格(合并单元格)实现Demo
2、POJ 1988【并查集+记录个数】
3、数据类型及数据表的操作
4、说说现在
5、python标准库configparser配置解析器


长按二维码向我转账

受苹果公司新规定影响,微信 iOS 版的赞赏功能被关闭,可通过二维码转账支持公众号。

    阅读
    好看
    已推荐到看一看
    你的朋友可以在“发现”-“看一看”看到你认为好看的文章。
    已取消,“好看”想法已同步删除
    已推荐到看一看 和朋友分享想法
    最多200字,当前共 发送

    已发送

    朋友将在看一看看到

    确定
    分享你的想法...
    取消

    分享想法到看一看

    确定
    最多200字,当前共

    发送中

    网络异常,请稍后重试

    微信扫一扫
    关注该公众号